(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024052024
(43)【公開日】2024-04-11
(54)【発明の名称】眼底画像処理装置および眼底画像処理プログラム
(51)【国際特許分類】
A61B 3/12 20060101AFI20240404BHJP
A61B 3/10 20060101ALI20240404BHJP
【FI】
A61B3/12
A61B3/10 100
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022158457
(22)【出願日】2022-09-30
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 第58回 日本眼光学学会総会 令和4年9月4日
(71)【出願人】
【識別番号】000135184
【氏名又は名称】株式会社ニデック
(74)【代理人】
【識別番号】100166785
【弁理士】
【氏名又は名称】大川 智也
(74)【代理人】
【識別番号】100184550
【弁理士】
【氏名又は名称】高田 珠美
(72)【発明者】
【氏名】加納 徹哉
(72)【発明者】
【氏名】柴 涼介
(72)【発明者】
【氏名】植村 晴香
【テーマコード(参考)】
4C316
【Fターム(参考)】
4C316AA09
4C316AA25
4C316AB02
4C316AB11
4C316FB05
4C316FB06
4C316FB13
4C316FB16
4C316FB21
4C316FB26
4C316FZ01
(57)【要約】
【課題】眼科画像を処理することで得られる種々の医療情報を、状況に応じて適切にユーザに提示することが可能な眼底画像処理装置および眼底画像処理プログラムを提供する。
【解決手段】乖離度マップは、眼底における識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す。厚み解析マップは、眼底組織における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す。制御部は、被検眼の診療を行う診療モードとして、黄斑疾患についての診療を行う黄斑疾患モードが選択されている場合には、表示部に初期表示させる被検眼の医療情報に乖離度マップを含める。制御部は、診療モードとして、緑内障についての診療を行う緑内障モードが選択されている場合には、表示部に初期表示させる被検眼の医療情報に厚み解析マップを含める。
【選択図】
図11
【特許請求の範囲】
【請求項1】
被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置であって、
前記眼底画像処理装置の制御部は、
眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、
機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す乖離度マップを生成する乖離度マップ生成ステップと、
前記三次元画像に写る眼底組織における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す厚み解析マップを生成する厚み解析マップ生成ステップと、
前記乖離度マップおよび前記厚み解析マップの少なくとも一方を含む医療情報を表示部に表示させる表示制御ステップと、
を実行可能であり、
前記表示制御ステップでは、
被検眼の診療を行う診療モードとして、黄斑疾患についての診療を行う黄斑疾患モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記乖離度マップを含め、
前記診療モードとして、緑内障についての診療を行う緑内障モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記厚み解析マップを含めることを特徴とする眼底画像処理装置。
【請求項2】
請求項1に記載の眼底画像処理装置であって、
前記制御部は、前記表示制御ステップにおいて、
前記診療モードとして前記緑内障モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報から、前記乖離度マップを除外することを特徴とする眼底画像処理装置。
【請求項3】
請求項2に記載の眼底画像処理装置であって、
前記制御部は、前記表示制御ステップにおいて、
前記診療モードとして前記緑内障モードが選択されている場合に、ユーザによって入力される指示に応じて、前記厚み解析マップと共に、または、前記厚み解析マップと交互に切り換えて、前記乖離度マップを前記表示部に表示させることを特徴とする眼底画像処理装置。
【請求項4】
前記制御部は、前記表示制御ステップにおいて、
前記診療モードとして前記黄斑疾患モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報から、前記厚み解析マップを除外することを特徴とする眼底画像処理装置。
【請求項5】
請求項4に記載の眼底画像処理装置であって、
前記制御部は、前記表示制御ステップにおいて、
前記診療モードとして前記黄斑疾患モードが選択されている場合に、ユーザによって入力される指示に応じて、前記乖離度マップと共に、または、前記乖離度マップと交互に切り換えて、前記厚み解析マップを前記表示部に表示させることを特徴とする眼底画像処理装置。
【請求項6】
請求項1に記載の眼底画像処理装置であって、
前記制御部は、
前記三次元画像の画像領域のうち、眼底組織の深さ方向に広がる一部の二次元断層画像の抽出位置を指定するためのユーザからの指示入力を受け付ける抽出位置指定受付ステップと、
抽出位置を指定するための指示入力が受け付けられた場合に、指定された前記抽出位置から前記眼底組織の深さ方向に広がる二次元断層画像を抽出して前記表示部に表示させる指定断層画像表示ステップと、
をさらに実行し、
前記抽出位置指定受付ステップでは、
前記診療モードとして前記黄斑疾患モードが選択されている場合には、前記表示部に表示されている前記乖離度マップ上で前記抽出位置の指示入力を受け付けると共に、
前記診療モードとして前記緑内障モードが選択されている場合には、前記表示部に表示されている前記厚み解析マップ上で前記抽出位置の指示入力を受け付けることを特徴とする眼底画像処理装置。
【請求項7】
請求項1に記載の眼底画像処理装置であって、
被検者に生じ得る複数の黄斑疾患の各々に対し、関連する眼底組織内の層および境界が対応付けられており、
前記制御部は、
前記乖離度マップ生成ステップにおいて、前記三次元画像に写る眼底組織における複数の層および境界のうち、複数の部位の各々を識別するための複数の確率分布を取得することで、複数の部位の各々についての前記乖離度マップを生成することが可能であり、
前記表示制御ステップでは、前記黄斑疾患モードが選択されている場合に、ユーザによって指定された黄斑疾患に対応付けられている部位についての前記乖離度マップを、選択的に前記表示部に表示させることを特徴とする眼底画像処理装置。
【請求項8】
請求項1に記載の眼底画像処理装置であって、
前記制御部は、前記表示制御ステップにおいて、
前記三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像を前記表示部に表示させると共に、
前記二次元断層画像に写る複数の層および境界のうち、前記乖離度マップが表示されている部位の色を、前記乖離度マップの表示色と一致させることを特徴とする眼底画像処理装置。
【請求項9】
請求項1に記載の眼底画像処理装置であって、
前記制御部は、前記表示制御ステップにおいて、
前記三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像を前記表示部に表示させると共に、
前記二次元断層画像内の領域における前記乖離度の状態をユーザに識別させる識別表示を実行することを特徴とする眼底画像処理装置。
【請求項10】
被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置によって実行される眼底画像処理プログラムであって、
前記眼底画像処理プログラムが前記眼底画像処理装置の制御部によって実行されることで、
眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、
機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す乖離度マップを生成する乖離度マップ生成ステップと、
前記三次元画像に写る眼底組織における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す厚み解析マップを生成する厚み解析マップ生成ステップと、
前記乖離度マップおよび前記厚み解析マップの少なくとも一方を含む医療情報を表示部に表示させる表示制御ステップと、
を前記眼底画像処理装置に実行させることが可能であり、
前記表示制御ステップでは、
被検眼の診療を行う診療モードとして、黄斑疾患についての診療を行う黄斑疾患モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記乖離度マップが含められ、
前記診療モードとして、緑内障についての診療を行う緑内障モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記厚み解析マップが含められることを特徴とする眼底画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、被検眼の眼底画像の処理に使用される眼底画像処理装置、および眼底画像処理プログラムに関する。
【背景技術】
【0002】
近年、被検眼の眼底画像を処理することで、ユーザ(例えば医師等)による被検眼の診療(診断、診察、および治療等)を補助するための種々の医療情報を取得する技術が提案されている。例えば、特許文献1に記載の画像処理装置は、機械学習アルゴリズムによって訓練された数学モデルに眼科画像を入力することで、眼科画像中の組織を識別するための確率分布を取得する。画像処理装置は、組織が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度を、組織の構造の異常度を示す構造情報として取得する。
【先行技術文献】
【非特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
被検眼に疾患等の異常が生じると、眼底組織における複数の層、および、互いに隣接する層の間の境界の少なくともいずれか(以下、「層・境界」という場合もある)に変化が表れる場合がある。従って、層・境界の状態を、乖離度等の種々の医療情報を用いてユーザに適切に把握させることができれば、ユーザによる診療の効率が向上する可能性がある。しかし、被検眼の状況(例えば、被検眼に生じる疾患等の異常の内容等)に応じて、層・境界に表れる変化の態様が異なる場合も多い。従って、眼科画像を処理することで得られる多種の医療情報を、機械的にユーザに提示するだけでは、ユーザによる診療を十分に補助することは難しい。
【0005】
本開示の典型的な目的は、眼科画像を処理することで得られる種々の医療情報を、状況に応じて適切にユーザに提示することが可能な眼底画像処理装置および眼底画像処理プログラムを提供することである。
【課題を解決するための手段】
【0006】
本開示における典型的な実施形態が提供する眼底画像処理装置は、被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置であって、前記眼底画像処理装置の制御部は、眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す乖離度マップを生成する乖離度マップ生成ステップと、前記三次元画像に写る眼底組織における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す厚み解析マップを生成する厚み解析マップ生成ステップと、前記乖離度マップおよび前記厚み解析マップの少なくとも一方を含む医療情報を表示部に表示させる表示制御ステップと、を実行可能であり、前記表示制御ステップでは、被検眼の診療を行う診療モードとして、黄斑疾患についての診療を行う黄斑疾患モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記乖離度マップを含め、前記診療モードとして、緑内障についての診療を行う緑内障モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記厚み解析マップを含める。
【0007】
本開示における典型的な実施形態が提供する眼底画像処理プログラムは、被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置によって実行される眼底画像処理プログラムであって、前記眼底画像処理プログラムが前記眼底画像処理装置の制御部によって実行されることで、眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す乖離度マップを生成する乖離度マップ生成ステップと、前記三次元画像に写る眼底組織における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す厚み解析マップを生成する厚み解析マップ生成ステップと、前記乖離度マップおよび前記厚み解析マップの少なくとも一方を含む医療情報を表示部に表示させる表示制御ステップと、を前記眼底画像処理装置に実行させることが可能であり、前記表示制御ステップでは、被検眼の診療を行う診療モードとして、黄斑疾患についての診療を行う黄斑疾患モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記乖離度マップが含められ、前記診療モードとして、緑内障についての診療を行う緑内障モードが選択されている場合には、前記表示部に初期表示させる前記被検眼の医療情報に前記厚み解析マップが含められる。
【0008】
本開示に係る眼底画像処理装置および眼底画像処理プログラムによると、眼科画像を処理することで得られる種々の医療情報が、状況に応じて適切にユーザに提示される。
【図面の簡単な説明】
【0009】
【
図1】数学モデル構築装置101、眼底画像処理装置1、およびOCT装置10A,10Bの概略構成を示すブロック図である。
【
図2】三次元断層画像の撮影方法の一例を説明するための説明図である。
【
図5】眼底における層・境界の構造を模式的に示す図である。
【
図6】数学モデル構築装置101が実行する数学モデル構築処理のフローチャートである。
【
図7】眼底画像処理装置1が実行する眼底画像処理のフローチャートである。
【
図8】眼底画像処理中で実行される層・境界識別処理のフローチャートである。
【
図9】数学モデルに入力される二次元断層画像42と、二次元断層画像42中の一次元領域A1~ANの関係を模式的に示す図である。
【
図10】眼底画像処理中で実行される黄斑疾患用処理のフローチャートである。
【
図11】黄斑疾患モードの初期表示画面の一例を示す図である。
【
図12】黄斑疾患モードにおいて厚み解析マップ70が追加表示された状態の表示画面の一例を示す図である。
【
図13】複数の乖離度マップ60の表示方法の一例を示す図である。
【
図14】眼底画像処理中で実行される緑内障用処理のフローチャートである。
【
図15】緑内障モードの初期表示画面の一例を示す図である。
【発明を実施するための形態】
【0010】
<概要>
本開示で例示する眼底画像処理装置は、被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する。眼底画像処理装置の制御部は、画像取得ステップ、乖離度マップ生成ステップ、厚み解析マップ生成ステップ、および表示制御ステップを実行することができる。画像取得ステップでは、制御部は、眼底画像撮影装置によって撮影された眼底の三次元画像を取得する。乖離度マップ生成ステップでは、機械学習アルゴリズムによって訓練された数学モデルに三次元画像を入力することで、三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、取得した確率分布に基づいて乖離度マップを生成する。乖離度マップは、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す。厚み解析マップ生成ステップでは、制御部は、三次元画像に写る眼底組織における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す厚み解析マップを生成する。表示制御ステップでは、制御部は、乖離度マップおよび厚み解析マップの少なくとも一方を含む医療情報を、表示部に表示させる。詳細には、表示制御ステップにおいて、制御部は、被検眼の診療を行う診療モードとして、黄斑疾患についての診療を行う黄斑疾患モードが選択されている場合には、表示部に初期表示させる被検眼の医療情報に乖離度マップを含める。制御部は、診療モードとして、緑内障についての診療を行う緑内障モードが選択されている場合には、表示部に初期表示させる被検眼の医療情報に厚み解析マップを含める。
【0011】
前提として、層・境界の構造に異常が無い場合には、数学モデルによって層・境界が正確に識別され易いので、数学モデルによって層・境界を識別する際の確率分布が偏り易い。一方で、層・境界の構造に異常がある場合には、確率分布が偏り難くなる。従って、層・境界が正確に識別される場合の確率分布と、実際に取得された確率分布の乖離度の二次元分布を示す乖離度マップには、層・境界の構造の異常度が表れやすい。
【0012】
ここで、被検眼に黄斑疾患が発症すると、層・境界の構造に異常が伴う場合が多い。従って、従来の黄斑疾患についての診療では、ユーザは、三次元断層画像の撮影範囲内の様々な位置の二次元断層画像を確認して、構造の異常が生じているか否かを把握する必要があった。これに対し、本開示の技術によると、黄斑疾患モードが選択されると、層・境界の構造の異常度を二次元の領域で把握し易い乖離度マップが初期表示される。よって、ユーザは、構造の異常が生じている可能性が高い位置を、表示部に初期表示される乖離度マップによって適切に把握し易くなる。
【0013】
また、被検眼に緑内障が発症すると、少なくとも一部の層の厚みが薄くなる(つまり、菲薄化する)場合が多い。本開示の技術によると、緑内障モードが選択された場合に、層の厚みについての解析結果の二次元分布を示す厚み解析マップが初期表示される。よって、ユーザは、被検者の層の厚みに基づく緑内障の診療を、表示部に初期表示される厚み解析マップによって適切に行い易くなる。以上の処理によって、眼科画像を処理することで得られる種々の医療情報が、状況に応じて適切にユーザに提示される。
【0014】
なお、本開示における初期表示の画面とは、診療対象の被検眼についての医療情報の表示を、いずれかの診療モードで開始させる際に、マップ(乖離度マップおよび厚み解析マップの少なくとも一方)を含む医療情報が最初に表示される画面を意味する。従って、診療対象の被検眼についての診療モードが開始された以後、マップを含む初期表示画面が表示されるよりも前に、マップを含まない何らかの画面(例えば起動画面等)が表示されてもよい。
【0015】
緑内障モードが選択されている場合に初期表示される厚み解析マップの具体的な態様は、適宜選択できる。例えば、制御部は、厚み解析マップ生成ステップにおいて、解析対象の三次元画像における少なくともいずれかの層の厚みの二次元分布と、同一の層の正常眼における厚みの二次元分布の比較結果を示す正常眼比較マップ(例えば、両者の差分のパーセンタイルの二次元分布を示すパーセンタイルマップ、および、両者の偏差の二次元分布を示すデビエーションマップ等の少なくともいずれか)を、厚み解析マップとして生成してもよい。また、制御部は、厚み解析マップ生成ステップにおいて、解析対象の三次元画像における少なくともいずれかの層の厚みの二次元分布を示す厚みマップを、厚み解析マップとして生成してもよい。制御部は、厚み解析マップとして、正常眼比較マップおよび厚みマップの両方を表示部に表示させてもよい。
【0016】
黄斑疾患とは、眼底における網膜の中心部(黄斑、および黄斑の周辺部位)に異常を来たす疾患である。例えば、糖尿病網膜症、加齢黄斑変性、網膜色素変性症、網膜静脈閉塞症、黄斑浮腫、黄斑前膜、黄斑円孔、黄斑下血腫等の少なくともいずれかが黄斑疾患として分類されてもよい。一例として、本実施形態では、糖尿病網膜症、加齢黄斑変性、および網膜色素変性症が黄斑疾患に含まれる。
【0017】
乖離度は、数学モデルによって出力されてもよい。また、制御部が、数学モデルによって出力された確率分布に基づいて乖離度を算出してもよい。
【0018】
乖離度には、取得された確率分布のエントロピー(平均情報量)が含まれていてもよい。エントロピーは、不確実性、乱雑さ、無秩序の度合いを表す。本開示では、層・境界が正確に識別される場合に出力される確率分布のエントロピーは0となる。また、層・境界の識別が困難になる程、エントロピーは増大する。従って、乖離度として確率分布のエントロピーを用いることで、層・境界の構造の異常度がより適切に定量化される。ただし、エントロピー以外の値が乖離度として採用されてもよい。例えば、取得された確率分布の散布度を示す標準偏差、変動係数、分散等の少なくともいずれかが乖離度として使用されてもよい。確率分布同士の差異を図る尺度であるKLダイバージェンス等が乖離度として使用されてもよい。また、取得された確率分布の最大値が乖離度として使用されてもよい。
【0019】
なお、本開示では、三次元画像は、複数の二次元画像が並べられることで構成されている。乖離度は、三次元画像を構成する複数の二次元画像の各々について、または、画像を構成する各画素、各列、または各行について取得される。その結果、三次元画像に写る眼底組織の全体について、数学モデルによって層・境界が識別される際の乖離度が取得される。一例として、本開示の乖離度マップでは、眼底組織を正面(つまり、三次元画像を撮影するための光の光軸に沿う方向)から見た場合の、乖離度の二次元分布が示される。ただし、乖離度マップにおいて乖離度の二次元分布が示される方向は、適宜変更できる。また、特定の層の乖離度マップを表示させる場合、制御部は、特定の層に含まれる少なくとも2つの境界の乖離度の平均値等の二次元分布を、特定の層の乖離度マップとして表示してもよい。
【0020】
制御部は、診療モードとして緑内障モードが選択されている場合には、表示部に初期表示させる被検眼の医療情報から、乖離度マップを除外してもよい。前述したように、被検眼に緑内障が発症すると、少なくとも一部の層が菲薄化する場合が多い。しかし、緑内障に起因する層の菲薄化には、層・境界の構造異常を伴わない場合も多い。層・境界の構造異常が生じていなければ、乖離度マップには顕著な特徴は表れにくい。従って、緑内障モードが選択されている場合に、緑内障の診療に用いられる頻度が低い乖離度マップが初期表示の対象から除外されることで、緑内障についての診療に要する時間が短縮され易くなる。
【0021】
制御部は、診療モードとして緑内障モードが選択されている場合に、ユーザによって入力される指示に応じて、厚み解析マップと共に、または、厚み解析マップと交互に切り換えて、乖離度マップを表示部に表示させてもよい。この場合、ユーザは、緑内障モードを選択している場合でも、乖離度マップを必要に応じて表示させることで、層・境界の構造の異常度を適切に把握することが可能である。
【0022】
制御部は、診療モードとして黄斑疾患モードが選択されている場合には、表示部に初期表示させる被検眼の医療情報から、層厚解析マップを除外してもよい。黄斑疾患についての診療では、層厚解析マップは、大きな浮腫等の存否を付加的に確認するために用いられる場合はあるが、黄斑疾患自体の診療には利用されない場合もある。従って、黄斑疾患モードが選択されている場合に、利用される頻度がそれほど高くない層厚解析マップが初期表示の対象から除外されることで、黄斑疾患についての診療に要する時間が短縮され易くなる。
【0023】
制御部は、診療モードとして黄斑疾患モードが選択されている場合に、ユーザによって入力される指示に応じて、乖離度マップと共に、または、乖離度マップと交互に切り換えて、厚み解析マップを表示部に表示させてもよい。この場合、ユーザは、黄斑疾患モードを選択している場合でも、厚み解析マップを必要に応じて表示させることで、層・境界の厚みの二次元分布を適切に把握することが可能である。
【0024】
制御部は、抽出位置指定受付ステップと指定断層画像表示ステップをさらに実行してもよい。抽出位置指定受付ステップでは、制御部は、三次元画像の画像領域のうち、眼底組織の深さ方向に広がる一部の二次元断層画像の抽出位置を指定するためのユーザからの指示入力を受け付ける。指定断層画像表示ステップでは、制御部は、抽出位置を指定するための指示入力が受け付けられた場合に、指定された抽出位置から眼底組織の深さ方向に広がる二次元断層画像を抽出して表示部に表示させる。抽出位置指定受付ステップでは、診療モードとして黄斑疾患モードが選択されている場合、表示部に表示されている乖離度マップ上で抽出位置の指示入力が受け付けられてもよい。また、診療モードとして緑内障モードが選択されている場合には、表示部に表示されている厚み解析マップ上で抽出位置の指示入力が受け付けられてもよい。
【0025】
前述したように、被検眼に黄斑疾患が発症すると、層・境界の構造に異常が伴う場合が多い。乖離度マップによると、ユーザは、層・境界の構造の異常度を二次元の領域で把握し易い。従って、ユーザは、黄斑疾患モードの選択中に、二次元断層画像の抽出位置を乖離度マップ上で指定することで、二次元断層画像の抽出位置を、黄斑疾患との間の関連性が高い構造の異常度に応じて適切に指定することができる。
【0026】
また、被検眼に緑内障が発症すると、少なくとも一部の層の厚みが薄くなる場合が多い。厚み解析マップによると、層の厚みの二次元分布を把握し易い。従って、ユーザは、緑内障モードの選択中に、二次元断層画像の抽出位置を厚み解析マップ上で指定することで、二次元断層画像の抽出位置を、緑内障との間の関連性が高い層の厚みの分布に応じて適切に指定することができる。
【0027】
なお、二次元断層画像の抽出位置を、マップ(乖離度マップまたは厚み解析マップ)上でユーザに指定させる方法も、適宜選択できる。例えば、制御部は、二次元のマップ上で、二次元断層画像の抽出位置(つまり、抽出される二次元断層画像とマップが交差する位置)を示すラインをユーザに指定させてもよい。この場合、ラインの形状は直線であってもよいし、直線以外の形状(例えば、曲線状または環状等)であってもよい。ラインの大きさ、およびラインの角度も、ユーザによって入力された指示に応じて変更されてもよい。
【0028】
被検者に生じ得る複数の黄斑疾患の各々に対し、関連する眼底組織内の層および境界が対応付けられていてもよい。制御部は、乖離度マップ生成ステップにおいて、三次元画像に写る眼底組織における複数の層および境界のうち、複数の部位の各々を識別するための複数の確率分布を取得することで、複数の部位の各々についての乖離度マップを生成できてもよい。制御部は、表示制御ステップにおいて、黄斑疾患モードが選択されている場合に、ユーザによって指定された黄斑疾患に対応付けられている部位についての乖離度マップを、選択的に表示部に表示させてもよい。
【0029】
この場合、ユーザは、診療したい黄斑疾患の種類に応じて、乖離度マップを効率良く利用することができる。例えば、ユーザは、予想される被検者の黄斑疾患に関連する部位についての乖離度マップを、予想される黄斑疾患を指定するだけで容易に確認できる。また、ユーザは、指定する黄斑疾患を切り替えながら、各々の黄斑疾患に対応付けられている部位の乖離度マップを確認することで、被検者の黄斑疾患を予想することも可能である。
【0030】
なお、複数の黄斑疾患の少なくともいずれかをユーザに指定させるための方法も、適宜選択できる。例えば、制御部は、予め用意された複数の黄斑疾患名の少なくともいずれかをユーザに指定させてもよいし、黄斑疾患名をユーザに入力させてもよい。黄斑疾患の種類は、医療情報の表示が開始される以前に指定されてもよい。この場合、制御部は、黄斑疾患モードで表示部に初期表示させる乖離度マップを、指定された黄斑疾患に対応付けられている部位についての乖離度マップとしてもよい。また、黄斑疾患の種類は、医療情報の初期表示が開始された後に指定されてもよい。この場合、表示部に表示されている乖離度マップを、指定された黄斑疾患に対応付けられている部位についての乖離度マップに切り換えてもよい。制御部は、複数の部位の少なくともいずれかについての乖離度マップ(全ての乖離度マップでもよい)を表示部に表示させた状態で、ユーザに黄斑疾患を指定させてもよい。また、複数の乖離度マップを位置合わせして合成した合成乖離度マップを表示部に表示させた状態で、ユーザに黄斑疾患を指定させてもよい。この場合、黄斑疾患の種類に関係なく、乖離度が高い部位を効率的に特定できる。
【0031】
ユーザによって指定された黄斑疾患に対応付けられている部位についての乖離度マップを、選択的に表示部に表示させる技術は、本開示における他の技術と組み合わせずに実施することも可能である。この場合、眼底画像処理装置は以下のように表現することも可能である。被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置であって、前記眼底画像処理装置の制御部は、眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における複数の層および境界のうち、複数の部位の各々を識別するための複数の確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す乖離度マップを、前記複数の部位の各々について生成する乖離度マップ生成ステップと、前記乖離度マップ含む医療情報を表示部に表示させる表示制御ステップと、を実行可能であり、前記表示制御ステップでは、前記制御部は、ユーザによって指定された黄斑疾患に対応付けられている部位についての前記乖離度マップを、選択的に前記表示部に表示させる。
【0032】
ただし、表示部に表示させる乖離度マップを選択する方法は、適宜変更できる。例えば、ユーザは、複数の層・境界のうち、乖離度マップを確認したい少なくとも1つの層・境界(全ての層・境界でもよい)を選択する指示を、操作部等を介して眼底画像処理装置に入力してもよい。制御部は、複数の層・境界のうち、ユーザによって選択された層・境界の乖離度マップを表示部に表示させてもよい。層・境界の選択指示は、医療情報の表示が開始される以前に受け付けられてもよい。この場合、制御部は、黄斑疾患モードで表示部に初期表示させる乖離度マップを、選択された層・境界についての乖離度マップとしてもよい。また、層・境界の選択指示は、医療情報の初期表示が開始された後に受け付けられてもよい。この場合、表示部に表示されている乖離度マップを、選択された層・境界についての乖離度マップに切り換えてもよい。
【0033】
また、制御部は、診療モードとして黄斑疾患モードが選択されている場合、複数の乖離度マップのうち、乖離度の順位が高い所定数の乖離度マップを選択的に表示部に初期表示させてもよい。この場合、ユーザは、複数の層・境界のうち、数学モデルによる識別の乖離度が高くなった層・境界の乖離度マップを容易に確認することができる。
【0034】
なお、乖離度の順位が高い所定数の乖離度マップを初期表示させる際の具体的な方法は、適宜選択できる。例えば、制御部は、乖離度の平均値が高い順に、所定数の乖離度マップを初期表示させてもよい。また、制御部は、二次元のマップ内における乖離度の極大値が高い順に、所定数の乖離度マップを初期表示させてもよい。また、制御部は、乖離度の順位が最も高い1つの乖離度マップを初期表示させてもよいし、乖離度の順位が高い順に複数の乖離度マップを初期表示させてもよい。
【0035】
複数の乖離度マップを表示部に表示させる際の具体的な方法も、適宜選択できる。例えば、制御部は、複数の乖離度マップを別々に表示部に表示させてもよい。また、制御部は、複数の乖離度マップを位置合わせした状態で合成した合成乖離度マップを表示部に表示させてもよい。合成乖離度マップは、各々の乖離度マップの色を異なる色で表現したうえで、複数の乖離度マップを重畳させることで生成されてもよい。
【0036】
制御部は、表示制御ステップにおいて、三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像を表示部に表示させてもよい。制御部は、表示部に表示させている二次元断層画像に写る複数の層および境界のうち、乖離度マップが表示されている部位の色を、表示部における乖離度マップの表示色と一致させてもよい。この場合、表示されている乖離度マップが、複数の層および境界におけるいずれの部位の乖離度マップであるかが、色によって容易に把握される。従って、ユーザは、例えば複数の部位の各々の乖離度マップが同時に表示される場合等でも、乖離度マップが表示されている部位を二次元断層画像上で適切に把握することができる。
【0037】
なお、乖離度マップが表示されている二次元断層画像上の部位の色と、乖離度マップの表示色を一致させる技術は、本開示における他の技術と組み合わせずに実施することも可能である。この場合、眼底画像処理装置は以下のように表現することも可能である。被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置であって、前記眼底画像処理装置の制御部は、眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の二次元分布を示す乖離度マップを生成する乖離度マップ生成ステップと、前記乖離度マップ含む医療情報を表示部に表示させる表示制御ステップと、を実行可能であり、前記表示制御ステップでは、前記制御部は、前記三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像を前記表示部に表示させると共に、前記二次元断層画像に写る複数の層および境界のうち、前記乖離度マップが表示されている部位の色を、前記乖離度マップの表示色と一致させる。
【0038】
制御部は、表示制御ステップにおいて、三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像を表示部に表示させてもよい。制御部は、二次元断層画像内の領域における乖離度の状態をユーザに識別させる識別表示を実行してもよい。この場合、ユーザは、二次元断層画像においても乖離度の状態を容易に確認することができる。よって、ユーザは、二次元断層画像に写る層・境界の状態を、乖離度に応じて適切に把握することができる。
【0039】
なお、二次元断層画像内の領域における乖離度の状態をユーザに識別させるための具体的な方法は、適宜選択できる。例えば、制御部は、二次元断層画像内の領域のうち、乖離度が閾値以上となっている領域を示す識別表示を実行してもよい。識別表示は、二次元断層画像の画像領域の内部および外部のいずれに付加されてもよい。また、制御部は、乖離度の大きさに応じた濃さの色を、二次元断層画像内の各領域に付与することで、乖離度の状態をユーザに識別させてもよい。また、制御部は、二次元断層画像の画像領域の外部に、乖離度の大きさを示す追加表示(例えば、乖離度の大きさの応じた濃さの色を示すカラースケールバー等)を行ってもよい。
【0040】
二次元断層画像内の領域における乖離度の状態をユーザに識別させる技術は、本開示における他の技術と組み合わせずに実施することも可能である。この場合、眼底画像処理装置は以下のように表現することも可能である。被検眼の眼底における複数の層、および層間の境界が撮影範囲に含まれる眼底画像を処理する眼底画像処理装置であって、前記眼底画像処理装置の制御部は、眼底画像撮影装置によって撮影された眼底の三次元画像を取得する画像取得ステップと、機械学習アルゴリズムによって訓練された数学モデルに前記三次元画像を入力することで、前記三次元画像に写る眼底組織における層および境界の少なくともいずれかを識別するための確率分布を取得し、識別対象の層または境界が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度の分布を取得する乖離度取得ステップと、前記三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像を表示部に表示させる二次元断層画像表示ステップと、前記二次元断層画像内の領域における前記乖離度の状態をユーザに識別させる識別表示を実行する乖離度識別表示ステップと、を実行する。
【0041】
<実施形態>
(装置構成)
以下、本開示における典型的な実施形態の1つについて、図面を参照して説明する。
図1に示すように、本実施形態では、数学モデル構築装置101、眼底画像処理装置1、およびOCT装置(眼底画像撮影装置)10A,10Bが用いられる。数学モデル構築装置101は、機械学習アルゴリズムによって数学モデルを訓練させることで、数学モデルを構築する。構築された数学モデルを実現するプログラムは、眼底画像処理装置1に組み込まれる。構築された数学モデルは、入力された眼底画像に基づいて、眼底画像に写る層・境界の少なくともいずれか(本実施形態では、特定の複数の層・境界)の識別(検出)を行う。眼底画像処理装置1は、数学モデルが出力した結果を利用して、各種処理を実行する。OCT装置10A,10Bは、被検眼の眼底画像(本実施形態では、眼底の断層画像)を撮影する眼底画像撮影装置として機能する。
【0042】
一例として、本実施形態の数学モデル構築装置101にはパーソナルコンピュータ(以下、「PC」という)が用いられる。詳細は後述するが、数学モデル構築装置101は、OCT装置10Aから取得した被検眼の眼底画像(以下、「訓練用眼底画像」という)のデータと、訓練用眼底画像が撮影された被検眼の複数の層・境界を示すデータとを利用して、数学モデルを訓練させる。その結果、数学モデルが構築される。ただし、数学モデル構築装置101として機能できるデバイスは、PCに限定されない。例えば、OCT装置10Aが数学モデル構築装置101として機能してもよい。また、複数のデバイスの制御部(例えば、PCのCPUと、OCT装置10AのCPU)が、協働して数学モデルを構築してもよい。
【0043】
また、本実施形態の眼底画像処理装置1にはPCが用いられる。しかし、眼底画像処理装置1として機能できるデバイスも、PCに限定されない。例えば、OCT装置10Bまたはサーバ等が、眼底画像処理装置1として機能してもよい。OCT装置10Bが眼底画像処理装置1として機能する場合、OCT装置10Bは、眼底画像を撮影しつつ、撮影した眼底画像を処理することができる。また、タブレット端末またはスマートフォン等の携帯端末が、眼底画像処理装置1として機能してもよい。複数のデバイスの制御部(例えば、PCのCPUと、OCT装置10BのCPU)が、協働して各種処理を行ってもよい。
【0044】
また、本実施形態では、各種処理を行うコントローラの一例としてCPUが用いられる場合について例示する。しかし、各種デバイスの少なくとも一部に、CPU以外のコントローラが用いられてもよいことは言うまでもない。例えば、コントローラとしてGPUを採用することで、処理の高速化を図ってもよい。
【0045】
数学モデル構築装置101について説明する。数学モデル構築装置101は、例えば、眼底画像処理装置1または眼底画像処理プログラムをユーザに提供するメーカー等に配置される。数学モデル構築装置101は、各種制御処理を行う制御ユニット102と、通信I/F105を備える。制御ユニット102は、制御を司るコントローラであるCPU103と、プログラムおよびデータ等を記憶することが可能な記憶装置104を備える。記憶装置104には、後述する数学モデル構築処理(
図6参照)を実行するための数学モデル構築プログラムが記憶されている。また、通信I/F105は、数学モデル構築装置101を他のデバイス(例えば、OCT装置10Aおよび眼底画像処理装置1等)と接続する。
【0046】
数学モデル構築装置101は、操作部107および表示装置108に接続されている。操作部107は、ユーザが各種指示を数学モデル構築装置101に入力するために、ユーザによって操作される。操作部107には、例えば、キーボード、マウス、タッチパネル等の少なくともいずれかを使用できる。なお、操作部107と共に、または操作部107に代えて、各種指示を入力するためのマイク等が使用されてもよい。表示装置108は、各種画像を表示する。表示装置108には、画像を表示可能な種々のデバイス(例えば、モニタ、ディスプレイ、プロジェクタ等の少なくともいずれか)を使用できる。なお、本開示における「画像」には、静止画像も動画像も共に含まれる。
【0047】
数学モデル構築装置101は、OCT装置10Aから眼底画像のデータ(以下、単に「眼底画像」という場合もある)を取得することができる。数学モデル構築装置101は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、OCT装置10Aから眼底画像のデータを取得してもよい。
【0048】
眼底画像処理装置1について説明する。眼底画像処理装置1は、例えば、被検者の診断または検査等を行う施設(例えば、病院または健康診断施設等)に配置される。眼底画像処理装置1は、各種制御処理を行う制御ユニット2と、通信I/F5を備える。制御ユニット2は、制御を司るコントローラであるCPU3と、プログラムおよびデータ等を記憶することが可能な記憶装置4を備える。記憶装置4には、後述する眼底画像処理(
図7参照)を実行するための眼底画像処理プログラムが記憶されている。眼底画像処理プログラムには、数学モデル構築装置101によって構築された数学モデルを実現させるプログラムが含まれる。通信I/F5は、眼底画像処理装置1を他のデバイス(例えば、OCT装置10Bおよび数学モデル構築装置101等)と接続する。
【0049】
眼底画像処理装置1は、操作部7および表示装置(表示部)8に接続されている。操作部7および表示装置8には、前述した操作部107および表示装置108と同様に、種々のデバイスを使用することができる。
【0050】
眼底画像処理装置1は、OCT装置10Bから眼底画像(本実施形態では、眼底組織の三次元断層画像)を取得することができる。眼底画像処理装置1は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、OCT装置10Bから眼底画像を取得してもよい。また、眼底画像処理装置1は、数学モデル構築装置101によって構築された数学モデルを実現させるプログラム等を、通信等を介して取得してもよい。
【0051】
OCT装置10(10A,10B)について説明する。OCT装置10は、眼底の断層画像を撮影する眼底画像撮影装置の一例である。本実施形態では、数学モデル構築装置101に眼底画像を提供するOCT装置10Aと、眼底画像処理装置1に眼底画像を提供するOCT装置10Bが使用される場合について説明する。しかし、使用されるOCT装置の数は2つに限定されない。例えば、数学モデル構築装置101および眼底画像処理装置1は、複数のOCT装置から眼底画像を取得してもよい。また、数学モデル構築装置101および眼底画像処理装置1は、共通する1つのOCT装置から眼底画像を取得してもよい。
【0052】
OCT装置10は、被検眼の眼底の二次元断層画像および三次元断層画像を撮影することができる。撮影方法の一例について説明する。
図2に示すように、本実施形態のOCT装置10は、OCT測定光の光軸に交差する方向に広がる二次元の測定領域40内に、スポットを走査させる直線状の走査ライン(スキャンライン)41を、等間隔で複数設定する。OCT装置10は、それぞれの走査ライン41上に測定光のスポットを走査させることで、それぞれの走査ライン41上を通過する断面の二次元断層画像42(
図3参照)を撮影することができる。二次元断層画像42は、同一部位の複数の二次元断層画像に対して加算平均処理を行うことで生成された加算平均画像であってもよい。また、OCT装置10は、複数の走査ライン41について撮影した複数の二次元断層画像42を、各々の二次元の画像領域に対して垂直に交差する方向に並べることで、三次元画像(三次元断層画像)43(
図4参照)を取得(撮影)することができる。
【0053】
図1の説明に戻る。数学モデル構築装置101に接続されるOCT装置10Aは、少なくとも、被検眼の眼底の二次元断層画像42(
図3参照)を撮影することができる。また、眼底画像処理装置1に接続されるOCT装置10Bは、前述した二次元断層画像42に加えて、被検眼の眼底の三次元画像43(
図4参照)を撮影することができる。
【0054】
(眼底の層・境界の構造)
図5を参照して、被検眼の眼底における層、および、互いに隣接する層の間の境界の構造について説明する。
図5では、眼底における層・境界の構造を模式的に示している。
図5の上側が、眼底の網膜の表面側(表層側)である。つまり、
図5の下側へ向かう程、層・境界の深さは大きくなる。また、
図5では、隣接する層の間の境界の名称には括弧を付している。
【0055】
眼底の層について説明する。眼底では、表面側(
図5の上側)から順に、ILM(内境界膜:intermal limiting membrane)、NFL(神経線維層:nerve fiber layer)、GCL(神経節細胞層:ganglion cell layer)、IPL(内網状層:inner plexiform layer)、INL(内顆粒層:inner nuclear layer)、OPL(外網状層:outer plexiform layer)、ONL(外顆粒層:outer nuclear layer)、ELM(外境界膜:external limiting membrane)、IS/OS(視細胞内節外節接合部:junction between photoreceptor inner and outer segment、EZ(Ellipsoid zone)と言われる場合もある)、RPE(網膜色素上皮:retinal pigment epithelium)、BM(ブルッフ膜:Bruch's membrane)、Choroid(脈絡膜)が存在する。
【0056】
また、断層画像に表れやすい境界として、例えば、NFL/GCL(NFLとGCLの間の境界)、IPL/INL(IPLとINLの間の境界)、OPL/ONL(OPLとONLの間の境界)、RPE/BM(RPEとBMの間の境界)、BM/Choroid(BMとChoroidの間の境界)などが存在する。
【0057】
なお、本実施形態では、網膜の全層について着目する場合には、ILMからRPE/BMまでの層が全層として取り扱われる。また、被検眼を診断する際に、GCC(Ganglion Cell Complex)が着目される場合がある。GCCには、NFL、GCL、IPLが含まれる。一例として、本実施形態では、ILMからIPL/INLまでの層がGCCとして取り扱われる。
【0058】
(数学モデル構築処理)
図6を参照して、数学モデル構築装置101が実行する数学モデル構築処理について説明する。数学モデル構築処理は、記憶装置104に記憶された数学モデル構築プログラムに従って、CPU103によって実行される。
【0059】
以下では、一例として、入力された二次元断層画像を解析することで、眼底画像に写る複数の層・境界のうち、複数の特定の層・境界の識別結果を出力する数学モデルを構築する場合を例示する。本実施形態では、複数の特定の層・境界として、ILM、NFL/GCL、IPL/INL、OPL/ONL、IS/OS、RPE/BM、およびBMの各々が、数学モデルによって識別される。また、本実施形態で例示する数学モデルは、入力された眼底画像に写る特定の層・境界を識別するための確率分布を出力する。
【0060】
数学モデル構築処理では、訓練用データセットによって数学モデルが訓練されることで、数学モデルが構築される。訓練用データセットには、入力側のデータ(入力用訓練データ)と出力側のデータ(出力用訓練データ)が含まれる。
【0061】
図6に示すように、CPU103は、OCT装置10Aによって撮影された眼底画像(本実施形態では二次元断層画像)のデータを、入力用訓練データとして取得する(S1)。次いで、CPU103は、S1で取得された眼底画像が撮影された被検眼の、特定の複数の層・境界の各々を示すデータを、出力用訓練データとして取得する(S2)。本実施形態における出力用訓練データには、眼底画像に写る特定の複数の層・境界の位置を示すラベルのデータが含まれている。ラベルのデータは、例えば、作業者が眼底画像における層・境界を見ながら操作部107を操作することで生成されてもよい。
【0062】
次いで、CPU103は、機械学習アルゴリズムによって、訓練データセットを用いた数学モデルの訓練を実行する(S3)。機械学習アルゴリズムとしては、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン(SVM)等が一般的に知られている。
【0063】
ニューラルネットワークは、生物の神経細胞ネットワークの挙動を模倣する手法である。ニューラルネットワークには、例えば、フィードフォワード(順伝播型)ニューラルネットワーク、RBFネットワーク(放射基底関数)、スパイキングニューラルネットワーク、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク(リカレントニューラルネット、フィードバックニューラルネット等)、確率的ニューラルネット(ボルツマンマシン、ベイシアンネットワーク等)等がある。
【0064】
ランダムフォレストは、ランダムサンプリングされた訓練データに基づいて学習を行って、多数の決定木を生成する方法である。ランダムフォレストを用いる場合、予め識別器として学習しておいた複数の決定木の分岐を辿り、各決定木から得られる結果の平均(あるいは多数決)を取る。
【0065】
ブースティングは、複数の弱識別器を組み合わせることで強識別器を生成する手法である。単純で弱い識別器を逐次的に学習させることで、強識別器を構築する。
【0066】
SVMは、線形入力素子を利用して2クラスのパターン識別器を構成する手法である。SVMは、例えば、訓練データから、各データ点との距離が最大となるマージン最大化超平面を求めるという基準(超平面分離定理)で、線形入力素子のパラメータを学習する。
【0067】
数学モデルは、例えば、入力データ(本実施形態では、入力用訓練データと同様の二次元断層画像のデータ)と、出力データ(本実施形態では、特定の複数の部位の識別結果のデータ)の関係を予測するためのデータ構造を指す。数学モデルは、訓練データセットを用いて訓練されることで構築される。前述したように、訓練データセットは、入力用訓練データと出力用訓練データのセットである。例えば、訓練によって、各入力と出力の相関データ(例えば、重み)が更新される。
【0068】
本実施形態では、機械学習アルゴリズムとして多層型のニューラルネットワークが用いられている。ニューラルネットワークは、データを入力するための入力層と、予測したい解析結果のデータを生成するための出力層と、入力層と出力層の間の1つ以上の隠れ層を含む。各層には、複数のノード(ユニットとも言われる)が配置される。詳細には、本実施形態では、多層型ニューラルネットワークの一種である畳み込みニューラルネットワーク(CNN)が用いられている。
【0069】
一例として、本実施形態で構築される数学モデルは、眼底画像中の領域(一次元領域、二次元領域、三次元領域、および、時間軸を含む四次元領域のいずれか)内において、特定の複数の層・境界の各々が存在する座標(一次元座標、二次元座標、三次元座標、および四次元座標のいずれか)を確率変数とする確率分布を、各々の部位を識別するための確率分布として出力する。本実施形態では、数学モデルに確率分布を出力させるために、ソフトマックス関数が適用されている。詳細には、S3で構築される数学モデルは、二次元断層画像中の特定の層・境界に交差する方向(本実施形態では、OCTの測定光の光軸に沿う方向である深さ方向であり、
図3では上下方向)に延びる一次元領域における、特定の層・境界が存在する座標を確率変数とする確率分布を出力する。ただし、数学モデルが特定の部位を識別するための確率分布を出力する具体的方法は、適宜変更できる。例えば、数学モデルは、被検眼における特定の部位の種類を確率変数とする確率分布を、入力された眼科画像の各領域毎(例えば画素毎)に出力してもよい。また、数学モデルに入力される眼科画像が動画像であってもよい。
【0070】
なお、他の機械学習アルゴリズムが用いられてもよい。例えば、競合する2つのニューラルネットワークを利用する敵対的生成ネットワーク(Generative adversarial networks:GAN)が、機械学習アルゴリズムとして採用されてもよい。
【0071】
数学モデルの構築が完了するまで(S4:NO)、S1~S3の処理が繰り返される。数学モデルの構築が完了すると(S4:YES)、数学モデル構築処理は終了する。本実施形態では、構築された数学モデルを実現させるプログラムおよびデータは、眼底画像処理装置1に組み込まれる。
【0072】
(眼底画像処理)
図7から
図15を参照して、眼底画像処理装置1が実行する眼底画像処理について説明する。眼底画像処理は、記憶装置4に記憶された眼底画像処理プログラムに従って、眼底画像処理装置1のCPU3によって実行される。CPU3は、例えば、被検眼の眼底画像の画像ファイルの解析指示が入力されることを契機として、眼底画像処理を実行してもよい。
【0073】
図7に示すように、CPU3は、診療対象の被検眼の眼底の三次元画像(三次元断層画像)を取得する(S11)。三次元画像は、OCT装置10Bによって撮影されて、眼底画像処理装置1によって取得される。前述したように、三次元画像は、互いに異なるスキャンライン上に測定光を走査させることで撮影された複数の二次元画像(二次元断層画像)を組み合わせることで構成されている。なお、CPU3は、三次元画像を生成する基となる信号(例えばOCT信号)をOCT装置10Bから取得し、取得した信号に基づいて三次元画像を生成してもよい。
【0074】
CPU3は、層・境界識別処理を実行する(S12)。層・境界識別処理では、S11で取得された三次元画像に写る眼底組織の、層・境界の少なくともいずれか(本実施形態では、ILM、NFL/GCL、IPL/INL、OPL/ONL、IS/OS、RPE/BM、およびBM)の識別結果が、機械学習アルゴリズムによって訓練された数学モデルによって取得される。また、層・境界識別処理では、層・境界のすくなくともいずれかが数学モデルによって識別された際の乖離度も取得される。乖離度とは、三次元画像に写る眼底組織の層・境界(本実施形態では、複数の層・境界の各々)を数学モデルが識別するための確率分布と、各々の層・境界が数学モデルによって正確に識別される場合の確率分布の乖離度である。乖離度は、層・境界の構造の異常度等に応じて増減する場合が多い。従って、ユーザが乖離度を把握することで、診断の効率が向上し易くなる。
【0075】
図8に示すように、CPU3は、S11で取得した三次元画像を構成する複数の二次元断層画像のうち、T番目(Tの初期値は「1」)の二次元断層画像を抽出する(S21)。
図9に、抽出された二次元断層画像42の一例を示す。二次元断層画像42には、被検眼の眼底における複数の層・境界が表れている。また、二次元断層画像42中に、複数の一次元領域A1~ANが設定される。本実施形態では、二次元断層画像42中に設定される一次元領域A1~ANは、識別対象の層・境界に交差する軸に沿って延びる。詳細には、本実施形態の一次元領域A1~ANは、OCT装置10によって撮影された二次元断層画像42を構成する複数(N本)のAスキャンの各々の領域に一致する。
【0076】
CPU3は、数学モデルにT番目の二次元断層画像を入力することで、複数の一次元領域A1~ANの各々において、M番目(Mの初期値は「1」)の部位(本実施形態ではM番目の層・境界)が存在する座標の確率分布を、M番目の層・境界を識別するための確率分布として取得する(S22)。CPU3は、M番目の層・境界の識別結果を、確率分布に基づいて取得する(S23)。ただし、S23では、数学モデルが確率分布に基づいて出力したM番目の層・境界の識別結果が取得されてもよい。また、CPU3は、M番目の層・境界に関する、確率分布の乖離度を取得する(S24)。S24で取得される乖離度は、M番目の層・境界が正確に識別される場合の確率分布に対する、S22で取得された確率分布の差である。
【0077】
本実施形態では、乖離度として、確率分布Pのエントロピーが算出される。エントロピーは、以下の(数1)で与えられる。エントロピーH(P)は、0≦H(P)≦log(事象の数)の値を取り、確率分布Pが偏っている程小さな値になる。つまり、エントロピーH(P)が小さい程、M番目の層・境界の識別精度が高い傾向となる。
H(P)=-Σplog(p)・・・(数1)
【0078】
次いで、CPU3は、T番目の二次元断層画像において識別対象とする、全ての部位(層・境界)の乖離度が取得されたか否かを判断する(S25)。一部の部位についての乖離度が未だ取得されていなければ(S25:NO)、識別対象とする部位の順番Mに「1」が加算されて(S26)、処理はS22に戻り、次の部位の識別結果および乖離度が取得される(S22~S24)。全ての部位の識別結果および乖離度が取得されると(S25:YES)、CPU3は、T番目の二次元断層画像に写る複数の層・境界の各々について取得された識別結果および乖離度を、記憶装置4に記憶させる(S27)。
【0079】
次いで、CPU3は、三次元断層画像を構成する全ての二次元断層画像についての層・境界の識別結果および乖離度が取得されたか否かを判断する(S28)。一部の二次元断層画像の識別結果および乖離度が未だ取得されていなければ(S28:NO)、二次元断層画像の順番Tに「1」が加算されて(S29)、処理はS21に戻り、次の二次元断層画像の識別結果および乖離度が取得される(S21~S27)。全ての二次元断層画像についての層・境界の識別結果および乖離度が取得されると(S28:YES)、処理は眼底画像処理(
図7参照)へ戻る。
【0080】
次いで、CPU3は、被検眼の診療を行う診療モードとして、黄斑疾患モードと緑内障モードのいずれが選択されているかを判断する(S13)。本実施形態では、ユーザは、操作部7を操作することで、黄斑疾患モードおよび緑内障モードのいずれを予め選択(設定)することができる。また、診療モードは、電子カルテ等の情報に基づいて自動的に選択(設定)されてもよい。診療モードは、被検眼の眼底の三次元画像が撮影された際に予め選択(設定)されていてもよい。この場合、OCT装置10Bにおける画像の撮影方法に応じて、診療モードが自動的に設定されてもよい。例えば、OCT装置10Bによる撮影方法として「黄斑マップ」が選択されていれば、診療モードとして「黄斑疾患モード」が設定されてもよいし、撮影方法として「緑内障マップ」が選択されていれば、診療モードとして「緑内障モード」が設定されてもよい。また、いずれかの診療モードが選択されることで診療モードが設定されてもよいし、他の選択肢(例えば、初期表示させる医療情報の種類等)が選択されることで診療モードが設定されてもよい。黄斑疾患モードが選択されている場合には(S13:YES)、CPU3は、黄斑疾患用処理(
図10参照)を実行する(S14)。また、黄斑疾患モードが選択されておらず、緑内障モードが選択されている場合には(S13:NO)、CPU3は、緑内障用処理(
図14参照)を実行する(S15)。
【0081】
図10~
図13を参照して、黄斑疾患用処理について詳細に説明する。まず、
図11を参照して、黄斑疾患モードが選択されている場合の、診療対象の被検眼についての解析結果の初期表示画面の一例について説明する。本実施形態では、黄斑疾患モードの初期表示画面において表示される医療情報には、乖離度マップ60が含まれる。乖離度マップ60は、S11で取得された三次元画像に写る眼底組織の、層・境界の少なくともいずれかを識別するための確率分布と、層・境界が正確に識別される場合の確率分布の乖離度の二次元分布(本実施形態では、三次元画像を撮影するための光の光軸の方向から見た場合の二次元分布)を示す。前述したように、乖離度マップ60には、層・境界の構造の異常度が表れやすい。
図11~
図13に示す乖離度マップ60では、乖離度が大きい部位が明るい色で表現されている。
【0082】
ここで、被検眼に黄斑疾患が発症すると、層・境界の構造に異常が伴う場合が多い。従って、従来の黄斑疾患についての診療では、ユーザは、三次元断層画像の撮影範囲内の様々な位置の二次元断層画像80を確認して、構造の異常が生じているか否かを把握する必要があった。これに対し、本実施形態では、黄斑疾患モードが選択されると、層・境界の構造の異常度を二次元の領域で把握し易い乖離度マップ60が初期表示される。よって、ユーザは、構造の異常が生じている可能性が高い位置を、表示装置8に初期表示される乖離度マップ60によって適切に把握し易くなる。
【0083】
また、本実施形態では、黄斑疾患モードが選択されている場合には、表示装置8に初期表示させる解析対象の被検眼の医療情報から、厚み解析マップ70(
図12および
図15参照、詳細は後述する)が除外される。黄斑疾患についての診療では、厚み解析マップ70は、大きな浮腫等の存否を付加的に確認するために用いられる場合はあるが、黄斑疾患自体の診療には利用されない場合もある。従って、黄斑疾患モードが選択されている場合に、利用される頻度がそれほど高くない厚み解析マップ70が初期表示の対象から除外されることで、黄斑疾患についての診療に要する時間が短縮され易くなる。
【0084】
ただし、本実施形態では、黄斑疾患モードが選択されている場合でも、ユーザによって入力される指示に応じて、乖離度マップ60と共に厚み解析マップ70が表示装置8に表示される(
図12参照)。従って、ユーザは、黄斑疾患モードが選択されている場合でも、厚み解析マップ70を必要に応じて表示させることで、層・境界の厚みの二次元分布を適切に把握することが可能である。
【0085】
また、
図11に示すように、黄斑疾患モードの初期表示画面において表示される医療情報には、三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像80が含まれる。従って、ユーザは、解析対象の被検眼の層・境界の状態を、二次元断層画像80においても適切に把握することが可能である。二次元断層画像80の表示方法の詳細については後述する。
【0086】
さらに、本実施形態における解析結果の表示画面には、解析対象の被検眼を正面から観察した二次元の眼底観察画像50と、選択されている診療モードを示す選択モード表示部55が表示される。
【0087】
図10に示すように、黄斑疾患用処理では、CPU3は、解析対象の被検眼における複数の層・境界のうち、乖離度マップ60を解析結果表示画面に初期表示させる層・境界を特定する(S31)。CPU3は、S31で特定した層・境界についての乖離度マップ60を、層・境界識別処理(
図8参照)において取得された乖離度に基づいて生成する(S32)。CPU3は、S32で生成された乖離度マップ60を、解析結果表示画面に初期表示させる(S33)。
【0088】
一例として、本実施形態では、被検者に生じ得る複数の黄斑疾患の各々に対し、関連する眼底組織内の層および境界が対応付けられている。例えば、糖尿病網膜症に関連する層・境界として、IPL/INLとOPL/ONLが対応付けられている。加齢黄斑変性に関連する層・境界として、RPE/BMとBMが対応付けられている。網膜色素変性症に関連する層・境界として、RPE/BMとBMが対応付けられている。本実施形態では、ユーザは、複数の黄斑疾患のうち、診療を行いたい黄斑疾患の種類を予め指定することができる。S31では、CPU3は、黄斑疾患の種類が指定されている場合、指定されている黄斑疾患に対応付けられている部位(層・境界)を、乖離度マップ60を初期表示させる部位として特定する。従って、ユーザは、診療したい黄斑疾患の種類に応じて、乖離度マップ60を効率良く利用することができる。
【0089】
また、本実施形態では、ユーザは、複数の層・境界のうち、乖離度マップ60を確認したい1つまたは複数の層・境界を、操作部7を介して直接選択することも可能である。S31では、CPU3は、層・境界がユーザによって指定されている場合、指定されている層・境界を、乖離度マップ60を初期表示させる層・境界として特定する。
【0090】
また、CPU3は、複数の層・境界についての複数の乖離度マップ60のうち、乖離度の順位が高い所定数の乖離度マップ60を選択的に表示部に初期表示させることも可能である。この場合、ユーザは、複数の層・境界のうち、数学モデルによる識別の乖離度が高くなった層・境界の乖離度マップ60を容易に確認することができる。
【0091】
なお、
図11および
図12に示す例では、解析対象の三次元画像における複数の層・境界のうち、特定の1つの層・境界(
図11および
図12ではRPE/BM)の乖離度マップ60が表示されている。しかし、
図13に示すように、S31~S33では、CPU3は、複数の層・境界についての乖離度マップ60を表示させることも可能である。この場合、CPU3は、複数の層・境界についての乖離度マップ60A,60B,60Cを別々に表示させてもよい。また、CPU3は、複数の層・境界についての乖離度マップ60A,60B,60Cを位置合わせした状態で合成した合成乖離度マップ60Xを表示させてもよい。合成乖離度マップ60Xは、各々の層・境界についての乖離度マップ60A,60B,60Cの色を異なる色で表現したうえで、複数の乖離度マップ60A,60B,60Cを重畳させることで生成されてもよい。
【0092】
次いで、CPU3は、三次元画像の撮影範囲のうち、デフォルト位置の二次元断層画像80を抽出し、表示装置8に初期表示させる(S34)。二次元断層画像80を表示させるデフォルト位置は、適宜設定できる。例えば、CPU3は、乖離度マップ60上に設定可能な任意のライン(例えば直線等)のうち、ライン上の乖離度が最も高くなるラインの位置を、二次元断層画像80を抽出するデフォルト位置として特定してもよい。CPU3は、特定したライン状のデフォルト位置から眼底の深さ方向に広がる二次元断層画像80を、表示装置8に初期表示させてもよい。また、CPU3は、三次元画像の撮影範囲の中心を通るライン(例えば、三次元画像を正面から見た二次元正面画像上で、中心位置を左右に横切る直線等)の位置を、二次元断層画像80を抽出するデフォルト位置として特定することも可能である。また、CPU3は、眼底における特徴部位(例えば、乳頭または黄斑等)を、画像処理等を用いて特定し、特定した部位を通過するライン状の位置を、S34で二次元断層画像80を抽出するデフォルト位置としてもよい。なお、ラインは直線に限定されない。
【0093】
CPU3は、解析対象の眼底における複数の層・境界のうち、乖離度マップ60を表示させている部位(「対応部位」という場合もある)を、二次元断層画像上で表示する(S35)。従って、ユーザは、乖離度マップ60が表示されている層・境界(
図11では「VT」で示される層・境界)を、深さ方向に広がる二次元断層画像80上で容易且つ適切に把握することができる。
【0094】
詳細には、
図11および
図12に示す例では、二次元断層画像80上で、層・境界識別処理(
図8参照)において識別された複数の層・境界の各々の位置の示すラインVが、互いに異なる色で表示されている。CPU3は、二次元断層画像80に写る複数の層・境界のうち、解析結果表示画面に乖離度マップ60を表示させている層・境界のラインVTの色を、乖離度マップ60自体の表示色と一致させることで、乖離度マップ60が表示されている層・境界を示す。従って、表示されている乖離度マップ60が、複数の層および境界におけるいずれの部位の乖離度マップ60であるかが、それぞれの層・境界を示すラインVの色によって容易に把握される。よって、ユーザは、例えば複数の部位の各々の乖離度マップ60が同時に表示される場合(例えば、
図13に示す場合)等でも、乖離度マップ60が表示されている部位を、二次元断層画像80上で適切に把握することができる。
【0095】
CPU3は、解析結果表示画面に乖離度マップ60が表示されている層・境界についての、二次元断層画像80の領域における乖離度の状態を、ユーザに識別させる(S36)。従って、ユーザは、二次元断層画像80においても乖離度の状態を容易に確認することができる。よって、ユーザは、二次元断層画像80に写る層・境界の状態を、乖離度に応じて適切に把握することができる。
【0096】
なお、二次元断層画像80内の領域における乖離度の状態をユーザに識別させるための具体的な方法は、適宜選択できる。
図11および
図12に示す例では、CPU3は、二次元断層画像80内の領域のうち、乖離度が閾値以上となっている領域81を示す識別表示を実行することで、乖離度の状態をユーザに識別させる。また、CPU3は、乖離度の大きさに応じた濃さの色を、二次元断層画像80内の各領域に付与することで、乖離度の状態をユーザに識別させてもよい。
【0097】
CPU3は、表示装置8に表示させている二次元断層画像80が抽出された位置を、乖離度マップ60上で表示する(S37)。従って、ユーザは、表示されている二次元断層画像80の抽出位置を乖離度マップ60上で確認しながら、眼底組織の診断等を行うことができる。なお、本実施形態では、
図11および
図12に示すように、眼底組織を正面方向から見た場合の二次元の乖離度マップ60上で、二次元断層画像80の抽出位置を示すラインPが表示される。また、本実施形態では、二次元の眼底観察画像50上でも同様に、二次元断層画像80の抽出位置を示すラインPが表示される。以上の処理で、黄斑疾患モードにおける解析結果の初期表示が完了する。
【0098】
次いで、CPU3は、厚み解析マップ70を表示させる指示がユーザによって入力されたか否かを判断する(S39)。指示が入力されていなければ(S39:NO)、処理はそのままS41の判断へ移行する。厚み解析マップ70を表示させる指示が、操作部7等を介して入力されると(S39:YES)、CPU3は、層・境界識別処理(
図8参照)において取得された層・境界の識別結果に基づいて、特定の層の厚みについての解析結果の二次元分布を示す厚み解析マップ70を生成し、乖離度マップ60と共に解析結果表示画面に追加表示させる(S40)。従って、ユーザは、黄斑疾患モードを選択している場合でも、厚み解析マップ70を必要に応じて表示させることで、層・境界の厚みの二次元分布を適切に把握することが可能である。なお、厚み解析マップ70の表示と非表示が、ユーザによって入力される指示に応じて適宜切り替えられてもよいことは言うまでもない。
【0099】
S40では、CPU3は、解析対象の三次元画像における複数の層・境界のうち、乖離度マップ60が表示されている層・境界についての厚みの解析結果の二次元分布を示す厚み解析マップ70を表示させる。従って、ユーザは、同一の層・境界についての乖離度マップ60と厚み解析マップ70を容易に比較することで、有効な診療を行い易くなる。なお、
図13に示すように、複数の層・境界の乖離度マップ60が解析結果表示画面に表示されている場合、CPU3は、同一の複数の層・境界の各々についての厚み解析マップ70を別々に表示させてもよいし、同一の複数の層・境界の全ての厚みをまとめた厚み解析マップ70を表示させてもよい。
【0100】
なお、厚み解析マップ70の具体的な態様は、適宜選択できる。例えば、CPU3は、解析対象の三次元画像における少なくともいずれかの層の厚みの二次元分布と、同一の層の正常眼における厚みの二次元分布の比較結果を示す正常眼比較マップ(例えば、両者の差分のパーセンタイルの二次元分布を示すパーセンタイルマップ、および、両者の偏差の二次元分布を示すデビエーションマップ等の少なくともいずれか)を、厚み解析マップ70として生成して表示させてもよい。また、CPU3は、解析対象の三次元画像における少なくともいずれかの層の厚みの二次元分布を示す厚みマップを、厚み解析マップ70として生成して表示させてもよい。CPU3は、厚み解析マップ70として、正常眼比較マップおよび厚みマップ等の両方を表示させてもよい。
【0101】
次いで、CPU3は、表示装置8に表示されている乖離度マップ60上で、二次元断層画像80を抽出する位置Pを指定するための指示が、ユーザによって入力されたか否かを判断する(S41)。位置Pが指定されていなければ(S41:NO)、処理はそのままS44へ移行する。一例として、本実施形態では、ユーザは、操作部7の操作(例えば、カーソルの移動とクリック、またはタッチパネルによる位置指定等)によって、二次元断層画像を抽出する位置Pを、表示装置8に表示されている乖離度マップ60上で指定する。なお、本実施形態では、CPU3は、表示装置8に表示されている二次元の眼底観察画像50上でも同様に、二次元断層画像80を抽出する位置Pを指定するための指示を受け付けることも可能である。また、
図11および
図12に示す例では、直線状のラインの位置が指定されることで、二次元断層画像80を抽出する位置Pが指定される。しかし、抽出位置Pを指定するための方法を変更することも可能である。例えば、位置Pを指定するために用いられるラインは直線状に限定されず、環状または曲線状等であってもよい。
【0102】
二次元断層画像80を抽出する位置Pが乖離度マップ60上で指定されると(S41:YES)、CPU3は、指定された位置Pを、乖離度マップ60上で表示する(S42)。従って、ユーザは、表示されている二次元断層画像80の抽出位置Pを乖離度マップ60上で確認しながら、被検眼の眼底組織の診断を行うことができる。前述したように、
図11に示す例では、眼底組織を正面方向から見た場合の二次元の乖離度マップ60上で、二次元断層画像80の抽出位置を示すラインPが表示される。また、本実施形態では、二次元の眼底観察画像50上でも同様に、二次元断層画像80の抽出位置を示すラインPが表示される。なお、眼底観察画像50上で二次元断層画像80の抽出位置Pが指定された場合も同様に、乖離度マップ60上および眼底観察画像50上に、二次元断層画像80の抽出位置を示すラインPが表示される。
【0103】
さらに、CPU3は、指定された位置Pから眼底組織の深さ方向に広がる二次元断層画像80(つまり、指定された位置Pを通過し、且つ深さ方向に広がる二次元断層画像80)を三次元画像から抽出し、表示装置8に表示させる(S43)。従って、ユーザは、特定の部位(本実施形態では、特定の層・境界)に関する識別の乖離度の二次元分布を乖離度マップ60によって確認したうえで、表示させたい二次元断層画像80の位置を、乖離度マップ60上で直接指定することができる。その後、処理はS44へ移行する。
【0104】
次いで、CPU3は、複数の黄斑疾患の少なくともいずれかを指定する指示がユーザによって入力されたか否かを判断する(S44)。黄斑疾患が指定されていなければ(S44:NO)、処理はそのままS46へ移行する。前述したように、本実施形態では、ユーザは、少なくともいずれかの黄斑疾患を指定することで、指定した黄斑疾患に対応付けられている層・境界についての乖離度マップ60を表示させることができる。詳細には、被検者に生じ得る複数の黄斑疾患の各々に対し、関連する眼底組織内の層・境界の少なくともいずれかが対応付けられている。ユーザによって黄斑疾患が指定されると(S44:YES)、CPU3は、数学モデルによる識別対象とされた複数の層・境界のうち、指定された黄斑疾患に対応付けられている層・境界についての乖離度マップ60を生成し、表示装置8に表示させる(S45)。従って、ユーザは、予想される被検者の黄斑疾患に関連する部位についての乖離度マップ60を、予想される黄斑疾患を指定するだけで容易に確認できる。また、ユーザは、指定する黄斑疾患を切り替えながら、各々の黄斑疾患に対応付けられている層・境界の乖離度マップ60を確認することで、被検者の黄斑疾患を予想することも可能である。なお、S45においても、乖離度マップ60を表示させた部位を二次元断層画像80上で表示させてもよい。
【0105】
次いで、CPU3は、複数の層・境界のうち、乖離度マップ60を表示させる少なくともいずれかの層・境界を指定する指示がユーザによって入力されたか否かを判断する(S46)。層・境界が指定されていなければ(S46:NO)、処理はそのままS48へ移行する。ユーザによって層・境界が指定されると(S46:YES)、CPU3は、数学モデルによる識別対象とされた複数の層・境界のうち、指定された層・境界についての乖離度マップ60を生成し、表示装置8に表示させる(S47)。従って、ユーザは、所望の層・境界についての乖離度マップ60を容易に確認することが可能である。なお、S47においても、乖離度マップ60を表示させた部位を二次元断層画像80上で表示させてもよい。
【0106】
CPU3は、解析結果表示画面の表示を終了させる指示、または、診療モードを変更する指示が入力されたか否かを判断する(S48)。入力されていなければ(S48:NO)、処理はS39へ戻り、S39~S48の処理が繰り返される。終了指示、または診療モードの変更指示が入力されると(S48:YES)、処理は眼底画像処理(
図7参照)へ戻る。
【0107】
図14~
図15を参照して、緑内障用処理について詳細に説明する。まず、
図15を参照して、緑内障モードが選択されている場合の、診療対象の被検眼についての解析結果の初期表示画面の一例について説明する。本実施形態では、緑内障モードの初期表示画面において表示される医療情報には、厚み解析マップ70が含まれる。前述したように、厚み解析マップ70は、解析対象の三次元画像における少なくともいずれかの層の厚みについての解析結果の二次元分布を示す。被検眼に緑内障が発症すると、少なくとも一部の層の厚みが薄くなる(つまり、菲薄化する)場合が多い。本実施形態では、緑内障モードが選択された場合に厚み解析マップ70が初期表示される。よって、ユーザは、被検者の層の厚みに基づく緑内障の診療を、表示装置8に初期表示される厚み解析マップ70によって適切に行い易くなる。
【0108】
前述したように、厚み解析マップ70の具体的な態様は、適宜選択できる。例えば、CPU3は、正常眼比較マップ(例えば、両者の差分のパーセンタイルの二次元分布を示すパーセンタイルマップ、および、両者の偏差の二次元分布を示すデビエーションマップ等の少なくともいずれか)を、厚み解析マップ70として生成して表示させてもよい。また、CPU3は、層の厚みの二次元分布を示す厚みマップを、厚み解析マップ70として生成して表示させてもよい。CPU3は、厚み解析マップ70として、正常眼比較マップおよび厚みマップの両方を表示させてもよい。
【0109】
また、本実施形態では、緑内障モードが選択されている場合には、表示装置8に初期表示させる解析対象の被検眼の医療情報から、乖離度マップ60(
図11~
図13参照)が除外される。緑内障に起因する層の菲薄化には、層・境界の構造異常を伴わない場合も多い。層・境界の構造異常が生じていなければ、乖離度マップ60には顕著な特徴は表れにくい。従って、緑内障モードが選択されている場合に、緑内障の診療に用いられる頻度が低い乖離度マップ60が初期表示の対象から除外されることで、緑内障についての診療に要する時間が短縮され易くなる。
【0110】
ただし、本実施形態では、緑内障モードが選択されている場合でも、ユーザによって入力される指示に応じて、厚み解析マップ70と共に乖離度マップ60が表示装置8に表示される。従って、ユーザは、緑内障モードが選択されている場合でも、乖離度マップ60を必要に応じて表示させることで、層・境界の構造の異常度を適切に把握することが可能である。
【0111】
また、緑内障モードの初期表示画面において表示される医療情報にも、三次元画像の画像領域に含まれる、眼底組織の深さ方向に広がる一部の二次元断層画像80が含まれる。従って、ユーザは、解析対象の被検眼の層・境界の状態を、二次元断層画像80においても適切に把握することが可能である。
【0112】
さらに、緑内障モードにおける解析結果の表示画面においても、解析対象の被検眼を正面から観察した二次元の眼底観察画像50と、選択されている診療モードを示す選択モード表示部55が表示される。
【0113】
図14に示すように、緑内障用処理では、CPU3は、解析対象の被検眼における複数の層・境界のうち、厚み解析マップ70を解析結果表示画面に初期表示させる層・境界を特定する(S51)。CPU3は、S51で特定した層・境界についての厚み解析マップ70を、層・境界識別処理(
図8参照)において取得された層・境界の識別結果に基づいて生成する(S52)。CPU3は、S52で生成された厚み解析マップ70を、解析結果表示画面に初期表示させる(S53)。
【0114】
一例として、本実施形態では、緑内障モードが選択されている場合に厚み解析マップ70を初期表示させる層・境界が、予め設定されている。例えば、網膜の全層(本実施形態では、ILMからRPE/BMまでの層)、または、GCC(ILMからIPL/INLまでの層)の少なくとも一方が、厚み解析マップ70を初期表示させる層・境界として設定されている。なお、厚み解析マップ70を初期表示させる層・境界は、ユーザによって入力される指示に応じて設定されてもよい。
【0115】
また、本実施形態では、ユーザは、複数の層・境界のうち、厚み解析マップ70を確認したい1つまたは複数の層・境界を、操作部7を介して直接選択することも可能である。S51では、CPU3は、層・境界がユーザによって指定されている場合、指定されている層・境界を、厚み解析マップ70を初期表示させる層・境界として特定する。
【0116】
次いで、CPU3は、三次元画像の撮影範囲のうち、デフォルト位置の二次元断層画像80を抽出し、表示装置8に初期表示させる(S54)。二次元断層画像80を表示させるデフォルト位置の設定方法は、適宜選択できる。例えば、CPU3は、三次元画像の撮影範囲の中心を通るライン(例えば、三次元画像を正面から見た二次元正面画像上で、中心位置を左右に横切る直線等)の位置を、二次元断層画像80を抽出するデフォルト位置として特定してもよい。また、CPU3は、眼底における特徴部位(例えば、乳頭または黄斑等)を、画像処理等を用いて特定し、特定した部位を通過するライン状の位置を、S54で二次元断層画像80を抽出するデフォルト位置としてもよい。なお、ラインは直線に限定されない。
【0117】
CPU3は、解析対象の眼底における複数の層・境界のうち、厚み解析マップ70を表示させている部位(「対応部位」という場合もある)を、二次元断層画像上で表示する(S55)。従って、ユーザは、厚み解析マップ70が表示されている層・境界を、深さ方向に広がる二次元断層画像80上で容易且つ適切に把握することができる。
【0118】
CPU3は、表示装置8に表示させている二次元断層画像80が抽出された位置を、厚み解析マップ70上で表示する(S56)。従って、ユーザは、緑内障モードにおいて、表示されている二次元断層画像80の抽出位置を厚み解析マップ70上で確認しながら、眼底組織の診断等を行うことができる。なお、本実施形態では、
図15に示すように、眼底組織を正面方向から見た場合の二次元の厚み解析マップ70上で、二次元断層画像80の抽出位置を示すラインPが表示される。また、本実施形態では、二次元の眼底観察画像50上でも同様に、二次元断層画像80の抽出位置を示すラインPが表示される。以上の処理で、緑内障モードにおける解析結果の初期表示が完了する。
【0119】
次いで、CPU3は、乖離度マップ60を表示させる指示がユーザによって入力されたか否かを判断する(S58)。指示が入力されていなければ(S58:NO)、処理はそのままS60の判断へ移行する。乖離度マップ60を表示させる指示が、操作部7等を介して入力されると(S58:YES)、CPU3は、層・境界識別処理(
図8参照)において取得された乖離度に基づいて、特定の層についての乖離度の二次元分布を示す乖離度マップ60を生成し、厚み解析マップ70と共に解析結果表示画面に追加表示させる(S59)。従って、ユーザは、緑内障モードを選択している場合でも、乖離度マップ60を必要に応じて表示させることで、層・境界の乖離度の二次元分布を適切に把握することが可能である。なお、乖離度マップ60の表示と非表示が、ユーザによって入力される指示に応じて適宜切り替えられてもよいことは言うまでもない。
【0120】
S59では、CPU3は、解析対象の三次元画像における複数の層・境界のうち、厚み解析マップ70が表示されている層・境界についての乖離度の二次元分布を示す乖離度マップ60を表示させる。従って、ユーザは、同一の層・境界についての乖離度マップ60と厚み解析マップ70を容易に比較することで、有効な診療を行い易くなる。なお、複数の層・境界の厚み解析マップ70が解析結果表示画面に表示されている場合、CPU3は、同一の複数の層・境界の各々についての乖離度マップ60を別々に表示させてもよいし、同一の複数の層・境界の全ての乖離度マップ60を合成した合成乖離度マップ60Xを表示させてもよい。
【0121】
次いで、CPU3は、表示装置8に表示されている厚み解析マップ70上で、二次元断層画像80を抽出する位置Pを指定するための指示が、ユーザによって入力されたか否かを判断する(S60)。位置Pが指定されていなければ(S60:NO)、処理はそのままS63へ移行する。一例として、本実施形態では、ユーザは、操作部7の操作(例えば、カーソルの移動とクリック、またはタッチパネルによる位置指定等)によって、二次元断層画像を抽出する位置Pを、表示装置8に表示されている厚み解析マップ70上で指定する。なお、本実施形態では、CPU3は、表示装置8に表示されている二次元の眼底観察画像50上でも同様に、二次元断層画像80を抽出する位置Pを指定するための指示を受け付けることも可能である。また、
図15に示す例では、直線状のラインの位置が指定されることで、二次元断層画像80を抽出する位置Pが指定される。しかし、抽出位置Pを指定するための方法を変更することも可能である。例えば、位置Pを指定するために用いられるラインは直線状に限定されず、環状または曲線状等であってもよい。
【0122】
二次元断層画像80を抽出する位置Pが厚み解析マップ70上で指定されると(S60:YES)、CPU3は、指定された位置Pを、厚み解析マップ70上で表示する(S61)。従って、ユーザは、表示されている二次元断層画像80の抽出位置Pを厚み解析マップ70上で確認しながら、被検眼の眼底組織の診断を行うことができる。前述したように、
図15に示す例では、眼底組織を正面方向から見た場合の二次元の厚み解析マップ70上で、二次元断層画像80の抽出位置を示すラインPが表示される。また、本実施形態では、二次元の眼底観察画像50上でも同様に、二次元断層画像80の抽出位置を示すラインPが表示される。なお、眼底観察画像50上で二次元断層画像80の抽出位置Pが指定された場合も同様に、厚み解析マップ70上および眼底観察画像50上に、二次元断層画像80の抽出位置を示すラインPが表示される。
【0123】
さらに、CPU3は、指定された位置Pから眼底組織の深さ方向に広がる二次元断層画像80(つまり、指定された位置Pを通過し、且つ深さ方向に広がる二次元断層画像80)を三次元画像から抽出し、表示装置8に表示させる(S62)。従って、ユーザは、特定の部位(本実施形態では、特定の層・境界)に関する厚みの解析結果の二次元分布を厚み解析マップ70によって確認したうえで、表示させたい二次元断層画像80の位置を、厚み解析マップ70上で直接指定することができる。その後、処理はS63へ移行する。
【0124】
次いで、CPU3は、複数の層・境界のうち、厚み解析マップ70を表示させる少なくともいずれかの層・境界を指定する指示がユーザによって入力されたか否かを判断する(S63)。層・境界が指定されていなければ(S63:NO)、処理はそのままS65へ移行する。ユーザによって層・境界が指定されると(S63:YES)、CPU3は、数学モデルによる識別対象とされた複数の層・境界のうち、指定された層・境界についての厚み解析マップ70を生成し、表示装置8に表示させる(S64)。従って、ユーザは、所望の層・境界についての厚み解析マップ70を容易に確認することが可能である。なお、S64においても、厚み解析マップ70を表示させた部位を二次元断層画像80上で表示させてもよい。
【0125】
CPU3は、解析結果表示画面の表示を終了させる指示、または、診療モードを変更する指示が入力されたか否かを判断する(S65)。入力されていなければ(S65:NO)、処理はS58へ戻り、S58~S65の処理が繰り返される。終了指示、または診療モードの変更指示が入力されると(S65:YES)、処理は眼底画像処理(
図7参照)へ戻る。
【0126】
図7の説明に戻る。黄斑疾患用処理(S14)または緑内障表処理(S15)が終了すると、診療モードの変更指示が入力されたか否かが判断される(S17)。診療モードの変更指示が入力されている場合(S17:YES)、処理はS13へ戻り、変更された診療モードについての医療情報(解析結果)の表示制御処理が実行される(S14またはS15)。診療モードの変更指示が入力されていなければ(S17:NO)、終了指示が入力されているので、処理は終了する。
【0127】
上記実施形態で開示された技術は一例に過ぎない。従って、上記実施形態で例示された技術を変更することも可能である。まず、上記実施形態で例示された複数の技術のうちの一部のみを実行することも可能である。また、上記実施形態では、黄斑疾患モードにおいて厚み解析マップ70の表示指示が入力されると(S39:YES)、厚み解析マップ70が、乖離度マップ60と共に表示される(つまり、厚み解析マップ70が追加表示される)。しかし、黄斑疾患モードにおいて厚み解析マップ70の表示指示が入力された場合、CPU3は、厚み解析マップ70を乖離度マップ60と切り換えて表示させてもよい。この場合、二次元断層画像の抽出位置は、切り替えて表示された乖離度マップ60上で指定されてもよいし、眼底観察画像50上で指定されてもよい。また、上記実施形態では、緑内障モードにおいて乖離度マップ60の表示指示が入力されると(S58:YES)、乖離度マップ60が、厚み解析マップ70と共に表示される(つまり、乖離度マップ60が追加表示される)。しかし、緑内障モードにおいて乖離度マップ60の表示指示が入力された場合、CPU3は、乖離度マップ60を厚み解析マップ70と切り換えて表示させてもよい。この場合、二次元断層画像の抽出位置は、切り替えて表示された厚み解析マップ70上で指定されてもよいし、眼底観察画像50上で指定されてもよい。
【0128】
なお、
図7のS11で三次元画像を取得する処理は、「画像取得ステップ」の一例である。
図10のS32、S45、S47、および
図14のS59で乖離度マップを生成する処理は、「乖離度マップ生成ステップ」の一例である。
図10のS40、および
図14のS52、S64で厚み解析マップを生成する処理は、「厚み解析マップ生成ステップ」の一例である。
図7のS14、S15で医療情報を表示させる処理は、「表示制御ステップ」の一例である。
図10のS41および
図14のS60で二次元断層画像80の抽出位置の指示入力を受け付ける処理は、「抽出位置指定受付ステップ」の一例である。
図10のS43および
図14のS62で二次元断層画像を抽出して表示させる処理は、「指定断層画像表示ステップ」の一例である。
【符号の説明】
【0129】
1 眼底画像処理装置
3 CPU
4 記憶装置
8 表示装置
10(10A,10B) OCT装置
42 二次元断層画像
43 三次元断層画像
60 乖離度マップ
70 厚み解析マップ
80 二次元断層画像