(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-08
(45)【発行日】2024-07-17
(54)【発明の名称】眼底画像処理装置、および眼底画像処理プログラム
(51)【国際特許分類】
A61B 3/10 20060101AFI20240709BHJP
【FI】
A61B3/10 300
(21)【出願番号】P 2020505027
(86)(22)【出願日】2019-03-04
(86)【国際出願番号】 JP2019008478
(87)【国際公開番号】W WO2019172206
(87)【国際公開日】2019-09-12
【審査請求日】2022-01-31
(31)【優先権主張番号】P 2018039164
(32)【優先日】2018-03-05
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2018080131
(32)【優先日】2018-04-18
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000135184
【氏名又は名称】株式会社ニデック
(72)【発明者】
【氏名】熊谷 佳紀
(72)【発明者】
【氏名】本多 直人
【審査官】牧尾 尚能
(56)【参考文献】
【文献】米国特許出願公開第2015/0110348(US,A1)
【文献】国際公開第2016/132115(WO,A1)
【文献】中国特許出願公開第105996978(CN,A)
【文献】特開2010-279439(JP,A)
【文献】国際公開第2014/186838(WO,A1)
【文献】米国特許出願公開第2015/0110370(US,A1)
【文献】MAHESHWARI Shishir et al.,”Automated Diagnosis of Glaucoma Using Empirical Wavelet Transform and Correntropy Features Extracted from Fundus Images”,IEEE Journal of Biomedical and Health Informatics,2017年05月31日,Vol. 21、No. 3,pp. 803-813
【文献】HALEEM Muhammad Salman et al.,”Regional Image Features Model for Automatic Classification between Normal and Glaucoma in Fundus and Scanning Laser Ophthalmoscopy (SLO) Images”,Journal of Medical Systems,2016年04月16日,Vo. 40、No. 132,pp. 1-19
【文献】ISSAC Ashish et al.,”An adaptive threshold based algorithm for optic disc and cup segmentation in fundus images”,2015 2nd International Conference on Signal Processing and Integrated Networks (SPIN),2015年02月20日,pp. 143-147
【文献】PONNAIAH G. Ferdic Mashak et al.,”GA based Automatic Optic Disc Detection from Fundus Image using Blue Channel and Green Channel Information”,International Journal of Computer Applications,2013年05月31日,Vol. 69、No. 2,pp. 23-31
【文献】ISSAC Ashish et al.,”Automated Computer Vision Method for Optic Disc Detection from Non-uniform Illuminated Digital Fundus Images”,2016 2nd International Conference on Communication, Control and Intelligent Systems (CCIS),2016年11月20日,pp. 76-80
【文献】LAROCCA Francesco et al.,"True color scanning laser ophthalmoscopy and optical coherence tomography handheld probe",BIOMEDICAL OPTICS EXPRESS,2014年09月01日,Vol. 5、No. 9,pp. 3204-3216
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00 - 3/18
(57)【特許請求の範囲】
【請求項1】
被検眼の眼底画像を処理する眼底画像処理装置であって、
走査型レーザ検眼鏡によって撮影された前記眼底画像を取得する画像取得手段と、
前記眼底画像を解析する解析手段と、を備え、
前記走査型レーザ検眼鏡は、赤色光、緑色光および青色光の少なくともいずれかの複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成し、
前記解析手段は、第1チャンネルの眼底画像を学習した表層用数学モデルと、前記第1チャンネルとは異なる第2チャンネルの眼底画像を学習した深層用数学モデルであり、前記波長毎の受光信号に基づいて生成される前記眼底画像を学習した数学モデルを用いて、前記波長毎の受光信号に基づいて生成された前記波長毎の前記眼底画像のそれぞれに対して眼底疾患に関係する所見を
、前記眼底画像から所見の存在する領域を示すマップを求めることにより、検出することを特徴とする眼底画像処理装置。
【請求項2】
前記解析手段は、前記眼底画像に対する各所見の有無の情報を、各所見の有無の情報と被検眼の診断結果の組が学習された診断用数学モデルに入力することによって、前記被検眼の診断結果に対応する参考情報であって、前記被検眼の診断に用いられる参考情報を出力することを特徴とする請求項1の眼底画像処理装置。
【請求項3】
被検眼の眼底画像を処理する眼底画像処理装置において実行される眼底画像処理プログラムであって、前記眼底画像処理装置のプロセッサによって実行されることで、
赤色光、緑色光および青色光の少なくともいずれかの複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成する生成ステップと、
前記生成ステップによって生成された前記眼底画像を取得する画像取得ステップと、
第1チャンネルの眼底画像を学習した表層用数学モデルと、前記第1チャンネルとは異なる第2チャンネルの眼底画像を学習した深層用数学モデルであり、前記波長毎の受光信号に基づいて生成される前記眼底画像を学習した数学モデルを用いて、前記波長毎の受光信号に基づいて生成された前記波長毎の前記眼底画像のそれぞれに対して眼底疾患に関係する所見を
、前記眼底画像から所見の存在する領域を示すマップを求めることにより、検出する解析ステップと、
を前記眼底画像処理装置に実行させることを特徴とする眼底画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
被検眼の眼底画像を処理するための眼底画像処理装置、および眼底画像処理プログラムに関する。
【背景技術】
【0002】
従来の眼科撮影装置としては、例えば、光干渉断層計(Optical Coherence Tomography: OCT)、眼底カメラ、走査型レーザ検眼鏡(Scanning Laser Ophthalmo-scope: SLO)などが知られている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【0004】
ところで、複数の波長を含む測定光を走査させて被検眼を撮影することで、マルチカラー画像を取得する走査型のマルチカラー撮影装置がある。例えば、マルチカラーSLO(MultiColorSLO: MCSLO)などの走査型マルチカラー撮影装置は、従来の眼底画像よりも眼底の微細な変化を捉えることができるため、より正確な診断が可能となることが期待される。しかしながら、走査型マルチカラー撮影装置によって撮影されたマルチカラー画像は、従来の眼底画像とは写り方が異なるため、新たな読影知識を身に付ける必要があった。
【0005】
本開示は、従来の問題点に鑑み、走査型マルチカラー撮影装置によって撮影されたマルチカラー画像を対象とした画像診断を容易に行うことができる眼底画像処理装置および眼底画像処理プログラムを提供することを技術課題とする。
【0006】
上記課題を解決するために、本開示は以下のような構成を備えることを特徴とする。
【0007】
(1)被検眼の眼底画像を処理する眼底画像処理装置であって、走査型レーザ検眼鏡によって撮影された前記眼底画像を取得する画像取得手段と、前記眼底画像を解析する解析手段と、を備え、前記走査型レーザ検眼鏡は、赤色光、緑色光および青色光の少なくともいずれかの複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成し、前記解析手段は、第1チャンネルの眼底画像を学習した表層用数学モデルと、前記第1チャンネルとは異なる第2チャンネルの眼底画像を学習した深層用数学モデルであり、前記波長毎の受光信号に基づいて生成される前記眼底画像を学習した数学モデルを用いて、前記波長毎の受光信号に基づいて生成された前記波長毎の前記眼底画像のそれぞれに対して眼底疾患に関係する所見を、前記眼底画像から所見の存在する領域を示すマップを求めることにより、検出することを特徴とする。
(2)被検眼の眼底画像を処理する眼底画像処理装置において実行される眼底画像処理プログラムであって、前記眼底画像処理装置のプロセッサによって実行されることで、赤色光、緑色光および青色光の少なくともいずれかの複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成する生成ステップと、前記生成ステップによって生成された前記眼底画像を取得する画像取得ステップと、第1チャンネルの眼底画像を学習した表層用数学モデルと、前記第1チャンネルとは異なる第2チャンネルの眼底画像を学習した深層用数学モデルであり、前記波長毎の受光信号に基づいて生成される前記眼底画像を学習した数学モデルを用いて、前記波長毎の受光信号に基づいて生成された前記波長毎の前記眼底画像のそれぞれに対して眼底疾患に関係する所見を、前記眼底画像から所見の存在する領域を示すマップを求めることにより、検出する解析ステップと、を前記眼底画像処理装置に実行させることを特徴とする。
【図面の簡単な説明】
【0008】
【
図1】本実施例に係る眼科撮影装置の構成について説明する概略構成図である。
【
図5】数学モデルの学習について説明するための図である。
【
図8A】異なる撮影装置で撮影された眼底画像の例を示す図である。
【
図8B】異なる撮影装置で撮影された眼底画像の例を示す図である。
【
図9】数学モデルに入力するデータの正規化について説明する図である。
【
図10】眼底画像の各チャンネルに重みを掛ける様子を示す図である。
【発明を実施するための形態】
【0009】
<実施形態>
以下、本開示に係る眼底画像処理装置の実施形態について説明する。本実施形態における眼底画像処理装置(例えば、眼底画像処理装置100)は、被検眼の眼底画像を処理する。眼底画像処理装置は、例えば、画像取得部(例えば、画像取得部1)と、解析部(例えば、解析部2)などを備える。
【0010】
画像取得部は、例えば、撮影部(例えば、MCSLO200)によって撮影された被検眼のマルチカラー眼底画像を取得する。画像取得部は、例えば、有線(USBケーブル、LANケーブル、IEEE1394ケーブルなど)または無線などの通信手段によって、マルチカラー眼底画像を撮影する撮影部、またはマルチカラー眼底画像を記憶する記憶部などに接続される。画像取得部は、通信手段を介して撮影部または記憶部等からマルチカラー眼底画像を取得する。画像取得部は、例えば、波長ごとに分かれた複数の眼底画像、またはそれらの眼底画像の内2つ以上を組み合わせた多チャンネル画像等のマルチカラー眼底画像を取得する。
【0011】
撮影部は、例えば、走査型のマルチカラー撮影装置である。撮影部は、例えば、光源と、走査部と、受光素子を備える。光源は、例えば、複数の波長を含む測定光を出射する。走査部は、例えば、測定光を走査し、被検眼に照射する。走査部は、例えば、ガルバノミラーによって測定光を走査する構成であってもよいし、絞りを移動させることによって測定光を走査する構成などであってもよい。受光素子は、例えば、被検眼の眼底によって反射した測定光の反射光(戻り光)を受光する。
【0012】
撮影部は、波長毎の受光信号を取得する。例えば、撮影部は、測定光を波長毎に異なるタイミングで被検眼に照射し、その戻り光を受光素子で受光することによって波長毎の受光信号を取得してもよい。また、撮影部は、複数の波長を含む測定光(例えば、白色光)を被検眼に照射したときの戻り光をダイクロイックミラー等の光分離部によって波長毎に分けてから受光素子で受光してもよい。例えば、撮影部は、波長毎の受光信号に基づいて1チャンネルの眼底画像を生成してもよいし、波長毎の眼底画像の内2つ以上を組み合わせた多チャンネル画像を取得してもよい。
【0013】
解析部は、画像取得部によって取得されたマルチカラー眼底画像に対して所見を検出する。所見は、例えば、網膜出血、毛細血管瘤、黄斑前膜、白斑、浮腫、網膜剥離、レーザ痕等の疾患に関係する特徴である。例えば、解析部は、マルチカラー眼底画像に対する画像処理によって、所見の有無、またはその位置等を検出する。
【0014】
このように、本実施形態の眼底画像処理装置は、画像取得部によって取得されたマルチカラー眼底画像に対して所見を検出することによって、診断に有用な情報をユーザに提供することができる。
【0015】
なお、測定光は、例えば、赤色、緑色または青色等の波長域の可視光線を含んでもよい。赤色、緑色または青色の波長域の測定光で眼底を撮影することによって、網膜表層、血管層、網膜色素上皮(RPE)を中心とする網膜深層など、深さの異なる層を良好に撮影することができる。もちろん、その他の波長を含んでもよい。例えば、測定光は、紫外、紫、青緑、黄緑、黄、橙、または赤外等の波長域の光線を含んでもよい。
【0016】
なお、解析部は、波長毎に生成された複数の眼底画像のそれぞれに対して所見を検出してもよい。また、解析部は、波長毎に生成された複数の眼底画像の内2つ以上を組み合わせた多チャンネル画像に対して所見を検出してもよい。もちろん、波長毎の眼底画像と多チャンネル画像のすべてに対して所見検出を行ってもよい。このように、マルチカラー眼底画像の種々の形態に対して所見を検出することによって、より多くの情報、または多角的な情報を得ることができる。
【0017】
なお、解析部は、機械学習アルゴリズムによって訓練された数学モデルを用いて眼底画像の解析を行ってもよい。機械学習アルゴリズムは、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン(SVM)等が一般的に知られている。
【0018】
ニューラルネットワークは、入力された信号に何等かの処理を行った結果を出力するユニットを複数接続した数学モデルである。ニューラルネットワークの一種である畳み込みネットワークは画像認識問題に有効な手法である。画像認識問題の代表としては、物体識別、物体検出、セグメンテーションがあり、それぞれの問題に対して様々なモデルが提案されている。物体識別は、画像に何が写っているのかを識別する問題で、AlexNet, GoogLeNet等のモデルが提案されている。物体検出は、物体の位置や姿勢を矩形などとして識別する問題で、YOLO等のモデルが提案されている。セマンティックセグメンテーション(semantic segmentation)は、物体がどこにあるのか画素レベルで識別する問題で、U-Net等のモデルが提案されている。また、この他にも、画像の解像度を高める超解像や、モノクロ画像に色を付けるカラリゼーションといった画像を対象とした様々な問題に対して畳み込みネットワークのモデルが提案されている。畳み込みネットワーク以外のニューラルネットワークモデルの例としては再帰型ニューラルネットワークがある。再帰型ニューラルネットワークは時系列データを扱えるモデルであり、自然言語処理に有効な手法である。
【0019】
ブースティングは、複数の弱識別器を組み合わせることで強識別器を生成する手法である。単純で弱い識別器を逐次的に学習することで、強識別器を構築する。
【0020】
ランダムフォレストは、ランダムサンプリングされた訓練データに基づいて、学習を行って多数の決定木を生成する方法である。ランダムフォレストを用いる場合、予め識別器として学習しておいた複数の決定木の分岐をたどり、各決定木から得られる結果を平均(あるいは多数決)する。
【0021】
SVMは、線形入力素子を利用して2クラスのパターン識別器を構成する手法である。SVMは、例えば、訓練データから、各データ点との距離が最大となるマージン最大化超平面を求めるという基準(超平面分離定理)で線形入力素子のパラメータを学習する。
【0022】
数学モデルは、例えば、入力データと出力データとの関係を表現する構造を指す。数学モデルは、訓練データセットに基づいて最適化される。訓練データセットは、入力訓練データと出力訓練データのセットである。入力訓練データは、数学モデルに入力されるサンプルデータである。例えば、入力訓練データには、過去に撮影された被検眼の画像が用いられる。出力訓練データは、数学モデルが入力訓練データに対して予測するべき値のサンプルデータである。例えば、出力訓練データには、画像の所見が存在する領域を示すマップまたは画像に所見が存在するかを示すラベルなどが用いられる。数学モデルは、ある入力訓練データが入力されたときの出力が、それに対応する出力訓練データに近づくように最適化される。例えばニューラルネットワークでは、ユニットの出力を接続される次のユニットに入力する際に掛けられる重みが更新される。
【0023】
例えば、解析部は、数学モデルにマルチカラー眼底画像を入力し、所見を出力させる。例えば、数学モデルからは、所見の有無や所見が存在する領域を示すマップなどが出力される。このように、解析部は、訓練された数学モデルを用いることによって、自動で所見検出を行う。
【0024】
なお、解析部は、画像に対応する波長別(チャンネル毎)に異なる数学モデルを用いて眼底画像を解析してもよい。例えば、解析部は、第1チャンネルの画像を学習した表層用数学モデルと、第1チャンネルとは異なる第2チャンネルの画像を学習した深層用数学モデルと、を用いて眼底画像を解析してもよい。このように、チャンネル毎に異なる数学モデルを用いることによって、複数の所見が重なっている場合であっても検出し易い。例えば、上下左右方向の2次元的な位置が同じで、深さ方向だけが互いに異なる複数の所見を検出し易い。もちろん、網膜表層用と網膜深層用の2つの数学モデルだけでなく、3つ以上の数学モデルを用いて眼底画像を解析してもよい。例えば、網膜表層用、網膜中間層用、網膜深層用などの数学モデルを用いてもよい。
【0025】
なお、表層用数学モデルは、例えば、緑色光の受光信号に基づく緑チャンネル画像と青色光の受光信号に基づく青チャンネル画像が学習されてもよい。緑色光および青色光などの波長の短い光は主に網膜表層で反射するため、これらの眼底画像は、網膜表層の情報が多い。また、深層用数学モデルは、赤色光の受光信号に基づく赤チャンネル画像が学習されてもよい。赤色光などの波長の長い光は主に網膜深層で反射するため、赤チャンネル画像は、網膜深層の情報が多い。このように、解析部は、波長の短い光の受光信号に基づく画像を学習させた数学モデルは表層用数学モデルとして用い、波長の長い光の受光信号に基づく画像を学習させた数学モデルは深層用学習モデルとして用いてもよい。
【0026】
なお、撮影部は、マルチカラーSLO(以下、MCSLOと略す)であってもよい。MCSLOは、例えば、複数の波長を含む測定光を被検眼に対して走査することによって、波長毎の受光信号に基づくマルチカラー眼底画像を撮影できる走査型レーザ検眼鏡である。
【0027】
なお、解析部は、眼底画像に対して検出した所見に基づいて、被検眼の診断に用いられる参考情報を出力してもよい。このとき、診断のための参考情報を出力するために機械学習を行った数学モデルを用いてもよい。例えば、解析部は、各所見の有無の情報と被検眼の診断結果の組が学習された診断用数学モデルを用いてもよい。この場合、解析部は、各所見の有無の情報を診断用の数学モデルに入力することによって、被検眼の診断に用いられる参考情報を出力させてもよい。
【0028】
また、所見の検出結果に誤りがある場合、診断用の数学モデルに入力する所見情報をユーザが修正してもよい。このように、数学モデルを用いて被検眼の画像診断を行う際に、所見検出を介することによって、診断の根拠となる情報を確認することが可能となる。ここで用いられる所見情報は、それが検出された原画像よりも診断に有用な情報をより単純により強く示していると考えられる。そのため、数学モデルを用いて被検眼の画像診断を行う際に、所見検出を介することによって、学習データが少ない場合でも診断モデルの学習が適切に行われる可能性が高い。また、所見検出を眼底画像から所見の存在する領域を示すマップを求める問題とすることで、比較的学習データが少ない場合でも良好な所見検出結果が得られる。この場合、所見の存在する領域を示すマップから、画像の所見の有無や、画像を分割した部分領域毎の所見の有無の情報を得ることができ、これらの情報を診断用数学モデルへの入力としてもよい。もちろん、解析部は、所見検出を介さずに、マルチカラー眼底画像から疾患を検出してもよい。
【0029】
なお、眼底画像処理装置のプロセッサは、眼底画像処理プログラムを実行してもよい。眼底画像処理プログラムは、例えば、生成ステップと、画像取得ステップと、解析ステップを含む。生成ステップは、例えば、複数の波長を含む測定光を走査手段によって走査し、被検眼の眼底によって反射した測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて眼底画像を生成するステップである。画像取得ステップは、生成ステップによって生成された眼底画像を取得するステップである。解析ステップは、波長毎の受光信号に基づいて生成された眼底画像に対して所見を検出するステップである。眼底画像処理プログラムは、例えば、眼底画像処理装置の記憶部等に記憶されてもよいし、外部の記憶媒体に記憶されてもよい。
【0030】
<実施例>
以下、本開示に係る眼底画像処理装置の実施例を説明する。本実施例の眼底画像処理装置100は、眼底画像を解析処理することによって所見の検出を行う。所見は、例えば、網膜出血、毛細血管瘤、黄斑前膜、白斑、浮腫、網膜剥離、レーザ痕等の疾患に関係する特徴である。
【0031】
眼底画像処理装置100は、例えば、画像取得部1、解析部2、記憶部4、操作部5、表示制御部6、または表示部7などを備える。画像取得部1は、被検眼のマルチカラーSLO画像を取得する。マルチカラーSLO画像は、例えば、マルチカラーSLO(MCSLOと略す)200によって取得されたRGB(赤、緑、青)の3チャンネルの画像である。画像取得部1は、MCSLO200と有線または無線等の通信手段を介して接続されている。例えば、画像取得部1は、通信手段を介してMCSLO200からMCSLO画像を受信し、記憶部4等に記憶させる。なお、画像取得部1は、通信手段を介して接続されたHDD、USBメモリ等の外部記憶装置などからMCSLO画像を取得してもよい。
【0032】
解析部2は、取得されたMCSLO画像を解析することによって所見を検出する。例えば、解析部2は、機械学習アルゴリズムによって訓練された数学モデルを用いて画像解析を行う。例えば、数学モデルは、MCSLO画像が入力されると、各所見の有無とその位置等を出力するように訓練される。解析部2は、数学モデルにMCSLO画像を入力することによって所見の検出結果を出力させる。解析部2による所見の検出結果は、表示部7または記憶部4等に送られる。
【0033】
記憶部4は、眼底画像処理装置100の制御に関わる各種プログラム、各種画像データ、および解析結果などを記憶する。表示制御部6は、表示部7の表示を制御する。表示部7は、画像取得部1によって取得された画像、および解析部2による解析結果などを表示する。表示部7は、タッチパネル式のディスプレイであってもよい。この場合、表示部7は、操作部として兼用される。
【0034】
なお、画像取得部1、解析部2、記憶部4、表示制御部6は、例えば、画像処理装置100として用いられるコンピュータのプロセッサ(例えば、CPUなど)が、各種プログラムを実行することによって実現されてもよいし、それぞれ独立した制御基板として設けられてもよい。
【0035】
眼底画像処理装置100は、例えば、パーソナルコンピュータであってもよい。例えば、眼底画像処理装置100として、デスクトップPC、ノート型PC、またはタブレット型PCが用いられてもよい。もちろん、サーバであってもよい。また、眼底画像処理装置100は、眼科撮影装置等の内部に格納されたコンピュータであってもよい。
【0036】
<数学モデルを用いた解析処理>
続いて、解析部2の画像解析処理について説明する。解析部2は、機械学習アルゴリズムによって訓練された数学モデルを用いて解析を行う。機械学習アルゴリズムは、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン(SVM)等である。
【0037】
上記のような数学モデルは、適切な訓練データセットとアルゴリズムを用いて最適化することで、未知のデータに対して予測を行うことができる。例えば、ニューラルネットワークの場合、誤差逆伝播法を用いてモデルの最適化が行われる。ここで、訓練データセットは、モデルに学習させる問題の入力と出力の正解がペアとなったデータのセットである。最適化では、訓練データセットからデータをサンプルし、サンプルされたデータをモデルに入力して、得られた出力と正解の誤差が小さくなるようにモデル内の値を更新する。ここで更新されるモデル内の値とは、ニューラルネットの各ユニットの接続で掛けられる重みや、足されるバイアス等の値のことである。このような訓練データのサンプルとモデルの更新を行う訓練を繰り返すことで、モデルがより正解に近い値を出力するように最適化される。モデルの訓練の終了は、例えば、検証データセットに対するモデルの評価に基づいて行われる。検証データセットは訓練データセットに含まれないデータから成るデータセットである。訓練を繰り返す度に検証データに対するモデルの評価値を算出し、その評価値が改善されなくなったところで訓練を終了させる。
【0038】
ニューラルネットワークの入力と出力は、学習させる問題の入力と出力の形式に対応するように複数のユニットを用いて構成される。例えば、画像を入力とする場合、モデルの入力は高さ×幅×チャンネルの画像の各画素に対応するユニットとなる。また、画像を分類するモデルでは、出力を分類対象の各クラスに対応するユニットとし、その値を入力が対応するクラスに分類される確率として扱う。画像のセグメンテーションを行うモデルでは、出力を高さ×幅×クラスの画像の各画素が各クラスに分類される確率に対応するユニットとする。例えば、被検眼のMCSLO画像からある所見の有無の判定を行う場合、モデルの入力はMCSLO画像の各画素に対応するユニット、出力は検出対象の所見が存在する確率に対応するユニットとなり、訓練データセットはMCSLO画像と所見の有無を示すラベルのペアのセットとなる。
【0039】
解析部2は、画像取得部1によって取得されたMCSLO画像を記憶部4から読み出し、数学モデルに入力する。そして、解析部2は、数学モデルの規則に従って算出された各所見の確率を取得する。解析部2は、出力された所見の検出結果を記憶部4に記憶させる。
【0040】
<MCSLO>
MCSLO200は、複数の波長を含むレーザ光を眼底上で走査し、眼底からのレーザ光の戻り光を受光することによって眼底の正面画像を取得する装置である。MCSLO200は、光干渉断層計(Optical Coherence Tomography: OCT)、視野計などの他の眼科装置と一体化された装置であってもよい。
【0041】
なお、以下の説明において、MCSLO200は、観察面上でスポット上に集光されるレーザ光を、走査部の動作に基づき,2次元的に走査することで眼底画像を得るものとする。
【0042】
図2を参照して、MCSLO200に設けられた光学系を説明する。
図2に示すように、MCSLO200は、照射光学系10と、受光光学系20と、を有する(まとめて、「撮影光学系」と称す)。MCSLO200は、これらの光学系10,20を用いて眼底画像を撮影する。
【0043】
照射光学系10は、少なくとも走査部16と、対物レンズ系17と、を含む。また、
図2に示すように、照射光学系10は、更に、レーザ光出射部11、コリメーティングレンズ12、穴開きミラー13、レンズ14(本実施例において、視度調節部40の一部)、および、レンズ15を有してもよい。
【0044】
レーザ光出射部11は、照射光学系10の光源である。本実施例では、レーザ光出射部11からのレーザ光が、照射光学系10から眼底Erへ照射される照明光として利用される。レーザ光出射部11は、例えば、レーザーダイオード(LD)、および、スーパールミネッセントダイオード(SLD)等を含んでいてもよい。具体的な構造についての説明は省略するが、レーザ光出射部11は、少なくとも1種類以上の波長域の光を出射する。本実施例では、複数色の光が、同時に、又は選択的に、レーザ光出射部11から出射されるものとする。例えば、本実施例では、レーザ光出射部11から、青,緑,赤の可視域の3色と、赤外域の1色と、の計4色の光が出射される。各色の光は、同時に、又は、交互に出射可能である。青,緑,赤の可視域の3色は、例えば、カラー撮影に利用される。ここでいう同時は、厳密に同時である必要はなく、それぞれの波長の光の出射タイミングにタイムラグがあってもよい。タイムラグは、例えば、それぞれの波長の光に基づいて形成される眼底画像において、眼球運動による画像間のずれが許容される範囲であってもよい。
【0045】
例えば、光源11から青,緑,赤の3色が実質的に同時に出射されることによって、カラー撮影が行われる。また、可視域の3色のうち、いずれか1色が、可視蛍光撮影に利用されてもよい。例えば、青色の光が、可視蛍光撮影の一種であるFA撮影(フルオレセイン蛍光造影撮影)に利用されてもよい。また、例えば、緑色の光が、FAF撮影(FundusAuto-Fluorescence:自発蛍光)に利用されてもよい。つまり、眼底に蓄積された蛍光物質(例えば、リポフスチン)の励起光として利用されてもよい。また、例えば、赤外域の光は、赤外域の眼底反射光を用いる赤外撮影の他、赤外蛍光撮影に利用されてもよい。例えば、赤外蛍光撮影には、IA撮影(インドシアニングリーン蛍光造影撮影)が知られている。この場合、レーザ光源11から出射される赤外光は、IA撮影で使用されるインドシアニングリーンの蛍光波長とは異なる波長域に設定されていることが好ましい。
【0046】
レーザ光は、
図2に示した光線の経路にて眼底Erに導かれる。つまり、レーザ光出射部11からのレーザ光は、コリメーティングレンズ12を経て穴開きミラー13に形成された開口部を通り、レンズ14およびレンズ15を介した後、走査部16に向かう。走査部16によって反射されたレーザ光は、対物レンズ系17を通過した後、被検眼Eの眼底Erに照射される。その結果、レーザ光は、眼底Erで反射・散乱される、或いは、眼底に存在する蛍光物質を励起させ、眼底からの蛍光を生じさせる。これらの光(つまり、反射・散乱光および蛍光等)が、戻り光として、瞳孔から出射される。
【0047】
本実施例において、
図2に示すレンズ14は、視度調節部40の一部である。視度調節部40は、被検眼Eの視度の誤差を矯正(軽減)するために利用される。例えば、レンズ14は、駆動機構14aによって、照射光学系10の光軸方向へ移動可能である。レンズ14の位置に応じて、照射光学系10および受光光学系20の視度が変わる。このため、レンズ14の位置が調節されることで、被検眼Eの視度の誤差が軽減され、その結果として、レーザ光の集光位置が、眼底Erの観察部位(例えば、網膜表面)に設定可能となる。なお、視度調節部40は、例えば、バダール光学系など、
図2とは異なる光学系が適用されてもよい。
【0048】
走査部16(「光スキャナ」ともいう)は、光源(レーザー光出射部11)から発せられたレーザ光を、眼底上で走査するためのユニットである。以下の説明では、特に断りが無い限り、走査部16は、レーザ光の走査方向が互いに異なる2つの光スキャナを含むものとする。即ち、主走査用(例えば、X方向への走査用)の光スキャナ16aと、副走査用(例えば、Y方向への走査用)の光スキャナ16bと、を含む。以下では、主走査用の光スキャナ16aはレゾナントスキャナであり、副走査用の光スキャナ16bはガルバノミラーであるものとして説明する。但し、各光スキャナ16a,16bには、他の光スキャナが適用されてもよい。例えば、各光スキャナ16a,16bに対し、他の反射ミラー(ガルバノミラー、ポリゴンミラー、レゾナントスキャナ、および、MEMS等)の他、光の進行(偏向)方向を変化させる音響光学素子(AOM)等が適用されてもよい。
【0049】
対物レンズ系17は、SLO200の対物光学系である。対物レンズ系17は、走査部16によって走査されるレーザ光を、眼底Erに導くために利用される。そのために、対物レンズ系17は、走査部16を経たレーザ光が旋回される旋回点Pを形成する。旋回点Pは、照射光学系10の光軸L1上であって、対物レンズ系17に関して走査部16と光学的に共役な位置に形成される。なお、本開示において「共役」とは、必ずしも完全な共役関係に限定されるものではなく、「略共役」を含むものとする。即ち、眼底画像の利用目的(例えば、観察、解析等)との関係で許容される範囲で、完全な共役位置からズレて配置される場合も、本開示における「共役」に含まれる。但し、MCSLO200の対物光学系は、レンズ系に限定されるものではなく、ミラー系であってもよいし、レンズ系とミラー系とを組み合わせたものでもあってもよいし、その他の光学系であってもよい。
【0050】
走査部16を経たレーザ光は、対物レンズ系17を通過することによって、旋回点Pを経て、眼底Erに照射される。このため、対物レンズ系17を通過したレーザ光は、走査部16の動作に伴って旋回点Pを中心に旋回される。その結果として、本実施例では、眼底Er上でレーザ光が2次元的に走査される。眼底Erに照射されたレーザ光は、集光位置(例えば、網膜表面)にて反射される。また、レーザ光は、集光位置の前後の組織にて散乱される。反射光および散乱光は、平行光としてそれぞれ瞳孔から出射する。
【0051】
次に、受光光学系20について説明する。受光光学系20は、1つ又は複数の受光素子を持つ。例えば、
図2に示すように、複数の受光素子25,27,29を有してもよい。この場合、照射光学系10によって照射されたレーザ光による眼底Erからの光は、受光素子25,27,29によって受光される。
【0052】
図2に示すように、本実施例における受光光学系20は、対物レンズ系17から穴開きミラー13までに配置された各部材を、照射光学系10と共用してもよい。この場合、眼底からの光は、照射光学系10の光路を遡って、穴開きミラー13まで導かれる。穴開きミラー13は、被検眼の角膜,および,装置内部の光学系(例えば対物レンズ系のレンズ面等)での反射によるノイズ光の少なくとも一部を取り除きつつ、眼底Erからの光を、受光光学系20の独立光路へ導く。
【0053】
なお、照射光学系10と受光光学系20とを分岐させる光路分岐部材は、穴開きミラー13に限られるものではなく、その他のビームスプリッタが利用されてもよい。
【0054】
本実施例の受光光学系20は、穴開きミラー13の反射光路に、レンズ21、ピンホール板23、および、光分離部(光分離ユニット)30を有する。また、光分離部30と各受光素子25,27,29との間に、レンズ24,26,28が設けられている。本実施例において、光分離部(光分離ユニット)30が、分光部として利用される。
【0055】
ピンホール板23は、眼底共役面に配置されており、MCSLO200における共焦点絞りとして機能する。すなわち、視度調節部40によって視度が適正に補正される場合において、レンズ21を通過した眼底Erからの光は、ピンホール板23の開口において焦点を結ぶ。ピンホール板23によって、眼底Erの集光点(あるいは、焦点面)以外の位置からの光が取り除かれ、残り(集光点からの光)が主に受光素子25,27,29へ導かれる。
【0056】
光分離部30は、眼底Erからの光を分離させる。本実施例では、光分離部30によって、眼底Erからの光が波長選択的に光分離される。また、光分離部30は、受光光学系20の光路を分岐させる光分岐部を兼用していてもよい。例えば、
図2に示すように、光分離部30は、光分離特性(波長分離特性)が互いに異なる2つのダイクロイックミラー(ダイクロイックフィルター)31,32を含んでいてもよい。受光光学系20の光路は、2つのダイクロイックミラー31,32によって、3つに分岐される。また、それぞれの分岐光路の先には、受光素子25,27,29の1つがそれぞれ配置される。
【0057】
例えば、光分離部30は、眼底Erからの光の波長を分離させ、3つの受光素子25,27,29に、互いに異なる波長域の光を受光させる。例えば、青,緑,赤の3色の光を、受光素子25,27,29に1色ずつ受光させてもよい。この場合、各受光素子25,27,29の受光結果から、カラー画像を得ることができる。
【0058】
また、光分離部30は、赤外撮影で使用される赤外域の光を、受光素子25,27,29の少なくとも1つに受光させる。この場合において、例えば、蛍光撮影で使用される蛍光と、赤外撮影で使用される赤外域の光とが、互いに異なる受光素子に受光されてもよい。
【0059】
各受光素子25,27,29が感度を持つ波長帯は、互いに異なっていてもよい。また、受光素子25,27,29のうち、少なくとも2つが、共通の波長域に感度を持っていてもよい。それぞれの受光素子25,27,29は、受光した光の強度に応じた信号(以下、受光信号と称す)をそれぞれ出力する。本実施形態において、受光信号は、受光素子毎に別々に処理されて画像が生成される。つまり、本実施形態では、最大で3種類の眼底画像が、並行して生成される。
【0060】
<制御動作>
本実施例の眼底画像処理装置100が画像処理を行うときの制御動作を
図3に基づいて説明する。以下の例では、MCSLO200によって撮影されたMCSLO画像を解析することによって被検眼の自動診断を行う場合について説明する。
【0061】
(ステップS1:画像の取得)
まず、画像取得部1は、MCSLO画像を取得する。画像取得部1は、例えば、無線または有線などの通信手段を介し、MCSLO200によって撮影された画像を取得する。MCSLOによって撮影されたMCSLO画像は、MCSLO200の記憶部8(
図1参照)等に記憶されている。画像取得部1は、記憶部8に記憶されたMCSLO画像をMCSLO200から受信し、記憶部4に記憶させる。なお、画像取得部1は、MCSLO200から直接画像を取得してもよいし、USBメモリ等の外部記憶装置に記憶されたMCSLO画像を取得してもよい。
【0062】
(ステップS2:所見検出)
続いて、解析部2は、取得したMCSLO画像を解析することによって所見を検出する。例えば、前述のように、解析部2は、機械学習アルゴリズムによって訓練された数学モデルを用いてMCSLO画像の解析を行う。例えば、数学モデルには、MCSLO画像と、所見の検出結果の組み合わせが学習されている。解析部2は、学習済みの数学モデルにMCSLO画像を入力することによって所見検出を行う。
【0063】
なお、数学モデルには、赤チャンネル、緑チャンネル、青チャンネルの各チャンネルの画像の種々の組み合わせが学習される。例えば、数学モデルは、赤チャンネル、緑チャンネル、青チャンネルの各チャンネルの画像を学習してもよいし、赤チャンネルと緑チャンネル、緑チャンネルと青チャンネル、青チャンネルと赤チャンネルの2チャンネルを組み合わせた多チャンネル画像を学習してもよいし、赤チャンネル、緑チャンネル、青チャンネルの3チャンネルを組み合わせた多チャンネル画像を学習してもよい。もちろん、これらそれぞれの入力形式に対応した数学モデルをそれぞれ学習させ、所見の検出に用いてもよい。また、
図4A、
図4Bに示すように、眼底画像の全体画像50や、眼底画像の部分画像50aそれぞれに対応した数学モデルがそれぞれ学習されてもよい。解析部2は、数学モデルが学習した画像の形式に応じて、各チャンネルの画像、複数のチャンネルの画像、全体画像50または部分画像50aなどを数学モデルに入力することによって、所見を出力させる。また、数学モデルにセグメンテーションで用いられるような学習と予測で異なるサイズの画像を利用可能なモデルを用いた場合、学習と予測で異なるサイズの画像を適用してもよい。例えば、数学モデルの学習時の入力を部分画像として所見の存在する領域を優先的に学習させるようにしてもよく、予測時の入力を部分画像として画像の関心のある領域のみを数学モデルに処理させてもよい。
【0064】
なお、MCSLO画像は、波長によって撮影される深さが異なる。したがって、学習する画像の波長が異なる数学モデルを複数用意してもよい。例えば、
図5に示すように、解析部2は、網膜表層の所見を検出する表層用数学モデル61と、網膜深層の所見を検出する深層用数学モデル62を用いて所見を検出してもよい。例えば、表層用数学モデル61は、網膜表層の組織が主に撮影される緑チャンネルと青チャンネルの画像が学習され、深層用数学モデル62は、網膜深層の組織が主に撮影される赤チャンネルの画像が学習される。解析部2は、被検眼から撮影されたMCSLO画像51において、青チャンネルの画像51Bと緑チャンネルの画像51Gを表層用数学モデル61に入力することによって網膜表層の所見81を出力させる。同様に、解析部2は、赤チャンネルの画像51Rを深層用数学モデル62に入力することによって網膜深層の所見82を出力させる。このように、チャンネル毎に異なる数学モデルを用いることによって、
図5に示すように網膜表層の所見81と網膜深層の所見82の位置が重なっている場合であっても、所見81と所見82を分けて検出できる。
【0065】
なお、所見の出力方法としては、例えば、
図6に示すように、MCSLO画像に対する各所見のセグメンテーションによって得られたマップ画像を出力してもよい。また、
図7に示すように、画像の分割領域ごとに各所見の有無を示すマップ画像を出力してもよい。また、
図11に示すように、画像の各所見の有無の識別に対する数学モデルの注視領域を示すマップ画像(アテンションマップ)を出力してもよい。
【0066】
(ステップS3:診断)
解析部2は、MCSLO画像の解析によって得られた所見の検出結果に基づいて、被検眼の診断を行う。例えば、解析部2は、所見のマップ画像に基づいて、そこから予想される疾患(糖尿病網膜症、黄斑前膜等)の識別を行い、各疾患の識別結果を得る。なお、解析部2は、疾患の識別結果が学習された数学モデルを用いて、疾患の識別を行ってもよい。例えば、解析部2は、所見のマップ画像を数学モデルに入力することによって、各疾患の確率などを出力させてもよい。
【0067】
(ステップS4:診断結果表示)
表示制御部6は、ステップS3で得られた各疾患の診断結果を表示部7に表示する。このとき、表示制御部6は、ステップS2で得られた所見のマップ画像を診断結果の確認情報として表示してもよい。これによって、ユーザは、最終的な診断結果だけでなく、診断の根拠を確認することができる。
【0068】
上記のように、眼科画像処理装置100は、MCSLO画像に対して自動で所見検出を行う。これによって、マルチカラー眼底画像に不慣れなユーザであっても、読影または診断を容易に行うことができる。また、MCSLO画像において、赤、緑、青などの波長毎の画像、またはそれらを組み合わせた多チャンネル画像に対して所見を検出することによって、より多くの情報を取得することができる。
【0069】
なお、本実施例のように、機械学習アルゴリズムによって学習された数学モデルを用いることによって、より正確に所見を検出することができる。また、波長の異なる画像を学習させた数学モデルを用いることによって、各層の所見に重なりがある場合であっても良好に検出することができる。
【0070】
なお、一つの数学モデルを作成するために数万枚の画像が必要とされるが、MSCLO画像などは従来から用いられている眼底写真と比べてまだ普及しておらず、大量の画像を入手することが困難である。このような場合、本実施例のように、まず所見の検出を行う数学モデルを適用し、その結果を用いて診断を行うことによって、比較的小規模なデータセットの学習であっても良好な数学モデルを構築できる。
【0071】
なお、眼底画像処理装置100は、所見の出力のみを行うようにしてもよい。この場合、ユーザは、眼底画像処理装置100が出力した所見に基づいて被検眼の診断を行ってもよい。例えば、ユーザは、表示部7に出力された所見を確認し、タッチパネルなどの操作部によって診断結果を入力する。このように、ユーザが被検眼の診断を行う場合であっても、眼底の深さに応じた所見を確認することができるため、より正確に診断を行うための情報を取得することができる。
【0072】
なお、上記の実施例では、ニューラルネットワークによって所見検出を行ったが、これに限らない。例えば、ランダムフォレスト、ブースティング、SVM等の他の機械学習アルゴリズムを用いてもよい。
【0073】
なお、画像取得部1は、サーバ等から画像を取得してもよい。例えば、多数の機種で撮影された複数の測定結果がネットワークを介してサーバに記憶され、画像取得部1は、サーバから他のMCSLO装置で撮影された画像データを取得できてもよい。また、画像取得部1は、被検者の登録情報および検査情報等が管理される電子カルテシステムから画像を取得してもよい。
【0074】
なお、数学モデルを用いた画像解析において、様々な種類の画像が用いられてもよい。例えば、マルチカラーSLO画像の他に、断層画像、眼底画像、血管画像、前眼部画像などを数学モデルに入力してもよい。これらの画像は、例えば、OCT装置、眼底カメラ、前眼部観察カメラ、スリットランプ、シャインプルーフカメラ等の各種眼科撮影装置によって撮影される。
【0075】
なお、
図8A、
図8Bに示すように、異なる撮影装置によって撮影されたマルチカラー眼底画像Q1,Q2は、色のバランスが異なる。このため、例えば、第1撮影装置200Aによって撮影された眼底画像を学習した数学モデルでは、第2撮影装置200Bで撮影した画像を正しく識別できない。
【0076】
そこで、解析部2は、異なる撮影装置で撮影された眼底画像を同じ数学モデルで識別できるように、数学モデルに入力する前に眼底画像の各チャンネルの輝度を正規化してもよい。画像を正規化すると、撮影装置が異なる場合であっても、近い波長で撮影されていれば同じような画像になる。例えば、
図9に示すように、第1撮影装置200Aで撮影された眼底画像Q1を正規化した眼底画像K1と、第2撮影装置200Bで撮影された眼底画像Q2を正規化した眼底画像K2は、同じような画像になる。このため、眼底画像Q1を正規化した眼底画像K1で学習された数学モデル60は、眼底画像Q2を正規化した眼底画像K2を識別することができる。つまり、数学モデルに入力する前に画像を正規化しておけば、学習に用いた撮影装置とは異なる撮影装置の眼底画像であっても同じ数学モデルで識別することができる。正規化の方法としては、例えば、眼底画像の各チャンネルに対し、そのチャンネルの平均を引いてそのチャンネルの標準偏差で割る処理等が考えられる。もちろん、他の正規化方法を用いてもよい。なお、正規化としては、輝度の他、画像の解像度を揃えるようにしてもよい。
【0077】
なお、数学モデルの学習に用いた撮影装置とは異なる撮影装置によって撮影された眼底画像を入力する場合、解析部2は、各チャンネルの眼底画像の輝度に適切な重みを掛けてから数学モデルに入力するようにしてもよい。例えば、
図10に示すように、第2撮影装置200Bによって撮影された眼底画像Q2の各チャンネルにそれぞれ重みwR,wG,wBを掛けることによって、第1撮影装置200Aによって撮影された眼底画像Q1に似た眼底画像Q3に変換する。このように、数学モデルに入力する眼底画像(第2眼底画像)が学習済みの眼底画像(第1眼底画像)の仕様に近付くように重みを掛けることで、異なる撮影装置の画像であっても1つの数学モデルで識別させることができる。重みの計算方法としては、例えば、各撮影装置の代表的な画像の輝度の平均、または分散等を用いて計算してもよいし、ユーザが手動で適切な重みを設定してもよい。また、撮影装置がチャンネル別の画像を生成するときに用いる重みが分かれば、その重みを利用して計算してもよい。なお、重みを掛けるだけでなく、オフセット値を加えるなど他の補正値を用いてもよい。
【0078】
なお、異なる撮影装置によって撮影された単色の眼底画像においても、輝度の大きさ等が異なるため、輝度の正規化または重みを掛ける処理等を行ってもよい。
【0079】
また、正規化または重みを掛ける処理については、白色光源を備え、白色光源による眼底反射光を受光することによってカラー眼底画像を撮影する眼底撮影装置(例えば、眼底カメラ、走査型眼底撮影装置)に適用可能である。この場合、カラー眼底画像の各画素の輝度は、RGB毎の輝度値として取得される。そこで、RGB毎の輝度値に関して、第1撮影装置によって撮影された第1のカラー眼底画像と、第2撮影装置によって撮影された第2のカラー眼底画像との間で、正規化または重みを掛ける処理を行うようにしてもよい。
【符号の説明】
【0080】
100 画像処理装置
1 画像取得部
2 解析部
4 記憶部
6 表示制御部
7 表示部
8 記憶部
200 マルチカラーSLO