(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-22
(45)【発行日】2024-07-30
(54)【発明の名称】診断支援方法および診断支援装置
(51)【国際特許分類】
A61B 3/12 20060101AFI20240723BHJP
A61B 3/14 20060101ALI20240723BHJP
G06T 7/00 20170101ALN20240723BHJP
【FI】
A61B3/12 300
A61B3/14
G06T7/00 612
(21)【出願番号】P 2022147056
(22)【出願日】2022-09-15
(62)【分割の表示】P 2019566525の分割
【原出願日】2019-01-18
【審査請求日】2022-10-14
(31)【優先権主張番号】P 2018007585
(32)【優先日】2018-01-19
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100161207
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100140774
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100175824
【氏名又は名称】小林 淳一
(72)【発明者】
【氏名】栗原 俊英
(72)【発明者】
【氏名】堅田 侑作
(72)【発明者】
【氏名】坪田 一男
(72)【発明者】
【氏名】正好 奏斗
【審査官】増渕 俊仁
(56)【参考文献】
【文献】米国特許出願公開第2016/0071266(US,A1)
【文献】Varun Gulshan, et al.,Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Ret,JAMA,2016年11月29日,Vol. 316, No. 22,pp. 2402-2410,https://jamanetwork.com/journals/jama/fullarticle/2588763
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00-3/18
(57)【特許請求の範囲】
【請求項1】
眼底画像を取得することと、
前記眼底画像における血液循環異常領域を特定するように構成される学習モデルであって、教師眼底画像、蛍光造影画像、前記蛍光造影画像に関連付けられた血液循環異常情報を含む教師データセットに基づいて学習した学習モデルを用いて、前記眼底画像を処理することと、
前記眼底画像における前記血液循環異常領域に関する情報を出力することと、
を含む、診断支援方法。
【請求項2】
前記蛍光造影画像は、前記教師眼底画像と対応している、請求項1に記載の診断支援方法。
【請求項3】
前記蛍光造影画像と前記教師眼底画像は、同一の患者から取得される、請求項1に記載の診断支援方法。
【請求項4】
前記眼底画像は、蛍光眼底造影を実施することなく取得した画像である、請求項1に記載の診断支援方法。
【請求項5】
血液循環異常情報に関連付けられた前記教師眼底画像に共通する特徴を特定することにより、前記眼底画像における前記血液循環異常領域を特定する、請求項1に記載の診断支援方法。
【請求項6】
前記血液循環異常領域は、前記眼底画像における網膜無灌流領域である、請求項1に記載の診断支援方法。
【請求項7】
前記血液循環異常領域は、前記眼底画像における新生血管に該当する領域である、請求項1に記載の診断支援方法。
【請求項8】
前記蛍光造影画像に関連付けられた前記血液循環異常情報は、網膜無灌流領域及び/又は新生血管に該当する領域に関するアノテーションを含む、請求項1に記載の診断支援方法。
【請求項9】
前記教師データセットは、前記教師眼底画像に付された付随所見に関するアノテーションをさらに含む、請求項1に記載の診断支援方法。
【請求項10】
前記教師データセットは、前記蛍光造影画像に付された付随所見に関するアノテーションをさらに含む、請求項1に記載の診断支援方法。
【請求項11】
前記眼底画像における前記血液循環異常領域に関する情報は、前記眼底画像に前記血液循環異常領域を重ねた画像を含む、請求項1に記載の診断支援方法。
【請求項12】
前記教師眼底画像及び前記蛍光造影画像の眼球の位置は一致する、請求項1に記載の診断支援方法。
【請求項13】
前記教師データセットは、前記教師眼底画像及び前記蛍光造影画像の緑成分を含む、請求項1に記載の診断支援方法。
【請求項14】
前記眼底画像における網膜無灌流領域及び/又は新生血管の存在確率を演算することをさらに含む、請求項1に記載の診断支援方法。
【請求項15】
前記網膜無灌流領域の存在確率及び/又は新生血管の存在確率は、前記網膜無灌流領域及び/又は新生血管を有する前記教師眼底画像に共通する特徴を抽出し、前記眼底画像について、前記特徴との合致度合を正規化させることで、演算される、請求項14に記載の診断支援方法。
【請求項16】
前記網膜無灌流領域の存在確率及び/又は新生血管の存在確率を識別表示させた存在確率マップを生成する、請求項14に記載の診断支援方法。
【請求項17】
メモリと、
前記メモリに接続されているプロセッサとを備え、
前記プロセッサは、
眼底画像を受信し、
前記眼底画像における血液循環異常領域を特定するように構成される学習モデルであって、教師眼底画像、蛍光造影画像、前記蛍光造影画像に関連付けられた血液循環異常情報を含む教師データセットに基づいて学習した学習モデルを用いて、前記眼底画像を処理し、
前記眼底画像における前記血液循環異常領域に関する情報を出力する、診断支援装置。
【請求項18】
前記蛍光造影画像と前記教師眼底画像とは関連付けられた、請求項17に記載の診断支援装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、診断支援装置、学習装置、診断支援方法、学習方法及びプログラムに関する。
本願は、2018年1月19日に、日本に出願された特願2018-7585号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
糖尿病網膜症は本邦の失明原因の第2位を占める重要な疾患であるが、自覚症状が出現するのは、病期がかなり進行してからとなるため、検診などでの早期発見・早期治療が重要である。この課題に対し、糖尿病網膜症の初期変化である毛細血管瘤を強調させる眼底画像解析システム(特許文献1参照)や、眼底画像から糖尿病網膜症のスクリーニングを行う画像解析システム(特許文献2参照)が提案されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2010-178802号公報
【文献】US2014/0314288A1
【発明の概要】
【0004】
本発明の一態様は、眼底画像を取得することと、前記眼底画像における血液循環異常領域を特定するように構成される学習モデルであって、教師眼底画像、蛍光造影画像、前記蛍光造影画像に関連付けられた血液循環異常情報を含む教師データセットに基づいて学習した学習モデルを用いて、前記眼底画像を処理することと、前記眼底画像における前記血液循環異常領域に関する情報を出力することと、を含む、診断支援方法である。
【図面の簡単な説明】
【0005】
【
図1】本発明の情報処理装置の一実施形態であるサーバを含む、情報処理システムの構成図である。
【
図2】
図1の情報処理システムのうち、サーバのハードウェア構成を示すブロック図である。
【
図3】
図2のサーバの機能的構成のうち、NPA・NV存在確率マップ生成処理、付随所見存在確率マップ生成処理、推定NPA・NV特定処理、及び推定NPA・NV表示処理の各種処理を実現するための機能的構成の一例を示す機能ブロック図である。
【
図4】
図3のサーバが実行するNPA・NV存在確率マップ生成処理、付随所見存在確率マップ生成処理、推定NPA・NV特定処理、及び推定NPA・NV表示処理等の各種処理の流れを説明するフローチャートである。
【
図5】
図3のサーバが実行する処理に用いられる各種情報の流れを示す図である。
【
図6】
図3のサーバが実行する処理において取得される眼底画像情報の一例を示す図である。
【
図7】
図3のサーバが実行する処理において取得される蛍光眼底造影画像情報の一例を示す図である。
【
図8】
図3のサーバが実行するNPA・NV存在確率マップ生成処理で出力されるNPA・NV存在確率マップの一例を示す図である。
【
図9】
図3のサーバが実行する推定NPA・NV特定処理において特定される推定NPA及び推定NVの一例を示す図である。
【
図10】本発明の一実施形態の変形例の情報処理システムの構成図である。
【
図11】本発明の一実施形態の変形例の学習装置の一例を示すブロック図である。
【
図15】ニューラルネットワークの構造の一例を示す図である。
【
図16】本発明の一実施形態の変形例の診断支援装置の一例を示すブロック図である。
【
図17】本発明の一実施形態の変形例の学習装置の動作の一例を示すフローチャートである。
【
図18】本発明の一実施形態の変形例の診断支援装置の動作の一例を示すフローチャートである。
【発明を実施するための形態】
【0006】
以下、本発明の実施形態について図面を用いて説明する。
図1は、本発明の情報処理装置の一実施形態であるサーバ1を含む、情報処理システムの構成図である。
【0007】
図1に示す情報処理システムは、サーバ1と、眼科医端末2と、検査機器3とを含むように構成されている。
サーバ1と、眼科医端末2と、検査機器3とは、インターネット(Internet)等のネットワークNを介して相互に接続されている。
【0008】
サーバ1は、
図1に示す情報処理システムを管理するサーバであり、例えば、NPA・NV存在確率マップ生成処理、付随所見存在確率マップ生成処理、推定NPA・NV特定処理等の各種処理を実行する。なお、サーバ1が実行する具体的な処理の内容については、
図3を参照して後述する。
「NPA・NV存在確率マップ生成処理」とは、サーバ1が実行する処理のうち、NPA・NV教師情報を生成してからNPA・NV存在確率マップを生成するまでの一連の処理をいう。
「NPA・NV教師情報」とは、患者の眼底画像情報における網膜無灌流領域(NPA/non-perfusion area)(以下「網膜無灌流領域」または「NPA」と呼ぶ)の存在確率(以下「NPA存在確率」と呼ぶ)と、新生血管(NV/neovascularization)の存在確率(以下「NV存在確率」と呼ぶ)とを演算する際の教師情報をいう。具体的には、「NPA・NV教師情報」は、蛍光眼底造影画像情報と、この情報に付されたNPA・NVアノテーション情報とに基づいて生成される。
「網膜無灌流領域」とは、眼虚血性疾患において網膜血管閉塞の結果生じる網膜の循環不良領域をいう。
【0009】
「NPA・NV存在確率マップ」とは、眼底画像情報にNPA存在確率と、NV存在確率とを識別表示させた画像情報である。
「眼底画像情報」とは、眼底画像に基づく画像情報をいう。
「蛍光眼底造影画像情報」とは、蛍光眼底造影画像に基づく情報をいう。
「NPA・NVアノテーション情報」とは、蛍光眼底造影画像情報に付された、網膜無灌流領域(NPA)と新生血管(NV)とのうち少なくとも一方に関する眼科医Dの診断注記をいう。
「新生血管」とは、網膜無灌流領域における網膜の循環不良や虚血がさらに進行したものである。新生血管から、出血や、増殖膜形成を介した網膜剥離が生じると、最終的には失明に至るため、網膜無灌流領域や新生血管などの網膜の循環不良領域を特定することは、診療上非常に重要である。
なお、NPA・NV存在確率マップ生成処理の具体的な処理の流れについては、
図4のフローチャートを参照して後述する。
【0010】
「付随所見存在確率マップ生成処理」とは、サーバ1が実行する処理のうち、付随所見教師情報を生成してから付随所見存在確率マップを生成するまでの一連の処理をいう。
「付随所見教師情報」とは、患者の眼底画像情報における付随所見の存在確率を演算する際の教師情報をいう。具体的には、「付随所見教師情報」は、蛍光眼底造影画像情報及び眼底画像情報と、これらの画像情報に付された付随所見アノテーション情報とに基づいて生成された教師情報をいう。
「付随所見アノテーション情報」とは、蛍光眼底造影画像情報及び眼底画像情報に対して眼科医Dが「正常ではない」という判断を付随的に行った診断注記のうち、網膜無灌流領域(NPA)または新生血管(NV)に関する診断注記以外のものをいう。例えば、毛細血管瘤、眼底出血、硬性白斑、軟性白斑、静脈異常、網膜内細小血管異常、硝子体出血、増殖膜、網膜剥離といった情報は、いずれも「付随所見アノテーション情報」の一例である。
「付随所見存在確率マップ」とは、眼底画像情報に付随所見の存在確率を識別表示させた画像情報(図示せず)である。
なお、付随所見存在確率マップ生成処理の具体的な処理の流れについては、
図4のフローチャートを参照して後述する。
【0011】
「推定NPA・NV特定処理」とは、サーバ1が実行する処理のうち、NPA存在確率に基づいて、眼底画像情報のうち網膜無灌流領域(NPA)に該当することが推定される領域を推定NPAとして特定し、NV存在確率に基づいて、眼底画像情報のうち新生血管(NV)に該当することが推定される領域を推定NVとして特定するまでの一連の処理をいう。
なお、推定NPA・NV特定処理の具体的な処理の流れについては、
図4のフローチャートを参照して後述する。
【0012】
眼科医端末2は、眼科医Dが操作する情報処理装置であって、例えばパーソナルコンピュータ等で構成される。眼科医端末2では、サーバ1に対するNPA・NVアノテーション情報及び付随所見アノテーション情報の送信、サーバ1により特定された推定NPA・NVに関する情報の取得等が行われる。眼科医端末2が取得した各種情報は、眼科医端末2から出力されて、眼科医Dによる診察に用いられる。
【0013】
検査機器3は、患者の眼検査において用いられる各種機器で構成される。検査機器3は、眼底検査における撮像により得られた眼底画像情報と、蛍光眼底造影検査における撮像により得られた蛍光眼底造影画像情報との夫々をサーバ1に送信する。
【0014】
図2は、
図1の情報処理システムのうち、サーバ1のハードウェア構成を示すブロック図である。
【0015】
サーバ1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、出力部16と、入力部17と、記憶部18と、通信部19と、ドライブ20とを備えている。
【0016】
CPU11は、ROM12に記録されているプログラム、又は、記憶部18からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0017】
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、出力部16、入力部17、記憶部18、通信部19及びドライブ20が接続されている。
【0018】
出力部16は各種液晶ディスプレイ等で構成され、各種情報を出力する。
入力部17は、各種ハードウェア鉛等で構成され、各種情報を入力する。
記憶部18は、DRAM(Dynamic Random Access Memory)等で構成され、各種データを記憶する。
通信部19は、インターネットを含むネットワークNを介して他の装置との間で行う通信を制御する。
【0019】
ドライブ20は、必要に応じて設けられる。ドライブ20には磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア30が適宜装着される。ドライブ20によってリムーバブルメディア30から読み出されたプログラムは、必要に応じて記憶部18にインストールされる。またリムーバブルメディア30は、記憶部18に記憶されている各種データも、記憶部18と同様に記憶することができる。
【0020】
次に、このようなハードウェア構成を持つサーバ1の機能的構成について、
図3を参照して説明する。
図3は、
図1の情報処理システムにおける
図2のサーバ1の機能的構成のうち、NPA・NV存在確率マップ生成処理、付随所見存在確率マップ生成処理、推定NPA・NV特定処理、及び推定NPA・NV表示処理を実現するための機能的構成の一例を示す機能ブロック図である。
【0021】
図3に示すように、サーバ1のCPU11(
図2)においては、NPA・NV存在確率マップ生成処理が実行される場合には、画像取得部101と、アノテーション取得部102と、教師情報生成部103と、演算部104とが機能する。
付随所見存在確率マップ生成処理が実行される場合には、画像取得部101と、アノテーション取得部102と、教師情報生成部103と、演算部104とが機能する。
推定NPA・NV特定処理が実行される場合には、推定NPA・NV特定部106が機能する。
推定NPA・NV表示処理が実行される場合には、推定NPA・NV表示制御部107が機能する。
記憶部18(
図2)の一領域には、画像DB401と、アノテーションDB402と、教師DB403とが設けられている。なお、記憶部18は、サーバ1ではなく、眼科医端末2に配置されてもよい。
【0022】
画像取得部101は、患者の蛍光眼底造影画像情報と、患者の眼底画像情報とを取得する。画像取得部101により取得された蛍光眼底造影画像情報及び眼底画像情報は、画像DB401に夫々記憶されて管理される。具体的には、患者の蛍光眼底造影検査において、検査機器3により患者の蛍光眼底造影画像が撮像されると、蛍光眼底造影画像に基づく蛍光眼底造影画像情報がサーバ1に送信される。また、患者の眼底検査において、検査機器3により患者の眼底画像が撮像されると、眼底画像に基づく眼底画像情報がサーバ1に送信される。サーバ1の画像取得部101は、検査機器3からサーバ1に送信されて来た蛍光眼底造影画像情報及び眼底画像情報を取得し、これらの画像情報を画像DB401に記憶させる。
これにより、サーバ1は、患者の蛍光眼底造影画像情報及び眼底画像情報を漏れなく的確に管理することができる。
【0023】
アノテーション取得部102は、患者の蛍光眼底造影画像情報に付された、網膜無灌流領域(NPA)と、新生血管(NV)とのうち少なくとも一方に関する眼科医Dの診断注記を、NPA・NVアノテーション情報として取得する。具体的には、蛍光眼底造影検査において、蛍光眼底造影画像情報に、網膜無灌流領域(NPA)、新生血管(NV)に関する眼科医Dの診断注記が付されると、眼科医端末2は、眼科医Dの操作に基づいて、当該診断注記をNPA・NVアノテーション情報としてサーバ1に送信する。サーバ1のアノテーション取得部102は、眼科医端末2から送信されて来たNPA・NVアノテーション情報を取得し、この情報をアノテーションDB402に記憶させる。なお、蛍光眼底造影画像情報と、この画像情報に付されたNPA・NVアノテーション情報とは、互いに紐付けられて管理される。
これにより、サーバ1は、蛍光眼底造影画像情報に付された網膜無灌流領域(NPA)と、新生血管(NV)とのうち少なくとも一方に関する眼科医Dの診断注記を、NPA・NVアノテーション情報として漏れなく管理することができる。
【0024】
また、アノテーション取得部102は、蛍光眼底造影画像及び眼底画像に付された、付随所見に関する眼科医Dの診断注記を、付随所見アノテーション情報として取得する。具体的には、蛍光眼底造影画像情報と、眼底画像情報とについて、付随所見に関する眼科医Dの診断注記が付される場合、眼科医端末2は、眼科医Dの操作に基づいて、当該診断注記を付随所見アノテーション情報としてサーバ1に送信する。サーバ1のアノテーション取得部102は、眼科医端末2から送信されて来た付随所見アノテーション情報を取得し、この情報をアノテーションDB402に記憶させる。なお、蛍光眼底造影画像情報及び眼底画像情報と、これらの画像情報に付された付随所見アノテーション情報とは、互いに紐付けられて管理される。
これにより、サーバ1は、蛍光眼底造影画像情報及び眼底画像情報に付された付随所見に関する眼科医Dの診断注記を、付随所見アノテーション情報として漏れなく管理することができる。
【0025】
教師情報生成部103は、蛍光眼底造影画像情報と、この情報に対応するNPA・NVアノテーション情報とに基づいて、NPA存在確率とNV存在確率とを演算するための教師情報となるNPA・NV教師情報を生成する。
即ち、画像DB401には、複数の患者から得られた蛍光眼底造影画像情報が蓄積されており、アノテーションDB402には、NPA・NVアノテーション情報が蓄積されている。教師情報生成部103は、これらデータベースに蓄積された情報に基づいて、眼底画像情報におけるNPA・NVの存在確率を演算する際の教師情報となるNPA・NV教師情報を生成する。
これにより、サーバ1は、患者の眼底画像情報におけるNPA存在確率とNV存在確率とを演算するための教師情報を生成して蓄積することができる。
また、教師情報生成部103は、蛍光眼底造影画像情報及び眼底画像情報と、これら画像情報に対応する付随所見アノテーション情報とに基づいて、付随所見教師情報を生成する。
即ち、画像DB401には、複数の患者から得られた眼底画像情報と蛍光眼底造影画像情報とが蓄積されており、アノテーションDB402には、付随所見アノテーション情報が蓄積されている。教師情報生成部103は、これらデータベースに蓄積された情報に基づいて、眼底画像情報における付随所見の存在確率を演算する際の教師情報となる付随所見教師情報を生成する。
これにより、サーバ1は、患者の眼底画像情報における付随所見の存在確率を演算するための教師情報を蓄積することができる。
【0026】
演算部104は、少なくともNPA・NV教師情報に基づいて、NPA存在確率とNV存在確率とを演算する。また、演算部104は、後述する付随所見存在確率マップが生成されている場合には、付随所見存在確率マップと、NPA・NV教師情報とに基づいて、NPA存在確率とNV存在確率とを演算する。なお、NPA存在確率とNV存在確率とを演算する具体的な手法は特に限定されない。例えば、NPA・NV教師情報から、NPA・NVを有する眼底画像に共通する特徴を抽出し、患者の眼底画像情報が、当該特徴を有するのかどうかについて、当該特徴との合致度合を正規化させることでNPA存在確率とNV存在確率とを演算してもよい。ディープラーニング(深層学習)の技術を用いてNPA存在確率とNV存在確率とを演算してもよい。
これにより、眼底画像情報のうち網膜無灌流領域(NPA)に該当することが推定される領域と、新生血管(NV)に該当することが推定される領域とを特定するための基準を設定することが可能となる。
【0027】
また、演算部104は、付随所見教師情報に基づいて、眼底画像情報における付随所見の存在確率を演算する。付随所見の存在確率を演算する具体的な手法は特に限定されない。例えば、付随所見教師情報から、付随所見を有する眼底画像に共通する特徴を抽出し、患者の眼底画像情報が、この特徴を有するのかどうかについて、特徴に対する合致度合を正規化させることによって付随所見の存在確率を演算してもよい。ディープラーニング(深層学習)の技術を用いて付随所見の存在確率を演算してもよい。
これにより、眼底画像情報のうち網膜無灌流領域(NPA)該当することが推定される領域と、新生血管(NV)に該当することが推定される領域とを特定するための基準を設定することが可能となる。
【0028】
マップ生成部105は、眼底画像情報にNPA存在確率とNV存在確率とを識別表示させた画像情報としてのNPA・NV存在確率マップを生成する。具体的には、
図8に例示するNPA・NV存在確率マップEのような画像情報を生成する。
これにより、眼底画像情報における網膜無灌流領域(NPA)、及び新生血管(NV)の存在を推定するための根拠となる情報を生成することができる。
なお、眼底画像情報にNPA存在確率とNV存在確率とを識別表示させる手法は特に限定されない。例えば、色の違いによってNPA存在確率とNV存在確率とを識別表示してもよいし、色の濃淡によってNPA存在確率とNV存在確率とを識別表示してもよい。
また、マップ生成部105は、眼底画像情報に付随所見存在確率を識別表示させた画像情報としての付随所見存在確率マップ(図示せず)を生成する。
これにより、眼底画像情報における網膜無灌流領域(NPA)、及び新生血管(NV)の存在を推定するための根拠となる情報を生成することができる。
なお、眼底画像情報に付随所見存在確率を識別表示させる手法は特に限定されない。例えば、色の違いによって付随所見存在確率を識別表示させてもよいし、色の濃淡によって付随所見存在確率を識別表示してもよい。
【0029】
推定NPA・NV特定部106は、NPA存在確率とNV存在確率とに基づいて、眼底画像情報のうち網膜無灌流領域(NPA)に該当することが推定される領域を推定NPAとして特定し、新生血管(NV)に該当すると推定される領域を推定NVとして特定する。具体的には、患者の眼底画像情報のうち、NPA存在確率とNV存在確率とが所定の閾値を超えている領域を、網膜無灌流領域(NPA)に該当すると推定される領域(推定NPA)、または新生血管(NV)に該当すると推定される領域(推定NV)としてそれぞれ特定する。なお、閾値は、眼科医Dの判断で任意に変更することができる。
これにより、眼底画像に基づく画像情報のうち、網膜無灌流領域(NPA)の存在が推定される領域(推定NPA)と、新生血管(NV)の存在が推定される領域(推定NV)を早期かつ容易に特定することができる。
【0030】
推定NPA・NV表示制御部107は、眼底画像情報に、推定NPA領域と、推定NV領域とを表示させる制御を実行する。
これにより、眼底画像に基づく画像情報に、網膜無灌流の存在が推定される領域(推定NPA)と、新生血管(NV)の存在が推定される領域(推定NV)を重畳して表示させることができる。
【0031】
次に、
図4を参照して、
図3の機能的構成を有するサーバ1が実行する一連の処理の流れについて説明する。
図4は、
図3のサーバ1が実行する一連の処理の流れを説明するフローチャートである。
【0032】
図4に示すように、サーバ1では、次のような一連の処理が実行される。
ステップS1において、画像取得部101は、検査機器3から蛍光眼底造影画像情報が送信されて来たか否かを判定する。
蛍光眼底造影画像情報が送信されて来た場合には、ステップS1においてYESであると判定されて、処理はステップS2に進む。一方、蛍光眼底造影画像情報が送信されて来ていない場合には、ステップS1においてNOであると判定されて、処理はステップS1に戻される。即ち、蛍光眼底造影画像情報が送信されて来るまでの間、ステップS1の判定処理が繰り返される。その後、蛍光眼底造影画像情報が送信されて来ると、ステップS1においてYESであると判定されて、処理はステップS2に進む。
ステップS2において、画像取得部101は、送信されて来た蛍光眼底造影画像情報を取得する。
【0033】
ステップS3において、アノテーション取得部102は、眼科医端末2からNPA・NVアノテーション情報が送信されて来たか否かを判定する。
NPA・NVアノテーション情報が送信されて来た場合には、ステップS3においてYESであると判定されて、処理はステップS4に進む。一方、NPA・NVアノテーション情報が送信されて来ていない場合には、ステップS3においてNOであると判定されて、処理はステップS3に戻される。即ち、NPA・NVアノテーション情報が送信されて来るまでの間、ステップS3の判定処理が繰り返される。その後、NPA・NVアノテーション情報が送信されて来ると、ステップS3においてYESであると判定されて、処理はステップS4に進む。
ステップS4において、アノテーション取得部102は、送信されて来たNPA・NVアノテーション情報を取得する。
【0034】
ステップS5において、教師情報生成部103は、蛍光眼底造影画像情報と、当該蛍光眼底造影画像情報に対応するNPA・NVアノテーション情報とに基づいて、NPA・NV教師情報を生成する。
ステップS6において、画像取得部101は、検査機器3から眼底画像情報が送信されて来たか否かを判定する。
眼底画像情報が送信されて来た場合には、ステップS6においてYESであると判定されて、処理はステップS7に進む。一方、眼底画像情報が送信されて来ていない場合には、ステップS6においてNOであると判定されて、処理はステップS6に戻される。即ち、眼底画像情報が送信されて来るまでの間、ステップS6の判定処理が繰り返される。その後、眼底画像情報が送信されて来ると、ステップS6においてYESであると判定されて、処理はステップS7に進む。
ステップS7において、画像取得部101は、送信されて来た眼底画像情報を取得する。
【0035】
ステップS8において、アノテーション取得部102は、眼科医端末2から付随所見アノテーション情報が送信されて来たか否かを判定する。
付随所見アノテーション情報が送信されて来た場合には、ステップS8においてYESであると判定されて、処理はステップS9に進む。一方、付随所見アノテーション情報が送信されて来ていない場合には、ステップS8においてNOであると判定されて、処理はステップS9乃至S11をスキップしてステップS12に進む。
ステップS9において、アノテーション取得部102は、付随所見アノテーション情報を取得する。
ステップS10において、教師情報生成部103は、蛍光眼底造影画像情報と、当該蛍光眼底造影画像情報に対応するNPA・NVアノテーション情報とに基づいて、付随所見教師情報を生成する。
ステップS11において、演算部104は、付随所見教師情報に基づいて、眼底画像情報における付随所見の存在確率を演算する。
ステップS12において、マップ生成部105は、眼底画像情報に付随所見存在確率を識別表示させた画像情報としての付随所見存在確率マップを生成する。
【0036】
ステップS13において、演算部104は、少なくともNPA・NV教師情報に基づいて、NPA存在確率と、NV存在確率とを演算する。また、付随所見存在確率マップが生成されている場合には、演算部104は、NPA・NV教師情報と、付随所見存在確率マップとに基づいて、NPA存在確率と、NV存在確率とを演算する。
ステップS14において、マップ生成部105は、眼底画像情報にNPA存在確率と、NV存在確率とを識別表示させた画像情報としてのNPA・NV存在確率マップを生成する。
ステップS15において、推定NPA・NV特定部106は、NPA存在確率と、NV存在確率とに基づいて、眼底画像情報のうち網膜無灌流領域(NPA)に該当することが推定される領域を推定NPAとして特定し、新生血管(NV)に該当することが推定される領域を推定NVとして特定する。
ステップS16において、推定NPA・NV表示制御部107は、眼底画像情報に、推定NPAと、NV領域とを表示させる制御を実行する。
【0037】
ステップS17において、サーバ1は、処理の終了指示があったか否かを判定する。
処理の終了指示がない場合には、ステップS17においてNOであると判定されて、処理はステップS1に戻される。一方、処理の終了指示があった場合には、ステップS17においてYESであると判定されて、処理は終了する。
以上のような一連の処理をサーバ1が実行することにより、推定NPA領域と、推定NV領域とが眼底画像情報に表示される。
【0038】
次に、
図5を参照して、サーバ1が実行する各種処理に用いられる各種情報の流れについて説明する。
図5は、サーバ1が実行する処理における各種情報の流れを示す図である。
【0039】
図5に示すように、蛍光眼底造影検査において、患者の蛍光眼底造影画像が撮像されると、この蛍光眼底造影画像に基づく蛍光眼底造影画像情報が、サーバ1によって取得される。この蛍光眼底造影画像情報には、網膜無灌流領域(NPA)と、新生血管(NV)とのうち少なくとも一方に関する眼科医Dの診断注記が付される。この診断注記は、NPA・NVアノテーション情報として、蛍光眼底造影画像情報とともにNPA・NV教師情報を構成することとなる。
眼底検査において、患者の眼底画像が撮像されると、この眼底画像に基づく眼底画像情報は、サーバ1により取得される。眼底画像情報及びNPA・NV教師情報は、演算部104のNPA・NVアノテーションプログラムによる演算処理に用いられる。NPA・NVアノテーションプログラムによる演算処理の結果、NPA・NV存在確率マップが生成される。このNPA・NV存在確率マップに基づいて、眼底画像情報における推定NPAと推定NVとが特定される。
【0040】
蛍光眼底造影画像情報及び眼底画像情報に、付随所見に関する眼科医Dの診断注記が付される場合がある。この場合の診断注記は、付随所見アノテーション情報として、蛍光眼底造影画像情報及び眼底画像情報とともに付随所見教師情報を構成することとなる。
眼底画像情報及びNPA・NV教師情報は、演算部104の付随所見判定プログラムによる演算処理に用いられる。付随所見判定プログラムによる演算処理の結果、付随所見存在確率マップが生成される。このように、付随所見存在確率マップが生成された場合には、付随所見存在確率マップと、NPA・NV教師情報とに基づいて、眼底画像情報における推定NPAと、推定NVとが特定される。
【0041】
図6は、サーバ1が実行する処理において取得される眼底画像情報の一例を示す図である。
図7は、サーバ1が実行する処理において取得される蛍光眼底造影画像情報の一例を示す図である。
【0042】
患者の眼底検査では、検査機器3による患者の眼底の撮像が行われ、
図6に示すような眼底画像情報が得られる。眼科医Dは、
図6に示すような眼底画像情報を参照しながら診察を行う。しかしながら、眼底画像情報は、
図6に示すように、出血や白斑など灌流異常の結果生じた所見が表出されるのみで、循環動態や循環異常部位を読み取ることは困難である。このため、蛍光眼底造影検査が行われることにより、
図7に示すような蛍光眼底造影画像情報が得られる。蛍光眼底造影画像情報は、
図7に示すように、網膜循環動態を明確に判別することができる。ただし、蛍光眼底造影検査はその検査の危険性、侵襲性、大病院に限られる地理的な制約などから患者・医療者双方に負担の大きい検査であり、視力良好例や身体機能低下患者の撮影、繰り返しの撮影などがためらわれることから、発症や病勢の把握が遅れ治療が遅滞する症例が多いという課題がある。
そこで、サーバ1は、蓄積された複数の患者から得られた蛍光眼底造影画像情報と、これら情報の夫々に付されたNPA・NVアノテーション情報に基づいて生成されたNPA・NV教師情報を用いて、NPA・NV存在確率マップ生成処理を行う。これにより、負担の大きい蛍光眼底造影検査を実施することなく、近隣の診療所や検診などで簡便に撮影可能な眼底画像から、循環異常所見を簡便に特定することが可能となる。
【0043】
図8は、サーバ1が実行するNPA・NV存在確率マップ生成処理で出力されるNPA・NV存在確率マップの一例を示す図である。
【0044】
図8に示すNPA・NV存在確率マップEは、眼底画像情報にNPA存在確率とNV存在確率とを識別表示させた画像情報である。NPA・NV存在確率マップEは、NPA存在確率とNV存在確率とを、色の違いや、色の濃淡とよって識別表示させることができる。例えば、暖色系の色で示された領域はNPA存在確率及びNV存在確率が高く、寒色系の色で示された領域はNPA存在確率及びNV存在確率が低いといった識別表示が可能である。また、NPA存在確率及びNV存在確率が低い寒色系の色で示された領域であっても、濃い色の領域は薄い色の領域に比べてNPA存在確率及びNV存在確率がさらに低いといった識別表示も可能である。
これにより、眼底画像情報における網膜無灌流領域(NPA)、及び新生血管(NV)の存在を推定するための根拠となる情報を生成することができる。
【0045】
図9は、サーバ1が実行する推定NPA・NV特定処理において特定される推定NPA、及び推定NVの一例を示す図である。
【0046】
サーバ1は、NPA・NV存在確率マップの内容に基づいて、眼底画像情報のうち、網膜無灌流領域(NPA)に該当すると推定される領域を推定NPAとして特定し、新生血管(NV)に該当すると推定される領域を、推定NVとして特定する。例えば、
図9に示すように、破線で示された領域Aを推定NPAとし、領域Bを推定NVとすることができる。推定NPAと、推定NVとは、眼底画像情報に重畳的に表示させることができる。
これにより、特殊な眼底カメラや診断装置を必要とする蛍光眼底造影検査を実施することなく、患者の眼底を撮像した眼底画像から、網膜無灌流の存在が推定される領域や、新生血管の存在が推定される領域を早期かつ容易に特定することができる。
【0047】
以上、本発明の一実施形態について説明したが、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0048】
例えば、上述した実施形態では、画像取得部101は、検査機器3から各種画像情報が送信されて来ると、これらの情報を取得する構成としているが、検査機器3による撮像が行われると、画像取得部101が、自発的に各種画像情報を取りに行く構成にしてもよい。同様に、アノテーション取得部102は、眼科医端末2から各種アノテーション情報が送信されて来ると、これらの情報を取得する構成としているが、眼科医端末2に各種アノテーション情報の入力が行われると、アノテーション取得部102が、自発的に各種アノテーション情報を取に行く構成にしてもよい。
【0049】
また、
図2に示す各ハードウェア構成は、本発明の目的を達成するための例示に過ぎず、特に限定されない。
【0050】
また、
図3に示す機能ブロック図は、例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行出来る機能が情報処理システムに備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは、特に
図3の例に限定されない。
【0051】
また、機能ブロックの存在場所も、
図3に示す場所に限定されず、任意でよい。例えばサーバ1の機能ブロックの少なくとも一部を、眼科医端末2や検査機器3に設けてもよい。
そして、1つの機能ブロックは、ハードウェア単体で構成しても良いし、ソフトウェア単体との組み合わせで構成しても良い。
【0052】
各機能ブロックの処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えばサーバの他汎用のスマートフォンやパーソナルコンピュータであってもよい。
【0053】
このようなプログラムを含む記録媒体は、各ユーザにプログラムを提供するために装置本体とは別に配布される、リムーバブルメディアにより構成されるだけではなく、装置本体に予め組み込まれた状態で各ユーザに提供される記録媒体等で構成される。
【0054】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に添って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
例えば、
図4のステップS6において、画像取得部101は、検査機器3から眼底画像情報が送信されて来たか否かを判定し、ステップS7において眼底画像情報を取得する。しかし、眼底画像情報は、付随所見存在確率マップ生成処理が実行される場合には、付随所見教師情報が生成される時点で適切に管理されていれば足りる。また、付随所見存在確率マップ生成処理が実行されない場合には、NPA存在確率と、NV存在確率とが演算される時点で適切に管理されていれば足りる。このため、眼底画像情報は、付随所見教師情報が生成される場合には、ステップS10において付随所見教師情報が生成されるよりも前のいずれかの時点から画像DB401に記憶され管理されていればよい。また、付随所見教師情報が生成されない場合には、ステップS13においてNPA存在確率と、NV存在確率とが演算されるよりも前のいずれかの時点から画像DB401に記憶され管理されていればよい。
【0055】
以上まとめると、本発明が適用されるプログラムは、次のような構成を取れば足り、各種各様な実施形態を取ることができる。
即ち、本発明が適用されるプログラムは、
情報処理装置を制御するコンピュータに、
蛍光眼底造影画像情報(例えば
図7の蛍光眼底造影画像情報C)を取得する蛍光眼底造影画像取得ステップ(例えば
図4のステップS2)と、
前記蛍光眼底造影画像情報に付された、網膜無灌流領域(NPA)と新生血管(NV)とのうち少なくとも一方に関する眼科医の診断注記を、NPA・NVアノテーション情報として取得するNPA・NVアノテーション取得ステップ(例えば
図4のステップS4)と、
前記蛍光眼底造影画像情報と、当該蛍光眼底造影画像情報に対応する前記NPA・NVアノテーション情報とに基づいて、前記網膜無灌流領域(NPA)の存在確率、及び新生血管(NV)の存在確率を演算するための教師情報となるNPA・NV教師情報を生成するNPA・NV教師情報生成ステップ(例えば
図4のステップS5)と、
眼底画像情報(例えば
図6の眼底画像情報F)を取得する眼底画像取得ステップ(例えば
図4のステップS7)と、
前記NPA・NV教師情報に基づいて、前記眼底画像情報における前記網膜無灌流領域(NPA)の存在確率と、新生血管(NV)の存在確率とを演算するNPA・NV存在確率演算ステップ(例えば
図4のステップS13)と、
前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とに基づいて、前記眼底画像情報のうち前記網膜無灌流領域(NPA)に該当すると推定される領域を推定NPAとして特定し、前記新生血管(NV)に該当すると推定される領域を推定NVとして特定する推定NPA・NV特定ステップ(例えば
図4のステップS15)と、
を含む。
これにより、特殊な眼底カメラや診断装置を必要とする蛍光眼底造影検査を実施することなく、患者の眼底を撮像した眼底画像から、網膜無灌流の存在が推定される領域を早期かつ容易に特定することができる。
【0056】
また、前記眼底画像情報に前記NPA存在確率と、前記NV存在確率とを識別表示させた、NPA・NV存在確率マップ(例えば
図8のNPA・NV存在確率マップE)を生成するNPA・NV存在確率マップ生成ステップ(例えば
図4のステップS14)をさらに含む制御処理を実行させることができる。
これにより、眼底画像情報における網膜無灌流領域(NPA)、及び新生血管(NV)の存在を推定するための根拠となる情報を生成することができる。
【0057】
また、前記蛍光眼底造影画像情報及び前記眼底画像情報に付された、付随所見に関する前記眼科医の診断注記を、付随所見アノテーション情報として取得する付随アノテーション取得ステップ(例えば
図4のステップS9)と、
前記蛍光眼底造影画像情報及び前記眼底画像情報と、当該蛍光眼底造影画像情報及び当該眼底画像情報に対応する前記付随所見アノテーション情報とに基づいて、前記眼底画像情報における前記付随所見の存在確率を演算するための教師情報となる付随所見教師情報を生成する付随所見教師情報生成ステップ(例えば
図4のステップS10)と、
前記付随所見教師情報に基づいて、前記眼底画像情報における前記付随所見の存在確率を演算する付随所見存在確率演算ステップ(例えば
図4のステップS11)と、
をさらに含み、
前記NPA・NV存在確率演算ステップではさらに、
前記付随所見の存在確率と、前記NPA・NV教師情報とに基づいて、前記眼底画像情報における前記網膜無灌流領域(NPA)の存在確率と、新生血管(NV)の存在確率とを演算する制御処理を実行させることができる。
【0058】
また、前記眼底画像情報に、前記付随所見の存在確率を識別表示させた付随所見存在確率マップを生成する付随所見存在確率マップ生成ステップ(例えば
図4のステップS12)をさらに含むことができる。
【0059】
以下、本発明の一実施形態の変形例について図面を用いて説明する。
(変形例)
図10は、本発明の一実施形態の変形例の情報処理システムの構成図である。本発明の一実施形態の変形例の情報処理システムは、眼科医端末2と、検査機器3と、学習装置200と、診断支援装置300とを含む。これらの装置は、ネットワークNを介して互いに接続される。
【0060】
学習装置200は、眼底の画像である眼底画像と、その眼底の蛍光眼底造影画像に基づいて特定された血液循環異常領域とに基づいて、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成する。ここで、血液循環異常領域とは、糖尿病網膜症などの眼虚血性疾患において生じる網膜上の血液障害によって生じる血液の循環が異常である領域である。
学習装置200は、患者の眼底画像を示す情報と、その患者の蛍光眼底造影画像を示す情報とを取得し、取得した眼底画像を示す情報と、蛍光眼底造影画像を示す情報とを関連付けて、記憶する。具体的には、患者の眼底検査において、検査機器3は、患者の眼底画像を撮像し、患者IDと、撮像した眼底画像を示す情報とを含み、学習装置200を宛先とする眼底画像通知情報を作成し、作成した眼底画像通知情報を、学習装置200へ送信する。また、患者の蛍光眼底造影検査において、検査機器3は、患者の蛍光眼底造影画像を撮像し、患者IDと、撮像した蛍光眼底造影画像を示す情報とを含み、学習装置200を宛先とする蛍光眼底造影画像通知情報を作成し、作成した蛍光眼底造影画像通知情報を、学習装置200へ送信する。
【0061】
学習装置200は、検査機器3から学習装置200へ送信された眼底画像通知情報に含まれる患者IDと、眼底画像を示す情報と、蛍光眼底造影画像通知情報に含まれる患者IDと、蛍光眼底造影画像を示す情報とを取得し、取得した患者IDと、眼底画像を示す情報と、蛍光眼底造影画像を示す情報とを関連付けて記憶する。
【0062】
学習装置200は、患者の蛍光眼底造影画像に付された、網膜無灌流領域(NPA)と、新生血管(NV)とのいずれか一方又は両方に関する眼科医Dの診断注記を、NPA・NVアノテーション情報として取得する。具体的には、蛍光眼底造影検査において、蛍光眼底造影画像に、網膜無灌流領域(NPA)、新生血管(NV)に関する眼科医Dの診断注記が付されると、眼科医端末2は、眼科医Dの操作に基づいて、患者IDと、当該診断注記とを含み、学習装置200を宛先とするNPA・NVアノテーション通知情報を作成し、作成したNPA・NVアノテーション通知情報を、学習装置200へ送信する。
学習装置200は、眼科医端末2が送信したNPA・NVアノテーション通知情報を受信し、受信したNPA・NVアノテーション通知情報に含まれるNPA・NVアノテーション情報を記憶する。なお、蛍光眼底造影画像を示す情報と、この蛍光眼底造影画像に付されたNPA・NVアノテーション情報とは、互いに関連付けられて記憶される。
【0063】
学習装置200は、眼底画像と蛍光眼底造影画像とに付された、付随所見に関する眼科医Dの診断注記を、付随所見アノテーション情報として取得する。具体的には、蛍光眼底造影画像を示す情報と、眼底画像を示す情報とについて、付随所見に関する眼科医Dの診断注記が付される場合、眼科医端末2は、眼科医Dの操作に基づいて、患者IDと、当該診断注記とを含み、学習装置200を宛先とする付随所見アノテーション通知情報を作成し、作成した付随所見アノテーション通知情報を、学習装置200に送信する。学習装置200は、眼科医端末2が送信した付随所見アノテーション通知情報を受信し、受信した付随所見アノテーション通知情報に含まれる患者IDと、付随所見アノテーション情報を取得し、取得した患者IDと、付随所見アノテーション情報とを、記憶する。なお、眼底画像を示す情報と蛍光眼底造影画像を示す情報と、付随所見アノテーション情報とは、互いに関連付けられて記憶される。
【0064】
学習装置200は、眼底画像を示す情報と、この眼底画像を示す情報に関連付けられている蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とを取得し、取得した蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とに基づいて、血液循環異常領域を特定する。学習装置200は、眼底画像を示す情報と、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域とを関連付けたNPA・NV学習情報を生成し、生成したNPA・NV学習情報を記憶する。
学習装置200は、NPA・NV学習情報に含まれる眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成する。なお、学習モデルを生成する具体的な手法は特に限定されない。例えば、NPA・NV学習情報から、血液循環異常領域を有する眼底画像に共通する特徴を抽出し、抽出した共通する特徴と、眼底画像における血液循環異常領域との関係を導出してもよい。ニューラルネットワーク、ディープラーニング(深層学習)の技術を用いて、眼底画像と、その眼底画像における血液循環異常領域との関係とを導出してもよい。学習装置200は、生成した学習モデルを記憶するとともに、生成した学習モデルを含み、診断支援装置300をあて先とする学習モデル通知情報を作成し、作成した学習モデル通知情報を、診断支援装置300へ送信する。
【0065】
診断支援装置300は、学習装置200が送信した学習モデルを受信し、受信した学習モデルを記憶する。
【0066】
眼科医端末2は、患者IDと、患者の眼底画像を示す情報とを含み、診断支援装置300を宛先とする患者情報を作成し、作成した患者情報を、診断支援装置300へ送信する。
【0067】
診断支援装置300は、眼科医端末2が送信した患者情報を受信し、受信した患者情報に含まれる患者IDと、患者の眼底画像を示す情報とを取得する。診断支援装置300は、記憶した学習モデルを用いて、取得した眼底画像を示す情報に基づいて、眼底画像における血液循環異常領域を特定する。診断支援装置300は、患者の眼底画像と、学習モデルとを用いて特定したその眼底画像における血液循環異常領域を示す情報と、患者IDとを含み、眼科医端末2を宛先とする診断結果を作成し、作成した診断結果を、眼科医端末2へ送信する。
以下、情報処理システムに含まれる学習装置200と、診断支援装置300とについて、説明する。
【0068】
(学習装置200)
図11は、本発明の実施形態の変形例の学習装置の一例を示すブロック図である。
学習装置200は、通信部205と、記憶部210と、操作部220と、情報処理部230と、表示部240と、各構成要素を
図11に示されているように電気的に接続するためのアドレスバスやデータバスなどのバスライン250とを備える。
【0069】
通信部205は、通信モジュールによって実現される。通信部205は、ネットワークNを介して、眼科医端末2、検査機器3、診断支援装置300などの外部の通信装置と通信する。具体的には、通信部205は、検査機器3が送信した眼底画像通知情報を受信し、受信した眼底画像通知情報を、情報処理部230へ出力する。通信部205は、検査機器3が送信した蛍光眼底造影画像通知情報を受信し、受信した蛍光眼底造影画像通知情報を、情報処理部230へ出力する。通信部205は、眼科医端末2が送信したNPA・NVアノテーション通知情報を受信し、受信したNPA・NVアノテーション通知情報を、情報処理部230へ出力する。通信部205は、眼科医端末2が送信した付随所見アノテーション通知情報を受信し、受信した付随所見アノテーション通知情報を、情報処理部230へ出力する。通信部205は、情報処理部230が出力した学習モデル通知情報を取得し、取得した学習モデル通知情報を、診断支援装置300へ送信する。
【0070】
記憶部210は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、HDD(Hard Disk Drive)、フラッシュメモリ、またはこれらのうち複数が組み合わされたハイブリッド型記憶装置などにより実現される。記憶部210には、情報処理部230により実行されるプログラム211と、アプリ212と、画像DB213と、アノテーションDB214と、学習情報215と、学習モデル216とが記憶される。
【0071】
プログラム211は、例えば、オペレーティングシステムであり、ユーザやアプリケーションプログラムとハードウェアの中間に位置し、ユーザやアプリケーションプログラムに対して標準的なインターフェースを提供すると同時に、ハードウェアなどの各リソースに対して効率的な管理を行う。
【0072】
アプリ212は、学習装置200に、検査機器3が送信した眼底画像通知情報を受信させ、受信させた眼底画像通知情報に含まれる患者IDと、眼底画像を示す情報とを関連付けて、記憶させる。アプリ212は、学習装置200に、検査機器3が送信した蛍光眼底造影画像通知情報を受信させ、受信させた蛍光眼底造影画像通知情報に含まれる患者IDと、蛍光眼底造影画像を示す情報とを関連付けて記憶させる。アプリ212は、学習装置200に、眼科医端末2が送信したNPA・NVアノテーション通知情報を受信させ、受信させたNPA・NVアノテーション通知情報に含まれる患者IDと、NPA・NVアノテーション情報とを関連付けて記憶させる。
【0073】
アプリ212は、学習装置200に、眼科医端末2が送信した付随所見アノテーション通知情報を受信させ、受信させた付随所見アノテーション通知情報に含まれる患者IDと、付随所見アノテーション情報とを関連付けて記憶させる。アプリ212は、学習装置200に、患者IDに関連付けらえている眼底画像を示す情報と、蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とを取得させる。アプリ212は、学習装置200に、取得させた蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とに基づいて、血液循環異常領域を特定させる。
アプリ212は、学習装置200に、眼底画像を示す情報と、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域とを関連付けたNPA・NV学習情報を生成させ、生成させたNPA・NV学習情報を記憶させる。アプリ212は、学習装置200に、NPA・NV学習情報に含まれる眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成させる。アプリ212は、学習装置200に、生成した学習モデルを記憶させるとともに、診断支援装置300へ送信させる。
【0074】
画像DB213は、患者IDと、眼底画像を示す情報と、蛍光眼底造影画像を示す情報とを関連付けて記憶する。
【0075】
アノテーションDB214は、患者IDと、NPA・NVアノテーション情報と、付随所見アノテーション情報とを関連付けて記憶する。
【0076】
学習情報215は、眼底画像を示す情報と、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域とを関連付けたNPA・NV学習情報を記憶する。
【0077】
学習モデル216は、NPA・NV学習情報に含まれる眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを記憶する
【0078】
操作部220は、例えば、タッチパネルなどによって構成され、表示部240に表示される画面に対するタッチ操作を検出し、タッチ操作の検出結果を、情報処理部230へ出力する。
【0079】
表示部240は、例えば、タッチパネルによって構成され、学習装置200が受信した眼底画像を示す情報と、蛍光眼底造影画像を示す情報とを受け付ける画面を表示する。また、表示部240は、学習装置200が受信したNPA・NVアノテーション情報と、付随所見アノテーション情報とを処理する操作を受け付ける画面を表示する。
【0080】
情報処理部230の全部または一部は、例えば、CPU(Central Processing Unit)などのプロセッサが記憶部210に格納されたプログラム211と、アプリ212とを実行することにより実現される機能部(以下、ソフトウェア機能部と称する)である。なお、情報処理部230の全部または一部は、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、またはFPGA(Field-Programmable Gate Array)などのハードウェアにより実現されてもよく、ソフトウェア機能部とハードウェアとの組み合わせによって実現されてもよい。情報処理部230は、例えば、画像取得部231と、アノテーション取得部232と、学習情報生成部233と、学習部234とを備える。
【0081】
画像取得部231は、通信部205が出力した眼底画像通知情報を取得し、取得した眼底画像通知情報に含まれる患者IDと、眼底画像を示す情報とを取得する。画像取得部231は、取得した患者IDと、眼底画像を示す情報とを関連付けて、画像DB213に記憶する。
画像取得部231は、通信部205が出力した蛍光眼底造影画像通知情報を取得し、取得した蛍光眼底造影画像通知情報に含まれる患者IDと、蛍光眼底造影画像を示す情報とを取得する。画像取得部231は、取得した患者IDと、蛍光眼底造影画像を示す情報とを関連付けて、画像DB213に記憶する。
【0082】
アノテーション取得部232は、通信部205が出力したNPA・NVアノテーション通知情報を取得し、取得したNPA・NVアノテーション通知情報に含まれる患者IDと、NPA・NVアノテーション情報とを取得する。アノテーション取得部232は、取得した患者IDと、NPA・NVアノテーション情報とを関連付けて、アノテーションDB214に記憶する。
アノテーション取得部232は、通信部205が出力した付随所見アノテーション通知情報を取得し、取得した付随所見アノテーション通知情報に含まれる患者IDと、付随所見アノテーション情報とを取得する。アノテーション取得部232は、取得した患者IDと、付随所見アノテーション情報とを関連付けて、アノテーションDB214に記憶する。
【0083】
学習情報生成部233は、記憶部210の画像DB213に記憶された患者IDと、患者IDに関連付けられている眼底画像を示す情報と、蛍光眼底造影画像を示す情報とを取得する。学習情報生成部233は、記憶部210のアノテーションDB214に記憶された患者IDと、患者IDに関連付けられているNPA・NVアノテーション情報と、付随所見アノテーション情報とを取得する。学習情報生成部233は、取得した蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とに基づいて、血液循環異常領域を特定する。
【0084】
以下、学習装置200の各構成について具体的に説明する。
図12は眼底画像の一例を示す図であり、
図13は蛍光眼底造影画像の一例を示す図である。
学習情報生成部233は、眼底画像の緑成分を抽出し、緑成分を抽出した眼底画像である緑成分抽出眼底画像からノイズ成分を除去する。学習情報生成部233は、ノイズ成分を除去した緑成分抽出眼底画像を、矩形に分割する。学習情報生成部233は、矩形に分割した画像に基づいて、ノイズ成分を除去した緑成分抽出眼底画像を、所定のサイズにリサイズする。所定のサイズにリサイズする際に、バイキュービック補間などの補間方法によって補間する。
学習情報生成部233は、蛍光眼底造影画像の緑成分を抽出し、緑成分を抽出した蛍光眼底造影画像である緑成分抽出蛍光眼底造影画像からノイズ成分を除去する。学習情報生成部233は、ノイズ成分を除去した緑成分抽出蛍光眼底造影画像を、矩形に分割する。学習情報生成部233は、矩形に分割した画像に基づいて、ノイズ成分を除去した緑成分抽出蛍光眼底造影画像を、所定のサイズにリサイズする。所定のサイズにリサイズする際に、バイキュービック補間などの補間方法によって補間する。
【0085】
学習情報生成部233は、ノイズ成分を除去した緑成分抽出眼底画像と、ノイズ成分を除去した緑成分抽出蛍光眼底造影画像とを、眼球の位置が一致するように回転成分を補正するとともに、所定のサイズにリサイズする。学習情報生成部233は、眼球の位置が一致するように回転成分を補正するとともに、所定のサイズにリサイズしたノイズ成分を除去した緑成分抽出眼底画像と、ノイズ成分を除去した緑成分抽出蛍光眼底造影画像とに基づいて、血液循環異常領域を特定する。
【0086】
図14は、血液循環異常領域の一例を示す図である。
学習情報生成部233は、眼底画像を示す情報と、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域とを関連付けたNPA・NV学習情報を生成し、生成したNPA・NV学習情報を、記憶部210の学習情報215に記憶する。
図11に戻り説明を続ける。
【0087】
学習部234は、記憶部210の学習情報215に記憶したNPA・NV学習情報を取得する。学習部234は、取得したNPA・NV学習情報に含まれる眼底画像を示す情報と、血液循環異常領域を示す情報とを取得する。学習部234は、取得した眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成する。
【0088】
具体的には、本実施形態の変形例では、画像全体を一度に学習させ、予測させることはGPU(graphics processing unit)のメモリの制約上困難であることを想定して、画像からパッチを抽出して、抽出したパッチをニューラルネットワークに学習させる方法を用いた場合について説明する。ここでは、一例として、パッチサイズを64px×64pxとし、stride(パッチ抽出の枠を動かす間隔)を2pxとした。
【0089】
生成したパッチを陽性の領域を含むものと、一切含まないものの2群に分ける。学習に使われる両群の割合が等しくなるようにパッチを選択する。
ニューラルネットワークが学習用データそのもの、あるいは、それに非常によく似た画像にのみに対して良い性能を示し、未知の画像に対しては著しく低い性能を示してしまう現象は、過学習(over-fitting)と呼ばれ、これを解決するにはより多くのサンプルを集めることや、学習データに回転などの幾何学的操作を加えることによって改善される。
本実施形態の変形例では、パッチを生成した後に、回転角をσ=3deg.の正規分布に基づいて決定し、50%の確率で水平反転、20%の確率で垂直反転を行った。
【0090】
図15は、ニューラルネットワークの構造の一例を示す図である。
ニューラルネットワークの構造の一例はU-Netに基づいている。
図15において、bはconvolution(kernel_size=(3,3))、gはmax pooling(pool_size=(2,2))、oはup sampling(size=(2,2))を表している。各convolution層の後には活性化関数ReLUを用い、batch normalizationを行った。ただし、最後のconvolution層には、活性化関数としてsigmoidを用いて、batch normalizationは行わなかった。
【0091】
また、a1、a2、a3、a4で示される矢印はconcatenationによるskip connectionを表している。これは、画像の位置情報を復元するのに貢献していると考えられている。
【0092】
学習部234は、生成した学習モデルを、記憶部210の学習モデル216に記憶する。
学習部234は、生成した学習モデルを含み、診断支援装置300をあて先とする学習モデル通知情報を作成し、作成した学習モデル通知情報を、通信部205へ出力する。
【0093】
(診断支援装置300)
図16は、本発明の実施形態の変形例の診断支援装置の一例を示すブロック図である。
診断支援装置300は、通信部305と、記憶部310と、操作部320と、情報処理部330と、表示部340と、各構成要素を
図16に示されているように電気的に接続するためのアドレスバスやデータバスなどのバスライン350とを備える。
【0094】
通信部305は、通信モジュールによって実現される。通信部305は、ネットワークNを介して、眼科医端末2、学習装置200などの外部の通信装置と通信する。具体的には、通信部305は、学習装置200が送信した学習モデル通知情報を受信し、受信した学習モデル通知情報を、情報処理部330へ出力する。通信部305は、眼科医端末2が送信した患者情報を受信し、受信した患者情報を、情報処理部330へ出力する。通信部305は、情報処理部230が出力した診断情報を取得し、取得した診断情報を、眼科医端末2へ送信する。
【0095】
記憶部310は、例えば、RAM、ROM、HDD、フラッシュメモリ、またはこれらのうち複数が組み合わされたハイブリッド型記憶装置などにより実現される。記憶部310には、情報処理部330により実行されるプログラム311と、アプリ312と、学習モデル216とが記憶される。
【0096】
プログラム311は、例えば、オペレーティングシステムであり、ユーザやアプリケーションプログラムとハードウェアの中間に位置し、ユーザやアプリケーションプログラムに対して標準的なインターフェースを提供すると同時に、ハードウェアなどの各リソースに対して効率的な管理を行う。
【0097】
アプリ312は、診断支援装置300に、学習装置200が送信した学習モデル通知情報を受信させ、受信させた学習モデル通知情報に含まれる学習モデルを記憶させる。アプリ312は、診断支援装置300に、眼科医端末2が送信した患者情報を受信させ、受信させた患者情報に含まれる患者IDと、眼底画像とを取得させる。アプリ312は、診断支援装置300に、記憶させた学習モデルを用いて、取得させた眼底画像における血液循環異常領域を特定させる。
アプリ312は、診断支援装置300に、患者の眼底画像と、学習モデルとを用いて特定させたその眼底画像における血液循環異常領域を示す情報と、患者IDとを含み、眼科医端末2をあて先とする診断情報を作成させ、作成させた診断情報を、眼科医端末2へ送信させる。
【0098】
操作部320は、例えば、タッチパネルなどによって構成され、表示部340に表示される画面に対するタッチ操作を検出し、タッチ操作の検出結果を、情報処理部330へ出力する。
【0099】
表示部340は、例えば、タッチパネルによって構成され、診断支援装置300が受信した患者情報に含まれる眼底画像を示す情報を受け付ける画面を表示する。また、表示部240は、診断支援装置300が診断した結果を表示する。
【0100】
情報処理部330の全部または一部は、例えば、CPUなどのプロセッサが記憶部310に格納されたプログラム311と、アプリ312とを実行することにより実現されるソフトウェア機能部である。なお、情報処理部330の全部または一部は、LSI、ASIC、またはFPGAなどのハードウェアにより実現されてもよく、ソフトウェア機能部とハードウェアとの組み合わせによって実現されてもよい。情報処理部330は、例えば、受付部331と、特定部332と、作成部333とを備える。
【0101】
受付部331は、通信部305が出力した学習モデル通知情報を取得し、取得した学習モデル通知情報に含まれる学習モデルを取得する。受付部331は、取得した学習モデルを受け付け、受け付けた学習モデルを、記憶部310の学習モデル216に記憶する。
受付部331は、通信部305が出力した患者情報を取得し、取得した患者情報に含まれる患者IDと、眼底画像を示す情報とを取得する。受付部331は、取得した患者IDと、眼底画像を示す情報とを受け付け、受け付けた患者IDと、眼底画像を示す情報とを、特定部332に出力する。
【0102】
特定部332は、受付部331が出力した患者IDと、眼底画像を示す情報とを取得する。特定部332は、記憶部310の学習モデル216に記憶されている学習モデルを取得し、取得した学習モデルを用いて、取得した眼底画像における血液循環異常領域を特定する。特定部332は、特定した眼底画像における血液循環異常領域を示す情報と、患者IDとを、作成部333へ出力する。
具体的には、本実施形態の変形例では、学習装置200と同様に、画像からパッチを抽出して、抽出したパッチと、学習モデルとを用いて、眼底画像における血液循環異常領域を特定する場合について説明する。ここでは、一例として、パッチサイズを64px×64pxとし、stride(パッチ抽出の枠を動かす間隔)を2pxとした。生成したパッチの全てを選択する。
特定部332は、学習モデルに基づいて、64×64×1の画像を取得する。特定部332は、取得した画素値を、元画像の対応するピクセルにvoteし、平均化する。ここで、特定部332は、取得した画像を、カラー表示へ変換してもよい。
【0103】
作成部333は、特定部332が出力した患者IDと、眼底画像における血液循環異常領域を示す情報とを取得する。作成部333は、取得した患者IDと、眼底画像における血液循環異常領域を示す情報とを含み、眼科医端末2を宛先とする診断情報を作成する。作成部333は、作成した診断情報を通信部305へ出力する。
【0104】
(情報処理システムの動作)
図17と
図18とを参照して、本実施形態の変形例の情報処理システムの動作の一例について説明する。
図17は、本実施形態の変形例の情報処理システムに含まれる学習装置の動作の一例を示すフローチャートである。
図17は、眼科医端末2が、学習装置200へ、NPA・NVアノテーション通知情報と、付随所見アノテーション通知情報とを送信し、検査機器3が、学習装置200へ眼底画像通知情報と、蛍光眼底造影画像通知情報とを送信した後の動作について示す。
【0105】
(ステップS201)
学習装置200の通信部205は、検査機器3が送信した眼底画像通知情報を受信し、受信した眼底画像通知情報を、情報処理部230へ出力する。情報処理部230の画像取得部231は、通信部205が出力した眼底画像通知情報を取得し、取得した眼底画像通知情報に含まれる患者IDと、眼底画像を示す情報とを関連付けて、記憶部210の画像DB213に記憶する。
【0106】
(ステップS202)
学習装置200の通信部205は、検査機器3が送信した蛍光眼底造影画像通知情報を受信し、受信した蛍光眼底造影画像通知情報を、情報処理部230へ出力する。情報処理部230の画像取得部231は、通信部205が出力した蛍光眼底造影画像通知情報を取得し、取得した蛍光眼底造影画像通知情報に含まれる患者IDと、蛍光眼底造影画像を示す情報とを関連付けて、記憶部210の画像DB213に記憶する。
【0107】
(ステップS203)
学習装置200の通信部205は、眼科医端末2が送信したNPA・NVアノテーション通知情報を受信し、受信したNPA・NVアノテーション通知情報を、情報処理部230へ出力する。情報処理部230のアノテーション取得部232は、通信部205が出力したNPA・NVアノテーション通知情報を取得し、取得したNPA・NVアノテーション通知情報に含まれる患者IDと、NPA・NVアノテーション情報とを関連付けて、記憶部210のアノテーションDB214に記憶する。
【0108】
学習装置200の通信部205は、眼科医端末2が送信した付随所見アノテーション通知情報を受信し、受信した付随所見アノテーション通知情報を、情報処理部230へ出力する。情報処理部230のアノテーション取得部232は、通信部205が出力した付随所見アノテーション通知情報を取得し、取得した付随所見アノテーション通知情報に含まれる患者IDと、付随所見アノテーション情報とを関連付けて、記憶部210のアノテーションDB214に記憶する。
【0109】
(ステップS204)
学習装置200の学習情報生成部233は、記憶部210の画像DB213に記憶された患者IDと、患者IDに関連付けられている眼底画像を示す情報と、蛍光眼底造影画像を示す情報とを取得する。学習情報生成部233は、記憶部210のアノテーションDB214に記憶された患者IDと、患者IDに関連付けられているNPA・NVアノテーション情報と、付随所見アノテーション情報とを取得する。学習情報生成部233は、取得した蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とに基づいて、血液循環異常領域を特定する。学習情報生成部233は、眼底画像を示す情報と、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域とを関連付けたNPA・NV学習情報を生成し、生成したNPA・NV学習情報を、記憶部210の学習情報215に記憶する。
【0110】
(ステップS205)
学習装置200の学習部234は、記憶部210の学習情報215に記憶したNPA・NV学習情報を取得する。学習部234は、取得したNPA・NV学習情報に含まれる眼底画像を示す情報と、血液循環異常領域を示す情報とを取得する。学習部234は、取得した眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成する。学習部234は、生成した学習モデルを、記憶部210の学習モデル216に記憶する。
【0111】
図17に示されるフローチャートにおいて、ステップS201と、S202と、S203との順序を変更してもよい。
図17に示されるフローチャートによれば、学習装置200は、蛍光眼底造影画像を示す情報と、NPA・NVアノテーション情報と、付随所見アノテーション情報とに基づいて、血液循環異常領域を特定できる。学習装置200は、眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として、眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成できる。
【0112】
図18は、本実施形態の変形例の情報処理システムに含まれる診断支援装置の動作の一例を示すフローチャートである。
図18は、学習装置200が、診断支援装置300へ、学習モデル通知情報を送信し、眼科医端末2が、診断支援装置300へ、患者情報を送信した後の動作について示す。
【0113】
(ステップS301)
診断支援装置300の通信部305は、学習装置200が送信した学習モデル通知情報を受信し、受信した学習モデル通知情報を、情報処理部330へ出力する。受付部331は、通信部305が出力した学習モデル通知情報を取得し、取得した学習モデル通知情報に含まれる学習モデルを取得する。受付部331は、取得した学習モデルを受け付け、受け付けた学習モデルを、記憶部310の学習モデル216に記憶する。
【0114】
(ステップS302)
通信部305は、眼科医端末2が送信した患者情報を受信し、受信した患者情報を、情報処理部330へ出力する。受付部331は、通信部305が出力した患者情報を取得し、取得した患者情報に含まれる患者IDと、眼底画像を示す情報とを取得する。受付部331は、取得した患者IDと、眼底画像を示す情報とを受け付け、受け付けた患者IDと、眼底画像を示す情報とを、特定部332に出力する。
【0115】
(ステップS303)
特定部332は、受付部331が出力した患者IDと、眼底画像を示す情報とを取得する。特定部332は、記憶部310の学習モデル216に記憶されている学習モデルを取得する。
【0116】
(ステップS304)
特定部332は、記憶部310の学習モデル216に記憶されている学習モデルを取得し、取得した学習モデルを用いて、特定対象である眼底画像における血液循環異常領域を特定する。特定部332は、特定した眼底画像における血液循環異常領域を示す情報と、患者IDとを、作成部333へ出力する。
【0117】
(ステップS305)
作成部333は、特定部332が出力した患者IDと、眼底画像における血液循環異常領域を示す情報とを取得する。作成部333は、患者IDと、取得した眼底画像における血液循環異常領域を示す情報とを含み、眼科医端末2を宛先とする診断情報を作成する。作成部333は、作成した診断情報を通信部305へ出力する。
【0118】
通信部305は、作成部333が出力した診断情報を取得し、取得した診断情報を、眼科医端末2へ送信する。
図18に示されるフローチャートによれば、診断支援装置300は、眼底画像を示す情報を入力情報とし、その眼底画像に対応する蛍光眼底造影画像に基づいて特定された血液循環異常領域を教師情報として生成された眼底画像と、その眼底画像における血液循環異常領域との関係を表す学習モデルを用いて、特定対象である眼底画像における血液循環異常領域を特定できる。
【0119】
前述した変形例では、診断支援装置300が、学習装置200が送信した学習モデル通知情報を受信し、受信した学習モデル通知情報に含まれる学習モデルを、記憶部310に記憶する。診断支援装置300は、眼科医端末2が送信した患者情報に含まれる眼底画像と、記憶した学習モデルとを用いて、眼底画像における血液循環異常領域を特定し、特定した血液循環異常領域を示す情報を含む診断結果を、眼科医端末2へ送信する場合について説明したが、この例に限られない。例えば、診断支援装置300が、学習装置200へ、患者情報を送信するようにしてもよい。学習装置200は、診断支援装置300が送信した患者情報を受信し、受信した患者情報に含まれる眼底画像と、学習モデルとを用いて、眼底画像における血液循環異常領域を特定する。学習装置200は、特定した血液循環異常領域を示す情報を含む診断結果を作成し、作成した診断結果を、診断支援装置300に送信する。診断支援装置300は、学習装置200が送信した診断結果を受信し、受信した診断結果を、眼科医端末2へ送信するようにしてもよい。
【0120】
本実施形態の変形例によれば、診断支援装置300は、眼底の画像である眼底画像と、眼底の蛍光眼底造影画像に基づいて特定された血液循環異常領域とに基づいて、眼底画像と、眼底画像における血液循環異常領域との関係を学習した学習モデルを用いて、眼底画像における血液循環異常領域を特定する特定部と、患者の眼底画像と、学習モデルとを用いて特定部が特定した患者の前記眼底画像における血液循環異常領域を示す情報を出力する出力部とを有する。このように構成することによって、診断支援装置300は、蛍光眼底造影画像から医師が特定した循環異常域情報とそれに対応した眼底画像とを教師情報とした機械学習によって得られた学習モデルを用いて、通常の眼底画像から循環異常域を高精度に推定できる。
血液循環異常領域は、蛍光眼底造影画像と、蛍光眼底造影画像に付された網膜無灌流領域と新生血管とのうちいずれか一方又は両方に関する眼科医の診断注記とに基づいて生成される。このように構成することによって、蛍光眼底造影画像と、蛍光眼底造影画像に付された網膜無灌流領域と新生血管とのうちいずれか一方又は両方に関する眼科医の診断注記とに基づいて、教師情報とする血液循環異常領域を生成できる。
【0121】
特定部は、眼底画像における網膜無灌流領域と新生血管に該当する領域とのいずれか一方又は両方を特定する。このように構成することによって、通常の眼底画像から、網膜無灌流領域と新生血管に該当する領域とのいずれか一方又は両方を高精度で特定できる。
【0122】
出力部は、眼底画像に特定部が特定した血液循環異常領域を重ねた画像を出力する。このように構成することによって、通常の眼底画像から、その眼底画像に循環異常域を重畳した画像を取得できる。
【0123】
本実施形態の変形例によれば、学習装置200は、眼底の画像である眼底画像と、眼底の蛍光眼底造影画像に基づいて特定された血液循環異常領域とに基づいて、眼底画像と、眼底画像における血液循環異常領域との関係を表す学習モデルを学習によって生成する学習部を有する。このように構成することによって、学習装置200は、眼底画像と、眼底画像における血液循環異常領域との関係を表す学習モデルを機械学習によって生成できる。
【0124】
血液循環異常領域は、蛍光眼底造影画像と、蛍光眼底造影画像に付された網膜無灌流領域と新生血管とのうちいずれか一方又は両方に関する眼科医の診断注記とに基づいて生成される。このように構成することによって、蛍光眼底造影画像と、蛍光眼底造影画像に付された網膜無灌流領域と新生血管とのうちいずれか一方又は両方に関する眼科医の診断注記とに基づいて、教師情報とする血液循環異常領域を生成できる。
【0125】
以上、本発明の実施形態及びその変形例を説明したが、これらの実施形態及びその変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態及びその変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、組合わせを行うことができる。これら実施形態及びその変形例は、発明の範囲や要旨に含まれると同時に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
なお、前述のサーバ1、眼科医端末2、検査機器3、学習装置200、診断支援装置300は内部にコンピュータを有している。そして、前述した各装置の各処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD-ROM、DVD-ROM、半導体メモリなどをいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしてもよい。
また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【0126】
なお、以上の説明に関して更に以下の付記を開示する。
(付記1)情報処理装置を制御するコンピュータに、
蛍光眼底造影画像情報を取得する蛍光眼底造影画像取得ステップと、
前記蛍光眼底造影画像情報に付された、網膜無灌流領域と新生血管とのうち少なくとも一方に関する眼科医の診断注記を、NPA・NVアノテーション情報として取得するNPA・NVアノテーション取得ステップと、
前記蛍光眼底造影画像情報と、当該蛍光眼底造影画像情報に対応する前記NPA・NVアノテーション情報とに基づいて、前記網膜無灌流領域の存在確率、及び新生血管の存在確率を演算するための教師情報となるNPA・NV教師情報を生成するNPA・NV教師情報生成ステップと、
眼底画像情報を取得する眼底画像取得ステップと、
前記NPA・NV教師情報に基づいて、前記眼底画像情報における前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とを演算するNPA・NV存在確率演算ステップと、
前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とに基づいて、前記眼底画像情報のうち前記網膜無灌流領域に該当すると推定される領域を推定NPAとして特定し、前記新生血管に該当すると推定される領域を推定NVとして特定する推定NPA・NV特定ステップと、
を含む制御処理を実行させるプログラム。
(付記2)前記眼底画像情報に前記NPA存在確率と、NV存在確率とを識別表示させた、NPA・NV存在確率マップを生成するNPA・NV存在確率マップ生成ステップをさらに含む、
付記1に記載のプログラム。
(付記3)前記蛍光眼底造影画像情報及び前記眼底画像情報に付された、付随所見に関する前記眼科医の診断注記を、付随所見アノテーション情報として取得する付随アノテーション取得ステップと、
前記蛍光眼底造影画像情報及び前記眼底画像情報と、当該蛍光眼底造影画像情報及び当該眼底画像情報に対応する前記付随所見アノテーション情報とに基づいて、前記眼底画像情報における前記付随所見の存在確率を演算するための教師情報となる付随所見教師情報を生成する付随所見教師情報生成ステップと、
前記付随所見教師情報に基づいて、前記眼底画像情報における前記付随所見の存在確率を演算する付随所見存在確率演算ステップと、
をさらに含み、
前記NPA・NV存在確率演算ステップではさらに、
前記付随所見の存在確率と、前記NPA教師情報とに基づいて、前記眼底画像情報における前記網膜無灌流領域の存在確率と、新生血管の存在確率とを演算する制御処理を実行させる、
付記1又は2に記載のプログラム。
(付記4)前記眼底画像情報に前記付随所見の存在確率を識別表示させた、付随所見存在確率マップを生成する付随所見存在確率マップ生成ステップをさらに含む、
付記3に記載のプログラム。
【0127】
(付記5)情報処理装置が実行する情報処理方法であって、
蛍光眼底造影画像情報を取得する蛍光眼底造影画像取得ステップと、
前記蛍光眼底造影画像情報に付された、網膜無灌流領域と新生血管とのうち少なくとも一方に関する眼科医の診断注記を、NPA・NVアノテーション情報として取得するNPA・NVアノテーション取得ステップと、
前記蛍光眼底造影画像情報と、当該蛍光眼底造影画像情報に対応する前記NPA・NVアノテーション情報とに基づいて、前記網膜無灌流領域の存在確率、及び新生血管の存在確率を演算するための教師情報となるNPA・NV教師情報を生成するNPA・NV教師情報生成ステップと、
眼底画像情報を取得する眼底画像取得ステップと、
前記NPA・NV教師情報に基づいて、前記眼底画像情報における前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とを演算するNPA・NV存在確率演算ステップと、
前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とに基づいて、前記眼底画像情報のうち前記網膜無灌流領域に該当すると推定される領域を推定NPAとして特定し、前記新生血管に該当すると推定される領域を推定NVとして特定する推定NPA・NV特定ステップと、
を含む情報処理方法。
(付記6)蛍光眼底造影画像情報を取得する蛍光眼底造影画像取得手段と、
前記蛍光眼底造影画像情報に付された、網膜無灌流領域と新生血管とのうち少なくとも一方に関する眼科医の診断注記を、NPA・NVアノテーション情報として取得するNPA・NVアノテーション取得手段と、
前記蛍光眼底造影画像情報と、当該蛍光眼底造影画像情報に対応する前記NPA・NVアノテーション情報とに基づいて、前記網膜無灌流領域の存在確率、及び新生血管の存在確率を演算するための教師情報となるNPA・NV教師情報を生成するNPA・NV教師情報生成手段と、
眼底画像情報を取得する眼底画像取得手段と、
前記NPA・NV教師情報に基づいて、前記眼底画像情報における前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とを演算するNPA・NV存在確率演算手段と、
前記網膜無灌流領域の存在確率と、前記新生血管の存在確率とに基づいて、前記眼底画像情報のうち前記網膜無灌流領域に該当すると推定される領域を推定NPAとして特定し、前記新生血管に該当すると推定される領域を推定NVとして特定する推定NPA・NV特定手段と、
を備える情報処理装置。
【符号の説明】
【0128】
1:サーバ
2:眼科医端末
3:検査機器
11:CPU
12:ROM
13:RAM
14:バス
15:入出力インターフェース
16:表示部
17:入力部
18:記憶部
19:通信部
20:ドライブ
30:リムーバブルメディア
101:画像取得部
102:アノテーション取得部
103:教師情報生成部
104:演算部
105:マップ生成部
106:推定NPA・NV特定部
107:推定NPA・NV表示制御部
200:学習装置
205:通信部
210:記憶部
211:プログラム
212:アプリ
213:画像DB
214:アノテーションDB
215:学習情報
216:学習モデル
220:操作部
230:情報処理部
231:画像取得部
232:アノテーション取得部
233:学習情報生成部
234:学習部
240:表示部
250:バスライン
300:診断支援装置
305:通信部
310:記憶部
311:プログラム
312:アプリ
320:操作部
330:情報処理部
331:受付部
332:特定部
333:作成部
240:表示部
350:バスライン
401:画像DB
402:アノテーションDB
403:教師DB
A:推定NPA
B:推定NV
C:蛍光眼底造影画像情報
D:眼科医
E:NPA・NV存在確率マップ
F:眼底画像情報