(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-20
(45)【発行日】2023-11-29
(54)【発明の名称】類似症例検索プログラム、類似症例検索方法及び類似症例検索システム
(51)【国際特許分類】
A61B 5/00 20060101AFI20231121BHJP
A61B 6/00 20060101ALI20231121BHJP
【FI】
A61B5/00 D
A61B6/00 360B
A61B6/00 360Z
(21)【出願番号】P 2020075042
(22)【出願日】2020-04-20
【審査請求日】2023-01-12
(73)【特許権者】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】嶋田 雅彦
(72)【発明者】
【氏名】小澤 亮夫
(72)【発明者】
【氏名】中川 真智子
【審査官】▲高▼木 尚哉
(56)【参考文献】
【文献】特開2008-062069(JP,A)
【文献】特開2010-211452(JP,A)
【文献】特開2011-118540(JP,A)
【文献】米国特許出願公開第2017/0357753(US,A1)
【文献】innavinet,富士フイルム、人工知能を用いて画像診断をサポートする類似症例検索システム「SYNAPSE Case Match(シナプス ケース マッチ)」の対象疾患を拡大~画像診断が難しい「びまん性肺疾患」の症例検索機能を搭載,https://www.innervision.co.jp/products/release/20170414
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/00-5/01
A61B 6/00-6/14
(57)【特許請求の範囲】
【請求項1】
患者の肺を撮影した第1の画像に類似する画像を、所定の記憶領域から検索し、
検索によって得られた画像のそれぞれを、各画像に所定のフラグが付与されているか否かを示すマークとともに、前記第1の画像との類似度が大きい順に並べて表示装置に表示させ
、
前記表示装置に表示されている画像に対応するマークに対する所定の操作が行われた場合、当該マークに対応する画像についての、前記フラグが付与されているか否かを示す情報を更新する
処理をコンピュータに実行させることを特徴とする類似症例検索プログラム。
【請求項2】
前記フラグが多段階の情報を持つ場合にそれぞれの段階を識別可能にして表示する処理をさらに実行させることを特徴とする請求項1に記載の類似症例検索プログラム。
【請求項3】
患者の肺を撮影した第1の画像に類似する画像を、所定の記憶領域から検索し、
検索によって得られた画像のそれぞれを、各画像に所定のフラグが付与されているか否かを示すマークとともに、前記第1の画像との類似度が大きい順に並べて表示装置に表示させ
、
前記表示装置に表示されている画像に対応するマークに対する所定の操作が行われた場合、当該マークに対応する画像についての、前記フラグが付与されているか否かを示す情報を更新する
処理をコンピュータが実行することを特徴とする類似症例検索方法。
【請求項4】
類似症例検索装置と表示装置とを有する類似症例検索システムであって、
前記類似症例検索装置は、
患者の肺を撮影した第1の画像に類似する画像を、所定の記憶領域から検索する検索部と、
検索によって得られた画像のそれぞれを、各画像に所定のフラグが付与されているか否かを示すマークとともに、前記第1の画像との類似度が大きい順に並べて前記表示装置に表示させる表示制御部と、
前記表示装置に表示されている画像に対応するマークに対する所定の操作が行われた場合、当該マークに対応する画像についての、前記フラグが付与されているか否かを示す情報を更新する更新部と、
を有し、
前記表示装置は、
前記表示制御部の制御に応じて画面を表示することを特徴とする類似症例検索システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、類似症例検索プログラム、類似症例検索方法及び類似症例検索システムに関する。
【背景技術】
【0002】
従来、びまん性肺疾患の患者の肺のCT画像を医師に提示し、診察を支援する症例検索システムが知られている。
【先行技術文献】
【非特許文献】
【0003】
【文献】innnavinet、「富士フイルム、人工知能を用いて画像診断をサポートする類似症例検索システム「SYNAPSE Case Match(シナプス ケース マッチ)」の対象疾患を拡大~画像診断が難しい「びまん性肺疾患」の症例検索機能を搭載」~(https://www.innervision.co.jp/products/release/20170414)
【文献】富士フイルム、「富士フイルムと京都大学 AI技術を用いた間質性肺炎の診断支援技術の共同開発に成功」(https://www.fujifilm.co.jp/corporate/news/articleffnr_1417.html)
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、類似画像の検索結果にユーザの判断を反映させることが難しい場合があるという問題がある。例えば、従来の技術では、機械学習モデルが類似する画像の検索を行う。一方で、最適な診断を得るための類似画像の判断基準は、診察を行う医師ごとに異なることが考えられる。なお、症例検索システムのユーザは、主に医師である。
【0005】
1つの側面では、類似画像の検索結果にユーザの判断を反映させることを目的とする。
【課題を解決するための手段】
【0006】
1つの態様において、類似症例検索プログラムは、患者の肺を撮影した第1の画像に類似する画像を、所定の記憶領域から検索する処理をコンピュータに実行させる。類似症例検索プログラムは、検索によって得られた画像のそれぞれを、各画像に所定のフラグが付与されているか否かを示すマークとともに、第1の画像との類似度が大きい順に並べて表示装置に表示させる処理をコンピュータに実行させる。
【発明の効果】
【0007】
1つの側面では、類似画像の検索結果に医師の判断を反映させることができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、類似症例検索システムの構成例を示す図である。
【
図2】
図2は、患者DBのデータ構造の例を示す図である。
【
図3】
図3は、症例DBのデータ構造の例を示す図である。
【
図4】
図4は、検索結果を表示する画面の例を示す図である。
【
図5】
図5は、検索処理の流れを示すフローチャートである。
【
図6】
図6は、更新処理の流れを示すフローチャートである。
【
図7】
図7は、ハードウェア構成例を説明する図である。
【発明を実施するための形態】
【0009】
以下に、本発明に係る類似症例検索プログラム、類似症例検索方法及び類似症例検索システムの実施例を図面に基づいて詳細に説明する。なお、この実施例により本発明が限定されるものではない。また、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。
【0010】
類似症例検索システムは、DBに蓄積された患者の画像を検索し、検索により得られた画像を表示することで、医師の診察を支援するシステムである。ここでの画像は、例えばCT画像等の医用画像である。例えば、類似症例検索システム1は、診察中の患者の画像に類似する画像をDBから取得し、当該取得した画像に対応付けられた疾患に関する情報を医師に提示することができる。これにより、医師は、提示された画像及び疾患に関する情報を参考にして診察を行うことができる。類似症例検索システムのユーザは、例えば医師である。
【0011】
図1は、類似症例検索システムの構成例を示す図である。
図1に示すように、類似症例検索システム1は、類似症例検索装置10及び表示装置20を有する。また、類似症例検索装置10は、インタフェース部11、記憶部12及び制御部13を有する。
【0012】
インタフェース部11は、データの入出力、及び他の装置とのデータ通信を行うためのインタフェースである。また、例えば、インタフェース部11は、表示装置20に対し画像データを出力する。このとき、表示装置20は、インタフェース部11を介して受け取った画像データを基に画像を表示する。表示装置20は、例えばディスプレイ及びタッチパネルである。
【0013】
記憶部12は、制御部13が実行するプログラム及びプログラムの実行に必要なデータを記憶する記憶装置の一例である。記憶部12は、患者DB121、症例DB122及び画像DB123を記憶する。
【0014】
患者DB121には、患者ごとの情報が格納される。
図2は、患者DBのデータ構造の例を示す図である。
図2に示すように、患者DB121には、患者ごとの患者ID、氏名、性別、生年月日が格納される。
図2の例では、患者IDが「0000000074」である患者の氏名が「患者 太朗」であり、性別が男であり、生年月日が「1950/1/1」であることが示されている。
【0015】
症例DB122には、検査結果が格納される。
図3は、症例DBのデータ構造の例を示す図である。
図3に示すように、症例DB122には、患者を識別する患者ID、画像を識別するUIDとともに、フラグ、画像パスが格納される。フラグは、ユーザの操作に基づき付与又は削除される。実施例では、フラグの値が「1」である状態をフラグが付与された状態であることとする。逆に、実施例では、フラグの値が「0」である状態をフラグが付与されていない状態であることとする。また、症例DB122には、各画像を検索するための1つ以上の検索条件が格納される。検索条件は、例えば画像から抽出される特徴量である。
【0016】
図3の例では、患者IDが「0000000074」である患者のUIDが「1.1.1.1」である画像のフラグが「1」であり、検索条件f1が「100」であり、検索条件f2が「300」であることが示されている。
【0017】
画像DB123には、検査において得られた画像が格納される。画像DB123に格納された画像は、UIDにより一意に特定される。また、画像DB123に画像を取得するためのパスは、症例DB122に格納されていてもよい。
【0018】
制御部13は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、GPU(Graphics Processing Unit)等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。また、制御部13は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されるようにしてもよい。制御部13は、表示制御部131、抽出部132、検索部133及び更新部134を有する。
【0019】
表示制御部131は、制御部13の各処理部による処理の結果を基に生成される画像を表示装置20に表示させる。例えば、表示制御部131は、インタフェース部11を介して画像データを表示装置20に出力する。
【0020】
抽出部132は、画像から特徴量を抽出する。抽出部132は、画像全体の特徴量を抽出してもよいし、パッチごとの特徴量を抽出してもよい。
【0021】
ここで、パッチはCT画像を分割して得られる複数の領域である。例えば、パッチは、CT画像を分割して得られる16×16pixelの画像である。また、パッチごとの特徴と、あらかじめ定められた所定の陰影ごとの特徴との類似度を基に、陰影種類が得られる。例えば、類似症例検索システム1は、パッチから抽出した特徴量と、各陰影種類の特徴量との類似度を計算する機械学習モデルを利用して、各パッチに対応する陰影種類を検出することができる。
【0022】
検索部133は、患者の肺を撮影した第1の画像に類似する画像を、画像DB123から検索する。画像DB123は、所定の記憶領域の一例である。例えば、検索部133は、指定された画像の特徴量と画像DB123に格納された画像の特徴量との類似度を比較し、類似度が大きい順に所定数の画像を取得することができる。また、検索部133は、類似度が所定値以上、かつ指定されたその他の条件に合致する画像を取得してもよい。ここで、その他の条件には、患者ID、疾患の種類、検査日等が含まれる。また、その他の条件は、フラグが付与されているか否かであってもよい。
【0023】
表示制御部131は、検索部133による検索によって得られた画像のそれぞれを、各画像に所定のフラグが付与されているか否かを示すマークとともに、第1の画像との類似度が大きい順に並べて表示装置20に表示させる。
【0024】
図4は、検索結果を表示する画面の例を示す図である。
図4に示すように、検索結果表示画面の領域201には、検査対象の画像が表示される。領域201に表示される検査対象の画像が、第1の画像に相当する。画像上には、パッチが正方形によって表される。また、パッチを表す正方形の枠線の色は、検出された陰影の種類ごとに異なっていてもよい。
【0025】
また、領域201の下部には、患者DB121から取得された患者に関する情報が表示される。また、領域201の下部には、表示するパッチの種類を選択するためのチェックボックス群が表示される。
【0026】
一方、領域201a、領域201b、領域201c、領域201dには、検索により得られた画像が表示される。また、領域201a、領域201b、領域201c、領域201dの順で、表示される画像と検査対象の画像との類似度が大きいものとする。
【0027】
マーク211、マーク211a、マーク211b、マーク211c、マーク211dは、画像DB123において、対応する画像にフラグが付与されているか否かを視覚的に表すことができる。例えば、各マークには、点灯と消灯の2つの状態があるものとする。フラグが付与されている場合、マークの状態は点灯になる。一方、フラグが付与されていない場合、マークの状態は消灯になる。例えば、点灯は、マークが背景と異なる色で塗りつぶされている状態である。また、例えば、消灯は、マークが背景と同じ色で塗りつぶされている状態である。
【0028】
なお、フラグに対応するマークの表示態様は、上記のものに限られない。例えば、マークは、画像にフラグが付与されている場合は第1の色で塗りつぶされ、画像にフラグが付与されていない場合は第1の色と異なる第2の色で塗りつぶされていてもよい。また、例えば、マークは、画像にフラグが付与されている場合は視認可能に表示され、画像にフラグが付与されていない場合は表示されないものであってもよい。
【0029】
図4の例では、マーク211、マーク211b、マーク211c、マーク211の状態は消灯である。この場合、領域201、領域201b、領域201c、領域201dに表示されている画像に対応する症例DB122のレコードのフラグは「0」である。一方で、マーク211aの状態は点灯である。この場合、領域201aに表示されている画像に対応する症例DB122のレコードのフラグは「1」である。
【0030】
更新部134は、表示装置20に表示されている画像に対応するマークに対する所定の操作が行われた場合、当該マークに対応する画像についての、フラグが付与されているか否かを示す情報を更新する。例えば、更新部134は、症例DB122のフラグを「0」又は「1」に更新する。
【0031】
例えば、
図4のマーク211が押下された場合、更新部134は、対応する画像DBのレコードのフラグを「0」から「1」に更新する。一方、
図4のマーク211aが押下された場合、更新部134は、対応する画像DBのレコードのフラグを「1」から「0」に更新する。
【0032】
図5は、検索処理の流れを示すフローチャートである。まず、検索部133は、診断対象の画像と類似する画像を検索する(ステップS101)。次に、表示制御部131は、検索により得られた画像を類似度が大きい順に並べて表示する(ステップS102)。そして、表示制御部131は、フラグが「1」の画像のマークを点灯表示する(ステップS103)。
【0033】
図6は、更新処理の流れを示すフローチャートである。まず、表示制御部131は、マークを押下する操作を受け付ける(ステップS201)。
【0034】
ここで、操作直前のマークの状態が消灯の場合(ステップS202、消灯)、更新部134は、操作されたマークに対応するフラグを「1」に更新する(ステップS203)。そして、表示制御部131は、操作されたマークを点灯表示する(ステップS204)。
【0035】
一方、操作直前のマークの状態が点灯の場合(ステップS202、点灯)、更新部134は、操作されたマークに対応するフラグを「0」に更新する(ステップS205)。表示制御部131は、操作されたマークを消灯表示する(ステップS206)。
【0036】
これまで説明してきたように、検索部133は、患者の肺を撮影した第1の画像に類似する画像を、所定の記憶領域から検索する。表示制御部131は、検索によって得られた画像のそれぞれを、各画像に所定のフラグが付与されているか否かを示すマークとともに、第1の画像との類似度が大きい順に並べて表示装置20に表示させる。このように、類似症例検索装置10は、フラグが付与されているか否かに関係なく、類似度が大きい順に検索結果を表示するとともに、フラグが付与されているか否かを表示することができる。フラグは、ユーザが任意に付与することができるものであるため、本実施例によれば、類似画像の検索結果にユーザの判断を反映させることができる。
【0037】
なお、本実施例ではフラグが付与されているか否かの2種類のみを示したが、フラグに3種類以上の状態を持たせてもよい。例えば、ユーザの感覚に合わせて多段階の情報として付与することも可能である。このようなフラグが多段階の情報を持つ場合に、コンピュータは、フラグ情報が付与されている症例について、それぞれの段階を識別可能にして表示することも可能である。例えば、表示制御部131は、フラグが多段階の情報を持つ場合にそれぞれの段階を識別可能にして表示装置20に表示させる。
【0038】
更新部134は、表示装置20に表示されている画像に対応するマークに対する所定の操作が行われた場合、当該マークに対応する画像についての、フラグが付与されているか否かを示す情報を更新する。このように、類似症例検索装置10は、画面に対するユーザの操作に応じてDBを更新することができる。その結果、本実施例によれば、類似画像の検索結果にユーザの判断を反映させることができる。
【0039】
上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。また、実施例で説明した具体例、分布、数値等は、あくまで一例であり、任意に変更することができる。
【0040】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散や統合の具体的形態は図示のものに限られない。つまり、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
【0041】
図7は、ハードウェア構成例を説明する図である。
図11に示すように、類似症例検索装置10は、通信インタフェース10a、HDD(Hard Disk Drive)10b、メモリ10c、プロセッサ10dを有する。また、
図7に示した各部は、バス等で相互に接続される。
【0042】
通信インタフェース10aは、ネットワークインタフェースカード等であり、他のサーバとの通信を行う。HDD10bは、
図1に示した機能を動作させるプログラムやDBを記憶する。
【0043】
プロセッサ10dは、
図1に示した各処理部と同様の処理を実行するプログラムをHDD10b等から読み出してメモリ10cに展開することで、
図1等で説明した各機能を実行するプロセスを動作させるハードウェア回路である。すなわち、このプロセスは、類似症例検索装置10が有する各処理部と同様の機能を実行する。具体的には、プロセッサ10dは、表示制御部131、抽出部132、検索部133及び更新部134と同様の機能を有するプログラムをHDD10b等から読み出す。そして、プロセッサ10dは、表示制御部131、抽出部132、検索部133及び更新部134等と同様の処理を実行するプロセスを実行する。
【0044】
このように類似症例検索装置10は、プログラムを読み出して実行することで学習類方法を実行する情報処理装置として動作する。また、類似症例検索装置10は、媒体読取装置によって記録媒体から上記プログラムを読み出し、読み出された上記プログラムを実行することで上記した実施例と同様の機能を実現することもできる。なお、この他の実施例でいうプログラムは、類似症例検索装置10によって実行されることに限定されるものではない。例えば、他のコンピュータ又はサーバがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、本発明を同様に適用することができる。
【0045】
このプログラムは、インターネット等のネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD-ROM、MO(Magneto-Optical disk)、DVD(Digital Versatile Disc)等のコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することができる。
【符号の説明】
【0046】
1 類似症例検索システム
10 類似症例検索装置
11 インタフェース部
12 記憶部
13 制御部
20 表示装置
121 患者DB
122 症例DB
123 画像DB
131 表示制御部
132 抽出部
133 検索部
134 更新部
201、201a、201b、201c、201d 領域
211、211a、211b、211c、211d マーク