【文献】
大沢 哲 その外4名,画像診断を支援する類似症例検索システム「SYNAPSE Case Match」の開発,富士フイルム研究報告,2013年 3月27日,No.58,pp.11-14
(58)【調査した分野】(Int.Cl.,DB名)
医用画像が登録された医用画像データベースを参照して医用画像を検索する症例検索システムに接続され、タッチパネルディスプレイを有する情報端末の制御方法であって、
前記タッチパネルディスプレイには、読影対象候補の医用画像の中から選択された読影対象の医用画像である対象医用画像が表示され、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す指定情報を検知させ、
前記指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させ、前記複数の類似医用画像は、それぞれ前記関心領域に対応する対応関心領域を含み、
前記受信した複数の類似医用画像を表示する表示画面を前記タッチパネルディスプレイに表示させ、前記表示画面は、前記受信した複数の類似医用画像のうちの少なくとも一部の複数の類似医用画像を表示する表示領域を含み、
前記表示領域に表示されている前記少なくとも一部の複数の類似医用画像のうち第1類似医用画像の選択が検知されると、前記第1類似医用画像を前記表示領域の全体に表示させ、
前記第1類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で前記類似度が前記第1類似医用画像の次に高い第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記表示領域に表示させ、
前記第2類似医用画像が前記表示領域に表示された時点から、前記第2類似医用画像に対するスワイプ操作を所定期間内に検知した場合、前記複数の類似医用画像の中で前記類似度が前記第2類似医用画像の次に高い第3類似医用画像を、前記第3類似医用画像に含まれる前記対応関心領域を前記表示領域の前記所定位置に合わせて、前記表示領域に表示させ、
前記第2類似医用画像が前記表示領域に表示された時点から、前記第2類似医用画像に対するスワイプ操作を所定期間内に検知しなかった場合、前記第2類似医用画像の表示位置を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせた位置から、前記第2類似医用画像の全体が前記表示領域の全体に表示される位置に移動させる、
制御方法。
前記第1類似医用画像を前記表示領域に表示させる際に、前記第1類似医用画像に含まれる前記対応関心領域を前記表示領域の前記所定位置に合わせて、前記第1類似医用画像を前記表示領域に表示させる、
請求項1に記載の制御方法。
前記第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記表示領域に表示させる際、前記第2類似医用画像のうち前記表示領域外の部分は非表示とされ、前記表示領域のうち前記第2類似医用画像外の部分には背景画像が表示される、
請求項1から請求項4のいずれか一に記載の制御方法。
医用画像が登録された医用画像データベースを参照して医用画像を検索する症例検索システムに接続され、タッチパネルディスプレイを有する情報端末において実行されるプログラムであって、
前記タッチパネルディスプレイには、読影対象候補の医用画像の中から選択された読影対象の医用画像である対象医用画像が表示され、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す指定情報を検知させ、
前記指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させ、前記複数の類似医用画像は、それぞれ前記関心領域に対応する対応関心領域を含み、
前記受信した複数の類似医用画像を表示する表示画面を前記タッチパネルディスプレイに表示させ、前記表示画面は、前記受信した複数の類似医用画像のうちの少なくとも一部の複数の類似医用画像を表示する表示領域を含み、
前記表示領域に表示されている前記少なくとも一部の複数の類似医用画像のうち第1類似医用画像の選択が検知されると、前記第1類似医用画像を前記表示領域の全体に表示させ、
前記第1類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で前記類似度が前記第1類似医用画像の次に高い第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記表示領域に表示させ、
前記第2類似医用画像が前記表示領域に表示された時点から、前記第2類似医用画像に対するスワイプ操作を所定期間内に検知した場合、前記複数の類似医用画像の中で前記類似度が前記第2類似医用画像の次に高い第3類似医用画像を、前記第3類似医用画像に含まれる前記対応関心領域を前記表示領域の前記所定位置に合わせて、前記表示領域に表示させ、
前記第2類似医用画像が前記表示領域に表示された時点から、前記第2類似医用画像に対するスワイプ操作を所定期間内に検知しなかった場合、前記第2類似医用画像の表示位置を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせた位置から、前記第2類似医用画像の全体が前記表示領域の全体に表示される位置に移動させる、
プログラム。
【発明を実施するための形態】
【0012】
(基礎となった知見)
まず、本開示に係る一態様の着眼点について説明する。
【0013】
特許文献1は、診断対象画像に基づく画像診断時に疾患の判断に有用な症例画像又はその疾患に関する統計情報等を提示する画像診断支援装置を開示する。当該画像診断支援装置による検索結果の画面は、診断対象画像及び疾患別の代表症例の情報を表示する。具体的には、前記検索結果の画面は、i)上位3つの疾患A、D、Gの代表症例の画像、ii)疾患別に診断対象画像との類似度、登録症例数及び代表症例数、iii)検索件数(検索された疾患の総数)、及び、iv)一画面に表示できない他の疾患の情報を参照するための「ページ送り」のソフトボタン等を表示する(特許文献1の段落[0062]から[0063]及び
図6(E)参照)。
【0014】
しかし、特許文献1では、検索結果画面(特許文献1の
図6(E)参照)は、「ページ送り」のソフトボタンを有している。従って、次の疾患別の代表症例を見るためには「ページ送り」のソフトボタンを選択して、次頁の検索結果画面を表示させる必要がある。検索結果の数が、例えば200件から300件等と膨大である場合、前記ソフトボタンを何回も繰り返し操作する必要がある。また、医師が確認しなければならない膨大な数の画像の中で病変の位置は必ずしも同じ位置にある訳ではない。そのため、医師は、ページを送る度に視線を動かして病変位置を探す必要がある。従って、特許文献1では、診断対象画像を用いて患者の疾患名を判断するにあたって、相当な労力を医師に強いるという問題があった。その結果、医師は、効率的にまたは適切に患者の疾患名を特定できないおそれもある。
【0015】
非特許文献1は、病変画像を用いて過去の類似症例を検索する機能により、上述のPACSなどに蓄積された臨床知識から、瞬時に的確な情報を抽出し提示し、医師の画像診断をサポートする類似症例検索システムを開示する。具体的には、本システムは、検査画像の病変の特徴が類似した症例画像を検索し、類似順に複数表示する。そして、表示された複数の症例画像より1つの参考症例画像を選択し、検査画像と並列に表示する(非特許文献1のp.12「2.2 本システムの特徴」及びFig.3)。
【0016】
しかし、非特許文献1に開示されたシステムでは、表示されている参考症例画像の中に選択すべき画像がない場合、次の参考症例画像を表示させることになると思われる。しかし、非特許文献1のFig.3に示すように、参考症例画像の表示サイズは表示画面全体と比較すると小さい。加えて、医師が確認しなければならない参考症例画像の数は膨大であり、その膨大な数の画像の中で病変の位置は必ずしも同じ位置にあるとは限らない。そのため、医師は、次の参考症例画像を表示させる度に、表示サイズが小さい画像の中において視線を動かして病変位置を探す必要がある。従って、非特許文献1では、検査画像を用いて患者の疾患名を判断するにあたって、相当な労力を医師に強いるという問題があった。その結果、医師は、効率的にまたは適切に、患者の疾患名を特定できないおそれもある。
【0017】
未だ病名が特定されていない読影対象の医用画像に表れている病変を検討するにあたって、既に病名が特定されている他の医用画像の中で前記読影対象の医用画像と類似する類似医用画像を参照することは有効であると考えられる。しかし、このようなシステムを構築した場合、前記医用画像データベースに膨大な数の医用画像が登録されることになる。このような場合であっても、前記読影対象の医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示することが望まれる。
【0018】
以上の考察により、以下の各態様を想到するに至った。
【0019】
本開示の第1の態様は、
医用画像が登録された医用画像データベースを参照して医用画像を検索する症例検索システムに接続され、タッチパネルディスプレイを有する情報端末の制御方法であって、
前記タッチパネルディスプレイには、読影対象候補の医用画像の中から選択された読影対象の医用画像である対象医用画像が表示され、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す指定情報を検知させ、
前記指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させ、前記複数の類似医用画像は、それぞれ前記関心領域に対応する対応関心領域を含み、
前記受信した複数の類似医用画像を表示する表示画面を前記タッチパネルディスプレイに表示させ、前記表示画面は、前記受信した複数の類似医用画像のうちの少なくとも一部の複数の類似医用画像を表示する表示領域を含み、
前記表示領域に表示されている前記少なくとも一部の複数の類似医用画像のうち第1類似医用画像の選択が検知されると、前記第1類似医用画像を前記表示領域の全体に表示させ、
前記第1類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で前記類似度が前記第1類似医用画像の次に高い第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記表示領域に表示させるものである。
【0020】
前記複数の類似医用画像において、それぞれの前記対応関心領域の位置はばらばらである場合がある。一方、前記対象医用画像の関心領域との関係で前記所定の類似度を有する類似医用画像を受信させている。従って、それぞれの前記対応関心領域の位置が異なると、スワイプ操作毎に、医師は、前記異なる位置にある前記対応関心領域を探すために、目線を移動させる必要がある。このことが、複数の類似医用画像の前記対応関心領域を連続して観察する際に、前記対応関心領域を探すために余計な時間又は手間を取らせ、効率を低下させることがあり得る。
【0021】
本態様によると、スワイプ操作により類似度が前記第1類似医用画像の次に高い第2類似医用画像を表示させる際、単に前記第2類似医用画像を表示させるのではない。前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記第2類似医用画像を前記表示領域に表示させる。
【0022】
そのため、スワイプ操作によって第1類似医用画像から第2類似医用画像に前記対応関心領域を連続して観察する場合であっても、医師は、表示される類似医用画像が入れ替わる度に目線の位置を変えて前記対応関心領域を探す必要がない。したがって、それぞれの前記対応関心領域を観察することに医師を集中させることができる。その結果、スワイプ操作によって第1類似医用画像から第2類似医用画像に前記対応関心領域を連続して観察する場合に、観察にかかる身体的負担を軽減し、前記対応関心領域の読影効率を向上させ、診察効率の向上に寄与できる。
【0023】
また、上記第1の態様において、例えば、
前記第2類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で前記類似度が前記第2類似医用画像の次に高い第3類似医用画像を、前記第3類似医用画像に含まれる前記対応関心領域を前記表示領域の前記所定位置に合わせて、前記表示領域に表示させるようにしてもよい。
【0024】
本態様によると、スワイプ操作により第2類似医用画像から第3類似医用画像に連続して観察する際、それぞれの前記対応関心領域は前記所定位置に表示されることになる。したがって、医師は、表示される類似医用画像が入れ替わる度に目線の位置を変えて前記対応関心領域を探す必要がない。
【0025】
また、上記第1の態様において、例えば、
前記第1類似医用画像を前記表示領域に表示させる際に、前記第1類似医用画像に含まれる前記対応関心領域を前記表示領域の前記所定位置に合わせて、前記第1類似医用画像を前記表示領域に表示させるようにしてもよい。
【0026】
本態様によると、最初に表示されれる類似医用画像である前記第1類似医用画像についても前記対応関心領域が前記所定位置に合わせた状態で表示されることになる。
【0027】
また、上記第1の態様において、例えば、
前記表示領域の前記所定位置は、前記表示領域の中心に相当する位置を含むようにしてもよい。
【0028】
本態様によると、前記対応関心領域の位置が前記第1類似医用画像と第2類似医用画像とにおいてばらばらであっても、前記各対応関心領域が例えば前記表示領域の隅に偏った状態で観察するのではなく、前記各対応関心領域を前記表示領域の中心に配置して、前記各対応関心領域の周辺を均等に含めて観察できる。
【0029】
また、上記第1の態様において、例えば、
前記表示領域の前記所定位置は、前記第1類似医用画像の中での前記第1類似医用画像に含まれる前記対応関心領域の位置を含むようにしてもよい。
【0030】
本態様によると、最初に表示される類似医用画像である前記第1類似医用画像に含まれる前記対応関心領域の位置が、前記所定位置となる。そのため、医師は、最初に表示される類似医用画像である前記第1類似医用画像に含まれる前記対応関心領域の位置に、目線を合わせて、そのまま継続して、前記第2類似医用画像に含まれる前記対応関心領域を観察できる。
【0031】
また、上記第1の態様において、例えば、
前記第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記表示領域に表示させる際、前記第2類似医用画像のうち前記表示領域外の部分は非表示とされ、前記表示領域のうち前記第2類似医用画像外の部分には背景画像が表示されるようにしてもよい。
【0032】
また、上記第1の態様において、例えば、
前記第2類似医用画像が前記表示領域に表示された時点から、前記第2類似医用画像に対するスワイプ操作を所定期間検知しなかった場合、前記第2類似医用画像の表示位置を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせた位置から、前記第2類似医用画像の全体が前記表示領域の全体に表示される位置に移動させるようにしてもよい。
【0033】
スワイプ操作が行われた後にスワイプ操作が止まった場合、医師は、前記スワイプ操作が止まったときの類似医用画像に関心があると考えることができる。即ち、スワイプ操作の際は多くの類似医用画像をサーチしている状態であり、一方、スワイプ操作が止まった場合は観察している状態である場合が多いと考えられる。
【0034】
本態様によると、スワイプ操作を所定期間検知しなかった場合、前記スワイプ操作が止まったときの類似医用画像の表示位置を全体が表示される位置に移動させる。これにより、医師は、前記スワイプ操作が止まったときの類似医用画像を通常の表示状態で観察できる。そのため、前記スワイプ操作のときは、前記対応関心領域に注意を集中させてサーチを効率化する。また、前記スワイプ操作が止まったときは、表示中の類似医用画像に含まれる全ての情報を観察させて、診療判断の精度向上に寄与できる。また、スワイプ操作を止めるだけで通常の表示状態に戻す。したがって、通常の表示状態に戻すのに特別な操作は不要となり、操作処理の効率化を図ることができる。
【0035】
また、上記第1の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるようにしてもよい。
【0036】
また、上記第1の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用画像及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるようにしてもよい。
【0037】
本開示の第2の態様は、
医用画像が登録された医用画像データベースを参照して医用画像を検索する症例検索システムに接続され、タッチパネルディスプレイを有する情報端末の制御方法であって、
前記タッチパネルディスプレイには、読影対象候補の医用画像の中から選択された読影対象の医用画像である対象医用画像が表示され、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す指定情報を検知させ、
前記指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させ、前記複数の類似医用画像は、それぞれ前記関心領域に対応する対応関心領域を含み、
前記受信した複数の類似医用画像を表示する表示画面を前記タッチパネルディスプレイに表示させ、前記表示画面は、前記受信した複数の類似医用画像のうちの少なくとも一部の複数の類似医用画像を表示する表示領域を含み、
前記表示領域に表示されている前記少なくとも一部の複数の類似医用画像のうち第1類似医用画像の選択が検知されると、前記第1類似医用画像を前記表示領域の全体に表示させ、
前記表示領域の全体に表示されている前記第1類似医用画像に対する拡大操作が検知されると、前記第1類似医用画像を、前記第1類似医用画像に含まれる前記対応関心領域を前記表示領域の中心に相当する位置に合わせて拡大させ、
前記拡大された第1類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で前記類似度が前記第1類似医用画像の次に高い第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の中心に相当する位置に合わせ、且つ、前記第2類似医用画像に含まれる前記対応関心領域の表示サイズを前記拡大された第1類似医用画像に含まれる前記対応関心領域の表示サイズに合わせて、拡大して前記表示領域に表示させるものである。
【0038】
前記複数の類似医用画像において、それぞれの前記対応関心領域の位置はばらばらである場合がある。一方、前記対象医用画像の関心領域との関係で前記所定の類似度を有する類似医用画像を受信させている。従って、それぞれの前記対応関心領域の位置が異なると、スワイプ操作毎に、医師は、前記異なる位置にある前記対応関心領域を探すために、目線を移動させる必要がある。このことが、複数の類似医用画像の前記対応関心領域を連続して観察する際に、前記対応関心領域を探すために余計な時間又は手間を取らせ、効率を低下させることがあり得る。
【0039】
本態様によると、スワイプ操作により類似度が前記第1類似医用画像の次に高い第2類似医用画像を表示させる際、単に前記第2類似医用画像を表示させるのではない。前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の所定位置に合わせて、前記第2類似医用画像を前記表示領域に表示させる。
【0040】
そのため、スワイプ操作によって第1類似医用画像から第2類似医用画像に前記対応関心領域を連続して観察する場合であっても、医師は、表示される類似医用画像が入れ替わる度に目線の位置を変えて前記対応関心領域を探す必要がない。したがって、それぞれの前記対応関心領域を観察することに医師を集中させることができる。その結果、スワイプ操作によって第1類似医用画像から第2類似医用画像に前記対応関心領域を連続して観察する場合に、観察にかかる身体的負担を軽減し、前記対応関心領域の読影効率を向上させ、診察効率の向上に寄与できる。
【0041】
また、前記複数の類似医用画像において、それぞれの前記対応関心領域の位置だけではなく、それぞれの前記対応関心領域の大きさも、ばらばらである場合がある。従って、それぞれの前記対応関心領域の位置は同じであっても、次に表示される第2類似医用画像に含まれる前記対応関心領域が小さくなる度合いが、第1類似医用画像と比較して大きいと、医師は、次の第2類似医用画像をより一層凝視する必要がある。また、複数の類似医用画像の前記対応関心領域を連続して観察する際に、同様のサイズで観察できなくなる。このため、医師に余計な時間又は手間を取らせ、読影効率が低下することがあり得る。
【0042】
本態様によると、前記第1類似医用画像に含まれる前記対応関心領域を前記表示領域の中心に相当する位置に合わせて、前記第1類似医用画像が拡大されて表示されている。この状態で、第1類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で類似度が前記第1類似医用画像の次に高い第2類似医用画像を、前記第2類似医用画像に含まれる前記対応関心領域を前記表示領域の中心に相当する位置に合わせ、且つ、前記第2類似医用画像に含まれる前記対応関心領域の表示サイズを前記拡大された第1類似医用画像に含まれる前記対応関心領域の表示サイズに合わせて、拡大して前記表示領域に表示させる。
【0043】
そのため、スワイプ操作によって第1類似医用画像から第2類似医用画像に前記対応関心領域を連続して観察する場合であっても、医師は、表示される類似医用画像が入れ替わる度に目線の位置を変えて前記対応関心領域を探す必要がなく、且つ、同じようなサイズで、それぞれの前記対応関心領域を観察できる。その結果、スワイプ操作によって第1類似医用画像から第2類似医用画像に前記対応関心領域を連続して観察する場合に、観察にかかる身体的負担を軽減し、前記対応関心領域の読影効率を向上させ、診察効率の向上に寄与できる。
【0044】
また、上記第2の態様において、例えば、
前記第2類似医用画像に対するスワイプ操作を検知した場合、前記複数の類似医用画像の中で前記類似度が前記第2類似医用画像の次に高い第3類似医用画像を、前記第3類似医用画像に含まれる前記対応関心領域を前記表示領域の中心に相当する位置に合わせ、且つ、前記第3類似医用画像に含まれる前記対応関心領域の表示サイズを前記拡大された第1類似医用画像に含まれる前記対応関心領域の表示サイズに合わせて、拡大して前記表示領域に表示させるようにしてもよい。
【0045】
本態様によると、スワイプ操作により前記第2類似医用画像から前記第3類似医用画像まで連続して観察する際、それぞれの前記対応関心領域を前記表示領域の中心に相当する位置に、且つ同様の表示サイズに表示させることができる。
【0046】
そのため、スワイプ操作によって第2類似医用画像から第3類似医用画像に前記対応関心領域を連続して観察する場合であっても、医師は、表示される類似医用画像が入れ替わる度に目線の位置を変えて前記対応関心領域を探す必要がなく、且つ、同じようなサイズで、それぞれの前記対応関心領域を観察できる。その結果、スワイプ操作によって第2類似医用画像から第3類似医用画像に前記対応関心領域を連続して観察する場合に、観察にかかる身体的負担を軽減し、前記対応関心領域の読影効率を向上させ、診察効率の向上に寄与できる。
【0047】
また、上記第2の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるようにしてもよい。
【0048】
また、上記第2の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用画像及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるようにしてもよい。
【0049】
本開示の他の態様は、
タッチパネルディスプレイの第1表示領域に表示された第1画像と第2画像を含む複数の画像に代えて、第1変換画像を前記第1表示領域に表示し、
前記第1変換画像は、前記第1画像の第1領域の第3画像を拡大した画像であり、
前記第1変換画像がスワイプされた時、前記第1表示領域に表示された前記第1変換画像に代えて、第2変換画像を前記第1表示領域に表示し、
前記第2変換画像は、前記第2画像の第2領域の第4画像を拡大した画像であり、
前記複数の画像と複数の予め定められた領域は1対1対応し、
前記複数の画像の各々は前記複数の予め定められた領域のうち対応する予め定められた領域を含み、
前記第1領域は前記複数の予め定められた領域に含まれる第1の予め定められた領域を含み、
前記第3画像は前記第1の予め定められた領域に含まれる第5画像を含み、
前記第2領域は前記複数の予め定められた領域に含まれる第2の予め定められた領域を含み、
前記第4画像は前記第2の予め定められた領域に含まれる第6画像を含み、
前記複数の予め定められた領域に含まれる画像のうち、最も特定の画像に類似する画像は前記第5画像であり、
前記複数の予め定められた領域に含まれる画像のうち、2番目に前記特定の画像に類似する画像は前記第6画像であり、
前記第1変換画像が前記第1表示領域に表示される時は、前記第1の予め定められた領域が前記第1表示領域の中心に表示され、
前記第2変換画像が前記第1表示領域に表示される時は、前記第2の予め定められた領域が前記第1表示領域の中心に表示される制御方法である。
【0050】
(実施の形態1)
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
【0051】
図1は、本実施の形態における情報端末が適用された病院情報システムの全体構成図である。
図1に示すように、病院情報システムは、情報端末100、医用情報管理システム200、及び症例検索システム300を備えている。
【0052】
情報端末100、医用情報管理システム200、及び症例検索システム300はネットワーク400を介して相互に通信可能に接続されている。
【0053】
なお、医用情報管理システム200及び症例検索システム300は必ずしも病院の中に配置される必要はなく、病院外のデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバ等の上で動作するソフトウェアであってもよい。医用情報管理システム200及び症例検索システム300が病院内に設置されている場合、ネットワーク400としては、ローカルエリアネットワークが採用できる。ローカルネットワークとしては、IEEE802.3シリーズの有線LAN、IEEE802.11シリーズの無線LAN、或いは両者が混在するネットワークが採用できる。医用情報管理システム200及び症例検索システム300が病院外のサーバを用いて実現される場合、ネットワーク400としては、インターネットが採用できる。
【0054】
情報端末100としては、パーソナルコンピュータやタブレット端末等の情報端末が採用される。医用情報管理システム200としては、PACS(Picture Archiving and Communication Systems)や電子カルテシステム等が採用される。
【0055】
図2は、情報端末100、医用情報管理システム200、及び症例検索システム300の構成を示すブロック図である。
図2に示すように、情報端末100は、ディスプレイ101、操作部102、入力制御部103、表示制御部104、ROI管理部105、病名リスト管理部108、分布リスト管理部109、通信制御部110、及び画像生成部112を備える。
【0056】
ディスプレイ101は、例えば、タッチパネルを有する液晶モニタにより構成され、診断対象となる医用画像及びカルテ画像を表示すると共に、診断結果を記入するためのレポート入力画像等を表示する。
【0057】
操作部102は、例えばタッチパネルにより構成され、情報端末100に対してユーザにより入力される種々の操作を受け付ける。例えば、操作部102は、ディスプレイ101に表示される医用画像及びカルテ画像に対するユーザからの操作、並びにレポート入力画面に対して診断結果を入力する操作等を受け付ける。
【0058】
入力制御部103は、操作部102へのユーザの操作を検知すると、その操作の内容を解釈し、他の構成要素に操作内容を通知する。例えば、入力制御部103は、操作部102から接触物(例えばユーザの指)のタッチパネルへの接触位置の座標データを受け取り、表示制御部104で生成されたGUIの座標と比較することにより、GUIにおけるボタンオブジェクトが選択されたか否かを判定し、他の構成要素に操作内容を通知する。
【0059】
表示制御部104は、情報端末100のGUI(Graphical User Interface)を生成し、ディスプレイ101に表示させる。
【0060】
ROI管理部105は、類似症例検索を行う際に、後述する検索クエリ画像に対して設定される関心領域(Region Of Interest)を示す関心領域情報を生成してメモリに格納し、関心領域情報を管理する。
【0061】
病名リスト管理部108は、症例表示領域710(
図5)に表示された類似症例の病名リスト(
図30)を生成してメモリに格納し、病名リストを管理する。
【0062】
分布リスト管理部109は、症例表示領域710に表示された類似症例の病変分布を示す分布リスト(
図35)を生成してメモリに格納し、分布リストを管理する。
【0063】
通信制御部110は、例えば、情報端末100をネットワーク400に接続するための通信装置を含み、情報端末100及び医用情報管理システム200間の通信や、情報端末100及び症例検索システム300間の通信を制御する。また、通信制御部110は、他のブロックから種々のデータの送信依頼を受け付けて、医用情報管理システム200又は症例検索システム300に送信すると共に、医用情報管理システム200又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
【0064】
画像生成部112は、事前に作成された類似症例のサムネイル画像を取得し、ユーザの操作内容に応じて、ディスプレイ101への表示領域を変更したサムネイル画像を生成し、生成したサムネイル画像を表示制御部104に出力する。
【0065】
画像生成部112は、入力制御部103から、操作部102へのユーザ操作内容を取得する。画像生成部112は、類似症例検索部303からは類似症例データ(類似度、関心領域情報)を、通信制御部110を介して受信する。ユーザがスワイプ操作を行った場合には、画像生成部112は、類似症例のサムネイル画像における対応関心領域の中心座標が、サムネイル画像が表示される表示領域の中心位置に一致するように、サムネイル画像を生成する。スワイプ操作に基づくサムネイル画像の生成については後に詳述する。
【0066】
図2に示すように、医用情報管理システム200は、患者情報蓄積部201、患者情報管理部202、医用画像データ蓄積部203、医用画像データ管理部204、診断レポート管理部205、及び通信制御部206を備える。
【0067】
患者情報蓄積部201は、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録された患者情報1000(
図19)を蓄積する。
【0068】
患者情報管理部202は、患者情報蓄積部201に蓄積された患者情報1000(
図19)に対して、ユーザから入力されたデータを登録して患者情報1000を更新する処理、及び患者情報1000を表示制御部104に出力する処理等を実行し、患者情報1000を管理する。医用画像データ蓄積部203は、患者の検査画像である医用画像データを蓄積する。
【0069】
医用画像データ管理部204は、医用画像データを医用画像データ蓄積部203に蓄積し、医用画像データを管理する。
【0070】
診断レポート管理部205は、患者に対して行われた各検査に対する医師による診断結果を示す診断レポート3000(
図22)を管理する。
【0071】
通信制御部206は、例えば、医用情報管理システム200をネットワーク400に接続するための通信装置を含み、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は症例検索システム300に送信すると共に、情報端末100又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
【0072】
図2に示すように、症例検索システム300は、類似症例データ蓄積部301、画像特徴抽出部302、及び類似症例検索部303を備える。
【0073】
類似症例データ蓄積部301は、予め、医用情報管理システム200に管理されている類似症例のうち、類似症例検索の対象データとして選定された多数の類似症例から抽出された画像特徴や、生成されたサムネイル画像等が登録された類似症例データ4000(
図23)を蓄積する。
【0074】
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。
【0075】
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。なお、関心領域情報は、関心領域を示す指定情報の一例である。
【0076】
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された1以上の類似症例の画像特徴とをそれぞれ比較することで類似症例検索結果を生成する。
【0077】
通信制御部304は、例えば、症例検索システム300をネットワーク400に接続させる通信装置で構成され、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は医用情報管理システム200に送信すると共に、情報端末100又は医用情報管理システム200から送信されたデータを受信し、該当するブロックに渡す。
【0078】
図3は、情報端末100の実装形態の構成例を示す図である。
図3に示すように、情報端末100は、アプリケーション501、OS(Operating System)502、メモリ503、及び図示しないその他のハードウェアを備えている。
【0079】
アプリケーション501は、パーソナルコンピュータやタブレット端末を情報端末100として機能させるためのアプリケーションソフトウェアであり、情報端末100のプロセッサにより実行される。情報端末100は、コンピュータ読み取り可能な記録媒体からアプリケーション501を読み出してアプリケーション501を実装してもよいし、ネットワークからダウンロードすることでアプリケーション501を実装してもよい。
【0080】
ここで、アプリケーション501は、医用情報管理アプリケーション及び類似症例検索アプリケーションを含む。医用情報管理アプリケーションは、情報端末100を医用情報管理システム200と連携させるためのアプリケーションであり、類似症例検索アプリケーションは、情報端末100を症例検索システム300と連携させるためのアプリケーションである。そして、両アプリケーションは、相互にデータを送受し、情報端末100において、医用情報管理システム200及び症例検索システム300が提供するサービスを統合させる。
【0081】
OS502は、情報端末100の基本ソフトウェアであり、情報端末100のプロセッサにより実行される。メモリ503は、情報端末100が備えるRAM、ROM等の記憶装置により構成され、アプリケーション501に含まれるデータ群を記憶する。
【0082】
情報端末100のプロセッサがアプリケーション501を実行することで、
図2に示す入力制御部103、表示制御部104、ROI管理部105、病名リスト管理部108、分布リスト管理部109、通信制御部110、及び画像生成部112の機能が実現される。
【0083】
但し、本実施の形態では、情報端末100は、アプリケーション501のみ単独で実装されてもよいし、アプリケーション501及びOS502で実装されてもよいし、アプリケーション501、OS502、及びメモリ503で実装されてもよいし、アプリケーション501、OS502、メモリ503、及びその他の図示しないハードウェアで実装されてもよい。いずれの実装形態においても本実施の形態の情報端末100を実現することは可能である。
【0084】
図4は、情報端末100にて、医師が診断画像を閲覧するときにディスプレイ101に表示される閲覧画面K1の一例を示す図である。
図4に示すように、ディスプレイ101に表示された情報端末100の基本画面は、1つの医用画像ビューワ705、読影対象検査リストボタン701、ROI入力ボタン702、類似症例検索ボタン703、読影レポート入力ボタン704、スクロールバー706を含む。
【0085】
医用画像は、通常、DICOM(Digital Imaging and COmmunication in Medicine)フォーマットで記録されている。医用画像ビューワ705は、DICOMを扱えるビューワである。本実施の形態で扱う医用画像は、多数の断層画像(以下、「スライス画像」ともいう)で構成される胸部CT画像とする。但し、これは一例に過ぎず、他の部位(例えば、頭部、腹部、脚、或いは腕)のCT画像が採用されてもよい。
【0086】
医用画像ビューワ705に表示された胸部CT画像は、タッチパネルへの操作により、スライス画像が切り替えられる。ここで、胸部CT画像を構成するスライス画像は、例えば、首側から腹側に向かう順番に配置されている。
【0087】
なお、医用画像としては、胸部CT画像に代えて、MRI(Magnetic Resonance Imaging)画像や単純X線画像が採用されてもよい。また、
図4の例では、医用画像ビューワ705に表示される医用画像の表示数は1個とされているが、これは一例にすぎず、2個や4個など別の個数が採用されてもよい。医用画像ビューワ705に表示される個数が多くなると同時に比較できる医用画像が増えるが、1画像当たりの表示面積が狭くなる。このため、医用画像の表示数は、ディスプレイ101の表示サイズに応じて適宜変更可能な構成を採用すればよい。なお、ユーザまたは管理者が、医用画像の表示数の設定を自由に変更できるものとする。
【0088】
類似症例検索アプリケーションが起動される前には、医用画像ビューワ705には、類似症例検索を起動する元となる、ある患者の胸部CT画像が表示されている。特に、胸部CT画像のうち、読影者が類似症例検索を起動する際のスライス位置の画像(すなわち、検索クエリ画像)が表示されている。なお、表示制御部104は、検索クエリ画像上に類似症例検索を行う対象の関心領域(ROI:Region Of Interest)を重畳表示してもよい。検索クエリ画像は、読影対象の医用画像である対象医用画像の一例である。
【0089】
読影対象検査リストボタン701は、ディスプレイ101の表示画面を、
図4の診断画像の閲覧画面K1から、読影対象を選択する読影対象検査リストの表示画面K5(後述の
図26)に変更するためのボタンである。
【0090】
ROI入力ボタン702は、医師が類似症例検索を行う際、医用画像ビューワ705に表示されている検索クエリ画像に関心領域を入力できる状態に切り替えるためのボタンである。ROI入力ボタン702をタップしたあと、タッチパネルに座標を入力することにより、
図4に示す関心領域ROIを入力することができる。
【0091】
類似症例検索ボタン703は、類似症例検索アプリケーションを起動するためのボタンである。ユーザが、関心領域ROIを入力した後、類似症例検索ボタン703をタップすることにより、類似症例検索アプリケーションが起動される。
【0092】
読影レポート入力ボタン704は、
図4の診断画像の閲覧画面K1から、診断レポート3000(後述の
図22)を作成するための作成画面に表示画面を変更するためのボタンである。
【0093】
なお、読影対象検査リストボタン701、ROI入力ボタン702、類似症例検索ボタン703、読影レポート入力ボタン704は、一例である。それぞれ、ボタン以外の入力方法で入力するようにしてもよい。
【0094】
スクロールバー706は、医用画像ビューワ705に表示されている医用画像を別のスライス画像に切り替えるために用いられる。表示制御部104は、スクロールバー706の位置に対応する位置のスライス画像を表示する。
【0095】
例えば、ユーザが接触物(例えばユーザの指)でスクロールバー706に接触し、接触した状態で接触物を上向き又は下向きに移動させると、上記接触及び移動を入力制御部103が検知する。すると、表示制御部104は、接触物の移動に応じてスクロールバー706の表示位置を移動させる。また、表示制御部104は、スクロールバー706の表示位置に応じた位置のスライス画像に、医用画像ビューワ705に表示されているスライス画像を切り替える。
【0096】
図4のスライス位置表示部705Aには「24/82」と表示されている。これは、
図4の医用画像ビューワ705に表示されている医用画像は82枚のスライス画像を含むことと、
図4のスライス画像は、82枚のスライス画像のうち24番目のスライス画像であることとを表す。
【0097】
図5は、情報端末100にて、類似症例検索アプリケーションが起動された後にディスプレイ101に表示される基本画面K2の一例を示す図である。
図5に示すように、類似症例検索アプリケーションが起動されると、診断中の医用画像(読影対象の医用画像である対象医用画像)の閲覧画面K1(
図4)から、類似症例のサムネイル画像を表示する基本画面K2に切り替わる。
図5に示すように、ディスプレイ101に表示された基本画面K2(表示画面の一例)は、対象表示領域708、症例表示領域710(表示領域の一例)、病名リスト表示領域730、分布リスト表示領域750を備える。
【0098】
対象表示領域708は、類似症例検索を行う元となった検索クエリ画像(対象医用画像)を表示する領域である。
【0099】
症例表示領域710は、検索クエリ画像に類似した類似症例のサムネイル画像を類似度順に表示する領域である。ここで、類似症例のサムネイル画像は、類似医用画像の一例である。
【0100】
例えばタブレットなどのタッチパネルを有するディスプレイ101は、表示領域が大きくない場合が多い。その場合、多数の類似症例のサムネイル画像を並べて表示すると、1つのサムネイル画像の表示サイズが小さくなってしまい、類似症例の閲覧性が悪くなる。そのため、症例表示領域710の基本画面では、
図6A(後述)に示すように、検索クエリ画像に最も類似する類似症例のサムネイル画像を1枚表示する。
【0101】
症例表示領域710には、DICOM画像から解像度や画素値の変換を行った画像が表示される。また、症例表示領域710には多数の類似症例が表示されるため、解像度や画素値の変換をその場で行うと処理に時間がかかってしまう。よって、初期画面におけるサムネイル画像は、予めオリジナルのDICOM画像から作成され、症例検索システム300に保存されている。
【0102】
以下、解像度や画素値の変換について少し補足する。オリジナルのCT画像(スライス画像)の解像度は512×512画素であるが、サムネイル画像はより低解像であるため、解像度変換を行う必要がある。そこで、サムネイル画像は、元となるCT画像(スライス画像)に対して低解像度処理及び階調変換処理が行われて生成される。
【0103】
階調変換処理は例えば、下記のように行われる。CTで取得したDICOM画像(スライス画像)では、各画素値(CT値)が−1000〜+1000(単位HU:Hounsfield Unit)の2000階調の値をとり、そのままでは通常の8ビット階調のディスプレイには表示できない。また、表示できたとしても、2000階調の中で、肺気腫領域(CT値:−1000HU)、肺野の正常組織(CT値:約−900HU)、すりガラス領域(CT値:−800HU)、軟部組織(CT値:−100〜−50HU)、水(CT値:0HU)、及び骨(CT値:1000HU)を人間が肉眼で区別することは難しい。
【0104】
よって、通常、スライス画像は、各画素値に対してウィンドウレベル及びウィンドウ幅が設定され、8ビットの画素値に再構成されて、ディスプレイに表示される。ここで、ウインドウレベルは、ウインドウの中心となるCT値を示し、ウインドウ幅は、ウインドウ中心の上下の幅を示す。
【0105】
例えば、肺野条件でDICOM画像が再構成される場合、ウインドウレベルが−550〜−800に設定され、ウインドウ幅が1000〜1600に設定される。したがって、サムネイル画像も、元となるスライス画像から上記の処理によって画素値が8ビットに落とされることで生成される。
【0106】
なお、基本画面K2(
図5)で症例表示領域710に表示されるサムネイル画像は、診断対象症例の特徴ベクトルに対する距離が所定の閾値以下の類似症例を示すサムネイル画像である。基本画面K3(後述の
図6A)で症例表示領域710に表示されるサムネイル画像は、診断対象症例の特徴ベクトルに対する距離が最も短い類似症例を示すサムネイル画像である。ここでは距離としては、例えば、ユークリッド距離が用いられる。なお、距離としては、市街地距離等の別の距離尺度が採用されてもよい。比較対象となる2つの画像は、距離が近いほど類似している。また、特徴ベクトルは、サムネイル画像から得られたものではなく、元画像であるDICOM画像から得られたものが採用される。
【0107】
図5において、基本画面K2の例えば左上には、検索結果件数表示領域714が配置されている。検索結果件数表示領域714には、検索処理の結果、症例検索システム300から取得された、診断対象症例に類似する類似症例の数が表示される。
【0108】
なお、類似症例の数が膨大である場合、症例表示領域710は全ての類似症例を一度に表示することができない。そこで、症例表示領域710の例えば右側には、上下方向に長尺のスクロールバー716が設けられている。表示制御部104は、スクロールバー716の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を上下方向にスクロール表示させる。これにより、ユーザは、非表示状態にあった類似症例を症例表示領域710に表示させ、その類似症例を観察できる。
【0109】
なお、スクロールバー716は左右方向に長尺であってもよい。この場合、表示制御部104は、スクロールバー716の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を左右方向にスクロール表示させればよい。
【0110】
なお、情報端末100は、検索クエリ画像との距離が所定の閾値以下のサムネイル画像を症例検索システム300から取得するとしたが、これは一例に過ぎない。例えば、情報端末100は、類似度が高い順に、常に一定数のサムネイル画像を症例検索システム300から取得してもよい。或いは、情報端末100は、常にある確定診断病名のサムネイル画像が一定数含まれるようにサムネイル画像を症例検索システム300から取得してもよい。
【0111】
なお、症例表示領域710におけるサムネイル画像の表示手法としては、例えば、最上段の行の左端に検索クエリ画像との距離が最短のサムネイル画像を表示し、右側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一行の右端に達すると上から2行目の左端に次に距離が大きいサムネイル画像を表示するという表示手法が採用できる。つまり、症例表示領域710において、左上から右下に向けて蛇行するように距離が小さい順にサムネイル画像を表示するという表示手法が採用できる。
【0112】
もちろん、本実施の形態は別の表示手法が採用されてもよい。例えば、左から1列目の上端に距離が最短のサムネイル画像を表示し、下側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一列の下端に達すると、左から2列目の上端に次に距離が大きいサムネイル画像を表示するという表示手法が採用されてもよい。また、これら複数の表示手法をユーザが切り替え可能な構成が採用されてもよい。
【0113】
また、上記の例では、距離として、特徴ベクトルに対する距離が採用されたが、特徴量に対する距離でもよい。また、上記の例では、類似度として距離が採用されたが、コサイン類似度のような画像同士の類似性を示す指標であればどのような指標が採用されてもよい。コサイン類似度が採用された場合、値が1に近づくにつれて比較対象となる2つの画像の類似性が高くなる。
【0114】
なお、詳細は後述するが、症例表示領域710に表示する類似症例は、病名リスト表示領域730に表示された病名や、分布リスト表示領域750に表示された病変分布で絞り込むことができる。現在設定されている類似症例の絞込条件は、表示条件表示領域715に表示される。
図5の例では、類似症例検索直後の状態であり、何も絞り込みがなされていないため、表示条件表示領域715には「全疾患」と表示されている。
【0115】
図6Aは、ディスプレイ101に表示される基本画面K3の一例を示す図である。
図5に示される基本画面K2において、ユーザが、いずれかのサムネイル画像を接触物(例えばユーザの指)で例えばダブルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図6Aに示されるように、選択されたサムネイル画像が症例表示領域710の全体に表示された基本画面K3をディスプレイ101に表示する。
【0116】
図6Aに示される症例表示領域710の下部には、確定診断病名表示領域711、距離表示領域712、及び類似順位表示領域713が配置されている。確定診断病名表示領域711には、対象となる類似症例の確定診断病名が表示される。確定診断病名とは、対象となる類似症例に対して診断が確定された病名を指す。距離表示領域712には、対象となる類似症例のスライス画像の特徴ベクトルと、検索クエリ画像の特徴ベクトルとの距離が表示される。類似順位表示領域713には、対象となる類似症例と検索クエリ画像との類似度の順位が表示される。
【0117】
図6Aの例では、確定診断病名表示領域711には、「肺膿瘍」と表示されているため、このサムネイル画像は「肺膿瘍」と確定診断がされた類似症例のサムネイル画像を示す。また、距離表示領域712には、「0.05」と表示されているため、この類似症例のスライス画像と検索クエリ画像との距離が「0.05」であることが示されている。また、類似順位表示領域713には、「1/62」と表示されているため、この類似症例は、62件のうちで最も検索クエリ画像との類似度が高いことが示されている。すなわち、
図6Aの例は、
図5に示される基本画面K2において、ユーザが、1行1列目のサムネイル画像を選択したことを表している。
【0118】
図6Aに示されるように、症例表示領域710に表示されるサムネイル画像は、対応関心領域CROIを含む。対応関心領域CROIは、検索クエリ画像(読影対象の医用画像)に設定された関心領域ROI(
図4)に対応する領域(つまり関心領域に類似する領域)である。なお、以下では、対応関心領域は、単に「関心領域」とも称される。
【0119】
図6Aに示される症例表示領域710の上部には、スクロールバー707が配置されている。スワイプ操作によって、症例表示領域710に表示される類似症例を別の類似症例に切り替えることができる。スワイプ操作による類似症例の切り替えについては、後に詳述される。
【0120】
スクロールバー707は、検索された類似症例の全件における、症例表示領域710に表示されている類似症例の類似度の位置を表す。
図6Aの例では、類似順位表示領域713に「1/62」と表示されている通り、最も類似度の高い類似症例が、症例表示領域710に表示されている。このため、スクロールバー707は、左端に位置している。
【0121】
図6Aに示される基本画面K3において、ユーザが、症例表示領域710に表示されているサムネイル画像を接触物で例えばシングルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図5に示される基本画面K2をディスプレイ101に表示する。
【0122】
図6Bは、DICOMビューワモードでの基本画面K4の一例を示す図である。
図6Aに示される基本画面K3において、ユーザが、症例表示領域710に表示されているサムネイル画像を接触物で例えばダブルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図6Bに示されるように、DICOMビューワモードでの基本画面K4をディスプレイ101に表示する。
【0123】
図6Bに示されるように、症例表示領域710に表示されているサムネイル画像の上部には、スライス番号表示領域710Aとモード表示領域710Bとが配置されている。また、症例表示領域710の右側には、スクロールバー706が配置されている。モード表示領域710Bには、「Mode:DICOM Viewer」と表示され、DICOMビューワモードであることが示されている。
【0124】
スライス番号表示領域710Aには、現在表示されているサムネイル画像のスライス番号が表示される。
図6Bの例では、スライス番号表示領域710Aに、「32/75」と表示されている。
図6Bのスライス番号表示領域710Aは、
図6Bに示されている類似症例(つまり
図5の1行1列目の類似症例)が、75枚のスライス画像を含むことを表す。また、
図6Bのスライス番号表示領域710Aは、
図6Bに示されているサムネイル画像が、75枚のうちの32番目のスライス画像であることを表す。
【0125】
ここで、
図6BのDICOMビューワモードの利用目的が説明される。
図5に示されるように、類似症例検索アプリケーションの起動後に表示される基本画面K2には、対応関心領域CROIを有するスライス画像がサムネイル画像として表示される。ユーザは、対応関心領域CROIを有するスライス画像の前後のスライス画像を確認したい場合に、
図6BのDICOMビューワモードの基本画面K4を表示させる。
【0126】
図6Bにおいて、ユーザが接触物でスクロールバー706に接触し、接触した状態で接触物を上向き又は下向きに移動させると、上記接触及び移動を入力制御部103が検知する。すると、表示制御部104は、接触物の移動に応じてスクロールバー706の表示位置を移動させる。また、表示制御部104は、スクロールバー706の表示位置に応じた位置のスライス画像に、症例表示領域710に表示されているサムネイル画像を切り替える。この操作によって、ユーザは、対応関心領域CROIを有するスライス画像の前後のスライス画像を確認することができる。
【0127】
図6Bに示されるDICOMビューワモードでの基本画面K4において、ユーザが、症例表示領域710に表示されているサムネイル画像を接触物で例えばダブルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図6Aに示される基本画面K3をディスプレイ101に表示する。なお、例えば
図6Bに示されるDICOMビューワモードでの基本画面K4に「戻るボタン」を表示してもよい。この「戻るボタン」が選択されると、
図6Bに示されるDICOMビューワモードでの基本画面K4から
図6Aに示される基本画面K3に戻るようにしてもよい。
【0128】
図5に戻って、基本画面K2の左側の上段には、「病名リスト」との見出しが付けられた病名リスト表示領域730が配置されている。病名リスト表示領域730には、類似症例の検索結果として取得された全ての類似症例の確定診断病名が表示される。診断対象症例は、診断が終了して確定診断病名が付与された後、類似症例として、症例検索システム300に蓄積される。したがって、各類似症例には、それぞれ、診断によって付与された確定診断病名が予め付与されている。
【0129】
図7は、病名リスト表示領域730の拡大図である。
図7では、確定診断病名は、大分類の病名(731、734、737、741、744)と詳細分類の病名(732、733、735、736、738、739、740、742、743、745)とに分けて表示されている。
図7の例では、大分類の病名として、真菌症731(mycosis)、腫瘍性734(neoplastic)、非腫瘍性737(nonneoplastic)、ミコバクテリア症741(mycobacteriosis)、及びその他744が表示されている。
【0130】
また、
図7の例では、真菌症731の詳細分類の病名として、アスペルギルス症732(aspergillosis)、クリプトコッカス症733(cryptococcosis)が表示されている。また、腫瘍性734の詳細分類の病名として、原発性肺癌735(lung cancer)、転移性肺癌736(metastatic lung cancer)が表示されている。また、非腫瘍性737の詳細分類の病名として、肺膿瘍738(lung abscess)、サルコイドーシス739(sarcoidosis)、敗血性塞栓740(septic emboli)が表示されている。また、ミコバクテリア症741の詳細分類の病名として、非結核性抗酸菌症742(NTM:nontuberculous mycobacteria)、肺結核743(tuberculosis)が表示されている。また、その他744の詳細分類の病名として気管支拡張症745(bronchiectasis)が表示されている。
【0131】
また、大分類の病名及び詳細分類の病名の横には、その病名の症例数が表示されている。ユーザは、この病名リスト表示領域730における大分類の病名または詳細分類の病名の任意の行を選択することで、症例表示領域710に表示される類似症例を絞り込むことができる。
図5に示すように類似症例の検索直後の状態では、多様な疾患を含む62個の類似症例が表示対象になっているが、
図7の真菌症731の行が接触物でタップされた場合、表示制御部104は、
図8に示すように真菌症の類似症例のみを症例表示領域710に表示する。また、
図7の転移性肺癌736の行が接触物でタップされた場合は、表示制御部104は、
図9に示すように、転移性肺癌の類似症例のみを症例表示領域710に表示する。
【0132】
この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例がどのような絞り込み条件であるが分かるように、表示条件表示領域715に、絞り込んだ病名を表示する。
図8は、「真菌症」で類似症例が絞り込まれたときの基本画面K2を示す図である。
図9は、「転移性肺癌」で類似症例が絞り込まれたときの基本画面K2を示す図である。
【0133】
図8の例では、「真菌症」で絞り込みがかけられたため、表示条件表示領域715には「真菌症」と表示され、
図9の例では「転移性肺癌」で絞り込みがかけられたため、表示条件表示領域715には「転移性肺癌」と表示されている。
【0134】
また、この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例の件数が分かるように、検索結果件数表示領域714にその件数を表示する。
図8の例では、「真菌症」に該当する類似症例は14件であったため、検索結果件数表示領域714には14件と表示され、
図9の例では、「転移性肺癌」に該当する類似症例は3件であったため、検索結果件数表示領域714には3件と表示されている。
【0135】
この機能により、画像診断の対象として医師が想定する病名のみの類似症例が症例表示領域710に表示され、医師は、診断対象症例が想定した病名と矛盾しないかどうかを容易に確認できる。
【0136】
図10、
図11は、ディスプレイ101に表示される基本画面K3の一例を示す図である。
図8に示される基本画面K2において、ユーザが、例えば1行1列目のサムネイル画像を接触物で例えばダブルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図10に示されるように、選択されたサムネイル画像が症例表示領域710の全体に表示された基本画面K3をディスプレイ101に表示する。同様に、
図9に示される基本画面K2において、例えば1行1列目のサムネイル画像が選択されると、
図11に示される基本画面K3が表示される。
【0137】
図10、
図11に示される基本画面K3は、
図6Aに示される基本画面K3と同様の表示画面であり、画面遷移も同様に行われる。
【0138】
すなわち、
図10に示される基本画面K3において、ユーザが、症例表示領域710に表示されているサムネイル画像を接触物で例えばシングルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図8に示される基本画面K2をディスプレイ101に表示する。同様に、
図11に示される基本画面K3において、シングルタップされると、
図9に示される基本画面K2が表示される。
【0139】
また、
図10、
図11に示される基本画面K3において、ユーザが、症例表示領域710に表示されているサムネイル画像を接触物で例えばダブルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、それぞれ、DICOMビューワモードでの基本画面K4をディスプレイ101に表示する。
【0140】
図5に戻って、基本画面K2の左側の中段には、「病変分布」との見出しが付けられた分布リスト表示領域750が配置されている。分布リスト表示領域750には、類似症例を検索した結果、症例検索システム300から取得された全ての類似症例の病変分布の種類が表示される。
【0141】
図12は分布リスト表示領域750の拡大図である。
図12の例では、7つの病変分布の名称が表示されており、各病変分布の名称の左側にはチェックボックスが配置されている。
図12の例では病変分布として、びまん性751(diffuse)、区域性752(segmental)、気道性753(bronchial)、両側性754(bilateral)、多発性755(multiple)、胸膜下756(subpleural)、及び血行性757(hematogenous)が表示されている。
【0142】
これらの病変分布は予め定義されており、各類似症例には、予め、びまん性751〜血行性757のいずれに該当するか否かを示す分布フラグ値(該当:1、非該当:0)が付与されている。類似症例によっては、全ての分布フラグ値が非該当(:0)に設定されている場合もあれば、複数の分布フラグ値が該当(:1)に設定されている場合もある。
【0143】
本実施の形態の症例検索システム300は、ユーザが診断対象症例のスライス画像に設定した関心領域に対し、類似する関心領域を持つ類似症例を検索する。ユーザが関心領域を設定したスライス画像以外にも、病変は存在することもある。そして、ユーザは関心領域を設定したスライス画像で類似症例を検索した後、そのスライス画像以外のスライス画像と、検索された類似症例とを比較したい場合もある。この場合、ユーザは、医用画像ビューワ705(
図4)において、スライス送りの操作を入力して他のスライス画像を表示させ、検索された類似症例と比較する作業を行う。この場合、検索された全ての類似症例のうち注目する病変に関連する類似症例のみが症例表示領域710に表示されていれば、関心領域が設定されたスライス画像以外のスライス画像の中から所望の病変を持つスライス画像を抽出する作業をスムーズに行うことができる。そこで、本実施の形態では、この作業をよりスムーズに行うために、検索された類似症例を所望の病変分布で絞りこむ機能が設けられている。
【0144】
本実施の形態では、肺野領域内での病変分布として、
図12のびまん性751〜血行性757で示す病変分布が採用されている。また、
図12のように、チェックボックス及び病名分布の名称について、表示制御部104は、絞り込みが可能な病変分布をアクティブ状態で表示し、絞り不可能な病変分布を非アクティブ状態で表示する。ここでは、アクティブ状態としては、輝度が非アクティブ状態に比べて高い状態が採用され、非アクティブ状態としては、輝度がアクティブ状態に比べて低い状態が採用されている。
【0145】
図12の例では、びまん性751、気道性753〜血行性757がアクティブ状態で表示され、区域性752は、非アクティブ状態で表示されている。これは、現在、類似症例の検索によって取得された全ての類似症例のうち、少なくともいずれか1つの類似症例において、びまん性751、気道性753〜血行性757の分布フラグ値が1(該当)に設定され、取得された全ての類似症例のうち、いずれの類似症例においても、区域性752の分布フラグ値が0(非該当)に設定されていたからである。
【0146】
アクティブ状態のチェックボックスのうち、1以上のチェックボックスにチェックマークが入力されたことを入力制御部103が検知すると、表示制御部104は、チェックマークが入力された病変条件に該当する類似症例のみを症例表示領域710に表示させる。
【0147】
なお、区域性752については、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)に設定されている。そのため、区域性752にチェックマークが入力可能な構成を採用すると、これらの病変分布にチェックマークを入力した場合、症例表示領域710には類似症例が何も表示されず、チェックマークを入力する意味が無くなってしまう。そこで、本実施の形態では、このような事態を避けるために、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)である病変分布は非アクティブ状態で表示する。
【0148】
図13は、両側性754のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。
図14Aは、両側性754の病変分布で絞り込みがかけられた基本画面K2を示した図である。
図13に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、
図14Aに示すように、症例表示領域710に、両側性の病変分布を持つ類似症例のみを表示する。この例では、両側性の病変分布を持つ類似症例は10件であった。そのため、表示制御部104は、検索結果件数表示領域714に「10件」と表示している。また、表示制御部104は、表示条件表示領域715に、表示対象の病名と、病変分布の名称である「両側性」とを表示する。
図14Aの例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域715には「全疾患」と表示されている。
【0149】
図14Bは、ディスプレイ101に表示される基本画面K3の一例を示す図である。
図14Aに示される基本画面K2において、ユーザが、例えば1行1列目のサムネイル画像を接触物で例えばダブルタップすることにより選択すると、その選択を入力制御部103が検知する。すると、表示制御部104は、
図14Bに示されるように、選択されたサムネイル画像が症例表示領域710の全体に表示された基本画面K3をディスプレイ101に表示する。
図14Bに示される基本画面K3は、
図6Aに示される基本画面K3と同様の表示画面であり、画面遷移も同様に行われる。
【0150】
同様に、多発性755のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、多発性の病変分布を持つ類似症例のみを表示する。同様に、びまん性751のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、びまん性の病変分布を持つ類似症例のみを表示する。同様に、血行性757のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、血行性の病変分布を持つ類似症例のみを表示する。
【0151】
図15は、気道性753のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。
図16は、気道性753の病変分布で絞り込みがかけられた基本画面において、1行1列目のサムネイル画像が選択されたときに表示される基本画面K3を示した図である。
図15に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、気道性の病変分布を持つ類似症例のみを表示する。そして、1行1列目のサムネイル画像が選択されると、
図16に示されるように、選択されたサムネイル画像が症例表示領域710の全体に表示される。
図16の例では、気道性の病変分布を持つ類似症例は12件であった。そのため、表示制御部104は、検索結果件数表示領域714に「12件」と表示している。また、表示制御部104は、表示条件表示領域715に、表示対象の病名と、病変分布の名称である「気道性」とを表示する。
図16の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域715には「全疾患」と表示されている。
【0152】
同様に、区域性752のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、区域性の病変分布を持つ類似症例のみを表示する。
【0153】
図17は、胸膜下756のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。
図18は、胸膜下756の病変分布で絞り込みがかけられた基本画面において、1行1列目のサムネイル画像が選択されたときに表示される基本画面K3を示した図である。
図17に示すように、胸膜下756のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、胸膜下の病変分布を持つ類似症例のみを表示する。そして、1行1列目のサムネイル画像が選択されると、
図18に示されるように、選択されたサムネイル画像が症例表示領域710の全体に表示される。
図18の例では、胸膜下の病変分布を持つ類似症例は7件であった。そのため、表示制御部104は、検索結果件数表示領域714に「7件」と表示している。また、表示制御部104は、表示条件表示領域715に、表示対象の病名と、病変分布の名称である「胸膜下」とを表示する。
図18の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域715には「全疾患」と表示されている。
【0154】
図19は、患者情報1000のデータ構成を示す図である。患者情報1000は、医用情報管理システム200における患者情報管理部202により、患者別に患者情報蓄積部201に蓄積されて管理される。患者情報1000には、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録されている。
図19に示すように、患者情報1000は、患者ID1100、氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、主訴1700、検査情報1800、及び確定診断1900を備える。
【0155】
患者ID1100は、患者に固有の識別子である。氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、及び主訴1700は、それぞれ、患者ID1100の患者の氏名、年齢、性別、既往歴、家族歴、及び主訴である。検査情報1800は、
図20に示すように、当該患者が過去に受けた1以上の検査に関する情報を表す。
【0156】
図20は、
図19に示す検査情報1800のデータ構成を示す図である。検査情報1800は、患者に対して行われた検査に関する情報であり、1つの検査に対応して1つずつ作成される。検査情報1800は、検査ID1810、検査日時1820、検査種1830、及び検査結果1840を備える。検査ID1810は、検査に固有の識別子である。検査日時1820は、検査が行われた日時である。検査種1830は、検査の種類である。検査の種類としては、例えば、血液検査、呼吸機能検査、内視鏡検査、単純X線撮影、CT撮影等がある。
【0157】
検査結果1840は、血液検査であれば、白血球数、LDH、及びGPT等各種指標の値が該当する。また、検査結果1840は、各種指標を基に医師が下した判断等も該当する。また、単純X線撮影やCT撮影等の画像検査であれば、撮影された画像へのポインタ情報や画像診断結果のレポートへのポインタ情報が含まれる。なお、検査で撮影された画像は、DICOMのフォーマットで医用情報管理システム200の医用画像データ蓄積部203に蓄積される。
【0158】
また、検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、これらの医用画像データは医用情報管理システム200の医用画像データ蓄積部203が記憶する医用画像データベース2000に蓄積される。
【0159】
図21は、医用画像データベース2000のデータ構成を示す図である。医用画像データベース2000は、検査ID1810及びシリーズID2100を持つ。1回の検査で、複数の種類の撮影(例えば、単純CTと造影CT等)が行われる場合があるので、1つの検査ID1810に対し、複数のシリーズID2100が対応付けられている場合もある。つまり、撮影の種類に応じた個数のシリーズが得られるのである。
【0160】
また、シリーズは、撮影の種類以外にも、撮影された画像の再構成の条件毎に得られる。例えば、撮影された画像が肺野条件及び縦隔条件で再構成された場合、これらの条件毎に1つのシリーズが得られる。なお、肺野条件で再構成された画像は肺の中の血管、気管支、及び肺胞等が強調表示される。また、縦隔条件で再構成された画像は、血管やリンパ節等の縦隔が強調表示される。肺野条件及び縦隔条件は1度の撮影で得られた画像を再構成することで得られるため、単純CTと造影CTとで2度の撮影が行われ、これら2度の撮影のそれぞれにつき肺野条件及び縦隔条件で画像が再構成された場合、2つの肺野条件のシリーズが得られ、2つの縦隔条件のシリーズが得られる。
【0161】
CT及びMRIの画像検査の場合、1回の撮影で複数のスライス画像が取得されるので、1つのシリーズID2100には、複数のスライスID2200が対応付けられている。
図21の検査ID「13227989」には2つのシリーズID「CT149123」、「CT149124」が対応付けられているため、この検査から2つのシリーズのCT画像が得られたことが分かる。また、シリーズID「CT149123」、「CT149124」のそれぞれに対して、スライスID2200が複数対応付けられていることが分かる。
【0162】
検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、医用情報管理システム200における診断レポート管理部205には、
図22に示すような診断レポート3000が蓄積される。診断レポート3000には、各検査に対する医師による診断結果が登録されている。
【0163】
図22は、診断レポート3000のデータ構成を示す図である。診断レポート3000は、検査ID1810、所見3100、及び診断3200を備える。検査ID1810は、
図20で示した検査ID1810と同じである。これにより、診断レポート3000と検査情報1800とが対応付けられる。所見3100は、検査に対する医師の所見を示す文言が登録されている。診断3200は、検査に対する医師の診断を示す文言が登録されている。
【0164】
図23は、類似症例データ4000のデータ構成を示す図である。類似症例データ4000は、診断対象症例に対して類似する類似症例を検索する際に参照されるデータであり、1つの類似症例に対応して1つずつ作成されている。なお、類似症例データ4000は、類似症例の付加情報の一例である。類似症例データ4000は、症例検索システム300の類似症例データ蓄積部301において、類似症例毎に蓄積されている。
図23に示すように、類似症例データ4000は、類似症例ID4100、スライスID4200、関心領域情報4300、画像特徴データ4400、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、及び確定診断(詳細分類病名)4800を備える。
【0165】
類似症例ID4100は、類似症例データ4000の識別子である。ここでは、類似症例のスライス画像に設定された関心領域毎に1つの類似症例データが生成されるため、類似症例ID4100は、関心領域の識別子とも言える。
図23の例では、類似症例ID4100は、「SIM」とそれに続く番号とで構成される記号列で構成されている。
【0166】
スライスID4200は、関心領域が設定されたスライス画像の識別子であり、
図21に示すスライスID2200と同一である。関心領域情報4300は、スライス画像に設定された関心領域の位置を示す情報である。
図24は、スライス画像3101に設定された関心領域ROIを模式的に示した図である。
図24の例では、関心領域ROIは矩形状に設定されている。したがって、関心領域情報4300は、関心領域ROIの左上の頂点の座標(xl,yt)と、右下の頂点の座標(xr,yb)との4値で構成される。もちろん、関心領域は矩形以外の形状でもよく、その場合は、領域を一意に特定可能なパラメータが関心領域情報4300として採用される。例えば、関心領域が円形であれば、円の中心座標と半径とが関心領域情報4300として採用される。
【0167】
画像特徴データ4400は、関心領域情報4300で定義される関心領域から抽出された所定次元(ここではN次元)の特徴値である。サムネイル画像データ4500は、スライスIDで特定されるDICOMフォーマットのスライス画像を基に、症例表示領域710に表示するために生成されたサムネイル画像の画像データである。ここで、サムネイル画像データ4500は、例えば、サムネイル画像の左上の頂点から右下の頂点に向かうラスタ走査順にサムネイル画像の画素値が配置されている。先に説明を行ったが、CT検査で得られたDICOM画像は、512×512画素の11ビット(画素値:−1000〜+1000)画像である。そこで、本実施の形態では、サムネイル画像の表示を高速化するために、サムネイル画像の元となるDICOM画像に対して低解像度処理及び階調変換処理が行われて8ビットの画素値を持つサムネイル画像が予め作成され、類似症例データ4000に登録されている。なお、サムネイル画像の作成は、例えば、医用情報管理システム200が作成し、症例検索システム300に送信するようにしてもよいし、症例検索システム300が医用情報管理システム200からDICOM画像を取得して作成してもよい。
【0168】
病変分布情報4600は、対象となる類似症例が予め定められたびまん性4610〜血行性4670で表される病変分布のいずれに該当するか否かを表す分布フラグ値(1:該当、0:非該当)である。
【0169】
確定診断(大分類病名)4700は、対象となる類似症例に対して確定された大分類の病名である。確定診断(大分類名)4700は、類似症例を大分類の病名で絞り込む際に使用される。
【0170】
確定診断(詳細分類病名)4800は、対象となる類似症例に対して確定された詳細分類の病名である。確定診断(詳細分類病名)4800は、類似症例を小分類の病名で絞り込む際に使用される。
【0171】
予め、確定診断(大分類病名)4700は、確定診断(詳細分類病名)4800に対して一意に対応する大分類病名が定義されており、その対応関係を用いて類似症例データ4000に格納されている。
【0172】
確定診断(詳細分類病名)4800は、医用画像データ蓄積部203において、
図21に示すスライスID2200からシリーズID2100が特定される。そして、特定されたシリーズIDから患者情報蓄積部201において、検査ID1810が特定され、検査ID1810から対応する患者情報1000(
図19)が特定され、特定された患者情報1000から該当する患者の確定診断1900が特定される。
【0173】
次に、情報端末100が医用情報管理システム200と症例検索システム300と連携して読影作業開始から類似症例検索を開始するまでの流れを説明する。
【0174】
図25は、情報端末100が、医用情報管理システム200に対して読影対象検査リストの要求を行ってから、症例検索システム300が、情報端末100からの類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。なお、
図25において、シーケンス図の左側に示す矩形は、該当するステップの処理によりディスプレイ101に表示される画面を示す。また、
図25において、情報端末の「A」は、医用情報管理アプリケーションを示し、「B」は、類似症例検索アプリケーションを示す。このシーケンスが開始される前に医用情報管理アプリケーションは予め起動されているものとする。
【0175】
まず、情報端末100は、読影対象検査リストボタン701(
図4)によりユーザ(読影を行う医師)の読影対象となる読影対象検査リストの表示要求を受け付け、入力制御部103及び通信制御部110を通して、医用情報管理システム200の通信制御部206へ読影対象検査リストの表示要求を送信する(S510)。
【0176】
医用情報管理システム200の患者情報管理部202は、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成する。そして、患者情報管理部202は、通信制御部206を通して、生成した読影対象検査リストを情報端末100の通信制御部110に送信する(S520)。ここで、読影対象検査リストには、該当する患者の患者情報1000及び検査情報1800が含まれる。
【0177】
情報端末100の表示制御部104は、通信制御部110で受信された読影対象検査リストをディスプレイ101に表示する(S530)。
【0178】
図26は、読影対象検査リストの表示画面K5の一例を示す図である。読影対象検査リストは、読影が未終了の検査に対応する患者を表示する患者リスト表示領域800と、検査に含まれるシリーズに関する情報を表示する検査リスト表示領域810とを備える。患者リスト表示領域800には、「患者ID」、「患者氏名」、「検査日時」、「検査ID」、及び「検査種」の欄が設けられている。「患者ID」、「患者氏名」の欄には、患者情報1000に登録された患者ID1100及び氏名1200が表示され、「検査日時」、「検査ID」、及び「検査種」の欄には、検査情報1800に登録された検査日時1820、検査ID1810、及び検査種1830が表示される。検査リスト表示領域810は、患者リスト表示領域800でユーザにより選択された検査の詳細を表示するための領域であり、「シリーズID」、「定義」、及び「画像」の欄が設けられている。ここでは、患者リスト表示領域800においてユーザにより検査(行に対応)が選択されていないために、検査リスト表示領域810には何も表示されていない。
【0179】
ユーザは、患者リスト表示領域800に表示された検査の中から、これから読影を行う検査を選択する。この選択が入力制御部103で検知されると、
図25に示すように、通信制御部110は、選択された検査の検査IDに含まれる全シリーズの表示要求を、医用情報管理システム200へ送信する(S540)。
【0180】
医用情報管理システム200の通信制御部206がこの表示要求を受信すると、患者情報管理部202は、
図21に示す医用画像データベース2000を参照し、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像を取得し、通信制御部206を通して、情報端末100に送信する(S550)。例えば、
図21の例において、検査ID「13227989」の検査がユーザにより選択されると、シリーズID「CT149123」、「CT149124」のシリーズに含まれる全てのスライス画像がS550で送信される。
【0181】
情報端末100の通信制御部110が全シリーズの画像を取得すると、表示制御部104は、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを検査リスト表示領域810に表示する(S560)。
【0182】
図27は、検査が選択された後の読影対象検査リストの表示画面K5の一例を示す図である。
図27の患者リスト表示領域800では選択された行の背後にハイライトが付されている。
図27の例では、患者リスト表示領域800において、2行目の「パナ太郎」の検査が選択されている。そのため、検査リスト表示領域810では、選択された検査についての「シリーズID」、「定義」、及び「画像」が表示されている。ここで、「シリーズID」の欄には、医用画像データベース2000において、選択された検査の検査IDに対応付けられたシリーズIDが表示され、「画像」の欄には、表示されたシリーズIDを代表する1枚のスライス画像のサムネイル画像が表示される。ここで、シリーズIDを代表する1枚のスライス画像としては、所定のスライス位置の画像が採用される。所定のスライス位置としては先頭のスライス位置であってもよいし、中央のスライス位置であってもよい。「定義」は、該当するシリーズに対する撮影条件や再構成の条件を示す。この「定義」は、図示は省略されているが、例えば、
図21の医用画像データベース2000において、シリーズIDと対応付けて登録されている。
【0183】
図25に戻って、検査リスト表示領域810において、ユーザにより読影対象のシリーズが選択され、その選択を入力制御部103が検知すると、表示制御部104は、
図4に示すように、医用画像ビューワ705に、選択されたシリーズの先頭のスライス画像を表示する(S570)。
図4を参照して上述したように、表示制御部104は、選択されたシリーズの全てのスライス画像をスライス送りできる状態でディスプレイ101に表示する。ユーザは、スライス送りの操作を入力しながら画像診断を行う。そして、ユーザは画像診断に迷った場合、類似症例検索アプリケーションを起動する。
【0184】
ここで、類似症例検索アプリケーションを起動する前に、ユーザは、ROI入力ボタン702(
図4)を接触物(例えばユーザの指)でタップして、関心領域入力モードの起動を指示する。関心領域入力モードの起動が指示されると、情報端末100の管理はROI管理部105に渡され、情報端末100は、関心領域(ROI)の受け付け待ち状態になる。
【0185】
ユーザは、操作部102を通して、ディスプレイ101の医用画像ビューワ705に表示されたスライス画像上の病変に関心領域(ROI)を設定する(S580)。ここで、ユーザは、
図24に示すように、例えば、ディスプレイ101を接触物でタップして、スライス画像3101における関心領域ROIの左上の頂点の座標を入力する。そして、ユーザは、ディスプレイ101に接触物を接触させた状態で接触物を右斜め下方向にドラッグし、接触物をディスプレイ101から離すことで、関心領域ROIの右下の頂点を入力すればよい。
【0186】
関心領域を設定する操作を入力制御部103が検知すると、ROI管理部105は、入力制御部103から関心領域の左上及び右下の頂点の座標データを受け取り、受け取った座標データを関心領域情報として生成する。
【0187】
ここで、ユーザは、類似症例検索ボタン703を接触物でタップして、類似症例検索アプリケーションを起動する。すると、ROI管理部105は、生成した関心領域情報を通信制御部110に送信する(S590)。
【0188】
同時に、ROI管理部105は、診断対象症例のスライス画像を通信制御部110に送信する(S600)。この場合、S550において、情報端末100が医用情報管理システム200から受け取った全シリーズのスライス画像のうち、ユーザが選択したシリーズにおいてユーザにより関心領域が設定された1枚のスライス画像(検索クエリ画像)が送信される。
【0189】
次に、通信制御部110は、ROI管理部105から送信された関心領域情報を受け取り、症例検索システム300の通信制御部304に送信する(S601)。
【0190】
同時に、通信制御部110は、ROI管理部105から送信されたスライス画像を受け取り、症例検索システム300の通信制御部304に送信する(S602)。
【0191】
ここで、S600、S601において、スライス画像そのものを送信するとしたが、スライス画像のスライスIDのみが送信されても構わない。この場合は、スライスIDを受信した症例検索システム300は、そのスライスIDを指定して、医用情報管理システム200からスライス画像を取得すればよい。
【0192】
次に、症例検索システム300が類似症例検索を行い、情報端末100が類似症例検索結果を初期表示するまでの処理を説明する。
【0193】
図28は、症例検索システム300が、情報端末100からの類似症例検索の要求を受け取った後、情報端末100が、症例検索システム300からの類似症例検索結果に基づき基本画面を表示するまでの処理を示すシーケンス図である。
【0194】
症例検索システム300の画像特徴抽出部302は、検索クエリ画像に設定された関心領域から予め定められた複数次元の画像特徴を抽出する(S610)。
【0195】
「画像特徴」としては、医用画像における臓器若しくは病変部分の形状に関する画像特徴、又は輝度分布に関する画像特徴等が採用できる。例えば、非特許文献:「根本、清水、萩原、小畑、縄野、“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”、電子情報通信学会論文誌D−II、Vol.J88−D−II、No.2、pp.416−426、2005年2月」には、490次元の画像特徴を用いることが記載されている。本実施の形態においては、例えば、この非特許文献に記載された画像特徴が採用される。但し、これは一例にすぎず、他の画像特徴が採用されてもよい。
【0196】
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された各類似症例の画像特徴とを比較する(S620)。ここで、類似症例検索部303は、検索クエリ画像から抽出された画像特徴データと、類似症例データ蓄積部301に類似症例毎に蓄積された類似症例データ4000(
図23)に登録された画像特徴データ4400との距離を算出することで、両画像特徴を比較する。
【0197】
次に、類似症例検索部303は、距離が所定の閾値以下の類似症例を、距離が小さい順にソートし、送信対象の類似症例として決定する(S630)。次に、通信制御部304は、類似症例データ蓄積部301に蓄積された類似症例データ4000のうち、送信対象として決定された類似症例の類似症例ID4100、スライスID4200、関心領域情報4300、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、確定診断(詳細分類病名)4800、及び類似症例検索部303で算出された距離を情報端末100に送信する(S640)。
【0198】
次に、表示制御部104は、送信された情報を基に、類似症例検索結果が表示された初期の基本画面K2(
図5)を生成する(S650)。
【0199】
図29は、
図28のS650に示す初期の基本画面K2を生成する処理の詳細を示すフローチャートである。
【0200】
まず、S1000にて、表示制御部104は、
図28のS640で受信された類似症例の数をカウントし、カウント値を検索結果件数表示領域714に表示する。
【0201】
次に、S1100にて、表示制御部104は、表示条件表示領域715に、「全疾患」と表示する。ここで、「全疾患」と表示されるのは、初期の基本画面K2では、ユーザにより病名や病変分布での絞り込みがかけられていないからである。
【0202】
次に、S1200にて、表示制御部104は、
図28のS640で受信された類似症例のうち、症例表示領域710にサムネイル画像が表示可能な類似症例の件数分だけ、症例表示領域710に類似症例のサムネイル画像を表示すると共に、各サムネイル画像に対応付けて確定診断及び類似度を表示する。
【0203】
症例表示領域710に表示可能な類似症例の件数の最大値は、
図5の例では20である。この最大値は予め定められている。また、この最大値はユーザが自由に変更できる構成にしてもよい。
図28のS640で受信された類似症例の数が、最大値よりも多い場合、表示制御部104は、症例表示領域710の右端に縦方向に長尺のスクロールバー716(
図5)を表示する。これにより、ユーザは、スクロールバー716を移動させ、初期の基本画面K2で非表示であった類似症例のサムネイル画像を閲覧できる。
【0204】
次に、S1300にて、病名リストが生成されて表示される。まず、
図28のS640で受信された類似症例から、病名リストが生成される。病名リストは、S640で受信された類似症例が、確定診断病名毎に分類されたリストである。
【0205】
ここで、S640で受信された類似症例の件数をNC件とする。病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を用いて、病名リストを生成する。生成された病名リストは、
図30に示すようにテーブル形式のデータとして、病名リスト管理部108で管理される。
【0206】
図30は、
図29のS1300で生成される病名リストのデータ構成を示す図である。病名リストには、「病名ID」、「大分類病名」、「詳細分類病名」、「件数」、及び「類似症例ID」の欄が含まれる。「病名ID」は、確定診断病名毎に付与される識別子である。ここでは、大分類病名と詳細分類病名との1つの組み合わせに対して1つの病名IDが付与されている。
【0207】
「大分類病名」は、類似症例データ4000に登録された確定診断(大分類病名)4700が示す確定診断病名である。「詳細分類病名」は、類似症例データ4000に登録された確定診断(詳細分類病名)4800が示す確定診断病名である。「件数」は、「病名ID」が示す確定診断病名に該当する類似症例の件数である。「類似症例ID」は、「病名ID」が示す病名に該当する類似症例を示す類似症例IDである。
【0208】
病名リスト管理部108は、S640で受信した全ての類似症例データ4000について、確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を抽出し、両者が同じ類似症例データ4000を同じ確定診断病名の類似症例として分類する。そして、病名リスト管理部108は、確定診断病名が同じ類似症例の件数をカウントし、該当する確定診断病名のレコードの「件数」の欄に登録する。また、病名リスト管理部108は、同じ確定診断病名に分類した類似症例の類似症例IDを該当する確定診断病名のレコードの「類似症例ID」の欄に登録する。
【0209】
図30の例では、大分類病名が「腫瘍性」、詳細分類病名が「原発性肺癌」の確定診断病名に対して病名ID「DIS528」が付与されている。そして、この確定診断病名に該当する類似症例の件数が10件であったため、該当するレコードの「件数」の欄に10が登録され、この確定診断病名に該当する類似症例の類似症例ID「SIM258」、「SIM551」、「SIM1209」、及び「SIM2341」等が、該当するレコードの「類似症例ID」の欄に登録されている。
【0210】
そして、表示制御部104は、このようにして生成された病名リストを用いて病名リスト表示領域730を生成し、ディスプレイ101に表示する。
【0211】
図31、
図32、
図33は、それぞれ、病名リスト表示領域730の第1表示例、第2表示例、第3表示例を示した図である。
図31に示すように第1表示例では、類似症例検索の結果得られた類似症例が、詳細分類病名の件数の多い順に件数と対応付けて一覧表示されている。
【0212】
図32に示すように第2表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示されている。
【0213】
図33に示すように第3表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示され、且つ、大分類病名毎にその中に含まれる詳細分類病名が件数の多い順に件数と対応付けて一覧表示されている。この場合、患確定診断病名が、大分類病名と詳細分類病名との階層構造で表現される。
【0214】
図34は、
図32に示す病名リスト表示領域730の画面遷移を示す図である。
図34の上段に示すように、一覧表示された大分類病名のうち、1の大分類病名がユーザにより選択される操作を入力制御部103が検知すると、表示制御部104は、
図34の下段に示すように、選択された大分類病名に属する詳細分類病名を件数が多い順に件数と対応付けて表示する。ここで、ユーザは、例えば、病名リスト表示領域730において一覧表示された大分類病名のうち、所望する1の大分類病名を例えばダブルタップ或いはシングルタップすることで1の大分類病名を選択すればよい。
図34の例では非腫瘍性がダブルタップされているため、非腫瘍性に属する詳細分類病名が一覧表示されている。
【0215】
図34の下段において、詳細分類病名が一覧表示されている領域がユーザによりダブルタップ或いはシングルタップされると、表示制御部104は、該当する領域に表示されていた詳細分類病名を非表示にすればよい。
【0216】
なお、表示制御部104は、病名リスト(
図30)を参照することで、大分類病名に属する詳細分類病名を判定すればよい。例えば、
図30の例では、真菌症に対して、アスペルギルス症及びクリプトコッカス症が対応付けられているため、表示制御部104は、真菌症にはアスペルギルス症及びクリプトコッカス症が属すると判断すればよい。
【0217】
図29に戻り、S1400にて、分布リストが生成されて表示される。まず、S640で受信された類似症例から、分布リストが生成される。分布リストは、S640で受信された類似症例が、病変分布毎に分類されたリストである。
【0218】
病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている病変分布情報4600を用いて、分布リストを生成する。生成された分布リストは、
図35に示すようにテーブル形式のデータとして、分布リスト管理部109で管理される。
【0219】
図35は、
図29のS1400で生成される分布リストのデータ構成を示す図である。分布リストには、「分布名」、「症例数」、及び「類似症例ID」の欄が含まれる。「分布名」は、びまん性、区域性といった予め定められた複数の病変分布の名称である。「症例数」は、病変分布に該当する類似症例の件数である。「類似症例ID」は、病変分布に該当する類似症例を示す類似症例IDである。
【0220】
分布リスト管理部109は、S640で受信した全ての類似症例データ4000について、病変分布情報4600を抽出し、抽出した病変分布情報4600において、分布フラグ値に1(該当)が設定されている病変分布の数をカウントし、カウント値を該当する病変分布のレコードの「症例数」の欄に登録する。また、分布リスト管理部109は、分布フラグ値に1が設定されている類似症例の類似症例IDを該当する病変分布のレコードの「類似症例ID」の欄に登録する。
【0221】
図35の例では、びまん性に該当する類似症例の件数が3件であったため、びまん性のレコードの「症例数」の欄に3が登録されている。また、びまん性に該当する類似症例の類似症例ID「SIM2521」、「SIM4123」、及び「SIM5225」がびまん性のレコードの「類似症例ID」の欄に登録されている。
【0222】
そして、表示制御部104は、このようにして生成された分布リストを用いて分布リスト表示領域750を生成し、ディスプレイ101に表示する。
【0223】
図35に示す分布リストを用いて生成された分布リスト表示領域750は、
図12である。
図35において、区域性の症例数は0であるため、
図12では、区域性752が非アクティブ状態で表示され、これら以外の病変分布は、症例数が1以上であるため、アクティブ状態で表示されている。
【0224】
図29に戻り、S1500にて、表示制御部104は、
図5に示されるように、症例表示領域710に類似症例のサムネイル画像が表示された基本画面K2をディスプレイ101に表示する。
【0225】
図28に戻り、S651にて、症例表示領域710に表示されているサムネイル画像の中から、例えば、1つのサムネイル画像をダブルタップすることにより、1つの類似症例が選択される。すると、S652にて、表示制御部104は、症例表示領域710の全体に、選択された1つの類似症例のサムネイル画像が表示された基本画面K3(
図6A)をディスプレイ101に表示する。なお、類似症例の選択操作は、シングルタップなど、ダブルタップ以外の操作方法でもよい。
【0226】
次に、
図25、
図28のシーケンス図をアプリケーションのレベルで着目したときの情報端末100、医用情報管理システム200、及び症例検索システム300の処理について説明する。
【0227】
図36は、
図25及び
図28のシーケンス図をアプリケーションのレベルで着目したときのシーケンス図である。
図36において、
図25、
図28と同じ処理には同じ符号を付している。
【0228】
図36において、「A」は情報端末100が実行する医用情報管理アプリケーションの処理を示し、「B」は情報端末100が実行する類似症例検索アプリケーションの処理を示す。以下、医用情報管理アプリケーションを「アプリA」と記述し、類似症例検索アプリケーションを「アプリB」と記述する。
【0229】
まず、アプリAは、ユーザから読影対象となる検査リストの表示要求を受け付け、医用情報管理システム200に送信する(S510)。医用情報管理システム200は検査リストの表示要求を受信すると、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成し、アプリAに送信する。
【0230】
読影対象検査リストを受信したアプリAは、
図26に示すように、読影対象検査リストをディスプレイ101に表示し、読影対象検査リストの中から1の検査がユーザにより選択されると(S530)、選択された検査の表示要求を医用情報管理システム200に送信する(S540)。
【0231】
検査の表示要求を受信した医用情報管理システム200は、検査の表示要求が指定する検査IDに含まれる全シリーズの全スライス画像をアプリAに送信する(S550)。
【0232】
次に、アプリAは、
図27に示すように、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを表示する(S560)。
【0233】
次に、アプリAは、シリーズリストの中から読影対象のシリーズがユーザにより選択されると、
図4に示すように、選択されたシリーズの最初のスライド位置のスライド画像を医用画像ビューワ705に表示する(S570)。このとき、ユーザは、スライス送りする操作を入力し、医用画像ビューワ705に所望のスライス画像を表示させる。
【0234】
次に、アプリAは、医用画像ビューワ705に表示されたスライス画像において、関心領域を設定する操作をユーザから受け付ける(S580)。
【0235】
次に、アプリAは、ユーザにより設定された関心領域を示す関心領域情報を生成し、関心領域が設定されたスライス画像(診断対象症例のスライス画像)と共に、アプリBに送信する(S590、S600)。
【0236】
次に、アプリBは、診断対象症例のスライス画像及び関心領域情報を受信すると、そのスライス画像及び関心領域情報を症例検索システム300に送信する(S601、S602)。
【0237】
スライス画像及び関心領域情報を受信すると、症例検索システム300は、
図28と同様、S610〜S640の処理を実行する。
【0238】
次に、アプリBは、S640で送信された類似症例データを用いて、
図5に示すように、初期の基本画面K2を生成する(S650)。そして、アプリBは、
図28と同様に、S651〜S652の処理を実行する。
【0239】
ここでは、症例検索システム300が画像特徴を抽出する例を示したが、情報端末100が画像特徴を抽出してもよい。
図37は、症例検索システム300が画像特徴を抽出する態様を採用した場合の情報端末100、医用情報管理システム200、及び症例検索システム300のブロック図である。
【0240】
図2との違いは、情報端末100に画像特徴抽出部113が追加された点、及び症例検索システム300から画像特徴抽出部302が省かれた点にある。
【0241】
図38は、
図37の構成において、情報端末100が、関心領域の設定を行ってから、症例検索システム300からの類似症例検索結果に基づき基本画面を表示するまでの処理を示すシーケンス図である。
【0242】
図25、
図28との違いは、ROI管理部105が、診断対象症例のスライス画像を通信制御部110に送信する処理(S600)の後、画像特徴の抽出が情報端末100で行われ(S603)、抽出された画像特徴が症例検索システム300に送信(S604)されている点にある。画像特徴の抽出(S604)の処理内容は、画像特徴の抽出が症例検索システム300で行われる場合と同様である。
【0243】
図39は、
図37の構成において、情報端末100が、医用情報管理システム200に対して読影対象検査リストの要求を行ってから、症例検索システム300からの類似症例検索結果に基づき基本画面を表示するまでの処理を、アプリケーションのレベルで着目したときのシーケンス図である。
図39において、
図25、
図28、
図36と同じ処理には同じ符号を付している。
【0244】
図39において、「A」は情報端末100が実行する医用情報管理アプリケーションの処理を示し、「B」は情報端末100が実行する類似症例検索アプリケーションの処理を示す。以下、医用情報管理アプリケーションを「アプリA」と記述し、類似症例検索アプリケーションを「アプリB」と記述する。
【0245】
図36との相違点は、S603、S604にある。
図39では、画像特徴は情報端末100で抽出されている。よって、アプリBが診断対象症例のスライス画像に設定された関心領域から画像特徴を抽出し(S603)、抽出した画像特徴を症例検索システム300に送信している(S604)。
【0246】
次に、ユーザが情報端末100のディスプレイ101上でスワイプ操作を行い、ディスプレイ101に表示される類似症例を切り替える処理を説明する。
【0247】
図40は、情報端末100において、スワイプ操作の入力に基づき、ディスプレイ101に表示される類似症例を切り替える処理を示すシーケンス図である。
図41は、
図40のシーケンス図に対応する処理の内容を示すフローチャートである。
図42〜
図47は、ユーザのスワイプ操作により症例表示領域710に表示されているサムネイル画像が切り替えられる基本画面K3を示す図である。
【0248】
なお、
図40、
図41の処理の開始時点では、情報端末100のディスプレイ101には、
図6Aに示される基本画面K3が表示されている。
図6Aに示される基本画面K3の症例表示領域710の全体には、
図5の症例表示領域710における1行1列目のサムネイル画像(つまり類似度が最も高い類似症例のサムネイル画像)が表示されている。
【0249】
図40、
図41のS700では、まず、情報端末100の入力制御部103は、ユーザが行ったスワイプ操作を検知する。入力制御部103は、スワイプ操作があった旨を画像生成部112に通知する。
【0250】
次に、S710では、画像生成部112は、入力制御部103からの通知に基づき、類似度が次に高い類似症例のサムネイル画像(つまり
図5の症例表示領域710における1行2列目のサムネイル画像)を生成する。画像生成部112は、生成したサムネイル画像を表示制御部104に出力する。
【0251】
続いて、S720では、画像生成部112は、
図42、
図43に示すように、接触物350(ユーザの指)によるスワイプ操作中に、スワイプ操作に追従させるように、類似症例の切り替え前のサムネイル画像と切り替え後のサムネイル画像とを隣り合わせた中間画像を生成する。画像生成部112は、生成した中間画像を表示制御部104に出力する。表示制御部104は、画像生成部112から入力された中間画像を症例表示領域710に表示する。
【0252】
次に、S730では、表示制御部104は、スワイプ操作が終了すると、
図44に示すように、S710で画像生成部112から入力された、類似度が次に高い類似症例のサムネイル画像を症例表示領域710の全体に表示する。
【0253】
図44の基本画面K3がディスプレイ101に表示された状態で、さらに同様のスワイプ操作が行われると、先に述べたS700,S710の処理を経て、S720において、表示制御部104は、
図45、
図46に示されるように、中間画像を症例表示領域710に表示する。続いて、S730において、表示制御部104は、スワイプ操作が終了すると、
図47に示すように、類似度が次に高い類似症例のサムネイル画像(つまり
図5の症例表示領域710における1行3列目のサムネイル画像)を症例表示領域710の全体に表示する。
【0254】
ここで、実施の形態1では、
図44及び
図47に示されるように、表示制御部104は、スワイプ操作時には、対応関心領域CROIの中心が症例表示領域710の中心になるように、画像位置を調整して、サムネイル画像を表示する。表示制御部104は、
図44及び
図47に示されるように、症例表示領域710内であってサムネイル画像外の領域710Bには、背景画像を表示する。背景画像は、グレーでもよく、白べたでもよく、黒べたでもよい。これによって、領域710Bが区別可能にされている。以下では、
図48を用いて、
図44及び
図47に示されるようなサムネイル画像の生成処理を行う画像生成部112の処理の詳細が説明される。
【0255】
図48は、画像生成部112の詳細な構成を示すブロック図である。画像生成部112は、入力判定部1121、表示症例決定部1122、表示領域決定部1123、表示画像生成部1124、及び経過時間判定部1125を含む。なお、情報端末100のディスプレイ101には、
図6Aに示される基本画面K3が表示されている。
【0256】
入力制御部103は、操作部102に対するユーザの操作を検知すると、検知内容を入力判定部1121に出力する。入力判定部1121は、入力制御部103から入力された検知内容に基づき、操作部102に対するユーザの操作内容がスワイプ操作か否かを判定する。操作内容がスワイプ操作と判定した場合には、入力判定部1121は、操作内容がスワイプ操作であることと、スワイプ操作の向き(例えば左向きまたは右向き)とを、表示症例決定部1122に出力する。
【0257】
表示症例決定部1122は、症例表示領域710に表示中の類似症例の、類似症例ID4100(
図23)と、類似症例検索部303により算出された距離とを参照する。入力判定部1121から入力されたスワイプ操作の向きが左向きの場合には、表示症例決定部1122は、現在、症例表示領域710に表示されている類似症例の次に距離が小さい類似症例(つまり、現在の類似症例の次に類似度が高い類似症例)の類似症例IDを取得する。
【0258】
一方、入力判定部1121から入力されたスワイプ操作の向きが右向きの場合には、表示症例決定部1122は、現在、症例表示領域710に表示されている類似症例より距離が小さい次の類似症例(つまり、現在の類似症例より類似度が高い次の類似症例)の類似症例IDを取得する。
【0259】
表示症例決定部1122は、取得した類似症例IDの類似症例を次に表示される類似症例に決定する。表示症例決定部1122は、類似症例IDを取得できなかった場合は、現在表示されている類似症例を、次に表示される類似症例に決定する。つまり、症例表示領域710に表示される類似症例は変わらない。例えば、
図6Aに示される基本画面K3が表示されている状態で、右向きのスワイプ操作を行っても、現在、症例表示領域710に表示されている類似症例の類似度が最も高いため、表示画面は変わらない。
【0260】
表示領域決定部1123は、表示症例決定部1122により決定された類似症例の類似症例データ4000の関心領域情報4300(
図23)を参照する。表示領域決定部1123は、対応関心領域CROIの中心座標が、症例表示領域710の中心になるように、類似症例のサムネイル画像の表示領域の座標を決定する。
【0261】
図49は、表示領域決定部1123により決定される表示領域の座標を概略的に示す図である。
図49に示される、表示領域の左上の座標(xdl,ydt)と、右下の座標(xdr,ydb)とは、対応関心領域CROIの中心座標(xc,yc)と、表示領域の縦寸法h及び横寸法wとを用いると、以下の式で計算することができる。
【0262】
xdl=xc−w/2
ydt=yc−h/2
xdr=xc+w/2
ydb=yc+h/2
このとき、表示領域の座標(xdl,ydt)、(xdr,ydb)が、元のサムネイル画像の外側(例えば、負の値)になる場合には、上述のように、例えば画素値が0の背景画像として、黒く表示されるようにしてもよい。また、このときに色はユーザが指定できるようにしてもよい。
図49では、左上の座標(xdl,ydt)が、元のサムネイル画像の外側になっており、領域710Bに背景画像が表示されている。
【0263】
表示画像生成部1124は、表示領域決定部1123で決定された表示領域の座標と、表示症例決定部1122により決定された類似症例のサムネイル画像とから、症例表示領域710に表示される画像を生成する。表示画像生成部1124は、生成した画像を表示制御部104に出力する。
【0264】
以上の処理により、症例表示領域710に表示されているサムネイル画像が、次のサムネイル画像に切り替えられても、次のサムネイル画像は、対応関心領域CROIの位置が症例表示領域710の中心になるように、表示される。
【0265】
通常、類似症例の対応関心領域CROIの位置は、類似症例ごとに異なる。このため、サムネイル画像をそのままの状態で切り替えると、医師は、目線の位置を変えて対応関心領域CROIを探す必要がある。この目線を変える動作によって、画像枚数が増えると身体的な負荷が大きくなる。
【0266】
これに対して、この実施の形態1によれば、医師は、類似症例のサムネイル画像が入れ替わる度に、目線の位置を変えて対応関心領域を探す必要がない。このため、対応関心領域をすぐに観察できる。その結果、スワイプ操作によって複数の類似症例のサムネイル画像の対応関心領域を連続して観察する場合に、観察にかかる身体的負担を軽減し、読影効率を向上させ、診察効率の向上に寄与できる。
【0267】
次に、ユーザが、情報端末100のディスプレイ101にスワイプ操作を行うことにより、症例表示領域710に表示される類似症例のサムネイル画像を切り替えた後、一定時間、スワイプ操作を行わなかった場合の処理を、
図48及び
図50を用いて説明する。
【0268】
図50は、情報端末100において、ユーザが、スワイプ操作により類似症例のサムネイル画像の表示を切り替えた後、一定時間、スワイプ操作を行わなかった場合の処理を示すシーケンス図である。
【0269】
図48において、入力制御部103は、ユーザのスワイプ操作を検知すると、スワイプ操作の検知ごとに検知信号を経過時間判定部1125に出力する。経過時間判定部1125は、入力制御部103からの検知信号に基づき、ユーザによる最新のスワイプ操作からの経過時間をカウントする。経過時間判定部1125は、カウントされた経過時間が予め設定された閾値(例えば10秒)以上になると、その旨を表す経過信号を表示領域決定部1123に出力する。
【0270】
図50のS740において、経過時間判定部1125から経過信号が表示領域決定部1123に出力されると、表示領域決定部1123は、症例表示領域710に表示されているサムネイル画像の表示領域を変更する処理を開始する。表示領域決定部1123は、元のサムネイル画像の中心が症例表示領域710の中心になるように、サムネイル画像の表示領域を決定する。
【0271】
続いて、S750において、表示領域決定部1123により決定された表示領域に基づき、表示画像生成部1124は、元のサムネイル画像を生成する。表示画像生成部1124は、生成した元のサムネイル画像を表示制御部104に出力する。
【0272】
次に、S760において、表示制御部104は、表示画像生成部1125で生成されたサムネイル画像をディスプレイ101の症例表示領域710に表示する。
【0273】
図51、
図52は、
図50に示されるシーケンスにおいてディスプレイ101に表示される基本画面K3の一例を示す図である。
【0274】
図50のS740では、最後のスワイプ操作が終了した後の、
図47に示される基本画面K3がディスプレイ101に表示されている。
【0275】
この状態で、スワイプ操作が行われないまま、最後のスワイプ操作からの経過時間が閾値(例えば10秒)以上になると、元のサムネイル画像の中心が症例表示領域710の中心になるように表示領域が決定された、
図51に示される基本画面K3が、ディスプレイ101に表示される。
【0276】
なお、
図47に示される基本画面K3から
図51に示される基本画面K3に、中心位置を一度に大きく変更すると、医師が、対応関心領域CROIを探す作業が発生してしまう恐れがある。このため、中心位置を元のサムネイル画像の状態に戻す場合には、
図52に示すように、画像生成部112は、表示領域が
図47と
図51との間のサムネイル画像を生成し、表示制御部104は、生成されたサムネイル画像をディスプレイ101に表示するようにしてもよい。なお、
図52のサムネイル画像だけではなく、
図47と
図51との間に複数のサムネイル画像を表示してもよい。この場合には、
図10のS740〜S760を複数回繰り返して、サムネイル画像の生成を複数回行えばよい。これによって、サムネイル画像の中心位置を滑らかに変更させることができる。
【0277】
スワイプ操作が行われなくなったということは、ユーザは、その画像に注目しているということを意味する。したがって、画像全体を確認したいというニーズが考えられる。そこで、この実施の形態1では、
図47、
図50〜
図52を用いて説明されたように、最後のスワイプ操作からの経過時間が閾値(例えば10秒)以上になると、元のサムネイル画像の中心が症例表示領域710の中心になるような基本画面K3がディスプレイ101に表示される。これによって、サムネイル画像の全体を見るための操作数を低減することができる。
【0278】
(実施の形態2)
次に、実施の形態2が説明される。実施の形態2では、ユーザは、情報端末100に表示されている類似症例のサムネイル画像を拡大した後に、スワイプ操作を行い、表示されている類似症例のサムネイル画像を切り替えている。
【0279】
図53は、ユーザが拡大操作を行った後、次の類似症例のサムネイル画像に切り替えるまでの処理を示すシーケンス図である。
図54は、
図53のシーケンス図に対応する処理を示すフローチャートである。
図55、
図56は、ユーザがサムネイル画像に対して行うピンチアウト操作を示す図である。
図57〜
図59は、ユーザのスワイプ操作により症例表示領域710に表示されているサムネイル画像が切り替えられる基本画面K3を示す図である。
図54では、
図53と同じ処理には同じ符号が付されている。
【0280】
情報端末100の入力制御部103は、
図55、
図56に示すように、ユーザが行った拡大操作(
図55、
図56では、ピンチアウト操作)を検知する(S800)。
図55及び
図56に示されるように、ユーザは、接触物350(例えばユーザの二本の指)を用いてピンチアウト操作を行っている。なお、拡大操作は、ピンチアウト操作以外の操作、例えば、タップ操作でもよい。
【0281】
次に、画像生成部112は、ユーザが行ったピンチアウト操作の操作量に応じた拡大率で類似症例のサムネイル画像を拡大する(S810)。表示制御部104は、
図56に示すように、画像生成部112で生成された、拡大されたサムネイル画像をディスプレイ101の症例表示領域710に表示する(S820)。
【0282】
情報端末100の入力制御部103は、ユーザが行ったスワイプ操作を検知する(S830)。次に、画像生成部112は、スワイプ操作に基づき、次に表示される類似症例のサムネイル画像を生成する。画像生成部112は、生成したサムネイル画像を表示制御部104に出力する(S840)。
【0283】
画像生成部112は、
図57、
図58に示すように、接触物350(ユーザの指)によるスワイプ操作中に、スワイプ操作に追従させるように、類似症例の切り替え前のサムネイル画像と切り替え後のサムネイル画像とを隣り合わせた中間画像を生成する。画像生成部112は、生成した中間画像を表示制御部104に出力する。表示制御部104は、入力された中間画像を症例表示領域710に表示する(S850)。
【0284】
表示制御部104は、スワイプ操作が終了すると、
図59に示すように、類似度が次に高い類似症例のサムネイル画像を症例表示領域710の全体に表示する(S860)。
【0285】
図55では、
図5の1行1列目のサムネイル画像が症例表示領域710の全体に表示されている。ピンチアウト操作が行われると、
図56に示されるように、ピンチアウト操作の操作量に応じた拡大率で、サムネイル画像が拡大される。このとき、表示制御部104は、
図56に示されるように、対応関心領域CROIの中心が症例表示領域710の中心に一致するように、拡大されたサムネイル画像を表示する。
【0286】
本実施の形態2では、スワイプ操作が行われると、
図58、
図59に示されるように、上記実施の形態1と同様に、対応関心領域CROIの中心が症例表示領域710の中心になるように画像位置が調整される。そして、
図59では、
図5の1行2列目のサムネイル画像が拡大された画像が、症例表示領域710に表示されている。
【0287】
さらに、本実施の形態2では、
図56と
図59とを比較すると分かるように、対応関心領域CROIの大きさが同一になるように、各類似症例のサムネイル画像の拡大率が変更される。以下では、
図60を用いて、実施の形態2における画像生成部112の処理の詳細が説明される。
【0288】
図60は、実施の形態2の画像生成部112の詳細な構成を示すブロック図である。
図60では、
図48と同一要素には、同一符号が付され、詳細な説明は省略される。
【0289】
本実施の形態2における画像生成部112は、入力判定部1121、表示症例決定部1122、表示領域決定部1123、表示画像生成部1124、基準拡大率決定部1126、拡大率決定部1127、及び画像拡大部1128を含む。
【0290】
入力制御部103は、操作部102に対するユーザの操作を検知すると、検知内容を入力判定部1121に出力する。入力判定部1121は、入力制御部103から入力された検知内容に基づき、操作部102に対するユーザの操作内容を判定する。
【0291】
判定した操作内容がスワイプ操作の場合には、入力判定部1121は、操作内容がスワイプ操作であることと、スワイプ操作の向き(例えば左向きまたは右向き)とを、表示症例決定部1122に出力する。
【0292】
一方、判定した操作内容がピンチアウト操作の場合には、入力判定部1121は、操作内容がピンチアウト操作であることと、ピンチアウト操作の操作量(ディスプレイ101上における接触物の移動量)とを、基準拡大率決定部1126に出力する。
【0293】
基準拡大率決定部1126は、入力判定部1121から入力されたピンチアウト操作の操作量(ディスプレイ101上における接触物の移動量)に基づき、ピンチアウト操作中のサムネイル画像に対する拡大率を決定する。基準拡大率決定部1126は、例えば、ディスプレイ101上における接触物の移動量に予め定められた係数を掛けた値を算出し、この算出値をピンチアウト操作中のサムネイル画像に対する拡大率に決定する。基準拡大率決定部1126は、決定した基準拡大率を拡大率決定部1127に出力する。以下では、ピンチアウト操作が行われたサムネイル画像が「基準サムネイル画像」と称され、ピンチアウト操作が行われたサムネイル画像に対して決定された拡大率が「基準拡大率」と称される。
【0294】
拡大率決定部1127は、基準サムネイル画像の関心領域の面積と、表示症例決定部1122で決定された次に表示される類似症例の関心領域の面積と、基準拡大率決定部1126で決定された基準拡大率とから、次に表示される類似症例のサムネイル画像の拡大率を決定する。
【0295】
まず、拡大率決定部1127は、基準サムネイル画像に対応する類似症例の関心領域情報4300(
図23)に基づき、基準サムネイル画像の関心領域の面積を算出する。ここで、基準サムネイル画像の関心領域の面積をSrとし、関心領域の左上の座標を(xl,yt)とし、関心領域の右下の座標を(xr,yb)とすると、関心領域の面積Srは以下の式で算出することができる。
【0296】
Sr=|xl−xr|×|yt−yb|
次に、拡大率決定部1127は、次に表示される類似症例の関心領域情報4300から関心領域の面積を算出する。ここで、次に表示される類似症例iの関心領域の面積をSiとし、関心領域の左上の座標を(xli,yti)とし、関心領域の右下の座標を(xri,ybi)とすると、関心領域の面積Siは以下の式で算出することができる。
【0297】
Si=|xli−xri|×|yti−ybi|
最後に、拡大率決定部1127は、基準サムネイル画像の関心領域の面積Srと、次に表示される類似症例の関心領域の面積Siと、基準サムネイル画像に対する基準拡大率とに基づき、次に表示される類似症例iの拡大率を算出する。ここで、基準サムネイル画像に対する拡大率をkrとすると、次に表示される類似症例iの拡大率kiは、以下の式で算出することができる。
【0298】
ki=kr(Sr/Si)
これによって、
図62(後述)に示すように、基準サムネイル画像と次に表示されるサムネイル画像とで、拡大後の関心領域のサイズが一致するような拡大率が算出される。
【0299】
画像拡大部1128は、表示症例決定部1122で決定された次に表示される類似症例のサムネイル画像を、拡大率決定部1127で決定された拡大率で拡大する。
【0300】
表示領域決定部1123は、拡大率決定部1127で決定された拡大率と、次に表示される類似症例の類似症例IDの関心領域情報4300(
図23)とに基づき、画像拡大部1128で拡大されたサムネイル画像において、関心領域の中心座標が症例表示領域710の中心になるように、拡大されたサムネイル画像の表示領域の座標を決定する。
図61を用いて、表示領域決定部1123により決定される表示領域が説明される。
【0301】
図61は、拡大率と表示領域との関係を概略的に表す図である。拡大率がki倍の場合は、画像拡大部1128によって、
図61の左図に示されるサムネイル画像から
図61の右図に示される拡大されたサムネイル画像が生成される。
【0302】
拡大前の関心領域の中心座標を(xc,yc)とすると、
図61に示すように、拡大前の関心領域の中心座標に拡大率kiを掛けて得られる座標(ki×xc,ki×yc)が拡大後の関心領域の中心座標となる。
【0303】
図61の左図に示されるように、表示領域720aは、横寸法w、縦寸法hに設定されている。この場合、
図61の右図に示される矩形領域が表示領域720bとなる。この表示領域720bの左上座標は(ki×xc−w/2,ki×yc−h/2)であり、右下座標は(ki×xc+w/2,ki×yc+h/2)である。
【0304】
図62は、拡大処理前後の基準サムネイル画像及び次に表示されるサムネイル画像を概略的に示す図である。
図62の上左図は、拡大処理前の基準サムネイル画像を示す。
図62の上右図は、拡大処理後の基準サムネイル画像を示す。
図62の下左図は、拡大処理前の次に表示されるサムネイル画像を示す。
図62の下右図は、拡大処理後の次に表示されるサムネイル画像を示す。
【0305】
図62の上左図に示される基準サムネイル画像を拡大率krで拡大すると、
図62の上右図に示されるサムネイル画像が得られる。表示領域決定部1123は、
図62の上右図において、関心領域ROIの中心位置が表示領域720dの中心位置に一致するように、表示領域720dを決定する。表示領域決定部1123は、表示領域720dのサイズを拡大処理前の表示領域720cのサイズと同じサイズに維持している。
【0306】
図62の下左図に示される次に表示されるサムネイル画像を拡大率kiで拡大すると、
図62の下右図に示されるサムネイル画像が得られる。表示領域決定部1123は、
図62の下右図において、関心領域ROIの中心位置が表示領域720fの中心位置に一致するように、表示領域720fを決定する。表示領域決定部1123は、表示領域720fのサイズを拡大処理前の表示領域720eのサイズと同じサイズに維持している。
【0307】
図62では、基準サムネイル画像の拡大率krに対して、関心領域の面積比に応じて次に表示されるサムネイル画像iの拡大率kiを決定している。したがって、
図62に示すように、拡大後の関心領域ROIのサイズが一致している。
【0308】
図60に戻って、表示画像生成部1124は、表示領域決定部1123で決定された表示領域の座標と、画像拡大部1128で拡大されたサムネイル画像とから、症例表示領域710に表示する画像を生成する。表示画像生成部1124は、生成した画像を表示制御部104に出力する。
【0309】
以上の処理により、実施の形態2によれば、サムネイル画像が例えばピンチアウト操作により拡大された後、表示されるサムネイル画像がスワイプ操作により切り替えられた場合に、切り替えにより新たに表示される拡大されたサムネイル画像は、その関心領域が症例表示領域710の中心になるように、表示される。
【0310】
通常、類似症例の関心領域の位置は、類似症例ごとに異なる。このため、拡大されたサムネイル画像を切り替えたときに、拡大が解除される場合には、再度、拡大操作(ピンチアウト操作)が必要になる。一方、拡大が維持される場合に、そのままの状態でサムネイル画像を切り替えたのでは、表示領域に関心領域が収まらない、または、関心領域の位置がまったく違うという事態が発生する可能性がある。その場合には、拡大率変更と位置変更の操作が必要になる。この操作により、画像枚数が増えると、身体的な負荷が大きくなる。
【0311】
しかし、本実施の形態2によれば、医師は、類似症例のサムネイル画像が入れ替わる度に、目線の位置を変えて関心領域を探す必要がなく、また、拡大率の変更及び位置変更を行うことなく、関心領域をすぐに観察できる。その結果、スワイプ操作によって複数の類似症例のサムネイル画像の関心領域を連続して観察する場合に、観察にかかる身体的負担を軽減し、読影効率を向上させ、診察効率の向上に寄与できる。