(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-19
(45)【発行日】2024-01-29
(54)【発明の名称】画像処理装置、画像処理方法、プログラム
(51)【国際特許分類】
A61B 6/00 20240101AFI20240122BHJP
【FI】
A61B6/00 350Z
(21)【出願番号】P 2019180964
(22)【出願日】2019-09-30
【審査請求日】2022-09-02
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100223941
【氏名又は名称】高橋 佳子
(74)【代理人】
【識別番号】100159695
【氏名又は名称】中辻 七朗
(74)【代理人】
【識別番号】100172476
【氏名又は名称】冨田 一史
(74)【代理人】
【識別番号】100126974
【氏名又は名称】大朋 靖尚
(72)【発明者】
【氏名】近江 裕行
【審査官】後藤 昌夫
(56)【参考文献】
【文献】特開2002-330949(JP,A)
【文献】特開2001-351092(JP,A)
【文献】特開2014-030623(JP,A)
【文献】特開2006-109959(JP,A)
【文献】特開2005-102784(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 6/00-6/14
A61B 1/00
A61B 1/045
A61B 5/00
A61B 5/055
A61B 8/00
G06T 1/00
G06T 5/00
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
機械学習に基づいて複数の異常候補の分類を行う分類器を用いて、医用画像における異常候補を検出する異常候補検出部と、
前記異常候補検出部によって複数の異常候補が検出された場合に、前記医用画像に適用する画像処理を規定する画像処理パラメータを、前記検出された複数の異常候補のそれぞれに対して設定する画像処理パラメータ設定部と、
前記画像処理パラメータ設定部によって設定された複数の画像処理パラメータに基づいて、前記医用画像のうち、前記検出された複数の異常候補に対応する複数の画像領域を含み、且つ前記検出された複数の異常候補に対応する複数の画像領域よりも広い複数の画像領域に対して画像処理を行うことにより、複数の医用画像を取得する画像処理部と、
前記画像処理部によって取得された複数の医用画像を、前記検出された複数の異常候補のそれぞれに対応する分類の確信度と緊急度とに応じ
た順に表示するように、表示部を制御する表示制御部と、
を有する画像処理装置。
【請求項2】
機械学習に基づいて複数の異常候補の分類を行う分類器を用いて、医用画像における異常候補を検出する異常候補検出部と、
前記異常候補検出部によって複数の異常候補が検出された場合に、前記医用画像に適用する画像処理を規定する画像処理パラメータを、前記検出された複数の異常候補のそれぞれに対して設定する画像処理パラメータ設定部と、
前記画像処理パラメータ設定部によって設定された複数の画像処理パラメータに基づいて、前記医用画像に対して画像処理を行うことにより、複数の医用画像を取得する画像処理部と、
前記画像処理部によって取得された複数の医用画像を、前記検出された複数の異常候補のそれぞれに対応する分類の確信度と緊急度とに応じ
た順に表示するように、表示部を制御する表示制御部と、
を有する画像処理装置。
【請求項3】
前記画像処理パラメータは、周波数処理および階調処理のうちすくなくとも一方の処理を規定するパラメータである請求項1または2に記載の画像処理装置。
【請求項4】
前記画像処理パラメータ設定部は、前記画像処理パラメータがあらかじめ設定されていた場合に、前記画像処理パラメータを変更する請求項1乃至3のいずれか一項に記載の画像処理装置。
【請求項5】
前記画像処理パラメータ設定部は、前記異常候補検出部によって複数の異常候補が検出された場合に、前記複数の異常候補のそれぞれに対して画像処理パラメータを設定する請求項1乃至4のいずれか一項に記載の画像処理装置。
【請求項6】
前記表示制御部は、前記異常候補検出部によって検出された複数の異常候補が検出された場合に、前記複数の医用画像のそれぞれを識別可能に表示するとともに、前記複数の医用画像に対応する複数の異常候補を示す情報を表示するように、前記表示部を制御する請求項1乃至5のいずれか一項に記載の画像処理装置。
【請求項7】
前記画像処理部における前記画像処理の対象は、前記医用画像全体である請求項1乃至6のいずれか一項に記載の画像処理装置。
【請求項8】
前記表示制御部は、前記確信度が高い異常候補のうち前記緊急度が高い異常候補に対応する医用画像を表示するように、前記表示部を制御する請求項1乃至
7のいずれか一項に記載の画像処理装置。
【請求項9】
前記表示制御部は、ユーザからの指示に応じて、前記表示された複数の医用画像のうち選択された医用画像を表示領域に表示するように、前記表示部を制御する請求項1乃至
8のいずれか一項に記載の画像処理装置。
【請求項10】
前記複数の医用画像を転送する転送部を更に有する請求項1乃至
9のいずれか一項に記載の画像処理装置。
【請求項11】
機械学習に基づいて複数の異常候補の分類を行う分類器を用いて、医用画像における異常候補を検出する異常候補検出ステップと、
前記異常候補検出ステップにおいて複数の異常候補が検出された場合に、前記医用画像に適用する画像処理を規定する画像処理パラメータを、前記検出された複数の異常候補のそれぞれに対して設定する画像処理パラメータ設定ステップと、
前記画像処理パラメータ設定ステップにおいて設定された複数の画像処理パラメータに基づいて、前記医用画像のうち、前記検出された複数の異常候補に対応する複数の画像領域を含み、且つ前記検出された複数の異常候補に対応する複数の画像領域よりも広い複数の画像領域に対して画像処理を行うことにより、複数の医用画像を取得する画像処理ステップと、
前記画像処理ステップにおいて取得された複数の医用画像を、前記検出された複数の異常候補のそれぞれに対応する分類の確信度と緊急度とに応じ
た順に表示するように、表示部を制御する表示制御ステップと、
を有する画像処理方法。
【請求項12】
機械学習に基づいて複数の異常候補の分類を行う分類器を用いて、医用画像における異常候補を検出する異常候補検出ステップと、
前記異常候補検出ステップにおいて複数の異常候補が検出された場合に、前記医用画像に適用する画像処理を規定する画像処理パラメータを、前記検出された複数の異常候補のそれぞれに対して設定する画像処理パラメータ設定ステップと、
前記画像処理パラメータ設定ステップにおいて設定された複数の画像処理パラメータに基づいて、前記医用画像に対して画像処理を行うことにより、複数の医用画像を取得する画像処理ステップと、
前記画像処理ステップにおいて取得された複数の医用画像を、前記検出された複数の異常候補のそれぞれに対応する分類の確信度と緊急度とに応じ
た順に表示するように、表示部を制御する表示制御ステップと、
を有する画像処理方法。
【請求項13】
請求項1
1または1
2の画像処理方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、異常候補検出部によって異常候補として検出されなかった領域に対しても該異常候補の読影効率を向上させる画像処理装置、画像処理方法およびプログラムに関する。
【背景技術】
【0002】
近年は、機械学習を使用したコンピュータ検出/診断支援(以下CAD)が利用され、特に畳み込みニューラルネットワーク(以下CNN)を用いて教師あり学習を行う構成のものが、その性能の高さから急速に普及している(特許文献1)。CNNを利用したCADは、教師あり学習により作成された学習パラメータを用い、撮影された画像に対して例えば異常候補の判定を行う。CADによる判定結果を医師に確認させるための技術として、検出された領域を強調する技術も開示されている(特許文献2)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2017-45341号公報
【文献】特開2018-192047号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、CADによる検出結果を部分的に強調することはできても、CADにより検出されなかった領域に関しては強調処理が行われないため、読影効率が低下することがある。
【0005】
本発明は、上述したような問題点に鑑みてなされたものであり、検出器により異常候補として検出されなかった領域に関しても該異常候補の読影効率を向上させる画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示の画像処理装置の一例は、
機械学習に基づいて複数の異常候補の分類を行う分類器を用いて、医用画像における異常候補を検出する異常候補検出部と、
前記異常候補検出部によって複数の異常候補が検出された場合に、前記医用画像に適用する画像処理を規定する画像処理パラメータを、前記検出された複数の異常候補のそれぞれに対して設定する画像処理パラメータ設定部と、
前記画像処理パラメータ設定部によって設定された複数の画像処理パラメータに基づいて、前記医用画像のうち、前記検出された複数の異常候補に対応する複数の画像領域を含み、且つ前記検出された複数の異常候補に対応する複数の画像領域よりも広い複数の画像領域に対して画像処理を行うことにより、複数の医用画像を取得する画像処理部と、
前記画像処理部によって取得された複数の医用画像を、前記検出された複数の異常候補のそれぞれに対応する分類の確信度と緊急度とに応じた順に表示するように、表示部を制御する表示制御部と、を有する。
【発明の効果】
【0007】
本発明によれば、異常候補検出部によって検出された異常候補に基づいて医用画像に対して画像処理を行うことで、検出器によって検出されなかった領域に関しても該異常候補の読影効率を向上させることができる。
【図面の簡単な説明】
【0008】
【
図2】本発明における画像処理装置のハードウェア構成例。
【
図3】本発明の実施形態1における画像処理装置の画像処理フロー。
【
図4】本発明の画像処理装置における異常候補検出部の学習フロー。
【
図5】本発明における実施形態2に係る画像処理装置の画像処理フロー。
【
図6】本発明の画像処理装置における外傷別の画像処理フロー。
【
図8】本発明の画像処理装置における画像処理を選択する表示画面図。
【発明を実施するための形態】
【0009】
以下、図面を用いて、本発明に係る実施形態について説明をおこなう。尚、実施形態は以下に限定されるものではなく、いずれかの形態が選択的に実施されても、いずれかの形態を複数組み合わせて実施してもよい。
【0010】
本発明における画像処理装置100の構成図を
図1に示す。画像処理装置100は、画像を取得する医用画像取得部101、異常候補の検出を行う異常候補検出部102を有する。また画像処理装置100は、異常候補検出部102から検出された異常候補に基づいて画像処理のパラメータを設定する画像処理パラメータ設定部103を有する。画像処理装置100は、さらに画像処理パラメータ設定部103によって設定された画像処理パラメータに応じて画像処理を行う画像処理部104を有する。画像処理部104は対象の画像のうち、異常候補検出部102によって検出された異常候補に対応する画像領域を含み、且つ検出された異常候補に対応する画像領域よりも広い画像領域に対して画像処理を実行する。また画像処理装置100は、画像処理された医用画像である診断用画像を表示する表示制御部105から構成される。
【0011】
医用画像取得部101は、外部装置からX線画像等の医用画像を取得し、前処理済み医用画像を出力する。異常候補検出部102は、前処理済み医用画像を入力とし、異常候補検出結果を出力する。画像処理パラメータ設定部103は、異常候補検出結果と外部装置から画像処理プリセットパラメータとを入力とし、画像処理アップデートパラメータを出力する。画像処理部104は、前処理済み医用画像と画像処理アップデートパラメータと異常候補検出結果とを入力とし、異常候補検出部によって検出された異常領域を含む医用画像に対して画像処理を実行し、画像処理された医用画像を出力する。表示制御部105は、画像処理された医用画像である診断用画像を入力とし、表示デバイス等へ画像処理結果を出力する。
【0012】
即ち、画像処理装置100は、医用画像を取得する医用画像取得部101と、医用画像取得部101により取得された医用画像から異常候補を検出する異常候補検出部102を有する。また異常候補検出部102によって検出された異常候補に基づいて、医用画像に適用する画像処理を規定する画像処理パラメータを設定する画像処理パラメータ設定部103を有する。画像処理装置100は、さらに画像処理パラメータ設定部103によって設定された画像処理パラメータに基づいて、画像処理を行う画像処理部104を有する。画像処理部104は、医用画像のうち、異常候補検出部によって検出された異常候補に対応する画像領域を含み、且つ検出された異常候補に対応する画像領域よりも広い画像領域に対して画像処理を行う。また画像装置100は、画像処理部104による画像処理された医用画像を表示する表示制御部105を有することを特徴とする。
【0013】
図1の構成を、PCを使って実現する場合の構成の一例を
図2に示す。コントロールPC201とX線センサ202がギガビットイーサ204でつながっている。信号線はギガビットイーサ204でなくてもCAN(Controller Area Network)や光ファイバーなどでもよい。ギガビットイーサ204には、X線発生装置203、表示部205、記憶部206、ネットワークインタフェース部207、イオンチャンバー210、X線制御部211が接続されている。コントロールPC201は例えば、バス2011に対して、CPU(中央演算装置)2012、RAM(Random Access Memory)2013、ROM(Read Only Memory)2014、記憶部2015が接続された構成になる。そしてコントロールPC201には、USBやPS/2で入力部208が接続され、VGAやDVIで表示部209が接続される。このコントロールPC201を介して、X線センサ202や表示部205などにコマンドを送る。コントロールPC201では、撮影モードごとの処理内容がソフトウェアモジュールとして記憶部2015に格納され、不図示の指示部によりRAM2013に読み込まれ、実行される。
図1に示した医用画像取得部101、異常候補検出部102、画像処理パラメータ設定部103、画像処理部104、表示制御部105はソフトウェアモジュールとして記憶部2015に格納されている。もちろん本発明は
図1に示した異常候補検出部102、画像処理部104を専用の画像処理ボードとして実装してもよい。目的に応じて最適な実装を行うようにすればよい。
図1に示した表示制御部105はギガビットイーサ204を介した表示部205、もしくはコントロールPC201に接続された表示部209に対して表示の制御を行う。
【0014】
以上のような構成を備えたX線画像処理装置において、本実施形態の特徴である
図1に示した画像処理装置100の動作について、その詳細を以下の実施形態にそって説明する。
【0015】
[第1の実施形態]
図1の画像処理装置100の構成図と
図3の画像処理装置100の全体フローを使い、本発明の処理の流れにそって説明する。
【0016】
(ステップS301)
まず医用画像取得部101は、X線センサによって医用画像を取得する。
【0017】
(ステップS302)
医用画像取得部101は外部装置等から取得した画像に対し前処理を行い、前処理済み医用画像を出力する。前処理とは例えば、センサの特性を補正する処理のことで、オフセット補正(暗電流補正)、ゲイン補正、欠損補正などを行い、周辺画素との相関関係が保たれている状態にする処理である。
【0018】
(ステップS303)
次に異常候補検出部102は、医用画像取得部101によって前処理が為された前処理済み医用画像を入力とし、異常候補(外傷)の検出を行い、異常候補(外傷)領域を検出する。異常候補(外傷)検出部102には例えば機械学習技術の一つとしてCNNを用いる。CNNを利用するにあたっては、事前に学習処理を行ってCNNのパラメータを決定しておく。尚、以下では画像処理装置100の学習時の動作について述べるが、本発明は、学習済みモデルを別途利用しても、学習済みモデルをファインチューニングや転移学習したモデルを利用する異常候補検出部102として用いてもよい。また、異常候補検出部102は、CNNのみならず、他のディープラーニング技術や、サポートベクターマシン、ランダムフォレスト、探索木等、異なる機械学習技術によって実現されても、複数の機械学習の技術が組み合わされて実現されてもよい。
【0019】
ここでは、CNNの学習処理を行う際の動作を
図4に示す。学習処理は、CNNのような教師あり学習の場合には、教師データをもとに行われる。教師データは、入力画像401と、それに対応した正解データ405の組である。正解データとしては、例えば画像内の所望領域を任意の値でラベリングしたラベリング画像や、所望領域を座標で示した座標データ、あるいは所望領域の境界を示す直線や曲線の式、などが好適である。異常候補(外傷)検出処理においては、例えば正解データ405は、入力画像401における異常候補(外傷)領域を1、それ以外の領域を0とした2値のマップ画像とするとよい。
【0020】
異常候補検出部102における、CNNでは入力画像401に対して、学習途中のCNN402のパラメータによる推論処理が行われ、推論結果404が出力される(ステップS4001)。ここで、CNN402は、多数の処理ユニット403が任意に接続された構造を取る。処理ユニット403の例としては、畳み込み演算や、正規化処理、あるいは、ReLUやSigmoid等の活性化関数による処理が含まれ、それぞれの処理内容を記述するためのパラメータ群を有する。これらは例えば、畳み込み演算→正規化→活性化関数、のように順番に処理を行う組が3~数百程度の層状に接続され、さまざまな構造を取ることができる。
【0021】
次に、推論結果404と正解データ405から、損失関数を算出する(ステップS4002)。損失関数は例えば二乗誤差や、交差エントロピー誤差など、任意の関数を用いることができる。ステップS4002で算出した損失関数を起点とした誤差逆伝搬を行い、CNN402のパラメータ群を更新する(ステップS4003)。
【0022】
最後に、学習の終了判定が行われ、学習を継続する場合はS401に進む(ステップS4004)。ステップS4001~4003の処理を、入力画像401と正解データ405を変えながら繰り返すことで、損失関数が低下するようにCNN402のパラメータ更新が繰り返され、異常候補検出部102の精度を高めることができる。十分に学習が進み、学習終了と判定された場合は、処理を完了する。学習終了の判断は、例えば、過学習が起こらずに推論結果の精度が一定値以上になる、損失関数が一定値以下になるなど、問題に応じて設定した判断基準に基づいて行う。
【0023】
(ステップS304)
次に画像処理パラメータ設定部103は、外傷候補検出結果と外部装置から画像処理プリセットパラメータを入力とし、画像処理アップデートパラメータを出力する。画像処理プリセットパラメータとは、撮影部位毎に決定されているデフォルトのパラメータである。デフォルトパラメータは、各部位で考えられる全ての病気が表現されるような画像処理パラメータである。健康診断などで使用され、全体を俯瞰的に診断することができる。画像処理パラメータ設定部103は、異常(外傷)候補検出結果より、異常(外傷)が検出されなかった場合は、特にプリセットパラメータを変更することなく、そのまま画像処理アップデートパラメータとして出力する。一方で、異常候補が検出された場合は、画像処理パラメータ設定部103は外傷に特化したパラメータに変更する。例えば、異常候補として骨折があった場合、骨折用の画像処理パラメータに変更する。骨折用の画像処理パラメータとは、例えば、エッジ強調を強くし、ダイナミックレンジの圧縮量を多くし、骨部が観察しやすい表現をするようなものである。例えば異常候補として気胸があった場合は、気胸が検出された領域の平均値を階調処理の中心にするなどし、階調処理を行い、肺野内が観察しやすい表現をする。即ち、画像処理パラメータ設定部103は、画像処理パラメータがあらかじめ設定されていた場合に、画像処理パラメータを変更することを特徴とする。
【0024】
(ステップS305)
次に画像処理部104が、前処理済み医用画像と異常候補検出結果と画像処理アップデートパラメータとを入力とし、画像処理を実施し、画像処理された医用画像(以下、診断用画像)を作成する。まず、前処理済み医用画像から画像処理アップデートパラメータを使用し診断用画像を生成する。診断用画像処理とは、異常候補を見えやすくするための処理で、階調処理、周波数処理などを行う。尚、画像処理は異常候補検出部102によって検出された異常候補の領域よりも広い領域に対して、取得した画像処理パラメータを適用し診断用画像の生成を行う。画像処理の対象となる画像領域は、医用画像取得部101によって出力された前処理済み医用画像全体を対象としても、例えば検出された異常候補と、異常候補の存在確率を考慮して画像処理の範囲が決定されてもよい。判定された異常候補を含み、かつ異常候補よりも広い画像領域に対して画像処理を実行することで、実際には異常であって、異常候補検出部102によって検出されなかった領域に関しても画像処理が実行され、結果として読影精度と効率の向上が期待される。即ち、画像処理部104における画像処理の対象は、異常候補が検出された医用画像全体であることを特徴とする。
【0025】
(ステップS306)
ここで画像処理アップデートパラメータは階調処理や周波数などの異常(外傷)を見えやすくするための処理を規定するパラメータである。即ち、画像処理アップデートパラメータや、画像処理プリセットパラメータ等の、画像処理パラメータは、周波数処理および階調処理のうち少なくとも一方の処理を規定するパラメータであることを特徴とする。そして、異常(外傷)候補検出結果にて、さらに異常(外傷)と判定された領域に表示用の処理を行う。例えば、異常(外傷)領域の境界を特定の色を持った線で表示をした画像や、外傷領域の重心部分に×などの印や矢印を重畳した画像を作成する。ユーザは、該異常領域の特徴に則って、異常領域として検出されていない領域に対して、比較検証を実施することができる。
【0026】
(ステップS307)
最後に、表示制御部105が、診断用画像を表示デバイスへ出力させる。表示制御部105による診断用画像の表示によって、異常(外傷)候補として検出された領域を、確認しやすい画像処理が適用されて表示されるため、異常候補を把握することが可能となる。また異常候補が検出されていない領域に対しても、検出された異常候補の可読性を向上させるための画像処理が実行されているため、異常候補が検出された領域と異常候補が検出されていない領域とを比較することできる。よって異常候補検出部102の見落としをユーザが見落としにくくなり、結果として医師の診断効率を上げることができる。
【0027】
本実施形態により、異常候補検出部102によって検出された異常候補に応じて、画像処理パラメータ設定部103が画像処理パラメータの設定を行う。さらに、画像処理部104が異常候補検出部102によって検出された異常候補を含む画像領域に対して画像処理を実行する。本構成により、異常候補検出部102によって異常候補として検出がされなかった領域においても異常候補を強調する画像処理が施されるため読影効率が向上する。
【0028】
[第2の実施形態]
異なる実施形態について
図1の構成図と
図5の全体フローを使い説明する。本実施形態において、異常候補検出部102はCNNに基づいて複数の異常候補の分類を行う。尚。ステップS301からS302は第1の実施形態における
図3と同様のため省略する。
【0029】
(ステップS504)
異常候補検出部102からCNNを用いて複数の外傷に分類が必要な場合は、例えば次のようにCNNのパラメータを決める。それぞれの異常候補の有無を二値分類するCNNを作成する場合には、骨折領域を正解データとした骨折だけを検出するパラメータを生成し、気胸領域を正解データとした気胸だけを検出するパラメータを生成するなどをし、外傷毎に別々のパラメータを生成する。
【0030】
一方で、複数の異常候補を例えば単一の分類器によって分類するため、分類器は、分類器に設定された分類対象の異常候補(クラス)を分類するための特徴を学習することになる。故に、複数の異常候補が似た特性(大きさ、画素値、位置、形状等)を有していた場合においても、分類精度の信頼性が保たれやすい。複数のクラスを分類する分類器を作成する場合には、例えば、正解データを、骨折領域が1、気胸領域が2、血胸領域が3、それ以外の領域を0とした多値のマップ画像を用意し、複数の外傷を検出するパラメータを生成してもよい。即ち、異常候補検出部102は、機械学習に基づいて異常候補の検出を行い、異常候補のそれぞれは機械学習のクラスに対応することを特徴とする。
【0031】
異常候補検出部102は、医用画像取得部101から取得した画像を基に異常候補の分類を行い、検出結果を画像処理パラメータ設定部103に出力する。
【0032】
(ステップS505)
次に画像処理パラメータ設定部103は、外部装置から画像処理プリセットパラメータと異常候補検出部102による異常候補検出結果を入力とし、画像処理アップデートパラメータを出力する。画像処理アップデートパラメータは、S504で異常候補検出部102により複数の外傷に分類された数に伴って出力される。
【0033】
図6を用いて、異常検出/分類601の結果として、異常候補検出部102により骨折と気胸と血胸とが検出された場合について説明する。ここでは、骨折用画像処理パラメータ602、気胸用画像処理パラメータ603、血胸用画像処理パラメータ604を生成し出力する。尚、異常候補検出部102による検出結果が、いずれの異常候補も検出しなかった場合には、GUI等からユーザの指示に基づいて画像処理パラメータが設定されてもよいし、プリセットパラメータを設定してもよい。即ち、異常候補検出部102が異常候補を検出しなかった場合には、画像処理装置100は画像処理パラメータを変更しないことを特徴とする。即ち、画像処理パラメータ設定部103は、異常候補検出部102によって複数の異常候補が検出された場合に、複数の異常候補のそれぞれに対して画像処理パラメータを設定することを特徴とする。
【0034】
(ステップS506)
次に画像処理部104が、前処理済み医用画像と異常候補検出結果と画像処理アップデートパラメータとを入力とし、表示用画像を作成する。まず、前処理済み医用画像から画像処理アップデートパラメータを使用し診断用画像を生成する(S506)。
図6のように異常検出/分類601の結果として、骨折と気胸と血胸とが検出された場合、診断用画像処理605は、骨折用画像処理パラメータ602から骨折用診断用画像606を生成する。また、気胸用画像処理パラメータ603から気胸用診断用画像607を、血胸用画像処理パラメータ604から血胸用診断用画像608を生成する。即ち、画像処理部104は、異常候補のそれぞれに対して設定された画像処理パラメータに基づいて、複数の画像処理結果を出力することを特徴とする。
【0035】
(ステップS507)
そして、異常候補検出結果にて、異常と判定された領域に表示用の処理を行う(S307)。骨折用診断用画像506には骨折候補検出結果を、気胸用診断用画像507には気胸候補検出結果を、血胸用診断用画像508には血胸用候補検出結果を重畳させる。
【0036】
尚、CNNのクラス構成や、学習方法等は、一例であって複数のCNNのそれぞれが複数の異常候補のそれぞれを検出してもよい。または複数のCNNが検出した異常候補のそれぞれを画素ごと、もしくは所定の区画ごとに比較をして、異常候補検出部102による検出結果としてもよい。
【0037】
(ステップS508)
最後に、表示制御部105が、複数の診断用画像を順番に表示デバイスへ出力をさせる(S508)。UI上の切り替え操作になどよって、複数の診断用画像を切り替え、全ての診断用画像を確認することができる。画像確認に用いた複数の診断用画像は、全てPACSへ転送してもよい。このようにすることで、複数の病変がある場合でも、診断効率を上げながら確認をすることができる。即ち、画像処理部104によって画像処理された医用画像である診断用画像を転送する転送部を有することを特徴とする。
【0038】
ここで、
図7を用いて、本発明に係る表示制御部105によって表示デバイスに表示される表示画面700の一例について述べる。表示画面700は、例えば、患者の氏名や、患者のID情報を示す患者情報部701、特定の画像処理によって生成された診断用画像表示部702、診断用画像表示部702に対応する異常候補を示す異常候補情報表示部703から構成される。診断用画像表示部702には、例えば異常候補検出部102により骨折が検出された場合に、画像処理部104によって骨折用の画像処理を行った診断用画像を表示する。さらに異常候補情報表示部703には、骨折用診断用画像であることが表示されることで、ユーザは表示されている診断用画像702から確認すべき異常候補を把握することが可能となる。即ち、表示制御部105は、異常候補検出部102によって検出された異常候補と、画像処理された医用画像とを表示することを特徴とする。また、異常候補情報表示部703に、その異常候補に対する分類器の分類に対する確信度(後で詳述)を共に表示してもよい。分類に対する確信度を、異常候補と共に表示することにより、異常候補である確率を考慮しながら、該異常候補に適切な画像処理を受けた診断用画像を確認することができる。即ち、異常候補検出部102は、異常候補と、異常候補に対する分類の確信度を算出することを特徴とする。
【0039】
また、表示する診断用画像をユーザが選択、切替できる選択部を有していてもよい。
図8を用いて、表示制御部105によって表示される表示画面700はさらに、異常候補検出に対する分類器の確度を表示する異常候補検出結果表示部801の表示を行う。また対象の医用画像に実施をする画像処理を選択する選択部802、さらに、選択された画像処理の結果である診断用画像を表示する診断用画像表示部803の表示を行う。異常候補検出部102による検出結果に十分な信頼が持てない場合や、ユーザが所望の画像処理を実施したい場合に、選択部802により所望の画像処理を選択することが可能となり、診断の誤りの抑制や、診断効率の向上が期待される。即ち、表示制御部105は、画像処理部104による出力が、複数の画像処理結果であった場合に、表示する画像処理結果を選択する選択部802を有することを特徴とする。尚、選択部802によって表示する診断用画像表示部803における診断用画像を切り替えなくても、複数の診断用画像が識別可能に表示されれば、同一の画面もしくは同時に表示されてもよい。
【0040】
即ち、表示制御部105は、複数の画像処理結果(診断用画像803)のそれぞれを識別可能に表示することを特徴とする。
【0041】
[第3の実施形態]
第2の実施形態に記載したように、複数の異常候補を分類器のクラスとして有している場合には、異常候補検出部102は、CNNに基づいて複数の異常候補を検出する。
【0042】
本実施形態では、異常候補検出部102のCNNへの出力と、複数の異常候補が検出された場合の表示制御部105が行う表示制御の一例について述べる。
【0043】
CNNは、分類器への入力対象が画像である場合に、分類結果の出力を画素単位、画像領域単位、画像単位等に設定することができる。本形態における異常候補検出部102におけるCNNは、いずれの場合にも適用可能である。また、CNNは、分類結果の対象単位で確信度を設定する。確信度とは、異常候補(外傷)であることの確かさを表すものとする。CNNにおける確信度は、例えばSoftmax関数により算出されたソフトマックス値である。異常候補に該当する領域の検出は、CNNの最終層の出力結果に限定されるものではなく、例えば中間層の出力結果の値を利用してもよい。また、複数の異常候補の検出処理を行い、検出結果を重みづけしたスコアを用いてもよい。
【0044】
異常候補検出部102によって検出された異常候補に基づいて、画像処理パラメータ設定部103がそれぞれの異常候補に応じた画像処理パラメータを設定する。そして、画像処理部104が画像処理を実行することによって複数の画像処理された医用画像である診断用画像が生成される。
【0045】
ここで表示制御部105は、異常候補検出部102によって出力された確信度を取得し、確信度の最も高い異常候補に対応する画像を出力する。即ち、表示制御部105は、確信度が最も高い異常候補に対応する画像処理結果として診断用画像を表示デバイスに表示させることを特徴とする。
【0046】
もしくは、表示制御部105は、確信度が閾値以上の異常候補に対応する画像を複数比較可能に表示してもよいし、複数の画像を順に表示してもよい。
【0047】
複数の画像を順に表示する場合には、例えば表示制御部105は複数の画像を、異常候補検出部102によって出力された確信度の高いものから順に表示をする。即ち、表示制御部105は、画像処理部104による出力が、複数の画像処理された医用画像(診断用画像)であった場合に、確信度に応じて複数の画像された医用画像(診断用画像)の表示順序を決定することを特徴とする。または、それぞれの異常候補の緊急度や進行度を出力させ、表示をする順を決定してもよい。尚、確信度や、緊急度や進行度はそれぞれ単独で表示の順が決定されても、複数の組み合わせによる評価値に応じて表示の順が決定されてもよい。複数の画像が存在する場合に、確信度や、緊急度、進行度を踏まえて、表示制御部105が表示をすることで、ユーザは治療を優先しなければならない異常候補(外傷)から確認することができる。尚、緊急度や進行度は、例えば骨折、気胸、血胸をクラス分類する分類器において、緊急度や進行度のレベルごとに、骨折―レベル1、骨折―レベル2、骨折―レベル3等、正解データのラベルを付与して学習をし、学習された分類器によって分類された結果である。もしくは、異常候補検出部102における分類器(CNN)が検出をした異常候補の領域を入力として、緊急度や進行度を出力する異なる分類器(CNN)を別途設けることにより、緊急度や進行度を得てもよい。
【0048】
また、分類器の分類結果への確信度にさらに、分類器自身の信頼度を乗じた値を異常候補検出部102による出力としてもよい。例えば、分類器の分類結果への確信度が非常に高い場合においても、特定の異常候補に対して分類器の分類精度が十分でない可能性がある。分類精度が十分でないような場合においては例えば、分類器自身の信頼度を分類器の確信度に乗じる。分類器の信頼度を考慮することで、複数の分類器による分類結果もしくは、複数のクラスへの分類結果に対するノイズやバイアスを考慮することができ、ユーザに対して適切な順序で画像を表示することが可能となる。もちろん表示制御部105による表示の順序は、本形態に限定されるものではない。例えば、あらかじめユーザ等が設定した表示順序に則って表示を行ってもよい。
【0049】
[第4の実施形態]
第1の実施形態のS307における画像表示において、異なる実施形態を
図1の構成図と
図3の全体フローを使い説明する。
【0050】
S301からS304は第1の実施形態と同様のため省略する。
【0051】
画像処理パラメータ設定部103は、外部装置から画像処理プリセットパラメータと異常候補検出結果を入力とし、画像処理プリセットパラメータと画像処理アップデートパラメータとを出力する(S305)。外傷がない場合は、画像処理プリセットパラメータのみを出力する。異常候補がある場合は、その異常候補に特化したパラメータを画像処理アップデートパラメータとし、画像処理プリセットパラメータと共に出力する。
【0052】
次に画像処理部104が、前処理済み医用画像と異常候補検出結果と画像処理アップデートパラメータと画像処理プリセットパラメータとを入力とし、診断用画像を作成する。画像処理部104は、まず、前処理済み医用画像から画像処理アップデートパラメータを使用した診断用画像を生成する(S306)。さらに画像処理部104は画像処理プリセットパラメータを使用し診断用画像を作成する。そして、アップデートパラメータを使用した診断用画像には、異常候補と判定された領域に表示用の処理を行う(S307)。
【0053】
最後に、表示制御部105が、複数の表示用画像を順番に表示デバイスへ出力する(S308)。アップデートパラメータを使用した診断用画像を順に表示する。そして最後に全体を確認するために、最後にプリセットパラメータを使用した診断用画像を表示する。UIなどからプリセットパラメータを使用した診断用画像の表示の指示の場合があった場合は、それに応じて表示を行う。全体を確認することができる画像処理プリセットパラメータで最後に確認することで、見落とし防止の効果を得ることができる。即ち、表示制御部105は、画像処理パラメータが変更される前の画像処理パラメータによって画像処理された画像処理結果(診断用画像)を表示することを特徴とする。
【0054】
[変形例]
異常候補検出部102によって検出される異常候補の数が多いと、異常候補のそれぞれに対応するように生成される診断用画像の数が増加することも考えられる。診断用画像の数がユーザの負担になる場合に、画像処理パラメータ設定部103は、複数の異常候補に対応する画像処理パラメータ間の差を比較する。そして画像処理パラメータの類似する異常候補群ごとに、所定の画像処理を実施し、表示制御部105が表示をしてもよい。なお、ユーザが画像処理パラメータの類似する異常候補群を設定してもよい。
【0055】
[その他の実施例]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0056】
100 画像処理装置
101 医用画像取得部
102 異常候補検出部
103 画像処理パラメータ設定部
104 画像処理部
105 表示制御部