特許第6952124号(P6952124)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルム株式会社の特許一覧

<>
  • 特許6952124-医療画像処理装置 図000002
  • 特許6952124-医療画像処理装置 図000003
  • 特許6952124-医療画像処理装置 図000004
  • 特許6952124-医療画像処理装置 図000005
  • 特許6952124-医療画像処理装置 図000006
  • 特許6952124-医療画像処理装置 図000007
  • 特許6952124-医療画像処理装置 図000008
  • 特許6952124-医療画像処理装置 図000009
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6952124
(24)【登録日】2021年9月29日
(45)【発行日】2021年10月20日
(54)【発明の名称】医療画像処理装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20211011BHJP
【FI】
   G06T7/00 350C
【請求項の数】9
【全頁数】15
(21)【出願番号】特願2019-546587(P2019-546587)
(86)(22)【出願日】2018年9月6日
(86)【国際出願番号】JP2018032970
(87)【国際公開番号】WO2019069618
(87)【国際公開日】20190411
【審査請求日】2020年3月11日
(31)【優先権主張番号】特願2017-195396(P2017-195396)
(32)【優先日】2017年10月5日
(33)【優先権主張国】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110002505
【氏名又は名称】特許業務法人航栄特許事務所
(72)【発明者】
【氏名】大酒 正明
【審査官】 新井 則和
(56)【参考文献】
【文献】 特開2010−071826(JP,A)
【文献】 特開2017−173098(JP,A)
【文献】 特開2013−192835(JP,A)
【文献】 特開2017−027314(JP,A)
【文献】 特開2017−156886(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00−7/90
(57)【特許請求の範囲】
【請求項1】
画像に関するデータを用いて学習を行う機械学習装置に提供する学習用データを医療画像から生成する医療画像処理装置であって、
医療画像から特徴量を抽出する特徴量抽出部と、
前記特徴量に基づく画像の認識処理を行う認識処理部と、
前記特徴量及び前記認識処理部が行った認識結果を、前記学習用データとして前記機械学習装置に提供する提供部と、
前記認識結果から信頼度を算出する信頼度算出部と、
前記認識処理部が行った認識結果を変更する認識結果変更部と、を備え、
前記提供部は、前記信頼度がしきい値未満であれば、前記特徴量、及び、前記認識結果変更部にて変更された認識結果を前記機械学習装置に提供する、医療画像処理装置。
【請求項2】
請求項1に記載の医療画像処理装置であって、
前記特徴量は匿名化した情報である、医療画像処理装置。
【請求項3】
請求項2に記載の医療画像処理装置であって、
前記匿名化した特徴量は、医療画像の座標情報を少なくとも一部削った情報である、医療画像処理装置。
【請求項4】
請求項1から3のいずれか一項に記載の医療画像処理装置であって、
前記認識処理部が行った認識結果を変更する認識結果変更部を備え、
前記提供部は、前記特徴量、及び前記認識処理部が行った認識結果又は前記認識結果変更部にて変更された認識結果を前記機械学習装置に提供する、医療画像処理装置。
【請求項5】
請求項1から4のいずれか一項に記載の医療画像処理装置であって、
前記提供部は、画像特性を利用した画像圧縮処理によって前記特徴量をデータ圧縮し、当該データ圧縮した特徴量を前記機械学習装置に提供する、医療画像処理装置。
【請求項6】
請求項5に記載の医療画像処理装置であって、
前記提供部は、前記データ圧縮した特徴量を前記機械学習装置に送信する、医療画像処理装置。
【請求項7】
請求項1から6のいずれか一項に記載の医療画像処理装置であって、
前記特徴量抽出部は、ニューラルネットワークを多層に積み重ねた層構造のネットワークモデルを利用して前記特徴量を抽出する、医療画像処理装置。
【請求項8】
請求項7に記載の医療画像処理装置であって、
前記ニューラルネットワークは、畳み込みニューラルネットワークである、医療画像処理装置。
【請求項9】
画像に関するデータを用いて学習を行う機械学習装置に提供する学習用データを医療画像から生成する医療画像処理装置であって、
医療画像から特徴量を抽出する特徴量抽出部と、
前記特徴量に基づく画像の認識処理を行う認識処理部と、
前記特徴量及び前記認識処理部が行った認識結果を、前記学習用データとして前記機械学習装置に提供する提供部と、
前記認識結果から信頼度を算出する信頼度算出部と、を備え、
前記提供部は、前記信頼度がしきい値未満であれば、前記特徴量、並びに、前記認識結果及び前記信頼度の少なくとも一方を前記機械学習装置に提供する、医療画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、機械学習装置に提供する学習用データを医療画像から生成する医療画像処理装置に関する。
【背景技術】
【0002】
深層学習(Deep Learning)をはじめとする画像の機械学習においては、機械学習装置が学習を行うために用いる学習用データを収集する必要がある。但し、機械学習装置が学習を行うためには一般的に多くの学習用データを必要とするため、機械学習装置に収集されるデータ量は非常に多い。このため、学習用データを通信ネットワークを介して機械学習装置に送信する場合には、学習用データの伝送が上記通信ネットワークの通信容量を圧迫する。この問題を解決するためには、特許文献1に記載の画像通信方式等のように、伝送対象画像の特徴量を抽出して、当該特徴量を伝送すれば、受信側が必要とする情報を効率的に伝送することができる。なお、画像の特徴量(feature)は、非特許文献1に説明されている畳み込みニューラルネットワークモデルを用いれば抽出できる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開昭62−68384号公報
【非特許文献】
【0004】
【非特許文献1】Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton, “ImageNet Classification with Deep Convolutional Neural Networks”, NIPS (Neural Information Processing Systems), 2012
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記説明した機械学習装置は、学習用データとして提供された特徴量を用いて深層学習等を行う。しかし、画像から抽出される特徴量の信頼度には、元の画像の内容等によってばらつきが生じる。このため、機械学習装置は、提供された特徴量を全て同様に利用すると、効率の悪い学習を行ってしまうことになる。
【0006】
本発明は、上述した事情に鑑みなされたものであり、機械学習装置が効率良く学習することのできる学習用データを提供可能な医療画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様の医療画像処理装置は、
画像に関するデータを用いて学習を行う機械学習装置に提供する学習用データを医療画像から生成する医療画像処理装置であって、
医療画像から特徴量を抽出する特徴量抽出部と、
上記特徴量に基づく画像の認識処理を行う認識処理部と、
上記特徴量及び上記認識処理部が行った認識結果を、上記学習用データとして上記機械学習装置に提供する提供部と、
を備える。
【発明の効果】
【0009】
本発明によれば、機械学習装置が効率良く学習することのできる学習用データを提供可能な医療画像処理装置を提供することができる。
【図面の簡単な説明】
【0010】
図1】本発明に係る第1実施形態の医療画像処理装置と機械学習装置との関係及び構成を示すブロック図である。
図2】第1実施形態の医療画像処理装置が行う処理を示すフローチャートである。
図3】本発明に係る第2実施形態の医療画像処理装置と機械学習装置との関係及び構成を示すブロック図である。
図4】第2実施形態の医療画像処理装置が行う処理を示すフローチャートである。
図5】本発明に係る第3実施形態の医療画像処理装置と機械学習装置との関係及び構成を示すブロック図である。
図6】第3実施形態の医療画像処理装置が行う処理を示すフローチャートである。
図7】本発明に係る第4実施形態の医療画像処理装置と機械学習装置との関係及び構成を示すブロック図である。
図8】第4実施形態の医療画像処理装置が行う処理を示すフローチャートである。
【発明を実施するための形態】
【0011】
以下、本発明の実施形態について図面を参照して説明する。
【0012】
(第1実施形態)
図1は、本発明に係る第1実施形態の医療画像処理装置100と機械学習装置200との関係及び構成を示すブロック図である。図1に示すように、画像に関するデータを用いて学習を行う機械学習装置200と、機械学習装置200に学習用データを送信する第1実施形態の医療画像処理装置100とは、通信ネットワーク10を介して、少なくとも医療画像処理装置100から機械学習装置200へのデータ通信ができるように設けられている。なお、通信ネットワーク10は、無線の通信ネットワークであっても有線の通信ネットワークであっても良い。
【0013】
また、医療画像処理装置100及び機械学習装置200のハードウェア的な構造は、プログラムとして実行して各種処理を行うプロセッサと、RAM(Random Access Memory)と、ROM(Read Only Memory)とによって実現される。プロセッサには、プログラムを実行して各種処理を行う汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、又はASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。これら各種のプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。また、評価システムを構成するプロセッサは、各種プロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ又はCPUとFPGAの組み合わせ)で構成されてもよい。
【0014】
医療画像処理装置100及び機械学習装置200のいずれも、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を多層に積み重ねた層構造のネットワークモデルを利用する。なお、ネットワークモデルは、一般に、ニューラルネットワークの構造とそのニューラルネットワークを構成する各ニューロン間の結びつきの強さであるパラメータ(いわゆる「重み」)との組み合わせとして表現される関数を意味するが、本明細書では当該関数に基づいて演算処理を行うためのプログラムを意味する。
【0015】
医療画像処理装置100が利用する多層CNNのモデルは、図1に一点鎖線で示すように、第1の畳み込み層(1st Convolution)、第1の活性化関数層(1st Activation)、第1のプーリング層(1st Pooling)、第2の畳み込み層(2nd Convolution)、第2の活性化関数層(2nd Activation)、第2のプーリング層(2nd Pooling)、第3の畳み込み層(3rd Convolution)、第3の活性化関数層(3rd Activation)、第4の畳み込み層(4th Convolution)、第4の活性化関数層(4th Activation)、第3のプーリング層(3rd Pooling)、第1の全結合層(1st Fully connected)、第5の活性化関数層(5th Activation)、第2の全結合層(2nd Fully connected)、第6の活性化関数層(6th Activation)及び第3の全結合層(3rd Fully connected)の順の層構造を有する。以下、医療画像処理装置100が利用する多層CNNのモデルを「第1ネットワークモデル」という。
【0016】
機械学習装置200が利用する多層CNNのモデルは、図1に二点鎖線で示すように、第1の畳み込み層(1st Convolution)、第1の活性化関数層(1st Activation)、第1のプーリング層(1st Pooling)、第1の全結合層(1st Fully connected)、第2の活性化関数層(2nd Activation)、第2の全結合層(2nd Fully connected)、第3の活性化関数層(3rd Activation)及び第3の全結合層(3rd Fully connected)の順の層構造を有する。以下、機械学習装置200が利用する多層CNNのモデルを「第2ネットワークモデル」という。なお、第2ネットワークモデルは、第1ネットワークモデルの第4の畳み込み層以降の層構造と同じであるが、異なる層構造のニューラルネットワークであっても良い。
【0017】
第1ネットワークモデル又は第2ネットワークモデルに画像に関するデータが入力された場合、畳み込み層であれば畳み込み処理、活性化関数層であれば活性化関数を用いた処理、プーリング層であればサブサンプリング処理が施され画像の特徴量が抽出される。全結合層では、前の層で作成された複数の処理結果を1つに結合する処理が行われる。最後の全結合層(第3の全結合層)は、画像の認識結果を出力する出力層である。
【0018】
医療画像処理装置100は、特徴量抽出部101と、認識処理部103と、送信部105とを備える。医療画像処理装置100には、内視鏡の撮像装置によって撮影された画像、CT(Computed Tomography)画像又はMR(Magnetic Resonance)画像等の医療画像のデータが入力される。
【0019】
特徴量抽出部101は、入力された医療画像のデータから、上記説明した第1ネットワークモデルを利用して特徴量を抽出する。すなわち、特徴量抽出部101は、医療画像のデータが第1ネットワークモデルを構成する第1の畳み込み層に入力されると、第1の畳み込み層、第1の活性化関数層、第1のプーリング層、第2の畳み込み層、第2の活性化関数層、第2のプーリング層、第3の畳み込み層及び第3の活性化関数層の各処理をこの順に行い、第3の活性化関数層の出力を特徴量として抽出する。なお、特徴量は、医療画像の座標画像を少なくとも一部削った情報であり、その結果、匿名化した情報である。
【0020】
認識処理部103は、特徴量抽出部101が抽出した特徴量、すなわち、第3の活性化関数層の出力に基づき、第1ネットワークモデルを利用して画像のパターン認識処理を行う。すなわち、認識処理部103は、第3の活性化関数層の出力(特徴量)が第1ネットワークモデルを構成する第4の畳み込み層に入力されると、第4の畳み込み層、第4の活性化関数層、第3のプーリング層、第1の全結合層、第5の活性化関数層、第2の全結合層、第6の活性化関数層及び第3の全結合層の各処理をこの順に行い、第3の全結合層(出力層)の出力を画像のパターン認識結果(以下、単に「認識結果」という。)として出力する。
【0021】
送信部105(提供部の一例)は、特徴量抽出部101が抽出した特徴量に認識処理部103が出力した認識結果を紐付けて、当該特徴量及び認識結果を機械学習装置200の学習用データとして、通信ネットワーク10を介して機械学習装置200に送信する。なお、送信部105は、特徴量をJPEG(Joint Photographic Experts Group)等の画像特性を利用した画像圧縮処理によってデータ圧縮して送信しても良い。
【0022】
機械学習装置200は、受信部201と、記憶部203と、学習器205と、損失関数実行部207とを有する。機械学習装置200には、通信ネットワーク10を介して医療画像処理装置100から送信された学習用データが入力される。
【0023】
受信部201は、通信ネットワーク10を介して医療画像処理装置100から送信された学習用データを受信する。記憶部203は、受信部201が受信した学習用データを記憶する。
【0024】
学習器205は、記憶部203が記憶する学習用データに含まれる特徴量から、上記説明した第2ネットワークモデルを利用して画像のパターン認識処理を行い、損失関数実行部207の結果に応じた学習を行う。すなわち、学習器205は、記憶部203から読み出された特徴量が第2ネットワークモデルを構成する第1畳み込み層に入力されると、第1の畳み込み層、第1の活性化関数層、第1のプーリング層、第1の全結合層、第2の活性化関数層、第2の全結合層、第3の活性化関数層及び第3の全結合層の各処理をこの順に行い、第3の全結合層(出力層)の出力を画像のパターン認識の結果として出力する。なお、学習器205による学習は、学習器205にフィードバックされた損失関数実行部207の出力に応じて、第2ネットワークモデルにおける重み等を調整することによって行われる。
【0025】
損失関数実行部207は、学習器205が出力した結果、及び当該結果に対応する特徴量に紐付けられた記憶部203が記憶する認識結果をパラメータとして損失関数(「誤差関数」ともいう。)に入力して、得られた出力(損失)を学習器205にフィードバックする。なお、損失関数実行部207の出力(損失)は、学習器205が出力した結果と医療画像処理装置100から送信され記憶部203が記憶する認識結果との差異を示す。
【0026】
次に、第1実施形態の医療画像処理装置100の動作について、図2を参照して説明する。図2は、第1実施形態の医療画像処理装置100が行う処理を示すフローチャートである。
【0027】
図2に示すように、医療画像処理装置100の特徴量抽出部101は、入力された医療画像のデータから、第1ネットワークモデルを利用して特徴量を抽出する(ステップS101)。次に、認識処理部103は、ステップS101で得られた特徴量に基づき、第1ネットワークモデルを利用して画像のパターン認識処理を行う(ステップS103)。次に、送信部105は、ステップS101で得られた特徴量にステップS103で得られた認識結果を紐付けて、当該特徴量及び認識結果を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS105)。
【0028】
このように、本実施形態では、医療画像処理装置100において第1ネットワークモデルを利用して医療画像から抽出した特徴量と、当該特徴量に基づき第1ネットワークモデルを利用して導き出した認識結果とが、学習用データとして機械学習装置200に提供される。このため、機械学習装置200は、学習用データとして提供された特徴量からパターン認識を行って得られた結果と、医療画像処理装置100から提供された当該特徴量に対応する認識結果との損失に応じて、効率の良い学習をすることができる。言い換えれば、医療画像処理装置100は、機械学習装置200が効率良く学習することのできる学習用データを提供できる。
【0029】
また、機械学習装置200に学習用データとして提供される特徴量のデータサイズは、医療画像処理装置100に入力される医療画像のデータサイズよりも小さいため、学習用データを機械学習装置200に送信する際に利用する通信ネットワーク10の通信容量を削減できる。
【0030】
また、カラー画像における各色を適宜組み合わせたもの(例えばグレースケール画像)や、2値画像、エッジ抽出画像(1次微分画像や2次微分画像)などを特徴量として利用することで、機械学習装置200に送信する学習用データのデータサイズの圧縮が可能である。
【0031】
さらに、元の医療画像が視覚的に予測または認識できないような特徴量(例えば、画像の座標情報を部分的、あるいは全てを失わせた、空間周波数に関する特徴量や、畳み込み演算によって得られる特徴量)を利用することで、学習用データが提供される機械学習装置200側では、医療画像の匿名性も担保できる。特にレアな症例は、医療画像のみから、または医療画像と限られた情報(例えば病院名等)から、個人を特定される可能性がある。なお、医療画像の匿名性とは、当該医療画像に含まれる個人情報又は診断等によって得られた個人の身体若しくは症状等を示す情報を明らかにできないことである。
【0032】
なお、本実施形態では、通信ネットワーク10を介して学習用データが医療画像処理装置100から機械学習装置200に送信されているが、メモリカード等の持ち運び可能な記録媒体を用いて、学習用データを医療画像処理装置100から機械学習装置200に送っても良い。この場合であっても、機械学習装置200に学習用データとして提供される特徴量のデータサイズは、医療画像処理装置100に入力される医療画像のデータサイズよりも小さいため、学習用データを記録する記録媒体の記憶容量を削減できる。この場合、記録媒体に学習用データを記録する制御を行うプロセッサ等が提供部である。
【0033】
(第2実施形態)
図3は、本発明に係る第2実施形態の医療画像処理装置100aと機械学習装置200との関係及び構成を示すブロック図である。第2実施形態の医療画像処理装置100aが第1実施形態の医療画像処理装置100と異なる点は、医療画像処理装置100aが信頼度算出部111、表示部113、操作部115及び認識結果変更部117を備える点である。この点以外は第1実施形態と同様であるため、第1実施形態と同一又は同等の事項は説明を簡略化又は省略する。
【0034】
本実施形態の医療画像処理装置100aが備える信頼度算出部111は、認識処理部103が出力した認識結果の信頼度を算出する。信頼度算出部111は、認識結果が例えば病変らしさのスコアである場合、当該スコアが所定のしきい値の範囲内であれば低い数値の信頼度を算出する。表示部113は、信頼度算出部111が算出した認識結果毎の信頼度を表示する。
【0035】
操作部115は、医療画像処理装置100aのユーザが認識結果変更部117の操作を行うための手段である。操作部115は、具体的には、トラックパッド、タッチパネル、又はマウス等である。認識結果変更部117は、操作部115からの指示内容に応じて、認識処理部103が出力した認識結果を変更する。認識結果の変更とは、認識処理部103が出力した認識結果の修正の他、医療画像処理装置100aの外部装置で作成された認識結果の入力を含む。なお、上記外部装置には、生検の結果から認識結果を確定させる装置も含まれる。医療画像処理装置100aのユーザは、例えば、信頼度がしきい値よりも低い認識結果を変更する。
【0036】
本実施形態の送信部105は、特徴量抽出部101が抽出した特徴量に認識処理部103が出力した認識結果又は認識結果変更部117にて変更された認識結果を紐付けて、当該特徴量及び認識結果又は変更された認識結果を機械学習装置200の学習用データとして、通信ネットワーク10を介して機械学習装置200に送信する。
【0037】
医療画像処理装置100aから機械学習装置200に送信された学習用データに含まれる認識結果が変更されたものである場合、機械学習装置200の損失関数実行部207には、学習器205が出力した結果と、変更された認識結果とが入力される。このため、損失関数実行部207は学習に有益な損失を算出し、当該損失が学習器205にフィードバックされることによって効率の良い学習が行われる。
【0038】
次に、第2実施形態の医療画像処理装置100aの動作について、図4を参照して説明する。図4は、第2実施形態の医療画像処理装置100aが行う処理を示すフローチャートである。
【0039】
図4に示すように、医療画像処理装置100aの特徴量抽出部101は、入力された医療画像のデータから、第1実施形態で説明した第1ネットワークモデルを利用して特徴量を抽出する(ステップS101)。次に、認識処理部103は、ステップS101で得られた特徴量に基づき、第1ネットワークモデルを利用して画像のパターン認識処理を行う(ステップS103)。次に、信頼度算出部111は、ステップS103で得られた認識結果の信頼度を算出する(ステップS111)。次に、表示部113は、ステップS111で得られた信頼度を表示する(ステップS113)。
【0040】
次に、送信部105は、ステップS103で得られた認識結果が認識結果変更部117によって変更された場合(ステップS115でYES)は、ステップS101で得られた特徴量に変更された認識結果を紐付けて、当該特徴量及び変更された認識結果を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS117)。また、送信部105は、ステップS103で得られた認識結果が認識結果変更部117によって変更されていない場合(ステップS115でNO)は、ステップS101で得られた特徴量にステップS103で得られた認識結果を紐付けて、当該特徴量及び認識結果を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS119)。
【0041】
このように、本実施形態では、医療画像処理装置100aの認識処理部103が出力した認識結果の信頼度が低い場合には、認識結果を変更する機会が与えられ、特徴量及び変更された認識結果が学習用データとして機械学習装置200に提供される。機械学習装置200の損失関数実行部207に入力される学習器205が出力した結果と、変更された認識結果とは異なる可能性が高く、学習に有益な損失が算出されるため、当該損失が学習器205にフィードバックされることによって効率の良い学習が行われる。このように、医療画像処理装置100aは、機械学習装置が効率良く学習することのできる学習用データを提供できる。
【0042】
(第3実施形態)
図5は、本発明に係る第3実施形態の医療画像処理装置100bと機械学習装置200との関係及び構成を示すブロック図である。第3実施形態の医療画像処理装置100bが第1実施形態の医療画像処理装置100と異なる点は、医療画像処理装置100bが信頼度算出部121を備える点である。この点以外は第1実施形態と同様であるため、第1実施形態と同一又は同等の事項は説明を簡略化又は省略する。
【0043】
本実施形態の医療画像処理装置100bが備える信頼度算出部121は、認識処理部103が出力した認識結果の信頼度を算出する。信頼度算出部121は、認識結果が例えば病変らしさのスコアである場合、当該スコアが所定のしきい値の範囲内であれば低い数値の信頼度を算出する。
【0044】
本実施形態の送信部105は、特徴量抽出部101が抽出した特徴量に認識処理部103が出力した認識結果及び信頼度算出部121が算出した信頼度を紐付けて、当該特徴量、並びに、認識結果及び信頼度の少なくとも一方を機械学習装置200の学習用データとして、通信ネットワーク10を介して機械学習装置200に送信する。送信部105は、信頼度が所定値以上であれば、特徴量と認識結果を学習用データとして送信し、信頼度が所定値未満であれば、特徴量と認識結果と信頼度を学習用データとして送信する。
【0045】
医療画像処理装置100bから機械学習装置200に送信された学習用データに信頼度が含まれる場合、機械学習装置200の学習器205は、第1実施形態と同様に特徴量から画像のパターン認識処理を行い、結果を出力する。損失関数実行部207は、学習器205が出力した結果と、信頼度の低い認識結果をパラメータとして損失関数に入力して損失を算出する。当該損失は学習器205にフィードバックされることによって学習に有益に利用される。
【0046】
本実施形態では、学習用データに信頼度が含まれる場合、損失関数実行部207に入力される認識結果の信頼度が低いため、認識結果をそのままパラメータとして入力しても十分に学習の余地がある。すなわち、損失関数実行部207と学習器205は、学習器205の出力スコアが最高値になるように損失を計算し学習し続ける。例えば、「A」、「B」及び「C」の3分類の場合であって正解が「A」の場合は、学習器205は、出力スコアが「(A,B,C)=(1.0,0.0,0.0)」となるように学習を行います。しかし、信頼度が低い場合の損失関数実行部207に入力される認識結果のスコアは例えば「(A,B,C)=(0.5,0.3,0.2)」であり、当該スコアは学習器205の出力スコア「(A,B,C)=(1.0,0.0,0.0)」と比較してギャップがある。このギャップが損失として算出され、当該損失を学習器205にフィードバックすることで学習に有益に利用される。
【0047】
次に、第3実施形態の医療画像処理装置100bの動作について、図6を参照して説明する。図6は、第3実施形態の医療画像処理装置100bが行う処理を示すフローチャートである。
【0048】
図6に示すように、医療画像処理装置100bの特徴量抽出部101は、入力された医療画像のデータから、第1実施形態で説明した第1ネットワークモデルを利用して特徴量を抽出する(ステップS101)。次に、認識処理部103は、ステップS101で得られた特徴量に基づき、第1ネットワークモデルを利用して画像のパターン認識処理を行う(ステップS103)。次に、信頼度算出部121は、ステップS103で得られた認識結果の信頼度を算出する(ステップS121)。
【0049】
次に、送信部105は、ステップS121で得られた信頼度が所定値th未満であれば(ステップS123でYES)は、ステップS101で得られた特徴量にステップS103で得られた認識結果とステップS121で得られた信頼度を紐付けて、当該特徴量、認識結果及び信頼度を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS125)。また、送信部105は、ステップS121で得られた信頼度が所定値th以上であれば(ステップS123でNO)は、ステップS101で得られた特徴量にステップS103で得られた認識結果を紐付けて、当該特徴量及び認識結果を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS127)。
【0050】
このように、本実施形態では、医療画像処理装置100bの認識処理部103が出力した認識結果の信頼度が低い場合には、機械学習装置200に提供される学習用データには信頼度が含まれ、低い信頼度の認識結果であることを前提に損失が算出されるため、機械学習装置200では上記損失が学習器205にフィードバックされることによって効率の良い学習が行われる。このように、医療画像処理装置100bは、機械学習装置が効率良く学習することのできる学習用データを提供できる。
【0051】
(第4実施形態)
図7は、本発明に係る第4実施形態の医療画像処理装置100cと機械学習装置200との関係及び構成を示すブロック図である。第4実施形態の医療画像処理装置100cが第1実施形態の医療画像処理装置100と異なる点は、医療画像処理装置100cが表示部131、操作部133及び認識結果変更部135を備える点である。この点以外は第1実施形態と同様であるため、第1実施形態と同一又は同等の事項は説明を簡略化又は省略する。
【0052】
本実施形態の医療画像処理装置100cが備える表示部131は、認識処理部103が出力した認識結果毎の信頼度を表示する。操作部133は、医療画像処理装置100cのユーザが認識結果変更部135の操作を行うための手段である。操作部133は、具体的には、トラックパッド、タッチパネル、又はマウス等である。
【0053】
認識結果変更部135は、操作部133からの指示内容に応じて、認識処理部103が出力した認識結果を変更する。認識結果の変更とは、認識処理部103が出力した認識結果の修正の他、医療画像処理装置100cの外部装置で作成された認識結果の入力を含む。なお、上記外部装置には、生検の結果から認識結果を確定させる装置も含まれる。医療画像処理装置100cのユーザは、例えば、認識結果に間違いがあれば当該認識結果を変更する。
【0054】
本実施形態の送信部105は、特徴量抽出部101が抽出した特徴量に認識処理部103が出力した認識結果又は認識結果変更部135にて変更された認識結果を紐付けて、当該特徴量及び認識結果又は変更された認識結果を機械学習装置200の学習用データとして、通信ネットワーク10を介して機械学習装置200に送信する。
【0055】
医療画像処理装置100cから機械学習装置200に送信された学習用データに含まれる認識結果が変更されたものである場合、機械学習装置200の損失関数実行部207には、学習器205が出力した結果と、変更された認識結果とが入力される。このため、損失関数実行部207は学習に有益な損失を算出し、当該損失が学習器205にフィードバックされることによって効率の良い学習が行われる。
【0056】
次に、第4実施形態の医療画像処理装置100cの動作について、図8を参照して説明する。図8は、第4実施形態の医療画像処理装置100cが行う処理を示すフローチャートである。
【0057】
図8に示すように、医療画像処理装置100cの特徴量抽出部101は、入力された医療画像のデータから、第1実施形態で説明した第1ネットワークモデルを利用して特徴量を抽出する(ステップS101)。次に、認識処理部103は、ステップS101で得られた特徴量に基づき、第1ネットワークモデルを利用して画像のパターン認識処理を行う(ステップS103)。次に、表示部131は、ステップS103で得られた認識結果を表示する(ステップS131)。
【0058】
次に、送信部105は、ステップS103で得られた認識結果が認識結果変更部135によって変更された場合(ステップS133でYES)は、ステップS101で得られた特徴量に変更された認識結果を紐付けて、当該特徴量及び変更された認識結果を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS135)。また、送信部105は、ステップS103で得られた認識結果が認識結果変更部135によって変更されていない場合(ステップS133でNO)は、ステップS101で得られた特徴量にステップS103で得られた認識結果を紐付けて、当該特徴量及び認識結果を機械学習装置200の学習用データとして機械学習装置200に送信する(ステップS137)。
【0059】
このように、本実施形態では、医療画像処理装置100cの認識処理部103が出力した認識結果を変更する機会が与えられ、特徴量及び変更された認識結果が学習用データとして機械学習装置200に提供される。機械学習装置200の損失関数実行部207に入力される学習器205が出力した結果と、変更された認識結果とは異なる可能性が高く、学習に有益な損失が算出されるため、当該損失が学習器205にフィードバックされることによって効率の良い学習が行われる。このように、医療画像処理装置100cは、機械学習装置が効率良く学習することのできる学習用データを提供できる。
【0060】
以上説明したとおり、本明細書に開示された医療画像処理装置は、
画像に関するデータを用いて学習を行う機械学習装置に提供する学習用データを医療画像から生成する医療画像処理装置であって、
医療画像から特徴量を抽出する特徴量抽出部と、
上記特徴量に基づく画像の認識処理を行う認識処理部と、
上記特徴量及び上記認識処理部が行った認識結果を、上記学習用データとして上記機械学習装置に提供する提供部と、
を備える。
【0061】
また、上記特徴量は匿名化した情報である。
【0062】
また、上記匿名化した特徴量は、医療画像の座標情報を少なくとも一部削った情報である。
【0063】
また、医療画像処理装置は、
上記認識結果から信頼度を算出する信頼度算出部と、
上記認識処理部が行った認識結果を変更する認識結果変更部と、を備え、
上記提供部は、上記信頼度がしきい値未満であれば、上記特徴量、並びに、上記認識結果変更部にて変更された認識結果を上記機械学習装置に提供する。
【0064】
また、医療画像処理装置は、
上記認識結果から信頼度を算出する信頼度算出部を備え、
上記提供部は、上記信頼度がしきい値未満であれば、上記特徴量、並びに、上記認識結果及び上記信頼度の少なくとも一方を上記機械学習装置に提供する。
【0065】
また、医療画像処理装置は、
上記認識処理部が行った認識結果を変更する認識結果変更部を備え、
上記提供部は、上記特徴量、及び上記認識処理部が行った認識結果又は上記認識結果変更部にて変更された認識結果を上記機械学習装置に提供する。
【0066】
また、上記提供部は、画像特性を利用した画像圧縮処理によって上記特徴量をデータ圧縮し、当該データ圧縮した特徴量を上記機械学習装置に提供する。
【0067】
また、上記提供部は、上記データ圧縮した特徴量を上記機械学習装置に送信する。
【0068】
また、上記特徴量抽出部は、ニューラルネットワークを多層に積み重ねた層構造のネットワークモデルを利用して上記特徴量を抽出する。
【0069】
また、上記ニューラルネットワークは、畳み込みニューラルネットワークである。
【0070】
また、本明細書に開示された機械学習装置は、
医療画像処理装置から提供される画像に関するデータを用いて学習を行う機械学習装置であって、
上記医療画像処理装置は、
医療画像から特徴量を抽出する特徴量抽出部と、
上記特徴量に基づく画像の認識処理を行う認識処理部と、
上記特徴量及び上記認識処理部が行った認識結果を、学習用データとして上記機械学習装置に提供する提供部と、を備え、
上記機械学習装置は、上記学習用データを用いて学習を行う。
【符号の説明】
【0071】
100,100a,100b,100c 医療画像処理装置
101 特徴量抽出部
103 認識処理部
105 送信部
111,121 信頼度算出部
113,131 表示部
115,133 操作部
117,135 認識結果変更部
200 機械学習装置
201 受信部
203 記憶部
205 学習器
207 損失関数実行部
10 通信ネットワーク
図1
図2
図3
図4
図5
図6
図7
図8