(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-09
(45)【発行日】2024-04-17
(54)【発明の名称】医用画像処理装置、医用画像処理方法、および画像処理装置
(51)【国際特許分類】
A61B 6/00 20240101AFI20240410BHJP
A61B 6/03 20060101ALI20240410BHJP
A61B 5/055 20060101ALI20240410BHJP
G06T 1/00 20060101ALI20240410BHJP
【FI】
A61B6/00 550Z
A61B6/03 560Z
A61B5/055 380
G06T1/00 290
A61B6/03 560T
A61B6/03 560J
(21)【出願番号】P 2019144552
(22)【出願日】2019-08-06
【審査請求日】2022-06-24
(73)【特許権者】
【識別番号】594164542
【氏名又は名称】キヤノンメディカルシステムズ株式会社
(74)【代理人】
【識別番号】110001380
【氏名又は名称】弁理士法人東京国際特許事務所
(72)【発明者】
【氏名】岩井 春樹
(72)【発明者】
【氏名】小林 由昌
【審査官】永田 浩司
(56)【参考文献】
【文献】国際公開第2018/210978(WO,A1)
【文献】特表2020-521262(JP,A)
【文献】米国特許出願公開第2011/0172514(US,A1)
【文献】特開2017-012445(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 6/00
A61B 5/055
G06T 1/00
(57)【特許請求の範囲】
【請求項1】
所定の線量で取得されるノイズの少ないクリーン画像
を取得することなく、前記クリーン画像よりも
少ない線量で取得され前記クリーン画像よりも多くのノイズを含んだ第1医用画像データを取得する取得部と、
前記第1医用画像データにもとづいて前記第1医用画像データとは異なるノイズであって前記クリーン画像よりも多くのノイズを有する少なくとも1つの第2医用画像データを生成する学習済みモデルに対して前記第1医用画像データを入力することにより、前記少なくとも1つの前記第2医用画像データを生成する処理部と、
を備えた医用画像処理装置。
【請求項2】
前記処理部は、
1つの前記第2医用画像データを生成する前記学習済みモデルを複数用い、当該複数の前記学習済みモデルのそれぞれに対して前記第1医用画像データを入力することにより、前記第1医用画像データとは異なるノイズであって互いに異なるノイズを有する複数の前記第2医用画像データを生成する、
請求項1記載の医用画像処理装置。
【請求項3】
前記処理部は、
同一のトレーニングデータセットにもとづいて、異なる学習パラメータで学習することにより構築された複数の前記学習済みモデルのそれぞれに対して、前記第1医用画像データを入力することにより、前記第1医用画像データとは異なるノイズであって互いに異なるノイズを有する複数の前記第2医用画像データを生成する、
請求項1または2に記載の医用画像処理装置。
【請求項4】
前記処理部は、
前記第1医用画像データにもとづいて前記第1医用画像データとは異なるノイズであって互いに異なるノイズを有する複数の前記第2医用画像データを生成する前記学習済みモデルに対して前記第1医用画像データを入力することにより、前記複数の前記第2医用画像データを生成する、
請求項1ないし3のいずれか1項に記載の医用画像処理装置。
【請求項5】
前記第1医用画像データと前記複数の前記第2医用画像データとから選択された2以上の医用画像データにもとづいて、前記第1医用画像データのノイズを低減した第3医用画像データを生成するノイズ低減部、
をさらに備えた請求項1ないし4のいずれか1項に記載の医用画像処理装置。
【請求項6】
前記ノイズ低減部は、
前記2以上の前記医用画像データを相加平均または加重平均することにより前記第3医用画像データを生成する、
請求項5記載の医用画像処理装置。
【請求項7】
前記ノイズ低減部は、
所定の空間周波数以下のデータについては前記第1医用画像データに前記第2医用画像データよりも高い重みを付すととともに、前記所定の空間周波数より高いデータについては前記第1医用画像データよりも前記第2医用画像データに高い重みを付して加重平均することにより前記第3医用画像データを生成する、
請求項6記載の医用画像処理装置。
【請求項8】
所定の線量で取得されるノイズの少ないクリーン画像を取得することなく、撮影条件と、撮影時の被検体と撮像系との幾何学条件と、が同一である、
前記クリーン画像よりも
少ない線量で取得され前記クリーン画像よりも多くのノイズを含んだ複数の医用画像データを収集する収集部と、
前記複数の医用画像データから2つのデータの組を複数抽出する抽出部と、
第1医用画像データにもとづいて前記第1医用画像データとは異なるノイズを有する少なくとも1つの第2医用画像データを生成する学習済みモデルに使用するためのトレーニングデータセットとして、前記抽出部により抽出された複数の組を出力する出力部と、
を備えた医用画像処理装置。
【請求項9】
前記出力部は、
前記抽出部により抽出された複数の組のそれぞれを、複数の組よりも少ない数だけ用意された複数の前記学習済みモデルのそれぞれに使用するためのトレーニングデータセットとして、前記複数の前記学習済みモデルのそれぞれに関連付けて出力する、
請求項8記載の医用画像処理装置。
【請求項10】
所定の線量で取得されるノイズの少ないクリーン画像
を取得することなく、前記クリーン画像よりも
少ない線量で取得され前記クリーン画像よりも多くのノイズを含んだ第1医用画像データを取得するステップと、
前記第1医用画像データにもとづいて前記第1医用画像データとは異なるノイズであって前記クリーン画像よりも多くのノイズを有する少なくとも1つの第2医用画像データを生成する学習済みモデルに対して前記第1医用画像データを入力することにより、前記少なくとも1つの前記第2医用画像データを生成するステップと、
を有する医用画像処理方法。
【請求項11】
所定の線量で取得されるノイズの少ないクリーン画像を取得することなく、撮影条件と、撮影時の被検体と撮像系との幾何学条件と、が同一である、
前記クリーン画像よりも
少ない線量で取得され前記クリーン画像よりも多くのノイズを含んだ複数の医用画像データを収集するステップと、
前記複数の医用画像データから2つのデータの組を複数抽出するステップと、
第1医用画像データにもとづいて前記第1医用画像データとは異なるノイズを有する少なくとも1つの第2医用画像データを生成する学習済みモデルに使用するためのトレーニングデータセットとして、抽出された複数の組を出力するステップと、
を有する医用画像処理方法。
【請求項12】
第1画像データを取得する取得部と、
所定の線量で取得されるノイズの少ないクリーン画像
を取得することなく、前記クリーン画像よりも
少ない線量で取得され前記クリーン画像よりも多くのノイズを含んだ前記第1画像データにもとづいて前記第1画像データとは異なるノイズであって前記クリーン画像よりも多くのノイズを有する少なくとも1つの第2画像データを生成する学習済みモデルに対して前記第1画像データを入力することにより、前記少なくとも1つの前記第2画像データを生成する処理部と、
を備えた画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、医用画像処理装置、医用画像処理方法、および画像処理装置に関する。
【背景技術】
【0002】
最近、機械学習を利用して画像データが有するノイズを低減する技術が開発されている。たとえば、機械学習として多層のニューラルネットワークを用いた深層学習を用いる場合、一般に、ノイズ画像を学習用データ、ノイズの少ないクリーン画像を教師データとして学習が行われる。
【0003】
しかし、この場合、ノイズの少ないクリーン画像を多数用意することが難しく、トレーニングデータセットを収集することが非常に困難である。たとえば、ノイズ低減処理の対象となる画像データがX線画像データである場合、ノイズの少ないクリーン画像を得るためには被検体に非常に大きな線量の被ばくを強いることになってしまう。
【0004】
一方、被検体の被ばく線量を低減すると、教師データとして用いる画像が少なからずノイズを含んでしまうことになる。この場合、学習済みモデルを用いてノイズ低減処理を行っても、低減した被ばく線量なりのノイズを含む画像が生成されてしまう。
【先行技術文献】
【特許文献】
【0005】
【非特許文献】
【0006】
【文献】クリストファー M. ビショップ(Christopher M. Bishop)著、「パターン認識と機械学習(Pattern recognition and machine learning)」、(米国)、第1版、スプリンガー(Springer)、2006年、P.225-290
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明が解決しようとする課題は、ノイズの少ないクリーン画像を用いることなく学習済みモデルを用いて画像データのノイズを低減することである。また、本発明が解決しようとする課題は、当該学習済みモデルに使用するためのトレーニングデータセットとして同一条件で撮影され且つ異なるノイズパターンの画像を容易に収集することである。
【課題を解決するための手段】
【0008】
実施形態に係る医用画像処理装置は、取得部と、処理部とを備える。取得部は、第1医用画像データを取得する。処理部は、第1医用画像データにもとづいて第1医用画像データとは異なるノイズを有する少なくとも1つの第2医用画像データを生成する学習済みモデルに対して第1医用画像データを入力することにより、少なくとも1つの第2医用画像データを生成する。
【図面の簡単な説明】
【0009】
【
図1】第1実施形態に係る医用画像処理装置の一構成例を示すブロック図。
【
図2】同一条件で撮影され且つ異なるノイズパターンの複数の画像データの一例を示す説明図。
【
図3】
図2に示す同一画像群から多数のトレーニングデータセットを設定する方法の一例を示す説明図。
【
図4】同一条件で撮影され且つ異なるノイズパターンの複数の画像データの他の例を示す説明図。
【
図5】
図3に示す複数の同一画像から多数のトレーニングデータセットを設定する方法の一例を示す説明図。
【
図6】
図1に示す医用画像処理装置の処理回路のプロセッサによりトレーニングデータ収集処理を実行する際の手順の一例を示すフローチャート。
【
図7】リノイズ機能の学習時におけるデータフローの一例を示す説明図。
【
図8】リノイズ機能の運用時におけるデータフローの一例を示す説明図。
【
図9】複数のリノイズ医用画像データを生成する方法の一例を示す説明図。
【
図10】ノイズ低減処理の一例を説明するための図。
【
図11】複数のリノイズ医用画像データを生成する方法の他の例を示す説明図。
【
図12】複数のリノイズ医用画像データを生成する方法のさらに他の例を示す説明図。
【
図13】
図1に示す医用画像処理装置の処理回路のプロセッサによりリノイズ処理を含むノイズ低減処理を実行する際の手順の一例を示すフローチャート。
【
図14】第2の実施形態に係る医用画像処理装置または画像処理装置を含むX線診断装置の一構成例を示すブロック図。
【発明を実施するための形態】
【0010】
以下、図面を参照しながら、医用画像処理装置、医用画像処理方法、および画像処理装置の実施形態について詳細に説明する。
【0011】
一実施形態に係る医用画像処理装置および画像処理装置は、ノイズの少ないクリーン画像を用いることなく学習済みモデルを用いて画像データのノイズを低減するものである。ノイズの低減処理対象となる画像データは、光学カメラにより取得されたものでもよいし、医用画像診断装置により取得された医用画像データであってもよい。医用画像診断装置としてはX線診断装置、X線CT(Computed Tomography)装置、磁気共鳴イメージング(MRI:Magnetic Resonance Imaging)装置など種々の装置を用いることができる。
【0012】
以下、X線診断装置が生成するX線画像データのノイズ低減処理の一例について説明する。
【0013】
(第1の実施形態)
図1は、第1実施形態に係る医用画像処理装置10の一構成例を示すブロック図である。医用画像処理装置10は、X線診断装置101、画像サーバ102、X線CT装置103、MRI装置104とネットワーク100を介して接続される。
【0014】
医用画像処理装置10は、入力インターフェース11、ディスプレイ12、記憶回路13、ネットワーク接続回路14、および処理回路15を有する。
【0015】
入力インターフェース11は、たとえばトラックボール、スイッチボタン、マウス、キーボード、テンキーなどの一般的な入力装置により構成され、ユーザの操作に対応した操作入力信号を処理回路15に出力する。ディスプレイ12は、たとえば液晶ディスプレイやOLED(Organic Light Emitting Diode)ディスプレイなどの一般的な表示出力装置により構成される。
【0016】
記憶回路13は、たとえば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等の、プロセッサにより読み取り可能な記録媒体を含んだ構成を有し、処理回路15が利用するプログラムやパラメータデータやその他のデータを記憶する。なお、記憶回路13の記録媒体内のプログラムおよびデータの一部または全部は、ネットワーク100を介した通信によりダウンロードされてもよいし、光ディスクなどの可搬型記憶媒体を介して記憶回路13に与えられてもよい。
【0017】
また、記憶回路13は、ネットワーク100を介して取得した被検体の医用画像に関するデータを記憶してもよい。
【0018】
ネットワーク接続回路14は、ネットワーク100の形態に応じた種々の情報通信用プロトコルを実装する。ネットワーク接続回路14は、この各種プロトコルに従ってネットワーク100を介して他の電気機器と接続する。ネットワーク100は、電気通信技術を利用した情報通信網全般を意味し、病院基幹LAN(Local Area Network)などの無線/有線LANやインターネット網のほか、電話通信回線網、光ファイバ通信ネットワーク、ケーブル通信ネットワークおよび衛星通信ネットワークなどを含む。
【0019】
医用画像処理装置10は、X線診断装置101および画像サーバ102とネットワーク100を介して互いにデータ送受信可能に接続される。また、医用画像処理装置10は、ネットワーク100を介してX線CT装置103、MRI装置104と互いにデータ送受信可能に接続されてもよい。
【0020】
処理回路15は、医用画像処理装置10を統括制御する機能を実現する。また、処理回路15は、記憶回路13に記憶されたトレーニングデータ収集プログラムを読み出して実行することにより、画像データのノイズを低減する学習済みモデルに使用するためのトレーニングデータセットとして、同一条件で撮影され且つ異なるノイズパターンの画像を容易に収集するための処理(トレーニングデータ収集処理)を実行するプロセッサである。また、処理回路15は、記憶回路13に記憶されたノイズ低減プログラムを読み出して実行することにより、ノイズの少ないクリーン画像を用いることなく学習済みモデルを用いて画像データのノイズを低減するための処理(ノイズ低減処理(デノイズ処理))を実行するプロセッサである。
【0021】
図1に示すように、処理回路15のプロセッサは、収集機能21、抽出機能22、および出力機能23を実現する。また、処理回路15のプロセッサは、取得機能24、リノイズ機能25、およびノイズ低減機能26を実現する。これらの各機能は、それぞれプログラムの形態で記憶回路13に記憶されている。
【0022】
収集機能21は、撮影条件と、撮影時の被検体と撮像系との幾何学条件と、が同一である複数の画像データを収集する。
【0023】
抽出機能22は、複数の医用画像データから2つのデータの組を複数抽出する。
【0024】
出力機能23は、第1医用画像データにもとづいて第1医用画像データとは異なるノイズを有する少なくとも1つの第2医用画像データを生成する学習済みモデルに使用するためのトレーニングデータセットとして、抽出機能22により抽出された複数の組を、取得機能24に、および/または図示しない外部の医用画像処理装置に、出力する。
【0025】
収集機能21、抽出機能22、および出力機能23により、トレーニングデータ収集処理が実行される。
【0026】
取得機能24は、ノイズ低減処理の対象となる医用画像データ(第1医用画像データ)を取得する。
【0027】
リノイズ機能25は、第1医用画像データにもとづいて第1医用画像データとは異なるノイズを有する少なくとも1つのリノイズ医用画像データ(第2医用画像データ)を生成する学習済みモデルに対して第1医用画像データを入力することにより、少なくとも1つの第2医用画像データを生成する。学習済みモデルを構築するための機械学習としては、CNN(畳み込みニューラルネットワーク)や畳み込み深層信念ネットワーク(CDBN:Convolutional Deep Belief Network)などの、多層のニューラルネットワークを用いた深層学習を用いることができる。
【0028】
ノイズ低減機能26は、第1医用画像データと複数の第2医用画像データとから選択された2以上の医用画像データにもとづいて、第1医用画像データのノイズを低減した医用画像データ(第3医用画像データ)を生成する。
【0029】
取得機能24、リノイズ機能25、およびノイズ低減機能26により、ノイズ低減処理(デノイズ処理)が実行される。また、リノイズ機能25は、第1医用画像データにもとづいて、第1医用画像データとは異なるノイズを有する少なくとも1つの第2医用画像データを生成する。リノイズ機能25により、第1医用画像データにもとづいて、第1医用画像データが有するノイズを他のノイズパターンに振り直した画像データを生成することができる。なお、第1医用画像データと1または複数の第2医用画像データとは、ノイズパターンが異なればよく、第1医用画像データよりも第2医用画像データのほうが大きいノイズを有していてもよい。
【0030】
ここで、トレーニングデータ収集処理について説明する。
図2は、同一条件で撮影され且つ異なるノイズパターンの複数の画像データImの一例を示す説明図である。
【0031】
ここで、同一条件とは、撮影条件と、撮影時の被検体と撮像系との幾何学条件と、が同一であることをいうものとする。X線診断装置101によって撮影されたX線画像データを扱う場合は、同一条件とは、X線条件と、撮影時の被検体と撮像系との幾何学条件と、が同一であることをいう。上述の通り、以下の説明ではX線診断装置101によって撮影されたX線画像データを扱う場合の例を示す。
【0032】
なお、X線CT装置103によって撮影された医用画像データを扱う場合、画像データImは投影データであってもよいし、サイノグラムデータであってもよい。MRI装置104によって撮影された医用画像データを扱う場合は、画像データImはk空間データを含む。
【0033】
収集機能21は、X線診断装置101から、または画像サーバ102から、X線画像データImを取得し、同一条件に属する画像データ群(以下、同一画像群という)を特定する。
【0034】
図2には時刻t=t1、t2、t3、・・・、t6で撮影されたX線画像データIm1、Im2、Im3、・・・、t6が同一条件Aに属し、時刻t=t7、t8、t9で撮影されたX線画像データIm7、Im8、Im9が同一条件Bに属する場合の例を示した。
【0035】
収集機能21は、X線画像データImの付帯情報にもとづいて、またはX線診断装置101から直接取得した情報にもとづいて、X線条件および幾何学的条件を取得する。
【0036】
幾何学的条件の同一性判定方法としては、相関係数を用いる方法など従来各種のものが知られており、収集機能21はこれらのうち任意のものを使用することが可能である。また、
図2に示すように同一画像群を特定する場合は、たとえばt=t1の画像データを基準画像データとし、この基準画像データと他の基準画像データとを比較するとよい(比較基準固定)。
【0037】
また、収集機能21による同一性判定は、X線画像データの収集ごとにリアルタイムで行われてもよいし、ポストプロセスで行われてもよい。
【0038】
図3は、
図2に示す同一画像群から多数のトレーニングデータセットを設定する方法の一例を示す説明図である。
【0039】
同一画像群からトレーニングデータセットを設定する場合、抽出機能22は複数のX線画像データから2つの画像データの組を複数抽出する。
図3には、同一画像群に属する複数のX線画像データから2つのX線画像データの組を順列(Permutation)で抽出する場合の例を示した。
【0040】
出力機能23は、各組の2つのX線画像データの一方を学習用データ群31を構成する学習用データ311、312、313、・・・とし、他方を教師データ群41を構成する教師データ411、412、413、・・・に設定する。また、出力機能23は、複数の組のそれぞれを、複数の組よりも少ない数(
図3では3つ)だけ用意された複数の学習済みモデルのそれぞれに使用するためのトレーニングデータセットとして、複数の学習済みモデルのそれぞれに例えばタグによって関連付けて出力する。タグは1つであってもよい。
図3には、この関連付けの方法として、3つの学習済みモデルのそれぞれに対応するタグ1、2、3を各組に関連付けて出力する場合の例を示した。
【0041】
図2、
図3には、比較基準固定で同一条件に属する同一画像群を特定してからトレーニングデータセットを設定する場合の例を示したが、同一条件に属する2つの画像データ(同一画像)は逐次的に特定されてもよい。
【0042】
図4は、同一条件で撮影され且つ異なるノイズパターンの複数の画像データImの他の例を示す説明図である。また、
図5は、
図3に示す複数の同一画像から多数のトレーニングデータセットを設定する方法の一例を示す説明図である。
【0043】
図4に示すように、逐次的に同一画像を特定する場合は、収集機能21は、たとえば今回の画像データを直前の画像データと比較して同一条件であれば同一画像と特定するとよい。また、逐次的に同一画像を特定した場合は、抽出機能22は、各同一画像を構成する2つのX線画像データから順列で2組を抽出する。たとえばIm1とIm2の同一画像からは、抽出機能22は(Im1、Im2)と(Im2、Im1)の2組を抽出する。
【0044】
出力機能23は、
図2、
図3を用いて上述した例と同様に、各組の2つのX線画像データの一方を学習用データ群31を構成する学習用データ311、312、313、・・・とし、他方を教師データ群41を構成する教師データ411、412、413、・・・に設定する(
図5参照)。また、出力機能23は、複数の組のそれぞれを、複数の組よりも少ない数(
図5では3つ)だけ用意された複数の学習済みモデルのそれぞれに使用するためのトレーニングデータセットとして、複数の学習済みモデルのそれぞれに例えばタグ付けして関連付けて出力する。タグ付けは、ランダムに行われてもよい。
【0045】
図6は、
図1に示す医用画像処理装置10の処理回路15のプロセッサによりトレーニングデータ収集処理を実行する際の手順の一例を示すフローチャートである。
図6において、Sに数字を付した符号はフローチャートの各ステップを示す。
【0046】
まず、ステップS1において、収集機能21は、X線診断装置101から、または画像サーバ102から、X線画像データImを取得し、同一条件に属する同一画像群(
図2参照)または同一画像(
図5参照)を特定する。
【0047】
次に、ステップS2において、抽出機能22は、同一画像群から2つの画像データの組を複数抽出する。
【0048】
なお、ステップS1において収集機能21が逐次的に複数の同一画像を収集した場合は(
図5参照)、各同一画像を構成する2つのX線画像データから順列で2組を抽出する。たとえばIm1とIm2の同一画像からは、抽出機能22は(Im1、Im2)と(Im2、Im1)の2組を抽出する。また、ステップS1において収集機能21が逐次的に複数の同一画像を収集した場合であって、同一条件の同一画像が2組以上収集された場合は、ステップS2において抽出機能22は、これらの同一画像に属するX線画像データ(
図5に示す例では同一条件BのIm3、Im4、Im5)から順列で2つの画像データの組を複数抽出してもよい。
【0049】
次に、ステップS3において、出力機能23は、各組の2つのX線画像データの一方を学習用データ群31を構成する学習用データ311、312、313、・・・とし、他方を教師データ群41を構成する教師データ411、412、413、・・・に設定する(
図5参照)。
【0050】
そして、ステップS4において、出力機能23は、複数の組のそれぞれを、複数の組よりも少ない数(
図5では3つ)だけ用意された複数の学習済みモデルのそれぞれに使用するためのトレーニングデータセットとして、複数の学習済みモデルのそれぞれに対応するタグを各組に関連付けて出力する。
【0051】
以上の手順により、画像データのノイズを低減する学習済みモデルに使用するためのトレーニングデータセットとして、同一条件で撮影され且つ異なるノイズパターンの画像を容易に収集することができる。
【0052】
図2-6を用いて説明したトレーニングデータ収集処理は、同一条件に属する2つの画像データにより構成されるトレーニングデータセットを容易に多数収集することができる。このとき、トレーニングデータセットを構成する2つの画像データは、互いに撮影された時間が異なるため、検出器の量子ノイズ、回路ノイズ、散乱線による影響などのノイズパターンが異なる一方、いずれもノイズを含んだ画像データである。
【0053】
このように用意されてタグ付けされたトレーニングデータセットは、タグごとに異なる学習済みモデルの学習に利用される。この結果、各学習済みモデル(上記例では3つの学習済みモデル)は、それぞれ、画像データを入力されると、入力された画像データとあたかも同一条件で撮影され、且つ入力された画像データのノイズを他のノイズパターンに振り直した画像データを生成することができる。
【0054】
なお、ノイズパターンが異なるとは、たとえばノイズ生成アルゴリズムを用いてノイズを生成する際に、アルゴリズムで用いられる疑似乱数生成におけるシードが異なる場合などに対応する。
【0055】
続いて、リノイズ処理を含むノイズ低減処理(デノイズ処理)について説明する。以下の説明では、
図2-6に示す例のように、出力機能23が複数のトレーニングデータセットのそれぞれにタグ1、2、3をランダムに関連付けて出力する場合について説明する。
【0056】
図7は、リノイズ機能25の学習時におけるデータフローの一例を示す説明図である。リノイズ機能25は、出力機能23により出力されたトレーニングデータセットを用いて、出力機能23によりトレーニングデータセットに付されたタグの種類だけモデルの学習を行う。
図7には、タグ1に対応する学習済みモデル501の構築のための学習時におけるデータフローの一例を示した。他のタグ2、3に対応する学習済みモデル502、503の学習方法は学習済みモデル501と同様であるため説明を省略する。
【0057】
リノイズ機能25は、タグ1が付されたトレーニングデータセットを多数用いて深層学習を行うことにより、パラメータデータ521を逐次的に更新する。
【0058】
トレーニングデータセットは、上述の通り、学習用データ群31を構成する学習用データとしてのX線画像データ311、312、313・・・、と、各学習用データに対応する教師データ群41を構成し各学習用データに対応する教師データとしてのX線画像データ411、412、413、・・・、により構成される。トレーニングデータセットを構成する学習用データ(たとえばX線画像データ311)と教師データ(たとえばX線画像データ411)とは、同一条件で撮影された画像データである。
【0059】
リノイズ機能25は、トレーニングデータセットが与えられるごとに、学習用データをニューラルネットワーク511で処理した結果が教師データに近づくようにパラメータデータ521を更新していく、いわゆる学習を行う。一般に、パラメータデータ521の変化割合が閾値以内に収束すると、学習は終了と判断される。以下、学習後のパラメータデータ521を特に学習済みパラメータデータ521tという。なお、学習用データの種類と
図8に示す運用時の入力データの種類は一致させるべきことに注意する。たとえば、学習用データの画像データが投影データであれば運用時の入力画像データも投影データとする。
【0060】
図8は、リノイズ機能25の運用時におけるデータフローの一例を示す説明図である。運用時には、リノイズ機能25は、ノイズ低減処理の対象となる医用画像データ61を入力され、学習済みモデル501を用いて、入力医用画像データ61とは異なるノイズを有する医用画像データ(以下、リノイズ画像データという)711を生成する。
【0061】
なお、ニューラルネットワーク511と学習済みパラメータデータ521tは、学習済みモデル501を構成する。この種の学習の方法および学習済みモデルの構築方法については、非特許文献1に開示された方法など種々の方法が知られている。ニューラルネットワーク511は、プログラムの形態で記憶回路13に記憶される。学習済みパラメータデータ521tは、記憶回路13に記憶されてもよいし、ネットワーク100を介して処理回路15と接続された記憶媒体に記憶されてもよい。学習済みモデル501(ニューラルネットワーク511と学習済みパラメータデータ521t)が記憶回路13に記憶される場合、処理回路15のプロセッサにより実現されるリノイズ機能25は、記憶回路13から学習済みモデル501を読み出して実行することで、入力医用画像データ61にもとづいて、入力医用画像データ61とは異なるノイズを有するリノイズ医用画像データ711を生成する。
【0062】
また、タグ2、3に対応する学習済みモデル502、503も、学習済みモデル501と同様に生成される。
【0063】
なお、学習済みモデル501、502、503は、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などの集積回路によって構築されてもよい。
【0064】
図9は、複数のリノイズ医用画像データを生成する方法の一例を示す説明図である。上記例のように3つのタグに分類されたトレーニングデータセットが利用可能な場合、学習済みモデルも3つ生成される。各学習済みモデル501、502、503は、同一の入力医用画像データ61にもとづいて、入力医用画像データ61とは異なるノイズであって互いに異なるノイズパターンを有するリノイズ医用画像データ711、712、713をそれぞれ生成する。
【0065】
図10は、ノイズ低減処理の一例を説明するための図である。
【0066】
ノイズ低減機能26は、入力医用画像データ61と複数のリノイズ医用画像データ711、712、713とから選択された2以上の医用画像データにもとづいて、入力医用画像データのノイズを低減した(デノイズされた)医用画像データ(以下、ノイズ低減医用画像データという)61dnを生成する。
【0067】
具体的には、ノイズ低減機能26は、入力医用画像データ61と複数のリノイズ医用画像データ711、712、713とから選択された2以上の医用画像データを相加平均または加重平均することにより、ノイズ低減医用画像データ61dnを生成することができる。このとき、原画像である入力医用画像データ61を用いることで、ノイズ低減医用画像データ61dnのノイズをより低減することができる。
【0068】
また、ノイズ低減機能26は、第1の閾値空間周波数以下のデータについては入力医用画像データ61にリノイズ医用画像データ711、712、713よりも高い重みを付すととともに、第1の閾値空間周波数より高いデータまたは所定の空間周波数よりも高い第2の閾値空間周波数より高いデータについては入力医用画像データ61よりもリノイズ医用画像データ711、712、713に高い重みを付して加重平均してブレンドすることによりノイズ低減医用画像データ61dnを生成してもよい。
【0069】
図11は、複数のリノイズ医用画像データを生成する方法の他の例を示す説明図である。たとえば、同一条件に属する4つの医用画像データを1つのトレーニングデータセットとし、4つのうち1つを学習用データ、3つを教師データとすることで、1の入力画像データから3つのリノイズ医用画像データを出力する学習済みモデル501Aを構築することができる(
図11参照)。
【0070】
この場合も、
図9に示す例と同様、ノイズ低減機能26は、入力医用画像データ61と複数のリノイズ医用画像データ711、712、713とから選択された2以上の医用画像データにもとづいて、ノイズ低減医用画像データという61dnを生成することができる。
【0071】
図12は、複数のリノイズ医用画像データを生成する方法のさらに他の例を示す説明図である。
【0072】
図8および
図9には、学習時において学習パラメータを固定し、異なるタグ付けがされた異なるトレーニングデータセットによって学習を行う場合の例を示したが、学習時に学習パラメータを変更することでも、同一のトレーニングデータセットから複数の学習済みモデルを生成することができる。この種の学習パラメータとしては、学習レート、ドロップオフの場所、活性化関数などが挙げられる。また、
図12に示すように、過学習とならない範囲で、たとえば所定の精度以上となる複数のエポック数で学習済みモデルを構築することによっても、互いに異なるノイズパターンを有する複数のリノイズ医用画像データを生成可能な複数の学習済みモデルを得ることができる。
【0073】
なお、
図8および
図9を用いて説明した方法で構築した学習済みモデルと、
図11を用いて説明した方法で構築した学習済みモデルと、
図12を用いて説明した方法で構築した学習済みモデルとは、適宜組合せて用いてもよい。
【0074】
図13は、
図1に示す医用画像処理装置10の処理回路15のプロセッサによりリノイズ処理を含むノイズ低減処理を実行する際の手順の一例を示すフローチャートである。
図13において、Sに数字を付した符号はフローチャートの各ステップを示す。
【0075】
まず、ステップS11において、取得機能24はノイズ低減処理の対象となる入力医用画像データ61を取得する。
【0076】
次に、ステップS12において、リノイズ機能25は、学習済みモデルを用いて入力医用画像データ61とは異なるノイズ且つ互いに異なるノイズを有する複数のリノイズ医用画像データ711、712、713を生成する。このとき、リノイズ機能25は、複数の学習済みモデル501、502、503を用いてもよいし(
図9、
図12参照)、複数のリノイズ医用画像データを出力する学習済みモデル501Aを用いてもよい(
図11参照)。
【0077】
そして、ステップS13において、ノイズ低減機能26は、入力医用画像データ61と複数のリノイズ医用画像データ711、712、713とにもとづいて、ノイズ低減医用画像データ61dnを生成する。
【0078】
以上の手順により、ノイズの少ないクリーン画像を用いることなく学習済みモデルを用いて画像データのノイズを低減することができる。
【0079】
図7-13を用いて説明したノイズ低減処理は、学習済みモデルを用い、入力医用画像データ61にもとづいて、入力医用画像データ61とは異なるノイズ且つ互いに異なるノイズを有する複数のリノイズ医用画像データを生成する。そして、入力医用画像データ61と複数のリノイズ医用画像データとにもとづいてノイズ低減医用画像データ61dnを生成することができる。このため、ノイズの少ないクリーン画像を用いることなく、学習済みモデルを用いて画像データのノイズを低減することができる。したがって、たとえば、ノイズ低減処理の対象となる画像データがX線画像データであっても、ノイズの少ないクリーン画像を得るために被検体に非常に大きな線量の被ばくを強いることによる弊害を未然に防ぐことができる。
【0080】
(第2の実施形態)
図14は、第2の実施形態に係る医用画像処理装置または画像処理装置を含むX線診断装置80の一構成例を示すブロック図である。
【0081】
X線診断装置80は、被検体に対するX線撮影を行う撮影装置81と、医用画像処理装置10の一例としてのコンソール装置82とを備える。この第2実施形態に示すX線診断装置80は、自機で生成したX線画像データをノイズ低減処理の対象となる入力医用画像データ61として利用可能な点で第1実施形態に示す医用画像処理装置10と異なる。他の構成および作用については
図1に示す医用画像処理装置10と実質的に異ならないため、同じ構成には同一符号を付して説明を省略する。また、学習済みモデル501、502、503、あるいは501Aの生成に係る処理については
図1に示す医用画像処理装置10と同様であるため、学習時の説明は省略する。
【0082】
撮影装置81は、たとえばX線TV装置の撮影系により構成され、天板に載置された被検体をX線撮影するためのX線管、X線検出器等の撮像系を有し、撮影により得た被検体のX線画像データをコンソール装置82に与える。
【0083】
医用画像処理装置10の一例としてのコンソール装置82の処理回路15xの収集機能21xは、トレーニングデータ収集処理において、撮影装置81により取得された複数のX線画像データから、同一条件に属する画像データ群(以下、同一画像群という)を特定する。
【0084】
処理回路15xの取得機能24xは、ノイズ低減処理において、撮影装置81により取得された入力医用画像データ61を取得する。
【0085】
第2実施形態に係るX線診断装置80によっても、第1実施形態に係る医用画像処理装置10と同様に、画像データのノイズを低減する学習済みモデルに使用するためのトレーニングデータセットとして、同一条件で撮影され且つ異なるノイズパターンの画像を容易に収集することができる。また、ノイズの少ないクリーン画像を用いることなく学習済みモデルを用いて画像データのノイズを低減することができる。
【0086】
なお、上記説明では同一条件Aおよび同一条件Bの画像データを利用して学習済みモデルを構築する場合の例を示したが、1種の条件のみを用い、さらに同一部位の画像など条件を狭めて、狭めた条件専用の学習済みモデルを構築してもよい。この場合は、入力医用画像データ61としては、学習済みモデルと同じ狭めた条件で取得されたものを用いる。
【0087】
以上説明した少なくとも1つの実施形態によれば、ノイズの少ないクリーン画像を用いることなく学習済みモデルを用いて画像データのノイズを低減することができる。また、当該学習済みモデルに使用するためのトレーニングデータセットとして同一条件で撮影され且つ異なるノイズパターンの画像を容易に収集することができる。
【0088】
なお、上記実施形態において、「プロセッサ」という文言は、たとえば、専用または汎用のCPU(Central Processing Unit)、GPU(Graphics Processing Unit)、または、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(たとえば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、およびFPGA)等の回路を意味するものとする。プロセッサは、記憶媒体に保存されたプログラムを読み出して実行することにより、各種機能を実現する。
【0089】
また、上記実施形態では処理回路の単一のプロセッサが各機能を実現する場合の例について示したが、複数の独立したプロセッサを組み合わせて処理回路を構成し、各プロセッサが各機能を実現してもよい。また、プロセッサが複数設けられる場合、プログラムを記憶する記憶媒体は、プロセッサごとに個別に設けられてもよいし、1つの記憶媒体が全てのプロセッサの機能に対応するプログラムを一括して記憶してもよい。
【0090】
なお、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0091】
10 医用画像処理装置(画像処理装置)
21、21x 収集機能
22 抽出機能
23 出力機能
24、24x 取得機能
25 リノイズ機能
26 ノイズ低減機能
61 入力医用画像データ
61dn ノイズ低減医用画像データ
501、502、503、501A 学習済みモデル