(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024157161
(43)【公開日】2024-11-07
(54)【発明の名称】画像処理装置および画像処理方法
(51)【国際特許分類】
G06T 7/00 20170101AFI20241030BHJP
A61B 6/03 20060101ALI20241030BHJP
G01T 1/161 20060101ALI20241030BHJP
G06T 1/00 20060101ALI20241030BHJP
【FI】
G06T7/00 350C
A61B6/03 350U
A61B6/03 360T
G01T1/161 C
G06T1/00 290B
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023071328
(22)【出願日】2023-04-25
(71)【出願人】
【識別番号】000236436
【氏名又は名称】浜松ホトニクス株式会社
(74)【代理人】
【識別番号】100088155
【弁理士】
【氏名又は名称】長谷川 芳樹
(74)【代理人】
【識別番号】100113435
【弁理士】
【氏名又は名称】黒木 義樹
(74)【代理人】
【識別番号】100140442
【弁理士】
【氏名又は名称】柴山 健一
(74)【代理人】
【識別番号】100110582
【弁理士】
【氏名又は名称】柴田 昌聰
(72)【発明者】
【氏名】大手 希望
(72)【発明者】
【氏名】橋本 二三生
(72)【発明者】
【氏名】大西 佑弥
【テーマコード(参考)】
4C093
4C188
5B057
5L096
【Fターム(参考)】
4C093AA22
4C093AA26
4C093CA32
4C093FD03
4C093FE01
4C188EE02
4C188FF04
4C188FF07
4C188KK33
5B057AA09
5B057DA17
5L096BA06
5L096DA01
5L096HA11
5L096KA04
(57)【要約】
【課題】CNNの学習に必要なデータの量の増加を抑制しCNNによる断層画像の作成の性能を向上させることができる画像処理装置を提供する。
【解決手段】画像処理装置は、断層撮影装置による測定によって取得された被検体の測定データに基づいて、実空間とは異なる測定空間上の測定画像を作成し、この測定画像をCNNに入力させて、このCNNにより実空間上の断層画像を作成する。CNNは、エンコーダ部21、デコーダ部22およびボトルネック部23を含むU-net構造を基本とするものであり、更に投影結合部24を含む。投影結合部24は、エンコーダ部21における何れかの特徴マップに対しサイノグラム空間(測定空間)から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部22における同一サイズの特徴マップに結合させる。
【選択図】
図2
【特許請求の範囲】
【請求項1】
断層撮影装置による測定によって取得された被検体の測定データに基づいて、前記被検体の実空間上の断層画像を作成する画像処理装置であって、
前記測定データに基づいて、実空間とは異なる測定空間上の測定画像を作成する測定画像作成部と、
畳み込みニューラルネットワークに前記測定画像を入力させて前記畳み込みニューラルネットワークにより前記断層画像を作成するCNN処理部と、
を備え、
前記畳み込みニューラルネットワークは、
前記測定画像を入力して、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に縮小していくエンコーダ部と、
前記エンコーダ部の後段に設けられ、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に拡大していくデコーダ部と、
前記エンコーダ部における何れかの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップを前記デコーダ部における同一サイズの特徴マップに結合させる投影結合部と、
を含む、
画像処理装置。
【請求項2】
複数の被検体それぞれの測定画像および断層画像を用いて前記畳み込みニューラルネットワークを学習させるCNN学習部を更に備える、
請求項1に記載の画像処理装置。
【請求項3】
前記CNN処理部は、前記エンコーダ部に入力される測定画像に対し測定空間から実空間への投影処理を施して、その投影処理後の画像を前記デコーダ部からの出力画像に加算させる、
請求項1に記載の画像処理装置。
【請求項4】
前記投影結合部は、前記エンコーダ部における最大サイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップを前記デコーダ部における同一サイズの特徴マップに結合させる、
請求項1に記載の画像処理装置。
【請求項5】
前記投影結合部は、前記エンコーダ部における全てのサイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップを前記デコーダ部における同一サイズの特徴マップに結合させる、
請求項1に記載の画像処理装置。
【請求項6】
被検体の断層画像を作成する為の測定データを取得する断層撮影装置と、
前記測定データに基づいて前記断層画像を作成する請求項1~5の何れか1項に記載の画像処理装置と、
を備える断層撮影システム。
【請求項7】
断層撮影装置による測定によって取得された被検体の測定データに基づいて、前記被検体の実空間上の断層画像を作成する画像処理方法であって、
前記測定データに基づいて、実空間とは異なる測定空間上の測定画像を作成する測定画像作成ステップと、
畳み込みニューラルネットワークに前記測定画像を入力させて前記畳み込みニューラルネットワークにより前記断層画像を作成するCNN処理ステップと、
を備え、
前記畳み込みニューラルネットワークは、
前記測定画像を入力して、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に縮小していくエンコーダ部と、
前記エンコーダ部の後段に設けられ、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に拡大していくデコーダ部と、
前記エンコーダ部における何れかの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップを前記デコーダ部における同一サイズの特徴マップに結合させる投影結合部と、
を含む、
画像処理方法。
【請求項8】
複数の被検体それぞれの測定画像および断層画像を用いて前記畳み込みニューラルネットワークを学習させるCNN学習ステップを更に備える、
請求項7に記載の画像処理方法。
【請求項9】
前記CNN処理ステップは、前記エンコーダ部に入力される測定画像に対し測定空間から実空間への投影処理を施して、その投影処理後の画像を前記デコーダ部からの出力画像に加算させる、
請求項7に記載の画像処理方法。
【請求項10】
前記投影結合部は、前記エンコーダ部における最大サイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップを前記デコーダ部における同一サイズの特徴マップに結合させる、
請求項7に記載の画像処理方法。
【請求項11】
前記投影結合部は、前記エンコーダ部における全てのサイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップを前記デコーダ部における同一サイズの特徴マップに結合させる、
請求項7に記載の画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、断層撮影装置による測定によって取得された被検体の測定データに基づいて被検体の断層画像を作成する装置および方法に関するものである。
【背景技術】
【0002】
被検体の断層画像を作成する為の測定データを取得する断層撮影装置の例として、PET(Positron Emission Tomography)装置、SPECT(Single Photon Emission Computed Tomography)装置、X線CT(Computed Tomography)装置およびMRI(Magnetic Resonance Imaging)装置が挙げられる。これらの断層撮影装置により取得された被検体の測定データは、そのまま直ちに被検体の実空間上の断層画像を表すものではない。断層撮影装置により取得された被検体の測定データに基づいて被検体の実空間上の断層画像を作成するには、先ず、測定データに基づいて実空間とは異なる測定空間上の測定画像を作成し、次に、測定空間上の測定画像に基づいて実空間上の断層画像を作成する。この断層画像に基づいて被検体の健康状態を診断することができる。
【0003】
PET装置、SPECT装置およびX線CT装置の場合、測定空間はサイノグラム空間であり、測定画像はサイノグラムである。3次元PET装置の場合、サイノグラムは、4つの変数r,θ,z,δで表されるサイノグラム空間において、同時計数情報を取得した頻度(同時計数事象の発生頻度)を表すヒストグラムとして表現したものである。変数rは、同時計数ライン(光子対を同時計数した2個の検出器を互いに結ぶライン)の動径方向位置を表す。変数θは、同時計数ラインの方位角を表す。変数zは、同時計数ラインの中点の中心軸方向位置を表す。また、変数δは、同時計数ラインの極角を表す。MRI装置の場合、測定空間は、空間周波数を変数として表されるk空間であり、測定画像はk空間データにより構成される。
【0004】
測定空間上の測定画像に基づいて実空間上の断層画像を作成する際に、画像再構成処理が行われる。サイノグラムから断層画像への画像再構成法として幾つかの手法が知られている。例えば、ML-EM(Maximum Likelihood Expectation Maximization)、OSEM(Ordered Subset Expectation Maximization)、RAMLA(Row Action Maximum Likelihood Algorithm)およびDRAMA(Dynamic RAMLA)等が知られている。これらの画像再構成法は、実空間からサイノグラム空間への順投影と、サイノグラム空間から実空間への逆投影と、を交互に繰り返し行って、逐次近似的に断層画像を再構成していく。
【0005】
また、ニューラルネットワークを用いて測定空間上の測定画像から実空間上の断層画像を作成する技術が提案されている。この技術は、より高性能に断層画像を作成することができると期待されている。非特許文献1に記載された技術は、畳み込みニューラルネットワーク(Convolutional Neural Network、CNN)にサイノグラムを入力させてCNNにより断層画像を作成することを意図するものである。
【先行技術文献】
【非特許文献】
【0006】
【非特許文献1】I. Haggstrom et al. “DeepPET: Adeep encoder-decoder network for directly solving the PET image reconstructioninverse problem,” Med. Image Anal. Vol.54, pp.253-262, 2019.
【発明の概要】
【発明が解決しようとする課題】
【0007】
非特許文献1に記載された技術は、多くの被検体のサイノグラムおよび断層画像のペアを用いて予めCNNを学習させておく必要がある。CNNへの入力画像はサイノグラム空間上のサイノグラムであるのに対して、CNNからの出力画像は実空間上の断層画像である。入力画像(サイノグラム)と出力画像(断層画像)とは、異なる空間上の異質な画像であり、見た目に大きく異なる。したがって、CNNによるサイノグラムに基づく断層画像の作成は難しいタスクである。このことから、非特許文献1に記載された技術では、CNNの学習の為に大量のデータ(サイノグラムおよび断層画像のペア)が必要となる。
【0008】
学習に用いられたデータの量が少ないと、CNNは、サイノグラムから断層画像を作成するためのアルゴリズムを学習するには至らず、学習に用いられたサイノグラムおよび断層画像のペアを記憶するに留まる。そして、CNNは、未知のサイノグラムが入力されたときに、学習に用いられたサイノグラムのうち入力サイノグラムに最も近いサイノグラムに対応する断層画像を出力してしまう。
【0009】
このように、非特許文献1に記載された技術では、CNNの学習に用いられたデータの量が少ないと、CNNによる断層画像の作成の性能が低い。CNNによる断層画像の作成の性能を高めるには、CNNの学習の為に大量のデータが必要となる。
【0010】
以上のようなCNNを用いて断層画像を作成する際の問題は、PET装置においてサイノグラムから断層画像を作成するときだけでなく、SPECT装置、X線CT装置およびMRI装置それぞれにおいて測定空間上の測定画像から実空間上の断層画像を作成するときにも存在する。
【0011】
本発明は、上記問題点を解消する為になされたものであり、CNNの学習に必要なデータの量の増加を抑制しCNNによる断層画像の作成の性能を向上させることができる画像処理装置および画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明の画像処理装置は、断層撮影装置による測定によって取得された被検体の測定データに基づいて、被検体の実空間上の断層画像を作成する装置である。
【0013】
本発明の画像処理装置の第1態様は、(1) 測定データに基づいて、実空間とは異なる測定空間上の測定画像を作成する測定画像作成部と、(2) 畳み込みニューラルネットワークに測定画像を入力させて畳み込みニューラルネットワークにより断層画像を作成するCNN処理部と、を備える。畳み込みニューラルネットワークは、(a) 測定画像を入力して、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に縮小していくエンコーダ部と、(b) エンコーダ部の後段に設けられ、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に拡大していくデコーダ部と、(c) エンコーダ部における何れかの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部における同一サイズの特徴マップに結合させる投影結合部と、を含む。
【0014】
本発明の画像処理装置の第2態様では、第1態様に加えて、複数の被検体それぞれの測定画像および断層画像を用いて畳み込みニューラルネットワークを学習させるCNN学習部を更に備える。
【0015】
本発明の画像処理装置の第3態様では、第1態様または第2態様に加えて、CNN処理部は、エンコーダ部に入力される測定画像に対し測定空間から実空間への投影処理を施して、その投影処理後の画像をデコーダ部からの出力画像に加算させる。
【0016】
本発明の画像処理装置の第4態様では、第1~第3の態様の何れかに加えて、投影結合部は、エンコーダ部における最大サイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部における同一サイズの特徴マップに結合させる。
【0017】
本発明の画像処理装置の第5態様では、第1~第3の態様の何れかに加えて、投影結合部は、エンコーダ部における全てのサイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部における同一サイズの特徴マップに結合させる。
【0018】
本発明の断層撮影システムは、被検体の断層画像を作成する為の測定データを取得する断層撮影装置と、測定データに基づいて断層画像を作成する上記の本発明の画像処理装置と、を備える。
【0019】
本発明の画像処理方法は、断層撮影装置による測定によって取得された被検体の測定データに基づいて、被検体の実空間上の断層画像を作成する方法である。
【0020】
本発明の画像処理方法の第1態様は、(1) 測定データに基づいて、実空間とは異なる測定空間上の測定画像を作成する測定画像作成ステップと、(2) 畳み込みニューラルネットワークに測定画像を入力させて畳み込みニューラルネットワークにより断層画像を作成するCNN処理ステップと、を備える。畳み込みニューラルネットワークは、(a) 測定画像を入力して、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に縮小していくエンコーダ部と、(b) エンコーダ部の後段に設けられ、複数の畳み込み層それぞれによる畳み込み演算により特徴マップを更新し、特徴マップの空間的なサイズを次第に拡大していくデコーダ部と、(c) エンコーダ部における何れかの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部における同一サイズの特徴マップに結合させる投影結合部と、を含む。
【0021】
本発明の画像処理方法の第2態様では、第1態様に加えて、複数の被検体それぞれの測定画像および断層画像を用いて畳み込みニューラルネットワークを学習させるCNN学習ステップを更に備える。
【0022】
本発明の画像処理方法の第3態様では、第1態様または第2態様に加えて、CNN処理ステップは、エンコーダ部に入力される測定画像に対し測定空間から実空間への投影処理を施して、その投影処理後の画像をデコーダ部からの出力画像に加算させる。
【0023】
本発明の画像処理方法の第4態様では、第1~第3の態様の何れかに加えて、投影結合部は、エンコーダ部における最大サイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部における同一サイズの特徴マップに結合させる。
【0024】
本発明の画像処理方法の第5態様では、第1~第3の態様の何れかに加えて、投影結合部は、エンコーダ部における全てのサイズの特徴マップに対し測定空間から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部における同一サイズの特徴マップに結合させる。
【発明の効果】
【0025】
本発明によれば、CNNの学習に必要なデータの量の増加を抑制し、CNNによる断層画像の作成の性能を向上させることができる。
【図面の簡単な説明】
【0026】
【
図1】
図1は、断層撮影システム1の構成を示す図である。
【
図3】
図3は、サイノグラム空間(測定空間)と実空間との間の投影処理について説明する図である。
【
図4】
図4は、CNNの他の構成例を示す図である。
【
図5】
図5は、比較例においてノイズ無しのサンプル1を用いた場合の断層画像を示す図である。
【
図6】
図6は、比較例においてノイズ無しのサンプル19を用いた場合の断層画像を示す図である。
【
図7】
図7は、実施例においてノイズ無しのサンプル1を用いた場合の断層画像を示す図である。
【
図8】
図8は、実施例においてノイズ無しのサンプル19を用いた場合の断層画像を示す図である。
【
図9】
図9は、比較例においてノイズ有りのサンプル1を用いた場合の断層画像を示す図である。
【
図10】
図10は、比較例においてノイズ有りのサンプル19を用いた場合の断層画像を示す図である。
【
図11】
図11は、実施例においてノイズ有りのサンプル1を用いた場合の断層画像を示す図である。
【
図12】
図12は、実施例においてノイズ有りのサンプル19を用いた場合の断層画像を示す図である。
【発明を実施するための形態】
【0027】
以下、添付図面を参照して、本発明を実施するための形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。本発明は、これらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【0028】
図1は、断層撮影システム1の構成を示す図である。断層撮影システム1は、被検体の断層画像を作成するシステムであって、断層撮影装置2および画像処理装置10を備える。断層撮影装置2は、被検体の断層画像を作成する為の測定データを取得するものであり、例えば、PET装置、SPECT装置、X線CT装置またはMRI装置である。画像処理装置10は、記憶部11、測定画像作成部12、補正部13、CNN処理部14およびCNN学習部15を備える。画像処理方法は、記憶ステップ、測定画像作成ステップ、補正ステップ、CNN処理ステップおよびCNN学習ステップを備える。
【0029】
画像処理装置10は、断層撮影装置2による測定によって取得された被検体の測定データに基づいて、被検体の実空間上の断層画像を作成する。画像処理装置10は、各種の処理を行うCPUやGPUを含む演算処理部、処理を行う為のプログラムやデータを記憶するハードディスクドライブやRAM等を含む記憶部、処理条件や処理結果などを表示する液晶ディスプレイ等の表示部、および、処理条件などの入力を受け付けるキーボードやマウス等を含む入力部、を備える。画像処理装置10は、コンピュータにより構成され得る。
【0030】
画像処理装置10は、プログラムやデータを記憶する記憶部11を備える他、各種の処理を行う演算処理部として測定画像作成部12、補正部13、CNN処理部14およびCNN学習部15を備える。記憶ステップにおいて、記憶部11は、断層撮影装置2による測定によって取得された被検体の測定データを入力し、その測定データを記憶する。測定画像作成ステップにおいて、測定画像作成部12は、記憶部11により記憶された測定データに基づいて、実空間とは異なる測定空間上の測定画像を作成する。補正ステップにおいて、補正部13は、測定画像作成部12により作成された測定画像に対し種々の補正(例えば、感度補正、吸収補正、散乱補正)をする。
【0031】
CNN処理ステップにおいて、CNN処理部14は、補正部13により補正された後の測定空間上の測定画像を畳み込みニューラルネットワーク(CNN)に入力させて、このCNNにより実空間上の断層画像を作成する。CNN学習ステップにおいて、CNN学習部15は、複数の被検体それぞれの測定画像および断層画像を用いてCNNを学習させる。CNN学習後の画像処理装置10は、CNN学習部15を備えていなくてもよい。
【0032】
断層撮影装置2がPET装置、SPECT装置またはX線CT装置である場合、測定空間はサイノグラム空間であり、測定画像はサイノグラムである。断層撮影装置2がMRI装置である場合、測定空間はk空間であり、測定画像はk空間データにより構成される。
【0033】
以下では、断層撮影装置2がPET装置であるとして説明をする。PET装置は、被検体(生体)の断層画像を取得することができる放射線断層撮影装置である。PET装置は、被検体が置かれる測定空間の周囲に配列された多数の小型の放射線検出器を有する検出部を備えている。
【0034】
PET装置は、陽電子放出アイソトープ(RI線源)が投与された被検体内における電子・陽電子の対消滅に伴って発生するエネルギ511keVのγ線光子対を検出部により同時計数法で検出し、この同時計数情報を収集する。この同時計数情報は、光子対を同時計数した2個の放射線検出器それぞれの位置情報を含み、この位置情報から同時計数ライン(光子対を同時計数した2個の放射線検出器を互いに結ぶライン)を求めることができる。記憶部11は、PET装置により収集された同時計数情報を記憶する。
【0035】
測定画像作成部12は、記憶部11により記憶されている収集された同時計数情報に基づいてサイノグラムを作成する。サイノグラム(測定画像)は、同時計数ラインの位置や方位などを変数とするサイノグラム空間(測定空間)において、同時計数情報を取得した頻度(同時計数事象の発生頻度)を表すヒストグラムとして表現したものである。CNN処理部14は、サイノグラム空間(測定空間)上のサイノグラム(測定画像)をCNNに入力させて、このCNNにより実空間上の断層画像を作成する。
【0036】
図2は、CNNの構成例を示す図である。この図に示されるCNNは、エンコーダ部21、デコーダ部22およびボトルネック部23を含むU-net構造を基本とするものであり、更に投影結合部24を含む。この図には、畳み込み層(Conv3x3, stride 1)、正規化層(Batch Normalization)、非線形活性化関数(Leaky ReLU)、ダウンサンプリング(Conv 4x4, stride 2)およびアップサンプリング(Upsampling)それぞれの処理後の特徴マップが、互いに異なるグレースケールで示されている。また、この図には、CNNに入力されるサイノグラム31およびCNNから出力される断層画像32それぞれの画素数を128×128として、各特徴マップのサイズも示されている。
【0037】
畳み込み層は、これまでに作成された特徴マップ(または入力画像)に対してフィルタを相対的に移動させ、その各位置において特徴マップとフィルタとの畳み込み演算を行い、同一の空間サイズの新たな特徴マップを作成する。正規化層は、特徴マップのミニバッチ毎に特徴を正規化する。非線形活性化関数は、特徴マップの各値の加重和zを活性化関数σ(z)=max{0,z}に入力して、その関数値σ(z)を出力する。ダウンサンプリングは、特徴マップとフィルタとの畳み込み演算を行い、特徴マップの空間的なサイズを1/2×1/2に縮小するとともに、特徴マップのチャネル数を2倍に増やす。アップサンプリングは、線形補間により特徴マップの空間的なサイズを2×2倍に拡大するとともに、特徴マップとフィルタとの畳み込み演算を行い、特徴マップのチャネル数を1/2に減らす。
【0038】
エンコーダ部21は、畳み込み層、正規化層、非線形活性化関数およびダウンサンプリングを有する。エンコーダ部21は、サイノグラム空間(測定空間)上のサイノグラム(測定画像)を入力して、畳み込み、層正規化層および非線形活性化関数により特徴マップを更新していく。また、エンコーダ部21は、畳み込み、層正規化層および非線形活性化関数による処理を数回行った後に、ダウンサンプリングにより、特徴マップの空間的なサイズを1/2×1/2に縮小するとともに、特徴マップのチャネル数を2倍に増やす。この図では、特徴マップの空間的なサイズは、当初には128×128であるが、64×64、32×32、16×16、へと縮小していく。
【0039】
デコーダ部22は、畳み込み層、正規化層、非線形活性化関数およびアップサンプリングを有する。デコーダ部22は、エンコーダ部21の後段に設けられ、アップサンプリングにより、特徴マップの空間的なサイズを2倍に拡大するとともに、特徴マップのチャネル数を1/2×1/2に減らす。この図では、特徴マップの空間的なサイズは、16×16、32×32、64×64、128×128、へと拡大していく。また、デコーダ部22は、アップサンプリングによる処理を行った後に、畳み込み、層正規化層および非線形活性化関数により特徴マップを更新していく。
【0040】
ボトルネック部23は、エンコーダ部21とデコーダ部22との間に設けられる。ボトルネック部23は、畳み込み層、正規化層および非線形活性化関数を有し、これらにより特徴マップを更新していく。ボトルネック部23では、特徴マップの空間的なサイズを維持したまま、チャネル数を2倍に増やす。
【0041】
エンコーダ部21は、サイノグラム空間(測定空間)上のサイノグラム(測定画像)を入力して、その入力したサイノグラムの特徴を特徴マップとして抽出していく。一方、デコーダ部22は、抽出されたサイノグラムの特徴を示す特徴マップに基づいて、実空間上の断層画像を徐々に再構成していく。
【0042】
投影結合部24は、エンコーダ部21における何れかの特徴マップに対しサイノグラム空間(測定空間)から実空間への投影処理を施して、その投影処理後の特徴マップをデコーダ部22における同一サイズの特徴マップに結合させる。投影結合部24は、エンコーダ部21における任意の何れかの特徴マップに対し投影処理を施してもよいが、エンコーダ部21における最大サイズの特徴マップに対し投影処理を施すのが好適であり、エンコーダ部21における全てのサイズの特徴マップに対し投影処理を施すのが更に好適である。何れにしても、投影処理によって特徴マップの空間的サイズは変更されず、投影処理後の特徴マップはデコーダ部22における同一空間的サイズの特徴マップに結合される。デコーダ部における特徴マップへの投影処理後の特徴マップの結合は、チャネル毎に足し合わせるものであってもよいし、チャネルを重ねるものであってもよい。投影結合しない空間的サイズの特徴マップについては、その特徴マップのままデコーダ部22における同一空間的サイズの特徴マップに結合(スキップ結合)してもよい。
【0043】
図2では、投影結合部24は、エンコーダ部21における全てのサイズの特徴マップに対し投影処理を施して、その投影処理後の特徴マップをデコーダ部22における同一サイズの特徴マップに結合させている。すなわち、エンコーダ部21における128×128のサイズの特徴マップ41を投影処理して、その投影処理後の特徴マップ51をデコーダ部22における128×128のサイズの特徴マップに結合させる。エンコーダ部21における64×64のサイズの特徴マップ42を投影処理して、その投影処理後の特徴マップ52をデコーダ部22における64×64のサイズの特徴マップに結合させる。エンコーダ部21における32×32のサイズの特徴マップ43を投影処理して、その投影処理後の特徴マップ53をデコーダ部22における32×32のサイズの特徴マップに結合させる。エンコーダ部21における16×16のサイズの特徴マップ44を投影処理して、その投影処理後の特徴マップ54をデコーダ部22における16×16のサイズの特徴マップに結合させる。
【0044】
図3は、サイノグラム空間(測定空間)と実空間との間の投影処理について説明する図である。この図は、2次元PET装置におけるサイノグラム31および断層画像32の間の関係を示す。逐次近似的画像再構成法において、実空間からサイノグラム空間への投影は順投影(Forward Projection)と呼ばれ、サイノグラム空間から実空間への投影は逆投影(Back Projection)と呼ばれる。逐次近似的画像再構成法は、順投影と逆投影とを交互に繰り返し行って、逐次近似的に断層画像を再構成していく。
【0045】
順投影は、実空間上の断層画像32をサイノグラム31に変換する処理であり、下記(1)で表される。pはサイノグラムであり、fは断層画像である。Aは、順投影の操作を表すシステム行列である。順投影は、図に示されるように、各位置xrおよび各方位φの同時計数ライン(Line of Response、LOR)について、断層画像32において同時計数ラインが通る各画素の画素値の総和p(xr,φ)を求める処理である。
【0046】
【0047】
順投影は解析的には下記(2)式で表される。ここで、座標(x,y)と座標(xr,yr)との間には下記(3)式の関係がある。φは、投影の方向を表す方位角である。xr,xyは、断層画像を-φだけ回転したときのx軸とy軸である。順投影は、画像を-φ度回転した後,yr軸に沿って画素値を積算することでφ度方向への1次元投影p(xr,φ)を得ることを、0≦φ<πに対して繰り返すことで、サイノグラム31を得る。
【0048】
【0049】
【0050】
逆投影は、行列Aの転置行列ATを用いて、サイノグラム31を実空間上に投影する処理であり、下記(4)式で表される。bは、サイノグラムpの逆投影画像である。逆投影画像bは断層画像fと等しくない。
【0051】
【0052】
投影結合部24が行う投影処理(エンコーダ部21における何れかの特徴マップに対するサイノグラム空間から実空間への投影処理)は、上記の逆投影に相当する。このような投影結合部24が設けられていることにより、エンコーダ部21においてはサイノグラム上での処理が学習されることが期待され、デコーダ部22においては断層画像上での処理が学習されることが期待される。そして、学習に用いられたサイノグラムおよび断層画像のペアの記憶に留まることなく、サイノグラムから断層画像を作成するためのアルゴリズムの学習が促されると期待される。
【0053】
図4は、CNNの他の構成例を示す図である。この図に示されるCNNは、
図2に示されたCNNと比較すると、投影部25および加算部26を更に含む点で相違する。投影部25は、エンコーダ部21に入力されるサイノグラム(測定画像)31に対し、サイノグラム空間から実空間への投影処理(逆投影)を施して、その投影後の画像である投影画像33を作成する。加算部26は、投影画像33をデコーダ部22からの出力画像に加算して、断層画像32を作成する。
【0054】
このような構成とした場合、CNN学習部15は、複数の被検体それぞれのサイノグラム31および断層画像32を用いてCNNを学習させる際に、サイノグラム31を逆投影して得られた投影画像33と断層画像32との間の差分をCNNに学習(残差学習)させる。投影画像33と断層画像32との間の画素毎の差分は、正の値だけでなく負の値にもなり、値0を中心とする正規分布に近似し得る分布を有する。このことから、最小二乗法を用いたCNN学習が容易となる。
【0055】
次に、デジタル脳ファントム画像を用いて数値シミュレーションによりシミュレーションデータを作成して行ったシミュレーション結果について説明する。
図2に示されたCNNを用いる場合を実施例とした。非特許文献1に記載されたCNNを用いてヒストグラムから断層画像を作成する技術を比較例とした。比較例では、投影結合部24に相当するものはCNNに設けられていない。
【0056】
BrainWeb(https://brainweb.bic.mni.mcgill.ca/brainweb/)から20サンプルのMRI脳セグメンテーション画像をダウンロードし、灰白質、白質および脳脊髄液(cerebrospinal fluid、CSF)のコントラスト比を1:0.25:0.05とし、薬剤として18F-FDG(18F-fluorodeoxyglucose)を模擬したPETの脳ファントム画像を作成した。各々のファントム画像のマトリックスサイズは128(X)×128(Y)×70(Z)であった。各ファントム画像を順投影してサイノグラムを作成した。各サイノグラムのマトリックスサイズは128(Xr)×128(φ)×70(Z)であった。
【0057】
各サンプルについて、ノイズが無いもの及びノイズが有るものの2種類を用意した。ノイズが有るサイノグラムは、1サンプルあたりの総カウント数を10Mとした場合に相当するポアソンノイズを付与することにより作成した、20サンプル(各サンプルにつき70スライス)のサイノグラムおよび断層画像のペアのうち、18サンプルを学習用データ(計1260スライス)として用い、2サンプルをテストデータ(計140スライス)として用いた。
【0058】
ノイズ無しのサンプルを用いた場合およびノイズ有りのサンプルを用いた場合それぞれにおいて、学習用データ(サンプル1~18)を用いてCNNを学習させた後に、テストデータ(サンプル19,20)のサイノグラムをCNNに入力させてCNNにより断層画像を作成し、この作成した断層画像を元の断層画像と比較した。CNNにより作成された断層画像はピーク信号対雑音比の値で評価した。ピーク信号対雑音比(Peak Signal to Noise Ratio、PSNR)は、画像の品質をデシベル(dB)で表したものであり、値が高いほど良好な画質であることを意味する。
【0059】
図5および
図6は、比較例においてノイズ無しのサンプルを用いた場合の断層画像を示す図である。
図5(a)は、サンプル1の元の断層画像を示す図である。
図5(b)は、サンプル1のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。
図6(a)は、サンプル19の元の断層画像を示す図である。
図6(b)は、サンプル19のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。学習用データ(サンプル1)のサイノグラムに基づいてCNNにより作成された断層画像(
図5(b))のPSNRは35.30dBであった。テストデータ(サンプル19)のサイノグラムに基づいてCNNにより作成された断層画像(
図6(b))のPSNRは22.63dBであった。
【0060】
図7および
図8は、実施例においてノイズ無しのサンプルを用いた場合の断層画像を示す図である。
図7(a)は、サンプル1の元の断層画像を示す図である。
図7(b)は、サンプル1のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。
図8(a)は、サンプル19の元の断層画像を示す図である。
図8(b)は、サンプル19のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。学習用データ(サンプル1)のサイノグラムに基づいてCNNにより作成された断層画像(
図7(b))のPSNRは35.08dBであった。テストデータ(サンプル19)のサイノグラムに基づいてCNNにより作成された断層画像(
図8(b))のPSNRは35.05dBであった。
【0061】
図9および
図10は、比較例においてノイズ有りのサンプルを用いた場合の断層画像を示す図である。
図9(a)は、サンプル1の元の断層画像を示す図である。
図9(b)は、サンプル1のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。
図10(a)は、サンプル19の元の断層画像を示す図である。
図10(b)は、サンプル19のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。学習用データ(サンプル1)のサイノグラムに基づいてCNNにより作成された断層画像(
図9(b))のPSNRは34.70dBであった。テストデータ(サンプル19)のサイノグラムに基づいてCNNにより作成された断層画像(
図10(b))のPSNRは22.58dBであった。
【0062】
図11および
図12は、実施例においてノイズ有りのサンプルを用いた場合の断層画像を示す図である。
図11(a)は、サンプル1の元の断層画像を示す図である。
図11(b)は、サンプル1のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。
図12(a)は、サンプル19の元の断層画像を示す図である。
図12(b)は、サンプル19のサイノグラムに基づいてCNNにより作成された断層画像を示す図である。学習用データ(サンプル1)のサイノグラムに基づいてCNNにより作成された断層画像(
図11(b))のPSNRは30.34dBであった。テストデータ(サンプル19)のサイノグラムに基づいてCNNにより作成された断層画像(
図12(b))のPSNRは28.26dBであった。
【0063】
図5~
図12に示された各断層画像のPSNRを対比すると、次のようなことが分かる。学習用データのサイノグラムに基づいてCNNにより断層画像を作成する場合、ノイズの有無に拘わらず、比較例で作成された断層画像のPSNRは、実施例で作成された断層画像のPSNRと同程度に高い。しかし、テストデータのサイノグラムに基づいてCNNにより断層画像を作成する場合、ノイズの有無に拘わらず、比較例で作成された断層画像のPSNRは低い。これは次のような理由によると考えられる。比較例で用いたCNNは、学習用データのサイノグラムおよび断層画像のペアを記憶するに留まり、未知のテストデータのサイノグラムが入力されたときに、学習に用いられたサイノグラムのうち入力サイノグラムに最も近いサイノグラムに対応する断層画像を出力してしまったことによると考えられる。それ故、比較例では、未知のテストデータに対して汎化することができず、別人の断層画像を出力してしまったと考えられる。
【0064】
これに対して、実施例では、学習用データのサイノグラムに基づいてCNNにより断層画像を作成する場合だけでなく、テストデータのサイノグラムに基づいてCNNにより断層画像を作成する場合にも、ノイズの有無に拘わらず、CNNにより作成された断層画像のPSNRは高い。実施例では、未知のテストデータに対しても非常に良く汎化している。これは次のような理由によると考えられる。実施例では、CNNに投影結合部24が設けられていることにより、CNNは、学習に用いられたサイノグラムおよび断層画像のペアの記憶に留まることなく、サイノグラムから断層画像を作成するためのアルゴリズムを学習することができたことによると考えられる。
【0065】
以上のとおり、本実施形態によれば、CNNの学習に必要なデータの量の増加を抑制し、CNNによる断層画像の作成の性能を向上させることができる。
【0066】
これまで説明してきた実施形態および実施例では、断層撮影装置がPET装置である場合について主に説明した。しかし、本発明は、他の断層撮影装置でも同様に適用することができる。断層撮影装置がSPECT装置またはX線CT装置である場合、PET装置の場合と同様に、測定空間はサイノグラム空間であり、測定画像はサイノグラムであり、測定空間から実空間への投影処理は逆投影である。断層撮影装置がMRI装置である場合、測定空間はk空間であり、測定画像はk空間データにより構成される像であり、測定空間から実空間への投影処理は逆フーリエ変換である。
【符号の説明】
【0067】
1…断層撮影システム、2…断層撮影装置、10…画像処理装置、11…記憶部、12…測定画像作成部、13…補正部、14…CNN処理部、15…CNN学習部、21…エンコーダ部、22…デコーダ部、23…ボトルネック部、24…投影結合部、25…投影部、26…加算部、31…サイノグラム、32…断層画像、33…投影画像、41~44…特徴マップ、51~54…特徴マップ。