IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティーの特許一覧

特許7179757ディープ畳み込みニューラルネットワークを使用した医用画像化のための線量低減
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-18
(45)【発行日】2022-11-29
(54)【発明の名称】ディープ畳み込みニューラルネットワークを使用した医用画像化のための線量低減
(51)【国際特許分類】
   G01T 1/161 20060101AFI20221121BHJP
   A61B 5/055 20060101ALI20221121BHJP
   G06T 7/00 20170101ALI20221121BHJP
【FI】
G01T1/161 D
A61B5/055 390
G06T7/00 612
【請求項の数】 10
(21)【出願番号】P 2019557559
(86)(22)【出願日】2018-04-24
(65)【公表番号】
(43)【公表日】2020-06-18
(86)【国際出願番号】 US2018029103
(87)【国際公開番号】W WO2018200493
(87)【国際公開日】2018-11-01
【審査請求日】2021-03-19
(31)【優先権主張番号】62/489,518
(32)【優先日】2017-04-25
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】516231051
【氏名又は名称】ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー
(74)【代理人】
【識別番号】110001379
【氏名又は名称】特許業務法人 大島特許事務所
(72)【発明者】
【氏名】ザハルチュック、グレッグ
(72)【発明者】
【氏名】ポーリー、ジョン・エム
(72)【発明者】
【氏名】ゴング、エンハオ
【審査官】松岡 智也
(56)【参考文献】
【文献】国際公開第2002/086821(WO,A1)
【文献】Lvmin Zhang et al.,"Style Transfer for Anime Sketches with Enhanced Residual U-net and Auxiliary Classifier GAN",4th IAPR Asian Conference on Pattern Recognition,2017年11月,p.506-511
【文献】Zhengxin Zhang et al.,"Road Extraction by Deep Residual U-Net",[online],2017年11月29日,arXiv:1711.10684v1,[令和4年4月6日検索],インターネット<URL:http://wwww.arxiv.org/pdf/1711.10684v1.pdf>
【文献】Hu Chen et al.,"Low-Dose CT with a Residual Encoder-Decoder Convolutional Neural Network (RED-CNN)",[online],arXiv:1702.00288v1,2017年02月01日,[令和4年4月6日検索],インターネット<URL:http://wwww.arxiv.org/pdf/1702.00288v1.pdf>
(58)【調査した分野】(Int.Cl.,DB名)
G01T 1/161-1/167
A61B 5/055、6/00-6/14
(57)【特許請求の範囲】
【請求項1】
放射線画像化モダリティ及び核医学用途のための画像を生成する方法であって、
み込みネットワークを使用して低線量放射線画像を処理するステップであって、前記低線量放射線画像は、(i)患者体内の放射性トレーサの少なくとも4倍に等しい線量低減係数(DRF)を有する低線量核医学画像の複数のスライス、または(ii)前記低線量核医学画像の複数のスライス及びそれと共に取得された複数のマルチコントラスト画像との組み合わせを入力として含み、前記畳み込みネットワークがN個の畳み込みニューラルネットワーク(CNN)ステージを含み、前記CNNステージの各々が、K×Kのカーネルを有するM個の畳み込み層を含、該処理するステップを含み
前記処理するステップが、
前記CNNステージ間で、プーリングを用いたダウンサンプリング、及び双線形補間を用いたアップサンプリングを行うステップであって、前記CNNにより前記低線量放射線画像から特徴を抽出して、前記患者体内の放射性トレーサの少なくとも1倍に等しい線量低減係数(DRF)を有する標準線量核医学画像と同等の画像品質を有する標準線量放射線画像をシミュレートし、前記標準線量放射線画像の前記画像品質は前記低線量放射線画像よりも改善された解像度、コントラスト、及び信号対ノイズ比を有する、該ステップと、を含み、
前記畳み込みネットワークは、前記標準線量放射線画像の局所的な情報及び解像度を保持するべく、互いに対応する前記CNNステージ間に対称連結接続を有するエンコーダ-デコーダ構造をさらに含むことを特徴とする方法。
【請求項2】
請求項1に記載の方法であって、
前記低線量核医学画像の前記DRFは、4から200の範囲内であることを特徴とする方法。
【請求項3】
請求項1に記載の方法であって、
前記標準線量放射線画像は、マルチモダリティ入力としての前記低線量核医学画像及びそれに対応するマルチコントラストMR画像から生成されることを特徴とする方法。
【請求項4】
請求項1に記載の方法であって、
前記低線量放射線画像は、CT、PET、PET/CT、PET/MR、SPECT、及び他の画像化方法からなる群より選択される方法を用いて生成されることを特徴とする方法。
【請求項5】
請求項1に記載の方法であって、
前記低線量放射線画像の信号対ノイズ比(SNR)が、連結スキップ接続を有するエンコーダ-デコーダ残差ディープネットワークを使用して増大され、
前記連結スキップ接続は、当該方法の入力から出力への残差接続、または、互いに対応するエンコーダ層及びデコーダ層間の連結接続を含むことを特徴とする方法。
【請求項6】
請求項1に記載の方法であって、
前記低線量放射線画像は、前記低線量核医学画像の複数のスライス及びそれと共に取得された複数のコントラスト画像との組み合わせを入力としてさらに含むことを特徴とする方法。
【請求項7】
請求項6に記載の方法であって、
前記低線量核医学画像の複数のスライスと前記複数のコントラスト画像との前記組み合わせは、T1w MR画像、T2w MR画像、FLAIR MR画像、拡散MR画像、潅流MRI画像、磁化率MR画像、MRベースの減衰補正マップ、MR水-脂肪画像、CT画像、及びCTベースの減衰補正マップからなる群より選択され、
前記潅流MRI画像は、動脈スピンラベル標識シーケンスを含むことを特徴とする方法。
【請求項8】
請求項に記載の方法であって、
アルゴリズムを使用して、当該方法に最も有益な入力スライスの数及び入力コントラスト画像を決定するステップをさらに含み、
前記アルゴリズムは、前記入力スライスの数及び使用する前記入力コントラスト画像を適応的に決定することを特徴とする方法。
【請求項9】
請求項1に記載の方法であって、
前記畳み込みネットワークは、L1/平均絶対誤差、構造的類似性損失、及び適応訓練損失からなる群より選択される混合コスト関数使用して訓練されたものであり
前記適応訓練損失は、ネットワークモデルを使用する敵対的生成ネットワーク損失及び知覚損失関数を含むことを特徴とする方法。
【請求項10】
射線画像モダリティ及び核医学用途のための画像を生成するシステムであって、
(a)医用イメージャを使用して、(i)患者体内の放射性トレーサの少なくとも4倍に等しい線量低減係数(DRF)を有する低線量核医学画像の複数のスライス、または(ii)前記低線量核医学画像の複数のスライス及びそれと共に取得された複数のマルチコントラスト画像を含む低放射線量入力を、当該システムへの入力画像である低線量放射線画像としての複数の2次元画像または3次元画像のスタッキングとして取得し、
(b)前記入力画像にディープネットワークベースの回帰タスクを適用するように構成され、
前記ディープネットワークベースの回帰タスクが、
(i)N個の畳み込みニューラルネットワーク(CNN)ステージであって、前記CNNステージの各々がK×Kのカーネルを有するM個の畳み込み層を含み、前記CNNが、互いに対応する前記CNNステージ間に対称連結接続を有するエンコーダ-デコーダ構造をさらに含む、該ステージと、
(ii)連結スキップ接続を有するエンコーダ-デコーダ残差ディープネットワークであって、前記連結スキップ接続が入力画像から出力画像への残差接続を含む、該ネットワークと、
(iii)前記患者体内の放射性トレーサの少なくとも1倍に等しい線量低減係数(DRF)を有する標準線量核医学画像と同等の画像品質を有する放射線画像を標準線量放射線画像として出力することを含み、前記画像品質が、前記低放射線量入力よりも改善された解像度、コントラスト、及び信号対ノイズ比を有し
前記エンコーダ-デコーダ構造が、前記標準線量放射線画像の局所的な情報及び解像度を保持する
ことを特徴とするシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一般的に、医用画像化に関する。より詳細には、本発明は、患者のリスクを低下させるための線量低減を目的とした医用画像化技術に関する。
【背景技術】
【0002】
陽電子放出断層撮影(PET)は、細胞レベルでの画像化能力及び高特異性を有しているので、例えば、癌診断、腫瘍検出、及び神経疾患の早期診断などの広範囲の臨床用途を有する。診断目的の高品質PET画像を取得するためには、標準線量の放射性トレーサを被験者に注入すべきであり、それは、放射線被曝によるダメージのより高いリスクにつながる。通常、PETスキャン、またはPET/MR及びPET/CTのスキャンでは、CTのみを使用するスキャンよりもさらに多くの電離放射線が患者に照射される。このようなリスクを最小限に抑えるために、よく知られたALARA(合理的に達成可能な限り低く)の原則が臨床現場で採用されている。
【0003】
この問題を解決するために、低線量PET画像の画質を改善するための様々なアルゴリズムが提案されている。一般的に、これらのアルゴリズムは、次の3つのカテゴリーに分類できる。(1)反復再構成アルゴリズム、(2)画像フィルタリング及び後処理、(3)機械学習。
【0004】
反復再構成アルゴリズムは、低線量再構成問題を凸最適化問題として策定し、取得データの統計モデル(すなわち、sinogramまたはlistmode)を正則化項と組み合わせてノイズを抑制する。全変動(TV)正則化を用いた反復アルゴリズムによって、異なる光子数を有する合成放射ファントムのノイズを低減することが従来提案されている。反復再構成アルゴリズムは、生のカウント情報を直接考慮するため、潜在的に最も正確であるが、3つの主な短所がある。第1に、取得された全てのデータと相互作用することによる実質的な計算コストは、これらの種類の方法のほとんどを時間のかかるものにする。第2に、異なるスキャナが、異なる幾何学的構成、データフォーマット(例えば、飛行時間(TOF)と相互作用位置(DOI))、及びデータ修正手順を使用し、それらは生データに大きな影響を与えるので、反復方法は一般的にベンダー独自のものである。最後に、これらの方法では、事前に定義された正規化項が必要であり、これは、望ましくない過剰平滑化、アーチファクト、または幻覚テクスチャをもたらす恐れがある。
【0005】
画像処理法として、非局所平均(NLM)及びブロックマッチング3D(BM3D)などのいくつかの汎用画像ノイズ除去アルゴリズムが、PET画像ノイズ除去に導入された。加えて、PET画像のノイズを除去するために、特異値閾値処理法と不偏リスク推定とを組み合わせる試みが行われた。マルチスケールのカーブレット解析及びウェーブレット解析に基づいて、画像解像度及び定量化を保持しながらPET画像のノイズを除去する方法が或るグループにより提案された。
【0006】
もう1つの重要なカテゴリーは、マッピングベースのスパース表現、半教師付き3倍辞書、及びマルチレベル正準相関解析などのデータ駆動機械学習法である。低線量PET画像のノイズを直接的に除去する代わりに、機械学習法は、低線量画像と標準線量画像の対を使用して、低線量入力から標準線量画像を予測することができるモデルを訓練する。
【0007】
近年、ディープラーニングは、コンピュータビジョン用途において多くの注目を集めており、従来の方法と比較してはるかに良い結果をもたらし、画像分類及び顔検証などのいくつかのタスクにおいて人間レベルの性能を実現している。ディープラーニング法の成功には、下記の重要要素が寄与している。(1)大量のパラメータを用いてモデルを訓練することを可能にする最新の強力なGPUにする並列計算の迅速化、(2)例えばImageNetなどのオープンソース研究及び訓練を促進する、大規模なデータセットの公開、(3)例えば、重み共有及び局所結合を利用する畳み込みニューラルネットワーク(CNN)などの新しい効率的なニューラルネットワーク構造。加えて、画像ノイズ除去、超解像技術、及び画像復元などの低レベル視覚問題のカテゴリーに対してもディープラーニング法が成功裏に適用され、最先端の結果が達成されている。
【0008】
これらの方法は主に自然画像処理に焦点を合わせているが、これらの有望な方法を医用画像解析に適用するためにいくつかの努力がなされている。U-Netは、医用画像セグメンテーションのための完全畳み込みネットワークであり、フィーチャを異なる解像度で抽出するための縮小経路及び拡大経路を含む。失われた解像度情報を復元するために、U-Netはまた、互いに対応する縮小ステップと拡大ステップを連結するためにスキップ接続を用いる。U-Netに触発されて、或るグループは、残差学習を用いてスパース視野CT画像におけるストリークアーチファクトを除去するためのマルチスケールCNNを提案した。低線量X線CT再構成にも使用されるWaveNetは、入力データのフィーチャ水増しとしてのマルチスケールウェーブレット変換と組み合わせた類似構造を用いる。低線量PET再構成の分野では、低線量CT再構成と比較して、ディープラーニング法を利用した低線量PET画像のノイズ除去に関する研究は少ない。別のグループは、自動コンテキスト畳み込みネットワークを使用して、低線量PET画像及びそれに対応するMR T1画像から標準線量PET画像を予測するためのディープラーニング法を提案し、それにより、予測結果を段階的に改善することを試みている。
【0009】
同時PET/MRIシステムにおける最近の発展は、MRIからの追加情報を利用して、減衰補正、動き補正、及び部分体積補正などのPET補正における画質を改善することを可能にした。また、構造的T1画像及びDTI関連コントラストを含むマルチコントラストMRIは、低線量PET再構成に有益であることが分かっている。
【0010】
線量低減係数(DFR)に関して、標準線量画像(DRF=1)のノイズを除去するために従来方法が用いられており、また、4分の1線量画像(DRF=4)から標準線量画像を再構成するために別の従来方法が用いられていた。
【0011】
超低線量画像から標準線量PET画像を再構成するためのディープラーニング法が求められている。
【発明の概要】
【課題を解決するための手段】
【0012】
当分野の上記課題を解決するために、放射線画像化モダリティ及び核医学用途のための放射線量を低減させる方法であって、(a)畳み込みネットワークを使用して低線量核医学画像から標準線量核医学画像を生成するステップであって、畳み込みネットワークがN個の畳み込みニューラルネットワーク(CNN)ステージを含み、CNNステージの各々が、K×Kのカーネルを有するM個の畳み込み層を含み、畳み込みネットワークが、互いに対応するCNNステージ間に対称連結接続を有するエンコーダ-デコーダ構造をさらに含む、該ステップと、(b)CNNステージ間で、プーリングを用いたダウンサンプリング、及び双線形補間を用いたアップサンプリングを行うステップであって、CNNにより低線量核医学画像からマルチスケール及び高レベルのフィーチャを抽出して高線量画像をシミュレートする、該ステップと、(c)高線量画像の局所的な情報及び解像度を保持するために低線量核医学画像に連結接続を追加するステップであって、高線量画像が、患者体内の放射性トレーサの1倍に等しい線量低減係数(DRF)を有し、低線量核医学画像が、患者体内の放射性トレーサの少なくとも4倍に等しいDRFを含む、該ステップと、を含む方法が提供される。
【0013】
本発明の一態様では、低線量核医学画像のDRFは、4から200の範囲内である。
【0014】
本発明の別の態様では、標準線量核医学画像は、マルチモダリティ入力としての低線量核医学画像及びそれに対応するマルチコントラストMR画像から生成される。
【0015】
本発明のさらなる態様では、核医学画像は、CT、PET、PET/CT、PET/MR、SPECT、及び他の核医学画像化方法からなる群より選択される方法を用いて生成される。
【0016】
本発明の一態様では、低線量核医学画像の信号対ノイズ比(SNR)が、連結スキップ接続を有するエンコーダ-デコーダ残差ディープネットワークを使用して増大され、スキップ接続は、当該方法の入力から出力への残差接続、または、互いに対応するエンコーダ層及びデコーダ層間の連結接続を含む。
【0017】
本発明のさらに別の態様では、低線量核医学画像は、複数のスライスと複数のコントラスト画像との組み合わせを入力としてさらに含む。複数のスライスと複数のコントラスト画像との組み合わせは、T1w MR画像、T2w MR画像、FLAIR MR画像、拡散MR画像、潅流MRI画像、磁化率MR画像、MRベースの減衰補正マップ、MR水-脂肪画像、CT画像、及びCTベースの減衰補正マップからなる群より選択され、潅流MRI画像は、動脈スピンラベル標識シーケンスを含む。
【0018】
本発明の別の態様では、アルゴリズムを使用して、当該方法に最も有益な入力スライスの数及び入力コントラストを決定するステップをさらに含み、アルゴリズムは、入力スライスの数及び使用する入力コントラストを適応的に決定する。
【0019】
本発明の別の態様では、L1/平均絶対誤差、構造的類似性損失、及び適応訓練損失からなる群より選択される混合コスト関数が使用され、適応訓練損失は、ネットワークモデルを使用する敵対的生成ネットワーク損失及び知覚損失関数を含む。
【0020】
本発明の一実施形態では、低放射線量サンプルから放射線画像モダリティ及び核医学用途のための高品質画像を生成するシステムであって、(a)医用イメージャを使用して、低放射線量画像の複数のスライス、または、低放射線量画像及びそれと共に取得されたマルチコントラスト画像を、当該システムへの入力画像としての複数の2次元画像または3次元画像のスタッキングとして取得し、(b)入力画像にディープネットワークベースの回帰タスクを適用するように構成され、ディープネットワークベースの回帰タスクが、(i)N個の畳み込みニューラルネットワーク(CNN)ステージであって、CNNステージの各々がK×Kのカーネルを有するM個の畳み込み層を含み、CNNが、互いに対応するCNNステージ間に対称連結接続を有するエンコーダ-デコーダ構造をさらに含む、該ステージと、(ii)連結スキップ接続を有するエンコーダ-デコーダ残差ディープネットワークであって、連結スキップ接続が入力画像から出力画像への残差接続を含む、該ネットワークと、(iii)標準放射線量画像と同等の画像品質を有する放射線または核医学画像を標準放射線量画像として出力することを含み、画像品質が、低放射線量入力よりも改善された解像度、コントラスト、及び信号対ノイズ比を含む、システムが提供される。
【図面の簡単な説明】
【0021】
図1】本発明による、通常線量及び様々な線量減少レベルのPET画像であり、(A)は標準線量、(B)は4分の1線量、(C)は20分の1線量、(D)は200分の1線量、について示す。
図2A】本発明による、ディープラーニングを使用した低線量PET再構成のためのネットワーク方法及びシステムのアーキテクチャ作業フローの全体アーキテクチャを示す。
図2B】本発明による、ディープラーニングを使用した低線量PET再構成のためのネットワーク方法及びシステムのアーキテクチャ作業フローの全体アーキテクチャを示す。
図3】本発明による、マルチスライス入力の効果を示し、(A)標準線量を用いた場合、(B)200×低線量を用いた場合、(C)単一スライス入力を用いた再構成結果、(D)マルチスライス入力(3スライス)を用いた再構成結果を示す。
図4A】本発明による、低線量再構成のための様々な方法の平均性能及び類似性メトリックの比較を示す。図中のひし形は平均値を示す。
図4B】本発明による、低線量再構成のための様々な方法の平均性能及び類似性メトリックの比較を示す。図中のひし形は平均値を示す。
図4C】本発明による、低線量再構成のための様々な方法の平均性能及び類似性メトリックの比較を示す。図中のひし形は平均値を示す。
図5A】LOOCVを用いた、本発明のシステム及び方法と従来の方法との定量的な比較を示す。
図5B】LOOCVを用いた、本発明のシステム及び方法と従来の方法との定量的な比較を示す。
図5C】LOOCVを用いた、本発明のシステム及び方法と従来の方法との定量的な比較を示す。
図6】比較のための様々な方法による結果を示し、(A)標準線量、(B)低線量、(C)NLM、(D)BM3D、(E)AC-Net、(F)ResUNet、(G)ResUNet+MR、について示す。
図7図6(A)~(G)中のA部分及びB部分を拡大して示し、(A)標準線量、(B)低線量、(C)NLM、(D)BM3D、(E)AC-Net、(F)ResUNet、(G)ResUNet+MR、について示す。
図8A】本発明のよる、様々なタイプのスキップ接続を有するネットワークの類似性メトリックを示す。図中のRは残差接続を意味し、Cは連結接続を意味する。
図8B】本発明のよる、様々なタイプのスキップ接続を有するネットワークの類似性メトリックを示す。図中のRは残差接続を意味し、Cは連結接続を意味する。
図8C】本発明のよる、様々なタイプのスキップ接続を有するネットワークの類似性メトリックを示す。図中のRは残差接続を意味し、Cは連結接続を意味する。
図9】本発明による、マルチスライス入力における様々な設定を有するモデルを使用した基準、入力及び再構成結果を示し、(A)標準線量、(B)低線量、(C)単一スライス、(D)3つのスライス、(E)5つのスライス、(F)7つのスライス、について示す。
図10A】本発明による、様々な数の入力スライスで訓練されたネットワークの類似性メトリックを示す。
図10B】本発明による、様々な数の入力スライスで訓練されたネットワークの類似性メトリックを示す。
図10C】本発明による、様々な数の入力スライスで訓練されたネットワークの類似性メトリックを示す。
図11A】本発明の研究における9人の被験者の全員にわたって、平均NRMSE、PSNR、及びSSIMにより評価された、異なる深さを有していないネットワークの性能を示す。
図11B】本発明の研究における9人の被験者の全員にわたって、平均NRMSE、PSNR、及びSSIMにより評価された、異なる深さを有していないネットワークの性能を示す。
図11C】本発明の研究における9人の被験者の全員にわたって、平均NRMSE、PSNR、及びSSIMにより評価された、異なる深さを有していないネットワークの性能を示す。
図12】本発明による、PETを予測するためのディープラーニング作業フローを使用した実験結果を示す。
図13】本発明による、FDG-PETの予測の視覚化を示す。
図14】本発明の一実施形態による、MRIから合成されたアミロイド-PETを示す。
図15】本発明の一実施形態によるプロセスのフロー図を示す。
【発明を実施するための形態】
【0022】
陽電子放射断層撮影法(PET)は、癌診断、心疾患、及び神経障害を含む様々な臨床用途に広く用いられている。PET画像化における放射性トレーサの使用は、放射線被曝のリスクに起因して懸念を生じさせる。PET画像化におけるこの潜在的リスクを最小限に抑えるために、放射性トレーサの使用量を減らす努力がなされてきた。しかしながら、放射線量を低くすると、信号対ノイズ比(SNR)の低下、及び情報の損失が生じ、それらは両方とも臨床診断に大きく影響する。同様に、低線量PET画像再構成の悪条件は、反復再構成アルゴリズムにおける難しい問題である。従来の提案方法は一般的に複雑で遅く、しかも、有意に低い放射線量では、依然として満足な結果を得ることができない。本発明は、この問題を解決するべく、連結スキップ接続を有するエンコーダ-デコーダ残差ディープネットワークを用いたディープラーニング法を提供する。実験により、本発明が、200分の2の線量だけで、低線量PET画像を標準線量品質に再構成することが分かった。訓練モデルのための様々なコスト関数(目的関数)が開示される。マルチスライス入力の実施形態により、ネットワークにより多くの構造情報を提供し、ネットワークをノイズに対してよりロバストにすることが説明される。また、同時PET/MRIから取得されたマルチコントラストMRIも、ネットワークの性能を改善するためにネットワークに提供される。超低線量臨床データの評価は、本発明が最先端の方法よりも良好な結果を達成し、元の通常線量の0.5%だけを使用して同等の品質を有する画像を再構成することを示す。
【0023】
本発明によれば、マルチコントラストMRIを用いることにより、本発明のモデルの一態様の性能が改善される。完全畳み込みエンコーダ-デコーダ残差ディープネットワークモデルを使用したディープラーニング法を用いて、超低線量画像(99.5%低減またはDRF=200)から標準線量PET画像を再構成した。これは、高い低減率での、インビボPETデータセットを使用した超低線量PET再構成を可能にするので有益である。
【0024】
さらに説明するために、標準線量の18F-フルオロデオキシグルコース(FDG)(370MBq)で、同時飛行時間可能PET/MRIシステム(SIGNA、GE Healthcare)により取得された、膠芽腫(GBM)を有する8人の患者からPET/MRI画像をセットアップする例示的データセット及び実験が開示される。画像は、注入の45分後から約40分間取得した。各スキャン毎に、生のカウントリストモードデータセットを記憶し、次いで、カウントイベントの0.5%を単純にランダムに選択することによって、DRF=200で合成された低線量生データを生成し、それを全取得期間にわたって一様に広げた。次に、標準的なOSEM法(28個のサブセット、2回の反復)を用いて、DRF=1(標準的な全線量)及びDRF=200(目標低線量)で取得したデータからPET画像を再構成した。本発明によるシステムは、4倍の低減を超えて、10倍、100倍~200倍の低減、またはさらには放射線を完全に除去し、MRIからゼロ線量画像を生成することに留意されたい。
【0025】
各患者は、3回の独立したスキャンを受けた。再構成された各3D PETデータのサイズは、25625689である。上部と下部に空気のスライスがあり、これは除去される。過剰適合を避けるために、より大きなデータセットをシミュレートするために、訓練プロセス中にデータ水増しが用いられた。画像は、ネットワークに入力される前に、x軸及びy軸に沿ってランダムに反転され、転置された。
【0026】
ディープラーニングに基づく低線量PET再構成のために、本発明は、DRF=200の画像からDRF=1の画像を再構成するのを学習するモデルを訓練するために提供される。
【0027】
図2Aは、互いに対応するステージ間の対称連結接続を有するエンコーダ-デコーダ構造に基づく完全畳み込みネットワークの一実施形態を示す。提供されるネットワーク構造は、セグメンテーションタスクの代わりに画像合成タスクの改良型を使用する点が、UNet構造とは異なる。具体的には、各ステージは、3×3のカーネルを有する畳み込み、バッチ正規化、及び正規化線形ユニット(ReLU)を含む残差ブロックである。ステージ間のダウンサンプリング及びアップサンプリングは、それぞれ、2×2の最大プーリング及び双線形補間によって行われる。画像をダウンサンプリングし、その後にアップサンプリングすることにより、このネットワークは、画像からマルチスケール及び高レベルのフィーチャを抽出することができる。低線量PET画像再構成タスクは、画像ノイズ除去に類似しており、それは低レベル視覚問題のカテゴリー内にあり、エンコード-デコード処理のみを使用した場合には解像度損失を受けやすい。したがって、画像の局所的な情報及び解像度を保持するために、連結接続が追加される。
【0028】
図2Bは、マルチモダリティ入力としての低線量PET画像及びそれに対応するマルチコントラストMR画像から、標準線量PET画像を生成するように訓練されるディープネットワークを示す。図示のように、N個のCNNステージが存在し、各ステージは、K×Kのカーネルを有するM個の畳み込み層を含むブロックである。結果は、N=7、M=2、K=3の設定について示されている。画像をダウンサンプリングし、その後にアップサンプリングすることにより、このネットワークは、画像からマルチスケール及び高レベルの特徴を抽出することができる。対称連結接続を用いることにより、高解像度の情報が保持され、その結果、ネットワークパフォーマンスが向上する。
【0029】
残差学習が、非常に深いCNNを訓練する場合の性能劣化を避ける技術として、CNNに最初に導入された。アイデンティティと残差部分とを分離することにより、ニューラルネットワークをより効果的かつ効率的に訓練できることが分かった。元々は、残差学習は画像認識タスクにおいて使用されており、その後、残差学習を使用する最初のノイズ除去畳み込みネットワークであるDnCNNが提案された。持続的相同性分析により、CTアーチファクトの残差マニホールドが非常に単純な構造を有することが分かった。本発明のネットワークは、標準線量PET画像を直接生成するための学習の代わりに、残差接続を入力から出力へ直接的に追加することにより残差学習技術を用いることによって、標準線量画像出力と低線量画像入力との間の差異を学習することを試みる。本発明の一態様は、残差学習により、低線量PET再構成問題についてのネットワーク性能の有意な改善も達成できることを示す。
【0030】
本発明のいくつかの実施形態では、マルチスライスが、システムへの入力として使用され得る。このことは有益である。なぜならば、低線量画像のみをニューラルネットワークの入力として使用すると、標準線量のカウンターパートを再構成するのに十分な情報が得られない可能性があるからである。図1に示すように、ノイズと脳構造とを区別するための情報が不足した場合、ネットワークは、線量低減に起因するノイズを完全に除去することができない。この問題を解決するために、単一スライス入力の代わりにマルチスライス入力が使用される。すなわち、互いに隣接するスライスが別個の入力チャネルとしてスタックされる。一般的に、マルチスライス入力は、フィーチャ水増しの一種と見なすことができる。脳の構造は決定論的であるため、互いに隣接するスライスは、ランダムな別個のノイズを有するが、同様の構造を共有し得る。したがって、互いに異なるスライスを入力として組み合わせることにより、ネットワークに2.5Dの構造情報を提供することができ、これを使用して、ランダムなノイズを一貫した構造から区別することができる。任意の数の互いに隣接するスライスが使用され得る。例えば、少なくとも2、3、4、5、6、7、8、9、10、またはそれ以上の数の互いに隣接するスライスが入力として使用され得る。一例が図3に示されている。低線量PET画像では、ズームされた部分に黒色のノイズが存在し、これは除去できず、単一スライス入力で訓練されたネットワークでは、構造としてハルシネート(hallucinate)される。一方、3スライス入力で訓練されたネットワークでは、図3(D)に示すように、より良い結果を実現することができる。2.5Dマルチスライス入力による訓練は、3D畳み込みネットワークによる訓練とは異なる。なぜならば、前者のソリューションは、より少ないパラメータ及びより高い効率を有する3D畳み込みの深さ方向の演算を行うからである。
【0031】
マルチコントラストMRIを使用するために、互いに異なる2つのMRコントラスト、T1及びFLAIRが、本発明の一実施形態で使用される。同時に取得されたPET画像及びMR画像は、互いに同一の座標系に存在するが、互いに異なる解像度を有し得る。
【0032】
この問題を解決するために、MR画像は、アフィンレジストレーション(affine registration)を用いて対応するPET画像にレジスタされる。マルチコントラストMRIは、チャネル軸に沿って、後述するマルチスライス入力と連結される。マルチコントラスト画像としては、これに限定しないが、T1w MR画像、T2w MR画像、FLAIR MR画像、拡散MR画像、灌流MRI画像(動脈スピンラベル標識シーケンスなど)、磁化率MR画像、MRベースの減衰補正マップ、MR水-脂肪画像、CT画像、及びCTベースの減衰補正マップが挙げられる。
【0033】
損失関数の選択に関して、平均二乗誤差(MSE)またはL2損失は、依然として、画像復元問題、例えば超解像またはノイズ除去のための訓練ネットワークにおける損失関数の最も一般的な選択である。損失関数としてのMSEの使用は、付加的な白色ガウスノイスの仮定の下であり、これは、画像の局所的フィーチャと無関係であるべきである。しかし、これは一般的に、低線量PET再構成には有効ではない。PET画像の強度は被験者の体内でのトレーサの活動分布を反映し、ノイズは各検出器のカウントに関連する線量低減から生じるので、ノイズと空間情報は互いに無関係ではない。加えて、MSE損失は、人間の視覚系との関連は低く、斑状アーチファクトを生じるため、臨床評価に関連するタスクには不適切であり得る。
【0034】
従来型のMSE以外にも、再構成画像とグランドトゥルース画像との間の画像類似性を評価するために使用することができる別の損失関数もある。L1損失は、2つの画像の平均絶対誤差であり、下記のように定義することができる。
【0035】
【数1】
【0036】
式中、N及びMはそれぞれ、画像の行数及び列数であり、xij及びyijは、2つの画像における画素(i、j)での強度を示す。構造的類似性及び知覚的類似性を評価するために、構造的類似性指数(SSIM)及びマルチスケール構造的類似性指数(MS-SSIM)が提案され、それらは下記のようにして推定することができる。
【0037】
【数2】
【0038】
C1及びC2は、定数である。μ、μ、σ、及びσxyは、画素(i、j)を中心としたパッチにおいて算出された画像統計量である。Kは、マルチスケールのレベルの数である。
【0039】
最近の研究は、L1、SSIM、MSSSIMが画像生成モデルにおいてより知覚的に好ましいことを示唆している。これらの3つの選択肢の中で、L1損失は、L2損失により生じるパッチ状アーチファクトを回避できるだけでなく、SSIM及びMS-SSIMと比較して誤差逆伝搬におけるオーバヘッドがほとんど追加されない。したがって、以下の実験例では、訓練手順の損失関数としてL1損失が選択される。
【0040】
計算環境とハードウェア設定に関しては、全ての計算作業は、2台のNVIDIA GTX1080Ti GPUを搭載したUbuntuサーバ上で行った。本発明のネットワークは、TensorFlowに実装される。RMSpropオプティマイザが実験に使用され、学習速度は1×10-3で初期化し、2.5×10-4まで徐々に減少させた。このネットワークは、120エポック数にわたって訓練された。畳み込みカーネルを、0平均と標準偏差0.02を有する切断ガウス分布で初期化した。全てのバイアスは、0で初期化した。
【0041】
本発明の方法の性能を評価し、新規データセット、特に異なる病理学を有する新規患者データ、に対する本方法の汎化(一般化)を実証するために、一個抜き交差検証(LOOCV)を使用した。患者データセットの各々に対し、別の8人の患者のみで訓練したモデルを使用して、全線量の再構成画像を作成した。LOOCV結果の統計を用いて、本発明の一実施形態によるモデルの汎化誤差を定量化した。画像品質を定量的に評価するために、正規化二乗平均誤差(NRMSE)、ピーク信号対ノイズ比(PSNR)、及びSSIMを含む3つの類似性メトリクスを使用した。SSIMは、上記の式(4)で定義され、NRMSE及びPSNRは下記のように定義される。
【0042】
【数3】
【0043】
式中、MAXは、画像のピーク強度である。メトリック計算結果を実際の臨床評価とより良好に一致させるために、画像サポートを用いて推定した脳マスクを適用した後に、全ての類似性メトリクスを計算した。
【0044】
次に結果に目を向けると、他の方法との比較から始めて、本発明の方法を、低線量PET再構成における3つの最先端のノイズ除去方法である、NLM、BM3D及び自動コンテキストネットワーク(AC-Net)と比較した。これらの方法を評価するために、交差検証を行った。
【0045】
図4は、全ての被験者のNRMSE、PSNR、及びSSIMに関する平均性能を示す。また、図5は、8人の被験者の全てについての、一個抜き試験における上記の3つのメトリックのスコアを示す。
【0046】
知覚画質を調べるために、別個の被験者から2つの代表的スライスを選択した。選択されたスライスのNRMSE、PSNR、及びSSIMに関する定量的メトリックを表Iに示す。再構成結果、拡大された腫瘍が、図6及び図7に視覚的に示される。
【0047】
【表1】
【0048】
いくつかの実施形態では、ネットワークは、スキップ接続コンポーネントを使用することができる。ネットワークは、1以上のスキップ接続コンポーネントを使用することができ、1以上のスキップ接続コンポーネントは、同一の種類であってもよいしそうでなくてもよい。例えば、ネットワークは、2種類のスキップ接続を有すことができる。その場合、一方は、入力から出力への残差接続であり、他方は、互いに対応するエンコーダ層とデコーダ層との間の連結接続である。これらの2種類のスキップ接続がネットワーク性能に与える影響を評価するために、次の4種類のモデルを訓練し試験した。(1)両方の種類のスキップ接続を有するモデル、(2)連結接続のみを有するモデル、(3)残差接続のみを有するモデル、(4)スキップ接続を有さないモデル。図7は、トレーニング中のこれらの4つのモデルの互いに異なるテスティングロス(testing loss)を示し、交差検証の定量的結果を図8に示す。
【0049】
上述したように、マルチスライス入力を使用して、互いに隣接するスライスからの情報を組み合わせることにより、ネットワークは、元の構造及び詳細をロバストに保持しながら、ノイズ及びアーチファクトの少ない再構成画像をより正確に生成することができる。
【0050】
この技術の限界を研究するために、互いに異なる数の入力スライス(1、3、5、7)を有するネットワークを訓練し、図9A図9Fに示すように、それらの結果を比較した。
【0051】
図10は、ネットワークへの2.5D入力として様々なスライス数で訓練されたネットワークの3つの類似性メトリクスの結果を示す。3つのメトリックの発展は全て、より多くの入力スライス数を使用して、本発明の方法の性能向上を検証する。単一のスライス入力と比較すると、3つのスライス入力は、有意に良好な結果が得られる。しかしながら、3つ以上のスライスを連続的に追加することによるネットワークの性能向上は、有意ではなかった。同様の現象が、図9A図9Fに見られる。図9D図9Fは、図9Cでは失われているかまたはぼやけている詳細を含む。また、図9D図9Fは知覚的に似ている。
【0052】
ネットワークの深さに関して、本発明のネットワークを最適化するために、本発明のモデルの深さがネットワークの性能に与える影響を評価するための実験を行った。このネットワークの深さを制御するために、2つのハイパーパラメータ、すなわち、プーリング層の数(np)と、2つのプーリング間の畳み込みの数(nc)とを使用した。グリッド検索のストラテジーを用いた。実験例では、npは2から5まで変化させ、ncは1から3まで変化させた。結果を示す図11A図11Cは、np=3及びnc=2が、この実験例における最良のアーキテクチャであることを示唆する。
【0053】
SUV用のサンプルテストが提供される。
【0054】
【数4】
【0055】
得られた画像の知覚画質を評価するために、専門の放射線科医に依頼して、画質と解像度に基づいて画像を評価した。各画像を、1~5のスケール(大きいほど良好)で評価した。画像評価を1~3と4~5とに二分し、4~5に評価された画像の割合を各画像の種類毎(II)に計算した。高線量画像に対する合成画像の非劣性試験を、高評価の割合の差について95%信頼区間(III)を構築し、この区間の下限を-15ポイントの非劣性マージンと比較することによって実施した。これにより、合成画像の高評価の割合が、高線量画像の高評価の割合よりも15パーセントポイント以下であるか否かを試験した(有意水準は0.05)。統計解析は、Stata 15.1(米国テキサス州カレッジステーションのStataCorp LP)及びRバージョン3.3.1(r-project.org)を、バージョン1.3のExactCIdiffパッケージと共に使用して実施した。
【0056】
【表2】
【0057】
【表3】
【0058】
本発明による方法の臨床診断への効果を研究するために、病変に対するセグメンテーション試験も実施した。8人の被験者のうちの7人がこの試験に含まれた。残りの被験者に集積増加像(hot lesion)が観察されなかったためである。腫瘍の輪郭は、放射線科医によって、標準線量画像、DRF=100でのディープラーニング(MRの有無にかかわらず)再構成画像上で標識化された。標準線量画像上のセグメンテーション結果は、この試験におけるグランドトゥルースとしての役割を果たす。最初の標識化から3週間後に、同一の放射線科医によって、標準線量画像の輪郭の再検査を行った。DICE、精度、リコール、及び面積差を含むいくつかの指標を算出し、それらの算出結果を表IVに示す。加えて、DICE係数、精度、再現性、及び面積差に基づいてT検定を行った。
【0059】
【表4】
【0060】
図4及び図5の定量的結果により、本発明の方法が、試験した他の方法と比較して、データセットの8人の被験者の全てにおいて最良の性能を示したことが分かる。視覚的結果から、本発明の方法が最高の画質を有することも示唆される。NLMは、図6Cに示すように、画像内にパッチ状のアーチファクトを生成する。BM3D及びAC-Netの両方は、低線量画像のノイズを完全に除去することができず、図6D及び図6Eに示すように、重要な詳細を復元することなく画像を過度にぼかす傾向がある。図8のエラーマップからも、同様の結論が得られる。加えて、本発明の方法は、図7に示すように、GBMの領域において最良の知覚的結果を達成することができる。
【0061】
計算コストに関しては、ディープラーニングは訓練に長い時間を必要とするが、それらの推論における効率は、Tensorflowによる効率的実装及びGPU上の並列化に起因して、従来の方法よりも性能が大幅に優れている。256×256の画像についての各方法の時間消費を表Vに示す。他の方法と比較して、本発明によるソリューションは、より正確であるだけでなく、より効率的でもある。
【0062】
【表5】
【0063】
エンコーダ-デコーダ構造により、ネットワークがより多くのパラメータ及びチャネルを用いて、AC-Netで使用される単一スケールモデルと比較して、計算時間を短縮すると共に、より高いレベルのフィーチャを抽出することが可能となる。
【0064】
図8A図8Cに示した結果のように、両方の種類のスキップ接続を有するモデルでは、最高の性能が明らかに達成される。一方、1種類のスキップ接続のみを有するモデルでは、その性能はスキップ接続を有さないモデルの性能に近いか、またはそれよりも悪くさえある。これらの結果は、これらの2種類の接続が、互いに無関係でないことを示す。
【0065】
マルチスライス入力を組み合わせるための様々なオプションを用いた定量的再構成及び定性的再構成の両方の比較が提供される。図9Cの詳細な構造は、ノイズ除去プロセス中はぼやけているが、図9D図9Fでは保持されており、これらは、マルチスライス入力の利点を示す。
【0066】
z軸方向に沿った3D PETデータの解像度は、軸位像内よりも悪いので、z軸に沿っていくつかのスライスを積層させることにより、3D空間関係を復元することができる。本明細書に示すように、データ水増しによる2.5Dスライスからの有意な性能改善は、3スライスを使用することによってのみ提供され、入力としてより多くのスライスを使用しても性能はさらに改善されない。この結果は、スライス間で利用できる関係性及び冗長性が距離に起因して最終的に消失するまで、別個のスライスの構造的類似性が持続するという仮定と一致する。
【0067】
本明細書で提供されるように、超低線量PET再構成のためのディープ完全畳み込みネットワークであって、マルチスケールエンコーダ-デコーダ構造、連結接続、及び残差学習を用いるネットワークが提示される。
【0068】
この結果は、本発明の方法が、高品質PET画像の再構成において優れた性能を有し、標準線量PET画像と同等の品質を生成することを示した。本発明の方法は、解像度と詳細な構造をロバストに保持しながら、ノイズを有意に低減させる。
【0069】
加えて、本明細書では、本発明の方法の様々な構成要素、すなわち、損失関数、2.5Dマルチスライス入力、並びに、連結及び残差スキップ接続などの設計が、改善された性能に対してどのように寄与するかを示す。詳細な定量的及び定性的比較により、本発明の方法が、構造をより良好に保持し、ノイズ及びアーチファクトに起因するハルシネーション(hallucination)を回避できることが証明された。
【0070】
広範囲の比較により、本発明の方法は、通常線量の0.5%の超低線量PETデータから、従来の方法と比較して有意に良好な再構成を達成し、より安全でより効率的なPETスキャンを潜在的に可能にする。
【0071】
上述したように、MRIは、造影剤または放射線を使用することなく軟部組織を識別するための大きな臨床的価値を有する。MRI及びPETからのハイブリッドモダリティ情報を使用することによって、本発明は、コントラストのないマルチコントラストMRI画像から(PETで測定されるような)代謝活性マッピングを予測するためのディープラーニングシステム及び方法を提供する。以下に示され検証されるのは、FDG-PET/MRI及びアミロイド-PET/MRI臨床データセットの臨床データセットである。この技術は、ディープラーニングを使用した、より効率的かつ低コストのマルチトレーサ機能イメージングに使用することができる。この方法では、同時PET/MRIデータセット(FDG-PET/MRI及びアミロイド-PET/MRI)を、同時飛行時間可能3.0テスラPET/MRIシステム(米国ウィスコンシン州ウォーキシャのSigna、GE Healthcare)を使用した神経検査により取得した。データセットは、FDG-PET/MRIについては10人の膠芽腫(GBM)患者、そして、アミロイド-PET/MRIについては別の20人の被験者(健常対照とAD患者の両方を含む)から収集した。ディープラーニングモデルが図12に示されており、このディープラーニングモデルでは、PET画像のように代謝情報を予測するために、ASL画像、FLAIR画像、T1w MR画像、及びT2w MR画像を含む、コントラストフリーのMRIスキャンにおいて取得された画像のサブセットを使用した。ASL及び他の解剖学的MRIスキャンを入力として使用し、PETから測定された正規化代謝活性をグランドトゥルース基準として用いることにより、近似代謝信号を出力するためにU-Netディープネットワークモデルを訓練した。さらに、5回の交差検証による評価を用いて、モデルが被験者の80%のサブセットで訓練され、残りの20%のデータセットに適用される性能を定量化した。性能は、定量的類似性メトリクス:PSNR、SSIM、及び正規化相互情報量(MI)を用いて評価した。
【0072】
表VIは、FDG-PETを用いて最初に測定されたグランドトゥルース代謝活性化と、本発明の方法及びシステムを用いて推定された代謝マップと、全ての生のMRI画像との間の定量的類似性メトリクスを示す。
【0073】
【表6】
【0074】
図13は、GBM集積低下像(cold-lesion)を有する軸方向スライスの可視化された結果を示し、代謝活性化を正確に予測することができる本発明の提案されたシステム及び方法を示す。平均して、推定されたFDG活性化様代謝は、PSNRで34.3±1.5dB、SSIMで0.97±0.01、相互情報量で0.85±0.13の良好な近似を達成した。比較のために、PETと最も類似したMRIコントラストであるASL-MRI信号の回帰からのメトリクスは、PSNRでは23.5dB、SSIMでは0.78、MIでは0.51である。アミロイドPETのように情報をマッピングするためにMRIを使用することについては、同様の結果が示されている。図13は、MRIからのアミロイド-PETについて正確な近似を示す例示的スライスを示す。本発明のシステム及び方法により、PSNRにおいて10dB以上の向上を達成し、0.3以上のSSIM改善を達成することができる。
【0075】
図14は、本発明の一実施形態による、MRIから合成されたアミロイド-PETを示す。図15は、本発明の一実施形態によるプロセスのフロー図を示す。
【0076】
同時PET/MRIを用いて、本発明はコントラストのないMRI画像からマルチトレーサ代謝バイオマーカーを実行可能に推定することが実証される。これは、より効率的かつ低コストでのマルチトレーサ機能イメージング、解剖学的-機能関係の調査、及びワークフローの改善に使用することができる。
【0077】
以上、本発明をいくつかの例示的な実施形態により説明したが、これらの実施形態は、全ての態様において例示的であることを意図しており、本発明を限定するものではない。したがって、本発明は、詳細な実施において、当業者が本明細書中の説明から想到し得る様々な変形が可能である。
【0078】
このような変形は全て、添付された特許請求の範囲及びその均等物によって定義された本発明の範囲及び精神の範囲内に含まれるものとする。
図1
図2A
図2B
図3
図4A
図4B
図4C
図5A
図5B
図5C
図6
図7
図8A
図8B
図8C
図9
図10A
図10B
図10C
図11A
図11B
図11C
図12
図13
図14
図15