(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-02-21
(45)【発行日】2025-03-04
(54)【発明の名称】デュアルエネルギーCTデータを補間するシステム及び方法
(51)【国際特許分類】
A61B 6/03 20060101AFI20250225BHJP
【FI】
A61B6/03 550F
A61B6/03 573
A61B6/03 560T
【外国語出願】
(21)【出願番号】P 2023177950
(22)【出願日】2023-10-16
【審査請求日】2024-05-31
(32)【優先日】2023-02-03
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】319011672
【氏名又は名称】ジーイー・プレシジョン・ヘルスケア・エルエルシー
(74)【代理人】
【識別番号】100105588
【氏名又は名称】小倉 博
(74)【代理人】
【識別番号】100129779
【氏名又は名称】黒川 俊久
(74)【代理人】
【識別番号】100151286
【氏名又は名称】澤木 亮一
(72)【発明者】
【氏名】ビパル・ダス
(72)【発明者】
【氏名】ウトカーシュ・アグラウォル
(72)【発明者】
【氏名】プラサッド・スッダカラ・ムーシー
(72)【発明者】
【氏名】重政 理沙
(72)【発明者】
【氏名】緒方 研太郎
(72)【発明者】
【氏名】今井 靖浩
【審査官】蔵田 真彦
(56)【参考文献】
【文献】特開2020-099662(JP,A)
【文献】特開2021-040991(JP,A)
【文献】特開2022-188750(JP,A)
【文献】特開2022-140410(JP,A)
【文献】特開2022-161857(JP,A)
【文献】国際公開第2023/003924(WO,A1)
【文献】米国特許出願公開第2018/0182129(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 6/00-6/58
G06T 1/00-19/20
(57)【特許請求の範囲】
【請求項1】
撮影対象の第1のサイノグラム及び第2のサイノグラムを取得すること(302,304)であって、前記第1のサイノグラムは複数のビューが欠落しており、前記第2のサイノグラムは異なる複数のビューが欠落しており、前記第1のサイノグラムはスキャン中に第1のX線源エネルギーで取得され、前記第2のサイノグラムは前記スキャン中に異なる第2のX線源エネルギーで取得される、第1のサイノグラム及び第2のサイノグラムを取得すること、
前記第1のサイノグラムを前記第2のサイノグラムの情報で初期化(306)して、第1の初期化されたサイノグラムを形成すること
であって、前記第1のサイノグラムを初期化することは、
前記第1のサイノグラムを演算及びダウンサンプリングの第1のセットによって処理して(608)、特徴の第1のセットを生成すること、
前記第2のサイノグラムを演算及びダウンサンプリングの第2のセットによって処理して(608)、特徴の第2のセットを生成すること、
特徴の第1のセットと特徴の第2のセットを第1の特徴ミキサによって混合して(610)、混合された特徴のセットを形成すること、
前記第1の特徴ミキサによって得られた混合された特徴のセットをアップサンプリングして(612)、前記第1の初期化されたサイノグラムを形成すること、を含む第1の初期化されたサイノグラムを形成すること、
前記第2のサイノグラムを前記第1のサイノグラムの情報で初期化(306)して、第2の初期化されたサイノグラムを形成すること
であって、前記第2のサイノグラムを初期化することは、
前記第1のサイノグラムを演算及びダウンサンプリングの第3のセットによって処理して(608)、特徴の第3のセットを生成すること、
前記第2のサイノグラムを演算及びダウンサンプリングの第4のセットによって処理して(608)、特徴の第4のセットを生成すること、
特徴の第3のセットと特徴の第4のセットを第2の特徴ミキサによって混合して(610)、混合された特徴のセットを形成すること、
前記第2の特徴ミキサによって得られた混合された特徴のセットをアップサンプリングして(612)、前記第2の初期化されたサイノグラムを形成すること、
を含む、第2の初期化されたサイノグラムを形成すること、
前記第1の初期化されたサイノグラムを、前記第1の初期化されたサイノグラムに基づいて第1の充填されたサイノグラムを出力するように訓練された補間モデルに入力し(312)、前記第2の初期化されたサイノグラムを、前記第2の初期化されたサイノグラムに基づいて第2の充填されたサイノグラムを出力するように訓練された前記補間モデル又は別の補間モデルに入力する(312)こと、及び
前記第1の充填されたサイノグラム及び前記第2の充填されたサイノグラムから1つ又は複数の画像を再構成する(318)こと
を含む方法。
【請求項2】
前記第1の初期化されたサイノグラムを前記補間モデルに入力し、前記第2の初期化されたサイノグラムを前記補間モデル又は別の補間モデルに入力することは、前記第1の初期化されたサイノグラム及び前記第2の初期化されたサイノグラムの両方を前記補間モデルに入力する(314)ことを含み、前記補間モデルは、前記第1の充填されたサイノグラム及び前記第2の充填されたサイノグラムの両方を出力するように訓練されたデュアルチャネル出力モデルを含む、請求項1に記載の方法。
【請求項3】
前記第1の初期化されたサイノグラムを前記補間モデルに入力し、前記第2の初期化されたサイノグラムを前記補間モデル又は別の補間モデルに入力することは、前記第1の初期化されたサイノグラムを前記補間モデルに入力し(316)、前記第2の初期化されたサイノグラムを別の補間モデルに入力することを含み、前記補間モデルは、前記第1の充填されたサイノグラムを出力するように訓練された第1の単一チャネル出力モデルを含み、別の補間モデルは、前記第2の充填されたサイノグラムを出力するように訓練された第2の単一チャネル出力モデルを含む、請求項1に記載の方法。
【請求項4】
前記第1のサイノグラムから欠落した複数のビューは、取得されたビューの複数のセットと交互に並ぶ連続する欠落したビューの複数のセットを含み、前記第1のサイノグラムを初期化する(310)ことは、連続する欠落したビューの複数のセットの連続する欠落したビューの各セットに対して、前記第2のサイノグラムから相補的なビューを特定すること、前記第2のサイノグラムの相補的なビューの各ビューのサイノグラムデータをスケーリングすること、及びそれぞれのスケーリングされたサイノグラムデータで連続する欠落したビューの各セットを充填して、第1の初期化されたサイノグラムを形成することを含む、請求項1に記載の方法。
【請求項5】
特徴の第1のセットは、前記第1のサイノグラムに対応する高次元の特徴を含
み、
特徴の第2のセットは、前記第2のサイノグラムに対応する高次元の特徴を含
み、
特徴の第3のセットは、前記第1のサイノグラムに対応する高次元の特徴を含み、
特徴の第4のセットは、前記第2のサイノグラムに対応する高次元の特徴を含む、請求項1に記載の方法。
【請求項6】
前記補間モデルは、処理された最終の特徴セットが形成されるまで、前記第1の初期化されたサイノグラムから抽出された特徴をプログレッシブに処理するように構成されたエンコーダアーム(1002)を含む、請求項1に記載の方法。
【請求項7】
前記補間モデルが、ボトルネック層(1010)又は超解像層(1110)を更に含む、請求項6に記載の方法。
【請求項8】
前記補間モデルは、最終の拡張された特徴セットが形成されるまで、処理された最終の特徴セットをプログレッシブに処理するように構成されたデコーダアーム(1012)を更に含み、前記最終の拡張された特徴セットが出力層を通過して、前記第1の充填されたサイノグラムを形成する、請求項6に記載の方法。
【請求項9】
前記エンコーダアームは、処理された各特徴セットを前記デコーダアームに渡すように構成され、前記デコーダアームは、処理された各特徴セットを用いて、処理された最終の特徴セットをプログレッシブに処理するように構成される、請求項8に記載の方法。
【請求項10】
前記補間モデルは、複数の損失関数を用いて訓練され、各損失関数は、前記デコーダアームのプログレッシブ処理のそれぞれの段階において、前記デコーダアームの出力から計算される、請求項9に記載の方法。
【請求項11】
撮影される被検体に向けてX線ビームを照射するX線源(104)、
前記被検体によって減衰したX線ビームを受け取る検出器(108)、
前記検出器に動作可能に接続されたデータ収集システム(DAS)(214)、及び
命令を記憶するメモリ及び前記命令を実行するように構成された1つ又は複数のプロセッサ(216)
を含み、前記命令は、
前記DASから前記被検体の第1のサイノグラム及び第2のサイノグラムを取得する(302,304)ことであって、前記第1のサイノグラムは複数のビューが欠落しており、前記第2のサイノグラムは異なる複数のビューが欠落しており、前記第1のサイノグラムはスキャン中に第1のX線源エネルギーで動作する前記X線源で取得され、前記第2のサイノグラムは前記スキャン中に異なる第2のX線源エネルギーで動作する前記X線源で取得される、第1のサイノグラム及び第2のサイノグラムを取得すること、
前記第1のサイノグラムを前記第2のサイノグラムの情報で初期化して(306)、第1の初期化されたサイノグラムを形成すること
であって、前記第1のサイノグラムを初期化することは、
前記第1のサイノグラムを演算及びダウンサンプリングの第1のセットによって処理して(608)、特徴の第1のセットを生成すること、
前記第2のサイノグラムを演算及びダウンサンプリングの第2のセットによって処理して(608)、特徴の第2のセットを生成すること、
特徴の第1のセットと特徴の第2のセットを第1の特徴ミキサによって混合して(610)、混合された特徴のセットを形成すること、
前記第1の特徴ミキサによって得られた混合された特徴のセットをアップサンプリングして(612)、前記第1の初期化されたサイノグラムを形成すること、を含む第1の初期化されたサイノグラムを形成すること、
前記第2のサイノグラムを前記第1のサイノグラムの情報で初期化して(306)、
第2の初期化されたサイノグラムを形成すること
であって、前記第2のサイノグラムを初期化することは、
前記第1のサイノグラムを演算及びダウンサンプリングの第3のセットによって処理して(608)、特徴の第3のセットを生成すること、
前記第2のサイノグラムを演算及びダウンサンプリングの第4のセットによって処理して(608)、特徴の第4のセットを生成すること、
特徴の第3のセットと特徴の第4のセットを第2の特徴ミキサによって混合して(610)、混合された特徴のセットを形成すること、
前記第2の特徴ミキサによって得られた混合された特徴のセットをアップサンプリングして(612)、前記第2の初期化されたサイノグラムを形成すること、
を含む、第2の初期化されたサイノグラムを形成すること、
前記第1の初期化されたサイノグラムを、前記第1の初期化されたサイノグラムに基づいて第1の充填されたサイノグラムを出力するように訓練された補間モデルに入力する(312)こと、
前記第2の初期化されたサイノグラムを、前記第2の初期化されたサイノグラムに基づいて第2の充填されたサイノグラムを出力するように訓練された前記補間モデル又は別の補間モデルに入力する(312)こと、及び
前記第1の充填されたサイノグラム及び前記第2の充填されたサイノグラムから1つ又は複数の画像を再構成する(318)こと
を実行するための命令である、イメージングシステム。
【請求項12】
前記第1のサイノグラムから欠落した複数のビューは、取得されたビューの複数のセットと交互に並ぶ連続する欠落したビューの複数のセットを含み、前記第1のサイノグラムを初期化することは、前記第1の初期化されたサイノグラムは、取得されたビューの複数のセットと交互に並ぶ連続する初期化されたビューの複数のセットを含むように、前記第2のサイノグラムの情報を前記第1のサイノグラムの欠落した各ビューに加えることを含む、請求項11に記載のシステム。
【請求項13】
前記補間モデルは、
前記第1の初期化されたサイノグラムから抽出された特徴を、複数の処理段階を通じてプログレッシブに処理して(804)、連続する初期化されたビューの各セットが1つの初期化されたビューのみを含む処理された最終の特徴セットを形成すること、及び
最終の拡張された特徴セットが形成され、出力層を通過して、前記第1の充填されたサイノグラムが形成されるまで、他の複数の処理段階を通じて、前記処理された最終の特徴セットをプログレッシブに処理する(808)、請求項12に記載のシステム。
【請求項14】
前記補間モデルは複数の損失関数で訓練され、各損失関数は、それぞれの他の処理段階で計算される、請求項13に記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書に開示された対象の実施形態は、医用イメージングに関し、より詳細には、デュアルエネルギーCTデータにおける欠落したビューの補間に関する。
【背景技術】
【0002】
ある種のコンピュータ断層撮影(CT)イメージングシステムは、デュアルエネルギーCTイメージングシステムなど、複数のX線源エネルギーで動作することができる。デュアルエネルギーCTイメージングシステムでは、X線源エネルギーを、例えば、高エネルギーと低エネルギーとの間でスキャン中に複数回切り替えることができる。その結果、スキャン中に取得された全ビューの一部が低エネルギーで取得され、残りのビューが高エネルギーで取得されることになり、各エネルギーレベルは完全なビューデータよりも少ないビューデータしか有していないことになる。欠落したビューは補間することができるが、補間することによって、画像アーチファクト及び/又は画質劣化につながる恐れがある。
【発明の概要】
【0003】
一実施例において、方法は、撮影対象の第1のサイノグラム及び第2のサイノグラムを取得することであって、前記第1のサイノグラムは複数のビューが欠落しており、前記第2のサイノグラムは異なる複数のビューが欠落しており、前記第1のサイノグラムはスキャン中に第1のX線源エネルギーで取得され、前記第2のサイノグラムは前記スキャン中に異なる第2のX線源エネルギーで取得される、第1のサイノグラム及び第2のサイノグラムを取得すること、前記第1のサイノグラムを前記第2のサイノグラムの情報で初期化して、第1の初期化されたサイノグラムを形成すること、前記第2のサイノグラムを前記第1のサイノグラムの情報で初期化して、第2の初期化されたサイノグラムを形成すること、前記第1の初期化されたサイノグラムを、前記第1の初期化されたサイノグラムに基づいて第1の充填されたサイノグラムを出力するように訓練された補間モデルに入力し、前記第2の初期化されたサイノグラムを、前記第2の初期化されたサイノグラムに基づいて第2の充填されたサイノグラムを出力するように訓練された前記補間モデル又は別の補間モデルに入力すること、及び出力された前記第1の充填されたサイノグラム及び出力された前記第2の充填されたサイノグラムから1つ又は複数の画像を再構成することを含む。
【0004】
上記の概要は、発明を実施するための形態に更に記載された概念から選択されたものが簡略化した形で記載されていることを理解されたい。これは、特許請求の範囲に記載された対象の重要な特徴又は本質的な特徴を特定することを意図するものではなく、特許請求の範囲は、発明を実施するための形態に続く特許請求の範囲によって独自に画定される。更に、特許請求の範囲に記載された対象は、上記又は本開示のいずれかの部分で記載された欠点を解決する実装態様に限定されることはない。
【図面の簡単な説明】
【0005】
本発明は、以下の発明を実施するための形態の非限定的な実施形態を、添付図面を参照しながら読むことにより、更に理解することができる。
【
図1】一実施例によるイメージングシステムの図である。
【
図2】一実施例によるイメージングシステムのブロック概略図である。
【
図3】デュアルエナジーサイノグラムの欠落したビューを補間する方法の一例を示すフローチャートである。
【
図4】欠落したビューを有するデュアルエナジーサイノグラムから単一の補間されたサイノグラムを生成するための第1の例のネットワークアーキテクチャを概略的に示す。
【
図5】欠落したビューを有するデュアルエナジーサイノグラムから2つの補間されたサイノグラムを生成するためのネットワークアーキテクチャの第2の例を概略的に示す。
【
図6】高エネルギーサイノグラムと低エネルギーサイノグラムを特徴レベルで混合する方法の一例を示すフローチャートである。
【
図7】エネルギーの異なる2つのサイノグラムの特徴を混合するための例示的なアーキテクチャを概略的に示している。
【
図8】シングルチャネルのマルチスケール補間モデルを用いてサイノグラムのビューを補間する方法の一例を示すフローチャートである。
【
図9】マルチスケール補間の例示的なプロセスを概略的に示す図である。
【
図10】マルチスケールビュー補間を実行するための第1の例の単一チャネルネットワークアーキテクチャを概略的に示す。
【
図11】マルチスケールビュー補間を実行するための第2の例のシングルチャネルネットワークアーキテクチャを概略的に示す。
【
図12】デュアルチャネルのマルチスケール補間モデルを用いて2つのサイノグラムのビューを補間する方法の一例を示すフローチャートである。
【
図13】マルチスケールビュー補間を実行するためのデュアルチャネルネットワークアーキテクチャの例を概略的に示す図である。
【
図14】本明細書に記載のシステム及び方法を用いて生成することができるCT画像の例を示す。
【
図15】本明細書に記載のシステム及び方法を用いて生成することができるCT画像の例を示す。
【発明を実施するための形態】
【0006】
以下の説明は、スパースビューの画像再構成、特に、デュアルエネルギー(DE)コンピュータ断層撮影(CT)イメージングシステムで取得された投影データの欠落したビューの補間のためのシステム及び方法の様々な実施形態に関する。DECTイメージングシステムは、スキャン中にX線源エネルギーを複数回切り替えることにより、撮影被検体の1回のスキャン中に異なる2つのX線源エネルギーで投影データを得るように構成することができる。エネルギースイッチングにより、高エネルギーの投影データ(例えば、高エネルギーのX線源で取得されたビュー)は、低エネルギーでは取得されたビューが欠落し、その逆(低エネルギーの投影データは、高エネルギーでは取得されたビューが欠落する)も生じる。一例として、完全なスキャンで1000ビューが取得される場合、500ビューは高いエネルギーで取得され、残りの500ビューは低いエネルギーで取得される。画像再構成中、投影データ/サイノグラムの各セット(例えば、高エネルギー投影データ及び低エネルギー投影データ)を使用して、例えば、基準物質画像を生成することができる。欠落したビューを補うために、投影データの各セット及び/又は再構成された画像に対して古典的又は幾何学的な補間を実施して、各エネルギーレベルについて欠落したビューを充填することができる。しかしながら、このアプローチでは、特に、2つ以上の連続したビューが、他のエネルギーレベルに切り替わる前に、1つのエネルギーレベルで取得される(その結果、2つ以上の連続した欠落したビューが補間される)、低速スイッチングのイメージングシステムの場合、しばしば、画像アーチファクト及び/又は画質劣化が生じる。
【0007】
したがって、本明細書で開示される実施形態では、マルチスケール階層型マルチタスキング深層学習フレームワーク(本明細書では、マルチスケール補間モデルと呼ぶ)を使用して、各サイノグラムの欠落したビューを補間する。提案されるモデル(又はネットワークアーキテクチャに応じたモデル)は、欠落したビューを有する低エネルギーサイノグラム及び高エネルギーサイノグラムを、独立して又は混合モードで入力として取り込み、欠落したビューが補間される(例えば、隣接するビューのデータに基づいたデータで充填される)ように、対応する低エネルギーサイノグラム及び高エネルギーサイノグラムを生成する。マルチスケール補間モデルは、マルチスケール勾配最適化に対してピラミッド構造を利用して、サイノグラム補間の各スケールにおいて、最も粗いスケールから、最も高い解像度における完全なサイノグラムの最も精細なスケールまで、高精度を確保することができる。これを達成するために、マルチスケール補間モデルは、(最終出力/最高解像度のサイノグラムで計算された単一の損失関数ではなく)各解像度レベルで計算された損失関数で訓練される。そうすることで、完成したサイノグラムを更に処理することなく、正確なサイノグラムを完成することができる。
【0008】
一部の例では、マルチスケール補間モデルに入力される初期サイノグラムは、高エネルギーサイノグラムと低エネルギーサイノグラムの両方からのデータを含むように処理され、低エネルギーサイノグラムの情報を使用して高エネルギーサイノグラムの欠落したビューを補間することができ、高エネルギーサイノグラムの情報を使用して低エネルギーサイノグラムの欠落したビューを補間することができる。
【0009】
例えば、異なるエネルギーで取得されたサイノグラムのセットであって、複数のビューが規則的な間隔で欠落しており、交互に切り替わるエネルギーが相補的に欠落したビューを持つようなサイノグラムのセットに対して、マルチスケール補間モデルを適用して、各サイノグラムの欠落したビューを補間することができる。モデルは、交互に切り替わるエネルギーからの相補的な情報を状況に応じてインテリジェントに使用し、教師あり手法で1つ又は両方のサイノグラムを完成させるように学習する。X線減衰の物理特性によって決まるが、異なる2つのエネルギーレベルで取得されたデータは、X線が通過する材料又は組織に基づいて、類似した値を持つ又は大きく異なる場合がある。一部の領域(水、軟組織、空気など)は同じような値を示すが、他の領域(骨、ヨード造影剤、金属など)は、低エネルギー(70/80kVpなど)と高エネルギー(120-140kVp)との間で同じような値ではない。低エネルギーでは減衰は主に光電効果によって決定され、高エネルギーでは減衰はコンプトン効果によって決定される。したがって、2つのエネルギーレベルの間の関係の変化は、本質的に非線形である。本明細書で開示されるモデルは、サイノグラムの相補性/相関性を利用して、各エネルギーレベルのサイノグラムを完成させるように構成することができる。一部の例では、モデルは、マルチタスクでデュアルチャネルの出力ネットワークを通じて、補正された低エネルギーのサイノグラムと補正された高エネルギーのサイノグラムの両方を同時に生成することができる。他の例では、2つのマルチスケール補間モデルが利用され、各マルチスケール補間モデルは、単一チャネル出力用に構成され、(低エネルギー又は高エネルギーの)サイノグラムを取り込み、補正された(低エネルギー又は高エネルギーの)サイノグラムを出力するように訓練される。
【0010】
一部の例では、モデルに入力される各サイノグラムは、他の(異なるエネルギーの)サイノグラムから相補情報を得るために、以下の方法で初期化することができる
(a)調整されない直接データ(例えば、一方のエネルギーレベルのサイノグラムの欠落したビューが他方のエネルギーレベルのサイノグラムの相補的なビューのデータで充填される)を使用する、
(b)グローバル統計量、(c)局所情報、(d)周波数若しくは特徴量によるガイダンスを使用して相補的データを調整する、又は
これらの初期化の1つ以上の組み合わせを使用する。
【0011】
グローバル統計量によって実行される初期化は、低エネルギーデータ統計量又は高エネルギーデータ統計量に基づいて、相補的な欠落したビューの投影データをスケーリングする。低エネルギーデータの場合、欠落したビューは、対応する高エネルギーデータをスケーリングすることにより取得されたデータであって、補間データと目標データの統計量を使用して計算されたデータで充填される。例えば、低エネルギーデータではビュー1-4が欠落している場合、欠落したビュー1-4は、高エネルギーで取得されたビュー1-4からのデータをスケーリングすることにより取得されたデータで充填することができる。高エネルギーデータの場合、欠落したビューは、対応する低エネルギーデータをスケーリングすることにより取得されたデータであって、補間データと目標データの統計量を使用して計算されたデータで充填される。
【0012】
局所統計によって実行される初期化は、両エネルギーレベル間で減衰に類似性がある一方で、それらは正比例せず、X線が通過する材料に基づいて変化するという原理を利用する。この情報はデータから計算され、低エネルギーの欠落したビューは、高エネルギーデータを局所的にスケーリングする/加算することにより取得されたデータで充填される。同様に、高エネルギーデータの欠落したビューは、低エネルギーデータを局所的にスケーリングすることにより取得されたデータで充填される。
【0013】
初期化の別の実施形態は、ネットワーク上の代替エネルギーデータの特徴レベルの連結によって実行される。例えば、各サイノグラムの複数の特徴表現が生成され、混合され、特徴領域における各サイノグラムを初期化することができる。これはネットワーク構造内で行うこともできるし、非深層学習アプローチを用いて特徴を生成し、ネットワークに供給することもできる。
【0014】
サイノグラムは(代替サイノグラムからのデータで初期化されたか否かにかかわらず)、入力データとして、デュアルチャネル出力ネットワークに入力することができ、又は各サイノグラムは、上記のように、入力データとして、それぞれのシングルチャネル出力ネットワークに入力することができる。ネットワークは、欠落した各ビューを補間するように訓練されたマルチスケールネットワークとすることができる。提案されたアーキテクチャは、欠落したビューのn個のギャップ(n>1)に対処するように設計されている(また、1つの欠落したビューについては、このアーキテクチャにとって解決は自明である)ため、マルチスケール勾配最適化のためのピラミッド構造が実装され、サイノグラムの特徴補間の各スケールで確実に高い精度が保証される。最も粗いスケールはn/X=1で定義され、Xはダウンサンプリングファクタであり、最高解像度における完全なサイノグラムの最精細のスケールまで定義される。このようにして、各サイノグラムからの特徴は、マルチスケールネットワークによって、欠落したビューの各ギャップ/各セットについて、欠落したビューを1つだけ含む(例えば、元のサイノグラムのように2つ、4つ、又はそれ以上の欠落したビューを含むのではない)低い解像度までプログレッシブにダウンサンプリングすることができる。ダウンサンプリングされた特徴は、元の解像度に戻るようにプログレッシブにアップサンプリングすることができる。マルチスケールネットワークは、アップサンプリングされた特徴の各解像度レベルで計算された損失で訓練することができる。ネットワークにL個の解像度レベルがある場合、損失は各解像度レベルで計算される。例えば、ネットワークが、欠落したビューの複数のセットを有するサイノグラムを充填するように訓練され、欠落したビューの各セットが4つの連続した欠落したビューを含む場合、ネットワークは、3つの損失関数(欠落したが後で充填された1つのビューを有する最も低い解像度の特徴セットに対する第1の損失関数、欠落したが後で充填された2つのビューを有する中間の解像度の特徴セットに対する第2の損失関数、及び欠落したが後で充填された4つのビューを有する最も高い解像度の特徴セットに対する第3の損失関数)で訓練することができる。
【0015】
一部の例では、ネットワークは、補正されたサイノグラムを得るための低スケールの超解像ネットワークを含むことができる。最も粗いレベルにおいて、1つのビューがエンコーダの最終段で欠落している場合、超解像ネットワークは、1レベル高い解像度でサイノグラム特徴出力を生成するように訓練される。これを実現する場合、サイノグラムは、ネットワークに入力する前は初期化されていなくてもよいし、サイノグラムは特徴レベル混合を用いて初期化されてもよい。
【0016】
一部の例では、ネットワークは、異なる周波数レベルのウェーブレットサブバンドデータからの情報を使用して、補間を強化することができる。周波数サブバンドは、低エネルギーデータと高エネルギーデータのサイノグラム分布の間で計算された類似性尺度によって選択することができ、これは、構造的類似度(SSIM)及び低エネルギーデータと高エネルギーデータの異なるサブバンドにおける周波数成分の相関を含む測定基準によって計算することができる。一部の例では、周波数領域弁別を使用するサブバンド情報は、ネットワークに対する特徴として使用することができる。別の例では、サブバンド情報をサイノグラムと同じ空間に持ち込むことができる。例えば、より高い類似性を持つサブバンドを再構成し、ネットワークの入力として使用することができる。この段階は任意であり、性能に基づいて変更又は削除することができる。
【0017】
図1は、CTイメージングを実行するように構成された例示的なCTシステム100を示す。特に、CTシステム100は、被検体112(患者など)、無生物、製造された1つ以上の部品、及び/又は異物(体内に存在するインプラント、ステント、及び/又は造影剤など)を画像化するように構成されている。一実施形態では、CTシステム100はガントリ102を含み、このガントリは、テーブル114に横たわる被検体112の撮影に使用されるX線放射ビーム106(
図2参照)を照射する少なくとも1つのX線源104を更に含むことができる。具体的には、X線源104は、ガントリ102の反対側に配置された検出器アレイ108に向かってX線放射ビーム106を照射するように構成されている。
図1には単一のX線源104のみが示されているが、或る実施形態では、複数のX線源及び複数の検出器を使用して、複数のX線放射ビーム106を出力し、異なるエネルギーレベルの患者に対応する投影データを取得してもよい。一部の実施形態では、X線源104は、ピークキロボルト(kVp)高速スイッチングよってデュアルエネルギーのジェムストーンスペクトルイメージング(GSI)を実行することができる。一部の実施形態では、採用されるX線検出器は、互いに異なるエネルギーのX線光子を区別することができる光子計数型検出器である。他の実施形態では、X線源と検出器の2つのセットを使用してデュアルエネルギープロジェクション(投影)を生成することができ、一方のセットは低kVpであり、他方のセットは高kVpである。従って、本明細書に記載された方法は、シングルエネルギー取得技術とデュアルエネルギー取得技術に実装できることが理解されるべきである。
【0018】
特定の実施形態では、CTシステム100は、反復画像再構成法又は解析的画像再構成法を用いて被検体112のターゲットボリュームの画像を再構成する画像プロセッサユニット110を更に含む。例えば、画像プロセッサユニット110は、フィルタ補正逆投影法(FBP)などの解析的画像再構成手法を使用して、患者のターゲットボリュームの画像を再構成することができる。別の例として、画像プロセッサユニット110は、ASIR(advanced statistical iterative reconstruction、CG(conjugate gradient)、MLEM(maximum likelihood expectation maximization)、MBIR(model-based iterative reconstruction)などの反復画像再構成手法を使用して、被検体112のターゲットボリュームの画像を再構成してもよい。本明細書に更に記載されているように、一部の例では、画像プロセッサユニット110は、反復画像再構成手法に加えて、解析的画像再構成手法(FBPなど)も使用することができる。
【0019】
一部のCTイメージングシステムの構成では、X線源は、X-Y-Zのデカルト座標系内に存在するようにコリメートされ一般に「撮影面」と呼ばれるコーン状のX線放射ビームを照射する。X線放射ビームは、撮影される物体(患者又は被検体など)を通過する。X線放射ビームは、物体によって減衰した後、検出器素子のアレイに衝突する。検出器アレイで受信された減衰X線放射ビームの強度は、物体による放射ビームの減衰に依存する。アレイの各検出器素子は、検出器位置におけるX線ビーム減衰の測定値である個別の電気信号を生成する。すべての検出器素子からの減衰測定値を個別に取得して透過プロファイルを作成する。
【0020】
一部のCTシステムでは、X線源と検出器アレイは、放射ビームが物体と交差する角度が絶えず変化するように、ガントリによって、撮影されるべき物体の周囲を撮影面内で回転する。あるガントリ角度において検出器アレイから得られたX線放射減衰測定値のグループ(例えば投影データ)は「ビュー」と呼ばれる。物体の「スキャン」は、X線源及び検出器が1回転する間に、異なるガントリ角又はビュー角において作成されたビューのセットを含む。本明細書に記載された方法の利点は、CT以外の医用イメージングモダリティで得られると考えられるので、本明細書において、用語「ビュー」は、上記のような1つのガントリ角から取得された投影データに対して使用されることに限定されるものではない。用語「ビュー」は、CT、ポジトロン放出断層撮影(PET)、単一光子放出CT(SPECT)、並びに/又はまだ開発されていないモダリティ及び融合実施形態におけるそれらの組合せを含む他のモダリティからのデータ取得かどうかに関わらず、異なる角度からの複数のデータ取得があるときは1つのデータ取得を意味するものとして使用される。
【0021】
投影データは処理され、物体を横切る2次元スライスに対応する画像、又は投影データが複数のビュー又はスキャンを含む一部の例では、物体の3次元レンダリングに対応する画像を再構成する。投影データのセットから画像を再構成するための1つの方法は、当技術分野ではフィルタ逆投影法と呼ばれている。透過型断層撮影及び放射型断層撮影の再構成技術には、統計的反復法(最尤推定-期待値最大化(MLEM)及びordered-subsets expectation-reconstruction、並びに反復的再構成技術など)も含まれる。この処理では、スキャンによる減衰測定値を、「CT値」又は「ハウンスフィールド値」と呼ばれる整数に変換する。この整数を使用して、表示装置上の対応する画素の輝度が制御される。
【0022】
総スキャン時間を短縮するために、「ヘリカル」スキャンを実行することができる。「ヘリカル」スキャンを実行するためには、所定のスライス数のデータを取得する間、患者を移動させる。このようなシステムでは、コーンビームヘリカルスキャンから1本の螺旋が生成される。コーンビームによって描かれた螺旋によって、各所定スライスの画像を再構成するための投影データが生成される。
【0023】
本明細書において、語句「画像を再構成する」は、画像を表すデータは生成されるが表示可能な画像は生成されない本発明の実施形態を排除することを意図するものではない。したがって、本明細書において、用語「画像」は、表示可能な画像と表示可能な画像を表すデータとの両方を広く表している。しかしながら、多くの実施形態は、少なくとも1つの表示可能な画像を生成する(又は生成するように構成される)。
【0024】
図2は、
図1のCTシステム100と同様の例示的なイメージングシステム200を示す。本開示の態様では、イメージングシステム200は、被検体204(例えば、
図1の被検体112)を撮影するように構成されている。一実施形態では、イメージングシステム200は、検出器アレイ108(
図1参照)を含む。検出器アレイ108は、更に、複数の検出器素子202を含んでいる。複数の検出器素子202は、被検体204(患者など)を通過するX線放射ビーム106(
図2参照)を感知して、対応する投影データを取得する。したがって、一部の実施形態では、検出器アレイ108は、セル又は検出器素子202の複数の列を含むマルチスライス構成で製造される。このような構成では、検出器素子202の1つ以上の追加の列が、投影データを取得するために並列構成で配置される。
【0025】
特定の実施形態では、イメージングシステム200は、所望の投影データを取得するために、被検体204の周囲の異なる角度位置を移動するように構成される。従って、ガントリ102と、ガントリに取り付けられた構成要素は、例えば異なるエネルギーレベルの投影データを取得するために、回転中心206の周りを回転するように構成することができる。あるいは、被検体204に対して投影角度が時間の関数として変化する実施形態では、取り付けられた構成要素は、円弧に沿って移動するのではなく、一般的な曲線に沿って移動するように構成されてもよい。
【0026】
X線源104及び検出器アレイ108が回転すると、検出器アレイ108は減衰したX線ビームのデータを収集する。検出器アレイ108によって収集されたデータは、前処理及び較正を受けて、スキャンされた被検体204の減弱係数の線積分を表すようにデータが調整される。処理されたデータは、一般に投影(プロジェクション)と呼ばれる。
【0027】
一部の実施例では、検出器アレイ108の個々の検出器又は検出器素子202は、個々の光子の相互作用を1つ以上のエネルギービンに記録する光子計数型検出器を含むことができる。本明細書で説明する方法は、エネルギー積分型検出器でも実施できることを理解されたい。
【0028】
取得された投影データのセットは、基準物質弁別(BMD)に使用することができる。BMDの間、測定された投影は、物質密度投影のセットに変換される。物質密度投影は再構成され、骨、軟組織などの各基準物質の物質密度マップのペア若しくはセット、各基準物質の物質密度画像のペア若しくはセット、及び/又は造影剤マップを形成することができる。これらの密度マップ又は密度画像は、順に関連付けられ、撮影ボリュームの基準物質(例えば、骨、軟組織、及び/又は造影剤)のボリュームレンダリングを形成することができる。
【0029】
再構成されると、イメージングシステム200によって生成された基準物質画像によって、2つの基準物質の密度で表される被検体204の内部特徴が明らかになる。密度画像を表示して、これらの特徴を示すことができる。医学的状態(病気の状態など)の診断、より一般的には医療事象の診断に対する従来のアプローチでは、放射線科医又は医師は、密度画像のハードコピー又は表示された密度画像を検討して、関心のある特徴部分を識別すると考えられる。このような特徴部分としては、特定の解剖学的構造又は臓器の病変、血管、サイズ、及び形状、並びに個々の専門家の技能及び知識に基づいて画像の中から識別可能であると考えられる他の特徴部分がある。
【0030】
一実施形態では、イメージングシステム200は、構成要素の動き(ガントリ102の回転及びX線源104の動作など)を制御する制御機構208を含んでいる。特定の実施形態では、制御機構208は、X線源104に電力及びタイミング信号を供給するように構成されたX線コントローラ210を更に含む。更に、制御機構208は、撮影要件に基づいてガントリ102の回転速度及び/又は回転位置を制御するように構成されるガントリモータコントローラ212を含んでいる。
【0031】
特定の実施形態では、制御機構208は、検出器素子202から受け取ったアナログデータをサンプリングし、アナログデータを後続の処理のためにデジタル信号に変換するように構成されたデータ収集システム(DAS)214を更に含む。DAS214は、本明細書で更に説明されるように、検出器素子202のサブセットからのアナログデータを、いわゆるマクロ検出器に選択的に集約するように構成することができる。DAS214によってサンプリングされデジタル化されたデータは、コンピュータ又はコンピューティング装置216に送信される。一実施例では、コンピューティング装置216は、データを記憶装置218に記憶する。記憶装置218は、例えば、ハードディスクドライブ、フロッピーディスクドライブ、コンパクトディスク読取り/書込み(CD-R/W)ドライブ、デジタルバーサタイルディスク(DVD)ドライブ、フラッシュドライブ、及び/又はソリッドステートストレージドライブとすることができる。
【0032】
更に、コンピューティング装置216は、DAS214、X線コントローラ210、及びガントリモータコントローラ212のうちの1つ以上に命令及びパラメータを提供して、システム動作(データ収集及び/又はデータ処理など)を制御する。特定の例示的な実施形態では、コンピューティング装置216は、オペレータ入力に基づいてシステム動作を制御する。コンピューティング装置216は、例えば、コンピューティング装置216に動作可能に結合されたオペレータコンソール220によって、命令及び/又は走査パラメータを含むオペレータ入力を受け付ける。オペレータコンソール220は、オペレータが命令及び/又は走査パラメータを指定できるように、キーボード(図示せず)及び/又はタッチスクリーンを含むことができる。
【0033】
図2ではオペレータコンソール220は1つだけ図示されているが、例えば、システムパラメータを入力する又は出力する、検査をリクエストする、データをグラフ化する、及び/又は画像を閲覧するために、2つ以上のオペレータコンソールがイメージングシステム200に結合されてもよい。更に、特定の実施形態では、イメージングシステム200は、配置可能な1つ又は複数の有線ネットワーク及び/又は無線ネットワーク(インターネット及び/又は仮想プライベートネットワーク、無線電話ネットワーク、無線ローカルエリアネットワーク、有線ローカルエリアネットワーク、無線広域ネットワーク、有線広域ネットワークなど)を通じて、複数のディスプレイ、プリンタ、ワークステーション、及び/又は施設若しくは病院内に又は全く異なる場所にローカルに若しくは遠隔に配置されている同様の装置に結合することができる。
【0034】
一実施形態では、例えば、イメージングシステム200は、画像保存通信システム(PACS)224を含んでいる又はPACS224に結合されている。例示的な実施形態では、PACS224は、放射線科情報システム、病院情報システムなどの遠隔システムに更に結合され、及び/又は内部又は外部のネットワーク(図示せず)に結合されて、別の場所にいるオペレータが命令及びパラメータを供給する及び/又は画像データにアクセスできるようにする。
【0035】
コンピューティング装置216は、オペレータから供給された及び/又はシステムで定義された命令及びパラメータを使用して、テーブルモータコントローラ226を動作させる。テーブルモータコントローラ226は、テーブル114を制御することができ、テーブルは電動テーブルとすることができる。具体的には、テーブルモータコントローラ226は、被検体204のターゲットボリュームに対応する投影データを取得するために、被検体204がガントリ102に適切に位置決めされるようにテーブル114を移動させることができる。
【0036】
前述したように、DAS214は、検出器素子202によって取得された投影データをサンプリングし、デジタル化する。その後、画像再構成器230が、サンプリングされデジタル化されたX線データを用いて高速再構成を実行する。
図2は画像再構成器230を独立した実体として例示しているが、特定の実施形態では、画像再構成器230はコンピューティング装置216の一部を形成していてもよい。あるいは、画像再構成器230はイメージングシステム200に存在していなくてもよく、代わりに、コンピューティング装置216が画像再構成器230の1つ又は複数の機能を実行してもよい。更に、画像再構成器230は、ローカルに又は遠隔に配置されていてもよく、有線ネットワーク又は無線ネットワークを用いてイメージングシステム200に動作可能に接続されていてもよい。特に、1つの例示的な実施形態では、「クラウド」ネットワーククラスタ内のコンピューティングリソースを画像再構成器230のために使用してもよい。
【0037】
一実施形態では、画像再構成器230は、再構成された画像を記憶装置218に記憶する。あるいは、画像再構成器230は、再構成された画像をコンピューティング装置216に送信し、診断及び評価のために有用な患者情報が生成されるようにしてもよい。或る実施形態では、コンピューティング装置216は、再構成された画像及び/又は患者情報を、コンピューティング装置216及び/又は画像再構成器230に通信可能に結合されたディスプレイ又はディスプレイ装置232に送信してもよい。一部の実施形態では、再構成された画像は、コンピューティング装置216又は画像再構成器230から、短期保存又は長期保存のために記憶装置218に送信されてもよい。
【0038】
本明細書で更に説明される様々な方法及びプロセスは、イメージングシステム200内のコンピューティング装置(又はコントローラ)(コンピューティング装置216及び/又は画像再構成器230など)の非一時的メモリに実行可能な命令として記憶することができ、命令は、本明細書で説明される方法及びプロセスを実行するために1つ又は複数のプロセッサによって実行可能である。一部の実施形態では、コンピューティング装置216は、非一時的メモリ内に命令を含み、投影データが画像再構成器230によって再構成される前に欠落したビューを充填するために、本明細書に記載の方法を(1つ又は複数のプロセッサによって)少なくとも部分的に投影データ(例えば、サイノグラム)に適用することができる。別の実施形態では、本明細書で説明する方法及び処理は、画像再構成器230によって実行されてもよい。更に別の実施形態では、本明細書で説明する方法及びプロセスは、画像再構成器230及びコンピューティング装置216に分散するようにしてもよい。
【0039】
一実施形態では、ディスプレイ232によって、オペレータは、画像再構成後に画像化された解剖学的構造を評価することができる。また、ディスプレイ232によって、オペレータは、例えば、後続のスキャン又は処理のためにグラフィカルユーザインタフェース(GUI)によって、関心体積(VOI)を選択すること、及び/又は患者情報を要求すること、スキャンを実施するためのスキャンプロトコルを選択することなどができる。
【0040】
図3は、X線源の異なるエネルギーレベルで取得されたサイノグラムを充填するための方法300を示すフローチャートである。方法300は、
図1~2に示されたシステムに関連して説明されるが、本開示の範囲から逸脱することなく、同様の方法を他のシステムで使用できることが理解されるべきである。方法300は、イメージングシステムに動作可能に結合されたコンピューティング装置(コンピューティング装置216、画像再構成器230、クラウドベースのコンピューティングシステム、又は他の適切なコンピューティング装置など)のメモリに記憶された命令に従って実行することができる。イメージングシステムは、
図1-2に関して上述したようなCTイメージングシステムであってもよいし、デュアルエネルギー撮影を実行することができる他の適切なイメージングシステムであってもよい。
【0041】
302では、撮影対象の高エネルギー(HE)サイノグラムが取得される。HEサイノグラムは、イメージングシステムによって生成することができ、イメージングシステムのX線源を第1の高いエネルギーレベル(例えば、120~140kVpの範囲内)で動作させたときに取得される投影データ(例えば、検出器データ)の視覚的な表示とすることができる。304では、撮影対象の低エネルギー(LE)サイノグラムが取得される。LEサイノグラムは、イメージングシステムによって生成することができ、イメージングシステムのX線源を第2の高いエネルギーレベル(例えば70~80kVpの範囲内)で動作させたときに取得される投影データ(例えば検出器データ)の視覚的な表示とすることができる。HEサイノグラム及びLEサイノグラムは、X線源を交互のエネルギーレベルに制御して、撮影対象の同じスキャン中に取得することができ、X線源が高いエネルギーレベルで動作している間に第1のビューのセットが取得され、X線源が低いエネルギーレベルで動作している間に第2のビューのセットが取得され、高いエネルギーレベルで第3のビューのセットが取得され、低いエネルギーレベルで第4のビューのセットが取得され、以下同様にビューセットが取得される。ビューの各セットは、連続した2つ以上のビューを含むことができる。例えば、X線源は、全てのビューが取得されスキャンが完了するまで、第1のビューのセットには高いエネルギーレベルで取得された連続した4つのビューが含まれ、第2のビューのセットには低いエネルギーレベルで取得された連続した4つのビューが含まれるなど、エネルギーレベルが4つのビューごとに切り替わるように制御することができる。このようにして、各ビューは1つのエネルギーレベルのみで取得され、各サイノグラムはスキャン中に取得された全ビューの半分が欠落している。本明細書では、所与のエネルギーレベルのサイノグラムにおける欠落したビューは、当該所与のエネルギーレベルでは取得されなかったが他方のエネルギーレベルでは取得されたビューを表すことができる。上に提示された例を使用すると、第1のビューのセットは、X線源が高いエネルギーレベルで動作している間に取得することができ、第2のビューのセットは、X線源が低いエネルギーレベルで動作している間に取得することができる。結果として取得されるHEサイノグラムは、第1のビューのセットを含み、第2のビューのセットは欠落している。結果として取得されるLEサイノグラムは、第1のビューのセットが欠落しており、第2のビューのセットを含む。
【0042】
306において、方法300は、LEサイノグラムのデータでHEサイノグラムを初期化し、初期化されたHEサイノグラムを作成することと、HEサイノグラムのデータでLEサイノグラムを初期化し、初期化されたLEサイノグラムを作成することとを任意に含んでいる。HEサイノグラムの初期化には、LEサイノグラムのデータをHEサイノグラムの欠落したビューに加えることと、LEサイノグラムの相補的ビューのデータをHEサイノグラムの欠落したビューに加えることを含む。例えば、(X線源が低エネルギーレベルで動作している間に取得された)LEサイノグラムの第2のビューのセットのデータは、HEサイノグラムにおいて第2のビューのセットが(HEサイノグラム用に取得されていたならば)配置される位置(例えば、HEサイノグラムの欠落した第2のビューのセット)において、HEサイノグラムに加えることができる。同様に、LEサイノグラムの初期化は、HEサイノグラムのデータをLEサイノグラムの欠落したビューに加えることと、HEサイノグラムの相補的ビューのデータをLEサイノグラムの欠落したビューに加えることとを含むことができる。例えば、(X線源が高いエネルギーレベルで動作している間に取得された)HEサイノグラムの第1のビューのセットのデータは、LEサイノグラムにおいて第1のビューのセットが(LEサイノグラム用に取得されていたならば)配置される位置(例えば、LEサイノグラムの欠落した第1のビューのセット)において、LEサイノグラムに加えることができる。
【0043】
一部の例では、HEサイノグラム及びLEサイノグラムは、308で示されるように、特徴レベル混合を用いて初期化することができる。特徴レベル混合に関する追加の詳細は、
図6及び
図7で以下に説明される。簡単に述べると、特徴レベル混合は、HEサイノグラムの取得されたビューの特徴及びLEサイノグラムの取得されたビューの特徴を別々にダウンサンプリングして、HEサイノグラムの特徴のセット及びLEサイノグラムの特徴のセットを生成することと、特徴のセットを混合することと、次いで混合された特徴をアップサンプリングして、初期化されたサイノグラムを作成することとを含むことができる。特徴レベル混合は、各サイノグラムの混合の特徴を出力するように訓練された1つ又は複数の深層学習モデルを使用して、各サイノグラムに対して別々に実行することができる。例えば、深層学習モデルは、LEサイノグラムの特徴をHEサイノグラムと混合し、HEサイノグラムの欠落した特徴を充填するようにLEサイノグラムの特徴が選択された、初期化されたHEサイノグラムを生成するように訓練することができる。更に、この深層学習モデル(又は別の深層学習モデル)は、HEサイノグラムの特徴をLEサイノグラムと混合して、LEサイノグラムの欠落した特徴を充填するようにHEサイノグラムの特徴が選択された、初期化されたLEサイノグラムを生成するように訓練してもよい。
【0044】
一部の例では、HEサイノグラム及びLEサイノグラムは、310で示されるように、入力レベル混合を用いて初期化することができる。入力レベル混合は、相補的なビューの全データがそれぞれの欠落したビューに加えられる直接的なサイノグラムデータの初期化を含むことができる。例えば、LEサイノグラムの第2のビューのセットの全データを、(HEサイノグラムの欠落した第2のビューのセットの位置において、例えば、第1のビューのセットと第3のビューのセットとの間において)HEサイノグラムに加え、HEサイノグラムの第1のビューのセットの全データを、(第2のビューのセットの前の、LEサイノグラムの欠落した第1のビューのセットの位置において)LEサイノグラムに加えることができる。
【0045】
他の例では、入力レベル混合は、欠落したビューに加えられるサイノグラムデータをスケーリングすることを含むことができる。例えば、LEサイノグラムの第2のビューのセットのデータがスケーリングされ、スケーリングされたデータを、(HEサイノグラムの欠落した第2のビューのセットの位置において、例えば、第1のビューのセットと第3のビューのセットとの間において)HEサイノグラムに加えることができる。同様に、HEサイノグラムの第1のビューのセットのデータがスケーリングされ、スケーリングされたデータを、(第2のビューのセットの前の、LEサイノグラムの欠落した第1のビューのセットの位置において)LEサイノグラムに加えることができる。サイノグラムデータは、全体的にスケーリングされてもよいし、局所的にスケーリングされてもよい。全体的なスケーリングは、各ビューのデータを同じ方法でスケーリングすることを含むことができ、例えば、各ビューのデータを、スケーリング係数によって削減してもよいし、増加させてもよい。スケーリング係数は、HEサイノグラム及び/又はLEサイノグラムの全体統計から決定することができる。例えば、HEサイノグラムを初期化する場合、スケーリング係数はHEサイノグラムの最大値に基づいたものとすることができる。別の例では、スケーリング係数は、HEサイノグラムの値とLEサイノグラムの値の比(例えば、最大値、平均値など)に基づいたものとすることができる。局所スケーリングは、撮影対象の物質組成(したがって、検出器に到達する前にX線が透過する物質)に基づいて、1つの所与のビュー又は複数の所与のビューのデータを1つ又は複数の他のビューとは異なるようにスケーリングすることを含むことができる。局所スケーリングを実行するために、強度値の移動平均を、予め定義された平均化ウィンドウで、HEサイノグラムとLEサイノグラムに対して独立に計算することができる。例えば、最初の20ビューに対して、HEサイノグラムの第1の平均強度とLEサイノグラムの第2の平均強度を計算し、次の20ビューに対して、HEサイノグラムの第3の平均強度とLEサイノグラムの第4の平均強度を計算することができ、以下同様に計算することができる。HEサイノグラムを初期化する場合、各平均化ウィンドウで、HEサイノグラムの平均強度とLEサイノグラムの平均強度の第1の比が計算され(例えば、最初の20ビューでは、第1の比は、上記の第1の平均強度と第2の平均強度との比とすることができる)、LEサイノグラムの相補的データは、各平均化ウィンドウのデータに対するそれぞれの第1の比に基づいてスケーリングされる。LEサイノグラムを初期化する場合、各平均化ウィンドウで、LEサイノグラムの平均強度とHEサイノグラムの平均強度の第2の比が計算され(例えば、最初の20ビューでは、第2の比は、上記の第2の平均強度と第1の平均強度との比とすることができる)、HEサイノグラムの相補的データは、各平均化ウィンドウのデータに対するそれぞれの第2の比に基づいてスケーリングされる。
【0046】
312では、方法300は、HEサイノグラム及びLEサイノグラム(これらのサイノグラムは、初期化されていてもよいし、初期化されていなくてもよい)に基づいて、充填されたHEサイノグラムと充填されたLEサイノグラムとを取得することを含んでいる。初期化されたサイノグラムを利用する場合、初期化されたサイノグラムは、上記の入力レベル混合を用いて初期化されたHEサイノグラム及びLEサイノグラムを含んでいてもよいし、初期化されたサイノグラムは、上記の特徴レベル混合によって取得されたHEサイノグラム及びLEサイノグラムの混合された特徴を含んでいてもよい。充填されたHEサイノグラムは、充填されたHEサイノグラムを出力するように訓練されたマルチスケール補間モデルへの入力として(初期化された)HEサイノグラムを入力することにより取得することができ、これにより、マルチスケール補間モデルは、HEサイノグラムの隣接するビュー及び任意選択でLEサイノグラムから加えられたデータを使用して、欠落したビューのプログレッシブ(例えば、マルチスケール)補間を実行する。充填されたLEサイノグラムは、充填されたLEサイノグラムを出力するように訓練されたマルチスケール補間モデルへの入力として(初期化された)LEサイノグラムを入力することによって取得することができ、これにより、マルチスケール補間モデルは、LEサイノグラムの隣接するビューと任意選択でHEサイノグラムから加えられたデータを使用して、欠落したビューのプログレッシブ(例えば、マルチスケール)補間を実行する。
【0047】
充填されたHEサイノグラム及び充填されたLEサイノグラムは、同一のマルチスケール補間モデルによって取得することができる。このマルチスケール補間モデルは、314で示されるように、デュアルチャネル出力モデルとすることができる。デュアルチャネル出力モデルでは、(初期化された)HEサイノグラム及び(初期化された)LEサイノグラムは、デュアルチャネル出力モデルへの入力として入力することができ、デュアルチャネル出力モデルは、充填されたHEサイノグラムを一方のチャネルに出力し、充填されたLEチャネルを他方のチャネルに出力することができる。しかしながら、他の例では、316で示されるように、充填されたHEサイノグラム及び充填されたLEサイノグラムは、別個の2つの単一チャネル出力モデルによって取得することができる。そのような例では、(初期化された)HEサイノグラムは、充填されたHEサイノグラムを出力するように訓練された第1のマルチスケール補間モデルへの入力として入力することができ、(初期化された)LEサイノグラムは、充填されたLEサイノグラムを出力するように訓練された第2のマルチスケール補間モデルへの入力として入力することができる。充填されたHEサイノグラム及び充填されたLEサイノグラム並びにマルチスケール補間モデルを得ることに関する追加の詳細は、
図3、
図4、
図5、及び
図8-
図13に関して以下に提示される。
【0048】
318では、充填されたHEサイノグラム及び充填されたLEサイノグラムから1つ又は複数の画像が再構成される。1つ又は複数の画像は、適切な再構成技術に従って再構成された仮想単一エネルギー画像及び/又は基準物質画像とすることができる。例えば、HE画像は、フィルタ逆投影法を使用して、充填されたHEサイノグラムから再構成することができ、LE画像は、フィルタ逆投影法を使用して、充填されたLEサイノグラムから再構成することができる。仮想単一エネルギー画像は、HE画像とLE画像との線形結合で形成してもよいし、非線形結合によって形成してもよい。少なくとも一部の例では、1つ又は複数の画像は、再構成の前に、充填されたHEサイノグラム及び充填されたLEサイノグラムに対して付加的な処理を実行することなく、充填されたHEサイノグラム及び充填されたLEサイノグラムから直接再構成することができる。1つ又は複数の画像は、(例えば、患者検査の一部として)表示装置に表示する及び/又はメモリに記憶することができる。そして、方法300は制御を返す。
【0049】
図4は、単一チャネル出力モデルを用いて、充填されたHEサイノグラムを取得するための例示的なプロセス400を概略的に示す。プロセス400は、初期化ブロック406において、LEサイノグラム404のデータを使用してHEサイノグラム402を初期化することを含んでいる。HEサイノグラム402は、LEサイノグラム404に存在するビューが欠落しており、このことは、
図4に概略的に示されている。例えば、各サイノグラムは、ビューの関数としてプロットされたチャネルデータ(例えば、HU値などの検出器出力値)を含むことができ、黒線は取得されたビューのセットを示し、白線は欠落したビューのセットを示している。多列検出器を含むイメージングシステムでは、複数のHEサイノグラム及びLEサイノグラムが生成され、検出器の列ごとに、HEサイノグラム及びLEサイノグラムの1つのセットが生成されることを理解すべきである。本明細書で記載される処理は、対応したサイノグラム(例えば、検出器の1つの行の検出器データから生成されたHEサイノグラムと、検出器の同じ行の検出器データから生成された対応するLEサイノグラム)に適用され、この処理は、対応したHE/LEサイノグラムの各セットであって、検出器の各行に対応する各セットに適用することができる。HEサイノグラムは、
図3に関して上記で説明したように、例えば、特徴レベル混合によって、又は入力レベルにおける混合によって初期化することができる。初期化されたHEサイノグラムは、初期化されたHEサイノグラムに基づいて充填されたHEサイノグラム410を出力するように訓練された単一チャネル出力モデル408に入力することができる。単一チャネル出力モデル408の例示的なネットワークアーキテクチャを、
図10及び
図11で後述する。
図4には示されていないが、同様のプロセスが、充填されたLEサイノグラムを得るために実施され、これにより、初期化されたLEサイノグラムがHEサイノグラム402とLEサイノグラム404から生成することができ、初期化されたLEサイノグラムは、第2の単一チャネル出力モデルに入力することができ、第2の単一チャネル出力モデルは、初期化されたLEサイノグラムに基づいて充填されたLEサイノグラムを出力するように訓練されることを理解すべきである。更に、一部の実施例では、
図11に関して以下により詳細に説明されるように、HEサイノグラム402は、単一チャネル出力モデル408に入力される前に初期化することはできない。
【0050】
図5は、デュアルチャネル出力モデルを使用して、充填されたHEサイノグラム及び充填されたLEサイノグラムを取得するための例示的なプロセス500を概略的に示す。プロセス500は、初期化ブロック506においてLEサイノグラム504のデータを用いてHEサイノグラム502を初期化することと、初期化ブロック506においてHEサイノグラム502によりLEサイノグラム504を初期化することも含む。HEサイノグラム502はHEサイノグラム402と同じとすることができ、LEサイノグラム504はLEサイノグラム404と同じとすることができる。HEサイノグラム及びLEサイノグラムは、
図3に関して上記で説明したように、例えば、特徴レベル混合によって、又は入力レベルにおける混合によって初期化することができる。初期化されたHEサイノグラム及び初期化されたLEサイノグラムの各サイノグラムは、デュアルチャネル出力モデル508に入力することができる。デュアルチャネル出力モデル508は、初期化されたHEサイノグラムに基づいて充填されたHEサイノグラム510を出力し、初期化されたLEサイノグラムに基づいて充填されたLEサイノグラム512を出力するように訓練されている。デュアルチャネル出力モデル508の例示的なネットワークアーキテクチャは、
図13で以下に示されている。更に、一部の例では、
図11に関して以下でより詳細に説明されるように、HEサイノグラム502及びLEサイノグラム504は、デュアルチャネル出力モデル508に入力される前に初期化されない場合もある。
【0051】
図6は、HEサイノグラム及びLEサイノグラムの特徴の特徴レベル混合を実行するための方法を示すフローチャートである。方法600は、イメージングシステムに動作可能に結合されたコンピューティング装置(コンピューティング装置216、画像再構成器230、クラウドベースのコンピューティングシステム、又は別の適切なコンピューティング装置など)のメモリに記憶された命令に従って実行することができる。一部の例では、方法600は、方法300の一部として実行することができ、例えば、方法600は、方法300の特徴レベル混合308において実行することができる。
【0052】
602では、方法600は、HEサイノグラムを前処理することを含んでいる。HEサイノグラムは、
図3で説明したHEサイノグラム及び/又は
図4若しくは
図5のHEサイノグラムとすることができる。前処理は、取得されたビューのみを含むパーシャルHEサイノグラムを生成するために、HEサイノグラムの欠落したビューを破棄することを含むことができる。同様に、604では、方法600は、LEサイノグラムを前処理することを含んでいる。LEサイノグラムは、
図3で説明したLEサイノグラム及び/又は
図5のLEサイノグラムとすることができる。前処理は、取得されたビューのみを含むパーシャルLEサイノグラムを生成するために、LEサイノグラムの欠落したビューを破棄することを含むことができる。
【0053】
606では、方法600は、第1の特徴レベル混合を実行して、初期化されたHEサイノグラムを生成することを含んでいる。第1の特徴レベル混合は、マルチスケール補間モデル(例えば、シングルチャネル出力モデル408又はデュアルチャネル出力モデル508)の畳み込み層を含むことができる第1の特徴ミキサによって実行することができ、第1の特徴ミキサはマルチスケール補間モデルとは別個のものであってもよい。第1の特徴レベル混合を実行することは、608で示されるように、前処理されたパーシャルHEサイノグラム及びパーシャルLEサイノグラムを別々に処理して特徴の2つのセットを生成することを含むことができる。例えば、パーシャルHEサイノグラムは、ダウンサンプリングされたHEサイノグラムの目標の特徴セットに到達するまで、第1の特徴ミキサの複数の畳み込み層を通過することができ、この目標の特徴セットはHEサイノグラムの特徴の第1のセットを含むことができる。並行して、パーシャルLEサイノグラムは、ダウンサンプリングされたLEサイノグラムの目標の特徴セットに到達するまで、第1の特徴ミキサの複数の畳み込み層を通過することができ、この目標のセットはLEサイノグラムの特徴の第2のセットを含むことができる。第1の特徴レベル混合を実行することは、610で示されるように、第1の特徴ミキサの混合層において特徴を混合することを更に含むことができる。例えば、HEサイノグラムの特徴の第1のセットは、LEサイノグラムの特徴の第2のセットと混合することができる。混合することは、HEサイノグラムの特徴の第1のセットとLEサイノグラムの特徴の第2のセットとを加算すること、HEサイノグラムの特徴の第1のセットとLEサイノグラムの特徴の第2のセットとを交互に配置すること、又は特徴の第1のセット及び特徴の第2のセットを結合するための別の適切な方法を含むことができる。第1の特徴レベルの混合を実行することは、612で示されるように、HEサイノグラムの元の解像度に達するまで、畳み込みを実行して混合された特徴をアップサンプリングすることを追加的に含むことができる。混合された特徴の第1及び第2のセットは、混合された特徴をHEサイノグラムの元の解像度(例えば、ビュー数)にアップサンプリングし、それによって初期化されたHEサイノグラムを作成するために、第1の特徴ミキサの複数の畳み込み層を通過することができる。
【0054】
614では、方法600は、第2の特徴レベル混合を実行して、初期化されたLEサイノグラムを生成することを含んでいる。第2の特徴レベル混合は、第1の特徴レベル混合と同様の方法で第2の特徴ミキサによって実行することができる。第2の特徴ミキサは、LEサイノグラムを充填するように訓練されたマルチスケール補間モデルの一部として含まれていてもよいし、第2の特徴ミキサはマルチスケール補間モデルから分離していてもよい。第2の特徴レベル混合を実行するために、パーシャルHEサイノグラム及びパーシャルLEサイノグラムは、上述のように処理することができる。例えば、パーシャルHEサイノグラム及びパーシャルLEサイノグラムは、第2の特徴ミキサの畳み込み層を並列に通過して、HEサイノグラムの特徴の第3のセット及びLEサイノグラムの特徴の第4のセットを生成し、サイノグラムの特徴の第3及び第4のセットは、第2の特徴ミキサの混合層で混合され、混合された特徴は、第2の特徴ミキサの複数の畳み込み層を通過して、混合された特徴をアップサンプリングして、LEサイノグラムの元の解像度にすることができる。
【0055】
このように、HEサイノグラムを初期化することは、演算及びダウンサンプリングの第1のセット(例えば、演算及びダウンサンプリングの第1のセットは、欠落したビューを破棄するための前処理、特徴抽出、畳み込み、プーリング、及び/又はダウンサンプリングを含むことができる)によってHEサイノグラムを処理し、特徴の第1のセットを生成することを含むことができ、特徴の第1のセットは、HEサイノグラムに対応する高次元の特徴とすることができる。また、LEサイノグラムは、演算及びダウンサンプリングの第2のセットによって処理され、LEサイノグラムに対応する高次元の特徴を含む特徴の第2のセットを生成することができる。特徴の第1のセットと特徴の第2のセットとを混合して、混合された特徴のセットを形成することができ、混合された特徴のセットをアップサンプリングして、初期化されたHEサイノグラムを形成することができる。同様の処理を実行してLEサイノグラムを初期化することができる。
【0056】
第1の特徴ミキサ及び第2の特徴ミキサは、それぞれ、HEサイノグラムに加えるLEサイノグラムの特徴及びLEサイノグラムに加えるHEサイノグラムの特徴の適切な選択を支援にする方法で別々に訓練された別々のミキサとすることができる。例えば、第1の特徴ミキサは、第1の特徴ミキサによって出力された初期化されたHEサイノグラムと、完全なビューのセットを含むグラウンドトゥルースのHEサイノグラム(例えば、イメージングシステムのX線源が高エネルギーレベルで動作している間に、イメージングシステムが取得できると考えられる全てのビューが取得される)との間の差に基づいて計算された損失関数で訓練することができる。訓練中、第1の特徴ミキサへの入力は、間引かれた(culled)HEサイノグラムを含むことができ、間引かれたHEサイノグラムでは、イメージングシステムがデュアルエネルギーモードで動作している状態で取得される(したがって、全ビューの半分が欠落している)HEサイノグラムを模擬するために、グラウンドトゥルースのHEサイノグラムのビューの複数のセットが除去されている。同様に、第2の特徴ミキサは、第2の特徴ミキサによって出力された初期化されたLEサイノグラムと、完全なビューのセットを含むグラウンドトゥルースのLEサイノグラム(例えば、イメージングシステムのX線源が低エネルギーレベルで動作している間に、イメージングシステムが取得できると考えられる全てのビューが取得される)との間の差に基づいて計算された損失関数で訓練することができる。訓練中、第1の特徴ミキサへの入力は、間引かれたLEサイノグラムを含むことができ、間引かれたLEサイノグラムでは、イメージングシステムがデュアルエネルギーモードで動作している状態で取得される(したがって、全ビューの半分が欠落している)LEサイノグラムを模擬するために、グラウンドトゥルースのLEサイノグラムのビューの複数のセットが除去されている。したがって、第1の特徴ミキサと第2の特徴ミキサによって抽出される特徴は異なっていてもよく、例えば、HEサイノグラムの特徴の第1のセットはHEサイノグラムの特徴の第3のセットとは異なっていてもよく、LEサイノグラムの特徴の第2のセットはLEサイノグラムの特徴の第4のセットとは異なっていてもよい。このように、同じパーシャルHEサイノグラムとパーシャルLEサイノグラムから開始したにもかかわらず、第1の特徴レベルミキサは、第2の特徴レベルミキサによって出力された初期化されたサイノグラムとは異なる初期化されたサイノグラムを出力することができる。
【0057】
図7は、特徴レベル混合を用いて初期化されたHEサイノグラムを生成するための例示的なプロセス700を概略的に示す。プロセス700によって示される特徴レベル混合は、上述の方法600に従って第1の特徴レベル混合器によって実行することができる。プロセス700は、HEサイノグラム702及びLEサイノグラム704から開始する。これらのサイノグラムは、
図3~
図5に関して先に説明したように、デュアルエネルギーモードのイメージングシステム(例えば、イメージングシステム200)を用いた撮影対象のスキャン中に取得されるものである。
図7に示す例では、欠落したビューが濃い色で図示され、取得されたビューが薄い色で示されている。HEサイノグラム702は前処理されて、欠落したビューが除去され、パーシャルHEサイノグラム706が生成される。同様に、LEサイノグラムは前処理されて、欠落したビューが除去され、パーシャルLEサイノグラム708が生成される。
【0058】
パーシャルHEサイノグラム706は、プーリングを伴う複数の畳み込み層710を通過して、HEサイノグラムの特徴の第1のセット712を生成する。HEサイノグラムの特徴の第1のセット712は、元のHEサイノグラム702及びパーシャルHEサイノグラム706よりも低解像度とすることができる。例えば、元のHEサイノグラムが32ビュー(32ビューのうちの16ビューは欠落したビュー)を含み、パーシャルHEサイノグラムが16ビューを含む場合、HEサイノグラムの特徴の第1のセットは4ビューを有することができる。パーシャルLEサイノグラム708は、プーリングを伴う複数の畳み込み層711を通過し、HEサイノグラムの特徴の第1のセットと同じ解像度でLEサイノグラムの特徴の第2のセット714を生成する。
【0059】
HEサイノグラムの特徴の第1のセット712とLEサイノグラムの特徴の第2のセット714は混合され、混合された特徴のセット716が作成される。混合することは、特徴の2つのセットを混合するために、加算、インターリーブ、又は他の適切なメカニズムを含むことができる。図示の例では、LEサイノグラムの特徴の第2のセット714は、HEサイノグラムの特徴の第1のセット712に加えられる(例えば、LEサイノグラムの特徴の第1のセットの第1のビューは、HEサイノグラムの特徴の第2のセットの第1のビューに加えられる/連結されるなど)。混合された特徴のセット716は、初期化されたHEサイノグラム720が元のHEサイノグラムと同じ解像度(例えば、この例では32ビュー)で生成されるまで、アップサンプリングを伴う複数の畳み込み層718を通過する。このようにすることで、元のHEサイノグラム702の欠落したビューは、LEサイノグラム704の取得されたビューの情報で充填される。
【0060】
図8は、欠落したビューを有するHEサイノグラムから、単一チャネル出力のマルチスケール補間モデルを使用して、充填されたHEサイノグラムを得るための方法800を示すフローチャートである。方法800は、イメージングシステムに動作可能に結合されたコンピューティング装置(コンピューティング装置216、画像再構成器230、クラウドベースのコンピューティングシステム、又は別の適切なコンピューティング装置など)のメモリに記憶された命令に従って実行することができる。一部の例では、方法800は方法300の一部として実施することができ、例えば、方法800は方法300の312で実施することができる。方法800は、充填されたHEサイノグラムを得るためのプロセスを具体的に示しているが、充填されたLEサイノグラムを得るプロセスは、HEサイノグラムではなく、ビューが欠落したLEサイノグラムから開始し、LEサイノグラムを充填するために特に訓練されたマルチスケール補間モデルを使用して、方法800と同様に実施できることが理解されるべきである。
【0061】
802では、HEサイノグラムがマルチスケール補間モデルに入力される。HEサイノグラムは、一部の例では、相補的なLEサイノグラムのデータで初期化することができる。初期化されたHEサイノグラムは、
図3に関して上記で説明したように、例えば、特徴レベル混合又は入力レベル混合を使用して、元のHEサイノグラムの欠落したビューを元のLEサイノグラムの相補的ビューのデータで充填することによって作成される。元のHEサイノグラムは複数の欠落したビューを含み、複数の欠落したビューは、取得されたビューのセットと交互に配置された連続する欠落したビューのセットにグループ化される。欠落したビューの各セットは、少なくとも2つの連続する欠落したビューを含むことができる。マルチスケール補間モデルは、充填されたHEサイノグラムのみを出力するように訓練された単一チャネル出力モデル(単一チャネル出力モデル408など)とすることができる。
【0062】
マルチスケール補間モデルは、エンコーダ-デコーダアーキテクチャを有し、エンコーダアームは、HEサイノグラムから抽出された特徴をプログレッシブに処理し(例えば、抽出した特徴をダウンサンプリングする又は抽出した特徴の解像度を低下させる)、低解像度にするように構成することができ、その特徴がサイノグラムドメインに戻されれば、欠落した(任意選択で、初期化されたHEシノグラムではLEシノグラムデータで初期化されているが)ビューの各セットは1つの欠落したビューのみを含む。例えば、元のHEサイノグラムが、連続する4つの欠落したビューと4つの取得されたビューが交互に現れるセットを含む場合、プログレッシブ処理は、第1の処理であって、処理された特徴がサイノグラムドメインに戻されれば、欠落したビュー/初期化されたビューの各セットは(4つではなく)2つの欠落したビュー/初期化されたビューを含み、取得されたビューの各セットは2つの取得されたビューを含む第1の処理を含むことができる。次に、プログレッシブ処理は、更に、第2の処理であって、処理された特徴がサイノグラムドメインに戻されれば、2つの欠落したビュー/初期化されたビューの各セットが1つの欠落したビュー/初期化されたビューに処理(例えば、ダウンサンプリング)される(そして、2つの取得されたビューの各セットが1つの取得されたビューに処理される/ダウンサンプリングされる)第2の処理を含むことができる。次に、マルチスケール補間モデルは、欠落した各ビュー/初期化された各ビューの特徴を補間することができ、これにより、連続する複数の欠落したビュー/初期化されたビューの特徴を補間しようと試みるよりも正確で高速である。
【0063】
したがって、804において、マルチスケール補間モデルのエンコーダアームは、HEサイノグラムの抽出された特徴をプログレッシブにダウンサンプリングして、N個のダウンサンプリングされた特徴セットを作成する。作成されたダウンサンプリングされた特徴セットの数Nは、HEサイノグラムの欠落したビューの各セットの欠落したビューの数に依存する。各セットに2つのビューが欠落している場合、ダウンサンプリングされた1つの特徴セットが作成される。各セットに4つのビューが欠落している場合、ダウンサンプリングされた2つの特徴セットが作成される。各セットに8つのビューが欠落している場合は、ダウンサンプリングされた3つの特徴セットが作成される。ダウンサンプリングの繰り返し(ラウンド)ごとに、2つのビューが1つのビューにダウンサンプリングされるように、ダウンサンプリングはビュー方向とすることができる。しかし、一部の例では、ダウンサンプリングはチャネル方向に実行されてもよい。ダウンサンプリングされた特徴セットは、サイノグラムドメインに戻されると、欠落したビューの元のセットごとに(ダウンサンプリングされた1つの取得されたビューと交互に)欠落したビュー/初期化されたビューを1つのみ含むが、これは、ダウンサンプリングされた最終の特徴セットと呼ぶことができる。
【0064】
806において、ダウンサンプリングされた最終の特徴セットは、マルチスケール補間モデルの最下層を通じて、マルチスケール補間モデルのデコーダアームに送られる。この最下層は、ボトルネック層であってもよいし、超解像層であってもよい。マルチスケール補間モデルのデコーダアームは、最終の拡張された特徴セットが形成されるまで、エンコーダアームからの特徴セットの空間解像度を高めるために、エンコーダアームからの特徴セットをプログレッシブに処理することができる。デコーダアームで実行される処理は、例えば、アップサンプリングを含むことができる。したがって、マルチスケール補間モデルのデコーダアームは、808で示されるように、ダウンサンプリングされた特徴セットを、元の解像度の(例えば、元のHEサイノグラムの解像度に一致する)特徴セットが形成されるまで、デコーダアームの処理の各解像度/各段階に対してそれぞれの損失関数で訓練されたモデル(810で示される)を使用してプログレッシブにアップサンプリングし、その後、出力層を通過して、812で示されるように、充填されたHEサイノグラムが形成され、モデルから出力される。
【0065】
図9は、本明細書で説明するマルチスケール補間モデルで生じるプログレッシブのダウンサンプリング及びアップサンプリングの例900を概略的に示す。HEサイノグラム及びLEサイノグラムの各サイノグラムからの複数のビュー901が概略的に示されており、
図9においてHEサイノグラムからのビューは「High」とラベル付けされ、LEサイノグラムからのビューは「Low」とラベル付けされている。取得されたビューは明るい色の円として示され、欠落したビューは暗い色の円として示されている。例えば、HEサイノグラムは、取得されたビューの第1のセット902を含んでおり、このセット902は、連続的に取得された4つのビューを含む。HEサイノグラムは、欠落したビューの第2のセット904も含んでおり、このセット904は、連続的に欠落した4つのビューを含んでいる。取得されたビューのセット及び欠落したビューのセットは、HEサイノグラムの全体にわたって同じように交互に配置される。各ビューは、それぞれのサイノグラムの画素の行を表すことができ、取得されたビューの第1のセット902の各ビュー及び欠落したビューの第2のセット904の各ビューはHEサイノグラムの画素のそれぞれの行を表す。取得されたビューは各画素の強度値(例えば、HU値)を含み、欠落したビューは各画素に対して値が無い(例えば、0の値)。
【0066】
LEサイノグラムは、欠落したビューと取得されたビューを相補的に含んでおり、LEサイノグラムは、HEサイノグラムが取得されたビューを含む箇所で欠落したビューを含み、LEサイノグラムは、HEサイノグラムが欠落したビューを含む箇所で取得されたビューを含む。
図9に示すLEサイノグラムの各ビューは、HEサイノグラムについて上記で説明したように、LEサイノグラムの画素の行を表すことができる。取得されたビューは、各画素の強度値(例えば、HU値)を含み、欠落したビューは各画素に対して値が無い(例えば、0の値)。
【0067】
初期化を実行する場合、HEサイノグラムの欠落したビュー(例えば、欠落したビューの第2のセット904)は、LEサイノグラムのそれぞれの相補的なビューの情報で初期化され、LEサイノグラムの欠落したビューは、HEサイノグラムのそれぞれの相補的なビューの情報で初期化される。具体例として、LEサイノグラムの第1のビュー(欠落したビュー)は、HEサイノグラムの第1のビューの情報で初期化することができる。例えば、LEサイノグラムの(第1のビューによって表される)第1の行の画素のスケーリングされた強度値を、HEサイノグラムの第1の行の画素に加えることができる。
【0068】
複数のビューの特徴が抽出され、抽出された特徴に対してダウンサンプリングの第1のラウンドが実行されて、第2の複数のビュー905が形成される。ダウンサンプリングは2倍であり、そのため、取得されたビューのセットと欠落したビュー/初期化されたビューのセットには、それぞれ連続した2つのビューが含まれる。例えば、取得されたビューの第1のセット902はダウンサンプリングされ、ダウンサンプリング後の取得されたビューの第1のセット906が得られ、ダウンサンプリングにより、4つのビューから2つのビューになる。このようにして、入力されたHEサイノグラムから抽出された特徴はダウンサンプリングされ、ダウンサンプリングされた特徴がサイノグラムドメインに戻れば、取得されたビューの第1のセット902に対応する画素の4つの行は、画素の2つの行にダウンサンプリングされ、欠落したビューに対応する画素の行についても同様である(例えば、4つの行から2つの行にダウンサンプリングされる)。別のラウンドのダウンサンプリングを(再び、2倍で)実行した後、第3の(例えば、最終の)複数のビュー907が形成され、ビューの各セットは1つのビューのみを含む。例えば、ダウンサンプリング後の取得されたビューの第1のセット906がダウンサンプリングされて、ダウンサンプリング後の単一の第1のビュー908になり、サイノグラムドメインに戻れば、1行の画素を表すことになる。したがって、最終のダウンサンプリングにおけるHEサイノグラムとLEのサイノグラムの両方に対して、欠落したビューは、取得されたビューと1つずつ交互に配置され、特徴が、最終のダウンサンプリングが実行された後に、サイノグラム空間に戻れば、欠落した/初期化された画素の各行は、取得された画素の隣接する1つ又は2つの行を有することになる。先に説明したように、隣接する1つ又は2つの取得されたビューに基づいて単一の欠落したビューを補間することは、連続した4つのビューを補間することに比べて、比較的簡単に実行することができ、正確である。したがって、欠落したビュー/初期化された各ビューは、矢印910及び912で示すように、プログレッシブのアップサンプリング中に補間されて、初期化されたHE及びLEサイノグラムとして元の解像度/ビュー数に戻すことができる。
【0069】
図10は、単一チャネル出力のマルチスケール補間モデルの第1の例示的アーキテクチャ1000を概略的に示す図である。第1のアーキテクチャ1000によるマルチスケール補間モデルは、欠落したビューを有するサイノグラム(例えば、HEサイノグラム又はLEサイノグラム)を入力とするエンコーダアーム1002を含む。一部の例では、入力サイノグラムは、初期化されたサイノグラム(例えば、初期化されたHEサイノグラム又はLEサイノグラム)とすることができる。エンコーダアーム1002は、入力サイノグラムから特徴のセットを抽出し、この特徴のセットは、最初の特徴セット1004と呼ぶ。エンコーダアーム1002は、最初の特徴セット1004をビュー方向に2倍でダウンサンプリングして、中間の特徴セット1006を形成する。エンコーダアーム1002は、中間の特徴セット1006をビュー方向に2倍でダウンサンプリングして、最終の特徴セット1008を形成する。
【0070】
最終の特徴セット1008はボトルネック層1010を通過する。ボトルネック層1010からの出力は、最終の特徴セット1008とともにデコーダアーム1012に渡され、デコーダアーム1012において、ボトルネック層からの出力は、最終の特徴セット1008と連結されて、最初の拡張された特徴セット1014を形成する。デコーダアームは、最初の拡張された特徴セット1014を2倍でアップサンプリングし、アップサンプリングされた拡張された特徴セットを中間の特徴セット1006と連結して、中間の拡張された特徴セット1016を形成する。デコーダアームは、中間の拡張された特徴セット1016を2倍でアップサンプリングし、アップサンプリングされた拡張された特徴セットを最初の特徴セット1004と連結して、最終の拡張された特徴セット1018を形成する。最終の拡張された特徴セット1018は、出力層(例えば、1x1畳み込み)を通過して、充填されたサイノグラム
【数1】
を生成して、モデルによって出力される。
【0071】
マルチスケール補間モデルの特徴抽出、解像度を下げるプログレッシブ処理(例えば、ダウンサンプリング)、及び解像度を上げるプログレッシブ処理(例えば、アップサンプリング)は、マルチスケール補間モデルの訓練中に設定されるマルチスケール補間モデルの重み及びバイアスに従って実行することができる。典型的には、重み及びバイアスは、モデルの最終出力
【数2】
(例えば、充填されたサイノグラム)と、対応するグラウンドトゥルースのサイノグラム(X)との間で計算される損失関数に基づいて、訓練中に設定することができる。例えば、グラウンドトゥルースのサイノグラムは、考えられる全てのビューが1つのエネルギーレベルで取得されるサイノグラムとすることができ、例えば、グラウンドトゥルースのHEサイノグラムは、高エネルギーレベルで取得される全てのビューを含み、欠落したビューは含まない。
【0072】
しかしながら、本開示のマルチスケール補間モデルは、モデルの異なる段階(例えば、層/解像度)で計算された複数の損失関数を用いて訓練される。
図10に示すように、訓練中、最初の拡張された特徴セット1014は、1x1畳み込み出力層を通過して、最初の補間された出力サイノグラム
【数3】
を形成することができる。同様に、中間の拡張された特徴セット1016は、1x1畳み込み出力層を通過して、中間の補間された出力サイノグラム
【数4】
を形成することができる。モデルによって出力された各サイノグラム
【数5】
は、対応するグラウンドトゥルースのサイノグラムと共に使用して、それぞれの損失関数を計算することができ、モデルは、各損失関数に基づいて訓練中に更新することができる。
【0073】
Nレベルのダウンサンプリングによる1ラウンドの訓練の全体的な損失は、以下の式に従って計算することができる。
【0074】
【0075】
損失関数(L)は、以下の式に従って計算することができる。
【0076】
【0077】
【0078】
【0079】
計算される損失は、平均絶対誤差(MAE)/SSIM/スペクトル損失又は特徴損失とすることができる。このように、損失関数は、出力サイノグラムとそれぞれのグラウンドトゥルースのサイノグラムとの間の差に基づいて、モデルによって出力された各サイノグラムに対して(異なる解像度で)計算される。最初の補間された出力サイノグラム及び中間の補間された出力サイノグラムの損失を計算するためのダウンサンプリングされたグラウンドトゥルースのサイノグラム(それぞれ、X↓4及びX↓2)は、グラウンドトゥルースのサイノグラム(X)をダウンサンプリングすることによって生成することができる。更に、各損失計算中にそれぞれのマスクを適用して、欠落したビュー/初期化されたビューのみで損失が計算され、損失が取得されたビューで計算されないようにすることができ、これにより、取得された各ビューのデータを保持するようにモデルを訓練することができる。
【0080】
このように、
図10に示すマルチスケール補間モデルは、欠落したビュー又は初期化されたビューを持つサイノグラムを入力とする。入力サイノグラムからのサイノグラム値は、プログレッシブのダウンサンプリングによって、空間分解能を低下させる特徴に変換され、次に、これらの特徴は、プログレッシブのアップサンプリングによって、欠落したビュー又は初期化されたビューがサイノグラムデータで充填された完全なサイノグラムに拡張される。
【0081】
各空間解像度において、その解像度におけるサイノグラムマスクが生成される。サイノグラムマスクは行列値である。対応する解像度におけるグラウンドトゥルースのサイノグラムマスクも行列値であり、グラウンドトゥルースのサイノグラムマスクは、サイノグラムマスクの解像度/サイズに一致するように縮小されており、グラウンドトゥルースのサイノグラムマスクは、サイノグラムマスクから減算され、その差は差分行列である。
【0082】
要素ごとの乗算は、差分行列とマスクとの間で実行することができ、マスクも適切な解像度にスケーリングされる。マスクは、補間された値に対応する各点で値1を有し、補間されていない値に対応する各点で値0を有し、グラウンドトゥルースのサイノグラムの強度と補間されたサイノグラムの強度との間の差分のみが損失で使用される。しかし、一部の例では、マスクは他の数値を含むことができ、補間された領域と補間されていない領域を異なるように重み付けすること、又は単にサイノグラムの一部(例えば、損失によってかなり強調されるべきである関心領域)を任意で重み付けすることができる。
【0083】
行列のノルムは、各要素を2乗し、2乗した値を全て加算して、その加算値の平方根をとることで求められ、損失は正のスカラー値である。
【0084】
以上の処理を各分解能レベルで行い、最終的な損失は、上記で説明したように、各分解能レベルにおける損失の加重和として取得される。これにより、各空間解像度における「補間」結果に強調の差をつけることができる。
【0085】
図11は、マルチスケール補間モデルの第2の例示的アーキテクチャ1100を概略的に示す。第2のアーキテクチャ1100によるマルチスケール補間モデルは、
図10に示される第1のアーキテクチャと同様であり、したがって、欠落したビューを有するサイノグラム(例えば、HEサイノグラム又はLEサイノグラム)を入力として取り込み、サイノグラムから特徴のセット(これは、最初の特徴セット1104と呼ぶことができる)を抽出するエンコーダアーム1102を含んでいる。エンコーダアーム1102は、最初の特徴セット1104をビュー方向に2倍でダウンサンプリングして、中間の特徴セット1106を形成する。エンコーダアーム1102は、中間の特徴セット1106をビュー方向に2倍でダウンサンプリングして、最終の特徴セット1108を形成する。また、
図11は、(例えば、サイノグラムの欠落したビューのセットが、連続する8つの欠落したビューを含む場合)更に多くの中間ダウンサンプリング層を含み、最終の特徴セットを形成する前に第2の中間の特徴セット1107を生成できることを示している。
【0086】
第2のアーキテクチャ1100は、ボトルネック層を使用する代わりに、超解像層1110を含んでいる。最終の特徴セット1108は超解像層1110を通過し、超解像層1110は最終の特徴セットを2倍に拡張する/アップサンプリングする。超解像層1110からの出力1111は、第2の中間の特徴セット1107と共にデコーダアーム1112に渡され、出力1111は、第2の中間の特徴セット1107と連結されて、第1の中間の拡張された特徴セット1114を形成する。デコーダアームは、第1の中間の拡張された特徴セット1114を2倍にアップサンプリングし、アップサンプリングされた特徴セットを中間の特徴セット1106に連結して第2の中間の拡張された特徴セット1116を形成する。デコーダアームは、第2の中間の拡張された特徴セット1116を2倍にアップサンプリングし、アップサンプリングされた特徴セットを最初の特徴セット1104に連結して、最終の拡張された特徴セット1118を形成する。最終の拡張された特徴セット1118は、出力層(例えば、1x1畳み込み)に渡され、充填されたサイノグラム
【数10】
が生成され、モデルによって出力される。第2の中間層のダウンサンプリングが実行されない例では、出力1111は、中間の特徴セット1106に連結され、第2の中間の拡張された特徴セット1116を形成することができる。
【0087】
第2のアーキテクチャ1100によるマルチスケール補間モデルは、第1のアーキテクチャ1000によるモデルと同様に訓練することができるが、損失関数は1つ少ない。
図11は、損失関数を計算するために使用することができる3つの出力
【数11】
を示すが、第2のアーキテクチャは、(任意選択で)追加のダウンサンプリング層を含む。追加のダウンサンプリング層が省略されて1107及び1114が形成されなければ、最初の補間された出力サイノグラム
【数12】
は存在せず、第2のアーキテクチャ1100の出力は、充填された出力サイノグラムX及び中間のアップサンプリングされた出力サイノグラム
【数13】
のみとなる。
【0088】
超解像層を含むと、超解像層への入力は少なくともx/2のデータを持っていることが要求され、超解像層の動作の後、出力データ(例えば、超解像層からの出力)はxのサイズになる。このサイズが得られるのは、エンコーダのレベルで、1つの欠落したビューが交互に現れ、測定値の総数がx/2になる場合のみである。欠落したビューは取り除かれ、x/2サイズのデータが得られる。超解像処理の後、「x」サイズのサイノグラムが出力される。このように、超解像層を有するアーキテクチャ1100は、全体的な又は局所的なスケーリングを使用して入力層で初期化されたサイノグラムを利用することができず、初期化されていない又は特徴レベルで初期化されたサイノグラムのみを入力として使用することができる。
【0089】
図12は、デュアルチャネル出力のマルチスケール補間モデルを使用して、欠落したビューを有するHEサイノグラムから充填されたHEサイノグラムと、欠落したビューを有するLEサイノグラムから充填されたLEサイノグラムとを取得するための方法1200を示すフローチャートである。方法1200は、イメージングシステムに動作可能に結合されたコンピューティング装置(コンピューティング装置216、画像再構成器230、クラウドベースのコンピューティングシステム、又は別の適切なコンピューティング装置など)のメモリに記憶された命令に従って実行することができる。一部の例では、方法1200は方法300の一部として実行することができ、例えば方法1200は方法300のステップ312で実行することができる。
【0090】
1202で、HEサイノグラム及びLEサイノグラムがそれぞれマルチスケール補間モデルに入力される。一部の例では、HEサイノグラムは、LEサイノグラムの相補的データで初期化される。一部の例では、LEサイノグラムは、HEサイノグラムの相補的データで初期化される。初期化されたHEサイノグラム及び初期化されたLEサイノグラムは、例えば、特徴レベル混合又は入力レベル混合を用いて、元のHEサイノグラム(又はLEサイノグラム)の欠落したビューを元のLE(又はHE)サイノグラムの相補的なビューのデータで充填することにより、
図3に関して上記で説明したように作成することができる。元のHEサイノグラム及びLEサイノグラムは、欠落したビューを有するものであり、欠落したビューは、取得されたビューのセットと交互に並ぶ連続した欠落したビューのセットにグループ化される。欠落したビューの各セットは、少なくとも2つの連続する欠落したビューを含むことができる。マルチスケール補間モデルは、充填されたHEサイノグラムを出力するように訓練されたデュアルチャネル出力モデル(デュアルチャネル出力モデル508など)とすることができる。
【0091】
マルチスケール補間モデルは、
図8、
図10、及び
図11に関して上記で説明したシングルチャネル出力モデルのエンコーダアームと同様に、エンコーダアームが、HEサイノグラムから抽出された特徴をプログレッシブに処理して(例えば、ダウンサンプルする)低解像度にし、(特徴がサイノグラム値に戻れば)欠落したビュー又は初期化されたビューの各セットが欠落したビュー/初期化されたビューを1つだけ含むように構成されたエンコーダ-デコーダアーキテクチャを有することができる。デュアルチャネル出力モデルでは、エンコーダアームは、LEサイノグラムから抽出された特徴をプログレッシブに処理(例えば、ダウンサンプル)して低解像度にし、欠落したビュー又は初期化されたビューの各セットが欠落したビュー/初期化されたビューを1つだけ含むようにも構成される。
【0092】
したがって、1204において、マルチスケール補間モデルのエンコーダアームは、HEサイノグラムの抽出された特徴をプログレッシブにダウンサンプリングし、LEサイノグラムの抽出された特徴をプログレッシブにダウンサンプリングして、N個のダウンサンプリングされたHE特徴セットと、N個のダウンサンプリングされたLE特徴セットとを作成する。このダウンサンプリングされた特徴セットの数Nは、HEサイノグラム及びLEサイノグラムの欠落したビューの各セットにおいて何個のビューが欠落しているかに依存する。各セットにおいて2つのビューが欠落している場合、ダウンサンプリングされた1つのHE特徴セットと、ダウンサンプリングされた1つのLE特徴セットが作成される。各セットにおいて、4つのビューが欠落している場合、ダウンサンプリングされた2つのHE特徴セットが作成され、ダウンサンプリングされた2つのLE特徴セットが作成される。欠落しているビューが他の数の場合も同様である。ダウンサンプリングはビュー方向に行われ、ダウンサンプリングの各ラウンドで、2つのビューがダウンサンプリングされて1つのビューになる。欠落したビューの元のセットごとに(ダウンサンプリングされた1つの取得されたビューと交互に)欠落したビュー/初期化されたビューを1つのみ含むダウンサンプリングされた特徴セットを、最終の特徴セットとすることができる。
【0093】
最終の特徴セットは、
図10及び
図11に関して上記で説明したように、ボトルネック層又は超解像層を通過することができる。1208で示されるように、マルチスケール補間モデルの第1のデコーダアームは、ダウンサンプリングされたHE特徴セットを、元の解像度(例えば、元のHEサイノグラムの解像度に一致する解像度)のHE特徴セットが形成されるまで、(1210で示されるように)各解像度に対してそれぞれの損失関数で訓練されたモデルでプログレッシブに処理(例えば、アップサンプリング)し、HE特徴セットは出力層を通過し、1216で示されるように、充填されたHEサイノグラムが形成され、モデルから出力される。同様に、1212において、マルチスケール補間モデルの第2のデコーダアームは、ダウンサンプリングされたLE特徴セットを、元の解像度(例えば、元のLEサイノグラムの解像度に一致する解像度)のLE特徴セットが形成されるまで、(1214で示されるように)各解像度に対してそれぞれの損失関数で訓練されたモデルでプログレッシブに処理(例えば、アップサンプリング)し、LE特徴セットは出力層を通過し、1216で示されるように、充填されたLEサイノグラムが形成され、モデルから出力される。
【0094】
図13は、デュアルチャネル出力のマルチスケール補間モデルの第3の例示的なアーキテクチャ1300を概略的に示す。第3のアーキテクチャ1300によるマルチスケール補間モデルは、エンコーダアーム1302と、2つのデコーダアーム(即ち、第1のデコーダアーム1312及び第2のデコーダアーム1320)とを含んでいる。エンコーダアーム1302は、入力として、2つのサイノグラム(例えば、HEサイノグラム及びLEサイノグラム)であって、各サイノグラムが欠落したビューを有する2つのサイノグラムを受け取る。一部の例では、入力サイノグラムは、初期化されたサイノグラム(例えば、初期化されたHEサイノグラム及びLEサイノグラム)とすることができる。各入力サイノグラムに対して、エンコーダアーム1302は、
図10に示すアーキテクチャのエンコーダアームに関して上記で説明したように、入力されたサイノグラムから特徴のセットを抽出し、抽出された特徴をダウンサンプリングする。例えば、エンコーダアーム132において、ダウンサンプリングされた第1の特徴セット1304が形成され、この第1の特徴セット1304は、ビュー方向に2倍でダウンサンプリングされて、ダウンサンプリングされた中間の特徴セット1306が形成される。エンコーダアーム1302は、ダウンサンプリングされた中間の特徴セット1306をビュー方向に2倍でダウンサンプリングして、ダウンサンプリングされた最終の特徴セット1308を形成する。この処理は、エンコーダアーム1302が、HEサイノグラム及びLEサイノグラムの両方に対して実行する。
【0095】
ダウンサンプリングされた各最終の特徴セットは、ボトルネック層1310を通過する。ボトルネック層1310からのHEサイノグラムに対応する出力(例えば、HEサイノグラムの最もダウンサンプリングされたHE特徴セット/HEサイノグラムの最も低い解像度の特徴セット)は、欠落したビューのない(例えば、欠落した各ビュー/初期化された各ビューが充填されている)ダウンサンプリングされた特徴セットであり、ダウンサンプリングされた最終のHE特徴セットとともに第1のデコーダアーム1312に渡され、ボトルネック層からの出力は、ダウンサンプリングされた最終のHE特徴セットと連結されて、第1の拡張されたHE特徴セット1314を形成する。第1のデコーダアームは、第1の拡張されたHE特徴セット1314を2倍でアップサンプリングし、アップサンプリングされた/拡張された特徴セットをダウンサンプリングされた中間のHE特徴セットと連結して、中間の拡張されたHE特徴セット1316を形成する。第1のデコーダアームは、中間の拡張されたHE特徴セット1316を2倍でアップサンプリングし、拡張された特徴セットをダウンサンプリングされた最初のHE特徴セットと連結して、最終の拡張されたHE特徴セット1318を形成する。最終の拡張されたHE特徴セット1318は、出力層(例えば、1x1畳み込み)を通過して、充填されたHEサイノグラム
【数14】
が生成され、モデルによって出力される。
【0096】
同様の処理が、第2のデコーダアーム1320によって実行され、充填されたLEサイノグラムが形成される。ボトルネック層1310からの出力(例えば、最もダウンサンプリングされたLE特徴セット)は、欠落したビューのない(例えば、欠落した各ビュー/初期化された各ビューが充填されている)ダウンサンプリングされた特徴セットであり、ダウンサンプリングされた最終のLE特徴セットとともに第2のデコーダアーム1320に渡され、ボトルネック層からの出力は、ダウンサンプリングされた最終のLE特徴セットと連結されて、第1の拡張されたLE特徴セット1322を形成する。第2のデコーダアームは、第1の拡張されたLE特徴セット1322を2倍でアップサンプリングし、拡張された特徴セットをダウンサンプリングされた中間のLE特徴セットと連結して、中間の拡張されたLE特徴セット1324を形成する。第2のデコーダアームは、中間の拡張されたLE特徴セット1324を2倍でアップサンプリングし、拡張された特徴セットをダウンサンプリングされた最初のLE特徴セットと連結して、アップサンプリングされた最終のLE特徴セット1326を形成する。アップサンプリングされた最終のLE特徴セット1326は、出力層(例えば、1x1畳み込み)を通過して、充填されたLEサイノグラム
【数15】
が生成され、モデルによって出力される。
【0097】
マルチスケール補間モデルの特徴抽出、特徴セットの解像度を下げるためのプログレッシブ処理/ダウンサンプリング、及び特徴セットの解像度を上げるためのプログレッシブ処理/アップサンプリングは、
図10に関して上記で説明したように、複数の損失関数を使用してマルチスケール補間モデルの訓練中に設定されるマルチスケール補間モデルの重み及びバイアスに従って実行することができる。
【0098】
第1のデコーダアーム1312によって出力された各サイノグラム
【数16】
から計算された損失関数に加えて、損失関数は、対応するグラウンドトゥルースのサイノグラムとともに使用され、各損失関数に基づいて訓練中にモデルを更新するためのそれぞれの損失関数を計算することができ、さらなる損失関数が第2のデコーダアーム1320用に計算される。
【数17】
【0099】
Nレベルのダウンサンプリングを伴う第2のデコーダアーム1320の訓練のラウンドの全体的な損失は、以下の式に従って計算することができる。
【0100】
【0101】
損失関数(L)は、以下の式に従って計算することができる。
【0102】
【0103】
【0104】
【0105】
計算される損失は、平均絶対誤差(MAE)/SSIM/スペクトル損失又は特徴損失である。
【0106】
したがって、損失関数は、出力されたサイノグラムとそれぞれのグラウンドトゥルースのサイノグラムとの間の差に基づいて、モデルの各デコーダアームによって出力される各サイノグラム/各解像度レベルに対して計算される。損失を計算するためのダウンサンプリングされたグラウンドトゥルースのサイノグラムは、グラウンドトゥルースの各サイノグラム(X,Y)をダウンサンプリングすることによって生成することができる。更に、欠落したビュー/初期化されたビューのみに対して損失が計算され、取得されたビューに対して損失が計算されないように、それぞれのマスクを各損失計算中に適用して、これにより、取得された各ビューのデータを保持するようにモデルを訓練することができる。
【0107】
図14は、本開示の実施形態に従って生成することができる複数の画像1400を示す。複数の画像1400は、第1の画像セット1402を含んでおり、これらの画像は、完全なサイノグラム(例えば、HEサイノグラム及びLEサイノグラムのいずれのサイノグラムにも欠落したビューがない)から再構成された原画像である。第1の画像セット1402は、基準物質画像を含み、第1の画像1404は第1の基準物質に弁別され、第2の画像1406は第2の基準物質に弁別されている。各画像には4つの関心領域(ROI)がマークされている。
【0108】
複数の画像1400は更に第2の画像セット1408を含んでおり、この第2
の画像セット1408は、充填されたHEサイノグラム及び充填されたLEサイノグラムから再構成された画像を含んでおり、充填されたHEサイノグラム及び充填されたLEサイノグラムは、元々はビューが欠落していたが、本明細書で開示する方法を使用して充填されたサイノグラムであり、他のサイノグラムのデータを使用して各サイノグラムを初期化し本明細書で記載されたマルチスケール補間モデルによって欠落したビューが補間されている。第2の画像セット1408は、基準物質画像を含み、第3の画像1410は第1の基準物質に弁別され、第4の画像1412は第2の基準物質に弁別されている。4つのROIは各画像にマークされている。
【0109】
図14から理解されるように、第2の画像セット1208は、第1の画像セット1402と同様の品質である。具体例として、第2の基準物質の画像(例えば、第2の画像1406及び第4の画像1412)におけるROI2を見ると、ROI2は、第2の画像1406(例えば、第2の基準物質の原画像)において、996.6の平均値及び1.8の標準偏差を有する。比較すると、第2の画像セット1408では、第4の画像1412のROI2は、996.9の平均値及び1.9の標準偏差を有している。したがって、本明細書に記載されたマルチスケール補間モデルは、サイノグラムの欠落したビューを充填することができ、これは、欠落したビューのないサイノグラムから再構成された画像と同等の品質を有する画像を再構成するために使用することができる。
【0110】
図15は、本開示の実施形態に従って生成することができる複数の画像1500を示す。複数の画像1500は第1の画像セット1502を含んでいる。第1の画像セット1502は、完全なサイノグラム(例えば、HEサイノグラム及びLEサイノグラムのいずれのサイノグラムにも欠落したビューがない)から再構成された原画像である。第1の画像セット1502は、基準物質画像を含んでおり、第1の画像1504は第1の基準物質に弁別され、第2の画像1506は第2の基準物質に弁別されている。各画像には1つのROIがマークされている。
【0111】
複数の画像1500は、第2の画像セット1508、第3の画像セット1514、及び第4の画像セット1520も含んでおり、これらの各セットは、充填されたHEサイノグラム及び充填されたLEサイノグラムから再構成された画像を含んでおり、充填されたHEサイノグラム及び充填されたLEサイノグラムは、元々はビューが欠落していたが、本明細書で開示する方法を使用して充填されたサイノグラムであり、本明細書で記載されたマルチスケール補間モデルによって欠落したビューが補間されている。しかしながら、第2、第3及び第4の画像セットの再構成に使用されるHEサイノグラム及びLEサイノグラムは、元々は、連続する欠落したビューの数が異なっていたものである。例えば、第2の画像セット1508は、4つの連続するビューを含む欠落したビューのグループを有する元のHEサイノグラム及びLEサイノグラムを用いて取得された、充填されたHEサイノグラム及び充填されたLEサイノグラムから再構成することができる。第3の画像セット1514は、2つの連続するビューを含む欠落したビューのグループを有する元のHEサイノグラム及びLEサイノグラムを用いて取得された、充填されたHEサイノグラム及び充填されたLEサイノグラムから再構成することができる。第4の画像セット1520は、8つの連続するビューを含む欠落したビューのグループを有する元のHEサイノグラム及びLEサイノグラムを用いて取得された、充填されたHEサイノグラム及び充填されたLEサイノグラムから再構成することができる。
【0112】
第2の画像セット1508は、基準物質画像を含み、第3の画像1510は第1の基準物質に弁別され、第4の画像1512は第2の基準物質に弁別されている。第3の画像セット1514は、基準物質画像を含み、第5の画像1516は第1の基準物質に弁別され、第6の画像1518は第2の基準物質に弁別されている。第4の画像セット1520は、基準物質画像を含み、第7の画像1522は第1の基準物質に弁別され、第8の画像1524は第2の基準物質に弁別されている。各画像には同じROIがマークされている。同じ元のHEサイノグラム及びLEサイノグラムを使用して、複数の画像1500の全ての画像を取得することができ、完全なHEサイノグラム及びLEサイノグラムを使用して第1の画像セット1502を再構成し、完全なHEサイノグラム及びLEサイノグラムから、連続する4つのビューのグループ、連続する2つのビューのグループ、及び連続する8つのビューのグループを順に除去して、4つの欠落したビューのグループ、2つの欠落したビューのグループ、及び8つの欠落したビューのグループを有するHE及びLEサイノグラムを作成し、これらのサイノグラムを補間し/充填して、補間された/充填されたサイノグラムを使用して、第2、第3、及び第4の画像セットを再構成できることを理解されたい。
【0113】
図15から理解されるように、充填されたサイノグラムから再構成された画像は、事前に充填されたビュー/欠落したビューのサイノグラムから連続する何個のビューが欠落しているか(したがって、マルチスケール補間モデルによって連続する何個のビューが充填されなければならないか)にかかわらず、(欠落したビューのない完全サイノグラムから再構成された)第1の画像セット1502と同様の画質を有している。具体例として、第3の画像1510、第5の画像1516、及び第7の画像1522の各画像のROIのパラメータは、第1の画像1504のROIのパラメータと同様である。第1の画像1504のROIは、2.0の平均強度値及び20.4の標準偏差を有し、第3の画像1510、第5の画像1516、及び第7の画像1522のそれぞれのROIは、1.9、0.4、及び0.5の平均強度値及び17.1、17.3、及び17.8の標準偏差を有している。同様に、第4の画像1512、第6の画像1518、及び第8の画像1524の各画像のROIのパラメータは、第2の画像1506のROIのパラメータと同様である。第2の画像1506のROIは、834.9の平均強度値及び31.1の標準偏差を有し、第4の画像1512、第6の画像1518、及び第8の画像1524のそれぞれのROIは、835.6、834.5、及び834.8の平均強度値並びに30.8、32.0、及び31.2の標準偏差を有している。
【0114】
本明細書に記載されたマルチスケール補間モデルを使用して、高エネルギーサイノグラム及び低エネルギーサイノグラムであって、各サイノグラムが欠落したビューを有する高エネルギーサイノグラム及び低エネルギーサイノグラムを充填する技術的効果は、従来の補間技術に関連する画像アーチファクト又は画質劣化を発生させることなく、充填されたサイノグラムから画像を再構成することができることである。別の技術的効果は、マルチスケール補間モデルの精度、特にマルチスケール補間モデルの訓練中に使用される複数の損失関数により、充填されたサイノグラムの再構成前のダウンストリーム処理が低減又は回避されることである。
【0115】
また、本開示は方法のサポートを提供する。本方法は、撮影対象の第1のサイノグラム及び第2のサイノグラムを取得することであって、前記第1のサイノグラムは複数のビューが欠落しており、前記第2のサイノグラムは異なる複数のビューが欠落しており、前記第1のサイノグラムはスキャン中に第1のX線源エネルギーで取得され、前記第2のサイノグラムは前記スキャン中に異なる第2のX線源エネルギーで取得される、第1のサイノグラム及び第2のサイノグラムを取得すること、前記第1のサイノグラムを前記第2のサイノグラムの情報で初期化して、第1の初期化されたサイノグラムを形成すること、前記第2のサイノグラムを前記第1のサイノグラムの情報で初期化して、第2の初期化されたサイノグラムを形成すること、前記第1の初期化されたサイノグラムを、前記第1の初期化されたサイノグラムに基づいて第1の充填されたサイノグラムを出力するように訓練された補間モデルに入力し、前記第2の初期化されたサイノグラムを、前記第2の初期化されたサイノグラムに基づいて第2の充填されたサイノグラムを出力するように訓練された前記補間モデル又は別の補間モデルに入力すること、及び前記第1の充填されたサイノグラム及び前記第2の充填されたサイノグラムから1つ又は複数の画像を再構成すること
を含む。本方法の第1の実施例では、前記第1の初期化されたサイノグラムを前記補間モデルに入力し、前記第2の初期化されたサイノグラムを前記補間モデル又は別の補間モデルに入力することは、前記第1の初期化されたサイノグラム及び前記第2の初期化されたサイノグラムの両方を前記補間モデルに入力することを含み、前記補間モデルは、前記第1の充填されたサイノグラム及び前記第2の充填されたサイノグラムの両方を出力するように訓練されたデュアルチャネル出力モデルを含む。本方法の第2の実施例では、任意選択で第1の実施例を含み、前記第1の初期化されたサイノグラムを前記補間モデルに入力し、前記第2の初期化されたサイノグラムを前記補間モデル又は別の補間モデルに入力することは、前記第1の初期化されたサイノグラムを前記補間モデルに入力し、前記第2の初期化されたサイノグラムを別の補間モデルに入力することを含み、前記補間モデルは、前記第1の充填されたサイノグラムを出力するように訓練された第1の単一チャネル出力モデルを含み、別の補間モデルは、前記第2の充填されたサイノグラムを出力するように訓練された第2の単一チャネル出力モデルを含む。本方法の第3の実施例では、任意選択で、第1及び第2の実施例の一方又は両方の実施例を含み、前記第1のサイノグラムから欠落した複数のビューは、取得されたビューの複数のセットと交互に並ぶ連続する欠落したビューの複数のセットを含み、前記第1のサイノグラムを初期化することは、連続する欠落したビューの複数のセットの連続する欠落したビューの各セットに対して、前記第2のサイノグラムから相補的なビューを特定すること、前記第2のサイノグラムの相補的なビューの各ビューのサイノグラムデータをスケーリングすること、及びそれぞれのスケーリングされたサイノグラムデータで連続する欠落したビューの各セットを充填して、第1の初期化されたサイノグラムを形成することを含む。本方法の第4の実施例では、任意選択で、第1から第3の実施例のうちの1つ以上の実施例又は各実施例を含み、前記第1のサイノグラムを初期化することは、第1のサイノグラムを演算及びダウンサンプリングの第1のセットによって処理して、特徴の第1のセットを生成することであって、特徴の第1のセットは、前記第1のサイノグラムに対応する高次元の特徴を含む、特徴の第1のセットを生成すること、前記第2のサイノグラムを演算及びダウンサンプリングの第2のセットによって処理して、特徴の第2のセットを生成することであって、特徴の第2のセットは、前記第2のサイノグラムに対応する高次元の特徴を含む、特徴の第2のセットを生成すること、特徴の第1のセットと特徴の第2のセットを混合して、混合された特徴のセットを形成すること、及び混合された特徴のセットをアップサンプリングして、前記第1の初期化されたサイノグラムを形成することを含む。本方法の第5の実施例では、任意選択で第1から第4の実施例のうちの1つ以上の実施例又は各実施例を含み、前記補間モデルは、処理された最終の特徴セットが形成されるまで、前記第1の初期化されたサイノグラムから抽出された特徴をプログレッシブに処理するように構成されたエンコーダアームを含む。本方法の第6の実施例では、任意選択で第1から第5の実施例のうちの1つ以上の実施例又は各実施例を含み、前記補間モデルが、ボトルネック層又は超解像層を更に含む。本方法の第7の実施例では、任意選択で、第1から第6の実施例のうちの1つ以上の実施例又は各実施例を含み、前記補間モデルは、最終の拡張された特徴セットが形成されるまで、処理された最終の特徴セットをプログレッシブに処理するように構成されたデコーダアームを更に含み、前記最終の拡張された特徴セットが出力層を通過して、前記第1の充填されたサイノグラムを形成する。本方法の第8の実施例では、任意選択で、第1から第7の実施例のうちの1つ以上の実施例又は各実施例を含み、前記エンコーダアームは、処理された各特徴セットを前記デコーダアームに渡すように構成され、前記デコーダアームは、処理された各特徴セットを用いて、処理された最終の特徴セットをプログレッシブに処理するように構成される。本方法の第9の実施例では、任意選択で、第1から第8の実施例のうちの1つ以上の実施例又は各実施例を含み、前記補間モデルは、複数の損失関数を用いて訓練され、各損失関数は、前記デコーダアームのプログレッシブ処理のそれぞれの段階において、前記デコーダアームの出力から計算される。
【0116】
また、本開示は、イメージングシステムもサポートする。本イメージングシステムは、撮影される被検体に向けてX線ビームを照射するX線源、前記被検体によって減衰したX線ビームを受け取る検出器、前記検出器に動作可能に接続されたデータ収集システム(DAS)、及び命令を記憶するメモリ及び前記命令を実行するように構成された1つ又は複数のプロセッサを含み、前記命令は、前記DASから前記被検体の第1のサイノグラム及び第2のサイノグラムを取得することであって、前記第1のサイノグラムは複数のビューが欠落しており、前記第2のサイノグラムは異なる複数のビューが欠落しており、前記第1のサイノグラムはスキャン中に第1のX線源エネルギーで動作する前記X線源で取得され、前記第2のサイノグラムは前記スキャン中に異なる第2のX線源エネルギーで動作する前記X線源で取得される、第1のサイノグラム及び第2のサイノグラムを取得すること、前記第1のサイノグラムを前記第2のサイノグラムの情報で初期化して、第1の初期化されたサイノグラムを形成すること、前記第2のサイノグラムを前記第1のサイノグラムの情報で初期化して、第2の初期化されたサイノグラムを形成すること、前記第1の初期化されたサイノグラムを、前記第1の初期化されたサイノグラムに基づいて第1の充填されたサイノグラムを出力するように訓練された補間モデルに入力すること、前記第2の初期化されたサイノグラムを、前記第2の初期化されたサイノグラムに基づいて第2の充填されたサイノグラムを出力するように訓練された前記補間モデル又は別の補間モデルに入力すること、及び前記第1の充填されたサイノグラム及び前記第2の充填されたサイノグラムから1つ又は複数の画像を再構成することを実行するための命令である。システムの第1の実施例では、前記第1のサイノグラムから欠落した複数のビューは、取得されたビューの複数のセットと交互に並ぶ連続する欠落したビューの複数のセットを含み、前記第1のサイノグラムを初期化することは、前記第1の初期化されたサイノグラムは、取得されたビューの複数のセットと交互に並ぶ連続する初期化されたビューの複数のセットを含むように、前記第2のサイノグラムの情報を前記第1のサイノグラムの欠落した各ビューに加えることを含む。システムの第2の実施例では、任意選択で第1の実施例を含み、前記補間モデルは、前記第1の初期化されたサイノグラムから抽出された特徴を、複数の処理段階を通じてプログレッシブに処理して、連続する初期化されたビューの各セットが1つの初期化されたビューのみを含む処理された最終の特徴セットを形成すること、及び最終の拡張された特徴セットが形成され、出力層を通過して、前記第1の充填されたサイノグラムが形成されるまで、他の複数の処理段階を通じて、前記処理された最終の特徴セットをプログレッシブに処理する。システムの第3の実施例では、任意選択で第1及び第2の実施例の一方又は両方の実施例を含み、前記補間モデルは複数の損失関数で訓練され、各損失関数は、それぞれの他の処理段階で計算される。
【0117】
また、本開示は方法もサポートする。本方法は、撮影対象の第1のサイノグラム及び第2のサイノグラムを取得することであって、前記第1のサイノグラムは複数のビューが欠落しており、前記第2のサイノグラムは異なる複数のビューが欠落しており、前記第1のサイノグラムはスキャン中に第1のX線源エネルギーで取得され、前記第2のサイノグラムは前記スキャン中に異なる第2のX線源エネルギーで取得される、第1のサイノグラム及び第2のサイノグラムを取得すること、前記第1のサイノグラムに基づいて、第1の充填されたサイノグラムを出力するように訓練された補間モデルから第1の充填されたサイノグラム出力を取得することであって、前記補間モデルは、前記第1のサイノグラムから欠落している複数のビューの各ビューを充填するために、複数の段階の補間を実行するように構成され、前記補間モデルは、各段階でそれぞれの損失関数で訓練される、第1の充填されたサイノグラム出力を取得すること、前記第2のサイノグラムに基づいて、第2の充填されたサイノグラムを出力するように訓練された前記補間モデル又は別の補間モデルから出力された第2の充填されたサイノグラムを取得すること、及び前記第1の充填されたサイノグラムと前記第2の充填されたサイノグラムから1つ又は複数の画像を再構成すること
を含む。本方法の第1の実施例では、前記第1のサイノグラムから欠落した複数のビューは、取得されたビューの複数のセットと交互に並ぶ連続する欠落したビューの複数のセットを含み、前記補間モデルは、連続する欠落したビューの各セットが1つの欠落したビューのみを含む最も低い解像度で前記第1のサイノグラムから抽出された特徴を受け取り、欠落した各ビューがデータで充填される高解像度でアップサンプリングされた特徴セットを出力するように構成された超解像層を含む。本方法の第2の実施例では、任意選択で第一の実施例を含み、前記第2の充填されたサイノグラムを取得することは、前記補間モデルから前記第2の充填されたサイノグラムの出力を取得することを含み、前記補間モデルは、前記第1の充填されたサイノグラムと前記第2の充填されたサイノグラムとの両方を出力するように訓練されたデュアルチャネル出力モデルを含む。本方法の第3の実施例では、任意選択で第1及び第2の実施例の一方又は両方の実施例を含み、前記補間モデルは、エンコーダアーム、第1のデコーダアーム、及び第2のデコーダアームを含み、前記第1のデコーダアームは、前記第1の充填されたサイノグラムを出力するように構成され、前記第2のデコーダアームは、前記第2の充填されたサイノグラムを出力するように構成される。本方法の第4の実施例では、任意選択で第1から第3の実施例のうちの1つ以上の実施例又は各実施例を含み、前記エンコーダアームは、前記第1のサイノグラムを初期化することにより得られたサイノグラムと、前記第2のサイノグラムを初期化することにより得られたサイノグラムとを入力として受け取ること、複数の処理段階を通じて、前記第1のサイノグラムを初期化することにより得られたサイノグラムから抽出された特徴の第1のセットをプログレッシブに処理して、前記第1のサイノグラムの特徴の処理された各第1のセットを前記第1のデコーダアームに渡すこと、及び前記複数の処理段階を通じて、前記第2のサイノグラムを初期化することにより得られたサイノグラムから抽出された特徴の第2のセットをプログレッシブに処理して、前記第2のサイノグラムの特徴の処理された各第2のセットを前記第2のデコーダアームに渡すことを実行するように構成される。本方法の第5の実施例では、任意選択で第1から第4の実施例のうちの1つ以上の実施例又は各実施例を含み、本方法は、前記第1のサイノグラムと前記第2のサイノグラムの特徴レベル混合を実行することによって、又は前記第2のサイノグラムのスケーリングされたサイノグラムデータを前記第1のサイノグラムに追加することによって、前記第1のサイノグラムを初期化することにより得られたサイノグラムを生成することと、前記第2のサイノグラムと前記第1のサイノグラムの特徴レベル混合を実行することによって、又は前記第1のサイノグラムのスケーリングされたサイノグラムデータを前記第2のサイノグラムに追加することによって、前記第2のサイノグラムを初期化することにより得られたサイノグラムを生成することとを更に含む。
【0118】
本明細書において、単数形で記載され、単語「1つの(a)」又は「1つの(an)」が先行する要素又はステップは、除外することが明示的に記載されていない限り、複数の要素又はステップを除外しないものとして理解されるべきである。更に、本発明の「一実施形態」に言及することは、記載された特徴も組み込んだ追加の実施形態の存在を除外するものとして解釈されることを意図するものではない。更に、反対のことを明示的に述べない限り、特定の特性を有する1つの要素又は複数の要素を「含む、有する、備える(comprising)」、「含む、有する、備える(including)」、又は「含む、有する、備える(having)」実施形態は、当該特性を有していない追加の要素を含むことができる。用語 「including」及び「in which」は、それぞれの用語「comprising」及び「wherein」の平易な文言の均等語として使用されている。更に、用語「第1の」、「第2の」、及び「第3の」などは、単にラベルとして使用され、物体に対して数値要件又は特定の位置的順位を課すことを意図するものではない。
【0119】
ここに記載された説明は、実施例を用いて本発明(最良の態様を含む)を開示し、また、当業者が本発明を実施すること(任意の装置又はシステムを製造すること及び使用すること、並びに組み込まれた任意の方法を実行することを含む)ができるようにするものである。本発明の特許可能な範囲は、特許請求の範囲によって画定され、当業者に思い浮かぶ他の実施例を含むことができる。そのような他の実施例は、特許請求の範囲の文言と異なっていない構造要素を含む場合、又は特許請求の範囲の文言と実質的に異なっていない均等な構造要素を含む場合、特許請求の範囲に含まれることが意図される。
【符号の説明】
【0120】
104 X線源
108 検出器アレイ
214 DAS
216 コンピューティング装置
1002 エンコーダアーム
1010 ボトルネック層
1012 デコーダアーム
1110 超解像層