IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東芝メディカルシステムズ株式会社の特許一覧

特開2022-161003医用画像処理方法、医用画像処理装置、X線CT装置、および医用画像処理プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022161003
(43)【公開日】2022-10-20
(54)【発明の名称】医用画像処理方法、医用画像処理装置、X線CT装置、および医用画像処理プログラム
(51)【国際特許分類】
   A61B 6/03 20060101AFI20221013BHJP
   G06V 10/36 20220101ALI20221013BHJP
   G06V 10/82 20220101ALI20221013BHJP
   G06T 1/00 20060101ALI20221013BHJP
   G06T 1/40 20060101ALI20221013BHJP
   G06T 5/00 20060101ALI20221013BHJP
   G06T 3/40 20060101ALI20221013BHJP
   G06T 7/00 20170101ALI20221013BHJP
【FI】
A61B6/03 360T
A61B6/03 350M
A61B6/03 350Y
G06V10/36
G06V10/82
G06T1/00 290B
G06T1/40
G06T5/00 705
G06T3/40 730
G06T7/00 612
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2022044986
(22)【出願日】2022-03-22
(31)【優先権主張番号】63/171,700
(32)【優先日】2021-04-07
(33)【優先権主張国・地域又は機関】US
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.VERILOG
(71)【出願人】
【識別番号】594164542
【氏名又は名称】キヤノンメディカルシステムズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】ツ-チェン・リー
(72)【発明者】
【氏名】リヤン・ツァイ
(72)【発明者】
【氏名】ジエン・ジョウ
(72)【発明者】
【氏名】ジョウ・ユウ
(72)【発明者】
【氏名】松浦 正和
(72)【発明者】
【氏名】根本 拓也
(72)【発明者】
【氏名】田口 博基
【テーマコード(参考)】
4C093
5B057
5L096
【Fターム(参考)】
4C093AA21
4C093CA02
4C093CA06
4C093FF35
4C093FF37
4C093FF42
5B057AA09
5B057BA07
5B057CA12
5B057CB13
5B057CC02
5B057CE02
5B057CE08
5B057CE11
5B057DA17
5L096BA06
5L096BA13
5L096EA05
5L096EA07
5L096HA11
(57)【要約】

【課題】医用画像における物体の視認性と画質を向上させた医用画像を生成すること。
【解決手段】実施形態に係る医用画像処理方法は、第1ピクセルサイズの検出器を有する第1CT装置で、検出器の第1イメージング領域を用いて被検体に対する第1CTスキャンを実行して第1投影データ群を取得し、第1投影データ群を再構成処理して第1解像度を有する第1CT画像を取得し、解像度を向上させる機械学習モデルを第1CT画像に適用して第1解像度よりも解像度が高い処理後CT画像を取得し、処理後CT画像を表示または解析処理のために出力する。機械学習モデルは、第1ピクセルサイズよりも小さい第2ピクセルサイズの検出器を有する第2CT装置で、検出器の第1イメージング領域よりも小さい第2イメージング領域を用いて被検体に対する第2CTスキャンを実行して得られる第2投影データ群に基づく第2CT画像を用いた機械学習により得られる。
【選択図】図3
【特許請求の範囲】
【請求項1】
第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより第1の投影データ群を取得し、
前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、
前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得し、
前記処理後CT画像を表示または解析処理のために出力し、
前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られること、
を備える医用画像処理方法。
【請求項2】
前記機械学習モデルを適用する場合には、前記第1の投影データ群を用いて第1のマトリクスサイズで再構成処理をすることにより前記第1のCT画像を生成し、
前記機械学習モデルを適用しない場合には、前記第1の投影データ群を用いて第1のマトリクスサイズよりも小さい第2のマトリクスサイズで再構成処理をすることにより他のCT画像を生成する、
請求項1に記載の医用画像処理方法。
【請求項3】
前記機械学習モデルを適用する場合には、前記第1の投影データ群を用い、第1の再構成関数に基づいて再構成処理をすることにより前記第1のCT画像を生成し、
前記機械学習モデルを適用する代わりに、前記機械学習モデルとは異なる、ノイズを低減させるための他の機械学習モデルを適用する場合には、前記第1の投影データ群を用い、前記第1の再構成関数よりもノイズ低減効果の大きい第2の再構成関数に基づいて再構成処理をすることにより他のCT画像を生成し、前記他のCT画像に前記他の機械学習モデルを適用する、
請求項1または2に記載の医用画像処理方法。
【請求項4】
前記処理後CT画像の取得において、前記第1のCT画像と、前記第1のCT画像に前記機械学習モデルを適用して得られる画像とを所定の割合で合成することにより前記処理後CT画像を取得する、
請求項1乃至3のいずれか一項に記載の医用画像処理方法。
【請求項5】
前記所定の割合は、ユーザ入力に基づいて得られる、または一組の撮像条件セットから得られる、
請求項4に記載の医用画像処理方法。
【請求項6】
前記機械学習モデルの適用において、
前記第1のCT画像に基づいて複数の3D部分画像を生成し、
前記機械学習モデルと前記他の機械学習モデルとのうち指定されたモデルに前記複数の3D部分画像を入力することによって、前記指定されたモデルを適用して、複数の処理済み3D部分画像を取得し、
前記複数の処理済み3D部分画像を合成することによって処理済み画像を取得する、
請求項3に記載の医用画像処理方法。
【請求項7】
前記複数の3D部分画像の生成において、前記複数の3D部分画像のうち少なくとも2つが部分的に重複するように前記複数の3D部分画像を生成する、
請求項6に記載の医用画像処理方法。
【請求項8】
前記複数の処理済み3D部分画像を合成することにおいて、前記複数の処理済み3D部分画像のうち2つの隣接する処理済み3D部分画像間の結合部にフィルタ処理を適用して、前記複数の処理済み3D部分画像を合成する、
請求項6に記載の医用画像処理方法。
【請求項9】
前記機械学習モデルは、前記第1のCT画像に超解像処理を適用するための機械学習モデルである、
請求項1乃至8のいずれか一項に記載の医用画像処理方法。
【請求項10】
前記機械学習モデルは、前記第1のCT画像に超解像処理とノイズ低減処理とを適用するための機械学習モデルである、
請求項1乃至9のいずれか一項に記載の医用画像処理方法。
【請求項11】
前記機械学習モデルの生成では、前記第2のCT画像と、前記第2のCT画像または前記第2の投影データ群のいずれかに基づき生成される、前記第2のCT画像よりも解像度が低く、前記第2のCT画像よりもノイズが大きい第3のCT画像とを訓練画像として、前記訓練画像を用いて前記機械学習モデルは訓練される、
請求項1乃至10のいずれか一項に記載の医用画像処理方法。
【請求項12】
前記機械学習モデルの生成では、前記第2のCT画像と、前記第2の投影データ群にノイズ付加処理を適用してさらに解像度低減処理を適用することにより得られる第3の投影データ群に基づく第4のCT画像とを訓練画像として、前記訓練画像を用いて前記機械学習モデルは訓練される、
請求項11に記載の医用画像処理方法。
【請求項13】
第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより得られる第1の投影データ群を取得する取得部と、
前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、かつ、前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得する処理部と、
前記処理後CT画像を表示または解析処理のために出力する出力部と、
を備え、
前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られる、
医用画像処理装置。
【請求項14】
請求項13に記載の医用画像処理装置を有するX線CT装置。
【請求項15】
コンピュータに、
第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより第1の投影データ群を取得し、
前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、
前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得し、
前記処理後CT画像を表示または解析処理のために出力すること、
を実現させ、
前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られる、
医用画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、一般に医用画像処理および画像診断の分野に関し、特に、深層学習モデルを用いてコンピュータ断層撮影(Computer Tomography:CT)画像の空間分解能を向上することに関する。
【背景技術】
【0002】
コンピュータ断層撮影用検出器は、撮影範囲と空間分解能において、小型の検出素子の大きさで広い検出範囲を実現するなど、向上を遂げている。広範囲CT検出システムの長所の一つとして、撮影範囲の拡大が挙げられる。これにより、心臓や脳を含む臓器のより高速なスキャンと動的撮影が可能になる。広範囲CT検出システムは回転当たりの撮影範囲を延長することによって、スキャン時間を短縮し、複数回のデータ収集を不要にする。広範囲CT検出システムを用いることにより、ほんの一瞬のたった1回の回転で、心臓全体、新生児の胸部、さらに足や足首のスキャンを、Z軸上の高い均一性とともに少ない放射線量で収集できる可能性がある。
【0003】
一方、高空間分解能CTシステムは、例えば、腫瘍分類や病気診断等において向上可能な診断画像を提供する。
【0004】
しかしながら、広範囲超高分解能(ultra-high resolution:UHR)CT検出システムが商業的に入手可能であるとしても、そのシステムコストは高価であり、複雑な信号処理や画像再構成に関連した問題が生じる可能性がある。広範囲超高分解能CT検出システムには、より広い撮影範囲と高い分解能という利点はあるものの、商業的な環境では高いコストや複雑性という欠点が利点を上回ることもあり得る。
【0005】
超解像(super-resolution:SR)技術とは、撮像システムの分解能を向上させる技術である。SRは、撮像システムの分解能を、低解像度画像から高解像度情報を復元することによって向上させる。SRのアルゴリズムには、予測モデルベースモデル、エッジベースモデル、画像統計ベースモデル、例ベースモデルの4つのカテゴリがある。当該技術分野において、従来の方法よりも優れた画質と早い処理速度を実現可能な深層畳み込みニューラルネットワーク(deep convolution neural network: DCNN)ベースのSR手法が求められている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】米国特許出願公開第2013/051519号明細書
【発明の概要】
【発明が解決しようとする課題】
【0007】
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、医用画像における解剖学的特徴などの物体の視認性を向上し、かつ画質を向上させた医用画像を生成することである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。
【課題を解決するための手段】
【0008】
実施形態に係る医用画像処理方法は、第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより第1の投影データ群を取得し、前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得し、前記処理後CT画像を表示または解析処理のために出力する。前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られる。
【図面の簡単な説明】
【0009】
図1A図1Aは、本開示に例示される実施形態の処理全体の概要を示す図である。
図1B図1Bは、本開示の一つ以上の態様に基づき、機械学習モデルの学習段階および推論段階に用いられるハードウェアシステムの概要を示す図である。
図2図2は、本開示の一つ以上の態様に基づき、学習済み深層機械学習モデル(DCNN)を取得し、微調整するためのデータ作成のワークフローを示す図である。
図3図3は、本開示の一つ以上の態様に基づき、広範囲UHR-CT画像に近似させるためのフローチャートである。
図4図4は、本開示の一つ以上の態様に基づき、最適化された学習済みDCNNモデルを取得するための学習フレームワークを示すブロック図である。
図5A図5Aは、一実施形態に基づき、フィードフォワード人工ニューラルネットワーク(artificial neural network:ANN)であるDLネットワークの一例を示す図である。
図5B図5Bは、一実施形態に基づき、畳み込みニューラルネットワーク(convolutional neural network:CNN)であるDLネットワークの一例を示す図である。
図5C図5Cは、一実施形態に基づき、畳み込み層の一つのニューロン・ノードに畳み込み層を実現する一例を示す図である。
図5D図5Dは、一実施形態に基づき、ボリューム画像データ用の3チャネル-ボリューム畳み込み層を実現する一例を示す図である。
図6図6は、本開示の一つ以上の態様に基づき、広範囲UHR-CT画像に近似させる第2実施形態の手順を示すフローチャートである。
図7図7は、本開示の一つ以上の態様に基づき、広範囲UHR-CT画像に近似させる第3実施形態の手順を示すフローチャートである。
図8図8は、本開示の一つ以上の態様に基づき、広範囲UHR-CT画像に近似させる第4実施形態の手順を示すフローチャートである。
図9図9は、本開示の一つ以上の態様に基づき、学習済み深層機械学習モデル(DCNN)を取得し、微調整するためのデータ作成のワークフローの第5実施形態を示す図である。
図10図10は、本開示の一つ以上の態様に基づき、広範囲UHR-CT画像に近似するDCNN適用可能画像を取得するための第5実施形態のフローチャートである。
図11図11は、本開示の一つ以上の態様に基づき、モデルを生成し、最適化し、適用することによって、広範囲UHR-CT画像に非常に似たまたは近似するDCNN適用可能画像を生成する少なくとも一つの装置、システム、方法および/または記憶媒体の一つ以上の実施形態と共に利用可能なコンピュータの実施形態を示す概略図である。
図12図12は、本開示の一つ以上の態様に基づき、モデルを生成し、最適化し、適用することによって、広範囲UHR-CT画像に非常に似たまたは近似するDCNN適用可能画像を生成する少なくとも一つの装置、システム、方法および/または記憶媒体の一つ以上の実施形態と共に利用可能なコンピュータの実施形態を示す概略図である。
図13図13は、本開示の別の実施形態に基づき、SR用学習済みモデルの生成方法を示す図である。
図14図14は、本開示の別の実施形態に基づき、推論段階の様々な手順を示すフローチャートである。
図15図15は、本開示の一実施形態に基づくCT撮像装置の概略図である。
図16図16は、本開示の一実施形態に基づき、中間ネットワークに係わるクライアント-サーバ構成を有する医用画像処理システムの一例を示す図である。
【発明を実施するための形態】
【0010】
本開示の目的の一つは、広範囲UHR-CT画像に近似するコンピュータ断層撮影(CT)画像を取得するためのモデルを生成する方法を含む。一実施形態において、広範囲UHR-CT画像に近似するCT画像を取得するためのモデル生成方法によって、広範囲UHR-CT検出システムを必要とせずに、広範囲超高解像度画像を実現することが可能になる。該方法は、CT撮像モダリティを用いて撮像対象の物体をスキャンすることによって収集された第一の投影データセットを取得することを含む。第一の投影データセットは、UHR-CTスキャナ等の撮像モダリティから取得される超高分解能(ultra-high resolution:UHR)CTデータを含んでもよい。該方法は、第一の投影データセットの分解能低減処理を実施して第二の投影データセットを取得することによって継続されてもよい。第二の投影データセットは、通常分解能(normal resolution:NR)CTデータを含んでもよい。該方法は、第一の投影データセットに基づいて再構成された第一のCT画像と第二の投影データセットに基づいて再構成された第二のCT画像を用いて機械学習モデルを学習させて、広範囲UHR-CT画像に近似するCT画像を生成するためのモデルを取得することによって、継続される。機械学習モデルは、深層畳み込みニューラルネットワーク(deep convolutional neural network:DCNN)モデルであってもよい。第一のCT画像はUHR-CT画像を含み、第二のCT画像は通常分解能(NR)CT画像を含んでもよい。
【0011】
本開示の一つ以上の実施形態において、指示を記憶する一つ以上のメモリと、指示を実行して機械学習モデルを適用可能なCT画像を生成する一つ以上のプロセッサを備える医用画像処理装置が提供される。医用画像処理装置は、医用撮像モダリティを用いて検査対象の物体をスキャンすることによって収集された投影データセットを受信することを含む。投影データセットは、物体をスキャンする撮像モダリティとして用いられる広範囲CT検出器から取得される広範囲CT検出データを含んでもよい。医用画像処理装置は、投影データセットに基づいて、物体のCT画像を再構成する。再構成された画像は、広範囲CT検出画像を含んでもよい。医用画像処理装置は、ノイズ低減用の第一の学習済み機械学習モデルと超解像用の第二の学習済み機械学習モデルの一方を指定する。双方のモデルは一つ以上のメモリに保存可能である。指定されたモデルは、ノイズ低減用の深層畳み込みニューラルネットワーク(DCNN)機械学習モデルまたは超解像用のDCNN機械学習モデルでもよい。医用画像処理装置は、再構成されたCT画像に指定されたモデルを適用することによって、処理済み画像を取得する。再構成されたCT画像は、広範囲CT検出画像を含んでもよい。広範囲CT検出画像に学習済みDCNNモデルを適用後、処理済み画像が生成される。処理済み画像は、広範囲UHR-CT画像に近似または相似するDCNN適用可能画像を含んでもよい。
【0012】
本開示の一つ以上の実施形態は医用撮像や研究等の臨床用途に利用可能であるが、これに限定されるものではない。
【0013】
本開示の他の態様に基づいて、広範囲超高解像度CT画像に近似するCT画像を生成するための深層畳み込みニューラルネットワークを用いる、一つ以上の追加の装置、一つ以上のシステム、一つ以上の方法、一つ以上の記憶媒体を説明する。本開示の更なる特徴は、添付の図面を参照する以下の記載から、理解され、明らかにされる。
【0014】
本開示の様々な態様を説明するために、図面において、同様な要素は同様な参照符号で示され、理解される程度に単純化された、採用可能な形式で示されるが、本開示は図示される正確な配置や手段によって、または正確な配置や手段に限定されるものではない。本開示の主題の作成や利用について当業者を支援するために、添付の図面を参照する。
【0015】
本開示において、用語「超高分解能(ultra-high resolution:UHR)CT検出システム」は、UHR-CT検出スキャナまたはUHR-CT検出器撮像と相互に言い換え可能である。また、本開示において、用語「広範囲CT検出システム」は、広範囲CT検出スキャナまたは広範囲CT検出器撮像と相互に言い換え可能である。以下に説明する例示的な実施形態において、用語「超高分解能(UHR)」および「通常分解能(normal resolution:NR)」は、特定の分解能を意味するものではない。「UHR」の空間分解能は、NRより相対的に高いとして定義され、「NR」の空間分解能はUHRより低い。また、以下に説明する例示的な実施形態において、用語「広範囲」または「より広範囲」は、特定の範囲や検出器の特定の大きさを意味するものではない。「広範囲」とは、通常撮影範囲の検出器より広い撮影範囲を意味する。また、用語「低放射線量(low-dose:LD)」、「高放射線量(high-dose:HD)」は特定の放射線量を意味するものではない。「低放射線量(LD)」とは、「高放射線量(HD)」より相対的に低い放射線量を意味し、「高放射線量(HD)」とは、「低放射線量(LD)」より相対的に高い放射線量を意味する。
【0016】
本開示は、UHR-CT検出システムを用いて超解像学習モデルを構成して、最適化された学習済み深層畳み込みニューラルネットワーク(DCNN)を取得することに関する。該学習済み深層畳み込みニューラルネットワークは、広範囲CT検出システムから取得される広範囲CT検出画像に適用される。臨床の場において、超解像学習は、広範囲CT検出システムが、最適化された学習済みDCNNを適用することによって、広範囲UHR-CT画像に相似または近似するDCNN適用可能CT画像を取得することを可能にする。すなわち、UHR-CT検出システムは、機械学習モデルの訓練に用いられるが、臨床環境では必要とされない。その利点は、臨床環境において広範囲CTシステムだけで済むことにある。つまり、本開示は、広範囲UHR-CT検出システムを用いることなく、広範囲UHR-CT画像に近似するCT画像の取得を可能にする。このことは、例えば、広範囲UHR-CT検出システムが利用不可能な場合に特に有利である。
【0017】
次に、図面の詳細を参照する。図1Aは、例示的な実施形態に開示される処理の概要を示す。広範囲CTデータ101およびUHR-CTデータ201は広範囲UHR-CT画像301の取得に用いられる。UHR-CTデータ201は、再構成処理の実施されていない投影データセットである。広範囲CTデータ101は広範囲CT検出システム100から収集されてもよい。UHR-CTデータ201は、UHR-CT検出システム200から収集されてもよい。UHR-CTデータ201は、本開示の一つ以上の態様に基づいて、低解像度CT画像に適用される学習済みモデルを取得するために学習段階で用いられる。本開示において、学習段階で用いられるUHR-CTデータ201は臨床環境では必要ではない。すなわち、UHR-CT検出システム200は、現場から離れた場所に置かれて機械学習モデルの訓練用途に用いられてもよい。広範囲CT検出システム100は、臨床環境において患者の画像診断に用いられる。本開示の一つ以上の態様に基づき、推論段階において、収集された広範囲CTデータ101に対して超解像処理が実施される。本開示の一態様に基づき、広範囲CT検出システム100は、広範囲UHR-CT検出システムを必要とすることなく、推論段階において、学習段階で得られた学習済み機械学習モデルを用いて、広範囲UHR-CT検出システムによって収集可能な画像に近似または相似するCT画像を生成する。図2、3、6、7、8、9、10および13を参照して、画像ドメインの超解像(super resolution:SR)について以下に説明する。図14を参照して、データ(投影)ドメインのSRを以下に説明する。
【0018】
実施形態の一例において、広範囲CT検出システム100およびUHR-CT検出システム200はそれぞれ、図11および12を参照して以下に説明するように、ネットワークと通信するコンソールまたはコンピュータを備えてもよい。また、広範囲CT検出システム100およびUHR-CT検出システム200は、ネットワークを介して、コンピュータ(図11および12に示す)に付随するCPUと接続されてもよい。すなわち、本開示に基づき、検出システム(100、200)のいずれかまたは双方は、ネットワークを介してコンソールまたはコンピュータに接続されてもよいし、内部にコンピュータを備えてもよい。CTシステムの構成の一例を、図15を参照して以下に説明する。
【0019】
機械学習モデルの学習段階および推論段階で用いられるハードウェアシステムを、図1Bを参照して説明する。機械学習モデルの学習は、図12に示すコンピュータ1200’と同じ構成要素を有する情報処理装置400内で実行される。情報処理装置400は、UHR-CTデータ201をUHR-CT検出システム200からネットワークI/F1212を介して受信する。CPUまたはGPUは、UHR-CTデータ201に基づいて機械学習モデルを学習させる。学習プロセスの詳細は後で説明する。学習終了後、情報処理装置400は超解像(SR)用学習済みモデル401を取得する。SR用学習済みモデル401は、広範囲CT検出システム100内の画像処理装置150または上述のコンソールに出力される。画像処理装置150または該装置150のCPUは、学習済みモデル401をメモリに保存する。画像処理装置150のCPUまたはGPUは、広範囲CT検出システム100によって収集された広範囲CTデータ101およびCT画像またはCT(投影)データに適用される学習済みモデル401に基づいて、広範囲UHR-CT画像301を生成する。
【0020】
別の実施形態では、広範囲CT画像の代わりに、上述の学習済みモデルを通常範囲CT検出システムによって収集されたCT画像に適用して、空間分解能を向上させたCT画像を生成する。
【0021】
図2は、機械学習モデルを訓練するためのデータ作成と深層畳み込みニューラルネットワーク(DCNN)処理のワークフローを示す。このワークフローは、ステップS100でUHR-CTデータを取得することによって開始される。UHR-CTデータは、超高分解能CT検出スキャナ200から収集された再構成前の投影データである。UHR-CT検出スキャナ200は、現場とは異なる場所または現場から離れた場所に配置されて機械学習モデルを取得する訓練に用いられてもよい。ワークフローの次のステップS102は、UHR-NRシミュレーション(または分解能低減処理)をUHR-CTデータに対して実施して、通常分解能(NR)CTデータを取得することを含む。UHRからNRへのシミュレーションの一例として、利用可能なダウンサンプリングが挙げられ、例として4対1の割合のデータドメインのビニングを含む。但し、他の種類の分解能低減処理、例えば、平滑化や他のフィルタリングの利用も本開示の範囲に含まれる。UHRからNRへのシミュレーションによって、通常分解能スキャナ(例えば、4対1画素ビニング)から収集された再構成前CTデータをシミュレーションする。または、NR-CT検出システムが利用可能な場合、NR-CTデータは、UHR-CTデータのダウンサンプリングではなく、該NR-CT検出システムから直接収集されてもよい。NR-CT検出システムをNR-CTデータの取得に用いる場合、ステップS100とS102を並列にまたは個別に実行してもよい。
【0022】
ステップS102において、ステップS100のUHR-CTデータをNR-CTデータにダウンサンプリングする場合、ダウンサンプリングを行う理由は、従来のCTデータに比べてUHR-CTデータは画素数が多いためである。つまり、超高分解能データと通常分解能データである。一実施形態において、UHR-CTデータは従来のCTデータ(512×512)の4倍の画素(1024×1024)を有し得る。すなわち、UHR-CTによる画素は従来のCTの4倍小さいため、UHR-CTによる画素をダウンサンプリングして、従来CTの画素サイズに一致させる。
【0023】
次のステップS104とS106は、ステップS100と102で収集されたデータの再構成を含む。具体的には、ステップS104において、UHR-CTデータはUHR-CT画像に再構成される。ステップS106において、NR-CTデータはNR-CT画像に再構成される。UHR-CT画像とは、UHR-CT検出スキャナ200からの再構成画像であり、DCNNの学習対象として用いられる。言い換えると、UHR-CT画像は機械学習モデルの学習対象である。NR-CT画像とは、学習対象と一致させるため、小さい画素サイズに画質を落とした(ビニングした)UHR-CTデータからの再構成画像である。
【0024】
画像ドメインのDCNNは、例えば、U-NET、V-NET、およびEDSR等の任意の種類のDCNN構造を適用可能であるが、本開示に適用可能なDCNN構造の種類はこれらに限定されない。ステップS108において、NR-CT画像はDCNNまたは機械ベース学習モデルの入力として用いられる。UHR-CT画像は、DCNNを最適化するためのDCNN学習ワークフローの対象として用いられる。最適化の過程で、DCNNはステップS108において処理済みNR-CT画像を出力する。ステップS110において、該処理済みNR-CT画像は、損失関数の取得に用いられる。ステップS112において、損失関数によって、DCNNモデルは最適化される。ステップS114において、情報処理装置400は終了基準が満たされているか否かを判断する。処理ループは終了基準が満たされる(ステップS114の「Y」)まで継続される。終了基準が満たされない場合(ステップS114の「N」)、処理ループはステップS108に戻る。処理済みNR-CT画像はUHR-CT画像(対象)と比較される。処理済みNR-CT画像は、NR-CT画像を入力とするDCNN機械学習モデルの学習出力画像である。UHR-CT画像と処理済みNR-CT画像間の損失関数は、2つの画像の差異を低減することを目的とする。また、UHR-CT画像と処理済みNR-CT画像間の損失関数は、DCNN機械学習モデルにループバックする各反復処理によって、処理済みNR-CT画像を高画質にすることを目的とする場合もある。処理済みNR-CT画像の高画質化は、画像に向上の余地がなくなるまで、または画質を向上させる性能に上昇が見られなくなるまで、最適化される。適用可能なニューラルネットワーク学習の一般的な損失関数の設定は、例えば、平均平方係数(mean square factor:MSA)や平均平方誤差(mean squared error:MAE)を含むが、本開示のニューラルネットワーク学習に適合可能な損失関数の種類はこれに限定されない。学習済みDCNNモデルを最適化する損失関数および最適化処理の詳細については、以下に図4を参照して説明する。
【0025】
DCNNの学習プロセスは、広範囲UHR-CT画像に非常に似たまたは近似するDCNN適用可能なコンピュータ断層撮影(computed tomography:CT)画像を生成するための機械学習モデルの作成方法である。該方法は、CT撮像モダリティによって撮像対象の物体をスキャンし、第一の投影データセット(UHR-CTデータ)を取得することを含む。また、該方法は、第一の投影データセットの分解能低減処理によって、第二の投影データセット(NR-CTデータ)を取得することを含む。次に、第一の投影データセットに基づき再構成された第一のCT画像と第二の投影データセットに基づき再構成された第二のCT画像を用いて、機械学習モデル(DCNN)を訓練することによって、超解像用モデル(学習済みDCNN)を取得する。一実施形態において、分解能低減処理を適用する場合、ノイズデータを第一の投影データセットに付加することによって、第二の投影データセットを取得してもよい。ノイズデータの付加は、第二のCT画像のノイズレベルを第一のCT画像のノイズレベルより高くするために行われる。
【0026】
ノイズデータの付加は、入力CT画像を学習済み機械学習モデルによって処理する場合に、学習済み機械学習モデルが入力CT画像をデノイズ(denoise、ノイズ除去)し、その解像度を向上させるために行われる。他の実施形態において、機械学習モデルの入力は所定のサイズの3次元(3D)画像データであって、機械学習モデルの出力は所定のサイズの3D画像データである。
【0027】
次に図3のフローチャートを参照する。このフローチャートは広範囲CT検出システム100に適用される図2の学習済みDCNNを利用する、推論として知られるフレームワークの様々な手順を示す。いくつかの理由から広範囲CT検出器と学習済みDCNNとをともに利用することは有利である。一つの理由としては、心臓全体のスキャンまたは他の生物学的スキャンが1回のスキャンで達成できるため、放射線量の削減、スキャン時間の短縮、ハードウェアおよびソフトウェアの複雑性の低減とともにコスト削減に繋がるからである。学習済みDCNN機械学習モデルを用いることによって、広範囲UHR-CT検出システムの問題点の一部を有することなく、分解能をUHR-CT検出システム200の分解能に近似させることができる。より多くの時間を要する2回以上のスキャンは、患者の動きにより大きな影響を受けることになり、結果として、理想のスキャンは得られず、ソフトウェアおよびハードウェアの複雑性を増大させることになりかねない。
【0028】
推論フレームワークは、ステップS200において広範囲CT検出データを収集することによって開始される。広範囲CT検出データとは、広範囲CT検出システム100から収集されたCT投影データを事前に再構成したものである。推論フレームワークは、撮像モダリティを用いて患者をスキャンして画像診断を行う臨床環境において適用される。また、広範囲CT検出システム100の画像処理装置150は、収集された広範囲CTデータの再構成条件を読み込む。再構成条件は撮像された体部位または撮像の目的に基づいて決定される。このステップでは、学習済みDCNNは、撮像された体部位または撮像の目的専用に訓練された複数の学習済みDCNNから選択される。ワークフローは、ステップS202の広範囲CTデータに基づき広範囲CT検出画像を生成する再構成によって継続される。ステップS204において、学習済みDCNNを広範囲CT検出画像に適用することによって、処理済みCT画像を生成する。学習済みDCNNを広範囲CT検出画像に適用することにより、広範囲UHR-CT画像に近似するDCNN適用可能CT画像が得られる。ステップS206において、処理済みCT画像は出力され、表示モニタに表示されて画質チェックおよび/または診断に用いられる。なお、適用される学習済みDCNNは、本開示の学習段階においてUHR-CT検出システム200によって生成される。
【0029】
図3では、図2の方法に基づいて訓練された超解像(super-resolution:SR)DCNNモデルのみをCT画像に適用したが、別の実施形態において、SR-DCNNモデルに加えて学習済みデノイズ用DCNNモデル(このモデルの生成方法は以下に述べる)を適用してもよい。SR-DCNNの後にデノイズDCNNを適用する、またはデノイズDCNNの後にSR-DCNNを適用するなど、SR-DCNNとデノイズDCNNを順番に適用することも可能である。また別の実施形態において、複数のDCNNを同じCT画像に対して並列に適用し、SR-DCNNが適用されたCT画像とデノイズDCNNが適用されたCT画像を所定の割合で合成してもよい。また、DCNNをデノイズとSR効果の双方を持つように訓練してもよい。これについては以下に図9または図13を参照して説明する。
【0030】
広範囲UHR-CT画像に近似するDCNN適用可能CT画像は、広いセグメントをカバーする、高解像度の画像である。すなわち、学習済みDCNNを適用することによって、広範囲CT検出データからより高い解像度の画像(UHR-CT画像)を生成することが可能になる。この結果、広範囲CT検出システム100を用いる利点(広いスキャン範囲、少ないコスト、複雑性の低い信号処理)と同時に、UHR-CTデータからの高解像度および広範囲UHR-CTスキャナシステム300に付随する問題点(狭いスキャン範囲、高いコスト、複雑性の高い処理、放射線量の増加、アーチファクトに対する感受性)のいずれかを最小限にするという利点も得ることができる。
【0031】
別の実施形態において、一つ以上のメモリと一つ以上のプロセッサを備える医用画像処理装置は、様々な手順を実行することによって、学習済みDCNNを適用して、処理済み画像(広範囲UHR-CT画像に近似するDCNN適用可能CT画像)を生成する。医用画像処理装置は、広範囲CT検出スキャナ/システムであってもよい。また、医用画像処理装置は、例えば、UHR-CT検出システム200からデータを受信するように構成され、学習済み機械学習モデルを適用可能な装置でもよい。医用画像処理装置は、医用撮像モダリティを用いて検査対象の物体をスキャンすることによって収集された投影データセットを受信し、該投影データセットに基づいて物体のCT画像を再構成する。ノイズ低減用の第一の学習済み機械学習モデルと超解像用の第二の学習済み機械学習モデルは一つ以上のメモリに保存され、その内一方は指定を受ける。指定されたモデルは再構成CT画像に適用されて処理済み画像を得る。
【0032】
医用画像処理装置は、第一の学習済み機械学習モデルが指定された場合は、第一の再構成フィルタを用いてCT画像を再構成し、第二の学習済み機械学習モデルが指定された場合は、第二の再構成フィルタを用いてCT画像を再構成するように構成されてもよい。医用画像処理装置は、処理済み画像と再構成CT画像を所定の割合で合成可能である。所定の割合は、ユーザ入力に基づき設定される、または1組の撮像条件に従って決定されてもよい。別の実施形態において、医用画像処理装置は、複数の3D部分画像を再構成CT画像に基づいて生成し、生成した複数の3D部分画像を指定されたモデルに入力することによって、指定されたモデルを適用して複数の処理済み画像を取得し、取得した複数の処理済み3D部分画像を合成して処理済み画像を得るように構成される。ある状況では、3D部分画像の内少なくとも2つの画像は部分的に重複している。
【0033】
本開示の別の態様において、医用画像処理装置は、複数の処理済み3D部分画像のうち2つの隣接する処理済み3D部分画像間の結合部にフィルタをかける。
【0034】
本開示の少なくとも一つの態様において、深層学習ニューラルネットワークを適用可能な広範囲超高分解能CTの一つの特徴は、UHR-CT検出システム200から取得される学習済みDCNNを用いることにある。上記の通り、本開示の学習済みDCNNの一つの応用として、図4に概略を示すように、最適化処理を機械学習モデルの学習に利用する。
【0035】
図4は、図2に示した上記DCNNの学習フレームワークの過程に適用される最適化処理をより詳細に示す。図4に示すように、フレームワークは、ステップS300において入力(X)を用いて開始される。ステップS310において、DCNNの学習プロセスは、学習用入力(X)を所望の対象(Y)にマッピングするように設計される。入力(X)を取得後、ステップS302とS304のそれぞれにおいて、以下のDCNN(f(X/Θ))アルゴリズムを用いて出力
【数1】
を求める。
【数2】
【0036】
Θは、最適化されるニューラルネットワークのパラメータの組を示し、Nは、学習プロセスでの学習事例の総数である。fは最適化されるニューラルネットワークを示し、xは、学習用入力のi番目の要素を示す。yは、学習対象のi番目の要素を示す。この最適化式を解くことによって、ネットワーク出力と対象画像(Y)の差分が最小になるような最適なネットワークパラメータ
【数3】
が求められる。具体的には、出力
【数4】
を取得後、ステップS308で更新された最適なネットワークパラメータを得るために、ターゲット(Y)と比較するステップS306で損失関数が適用される。
ステップS308に続いて、更新後のオプティマイザは、ステップS304のネットワーク出力
【数5】
と対象画像Yとの差分が所定の閾値を超えて最小になるまで、またはステップS306の損失関数に応じた出力の向上が見られなくなるまで、DCNNアルゴリズムが実施されるステップS302を繰り返してもよい。この学習フレームワークによって、推論プロセスで適用される最適化された機械学習モデルが得られる。
【0037】
図5A、5B、5Cおよび5Dは機械学習モデル401(DLネットワーク401とも称される)の様々な例を示す。
【0038】
図5Aは、N個の入力、K個の隠れ層、3つの出力を有する一般的な人工ニューラルネットワーク(artificial neural network:ANN)の一例を示す。各層はノード(ニューロンとも称される)から構成され、各ノードは入力の加重和を行い、この加重和の結果を閾値と比較して出力を生成する。ANNは関数の類を構成する。この類の項は、閾値、結合の重み、またはノード数および/またはノードの結合性等の構造の詳細を変化させることによって求められる。ANNのノードはニューロン(またはニューロン・ノード)とも称される。ニューロンはANNシステムの異なる層間に相互に結合可能である。DLネットワーク401は通常4つ以上のニューロン層と入力ニューロンと同数の出力ニューロン
【数6】
(Nは再構成画像の画素数)を有する。シナプス(すなわち、ニューロン間の結合)は、演算においてデータを操作する「重み」(「係数」または「重み係数」と相互に言い換えも可能)と呼ばれる値を記憶する。ANNの出力は以下の3種のパラメータに依存する。(1)異なるニューロン層間の相互結合パターン、(2)相互結合の重みを更新するための学習プロセス、(3)ニューロンの加重入力を活性化出力に変換する活性化関数。
【0039】
数学的には、ニューロンのネットワーク関数m(x)は、他の関数n(x)の合成として定義される。関数n(x)は、さらに他の関数の合成として定義可能である。これは、便宜上ネットワーク構造として表すことが可能である。図5Aに、変数間の依存を矢印で示す。例えば、ANNは、非直線加重和m(x)=K(Σ(x))を利用可能である。K(一般に活性化関数と称される)は、シグモイド関数、双曲正接関数、正規化線形ユニット(rectified linear unit:ReLU)等の事前に定義された関数である。
【0040】
図5A(同様に図5B)において、ニューロン(すなわち、ノード)を閾値関数の周囲に丸印で示す。図5Aに示す非限定的な例では、入力は直線関数の周囲に丸印で描かれ、矢印はニューロン間の結合方向を示す。ある実施例において、機械学習モデル401は、図5A、5Bに例示されるフィードフォワード・ネットワークである(例として、有向非巡回グラフとして表すことができる)。
【0041】
機械学習モデル401は、一組の観察結果を用いて、学習する関数Fの類内を検索することによって、CT画像の超解像処理等の特定のタスクを達成すべく動作し、特定のタスクを最適に解決する
【数7】
を求める。例えば、ある実施例では、コスト関数Cを、その最適解mに対して
【数8】
(すなわち、最適解のコスト未満のコストを有する解はない)が成立するように定義することによって達成できる。コスト関数Cとは、特定の解が解決すべき課題(例えば、誤差)の最適解からどの程度離れているかを示す尺度である。学習アルゴリズムは解空間内の検索を繰り返しながら、可能な限り最小のコストの関数を求める。ある実施例では、コストはデータのサンプル(すなわち訓練データ)全体に対して最小化される。
【0042】
図5Bは、機械学習モデル401が畳み込みニューラルネットワーク(CNN)の場合の非限定的な一例を示す。CNNは、画像処理に有益な性質を備えるANNの一種である。そのため、画像のデノイズおよびサイノグラムの復元用途に特に関連がある。CNNは、ニューロン間の結合パターンにより画像処理の畳み込みを表現可能なフィードフォワードANNを用いる。例えば、CNNは、入力画像の受容野と呼ばれる部分を処理する小さなニューロン集合の複数の層を用いることによって、画像処理の最適化に利用可能である。これらの集合の出力は、互いに重複するようにタイル状にされ、元の画像をより適切に表現することができる。この処理パターンを畳み込み層とプーリング層を交互に有する複数層に対して繰り返す。なお、図5Bは、後続する層のノードを先行する層の全てのノードを用いて定義する完全結合型ネットワークの一例を示す。図に示される内容は、厳密にDNNの一例として理解されるべきである。CNNに関して、先行層のノードの一部を用いて後続層のノードを定義する結合の緩やかな(部分結合)型のネットワーク構成は一般的である。
【0043】
図5Cは、畳み込み層である第一の隠れ層の二次元画像を表す入力層からの値のマッピングに適用される5×5カーネルの一例を示す。カーネルは5×5の画素領域を第一の隠れ層の対応するニューロンにそれぞれマッピングする。
【0044】
畳み込み層の後に、CNNは、畳み込み層においてニューロン・クラスタの出力を結合させる局所的および/または全体的なプーリング層を含むことができる。さらに、ある実施例において、CNNは、点毎に、非直線的に、各層の最後にまたは各層の後に付加された、畳み込み層と完全結合層の様々な組み合わせを含むことも可能である。
【0045】
画像処理に関して、CNNにはいくつかの利点がある。使われないパラメータの数の削減と一般化の向上のために、入力の小領域に対する畳み込み処理が導入される。CNNのある実施例の重要な利点は、畳み込み層に共通の重みを用いることにある。つまり、同じフィルタ(重みバンク)を層の各画素の係数として用いるのである。これによって、メモリの実装面積の削減と性能の向上が実現される。他の画像処理方法と比較して、CNNは、相対的に事前処理が少ないことが利点である。すなわち、ネットワークが、従来のアルゴリズムによってマニュアル設計されたフィルタを学習する責任を持つことを意味する。設計特性に関する過去の知識や人間の努力に依存しないで済むことは、CNNの大きな利点である。
【0046】
図5Dは、三次元再構成画像の隣接層間の類似性を活用する機械学習モデル401の実施例を示す。隣接層内の信号は通常相関性が高いが、ノイズは異なる。つまり、一般にCTの三次元ボリューム画像は、より多くの体積特徴を捉えられるため、一断層の水平二次元画像より多くの診断情報を提供することができる。この考えに基づき、本開示に記載の方法の実施例は、ボリュームベースの深層学習アルゴリズムを用いてCT画像を向上させる。
【0047】
図5Dに示す通り、ある断層画像とそれに隣接する断層画像(すなわち、中央の断層の上下の断層)は、ネットワークの3チャネルの入力として認識される。これら3層に対して、W×W×3カーネルをM回適用して、畳み込み層のM個の値を生成し、次のネットワーク層/階層(例えばプーリング層)に用いる。W×W×3カーネルを3つのW×Wカーネルとみなして、それぞれ3チャネルのカーネルとしてボリューム画像データの3つの断層画像に適用することも可能である。その結果は中央層に対する出力となり、次のネットワーク階層の入力として用いられる。値Mは、畳み込み層の所定の断層に対するフィルタ総数を示し、Wはカーネルの大きさを示す。
【0048】
別の実施形態において、上述の3チャネル法の代わりに、異なる方法を(例えば、3D法)適用してもよい。
【0049】
本開示の一実施形態において、学習および推論段階の演算コスト削減のため、CT画像を小さな画像データセットに分割して、機械学習モデルに入力し、学習および推論させることができる。
【0050】
データの分割、重み付け、および再構築によって、広範囲CT検出システムは、演算上のパワーやデータをバッファリングして、広範囲UHR画像用の超解像3Dネットワークのような高度なネットワークを処理することができる。本開示は、その実施に有益なデータの分割、重み付けおよび再構築のデータフローを提案する。例えば、1024×1024画像を、XY次元(境界効果防止のため重複を含む)で81個の128×128小画像に分解することによって、システムは一回毎に画像の小さなバッチを処理することができる。そして、ネットワークで処理後、画像は元のサイズ(1024×1024等)に再構築される。重複する画素に対しては重み付けを実施する。Z次元についても同様な手法が適用される。すなわち、超高解像度画像は複数の小さな画像に分割され、分割された画像は広範囲CT検出システムによって処理され、任意の好適な重み付けおよび再構築のデータフローに基づいて大きな画像に復元される。データの分割、重み付けおよび再構築の手法は種々のサイズの画像に適用可能である。上述の画像は一例にすぎず、該手法を適用可能な種々のサイズを限定するものではない。
【0051】
次に、本開示の第2実施形態を示す図6のフローチャートを参照する。本実施形態は、ユーザに出力テクスチャ(弱、標準、強等)の調整を可能にし、自分の好みに応じたUHR-CTシステム画像またはNR-CTシステム画像の出力を可能にする混合処理を提案する。この実施形態において、学習済みDCNNは、上述した図2と同様な方法で取得される。ステップS400において、広範囲CT検出データを収集することによって、フローチャートは開始される。次にステップS402において、広範囲CT検出画像は再構成(より小さい画素サイズ)される。ステップS404において、広範囲CT検出画像にDCNN学習済み機械学習モデルを適用することによって、広範囲UHR-CT画像に近似するDCNN適用可能CT画像が出力される。しかしながら、ユーザは100%のDCNN適用可能な広範囲UHR-CT画像のテクスチャーに満足しない場合がある。本実施形態では、広範囲CT検出システム100のユーザは、混合ステップS408において、広範囲UHR-CT画像に近似するDCNN適用可能CT画像の出力テクスチャーを選択可能である。混合ステップS408は、例えば、オペレータが選択可能な弱、標準、強などの三つの選択肢を含んでもよい。または、ユーザは、混合ステップにおいて混合率を選択してもよい。例えば、オペレータが50%を選択した場合、混合によって出力テクスチャーは、元のNR-CT検出システム画像50%とUHR-CT検出システム画像50%から成るように調整される。オペレータがUHR-CT検出システム画像に近いテクスチャーを好む場合は、UHR-CT検出システム画像75%と元のNR-CT検出システム画像25%を選択してもよい。元のNR-CT検出システム画像とUHR-CT検出システム画像は、ユーザの所望する混合の種類に応じて、ゼロから100%まで変更可能である。混合ステップ後、ステップS410において、広範囲UHR-CT画像に近似する最終のDCNN適用可能画像は、オペレータの所望の混合に応じて出力され、モニタに表示される。
【0052】
現在商業的に利用可能な広範囲CT検出システムを考える。これらのシステムは広範囲UHR画像用の高度なネットワーク(例えば、超解像3Dネットワーク)を処理するだけの演算上のパワーまたはデータバッファリング性能を持っていない場合がある。図7のフローチャートに示すように、第3実施形態を提案する。図7に示す推論プロセスはサイズ変更演算子を含む。通常分解能-広範囲CT検出システムで適切に処理するために、サイズ変更演算子は、ハードウェアおよび関連するソフトウェア仕様(システム情報など)を読み出し、出力画像のサイズを変更する(例えば、XYまたはZ次元内のダウンサンプリング)。
【0053】
図7に従って、該プロセスは、ステップS500において、広範囲CT検出システム100から広範囲CT検出データを収集することによって開始される。次にステップS502において、広範囲CT検出データは広範囲CT検出画像に再構成される。広範囲CT検出画像は、ステップS504で学習済みDCNNに入力され、広範囲UHR-CT画像に近似するDCNN適用可能CT画像として出力される。この方法は、特定のシステム仕様等のステップS508のシステム情報を考慮して、システム情報に基づいて、システムによって処理可能な広範囲UHR-CT画像に近似するDCNN適用可能CT画像のサイズを決定することによって、継続されてもよい。このワークフローは、広範囲UHR-CT画像に近似するDCNN適用可能CT画像の出力後に、システム情報が取得されることを示すが、システム情報は、広範囲UHR-CT画像に近似するDCNN適用可能CT画像を出力する処理と並行して、または、広範囲UHR-CT画像に近似するDCNN適用可能CT画像を生成する処理の前に、取得されてもよい。システム情報の取得に続くステップS510において、サイズ変更演算子を用いて、システム情報から得られた情報に基づいて、広範囲UHR-CT画像に近似する、生成されたDCNN適用可能CT画像のサイズを変更する。これによって、ステップS512において、通常分解能-広範囲CT検出システムで適切に処理可能な、広範囲UHR-CT画像に近似する最終のDCNN適用可能CT画像が出力され、モニタに表示される。本開示の一実施形態において、システム情報は広範囲CT検出システム100から取得される。
【0054】
次に本開示の第4実施形態を、図8を参照して説明する。図8は、最終のDCNN適用可能CT画像の生成前に、混合およびサイズ変更処理を実施して、広範囲UHR-CT画像に近似するDCNN適用可能CT画像を生成する、少なくとも一つの実施形態のフローチャートを示す。最初のステップS600は、広範囲CT検出スキャナ100から広範囲CT検出データを収集することを含む。次に、ステップS602において広範囲CT検出データは広範囲CT検出画像に再構成され、ステップS604において学習済みDCNNに入力される。学習済みDCNNは、広範囲UHR-CT画像に近似するDCNN適用可能CT画像を出力する。S608の混合ステップによって、オペレータは、自分の好みに応じて、広範囲CT検出画像と広範囲UHR-CT画像に非常に似たDCNN適用可能CT画像の一方により近似するように出力テクスチャーを調整することができる。混合ステップの実行後、ステップS610において、サイズ変更を適切に行うために、検出システム100のシステム情報は、ハードウェアおよび関連するソフトウェア仕様(システム情報など)を読み出すことによって取得される。ステップS612のサイズ変更処理によって、通常分解能-広範囲CT検出システム100は出力画像(広範囲UHR-CT画像に近似する最終のDCNN適用可能CT画像)を確実に、適切に処理することができる。サイズ変更ステップ後、ステップS614において、広範囲UHR-CT画像に近似する最終のDCNN適用可能CT画像は出力され、モニタに表示される。
【0055】
図9を参照して、本開示の第5実施形態を説明する。図9は、UHR-CTデータに付随するノイズレベルを最小限に抑えながら、広範囲CT検出システム100の超高分解能を達成するためのデノイズタスクを実行する、DCNNの学習プロセスのワークフローを示す。本開示のこの実施形態は、ステップS700において、UHR低放射線CTデータ(LD-CTデータ)の収集によって開始される。UHR-LD-CTデータとは、低放射線量に設定された(実際のまたはシミュレーションされた)超高分解能CTスキャナ200から収集された再構成前のCTデータである。ステップS710において、対象画像が取得される。対象画像とは、UHR高放射線(HD)CT画像である。UHR-HD-CT画像とは、UHR-CTスキャナ200からの再構成された高放射線画像であって、学習対象として用いられる画像である。本実施形態において、UHR-HD-CT画像およびUHR-LD-CT画像は同じUHR-HD-CTデータから生成される。別の実施形態では、UHR-HD-CT画像は、UHR-LD-CTデータが生成されるCTデータとは異なるCTデータから生成される。
【0056】
ステップS702において、上記ステップS102のUHR-NRシミュレーションをUHR-LD-CTデータに実行して、NR-LD-CTデータを取得する。ステップS702のNR-LD-CTデータは、通常分解能スキャナシステムから収集された再構成前CTデータをシミュレーションする。次にステップS704において、NR-LD-CTデータはNR-LD-CT画像に再構成され、ステップS706でDCNNの入力画像として用いられる。NR-LD-CT画像は、学習対象と一致させるため、小さい画素サイズに画質を落とした(ビニングされた)低放射線UHR-CTデータからの再構成画像である。ステップS706において、広範囲CT検出システム100内の画像処理装置150は、入力画像の一つにDCNNを適用して、処理済みNR-LD-CT画像を出力し、ステップS712における出力画像(処理済みNR-LD-CT画像)と学習対象画像(UHR-HD-CT画像)間の損失関数分析によって、ステップS714においてDCNN学習を最適化する。ステップS716において、基準に基づき、最適化ループの継続を判断する。基準が満たされない場合、ステップS706の最適化ループを継続する。または、DCNNの最適化基準が満たされた場合は、最適化ループは終了する。処理済みNR-LD-CT画像は、低放射線NR-CT画像を入力とするDCNNの学習出力画像となる。出力画像と対象画像間に適用される損失関数は、図2および4を参照して説明したものと同様である。損失関数によって、出力画像と対象画像間の差異が最小化され、推論プロセス内の応用に最適な学習済みDCNNが得られる。これによって、広範囲UHR-CT検出画像に近似するDCNN適用可能CT画像のノイズ抑制と分解能向上を目的とするDCNNの学習部分を終了することができる。
【0057】
次に、学習済みDCNNの取得後の、ノイズ抑制と分解能向上の推論部分を示す図10のフローチャートを参照する。該フローチャートは、ステップS800において、低放射線量(LD)の広範囲CT検出データを収集することによって開始される。広範囲検出CTデータとは、広範囲CT検出スキャナ100から収集される再構成前のCTデータである。ステップS802において、広範囲CT検出データ(LD)は広範囲CT検出LD画像に再構成される。広範囲CT検出LD画像とは、UHR-CTデータの画素サイズに対応する小さい画素サイズに再構成されたCT画像である。次に、ステップS804において、学習済みDCNNを広範囲CT検出LD画像に適用することによって、広範囲UHR-CT画像に近似する、デノイズ済みのDCNN適用可能CT画像を生成する。ステップS806において、処理済みCT画像(DCNN適用可能CT画像)が出力され、モニタに表示される。広範UHR-CT画像に相似するDCNN適用可能CT画像(デノイズ後)は、広いセグメント範囲と高い解像度を備えるノイズ低減画像を提供する点で有利である。
【0058】
本開示の様々な実施形態は、広範囲検出CTデータに関するUHR-CT学習済みDCNNに適用される。このことは、いくつかの理由から有利である。本実施形態は、現在の広範囲CT検出画像と比較して、UHR-CT学習済みネットワークおよびより微細に再構成された画素サイズから得られる、優れた解像度およびノイズ低減性能を提供する。現在のUHR-CT画像と比較して、本実施形態は、寝台位置での一回のスキャンの検出範囲(S-I方向)が広いため、放射線量、画像の均一性、時間分解能、より簡易なスキャンワークフロー等の利益をもたらす。また、広範囲のCTから得られる収集・検出の大きな画素サイズは、優れたノイズ性能につながる。現在商業的には存在しない広範囲UHR-CTシステムと比較して、本実施形態は、ハードウェア、ソフトウェア双方において非常に低いコストと複雑性を著しく軽減した信号処理を提供する。
【0059】
本開示は、深層学習ニューラルネットワークを適用可能な広範囲-超高分解能CTのためのシステム、方法および/または装置を対象とする。DCNNは、既存のUHR-CT検出スキャナによって訓練され、広範囲CT検出システムデータに適用されて、分解能を向上させ、ノイズを低減すると同時に、広範囲スキャンのエッジを維持する。具体的には、本開示は、二つの異なるモダリティ(UHR-CT検出スキャナおよび広範囲CT検出スキャナ)の利点を組み合わせることによって、商業的に入手不可能な広範囲UHR-CT検出システム300と比較して、コストとシステムの複雑性における利点をもたらすことが可能である。
【0060】
次に、図11および図12を参照する。少なくとも一つの実施形態において、コンソールやコンピュータ1200、1200’などのコンピュータを、広範囲UHR-CT画像に近似するDCNN適用可能CT画像の生成専用に用いてもよい。
【0061】
撮像に用いられる電気信号を、下記に説明されるコンピュータ1200、1200’等(これに限定されない)の一つ以上のプロセッサに、ケーブルまたは配線113等(図11参照)(これに限定されない)のケーブルまたは配線を介して送信してもよい。
【0062】
コンピュータシステム1200の様々な構成要素を図11に示す。コンピュータシステム1200は、中央処理装置(central processing unit:CPU)1201、ROM1202、RAM1203、通信インターフェース1205、ハードディスク(および/または他の記憶装置)1204、スクリーン(またはモニタ・インターフェース)1209、キーボード(または入力インターフェース;キーボードに加えてマウスや他の入力装置を備えてもよい)1210、および一つ以上の上記構成要素(例えば、図11に示される)間を接続するバスや他の接続線(例えば接続線1213)を備える。さらに、コンピュータシステム1200は上記構成要素の内一つ以上を備えてもよい。例えば、コンピュータシステム1200はCPU1201、RAM1203、入力/出力(I/O)インターフェース(通信インターフェース1205等)およびバス(コンピュータシステム1200の構成要素間の通信システムとしての一つ以上の配線1213を含んでもよい)を備えてもよい。一つ以上の実施形態において、コンピュータシステム1200および少なくともCPU1201は、超高分解能検出スキャナおよび/または広範囲CT検出スキャナまたは同じ超高分解能検出スキャナ200、広範囲CT検出スキャナ100(これに限定されない)を用いる装置やシステムの一つ以上の上記構成要素と通信してもよい。一つ以上の他のコンピュータシステム1200は、他の上述した構成要素の一つ以上の組み合わせを備えてもよい。CPU1201は、記憶媒体に保存されるコンピュータ実行可能な指示を読み出し、実行するように構成される。コンピュータ実行可能な指示は、本開示に記載される方法および/または演算の実行指示を含んでもよい。コンピュータシステム1200は、CPU1201に加えて、一つ以上のプロセッサを備えてもよい。CPU1201を含む該プロセッサを、同じ用途または本開示に記載の広範囲UHR-CT画像に近似するDCNN適用可能CT画像を生成するための装置、システムまたは記憶媒体の制御および/または製造に用いてもよい。システム1200は、さらに、ネットワーク(例えばネットワーク1206)を介して接続される一つ以上のプロセッサを備えてもよい。システム1200によって用いられるCPU1201と追加のプロセッサは、同じ通信ネットワーク上に位置してもよいし、異なる通信ネットワーク上に位置してもよい(例えば、実行、製造、制御および/または技術利用を遠隔で制御可能)。
【0063】
I/Oまたは通信インターフェース1205は、入出力装置に対して通信インターフェースを提供する。該入出力装置は超高分解能検出スキャナ200、広範囲CT検出スキャナ100、通信ケーブルおよびネットワーク(有線または無線)、キーボード1210、マウス(図12のマウス1211を参照)、タッチスクリーンまたはスクリーン1209、ライトペン等を備えてもよい。モニタ・インターフェースまたはスクリーン1209は入出力装置に通信インターフェースを提供する。
【0064】
本開示の方法および/またはデータ、例えば、同じ用途の装置、システムまたは記憶媒体の利用方法および/または製造方法、および/または本開示に記載の広範囲UHR-CT画像に近似するDCNN適用可能CT画像の生成方法等は、コンピュータ読み取り可能な記憶媒体に保存される。コンピュータ読み取りおよび/または書き込み可能な記憶媒体は、以下に共通に利用されるが、これらに限定されるわけではない。一つ以上のハードディスク(ハードディスク1204、磁気ディスク等)、フラッシュメモリ、CD、光ディスク(コンパクトディスク(CD)、デジタル多用途ディスク(digital versatile disc:DVD)、ブレーレイ(登録商標)ディスク等)、光磁気ディスク、RAM(random access memory)(RAM1203等)、DRAM、ROM(read only memory)、分散演算システムの記憶装置、メモリカードなど(例えば、不揮発性メモリカード、固体撮像素子(solid state drive:SSD、図12のSSD1207参照)、SRAM等の他の半導体メモリ、これに限定されない)、これらの任意の組み合わせ、サーバ/データベース等。コンピュータ読み取り/書き込み可能な記憶媒体を、上記コンピュータシステム1200のプロセッサやCPU1201等のプロセッサに本開示に記載の方法の手順を実行させることに用いてもよい。コンピュータ読み取り可能な記憶媒体は、非一時的なコンピュータ読み取り可能媒体であってもよいし、および/または、一時的な伝搬信号だけを除き、全ての読み取り可能媒体を備えてもよい。コンピュータ読み取り可能な記憶媒体は、情報を所定の、限定的な、または短い時間および/または電力があるときのみ情報を記憶する、RAM(random access memory)、レジスタメモリ、プロセッサ・キャッシュ等(これらに限定されない)の媒体を備えてもよい。また、本開示の実施形態は、記録媒体(より正確には、非一時的なコンピュータ読み取り可能な記憶媒体とも称される)に記録されるコンピュータ実行可能な指示(例として、一つ以上のプログラム)を読み出し、実行して上記実施形態の内の一つ以上の機能を実行するシステムや装置のコンピュータによって実現されてもよいし、および/または一つ以上の回路(特定用途向け集積回路(ASIC))を備えて上記実施形態の内の一つ以上の機能を実行するシステムや装置のコンピュータによって実現されてもよい。本開示の実施形態は、システムや装置のコンピュータが、例えば、コンピュータ実行可能な指示を記憶媒体から読み出して実行することによって、実行される方法および/または上記一つ以上の回路を制御することによって上記実施形態の内の一つ以上の機能を実行させる方法によって実現されてもよい。
【0065】
本開示の少なくとも一つの態様に基づいて、方法、装置、システム、および上述したコンピュータ1200のプロセッサ、コンピュータ1200’のプロセッサ(これらに限定されない)等のプロセッサに関連するコンピュータ読み取り可能な記憶媒体は、図面に示されるような適切なハードウェアを活用して、実現可能である。該ハードウェアは、標準のデジタル回路、ソフトウェアおよび/またはファームウェアプログラムを実行可能な任意の公知のプロセッサ、プログラマブルROM(programmable read only memory:PROM)、プログラマブル論理アレイ装置(programmable array logic:PAL)などの一つ以上のプログラマブル・デジタル装置またはシステム等の任意の公知技術を活用することによって、実現可能である。CPU1201(図11または12に示すように)は、一つ以上のマイクロプロセッサ、ナノプロセッサ、一つ以上のGPU(graphics processing unit:VPU(visual processing unit)とも称される)、一つ以上のFPGA(field programmable gate array)、または他の種類の処理コンポネント(例えば、用途向け集積回路(application-specific integrated circuits:ASIC))等を備えるおよび/または等から構成されてもよい。さらに、本開示の様々な態様は、適切な記憶媒体(例えばコンピュータ読み取り可能な記憶媒体、ハードドライブ等)や携行可能および/または分散可能な媒体(フロッピー(登録商標)ディスク、メモリチップ等)に保存可能なソフトウェアおよび/またはファームウェアによって実現されてもよい。コンピュータは、コンピュータ実行可能な指示を読み出し実行する個別のコンピュータやプロセッサのネットワークを備えてもよい。コンピュータ実行可能な指示は、例えばネットワークや記憶媒体からコンピュータに与えられてもよい。
【0066】
上述の通り、コンピュータまたはコンソール1200’の別の実施形態のハードウェア構造を図12に示す。コンピュータ1200’は、中央処理装置(CPU)1201、GPU1215,RAM1203、ネットワークインターフェース1212、USB(Universal Serial Bus)等のオペレーションインターフェース1214、ハードディスクドライブや固体撮像素子(SSD)1207等のメモリを備える。好ましくは、コンピュータまたはコンソール1200’はディスプレイ1209を備える。コンピュータ1200’は、ネットワークインターフェース1212またはオペレーションインターフェース1214を介して、超高分解能検出スキャナ200および/または広範囲CT検出スキャナ100および/またはシステムの一つ以上の他の構成要素と接続されてもよい。一つ以上の実施形態において、コンピュータ1200、1200’などのコンピュータは、超高分解能検出スキャナ200および/または広範囲CT検出スキャナ100を備えてもよい。オペレーションインターフェース1214は、マウス装置1211、キーボード1210またはタッチパネル装置などの操作部に接続される。コンピュータ1200’は各構成要素を二つ以上ずつ備えてもよい。または、コンピュータ1200、1200’などのコンピュータの設計に応じて、CPU1201またはGPU1215をFPGA(field programmable gate array)、特定用途向け集積回路 (ASIC)または他の種類の処理部に置き換えてもよい。
【0067】
コンピュータプログラムはSSD1207に保存される。CPU1201は、RAM1203にプログラムを読み込み、プログラム内の指示を実行して、本開示に記載の一つ以上の処理とともに基本的な入力、出力、演算、メモリへの書き込みおよび読み出し処理を実行する。
【0068】
コンピュータ1200、1200’などのコンピュータは、超高分解能検出スキャナ200および/または広範囲CT検出スキャナと通信して、撮像を行い、広範囲UHR-CT画像に近似するDCNN適用可能CT画像を生成する。モニタまたはディスプレイ1209は広範囲UHR-CT画像に近似するDCNN適用可能CT画像を表示するが、撮像条件や撮像対象の物体に関する他の情報を表示してもよい。モニタ1209は、例えば、広範囲UHR-CT画像に近似するDCNN適用可能CT画像を生成する際にユーザがシステムを操作するためのグラフィカル・ユーザー・インターフェース(GUI)を提供する。動作信号は操作部(例えば、マウス装置1211、キーボード1210またはタッチパネル装置など、これらに限定されない)からコンピュータ1200’のオペレーションインターフェース1214に入力される。動作信号に応じて、コンピュータ1200’はシステムに撮像条件の設定または変更と撮像の開始または終了、および/またはDCNNの学習または広範囲UHR-CT画像に近似するDCNN適用可能CT画像を生成するための推論プロセスの開始または終了を指示する。
【0069】
図13を参照して、SR用学習済みモデルの生成方法の他の例示的な実施形態を説明する。この方法は、図2に示す、UHR-CT画像とNR-CT画像の双方をUHR-CTデータから生成する方法の特徴の一つを含む。また、この方法は、図9に示す、NR低放射線CT画像とUHR高放射線CT画像を用いてSR用DCNNを訓練する方法と同様である。特に説明しない限り、以下のステップは情報処理装置400によって実行される。CPUまたはGPU(以下、処理回路)は各ステップを実行する。
【0070】
ステップS1301において、UHR-CTデータすなわち高分解能のCTデータが取得される。ステップS1302において、UHR-CT画像すなわち高解像度のCT画像はUHR-CTデータに基づいて再構成される。この再構成の方法は、フィルタ逆投影法(FBP)より高い解像度の画像を生成可能な反復再構成法の内の一つでよい。UHR-CT画像は学習段階で対象画像として用いられる。ステップS1303において、処理回路は、UHR-CTデータにノイズを付加することにより、ノイズ付加UHR-CTデータを生成する。ガウスノイズおよび/またはポワソンノイズを付加することによって、低放射線CTデータをより適切にシミュレーションしてもよい。ステップS1304において、ノイズ付加UHR-CTデータに対して分解能低減処理(n:1ビニング処理、平滑化、他のフィルタリング等)を実施して低い分解能のCTデータを生成し、シミュレーションする。ステップS1305において、低解像度のCT画像は低分解能のCTデータに基づいて再構成される。ここで、再構成法はフィルタ逆投影法(FBP)や臨床環境で一般に用いられる任意の再構成法でよい。通常、再構成関数およびFBPフィルタには様々な選択肢があるが、ステップS1305のFBP再構成では、信号を出来るだけ維持するために、ノイズ低減効果のないまたは少ない再構成関数を選択可能である。また、正規化効果のないまたは少ないフィルタの一つを選択可能である。低解像度のCT画像を入力画像として用いてSR-DCNNに学習させる。対応する入力画像とUHRデータから生成された対象画像は互いに関連付けられ、訓練データの対とする。S1301からS1305までのステップを異なるUHRデータに対して繰り返し実行して、複数対の訓練データを生成する。ステップS1306において、DCNNを入力画像の一つに適用することによって処理済みCT画像を取得する。ステップS1307において、図4のステップS306で説明した損失関数を得る。ステップS1308において、DCNNは最適化され、改善されたDCNNとして次回のステップS1306で用いられる。ステップS1306、S1307、S1308のループは、終了基準が満たされるまで(S1309の「Y」)、超解像処理用DCNNを学習させるために継続される。
【0071】
ステップS1303のビニング処理は、ある程度のノイズ低減効果はあるが、ステップS1303のノイズ付加処理および再構成法の差異に起因して、対象画像(高解像度CT画像)は、入力画像(低解像度CT画像)より高い空間分解能と高いノイズ特性を有する。学習済みSR-DCNNは、ノイズ低減効果とともに超解像効果を発揮する。別の実施形態では、CTデータへのノイズ付加の代わりにまたは付加に加えて、低解像度の再構成CT画像にノイズを付加して、投影ドメインにおいて入力画像を取得してもよい。上記DCNNは、デノイズと超解像の双方の効果を発揮するように訓練され、少なくともある状況では、別々に訓練されたデノイズDCNNとSR-DCNNを両方適用するよりも有益となり得る。ここで推論段階の処理の他の実施形態を説明する。この処理は、他の種類の、CT画像のデノイズ専用DCNNモデルの適用と(1)デノイズDCNNおよび(2)図7または図13を参照する上記方法によって訓練されたDCNNの一方を選択することを含む。なお、DCNN(以下、SRおよびデノイズDCNNと呼ぶこともある)はノイズ低減効果および超解像効果を発揮できる。推論段階の実施処理を、広範囲CT検出システム100内の画像処理装置150、他の種類のCT撮像システムのコンソール、またはCT撮像システム外部の画像処理装置、例えば、病院のワークステーションや医用画像を受信し、医用データを分析し、医用画像を再構成する画像処理サーバ等に組込んでもよい。以下の説明において、各ステップは、画像処理装置、コンソール、ワークステーションまたは画像処理サーバに含まれるCPUまたはGPUである処理回路によって実行される。
【0072】
複数対の訓練画像を用いてデノイズDCNNを学習させることができる。一実施形態において、入力画像を低放射線CT画像とし、対応する対象画像を高放射線CT画像としてもよい。低放射線CT画像は検査対象の物体のCTスキャンによって収集可能である。同様に、高放射線CT画像は検査対象の物体のCTスキャンによって収集可能である。また、低放射線CT画像は、ノイズを付加し、低放射線画像をシミュレーションすることによって、CTスキャンで収集された高放射線CT画像から生成することもできる。高放射線CT画像は、高放射線画像をシミュレーションする画像処理によって、CTスキャンで収集された低放射線CT画像から生成可能である。別の実施形態において、対象画像を、検査対象の物体のCTスキャンにより収集されたCTデータの反復再構成処理によって取得し、入力画像を、FBP法に基づきCTデータにノイズを付加し、ノイズ付加CTデータを再構成することによって、取得することができる。なお、デノイズモデルは様々な種類のアーチファクトの低減効果を発揮できる。
【0073】
第一ステップにおいて、CT撮像システム内で実行される場合は、CTデータはCT検出器から取得される。ワークステーションや画像処理サーバ内で実行される場合は、CTデータはCT撮像システムから取得可能である。また、CT撮像システム、ワークステーション、または画像処理サーバ内で実行される場合は、CTデータはメモリからも取得可能である。
【0074】
第二ステップにおいて、処理回路は、デノイズモデル(デノイズDCNN)またはSRモデル(デノイズおよびSR-DCNN)を得られた画像の再構成処理に適用するか否かを判定する。デノイズモデルを選択した場合、処理回路は第一のCT画像を第一の再構成条件に従って再構成し、第二のCT画像を第二の再構成条件に従って再構成する。第一の再構成条件と比較して、第二の再構成条件は、FBP再構成用に選択される、再構成関数および画像情報維持のためノイズ低減効果のないまたは少ないフィルタを含む。また、第二の再構成条件は、再構成領域の画素密度または画素数が第一の再構成条件より大きいため、第二のCT画像のSR処理において解像度をより向上させる。第一および第二のCT画像双方の再構成において特定のノイズ低減処理を実施する場合は、第二のCT画像の画像情報維持のため、第二のCT画像のノイズ低減度を第一のCT画像より低くしてもよい。
【0075】
次のステップにおいて、デノイズDCNNを第一のCT画像に適用してデノイズ済みCT画像を得る。次に、SRおよびデノイズDCNNを第一のCT画像に適用してSR-CT画像を得る。得られたCT画像は出力され、表示または分析される。得られたCT画像を出力して表示する場合、処理回路は、得られたCT画像を含むグラフィカル・ユーザ・インターフェースを生成し、ディスプレイに送信する。ディスプレイが画像処理装置またはワークステーションに接続されている場合は、処理回路は表示装置に得られたCT画像を表示させる。
【0076】
上述の処理には、適用されるDCNNモデルを選択しない場合は含まれていないが、かかる場合、処理回路は第一の再構成条件、または第一および第二の再構成条件とは異なる第三の再構成条件を選択する。
【0077】
一実施形態において、複数のSR(およびデノイズ)DCNNと複数のDCNNモデルを体部位ベースに作成することができる。すなわち、SR用、デノイズ用にかかわらず、DCNNモデルを、特定の体部位用および/または特定の臨床用途の画像のみを用いることによって、特定の体部位および/または特定の臨床用途に訓練することができる。
【0078】
複数のSR-DCNNがメモリに保存されている場合、処理回路は、撮像された体部位に応じてその内の一つを指定する。
【0079】
再構成条件およびDCNNは、スキャン情報に基づいてCTデータ取得前または取得後に選択可能である。
【0080】
図14を参照して、本開示の別の例示的な実施形態を説明する。この実施形態では、DCNNモデルは投影ドメインにおいてCTデータ(CT投影データ)に適用され、画像は再構成される。一実施形態において、DCNNを、UHR-CTデータである対象データとNR-CTデータである入力データをそれぞれ含む訓練データの複数対を用いて訓練することができる。NR-CTデータは、UHR-CTデータとは異なるスキャンによって収集可能、または上述のUHR-NRシミュレーションの実行によって生成可能である。別の実施形態において、対象データは、HD-UHR-CTデータであって、入力データはLD-NR-CTデータである。LD-NR-CTデータは、HD-UHR-CTデータとは異なるスキャンによって収集可能である、または図13を参照して説明したノイズの付加とUHR-NRシミュレーションの実行によって生成可能である。
【0081】
以下に示すステップは画像処理装置150(処理回路)のCPUまたはGPUによって実行されるが、ワークステーションまたは画像処理サーバの処理回路によっても実行可能である。
【0082】
ステップS1400において、広範囲CTデータが取得される。別の実施形態では、CTデータは通常範囲CTデータでもよい。ステップS1402において、学習済みDCNNを広範囲CTデータに適用して広範囲SR-CTデータを取得する。ステップS1404において、広範囲SR-CTデータに対して再構成処理を実施し、広範囲SR-CT画像を取得する。ステップS1406において、広範囲SR-CT画像は出力されて、表示またはさらに分析される。
【0083】
図15は、広範囲CT検出システムに対応するCT撮像システムに含まれるX線架台装置の実施形態の一例を示す。図15に示すとおり、側面から図示されるX線架台装置1500は、X線管1501、円環状フレーム1502、および複数列または二次元アレイ型X線検出器1503を備える。X線管1501とX線検出器1503は円環状フレーム1502上の物体OBJに対して正反対に配置される。円環状フレーム1502は回転軸RAの周りに回転可能に支持される。回転部1507は、物体OBJが回転軸RAに沿って図面内にまたは図面外に移動される間、円環状フレーム1502を所定の速度で回転させる。コンソールまたは画像処理装置1550は再構成装置1514、記憶装置1512、表示装置1516、入力装置1515、および前処理装置1506を備える。
【0084】
X線CT装置には様々な種類がある。例えば検査対象の物体の周囲をX線管とX線検出器がともに回転する回転-回転型装置、多くの検出素子がリング状または平面状に並べられ、X線管のみが検査対象の物体の周囲を回転する静止-回転型装置などが挙げられる。本発明はいずれの型の装置にも適用可能である。ここでは、現在の主流である回転-回転型装置を例示する。
【0085】
マルチスライスX線CT装置はさらに、管電圧を生成する高電圧生成装置1509を備える。管電圧は、X線管がX線を生成するように、スリップリング1508を介してX線管1501に印加される。X線は物体OBJに向かって出射される。物体OBJの断層領域を丸印で示す。例えば、最初のスキャン中のX線管の平均X線エネルギーは2回目のスキャン中の平均X線エネルギーより少ない。すなわち、2回以上のスキャンは異なるX線エネルギーに対応して取得される。X線検出器1503は、物体OBJに対してX線管1501の反対側に位置して、出射され、物体OBJを透過したX線を検出する。X線検出器1503は、個別の検出素子または検出ユニットをさらに備える。
【0086】
CT装置は、X線検出器1503からの検出信号を処理するための他の装置をさらに備える。データ収集回路またはデータ収集システム(data acquisition system:DAS)1504は、X線検出器1503から出力された信号をチャネル毎に電圧信号に変換・増幅後、さらにデジタル信号に変換する。X線検出器1503およびDAS1504は回転あたり投影数(TPPR)を処理するように構成される。
【0087】
上述のデータは、X線架台装置1500外にあるコンソールに非接触型データ送信機1505を介して収容される前処理装置1506に送信される。前処理装置1506は、生(raw)データに対して感度補正等の所定の補正を行う。メモリ1512は、結果として得られたデータ(再構成処理直前段階の投影データとも呼ばれる)を保存する。メモリ1512は、再構成装置1514、入力装置1515、表示装置1516とともに、データ/制御バス1511を介してシステムコントローラ1510に接続される。システムコントローラ1510は、CTシステムの駆動に必要なレベルに電流を制限する電流調整装置1513を制御する。
【0088】
CT撮像装置のこの構成例において、再構成装置1514は、図3、6、7、8、10、14に記載の処理および方法を実行する。
【0089】
検出器は、CTスキャナシステムが様々な生成を行う間、患者に対して回転されるおよび/または静止される。一実施例において、上述のCTシステムは第三世代形状のシステムと第四世代形状のシステムの結合システムの一例である。第三世代システムでは、X線管1501とX線検出器1503は円環状フレーム1502上に正反対の位置に設けられ、円環状フレーム1502の回転軸RA周りの回転に応じて回転する。第四世代システムでは、検出器は患者の周囲に固定的に配置され、X線管は患者の周りを回転する。別の実施形態において、X線架台装置1500は、Cアームと台に支持される円環状フレーム1502上に配置される複数の検出器を備える。
【0090】
メモリ1512は、X線検出器1503におけるX線の放射照度を示す測定値を保存可能である。
【0091】
さらに、再構成装置1514は、必要に応じて、ボリュームレンダリング処理、画像差分処理等の再構成前画像処理を実行可能である。
【0092】
前処理装置1506が実行する投影データの再構成前処理は、例えば、検出器キャリブレーション、検出器の非線形性、および極性効果に対する補正を含んでもよい。
【0093】
再構成装置1514が実行する再構成後処理は、必要に応じて、画像のフィルタリングおよび平滑化、ボリュームレンダリング処理、および画像差分処理を含むことが可能である。再構成装置1514は、例えば投影データ、再構成画像、キャリブレーション・データ、パラメータ、コンピュータプログラム等をメモリに保存できる。
【0094】
再構成装置1514は、CPU(処理回路)を備えることができる。CPUは、個別論理ゲート、特定用途向け集積回路(ASIC)、FPGA(Field-Programmable Gate Array)や他のコンプレックス・プログラマブルロジックデバイス(Complex Programmable Logic Device:CPLD)として実現可能である。FPGAやCPLDの実装は、VHDL、Verilogまたは他のハードウェア記述言語によって暗号化されてもよい。暗号はFPGAやCPLD内の電子メモリに直接保存される、または別の電子メモリに保存されてもよい。さらに、メモリ1512はROM、EPROM、EEPROM、またはフラッシュメモリ等の不揮発性であってもよい。メモリ1512は、スタティックまたはダイナミックRAMなどの揮発性でもよい。また、マイクロコントローラ、マイクロプロセッサなどのプロセッサを設けて、電子メモリとともにFPGAまたはCPLDとメモリ間の相互の動作を管理することも可能である。
【0095】
また、再構成装置1514のCPUは、本開示に記載の機能を実行する一組のコンピュータ読み取り可能な指示を含むコンピュータプログラムを実行可能である。該コンピュータプログラムは、上述の非一時的な電子メモリおよび/またはハードディスクドライブ、CD、DVD、フラッシュドライブ、または他の公知の記憶媒体に保存される。さらに、コンピュータ読み取り可能な指示は、所定のプロセッサおよび所定のオペレーティングシステムまたは当業者公知の任意のオペレーティングシステムと協働で実行する、ユーティリティ・アプリケーション、バックグラウンドデーモン、オペレーティングシステムのコンポネント、またはその組み合わせとして提供可能である。また、CPUは、協働で並列に動作して指示を実行する複数のプロセッサとして実現可能である。
【0096】
一実施例において、再構成画像を表示装置1516に表示することができる。表示装置1516は、LCDディスプレイ、CRTディスプレイ、プラズマディスプレイ、OLED、LED、または他の公知の表示装置を用いることができる。
【0097】
メモリ1512は、ハードディスクドライブ、CD-ROMドライブ、DVDドライブ、フラッシュドライブ、RAM、ROM、または他の公知の電子記憶装置を用いることができる。
【0098】
図16は、中間ネットワークに係わるクライアント-サーバ構成を有する医用画像処理システムの一例を示す。図16に示すように、医用画像処理システムは、クライアント側装置として医用画像診断装置1601を、ネットワークNを介して医用画像診断装置1601と接続されるサーバ側装置として医用画像処理装置1610を備える。
【0099】
医用画像診断装置1601は、一般に、図15に示されるX線CT装置または図2に示される広範囲CT検出システム100などでよい。
【0100】
医用画像処理装置1610は、送信機/受信機1611、メモリ1612、および処理回路1613を備える。処理回路1613は、再構成プロセッサ16141および画像プロセッサ16142を含む再構成装置1614を備える。送信機/受信機1611はネットワークNを介して医用画像診断装置1601との間でデータを送受信する。メモリ1612は、医用画像診断装置1601から受信した医用画像データ等の情報と上述の再構成処理やデノイズ処理などを実行するための様々な専用プログラムを保存する。処理回路1613は、上述の再構成装置1614の機能を実現するプロセッサである。
【0101】
これらの構成によって、医用画像診断装置1601は、図15の再構成装置1514の機能の実現を必要としない。したがって、医用画像診断装置1601の処理負荷および医用画像診断装置1601に付随するコストを削減することができる。また、再構成処理およびデノイズ処理は、サーバ側である医用画像処理装置1610によって統一された方法で実行される。これによって、現場の医用画像診断装置それぞれで再構成処理およびデノイズ処理を行う際の演算子の差異に起因して起こり得る、画質等のばらつきを防ぐことが可能となる。
【0102】
以上説明した少なくとも1つの実施形態等によれば、医用画像における解剖学的特徴などの物体の視認性を向上し、かつ画質を向上させた医用画像を生成することができる。
【0103】
いくつかの実施形態を参照して本開示を説明したが、これらの実施形態は、本開示の原理と用途の例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【0104】
以上の実施形態等に関し、発明の一側面および選択的な特徴として以下の付記を開示する。
(付記1)
第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより第1の投影データ群を取得し、
前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、
前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得し、
前記処理後CT画像を表示または解析処理のために出力し、
前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られること、
を備える医用画像処理方法。
(付記2)
前記医用画像処理方法は、前記機械学習モデルを適用する場合には、前記第1の投影データ群を用いて第1のマトリクスサイズで再構成処理をすることにより前記第1のCT画像を生成し、前記機械学習モデルを適用しない場合には、前記第1の投影データ群を用いて第1のマトリクスサイズよりも小さい第2のマトリクスサイズで再構成処理をすることにより他のCT画像を生成してもよい。
(付記3)
前記第1のマトリクスサイズは、512×512、1024×1024、2048×2048、4096×4096のうちいずれかであってもよい。
(付記4)
前記第2のマトリクスサイズは、256×256、512×512、1024×1024、2048×2048のうちいずれかであってもよい。
(付記5)
前記第1のマトリクスサイズは、1024×1024以上であって、前記第2のマトリクスサイズ512×512以上であってもよい。
(付記6)
前記医用画像処理方法は、
前記機械学習モデルを適用する場合には、前記第1の投影データ群を用い、第1の再構成関数に基づいて再構成処理をすることにより前記第1のCT画像を生成し、
前記機械学習モデルを適用する代わりに、前記機械学習モデルとは異なる、ノイズを低減させるための他の機械学習モデルを適用する場合には、前記第1の投影データ群を用い、前記第1の再構成関数よりもノイズ低減効果の大きい第2の再構成関数に基づいて再構成処理をすることにより他のCT画像を生成し、前記他のCT画像に前記他の機械学習モデルを適用してもよい。
(付記7)
前記医用画像処理方法は、前記処理後CT画像の取得において、前記第1のCT画像と、前記第1のCT画像に前記機械学習モデルを適用して得られる画像とを所定の割合で合成することにより前記処理後CT画像を取得してもよい。
(付記8)
前記所定の割合は、ユーザ入力に基づいて得られる、または一組の撮像条件セットから得られてもよい。
(付記9)
前記医用画像処理方法は、前記機械学習モデルの適用において、
前記第1のCT画像に基づいて複数の3D部分画像を生成し、
前記機械学習モデルと前記他の機械学習モデルとのうち指定されたモデルに前記複数の3D部分画像を入力することによって、前記指定されたモデルを適用して、複数の処理済み3D部分画像を取得し、
前記複数の処理済み3D部分画像を合成することによって処理済み画像を取得してもよい。
(付記10)
前記医用画像処理方法は、前記複数の3D部分画像の生成において、前記複数の3D部分画像のうち少なくとも2つが部分的に重複するように前記複数の3D部分画像を生成してもよい。
(付記11)
前記医用画像処理方法は、前記複数の処理済み3D部分画像を合成することにおいて、前記複数の処理済み3D部分画像のうち2つの隣接する処理済み3D部分画像間の結合部にフィルタ処理を適用して、前記複数の処理済み3D部分画像を合成してもよい。
(付記12)
前記機械学習モデルは、前記第1のCT画像に超解像処理を適用するための機械学習モデルであってもよい。
(付記13)
前記機械学習モデルは、前記第1のCT画像に超解像処理とノイズ低減処理とを適用するための機械学習モデルであってもよい。
(付記14)
前記医用画像処理方法によれば、前記機械学習モデルの生成では、前記第2のCT画像と、前記第2のCT画像または前記第2の投影データ群のいずれかに基づき生成される、前記第2のCT画像よりも解像度が低く、前記第2のCT画像よりもノイズが大きい第3のCT画像とを訓練画像として、前記訓練画像を用いて前記機械学習モデルは訓練されてもよい。
(付記15)
前記医用画像処理方法によれば、前記機械学習モデルの生成では、前記第2のCT画像と、前記第2の投影データ群にノイズ付加処理を適用してさらに解像度低減処理を適用することにより得られる第3の投影データ群に基づく第4のCT画像とを訓練画像として、前記訓練画像を用いて前記機械学習モデルは訓練されてもよい。
(付記16)
第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより得られる第1の投影データ群を取得する取得部と、
前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、かつ、前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得する処理部と、
前記処理後CT画像を表示または解析処理のために出力する出力部と、
を備え、
前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られる、
医用画像処理装置。
(付記17)
X線CT装置は、付記16に記載の医用画像処理装置を有していてもよい。
(付記18)
コンピュータに、
第1のピクセルサイズの検出器を有する第1のCT装置で、前記検出器の第1のイメージング領域を用いて被検体に対する第1のCTスキャンを実行することより第1の投影データ群を取得し、
前記第1の投影データ群を再構成処理することにより第1の解像度を有する第1のCT画像を取得し、
前記第1のCT画像に解像度を向上させるための機械学習モデルを適用することにより前記第1の解像度よりも解像度が高い処理後CT画像を取得し、
前記処理後CT画像を表示または解析処理のために出力することを実現させ、
前記機械学習モデルは、第1のピクセルサイズよりも小さい第2のピクセルサイズの検出器を有する第2のCT装置で、前記検出器の第1のイメージング領域よりも小さい第2のイメージング領域を用いて被検体に対する第2のCTスキャンを実行することより得られる第2の投影データ群に基づく第2のCT画像を用いた機械学習により得られる、
医用画像処理プログラム。
【符号の説明】
【0105】
100 広範囲CT検出システム、通常分解能-広範囲CT検出システム、広範囲CT検出スキャナ
101 広範囲CTデータ
113 ケーブルまたは配線
150 画像処理装置
200 UHR-CT検出システム、超高分解能検出スキャナ、超高分解能CTスキャナ、超高分解能CT検出スキャナ、UHR-CT検出スキャナ、UHR-CTスキャナ
201 UHR-CTデータ
300 広範囲UHR-CT検出システム、広範囲UHR-CTスキャナシステム
301 広範囲UHR-CT画像
400 情報処理装置
401 超解像(SR)用学習済みモデル、DLネットワーク、機械学習モデル、学習済みモデル
1200 コンピュータシステム、システム、コンピュータ
1200’ コンピュータ、コンソール
1201 中央処理装置(central processing unit:CPU)
1202 ROM
1203 RAM
1204 ハードディスク(および/または他の記憶装置)
1205 通信インターフェース
1207 SSD(ソリッドステートドライブ)
1209 スクリーン(またはモニタ・インターフェース)、ディスプレイ
1210 キーボード(または入力インターフェース;キーボードに加えてマウスや他の入力装置を備えてもよい)
1211 マウス装置、マウス
1212 ネットワークインターフェース
1213 接続線、配線
1214 オペレーションインターフェース
1215 GPU
1500 X線架台装置
1501 X線管
1502 円環状フレーム
1503 複数列または二次元アレイ型X線検出器、X線検出器、
1504 データ収集システム(data acquisition system:DAS)
1505 非接触型データ送信機
1506 前処理装置
1507 回転部
1508 スリップリング
1510 システムコントローラ
1511 制御バス、データ/制御バス
1512 記憶装置、メモリ
1513 電流調整装置
1514 再構成装置
1515 入力装置
1516 表示装置
1550 コンソールまたは画像処理装置
1601 医用画像診断装置
1610 医用画像処理装置
1611 送信機/受信機
1612 メモリ
1613 処理回路
1614 再構成装置
16141 再構成プロセッサ
16142 画像プロセッサ
図1A
図1B
図2
図3
図4
図5A
図5B
図5C
図5D
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16