(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024068666
(43)【公開日】2024-05-20
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
A61B 5/055 20060101AFI20240513BHJP
G06T 1/00 20060101ALI20240513BHJP
G06T 7/00 20170101ALI20240513BHJP
G06N 3/045 20230101ALI20240513BHJP
【FI】
A61B5/055 376
G06T1/00 290B
G06T7/00 350C
A61B5/055 372
A61B5/055 374
G06N3/045
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023191034
(22)【出願日】2023-11-08
(31)【優先権主張番号】202211390005.0
(32)【優先日】2022-11-08
(33)【優先権主張国・地域又は機関】CN
(71)【出願人】
【識別番号】594164542
【氏名又は名称】キヤノンメディカルシステムズ株式会社
(74)【代理人】
【識別番号】110001771
【氏名又は名称】弁理士法人虎ノ門知的財産事務所
(72)【発明者】
【氏名】ジャン リジュン
(72)【発明者】
【氏名】ワン シャ
【テーマコード(参考)】
4C096
5B057
5L096
【Fターム(参考)】
4C096AB01
4C096AB24
4C096AB44
4C096AC01
4C096AD12
4C096AD13
4C096CC06
4C096DA01
4C096DA04
4C096DB01
4C096DB07
4C096DC35
5B057AA09
5B057CE01
5L096BA06
5L096BA13
5L096HA11
(57)【要約】
【課題】画質を向上させること。
【解決手段】実施形態に係る画像処理装置は、残差初期化部と、更新データ生成部と、残差更新部と、再構成部とを備える。残差初期化部は、アンダーサンプリングされたk空間データとk空間データ真値との差を示す残差を初期化する。更新データ生成部は、前記残差及び前記k空間データに基づいて画像処理を行い、前記残差を更新するための残差更新用データを生成する第1のニューラルネットワークを有する。残差更新部は、前記残差更新用データ及びアンダーサンプリングに利用したマスクに基づいて前記残差を更新する。再構成部は、前記k空間データと更新された前記残差に基づいて画像データを再構成する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
アンダーサンプリングされたk空間データとk空間データ真値との差を示す残差を初期化する残差初期化部と、
前記残差及び前記k空間データに基づいて画像処理を行い、前記残差を更新するための残差更新用データを生成する第1のニューラルネットワークを有する更新データ生成部と、
前記残差更新用データ及びアンダーサンプリングに利用したマスクに基づいて前記残差を更新する残差更新部と、
前記k空間データと更新された前記残差に基づいて画像データを再構成する再構成部とを備える、画像処理装置。
【請求項2】
前記k空間データを生成した磁気共鳴イメージング装置の各受信コイルの感度分布図を算出する感度分布算出部をさらに備え、
前記更新データ生成部は、前記感度分布図に基づいて前記残差と前記k空間データに対して演算処理を行い、第1のニューラルネットワーク入力データを生成する前処理部をさらに有し、
前記第1のニューラルネットワークは、前記第1のニューラルネットワーク入力データを入力データとする、請求項1に記載の画像処理装置。
【請求項3】
前記感度分布算出部は、第2のニューラルネットワークを用いて前記感度分布図を算出する、請求項2に記載の画像処理装置。
【請求項4】
前記再構成部は、前記k空間データを補正して第1の補正k空間データを生成する第3のニューラルネットワークを有し、前記第1の補正k空間データと更新された前記残差とに基づいて前記画像データを再構成する、請求項1に記載の画像処理装置。
【請求項5】
前記k空間データを補正して第2の補正k空間データを生成する第4のニューラルネットワークをさらに備え、
前記前処理部は、前記感度分布図に基づいて前記残差と前記第2の補正k空間データに対して演算処理を行い、前記第1のニューラルネットワーク入力データを生成し、
前記再構成部は、前記第2の補正k空間データと更新された前記残差とに基づいて前記画像データを再構成する、請求項2に記載の画像処理装置。
【請求項6】
アンダーサンプリングされたk空間データとk空間データ真値との差を示す残差を初期化する残差初期化部と、
前記k空間データを生成した磁気共鳴スキャンシステムの各受信コイルの感度分布図を算出する感度分布算出部と、
前記感度分布図に基づいて前記残差に対して演算処理を行い、ニューラルネットワーク入力データを生成する前処理部と、
前記ニューラルネットワーク入力データを入力データとし、前記残差を更新するための残差更新用データを生成する第1のニューラルネットワークとを有する更新データ生成部と、
前記残差更新用データ及びアンダーサンプリングに利用したk空間マスクに基づいて前記残差を更新する残差更新部と、
前記k空間データと更新された前記残差とに基づいて画像データを再構成する再構成部とを備える、画像処理装置。
【請求項7】
前記感度分布算出部は、第2のニューラルネットワークを用いて前記感度分布図を算出する、請求項6に記載の画像処理装置。
【請求項8】
前記残差初期化部は、SENSEアルゴリズム或いはGRAPPAアルゴリズムを用いて前記残差を初期化する、請求項1~7のいずれか一つに記載の画像処理装置。
【請求項9】
前記第1のニューラルネットワークは、畳み込みニューラルネットワークである、請求項1~7のいずれか一つに記載の画像処理装置。
【請求項10】
アンダーサンプリングされたk空間データとk空間データ真値との差を示す残差を初期化し、
前記残差及び前記k空間データに基づいて画像処理を行い、前記残差を更新するための残差更新用データを生成し、
前記残差更新用データ及びアンダーサンプリングに利用したマスクに基づいて前記残差を更新し、
前記k空間データと更新された前記残差に基づいて画像データを再構成する、画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書及び図面に開示の実施形態は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
k空間データを一部のみ収集し、アンダーサンプリングされたk空間データにより画像を再構成することで、磁気共鳴イメージング装置のスキャン時間を加速する技術が知られている。この技術としては、パラレルイメージング(Parallel Imaging)又は圧縮センシング(Compressed Sensing)などのアルゴリズムに基づく磁気共鳴画像再構成装置が挙げられる。このような技術では、一部のk空間の周波数ドメイン情報を欠落したため、イメージング品質が低い。近年、機械学習技術の発達に伴い、深層学習を用いた磁気共鳴画像再構成装置が提案されており、深層学習技術は、画像ドメイン又は周波数ドメインのデータの補正に用いたり、エンドツーエンドの再構成ニューラルネットワークの構成に用いたりすることができる。深層学習に基づく磁気共鳴画像再構成技術としては、エンドツーエンドアンロール学習ネットワーク(end-to-end unrolled learning network)を用いてアンダーサンプリングされたk空間データから画像を再構成する技術が提案されている。
【0003】
非特許文献1には、アンダーサンプリングされたk空間データから復元された画像データを、残差複素畳み込みニューラルネットワークを用いて補正する、エンドツーエンドアンロール学習ネットワークに基づく磁気共鳴画像再構成システムが開示されている。非特許文献2には、残差コネクションを有する畳み込みニューラルネットワークを事前項として用いて、アンダーサンプリングされたk空間データから画像データを再構成する、エンドツーエンドアンロール学習ネットワークに基づく磁気共鳴画像再構成システムが開示されている。非特許文献1及び非特許文献2のシステムでは、学習ネットワークは、アンダーサンプリングされたk空間データとk空間データの真値との残差を直接推定することができない。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】DeepcomplexMRI: Exploiting deep residual network for fast parallel MR imaging with complex convolution,Wang S, Cheng H, Ying L, et al. ,Magn Reson Imaging. ,2020;68(January),p136-147,doi:10.1016/j.mri.2020.02.002
【非特許文献2】MoDL: Model Based Deep Learning Architecture for Inverse Problems,Aggarwal HK, Mani MP, Jacob M. IEEE Trans Med Imaging. 2019;38(2):394-405. doi:10.1109/TMI.2018.2865356
【発明の概要】
【発明が解決しようとする課題】
【0005】
本明細書及び図面の開示の実施形態が解決しようとする課題の一つは、画質を向上させることである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。
【課題を解決するための手段】
【0006】
実施形態に係る画像処理装置は、残差初期化部と、更新データ生成部と、残差更新部と、再構成部とを備える。残差初期化部は、アンダーサンプリングされたk空間データとk空間データ真値との差を示す残差を初期化する。更新データ生成部は、前記残差及び前記k空間データに基づいて画像処理を行い、前記残差を更新するための残差更新用データを生成する第1のニューラルネットワークを有する。残差更新部は、前記残差更新用データ及びアンダーサンプリングに利用したマスクに基づいて前記残差を更新する。再構成部は、前記k空間データと更新された前記残差に基づいて画像データを再構成する。
【図面の簡単な説明】
【0007】
【
図1】
図1は、第1の実施形態における磁気共鳴画像再構成装置の構成の一例を示す図である。
【
図2】
図2は、第1の実施形態における残差初期化部による処理を説明するためのデータフロー図である。
【
図3】
図3は、第1の実施形態における感度分布算出部による処理を説明するためのデータフロー図である。
【
図4】
図4は、第1の実施形態における更新データ生成部による処理を説明するためのデータフロー図である。
【
図5】
図5は、第1の実施形態における残差更新部による処理を説明するためのデータフロー図である。
【
図6】
図6は、第1の実施形態における再構成部による処理を説明するためのデータフロー図である。
【
図7】
図7は、第1の実施形態に係る磁気共鳴画像再構成方法の流れを示すフローチャートである。
【
図8】
図8は、第1の実施形態に係る磁気共鳴画像再構成装置によって再構成された画像データIMGと、従来技術によって再構成された画像データとを比較する図である。
【
図9】
図9は、第1の実施形態に係る磁気共鳴画像再構成装置によって再構成された画像データIMGと、従来技術によって再構成された画像データとを比較する図である。
【
図10】
図10は、第2の実施形態における再構成部による処理を説明するためのデータフロー図である。
【
図11】
図11は、第3の実施形態における磁気共鳴画像再構成装置の構成の一例を示す図である。
【
図12】
図12は、第3の実施形態に係る磁気共鳴画像再構成方法の流れを示すフローチャートである。
【
図13】
図13は、第4の実施形態における更新データ生成部による処理を説明するためのデータフロー図である。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、画像処理装置及び画像処理方法の実施形態について詳細に説明する。
【0009】
(第1の実施形態)
本実施形態に係る画像処理装置としての磁気共鳴画像再構成装置1は、磁気共鳴イメージング装置によって被検体をスキャンして得られたk空間ドメインのk空間データK0とk空間データの真値との残差を推定し、繰り返してこの推定値を複数回最適化し、最適化された残差の推定値に基づいて再構成される画像データIMGをイメージングする。ここで、上記磁気共鳴イメージング装置は、周波数エンコード及び位相エンコードされた磁場にある被検体にパルス信号を送信し、特定の原子核磁気共鳴が原因で発生したエコー信号を複数の受信コイルから受信することで、被検体のk空間データK0を取得する。以下では、磁気共鳴画像再構成装置が残差を合計n回(nは、1以上の整数)最適化するものとして説明する。
【0010】
本実施形態では、k空間データK0を、幅W×高さH×チャンネル数(コイル数)Cの3次元テンソルとして説明するが、幅方向が周波数エンコード方向であり、高さ方向が位相エンコード方向である。残差は、k空間データK0とk空間データの真値との差を表し、残差を示すデータは、k空間データK0と同じサイズの3次元テンソルである。
【0011】
一般的に、磁気共鳴スキャンはスキャン時間を短縮するために、特定の位相エンコードが省略されたアンダーサンプリングを行うため、磁気共鳴スキャン中に、位相エンコード方向(高さ方向)における一部の座標をスキップしてスキャンする。その結果として、k空間データK0では、高さ方向(位相エンコード方向)における一部の座標にデータは存在せず、この一部の座標上のデータに対してゼロパディング処理を行う。k空間データの中心位置付近のデータは、再構成される画像データIMGのコントラストに与える影響が大きいため、アンダーサンプリングを行う際に、位相エンコード方向の中心位置付近に位置するデータを集中サンプリングし、中心位置から遠く離れた一部の位置のデータをスキップするのが一般的である。
【0012】
本実施形態では、磁気共鳴スキャンにおいて、k空間データK0中のどの位相エンコードがサンプリングされたか、及び、どの位相エンコードが省略されたかは、マスクMを用いて示す。マスクMは、幅W×高さHの行列であり、幅方向が周波数エンコード方向であり、高さ方向が位相エンコード方向である。サンプリングが行われた周波数エンコード、位相エンコードに対応する座標の要素の値を1とし、サンプリングが行われなかった周波数エンコード、位相エンコードに対応する座標の要素の値を0とする。
【0013】
図1は、第1の実施形態における画像処理装置としての磁気共鳴画像再構成装置1の構成の一例を示す図である。第1の実施形態における磁気共鳴画像再構成装置1は、入出力インタフェース101、表示インタフェース102、通信インタフェース103、記憶部104、残差初期化部105、感度分布算出部106、更新データ生成部107、残差更新部108及び再構成部109を備える。入出力インタフェース101、表示インタフェース102、通信インタフェース103、記憶部104、残差初期化部105、感度分布算出部106、更新データ生成部107、残差更新部108及び再構成部109は、互いに通信可能に接続されている。
【0014】
入出力インタフェース101は、磁気共鳴画像再構成装置1と図示しない入力装置とを接続するためのインタフェースであり、入力装置からユーザの入力操作を受付け、受付けた入力操作に基づく信号を磁気共鳴画像再構成装置1に伝達する。入出力インタフェース101は、例えば、USBなどのシリアルバスインタフェースである。入力装置は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、タッチスクリーン、マイクなどが含まれる。また、入出力インタフェース101は、記憶装置と接続され、記憶装置との間で各種のデータの読み書きを行ってもよい。記憶装置は、例えば、HDD(Hard Disc Drive)、SSD(Solid State Drive)などである。
【0015】
表示インタフェース102は、磁気共鳴画像再構成装置1と図示しない表示装置とを接続するためのインタフェースであり、表示装置にデータを送信し、表示装置に画像を表示させる。表示インタフェース102は、例えば、DVI(Digital Visual Interface)又はHDMI(登録商標)(High-Definition Multimedia Interface)などの映像出力インタフェースである。表示装置は、LCD(Liquid Crystal Display)又は有機EL(Electroluminescence)ディスプレイなどが含まれる。表示装置は、ユーザからの入力操作を受付けるためのユーザインタフェースや磁気共鳴画像再構成装置1が出力した画像データIMGなどを表示し、ユーザインタフェースは、例えば、GUI(Graphical User Interface)などである。
【0016】
通信インタフェース103は、磁気共鳴画像再構成装置1と図示しないサーバとを接続するためのインタフェースであり、サーバとの間で各種のデータを送受信することができる。通信インタフェース103は、例えば、無線ネットワークカード、有線ネットワークカードなどのネットワークカードである。
【0017】
記憶部104は、k空間データK0及びそれに対応付けられたマスクMなどのスキャンデータと、画像再構成を行う際に用いられる他のデータとを記憶する。また、記憶部104は、磁気共鳴画像再構成装置1が画像再構成を行う際に用いられるパラメータ、例えばニューラルネットワークのパラメータなどを記憶する。また、記憶部104は、磁気共鳴画像再構成装置1が使用する各ニューラルネットワーク及び他の学習可能なパラメータをトレーニングするための教師データを記憶し、各組の教師データは、k空間データK0、マスクM及び画像データ正解値IMGGTを含む。記憶部104は、例えば、ROM、フラッシュメモリ、RAM(Random Access Memory)、HDD(Hard Disc Drive)、SSD(Solid State Drive)、レジスタなどの記憶装置によって実現される。フラッシュメモリやHDD、SSD等は不揮発性の記憶媒体である。これらの不揮発性の記憶媒体は、NAS(Network Attached Storage)や外部ストレージサーバ装置など、ネットワークを介して接続された他の記憶装置によって実現されてもよい。ここで、上記ネットワークには、例えば、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)、キャリア端末、無線通信ネットワーク、無線基地局、専用回線などが含まれる。
【0018】
残差初期化部105は、k空間データK0に基づいて残差を初期化し、残差初期推定値ε0を生成する。残差初期化部105は、残差初期推定値ε0に0又はランダムデータをパディングすることで残差の初期化を行っても良い。また、従来の磁気共鳴画像再構成方法により再構成された画像データとk空間データK0との差を残差初期推定値ε0として用いてもよい。
【0019】
図2は、第1の実施形態における残差初期化部105による処理を説明するためのデータフロー図である。以下、残差初期化部105による処理について、
図2を参照して説明する。まず、残差初期化部105は、記憶部104からk空間データK
0を読み出し、k空間データK
0のサイズに応じて残差初期推定値ε
0のサイズを設定する。そして、残差初期化部105は、残差初期推定値ε
0内のデータを初期化し、初期化済みの残差初期推定値ε
0を出力する。すなわち、残差初期化部105は、アンダーサンプリングされたk空間データK
0とk空間データ真値との差を示す残差を初期化する。演算量を抑え、システムを簡略化するために、残差初期化部105は、残差初期推定値ε
0に直接、0又はランダムデータをパディングすることができる。一方、この方法を用いて生成された残差初期推定値ε
0は、残差の真値と大きく離れており、再構成された画像データIMGの品質低下を招くおそれがある。再構成された画像データIMGの品質を向上させるために、残差初期化部105は、従来の磁気共鳴画像再構成方法を用いて再構成されたk空間データとk空間データK
0との差を残差初期推定値ε
0として用いることが好ましく、従来の磁気共鳴画像再構成方法としては、例えば、SENSE(SENSitivity Encoding)、GRAPPA(GeneRalized Autocalibrating Partial Parallel Acquisition)などが挙げられる。この方法を用いて生成された残差初期推定値ε
0は、残差の真値に近く、再構成された画像データIMGの品質の向上に寄与する。
【0020】
感度分布算出部106は、k空間データK
0に基づいて、磁気共鳴イメージング装置が使用する複数のコイルの感度を推定し、感度分布
図SMを生成する。感度分布算出部106は、逆フーリエ変換ユニット1061と、第2のニューラルネットワーク1062と、変換ユニット1063とを備える。逆フーリエ変換ユニット1061は、逆高速フーリエ変換などのアルゴリズムにより、データを逆フーリエ変換する。第2のニューラルネットワーク1062は、例えば、フィードフォワードニューラルネットワーク、畳み込みニューラルネットワーク又はTransformerなどである。第2のニューラルネットワーク1062は、畳み込みニューラルネットワークであるのが好ましい。第2のニューラルネットワーク1062は、U-Netであるのがより好ましい。本実施形態では、本実施形態では、第2のニューラルネットワーク1062は、入力層、出力層、畳み込み層、活性化層、プーリング層、バッチ正規化層、全結合層を含み、かつ入力層と出力層のサイズが等しい畳み込みニューラルネットワークであるとする。第2のニューラルネットワーク1062が使用する各パラメータは記憶部104に記憶されている。変換ユニット1063は、第2のニューラルネットワーク1062から出力されたマルチチャンネルの画像ドメインデータを感度分布
図SMに変換する。感度分布
図SMは、幅W×高さH×チャンネル数(コイル数)Cの3次元テンソルであり、各コイルの各位置での感度を表す。
【0021】
図3は、第1の実施形態における感度分布算出部106による処理を説明するためのデータフロー図である。以下、感度分布算出部106による処理について、
図3を参照して説明する。まず、感度分布算出部106は、記憶部104からk空間データK
0を読み出し、逆フーリエ変換ユニット1061により、k空間データK
0を逆フーリエ変換してマルチチャンネル画像ドメインデータI
0を生成する。そして、感度分布算出部106は、マルチチャンネル画像ドメインデータI
0を第2のニューラルネットワーク1062に入力する。第2のニューラルネットワーク1062は、学習済みのニューラルネットワークにより、マルチチャンネル画像ドメインデータI
0に対して補正処理を行い、補正されたマルチチャンネル画像ドメインデータI’
0を生成する。第2のニューラルネットワーク1062による処理は、画像ドメインでマルチチャンネル画像ドメインデータI
0における各チャンネルのデータに対してアーティファクト除去及びノイズ除去を行う処理であると考えられる。その後、感度分布算出部106は、変換ユニット1063に、補正されたマルチチャンネル画像ドメインデータI’
0に基づいて感度分布
図SMを算出させる。すなわち、感度分布算出部106は、第2のニューラルネットワーク1062を用いてk空間データK
0を生成した磁気共鳴イメージング装置の各受信コイルの感度分布
図SMを算出する。具体的には、補正されたマルチチャンネル画像ドメインデータI’
0の幅方向×高さ方向の2次元平面における2次元座標(w,h)毎に、マルチチャンネル画像ドメインデータI’
0中の当該2次元座標を有する合計コイル数C個のボクセルのボクセル値の二乗和平方根(Root of Sum Square)を算出し、そして、補正されたマルチチャンネル画像ドメインデータI’
0中の各チャンネルでの2次元座標(w,h)上のボクセル値を当該座標に対応の二乗和平方根で除算することで各コイルの当該2次元座標(w,h)における感度を取得する。
【0022】
更新データ生成部107は、算出された残差の推定値が残差の真値に近づくように残差の推定値をイテレーティブ更新するための残差更新用データUtを生成する。更新データ生成部107は、逆フーリエ変換ユニット1071と、チャンネル統合ユニット1072と、第1のニューラルネットワーク1073と、チャンネル展開ユニット1074と、フーリエ変換ユニット1075とを備える。
【0023】
逆フーリエ変換ユニット1071は、逆高速フーリエ変換などのアルゴリズムにより、データを逆フーリエ変換する。チャンネル統合ユニット1072は、各コイルにそれぞれ対応するマルチチャンネルのデータをシングルチャンネルのデータに統合する。逆フーリエ変換ユニット1071及びチャンネル統合ユニット1072は、前処理部の一例である。前処理部は、感度分布
図SMに基づいて残差ε
tとk空間データK
0に対して演算処理を行い、第1のニューラルネットワーク1073の入力データである第1のニューラルネットワーク入力データを生成する。第1のニューラルネットワーク1073は、例えば、フィードフォワードニューラルネットワーク、畳み込みニューラルネットワーク又はTransformerなどである。第1のニューラルネットワーク1073は、畳み込みニューラルネットワークであるのが好ましい。第1のニューラルネットワーク1073は、U-Netであるのがより好ましい。本実施形態では、第1のニューラルネットワーク1073は、入力層、出力層、畳み込み層、活性化層、プーリング層、バッチ正規化層、全結合層を含み、かつ入力層と出力層のサイズが等しい畳み込みニューラルネットワークであるとする。第1のニューラルネットワーク1073が使用する各パラメータは、記憶部104に記憶されている。チャンネル展開ユニット1074は、シングルチャンネルのデータを、各コイルにそれぞれ対応するマルチチャンネルのデータに展開する。フーリエ変換ユニット1075は、高速フーリエ変換などのアルゴリズムによりデータをフーリエ変換する。
【0024】
図4は、第1の実施形態における更新データ生成部107による処理を説明するためのデータフロー図である。以下、更新データ生成部107による処理について、
図4を参照して説明する。まず、更新データ生成部107は、記憶部104からk空間データK
0と、残差初期推定値ε
0をt回(ただし、tは、0以上n以下の整数)イテレーティブ更新した結果を示す残差イテレーティブ推定値ε
tとを読み出する。t=0の場合、残差イテレーティブ推定値ε
tは、残差初期推定値ε
0と同じである。そして、更新データ生成部107は、逆フーリエ変換ユニット1071及びチャンネル統合ユニット1072により、k空間データK
0と残差イテレーティブ推定値ε
tとの和に対して、第1のニューラルネットワーク1073に入力するまでの前処理を行う。具体的には、更新データ生成部107は、k空間データK
0と残差イテレーティブ推定値ε
tとを加算した和を逆フーリエ変換ユニット1071に入力し、逆フーリエ変換ユニット1071は、k空間データK
0と残差イテレーティブ推定値ε
tとの和を逆フーリエ変換し、マルチチャンネル画像ドメインデータX
tを生成する。マルチチャンネル画像ドメインデータX
tは、幅W×高さH×チャンネル数(コイル数)Cの3次元テンソルであり、各チャンネルには各コイルにそれぞれ対応する画像ドメインのデータが記憶されている。そして、更新データ生成部107は、マルチチャンネル画像ドメインデータX
t及び感度分布
図SMをチャンネル統合ユニット1072に入力し、チャンネル統合ユニット1072は、下式(1)により、各コイルの感度に応じて、マルチチャンネル画像ドメインデータX
tの複数チャンネルのデータを、シングルチャンネルのデータに統合し、シングルチャンネル画像ドメインデータI
tを生成する。
【0025】
【0026】
ここで、S
i
*は、感度分布
図SMの第iチャンネルにおける行列の随伴行列を表し、X
t,iは、マルチチャンネル画像ドメインデータX
tの第iチャンネルにおける行列を表す。
【0027】
そして、更新データ生成部107は、シングルチャンネル画像ドメインデータI
tを第1のニューラルネットワーク1073に入力し、第1のニューラルネットワーク1073は、学習済みのニューラルネットワークにより、シングルチャンネル画像ドメインデータI
tを画像処理し、残差更新用データU
tを生成する。換言すると、更新データ生成部107は、残差ε
t及びk空間データK
0に基づいて画像処理を行い、残差ε
tを更新するための残差更新用データU
tを生成する第1のニューラルネットワークを有する。更新データ生成部107は、残差更新用データU
tに基づいてk空間残差更新用データZ
tを生成する。残差更新用データU
tは、k空間データK
0と残差イテレーティブ推定値ε
tの情報から生成された、残差イテレーティブ推定値ε
tを残差の真値に近づくように補正するためのデータである。残差更新用データU
tは、シングルチャンネルの画像ドメインデータであり、残差更新用データU
tを残差イテレーティブ推定値ε
tに適用するためには、それをマルチチャンネルのk空間のデータに変換する必要がある。そこで、次に、更新データ生成部107は、残差更新用データU
t及び感度分布
図SMをチャンネル展開ユニット1074に入力し、チャンネル展開ユニット1074は、各コイルの感度に応じて残差更新用データU
tに対して展開処理を行い、マルチチャンネル残差更新用データY
tを生成する。具体的には、チャンネル展開ユニット1074は、残差更新用データU
tと感度分布
図SMの各チャンネルにおける行列とのアダマール積をそれぞれ算出し、得られた各アダマール積をマルチチャンネル残差更新用データY
tの各チャンネルにおける行列とする。そして、更新データ生成部107は、フーリエ変換ユニット1075により、マルチチャンネル残差更新用データY
tをフーリエ変換することで、マルチチャンネルのk空間残差更新用データZ
tを生成する。
【0028】
残差更新部108は、k空間残差更新用データZt及びアンダーサンプリングに利用したマスクMに基づいて、データの整合性を保証した上で残差イテレーティブ推定値εtを更新する。残差更新部108は、式(2)により残差イテレーティブ推定値εtを更新して残差イテレーティブ推定値εt+1を生成する。
【0029】
【0030】
ここで、ηtは、学習可能な係数である。項ηtMεtは、データの整合性を保証するためのものであり、実際にサンプリングされた位相エンコードにおいて、残差イテレーティブ推定値εtに基づいて復元されたk空間データがk空間データK0と一致することをできるだけ保証するためのものである。
【0031】
図5は、第1の実施形態における残差更新部108による処理を説明するためのデータフロー図である。以下、残差更新部108による処理について、
図5を参照して説明する。まず、残差更新部108は、記憶部104から係数η
t、マスクM及び残差イテレーティブ推定値ε
tを読み出し、それらのアダマール積を算出する。そして、残差更新部108は、上記積から残差イテレーティブ推定値ε
t及びk空間残差更新用データZ
tを減算した差を残差イテレーティブ推定値ε
t+1として算出する。
【0032】
再構成部109は、n回イテレーティブ最適化された残差イテレーティブ推定値εnに基づいて画像データIMGを生成する。すなわち、再構成部109は、k空間データK0と更新された残差εnに基づいて、画像データを再構成する。再構成部109は、逆フーリエ変換ユニット1091と、変換ユニット1092とを備える。逆フーリエ変換ユニット1091は、逆高速フーリエ変換などのアルゴリズムにより、データを逆フーリエ変換する。変換ユニット1092は、逆フーリエ変換ユニット1091から出力されたマルチチャンネル画像ドメインデータを画像データIMGに変換する。
【0033】
図6は、第1の実施形態における再構成部109による処理を説明するためのデータフロー図である。以下、再構成部109による処理について、
図6を参照して説明する。残差をn回イテレーティブ更新したと判断された場合、再構成部109は、記憶部104からk空間データK
0及びn回最適化された残差イテレーティブ推定値ε
nを読み出し、逆フーリエ変換ユニット1091によりそれらの和を逆フーリエ変換してk空間データ推定値K
nを生成する。その後、変換ユニット1092は、k空間データ推定値K
nを画像データIMGに変換する。具体的には、k空間データ推定値K
nの幅方向×高さ方向の2次元平面における2次元座標(w,h)毎に、その2次元座標を有する合計コイル数C個のボクセルのボクセル値の二乗和平方根(Root of Sum Square)を算出し、その二乗和平方根を画像データIMGのこの座標での画素値とする。
【0034】
図7は、第1の実施形態に係る磁気共鳴画像再構成方法の流れを示すフローチャートである。以下、第1の実施形態に係る磁気共鳴画像再構成方法の流れについて、
図7を参照して説明する。
【0035】
本実施形態の磁気共鳴画像再構成方法は、残差イテレーティブ推定値εtがk空間データK0とk空間データの真値との差に徐々に近似するように、合計n回のイテレーションを行い、イテレーション毎に残差イテレーティブ推定値εtを1回最適化する。本実施形態では、イテレーションを1回行うとは、ステップS105、ステップS106を順に1回実行することである。イテレーション回数は、好ましくは6~12回である。
【0036】
ステップS101において、ユーザは表示装置に表示されたユーザインタフェースを介して、入力装置によって、記憶部104に記憶されているか、又は外部から入力されたk空間データK0及びマスクMを選択する。そして、ステップS102に進む。
【0037】
ステップS102において、残差初期化部105は、k空間データK0に基づいて残差を初期化して、残差初期推定値ε0を生成する。そして、ステップS103に進む。
【0038】
ステップS103において、感度分布算出部106は、k空間データK
0に基づいて、磁気共鳴イメージング装置が使用する複数のコイルの感度を算出し、感度分布
図SMを生成する。そして、ステップS104に進む。
【0039】
ステップS104において、磁気共鳴画像再構成装置1は、イテレーション回数ITを0とする。そして、ステップS105に進む。
【0040】
ステップS105において、更新データ生成部107は、更新後の残差の推定値が残差の真値に近づくように、残差の推定値をイテレーティブ更新するための残差更新用データUtを生成する。
【0041】
ステップS106において、残差更新部108は、k空間残差更新用データZt及びアンダーサンプリングに利用したマスクMに基づいて、残差イテレーティブ推定値εtを更新し、イテレーション回数ITを1だけインクリメントする。そして、ステップS107に進む。
【0042】
ステップS107において、磁気共鳴画像再構成装置1は、イテレーション回数ITがnに等しいか否かを判定し、「YES」と判定した場合には、ステップS108に進むが、「NO」と判定した場合には、ステップS105に戻る。
【0043】
ステップS108において、再構成部109は、n回最適化された残差イテレーティブ推定値εnに基づいて、画像データIMGを生成する。その後、処理を終了する。
【0044】
上述した説明では、本実施形態に係る磁気共鳴画像再構成装置及び磁気共鳴画像再構成方法は、第1のニューラルネットワーク、第2のニューラルネットワーク及びパラメータηtを用いており、これらのニューラルネットワークが正常に動作するにはトレーニングの必要がある。以下、上述したニューラルネットワーク及びパラメータのトレーニング方法について説明する。
【0045】
まず、予め記憶された複数組の教師データを記憶部104から読み出す。各組の教師データには、入力データとしての磁気共鳴イメージング装置によるアンダーサンプリングされたk空間データK0及びそれに対応付けられているマスクMと、出力データとしての画像データ正解値IMGGTと、が含まれる。
【0046】
そして、複数組の教師データをトレーニングセット(Training Set)とテストセット(Test Set)とに分ける。トレーニングセットとテストセットの割合の例として、80%、20%、又は90%、10%などが挙げられる。例えば、教師データの総数が10000組の場合、データ#1~#10000の教師データは、トレーニングセットとしてのデータ#1~#8000と、テストセットとしてのデータ#8001~#10000とに分けられる。このような場合では、トレーニングセットにおける各組教師データ中の入力データを磁気共鳴画像再構成装置1に入力し、本実施形態に係る磁気共鳴画像再構成方法を実行して画像データIMGを算出し、そして、画像データIMGと画像データ正解値IMGGTとの差分値を算出し、当該差分値に基づいてバックプロパゲーションを行うことで、磁気共鳴画像再構成装置1が出力する画像データIMGと画像データ正解値IMGGTとの差分値が小さくなるように各ニューラルネットワークのパラメータ及び他の機械学習可能なパラメータを変更する。トレーニングセットの大部分のデータに対して、磁気共鳴画像再構成装置1が出力する画像データIMGと画像データ正解値IMGGTとの差分値が予め設定された閾値よりも小さくなるまでに上述したプロセスを繰り返して行う。この時、各ニューラルネットワーク及びパラメータのトレーニングが完了したと判定する。
【0047】
そして、学習済みの磁気共鳴画像再構成装置1にテストデータ(データ#8000~#10000)の入力データを入力し、磁気共鳴画像再構成装置1が出力する画像データIMGと画像データ正解値IMGGTとの差分値を評価データとして算出する。
【0048】
以下、本実施形態に係る磁気共鳴画像再構成装置及び磁気共鳴画像再構成方法の效果について説明する。
【0049】
従来技術の磁気共鳴装置では、スキャンの時間を短縮するために、k空間の周波数ドメイン情報をアンダーサンプリングし、アンダーサンプリングされたk空間データを生成した。アンダーサンプリングされたk空間データによるスキャン画像の再構成は、不良設定問題(ill-posed problem)であるので、無数の解が存在し、再構成された正確なスキャン画像を一意に特定することができない。本実施形態に係る磁気共鳴画像再構成装置及び磁気共鳴画像再構成方法は、圧縮センシング(Compressive Sensing)アルゴリズムに基づいて当該問題を解くものである。圧縮センシングアルゴリズムは、制約条件(Constraint)を加えることにより1つの適切な解を一意地に決定することができる。ここで、深層学習に基づく圧縮センシングアルゴリズムは、ニューラルネットワークを用いて、トレーニングデータから適当な制約条件を学習し、その後、学習された制約条件を介して画像の再構成を行う。
【0050】
従来の圧縮センシングに基づく深層学習磁気共鳴画像再構成方法は、残差コネクションを有するニューラルネットワークによりk空間データをイテレーティブ最適化するものであるが、アンダーサンプリングされたk空間データとk空間データの真値との残差を直接推定することができない。
【0051】
本実施形態は、エンドツーエンドの残差学習ネットワークを用い、ニューラルネットワークにより、残差の推定値と真値との差を示す残差更新用データを算出し、この残差更新用データに基づいて残差の推定値をイテレーティブ最適化することにより、残差を正確に算出することができる。また、本発明では、ニューラルネットワークは残差をまるごと生成することを学習する必要がなく、残差更新用データを生成するだけでよいので、ニューラルネットワークの学習効率を向上させることができる。
【0052】
4Xアンダーサンプリング、6Xアンダーサンプリング及び8Xアンダーサンプリングのいずれの場合にも、本実施形態に係る磁気共鳴画像再構成装置1が生成する画像データIMGと画像データ正解値IMGGTとのMSEは従来の非エンドツーエンド残差学習技術の磁気共鳴画像再構成方法より低く、かつ、SSIM及びPSNRは従来の非エンドツーエンド残差学習技術の磁気共鳴画像再構成方法より高い。
【0053】
図8は、本実施形態の磁気共鳴画像再構成装置1によって再構成された画像データIMGと従来技術によって再構成された画像データとを比較する図である。
【0054】
図8の(a)は、4Xアンダーサンプリングの場合における本実施形態の磁気共鳴画像再構成装置1によって再構成された脳の画像データを示し、
図8の(b)は、4Xアンダーサンプリングの場合における従来技術によって再構成された脳の画像データを示し、
図8の(c)は、脳の画像データ真値を示す。
【0055】
図8から明らかなように、4Xアンダーサンプリングの場合、本実施形態の磁気共鳴画像再構成装置1によって再構成された画像データは、従来技術に比べて画像データ真値の再現度がより完全であり、従来技術によって再構成された画像データに対してより多くの細部が復元され、かつ復元された脳組織のエッジがよりシャープであり、画像鮮明度がより高い。また、本実施形態の磁気共鳴画像再構成装置1によって再構成された画像データは、脳白質において高い信号(ハイライト表示)を示す病変組織を良好に復元している。一方、従来技術によって再構成された画像データは、脳組織のエッジがぼやけており、画像鮮明度が低く、脳白質において高い信号を示す病変組織を明瞭に復元することができなかった。
【0056】
図9は、本実施形態の磁気共鳴画像再構成装置1によって再構成された画像データIMGと、従来技術によって再構成された画像データとを比較する図である。
【0057】
図9の(a)は、6Xアンダーサンプリングの場合における本実施形態の磁気共鳴画像再構成装置1によって再構成された脳の画像データを示し、
図9の(b)は、6Xアンダーサンプリングの場合における従来技術によって再構成された脳の画像データを示し、
図9の(c)は、脳の画像データ真値を示す。
【0058】
図9から明らかなように、6Xアンダーサンプリングの場合でも、本実施形態の磁気共鳴画像再構成装置1によって再構成された画像データは画像データ真値を大抵復元することができ、かつ顕著なアーティファクトが存在しない。一方、従来技術によって再構成された画像データにはアーティファクト(図中矢印で示す部分)が多数存在する。
【0059】
本実施形態によれば、感度分布算出部106、更新データ生成部107にニューラルネットワークを用いているので、画像データIMGを再構成する精度を向上することができるとともに、画像データIMGを再構成するまでのイテレーション回数を減らすことができる。
【0060】
(第2の実施形態)
以下、第2の実施形態に係る磁気共鳴画像再構成装置及び磁気共鳴画像再構成方法について説明するが、第2の実施形態では、第1の実施形態との相違点を中心にして説明し、第1の実施形態との共通点について説明を省略する。第2の実施形態の説明では、第1の実施形態とは同一部分に同一の符号を付して説明する。
【0061】
第2の実施形態の磁気共鳴画像再構成装置2は、第1の実施形態と比較して、再構成部109に代えて再構成部209を備え、再構成部209は第3のニューラルネットワーク2093をさらに有する。
【0062】
図10は、第2の実施形態における再構成部209による処理を説明するためのデータフロー図である。以下、再構成部209による処理について、
図10を参照して説明する。残差をn回イテレーティブ更新したと判断された場合、再構成部209は、記憶部104からk空間データK
0を読み出し、第3のニューラルネットワーク2093によりk空間データK
0を補正して第1のk空間補正データK’を生成する。そして、逆フーリエ変換ユニット1091により、第1のk空間補正データK’及びn回最適化された残差イテレーティブ推定値ε
nの和を逆フーリエ変換して、k空間データ推定値K
nを生成する。その後、変換ユニット1092は、k空間データ推定値K
nを画像データIMGに変換する。具体的には、k空間データ推定値K
nの幅方向×高さ方向の2次元平面における2次元座標(w,h)毎に、その2次元座標を有する合計コイル数C個のボクセルのボクセル値の二乗和平方根(Root of Sum Square)を算出し、その二乗和平方根を画像データIMGのこの座標での画素値とする。すなわち、再構成部209は、k空間データを補正して第1の補正k空間データを生成する第3のニューラルネットワーク2093を有し、第1の補正k空間データと更新された残差ε
nとに基づいて画像データを再構成する。
【0063】
本実施形態によれば、第1の実施形態と同様な效果を奏することもできる。
【0064】
(第3の実施形態)
以下、第3の実施形態に係る磁気共鳴画像再構成装置及び磁気共鳴画像再構成方法について説明するが、第3の実施形態では、第1の実施形態との相違点を中心にして説明し、第1の実施形態との共通点について説明を省略する。第3の実施形態の説明では、第1の実施形態とは同一部分に同一の符号を付して説明する。
【0065】
図11は、第3の実施形態における磁気共鳴画像再構成装置3の構成の一例を示す図である。以下、第3の実施形態の磁気共鳴画像再構成装置3の構成について、
図11を参照して説明する。第3の実施形態の磁気共鳴画像再構成装置3は、第1の実施形態と比較して、第4のニューラルネットワーク310をさらに備え、更新データ生成部107に代えて更新データ生成部307を備え、再構成部109に代えて再構成部309を備える。
【0066】
第4のニューラルネットワーク310は、k空間データK
0を補正して第2のk空間補正データK’’を生成する。更新データ生成部307は、第2のk空間補正データK’’と残差イテレーティブ推定値ε
tとを加算した和を逆フーリエ変換ユニット1071に入力し、マルチチャンネル画像ドメインデータX
tを生成する。再構成部309は、逆フーリエ変換ユニット1091により、第2のk空間補正データK’’及びn回最適化された残差イテレーティブ推定値ε
nの和を逆フーリエ変換してk空間データ推定値K
nを生成する。すなわち、前処理部は、感度分布
図SMに基づいて残差ε
nと第2の補正k空間データK‘に対して演算処理を行い、第1のニューラルネットワーク入力データを生成し、再構成部は、第2の補正k空間データK’と更新された残差ε
nとに基づいて画像データを再構成する。
【0067】
図12は、第3の実施形態に係る磁気共鳴画像再構成方法の流れを示すフローチャートである。以下、第3の実施形態に係る磁気共鳴画像再構成方法の流れについて、
図12を参照して説明する。第3の実施形態に係る磁気共鳴画像再構成方法では、ステップS101に代えてステップS301を有する。
【0068】
ステップS301において、ユーザは、表示装置に表示されたユーザインタフェースを介して、入力装置によって、記憶部104に記憶されているか、又は外部から入力されたk空間データK0及びマスクMを選択する。そして、k空間データK0を第4のニューラルネットワーク310に入力し、第2のk空間補正データK’’を生成する。
【0069】
本実施形態によれば、第1の実施形態と同様な効果を奏することもできる。
【0070】
(第4の実施形態)
以下、第4の実施形態に係る磁気共鳴画像再構成装置及び磁気共鳴画像再構成方法について説明する。第4の実施形態では、第1の実施形態との相違点を中心にして説明するが、第4の実施形態との共通点について説明を省略する。第4の実施形態の説明では、第1の実施形態とは同一部分に同一の符号を付して説明する。
【0071】
第4の実施形態の磁気共鳴画像再構成装置4は、第1の実施形態と比較して、更新データ生成部107に代えて更新データ生成部407を有する。
【0072】
図13は、第4の実施形態における更新データ生成部407による処理を説明するためのデータフロー図である。以下、更新データ生成部407による処理について、
図13を参照して説明する。まず、更新データ生成部407は、記憶部104から残差イテレーティブ推定値ε
tを読み出す。そして、更新データ生成部407は逆フーリエ変換ユニット1071及びチャンネル統合ユニット1072により、残差イテレーティブ推定値ε
tに対して前処理を行う。具体的には、更新データ生成部407は、残差イテレーティブ推定値ε
tを逆フーリエ変換ユニット1071に入力し、逆フーリエ変換ユニット1071は、残差イテレーティブ推定値ε
tを逆フーリエ変換し、マルチチャンネル画像ドメインデータX
tを生成する。マルチチャンネル画像ドメインデータX
tは、幅W×高さH×チャンネル数(コイル数)Cの3次元テンソルであり、各チャンネルには、各コイルにそれぞれ対応する画像ドメインのデータが記憶されている。そして、更新データ生成部407は、マルチチャンネル画像ドメインデータX
t及び感度分布
図SMをチャンネル統合ユニット1072に入力し、チャンネル統合ユニット1072は、式(1)により、各コイルの感度に応じて、マルチチャンネル画像ドメインデータX
tの複数チャンネルのデータをシングルチャンネルのデータに統合し、シングルチャンネル画像ドメインデータI
tを生成する。すなわち、更新データ生成部407は、感度分布
図SMに基づいて残差ε
tに対して演算処理を行い、第1のニューラルネットワーク1073の入力データであるニューラルネットワーク入力データを生成する。
【0073】
そして、更新データ生成部407は、シングルチャンネル画像ドメインデータI
tを第1のニューラルネットワーク1073に入力し、第1のニューラルネットワーク1073は、トレーニングされたニューラルネットワークにより、シングルチャンネル画像ドメインデータI
tを画像処理し、残差更新用データU
tを生成する。すなわち、第1のニューラルネットワーク1073は、前述のニューラルネットワーク入力データを入力データとし、残差ε
tを更新するための残差更新用データU
tを生成する。残差更新用データU
tは、残差イテレーティブ推定値ε
tの情報から生成された、残差イテレーティブ推定値ε
tを残差の真値に近づくように補正するためのデータである。次に、更新データ生成部407は、残差更新用データU
t及び感度分布
図SMをチャンネル展開ユニット1074に入力し、チャンネル展開ユニット1074は、各コイルの感度に応じて、残差更新用データU
tを展開処理し、マルチチャンネル残差更新用データY
tを生成する。そして、更新データ生成部407は、フーリエ変換ユニット1075により、マルチチャンネル残差更新用データY
tをフーリエ変換し、得られた結果をk空間データK
0に加算することで、マルチチャンネルのk空間残差更新用データZ
tを生成する。
【0074】
本実施形態によれば、第1の実施形態と同様な効果を奏することもできる。
【0075】
(変形例)
以上の実施形態では、感度分布算出部106をニューラルネットワークに基づいてコイル感度分布
図SMを算出としたが、感度分布算出部106はESPiRiTアルゴリズムに基づいてコイル感度分布
図SMを算出するようにしてもよい。また、シングルコイルの磁気共鳴イメージング装置がスキャンしたk空間データ(シングルチャンネル)を再構成するようにしてもよい。
【0076】
さらに、k空間データK0を超解像度処理して、画像データIMGの精度及び解像度を向上させるようにしてもよい。
【0077】
以上説明した少なくとも1つの実施形態によれば、画質を向上することができる。
【0078】
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0079】
1 磁気共鳴画像再構成装置
101 入出力インタフェース
102 表示インタフェース
103 通信インタフェース
104 記憶部
105 残差初期化部
106 感度分布算出部
107 更新データ生成部
108 残差更新部
109 再構成部