IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東芝メディカルシステムズ株式会社の特許一覧

特許7300811医用情報処理装置、医用情報処理方法、およびプログラム
<>
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図1
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図2
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図3
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図4
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図5
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図6
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図7
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図8
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図9
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図10
  • 特許-医用情報処理装置、医用情報処理方法、およびプログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-06-22
(45)【発行日】2023-06-30
(54)【発明の名称】医用情報処理装置、医用情報処理方法、およびプログラム
(51)【国際特許分類】
   A61B 5/055 20060101AFI20230623BHJP
   G06T 1/00 20060101ALI20230623BHJP
   G06T 3/40 20060101ALI20230623BHJP
【FI】
A61B5/055 376
G06T1/00 290C
G06T1/00 290B
G06T3/40 725
【請求項の数】 10
(21)【出願番号】P 2018111410
(22)【出願日】2018-06-11
(65)【公開番号】P2019213623
(43)【公開日】2019-12-19
【審査請求日】2021-03-17
(73)【特許権者】
【識別番号】594164542
【氏名又は名称】キヤノンメディカルシステムズ株式会社
(74)【代理人】
【識別番号】110001634
【氏名又は名称】弁理士法人志賀国際特許事務所
(72)【発明者】
【氏名】竹島 秀則
【審査官】佐々木 龍
(56)【参考文献】
【文献】特開2006-025868(JP,A)
【文献】特開2017-225688(JP,A)
【文献】米国特許出願公開第2017/0337713(US,A1)
【文献】国際公開第2014/041889(WO,A1)
【文献】特表2009-528117(JP,A)
【文献】特開2015-181840(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/055
A61B 6/00 -6/14
G06T 1/00 -9/40
(57)【特許請求の範囲】
【請求項1】
電磁波を被検体に作用させることで生成された第1データを取得する取得部と、
前記取得部によって取得された第1データを第1モデルに入力することによって、前記第1モデルに第2データを出力させる第1処理部と、
前記第2データを第2モデルに入力することによって、前記第2モデルに第3データを出力させる第2処理部と、
前記第2モデルに前記第2データを入力するのか否かを決定する決定部と、を備え、
前記第2処理部は、
前記第2データを前記第2モデルに入力することが前記決定部によって決定された場合、前記第2データを前記第2モデルに入力し、前記第2データを入力した前記第2モデルによって出力された前記第3データを出力部を介して出力し、
前記第2データを前記第2モデルに入力しないことが前記決定部によって決定された場合、前記第2データを前記第2モデルに入力せずに、少なくとも前記第2データを前記出力部を介して出力し、
前記第1データ、前記第2データ、及び前記第3データは、核磁気共鳴画像法に関するデータである、
医用情報処理装置。
【請求項2】
電磁波を被検体に作用させることで生成された第1データを取得する取得部と、
前記取得部によって取得された第1データを第1モデルに入力することによって、前記第1モデルに第2データを出力させる第1処理部と、
前記第2データを第2モデルに入力することによって、前記第2モデルに第3データを出力させる第2処理部と、
前記第2モデルに前記第2データを入力するのか否かを決定する決定部と、を備え、
前記第2処理部は、
前記第2データを前記第2モデルに入力することが前記決定部によって決定された場合、前記第2データを前記第2モデルに入力し、前記第2データを入力した前記第2モデルによって出力された前記第3データを出力部を介して出力し、
前記第2データを前記第2モデルに入力しないことが前記決定部によって決定された場合、前記第2データを前記第2モデルに入力せずに、少なくとも前記第2データを前記出力部を介して出力し、
前記第1データは、前記被検体が存在する空間に対応したk空間データであり、
前記第2データは、医用画像である、
医用情報処理装置。
【請求項3】
前記第1モデルは、前記第1データが入力されると、前記第2データを出力するように予め学習された第1ニューラルネットワークを含み、
前記第2モデルは、前記第2データが入力されると、前記第3データを出力するように予め学習された第2ニューラルネットワークを含む、
請求項1又は2に記載の医用情報処理装置。
【請求項4】
少なくとも前記第1データと前記第2データとが整合するか否かを評価する第1評価部を更に備え、
前記決定部は、前記第1評価部によって前記第1データと前記第2データとが整合しないと評価された場合、前記第2データを前記第2モデルに入力することを決定する、
請求項1から3のうちいずれか1項に記載の医用情報処理装置。
【請求項5】
前記第1評価部は、更に、前記第1データと前記第2データとが整合しないと評価した場合、前記第2データを、前記第1データに基づく新たな第2データに更新し、
前記第2処理部は、前記決定部によって、前記第2データを前記第2モデルに入力することが決定された場合、前記第1評価部によって前記第2データから更新された前記新たな第2データを、前記第2モデルに入力することによって、前記第2モデルに前記第3データを出力させる、
請求項4に記載の医用情報処理装置。
【請求項6】
前記第2データは、医用画像であり、
少なくとも前記医用画像の画質を評価する第2評価部を更に備え、
前記決定部は、前記第2評価部によって前記医用画像のノイズが閾値以上であると評価された場合、前記第2データを前記第2モデルに入力することを決定する、
請求項1から5のうちいずれか1項に記載の医用情報処理装置。
【請求項7】
コンピュータが、
電磁波を被検体に作用させることで生成された第1データを取得し、
前記取得した第1データを第1モデルに入力することによって、前記第1モデルに第2データを出力させ、
前記第2データを第2モデルに入力することによって、前記第2モデルに第3データを出力させ、
前記第2モデルに前記第2データを入力するのか否かを決定し、
前記第2データを前記第2モデルに入力することを決定した場合、前記第2データを前記第2モデルに入力し、前記第2データを入力した前記第2モデルによって出力された前記第3データを出力部を介して出力し、
前記第2データを前記第2モデルに入力しないことを決定した場合、前記第2データを前記第2モデルに入力せずに、少なくとも前記第2データを前記出力部を介して出力し、
前記第1データ、前記第2データ、及び前記第3データは、核磁気共鳴画像法に関するデータである、
医用情報処理方法。
【請求項8】
コンピュータが、
電磁波を被検体に作用させることで生成された第1データを取得し、
前記取得した第1データを第1モデルに入力することによって、前記第1モデルに第2データを出力させ、
前記第2データを第2モデルに入力することによって、前記第2モデルに第3データを出力させ、
前記第2モデルに前記第2データを入力するのか否かを決定し、
前記第2データを前記第2モデルに入力することを決定した場合、前記第2データを前記第2モデルに入力し、前記第2データを入力した前記第2モデルによって出力された前記第3データを出力部を介して出力し、
前記第2データを前記第2モデルに入力しないことを決定した場合、前記第2データを前記第2モデルに入力せずに、少なくとも前記第2データを前記出力部を介して出力し、
前記第1データは、前記被検体が存在する空間に対応したk空間データであり、
前記第2データは、医用画像である、
医用情報処理方法。
【請求項9】
コンピュータに実行させるためのプログラムであって、
電磁波を被検体に作用させることで生成された第1データを取得する処理と、
前記取得した第1データを第1モデルに入力することによって、前記第1モデルに第2データを出力させる処理と、
前記第2データを第2モデルに入力することによって、前記第2モデルに第3データを出力させる処理と、
前記第2モデルに前記第2データを入力するのか否かを決定する処理と、
前記第2データを前記第2モデルに入力することを決定した場合、前記第2データを前記第2モデルに入力し、前記第2データを入力した前記第2モデルによって出力された前記第3データを出力部を介して出力する処理と、
前記第2データを前記第2モデルに入力しないことを決定した場合、前記第2データを前記第2モデルに入力せずに、少なくとも前記第2データを前記出力部を介して出力する処理と、を含み、
前記第1データ、前記第2データ、及び前記第3データは、核磁気共鳴画像法に関するデータである、
プログラム。
【請求項10】
コンピュータに実行させるためのプログラムであって、
電磁波を被検体に作用させることで生成された第1データを取得する処理と、
前記取得した第1データを第1モデルに入力することによって、前記第1モデルに第2データを出力させる処理と、
前記第2データを第2モデルに入力することによって、前記第2モデルに第3データを出力させる処理と、
前記第2モデルに前記第2データを入力するのか否かを決定する処理と、
前記第2データを前記第2モデルに入力することを決定した場合、前記第2データを前記第2モデルに入力し、前記第2データを入力した前記第2モデルによって出力された前記第3データを出力部を介して出力する処理と、
前記第2データを前記第2モデルに入力しないことを決定した場合、前記第2データを前記第2モデルに入力せずに、少なくとも前記第2データを前記出力部を介して出力する処理と、を含み、
前記第1データは、前記被検体が存在する空間に対応したk空間データであり、
前記第2データは、医用画像である、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、医用情報処理装置、医用情報処理方法、およびプログラムに関する。
【背景技術】
【0002】
従来、エコー信号を用いて画像を再構成し、作成した拡散強調画像に対し種々の解析や演算を行い、作成した画像及びGUI等をディスプレイに表示させる技術が知られている。このような技術では、更に、機械学習アルゴリズムを用いて、画像のパターン認識を行う学習モデルを作成すると共に、画素や各種基準値、補正値を用いて画像を補正した場合に最も適する手法を、機械学習アルゴリズムを用いて身体の部位ごとに学習し、画素から最適な補正方法を判定するモデルを作成している。
【0003】
従来の技術において、機械学習を用いて医用画像を生成する場合、精度のよい医用画像を生成することと、処理時間を短くすることは互いにトレードオフの関係にあり、両者をバランス良く向上させるのは困難な場合があった。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2017-225688号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明が解決しようとする課題は、処理時間を短くしつつ、精度のよい医用画像を生成することである。
【課題を解決するための手段】
【0006】
実施形態の医用情報処理装置は、取得部と、第1処理部と、第2処理部と、決定部と、を備える。取得部は、電磁波を被検体に作用させることで生成された第1データを取得する。第1処理部は、第1パラメータ付合成関数として機能して、前記取得部によって取得された第1データを前記第1パラメータ付合成関数の入力データとして、第2データを出力する。第2処理部は、第2パラメータ付合成関数として機能して、前記第1処理部によって出力された前記第2データを前記第2パラメータ付合成関数の入力データとして、第3データを出力する。決定部は、前記第1処理部によって出力された前記第2データを前記第2パラメータ付合成関数の入力データとして前記第2処理部に前記第3データを出力させるのか否かを決定する。
【図面の簡単な説明】
【0007】
図1】第1の実施形態に係る医用情報処理装置200を含む医用情報処理システム1の構成の一例を示す図。
図2】第1の実施形態に係る医用画像撮像装置100の一例を示す図。
図3】k空間データDkを説明するための図。
図4】k空間データDkを説明するための図。
図5】第1の実施形態に係る医用情報処理装置200の一例を示す図。
図6】医用画像再構成モデル300の一例を示す図。
図7】正方行列Mの一例を示す図。
図8】本実施形態における処理回路210の一連の処理の流れを示すフローチャート。
図9】医用画像再構成モデル300の他の例を示す図。
図10】第1の実施形態に係る医用画像撮像装置100の他の例を示す図。
図11】撮像スケジュールの一例を示す図。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、医用情報処理装置、医用情報処理方法、およびプログラムの実施形態について詳細に説明する。
【0009】
(第1の実施形態)
図1は、第1の実施形態に係る医用情報処理装置200を含む医用情報処理システム1の構成の一例を示す図である。例えば、図1に示すように、医用情報処理システム1は、医用画像撮像装置100と、医用情報処理装置200とを備える。医用画像撮像装置100および医用情報処理装置200は、ネットワークNWを介して接続される。ネットワークNWは、例えば、WAN(Wide Area Network)やLAN(Local Area Network)、インターネット、専用回線、無線基地局、プロバイダなどを含む。
【0010】
医用画像撮像装置100は、例えば、MRI(Magnetic Resonance Imaging)装置や、CT(Computed Tomography)装置などを含む。MRI装置は、例えば、被検体(例えば人体)に磁場を与えて、核磁気共鳴現象によって被検体内の水素原子核から発生する電磁波を、コイルを利用して受信し、その受信した電磁波に基づく信号を再構成することで医用画像(MR画像)を生成する装置である。CT装置は、例えば、被検体の周囲を回転するX線管から被検体にX線を照射すると共に、その被検体を通過したX線を検出し、検出したX線に基づく信号を再構成することで医用画像(CT画像)を生成する装置である。以下の説明では、一例として医用画像撮像装置100がMRI装置であるものとして説明する。
【0011】
医用情報処理装置200は、一つまたは複数のプロセッサにより実現される。例えば、医用情報処理装置200は、クラウドコンピューティングシステムに含まれるコンピュータであってもよいし、他の機器に依存せずに単独で動作するコンピュータ(スタンドアローンのコンピュータ)であってもよい。
【0012】
[医用画像撮像装置の構成例]
図2は、第1の実施形態に係る医用画像撮像装置100の一例を示す図である。図2に示すように、医用画像撮像装置100は、静磁場磁石101と、傾斜磁場コイル102と、傾斜磁場電源103と、寝台104と、寝台制御回路105と、送信コイル106と、送信回路107と、受信コイル108と、受信回路109と、シーケンス制御回路110と、コンソール装置120とを備える。
【0013】
静磁場磁石101は、中空の略円筒形状に形成された磁石であり、内部の空間に一様な静磁場を発生させる。静磁場磁石101は、例えば、永久磁石、超伝導磁石等である。傾斜磁場コイル102は、中空の略円筒形状に形成されたコイルであり、静磁場磁石101の内側に配置される。傾斜磁場コイル102は、互いに直交するx,y,zの各軸に対応する3つのコイルが組み合わされて形成される。z軸方向は、寝台104の天板104aの長手方向を表し、x軸方向は、z軸方向に直交し、医用画像撮像装置100が設置される部屋の床面に対して平行である軸方向を表し、y軸方向は、床面に対して垂直方向である軸方向を表している。各軸方向に対応した3つのコイルは、傾斜磁場電源103から個別に電流を受けて、x,y,zの各軸に沿って磁場強度が変化する傾斜磁場を発生させる。なお、z軸方向は、静磁場と同方向とする。
【0014】
傾斜磁場電源103は、傾斜磁場コイル102に電流を供給する。ここで、傾斜磁場コイル102によって発生するx,y,zの各軸の傾斜磁場は、例えば、スライス選択用傾斜磁場Gs、位相エンコード用傾斜磁場Ge、及びリードアウト用傾斜磁場Grにそれぞれ対応する。スライス選択用傾斜磁場Gsは、任意に撮像断面を決めるために利用される。位相エンコード用傾斜磁場Geは、空間的位置に応じて磁気共鳴信号の位相を変化させるために利用される。リードアウト用傾斜磁場Grは、空間的位置に応じて磁気共鳴信号の周波数を変化させるために利用される。
【0015】
寝台104は、被検体OBが載置される天板104aを備え、寝台制御回路105による制御のもと、天板104aを、被検体OBが載置された状態で傾斜磁場コイル102の空洞(撮像口)内へ挿入する。通常、寝台104は、長手方向が静磁場磁石101の中心軸と平行になるように設置される。寝台制御回路105は、コンソール装置120による制御のもと、寝台104を駆動して天板104aを長手方向及び上下方向へ移動する。
【0016】
送信コイル106は、傾斜磁場コイル102の内側に配置され、送信回路107からRF(Radio Frequency)パルスの供給を受けて、高周波磁場を発生する。送信回路107は、対象とする原子核の種類及び磁場の強度で決まるラーモア周波数に対応するRFパルスを送信コイル106に供給する。
【0017】
受信コイル108は、傾斜磁場コイル102の内側に配置され、高周波磁場の影響によって被検体OBから発せられる磁気共鳴信号を受信する。受信コイル108は、磁気共鳴信号を受信すると、受信した磁気共鳴信号を受信回路109へ出力する。なお、第1の実施形態において、受信コイル108は、1以上、典型的には複数の受信コイルを有するコイルアレイである。以下、受信コイルがコイルアレイである場合、そのアレイを構成する各コイルを、コイルエレメントと称して説明する。
【0018】
受信回路109は、受信コイル108から出力される磁気共鳴信号に基づいて磁気共鳴データを生成する。具体的には、受信回路109は、受信コイル108から出力される磁気共鳴信号をフーリエ変換することによって、デジタル信号である磁気共鳴データを生成する。また、受信回路109は、生成した磁気共鳴データをシーケンス制御回路110へ送信する。なお、受信回路109は、静磁場磁石101や傾斜磁場コイル102等を備える架台装置側に備えられていてもよい。受信コイル108の各コイルエレメントから出力される磁気共鳴信号は、適宜分配合成されることで受信回路109に出力される。
【0019】
シーケンス制御回路110は、コンソール装置120から送信されるシーケンス情報に基づいて、傾斜磁場電源103、送信回路107及び受信回路109を駆動することによって、被検体OBを撮像する。シーケンス情報は、撮像処理を行うための手順を定義した情報である。シーケンス情報には、傾斜磁場電源103が傾斜磁場コイル102に供給する電源の強さや電源を供給するタイミング、送信回路107が送信コイル106に送信するRFパルスの強さやRFパルスを印加するタイミング、受信回路109が磁気共鳴信号を検出するタイミング等が定義された情報が含まれる。
【0020】
なお、シーケンス制御回路110は、傾斜磁場電源103、送信回路107及び受信回路109を駆動して被検体OBを撮像し、受信回路109から磁気共鳴データを受信すると、受信した磁気共鳴データをコンソール装置120へ転送する。
【0021】
コンソール装置120は、医用画像撮像装置100の全体を制御したり、磁気共鳴データを収集したりする。例えば、コンソール装置120は、通信インターフェース122と、入力インターフェース124と、ディスプレイ126と、処理回路130と、メモリ(ストレージ)150とを備える。
【0022】
通信インターフェース122は、例えば、NIC(Network Interface Card)などの通信インターフェースを含む。通信インターフェース122は、ネットワークNWを介して医用情報処理装置200と通信し、医用情報処理装置200から情報を受信する。通信インターフェース122は、受信した情報を処理回路130に出力する。また、通信インターフェース122は、処理回路130による制御を受けて、ネットワークNWを介して接続された他の装置に情報を送信してもよい。
【0023】
入力インターフェース124は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路130に出力する。例えば、入力インターフェース124は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、タッチパネルなどにより実現される。また、入力インターフェース124は、例えば、マイクなどの音声入力を受け付けるユーザインターフェースによって実現されてもよい。入力インターフェース124がタッチパネルである場合、後述するディスプレイ126は入力インターフェース124と一体として形成されてよい。
【0024】
ディスプレイ126は、各種の情報を表示する。例えば、ディスプレイ126は、処理回路130によって生成された画像を表示したり、操作者からの各種の入力操作を受け付けるためのGUI(Graphical User Interface)などを表示したりする。例えば、ディスプレイ126は、LCD(Liquid Crystal Display)や、CRT(Cathode Ray Tube)ディスプレイ、有機EL(Electroluminescence)ディスプレイなどである。
【0025】
処理回路130は、例えば、取得機能132と、通信制御機能134とを実行する。これらの機能(構成要素)は、例えば、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のハードウェアプロセッサ(あるいはプロセッサ回路)が、メモリ150に記憶されたプログラム(ソフトウェア)を実行することにより実現される。また、処理回路130の機能の一部または全部は、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等のハードウェア(回路部:circuitry)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。また、上記のプログラムは、予めメモリ150に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体に格納されており、記憶媒体がコンソール装置120のドライブ装置に装着されることで記憶媒体からメモリ150にインストールされてもよい。
【0026】
メモリ150は、例えば、RAM(Random Access Memory)、フラッシュメモリなどの半導体メモリ素子、ハードディスク、光ディスクなどによって実現される。これらの非一過性の記憶媒体は、NAS(Network Attached Storage)や外部ストレージサーバ装置といったネットワークNWを介して接続される他の記憶装置によって実現されてもよい。また、メモリ150には、ROM(Read Only Memory)やレジスタなどの一過性の記憶媒体が含まれてもよい。
【0027】
取得機能132は、シーケンス制御回路110から磁気共鳴データを取得する。磁気共鳴データは、上述したように、核磁気共鳴現象によって被検体OB内において発生した電磁波の信号(核磁気共鳴信号)をフーリエ変換することで得られるデータである。以下、磁気共鳴データを「k空間データDk」と称して説明する。k空間とは、核磁気共鳴信号が1次元の波形として受信コイル108により繰り返し収集される際に、その1次元の波形が収集される空間(k空間データDkが配列される空間)を表している。k空間データDkは、「第1データ」の一例である。
【0028】
図3および図4は、k空間データDkを説明するための図である。図3に例示するように、被検体OBが存在する実空間をx-y-z座標で表した場合、医用画像撮像装置100は、例えば、half-Fourier法などを利用し、k空間データDkを、ある軸方向(図示の例ではx方向)に関して間引いて収集することで、より高速に被検体OBを撮像する場合がある。このような場合、図4に例示するように、k空間データDkは、k空間において、スパース(疎)なデータとなる。以下の説明では、一例として、医用画像撮像装置100によってk空間データDkが間引かれて収集されるものとして説明するが、k空間データDkは特に間引かれなくてもよい。
【0029】
通信制御機能134は、取得機能132によってk空間データDkが取得されると、通信インターフェース202に医用情報処理装置200と通信させ、その通信相手の医用情報処理装置200にk空間データDkを送信する。また、通信制御機能134は、通信インターフェース202に医用情報処理装置200と通信させ、その通信相手の医用情報処理装置200から再構成画像を取得する。通信制御機能134は、再構成画像を取得すると、この再構成画像をディスプレイ126に出力してよい。これによって、ディスプレイ126には再構成画像が表示される。
【0030】
[医用情報処理装置の構成例]
図5は、第1の実施形態に係る医用情報処理装置200の一例を示す図である。図5に示すように、医用情報処理装置200は、例えば、通信インターフェース202と、入力インターフェース204と、ディスプレイ206と、処理回路210と、メモリ230とを備える。
【0031】
通信インターフェース202は、例えば、NICなどの通信インターフェースを含む。通信インターフェース202は、ネットワークNWを介して医用画像撮像装置100と通信し、医用画像撮像装置100から情報を受信する。通信インターフェース202は、受信した情報を処理回路210に出力する。また、通信インターフェース202は、処理回路210による制御を受けて、ネットワークNWを介して接続された他の装置に情報を送信してもよい。他の装置とは、例えば、医師や看護師などの画像の読影者が利用可能な端末装置であってよい。通信インターフェース202は、「出力部」の一例である。
【0032】
入力インターフェース204は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路210に出力する。例えば、入力インターフェース204は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、タッチパネルなどにより実現される。また、入力インターフェース204は、例えば、マイクなどの音声入力を受け付けるユーザインターフェースによって実現されてもよい。入力インターフェース204がタッチパネルである場合、後述するディスプレイ206は入力インターフェース204と一体として形成されてよい。
【0033】
ディスプレイ206は、各種の情報を表示する。例えば、ディスプレイ206は、処理回路210によって生成された画像(後述する再構成画像)を表示したり、操作者からの各種の入力操作を受け付けるためのGUIなどを表示したりする。例えば、ディスプレイ206は、LCDや、CRTディスプレイ、有機ELディスプレイなどである。ディスプレイ206は、「出力部」の他の例である。
【0034】
処理回路210は、例えば、取得機能212と、再構成処理機能214と、データ整合評価機能216と、再構成画像評価機能218と、出力制御機能220とを実行する。取得機能212は、「取得部」の一例であり、再構成処理機能214は、「決定部」の一例である。データ整合評価機能216は、「第1評価部」の一例であり、再構成画像評価機能218は、「第2評価部」の一例である。出力制御機能220は、「出力制御部」の一例である。
【0035】
これらの機能(構成要素)は、例えば、CPUやGPU等のハードウェアプロセッサ(あるいはプロセッサ回路)が、メモリ230に記憶されたプログラム(ソフトウェア)を実行することにより実現される。また、これらの複数の機能のうち一部または全部は、LSI、ASIC、FPGA等のハードウェア(回路部:circuitry)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。また、上記のプログラムは、予めメモリ230に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体に格納されており、記憶媒体が医用情報処理装置200のドライブ装置に装着されることで記憶媒体からメモリ230にインストールされてもよい。
【0036】
メモリ230は、例えば、RAM、フラッシュメモリなどの半導体メモリ素子、ハードディスク、光ディスクなどによって実現される。これらの非一過性の記憶媒体は、NASや外部ストレージサーバ装置といったネットワークNWを介して接続される他の記憶装置によって実現されてもよい。また、メモリ230には、ROMやレジスタなどの一過性の記憶媒体が含まれてもよい。メモリ230には、例えば、医用画像再構成モデル情報232などが格納される。これについては後述する。
【0037】
取得機能212は、通信インターフェース202に医用画像撮像装置100と通信させ、その通信相手の医用画像撮像装置100からk空間データDkを取得する。
【0038】
再構成処理機能214は、医用画像再構成モデル情報232が示す医用画像再構成モデル300に従って、取得機能212によって取得されたk空間データDkから医用画像(MR画像)を再構成する。k空間データDkは、例えば、x軸方向およびy軸方向のうち一方の軸方向を行とし、他方の軸方向を列とした行列によって表されてよい。この場合、k空間データDkを表す行列の各要素は、例えば、多次元のベクトルとして表される。上述したように、k空間データDkが間引かれた場合、k空間データDkを表す行列において、間引かれたk空間データDkに対応した要素値には、例えば、間引かれていないk空間データDkに対応した要素値と識別可能な所定の値(例えば0)または所定のデータ表現(例えばnull)が対応付けられる。
【0039】
医用画像再構成モデル情報232は、医用画像再構成モデル300を定義した情報(プログラムまたはデータ構造)である。例えば、プロセッサが医用画像再構成モデル情報232を実行することによって、医用画像再構成モデル300の機能が再構成処理機能214の一部として実現されてよい。医用画像再構成モデル300は、例えば、直列に接続された複数のDNN(Deep Neural Network(s))を含む。医用画像再構成モデル300に含まれる各DNNは、「パラメータ付合成関数」の一例である。
【0040】
医用画像再構成モデル情報232には、例えば、各DNNを構成する入力層、一以上の隠れ層(中間層)、出力層の其々に含まれるニューロン(ユニット)が互いにどのように結合されるのかという結合情報や、結合されたニューロン間で入出力されるデータに付与される結合係数がいくつであるのかという重み情報などが含まれる。結合情報は、例えば、各層に含まれるニューロン数や、各ニューロンの結合先のニューロンの種類を指定する情報、各ニューロンを実現する活性化関数、隠れ層のニューロン間に設けられたゲートなどの情報を含む。ニューロンを実現する活性化関数は、例えば、正規化線形関数(ReLU関数)であってもよいし、シグモイド関数や、ステップ関数、ハイパポリックタンジェント関数などのその他の関数であってもよい。ゲートは、例えば、活性化関数によって返される値(例えば1または0)に応じて、ニューロン間で伝達されるデータを選択的に通過させたり、重み付けたりする。結合係数は、活性化関数のパラメータであり、例えば、ニューラルネットワークの隠れ層において、ある層のニューロンから、より深い層のニューロンにデータが出力される際に、出力データに対して付与される重みを含む。また、結合係数は、各層の固有のバイアス成分などを含んでもよい。
【0041】
[医用画像再構成モデルの構成例]
図6は、医用画像再構成モデル300の一例を示す図である。図示の例では、医用画像再構成モデル300は、2つのDNNが直列に接続されたモデルを表している。図示のように、医用画像再構成モデル300は、例えば、変換レイヤ302と、アクティベーションレイヤ304と、第1変調レイヤ306と、第1DNN308と、第1エンコーダ310と、第1デコーダ312と、第2変調レイヤ314と、第2DNN316と、第2エンコーダ318と、第2デコーダ320とを備えてよい。なお、図示の例では、医用画像再構成モデル300はDNNを2つとしているがこれに限られず、3つ以上であってよい。第1DNN308、第1エンコーダ310、および第1デコーダ312を合わせたものは、「第1処理部」の一例であり、第1DNN308、第1エンコーダ310、および第1デコーダ312の結合情報(例えば活性化関数など)は、「第1パラメータ付合成関数」の一例である。第2DNN316、第2エンコーダ318、および第2デコーダ320は、「第2処理部」の一例であり、第2DNN316、第2エンコーダ318、および第2デコーダ320の結合情報(例えば活性化関数など)は、「第2パラメータ付合成関数」の一例である。なお、医用画像再構成モデル300が3段以上のDNNによって構成される場合、医用画像再構成モデル300に含まれる3つ以上のDNNのうち、いずれか1つのDNNが「第1処理部」の一部であってよく、「第1処理部」としたDNNの後段に設けられたDNNが「第2処理部」の一部であってよい。
【0042】
変換レイヤ302には、例えば、k空間データDkを表す行列が入力される。変換レイヤ302は、例えば、CNN(Convolutional Neural Network)などに含まれる畳み込み層と呼ばれる隠れ層であってよい。畳み込み層は、入力された行列に対して、予め決められたフィルタを畳み込み(窓関数を乗算し)、そのフィルタと重なる行列の各要素を、一つの単位行列に圧縮する。このような隠れ層は、エンコーダとも呼ばれる。単位行列は、例えば、任意の次元数の行列によって表されてよい。単位行列において、畳み込みにより得られた単変量値(特徴値)が、行列の要素値として対応付けられる。
【0043】
例えば、変換レイヤ302は、行列であるk空間データDk上でフィルタをシフト移動させながら畳み込み処理を繰り返し、複数の単位行列を生成する。例えば、変換レイヤ302は、128回畳み込み処理を繰り返して、128個の単位行列を生成する。以下の説明では、各単位行列を、チャネルとして表現する場合がある。変換レイヤ302は、生成した複数の単位行列をアクティベーションレイヤ304に出力する。
【0044】
アクティベーションレイヤ304は、例えば、プーリング層や、上述した正規化線形関数やシグモイド関数などの活性化関数などによって実現されてよい。アクティベーションレイヤ304がプーリング層を含む場合、アクティベーションレイヤ304は、単位行列の要素値を、単位行列に含まれる全要素値の平均値や最大値といった代表値に置き換えることで、単位行列の次元数を圧縮する。また、アクティベーションレイヤ304に含まれる各ノードの活性化関数が正規化線形関数やシグモイド関数などである場合、アクティベーションレイヤ304は、変換レイヤ302により出力された単位行列の各要素値がマイナスである場合、その要素値をゼロにし、要素値がプラスである場合、その要素値を0に近い値程小さくし、0から遠い値程大きくする。そして、アクティベーションレイヤ304は、処理した単位行列を第1変調レイヤ306および第1DNN308に出力する。
【0045】
第1変調レイヤ306は、例えば、重みを乗算するレイヤやスケーリングを行うレイヤなどによって実現されてよい。例えば、第1変調レイヤ306が重みを乗算するレイヤである場合、第1変調レイヤ306の各ノードの活性化関数は、単位行列の要素値が閾値以下である場合に要素値に乗算する重みを1とし、要素値が閾値を超える場合に要素値に乗算する重みを0とするステップ関数であってよい。すなわち、第1変調レイヤ306は、閾値よりも高い要素値を逓減させるローパスフィルタであってよい。
【0046】
第1DNN308は、例えば、上述したCNNや、RNN(Reccurent Neural Network)、FCNN(Fully-Connected Neural Network)などの種々のニューラルネットワークのいずれかによって実現されてもよいし、複数のニューラルネットワークの組み合わせによって実現されてもよい。本実施形態では、第1DNN308の種類に特段の制約はなく、任意のニューラルネットワークによって実現されてよい。
【0047】
例えば、第1DNN308は、取得機能212によって取得されたk空間データDkが、k空間データDkの間引かれたデータである場合を想定して、間引かれて存在しないk空間データDk(要素値)の元となる特徴値を予測し、その予測した特徴値を要素値とした行列を出力するように学習される。すなわち、第1DNN308は、間引かれて存在しないデータを補完したk空間データDkの元となる単位行列を出力するように学習される。そのため、第1DNN308は、アクティベーションレイヤ304から複数の単位行列が入力されると、例えば、本来あるべきk空間データDkが存在しないことから、フィルタとの畳み込みによって得られる特徴値が小さくなるような単位行列について、本来であれば収集されるk空間データDkから得られるであろう特徴値を予測する。これによって、第1DNN308は、入力された複数の単位行列(例えば128チャネルの単位行列)から、予測した特徴値を要素値とした1つ(1チャネル)の単位行列を生成する。
【0048】
第1エンコーダ310は、例えば、畳み込み層によって実現される。例えば、第1エンコーダ310は、第1変調レイヤ306からの出力データと、第1DNN308からの出力データとに基づいて、行と列の数がk空間データDkの行列と同じ行列を生成する。例えば、第1DNN308に対して、128個(128チャネル)の単位行列が入力される場合、第1変調レイヤ306に対しても、128個の単位行列が入力される。そのため、第1変調レイヤ306からは、128個の単位行列が出力される。第1エンコーダ310は、第1DNN308により出力された1個の単位行列と、第1変調レイヤ306により出力された128個の単位行列とを合わせた合計129個(129チャネル)の単位行列に基づいて、1つ(1チャネル)の行列を生成する。この行列は、第1DNN308により予測されたk空間データDkを要素値とする行列であり、k空間データDkの行列と行数および列数が同じ行列である。
【0049】
第1エンコーダ310は、生成した行列に対して逆フーリエ変換を行うことで、k空間データDkを用いて再構成した医用画像(以下、再構成画像と称する)を生成し、これを出力する。なお、第1エンコーダ310は、逆フーリエ変換を行わずに、または逆フーリエ変換を行うと共に、生成した行列をそのまま出力してもよい。第1エンコーダ310により出力される再構成画像または行列は、「第2データ」の一例である。
【0050】
第1デコーダ312は、例えば、畳み込み層によって実現される。例えば、第1デコーダ312は、第1エンコーダ310により再構成画像が出力された場合、その再構成画像に対してフーリエ変換を行うことで、再構成画像から、複数のk空間データDkの其々を要素値とした行列を生成する。また、第1デコーダ312は、第1エンコーダ310により再構成画像が出力される代わりにk空間データDkを要素値とした行列が出力された場合、フーリエ変換を行わなくてよい。第1デコーダ312により出力される行列は、「第2データ」の他の例である。
【0051】
第1デコーダ312は、第1エンコーダ310により出力された再構成画像に対してフーリエ変換を行うことで生成した行列、または第1エンコーダ310により出力された行列上でフィルタをシフト移動させながら畳み込み処理を繰り返し、複数の単位行列を生成する。例えば、第1デコーダ312は、変換レイヤ302と同様に、128回畳み込み処理を繰り返して、128個(128チャネル)の単位行列を生成してよい。第1デコーダ312は、生成した複数の単位行列を、第2変調レイヤ314および第2DNN316に出力する。
【0052】
第2変調レイヤ314は、第1変調レイヤ306と同様に、例えば、重みを乗算するレイヤやスケーリングを行うレイヤなどによって実現されてよい。例えば、第2変調レイヤ314は、ローパスフィルタを含む場合、第1変調レイヤ306により出力された単位行列、第1DNN308により出力された単位行列、および第1デコーダ312により出力された単位行列の其々の要素値のうち、閾値よりも高い要素値については0などの値に置き換えることで、要素値を逓減させてよい。
【0053】
第2DNN316は、第1DNN308と同様に、例えば、CNNや、RNN、FCNNなどの種々のニューラルネットワークのいずれかによって実現されてもよいし、複数のニューラルネットワークの組み合わせによって実現されてもよい。本実施形態では、第2DNN316の種類に特段の制約はなく、任意のニューラルネットワークによって実現されてよい。
【0054】
第2DNN316は、ある行列が入力されると、別の行列を出力するように学習される。より具体的には、第2DNN316は、ある単位行列が入力されると、前段の第1DNN308により予測されたk空間データDkよりも精度良く予測されたk空間データDkの元となる特徴値を要素値とする単位行列を出力するように学習される。従って、第2DNN316は、第1変調レイヤ306により出力された単位行列と、第1DNN308により出力された単位行列と、第1デコーダ312により出力された単位行列とが入力された場合、それらの複数の単位行列から、予測した特徴値を要素値とした1つの単位行列を生成する。
【0055】
第2エンコーダ318は、例えば、畳み込み層によって実現される。例えば、第2エンコーダ318は、第2変調レイヤ314からの出力データと、第2DNN316からの出力データとに基づいて、行と列の数がk空間データDkの行列と同じ行列を生成する。第2エンコーダ318は、生成した行列に対して逆フーリエ変換を行うことで、k空間データDkを用いて再構成した再構成画像を生成し、これを出力する。なお、第2エンコーダ318は、逆フーリエ変換を行わずに、または逆フーリエ変換を行うと共に、生成した行列をそのまま出力してもよい。
【0056】
第2デコーダ320は、例えば、畳み込み層によって実現される。例えば、第2デコーダ320は、第2エンコーダ318により再構成画像が出力された場合、その再構成画像に対してフーリエ変換を行うことで、再構成画像から、複数のk空間データDkの其々を要素値とした行列を生成する。また、第2デコーダ320は、第2エンコーダ318により再構成画像が出力される代わりにk空間データDkを要素値とした行列が出力された場合、フーリエ変換を行わなくてよい。第2デコーダ320により出力される再構成画像または行列は、「第3データ」の一例である。
【0057】
第2デコーダ320は、第2エンコーダ318により出力された再構成画像に対してフーリエ変換を行うことで生成した行列、または第2エンコーダ318により直接出力された行列上でフィルタをシフト移動させながら畳み込み処理を繰り返し、複数の単位行列を生成する。例えば、第2デコーダ320は、変換レイヤ302と同様に、128回畳み込み処理を繰り返して、128個(128チャネル)の単位行列を生成してよい。第2デコーダ320は、生成した複数の単位行列を、更に後段のDNN(不図示)に出力する。第2デコーダ320により出力される行列は、「第3データ」の他の例である。
【0058】
このように、前段に設けられたDNNの処理結果を、後段に設けられたDNNに伝搬させることを繰り返すことで、より後段のDNNほど、間引かれたk空間データDkを精度良く予測することができる。言い換えれば、前段のDNNの処理結果を、より後段のDNNに伝搬させるほど、より精度の高い(画質の良い)再構成画像を生成することができる。
【0059】
図5の説明に戻る。データ整合評価機能216は、医用画像再構成モデル300に含まれる各エンコーダによって生成された再構成画像に変換される前の行列、すなわちk空間データDkについて評価する。例えば、データ整合評価機能216は、数式(1)に基づいて、k空間データDkを評価する。なお、以下ではCartesianサンプリングを例として説明するが、Radialスキャンに代表されるNonCartesianサンプリングについても、以下で説明する行列MFをRadialスキャンの収集行列に置き換えることで、本発明の適用が可能である。
【0060】
【数1】
【0061】
式中y(→)は、医用画像撮像装置100によって収集されたk空間データDkの各要素を示すベクトルを表している。x(→)は、各エンコーダ(第1エンコーダ310や第2エンコーダ318など)により生成された行列(再構成画像に変換される前の行列)の各行成分を示すベクトルを表している。言い換えれば、x(→)は、医用画像再構成モデル300によって予測された各k空間データDkの要素を示すベクトルを表している。括弧付の矢印(→)は、式中のベクトルの記号を表している。
【0062】
また、FおよびMは、正方行列を表している。正方行列Fは、x(→)をフーリエ変換する行列を表している。正方行列Mは、x(→)の要素をマスキングする行列を表している。
【0063】
図7は、正方行列Mの一例を示す図である。図中e11、e12、…、emnは、医用画像撮像装置100によって収集されたk空間データDkを表す行列の各要素、すなわちk空間データDkの要素を表している。例えば、医用画像撮像装置100によって、2行目や4行目などのk空間データDkが間引かれて収集された場合、{e21、e22、…、e2n}や{e41、e42、…、e4n}などの要素値は、0などの所定の値に置き換わったり、nullなどの所定のデータ表現に置き換わったりする。この場合、正方行列Mにおいて、k空間データDkが間引かれずに収集されている行の要素値については1、k空間データDkが間引かれている行の要素値については0となる。図示の例では、k空間データDkを表す行列において、奇数行目が、k空間データDkが間引かれずに収集されている行を表しており、偶数行目が、k空間データDkが間引かれている行を表していることから、正方行列Mは、奇数行目の要素値が1、偶数行目の要素値が0となる行列となる。
【0064】
このように、数式(1)の左辺項は、医用画像撮像装置100によって実際に収集された複数のk空間データDkを表しており、数式(1)の右辺項は、医用画像再構成モデル300によって予測された複数のk空間データDkを表している。そのため、データ整合評価機能216は、数式(1)の左辺項と右辺項とを比較し、これらの差分を導出することで、収集されたk空間データDkと、予測されたk空間データDkとの互いの整合性を評価する。
【0065】
例えば、データ整合評価機能216は、取得されたk空間データDkを表す行列の各行ベクトルy(→)と、予測されたk空間データDkを表す行列の各行ベクトルx(→)とを各行単位で比較し、行ごとに要素値の差分を導出する。
【0066】
例えば、実測値のy(→)が数式(2)によって表され、予測値のx(→)が数式(3)によって表され、正方行列MおよびFを乗算した予測値のx(→)が数式(4)によって表されるものとする。このような場合、データ整合評価機能216は、数式(2)と数式(4)とを比較して、1行目の要素値の差分を0.2として導出し、2行目の要素値の差分を0として導出し、3行目の要素値の差分を0.2として導出し、4行目の要素値の差分を0として導出する。
【0067】
【数2】
【0068】
【数3】
【0069】
【数4】
【0070】
例えば、医用画像再構成モデル300に含まれる各DNNが理想的に100[%]の精度でk空間データDkを予測できると仮定した場合、x(→)に対して、正方行列MおよびFを乗算すると、x(→)はy(→)と一致し、x(→)とy(→)との間に差分が生じない。すなわち、収集されたk空間データDkと、予測されたk空間データDkとが互いに整合する。しかしながら、実用上、DNNにk空間データDkを完全な精度で予測させることは容易ではなく、x(→)とy(→)との間に少なからず差分が生じ、x(→)とy(→)とが互いに整合しない傾向にある。
【0071】
そのため、例えば、データ整合評価機能216は、x(→)とy(→)との間に生じた差分を打ち消すために、言い換えれば、x(→)とy(→)とを整合させるために、予測値のx(→)を実測値のy(→)に更新する。上述した数式(2)から(4)の数値例の場合、データ整合評価機能216は、x(→)の1行目の要素値0.3を、y(→)の1行目の要素値である0.1に更新し、x(→)の3行目の要素値0.6を、y(→)の3行目の要素値である0.4に更新する。なお、x(→)およびy(→)が転置ベクトルによって表される場合、上記の○○行目は○○列目と読み替えてよい。
【0072】
また、データ整合評価機能216は、x(→)とy(→)とを整合させるために、x(→)の要素値を、y(→)の要素値に更新する代わりに、x(→)の要素値を、x(→)の要素値とy(→)の要素値との平均値などの統計的指標値に更新してもよい。これによって、後段のDNNには、y(→)に基づき更新されたx(→)を要素値とする行列が入力される。
【0073】
また、データ整合評価機能216は、x(→)の要素値を、数式(5)をx(→)について最小化する問題の解(あるいはその近似解)で置き換えても良い。この方法はNonCartesianデータの場合にも適用することができる。
【0074】
【数5】
【0075】
数式(5)におけるx(→)は、更新前のx(→)を表し、x(→)は、更新後のx(→)を表し、y(→)は、収集されたk空間データDkの各要素を示すベクトルを表し、λは、0以上の任意の定数を表している。
【0076】
なお、上述した数式(2)から(4)では、説明を簡略化するために、一例として要素数を4つとして説明したがこれに限られず、例えば、256×256要素のようにk空間データDkを表す行列に応じて適時変更してよい。
【0077】
再構成画像評価機能218は、医用画像再構成モデル300に含まれる各エンコーダによって出力された再構成画像について評価する。
【0078】
例えば、再構成画像評価機能218は、医用画像再構成モデル300に含まれる複数のエンコーダのうち、最も前段の第1エンコーダ310によって再構成画像が出力されると、この再構成画像から統計的なノイズの量を導出し、導出したノイズの量が、ある閾値未満であるか否かを判定する。ノイズの量に対する閾値は、例えば、再構成画像が十分な画質であると見做せる程度の値に設定される。再構成画像評価機能218は、ノイズの量が閾値未満であると判定した場合、再構成画像が十分な画質であると評価(判定)する。一方、再構成画像評価機能218は、ノイズの量が閾値以上であると判定した場合、再構成画像が十分な画質でないと評価(判定)する。
【0079】
上述した再構成処理機能214は、再構成画像評価機能218により第1エンコーダ310によって出力された再構成画像が十分な画質であると評価された場合、再構成画像を第1デコーダ312に入力せず、後段の第2DNN316に再構成画像を生成させない。一方、再構成処理機能214は、再構成画像評価機能218により第1エンコーダ310によって出力された再構成画像が十分な画質でないと評価された場合、再構成画像を第1デコーダ312に入力して、後段の第2DNN316に再構成画像を生成させる。
【0080】
これを受けて、再構成画像評価機能218は、2段目の第2エンコーダ318によって再構成画像が出力されるまで待機し、第2エンコーダ318によって再構成画像が出力されると、この再構成画像から統計的なノイズの量を導出し、導出したノイズの量が閾値未満であるか否かを判定する。再構成処理機能214は、再構成画像評価機能218により第2エンコーダ318によって出力された再構成画像についても十分な画質でないと評価された場合、更に後段のDNNに再構成画像を生成させる。このように、再構成画像評価機能218によって再構成画像が十分な画質であると評価されるまで、再構成処理機能214は、医用画像再構成モデル300に再構成画像の生成を続けさせる。
【0081】
また、再構成画像評価機能218は、第2エンコーダ318以降の各エンコーダによって出力された再構成画像を評価する際に、ノイズの量を基に評価するのに代えて、或いは加えて、前段の再構成画像と当段の再構成画像との差分(絶対値の差や二乗平均など)が閾値未満であるか否かを判定し、前段の再構成画像との差分が閾値未満であると判定した場合、当段の再構成画像が十分な画質であると評価し、前段の再構成画像との差分が閾値以上であると判定した場合、当段の再構成画像が十分な画質でないと評価してもよい。
【0082】
また、再構成画像評価機能218は、再構成画像に、ある特徴をもつノイズが含まれているか否かに応じて、再構成画像の画質を評価してもよい。例えば、医用画像撮像装置100によって生成された医用画像の中心に楕円形状の物体が存在する場合、再構成画像の上下に半円形状の物体がノイズとして出現しやすいことが知られている。再構成画像評価機能218は、このような元の画像に存在する物体の形状や位置に応じて出現し得るノイズを、再構成画像から検出した場合、再構成画像が十分な画質でないと評価してよい。
【0083】
また、再構成処理機能214は、再構成画像評価機能218による再構成画像の画質の評価結果に基づいて、後段の第2DNN316に再構成画像を生成させるか否かを決定するものとして説明したがこれに限られない。例えば、再構成処理機能214は、データ整合評価機能216によるk空間データDkの整合性の評価結果に基づいて、後段の第2DNN316に再構成画像を生成させるか否かを決定してよい。例えば、再構成処理機能214は、データ整合評価機能216によって、予測されたk空間データDkを表すx(→)と、収集されたk空間データDkを表すy(→)との間に差分が生じ、x(→)とy(→)とが整合しないと評価された場合、再構成画像を第1デコーダ312に入力して、後段の第2DNN316に再構成画像を生成させる。また、再構成処理機能214は、データ整合評価機能216によって、x(→)とy(→)とが整合すると評価された場合、再構成画像を第1デコーダ312に入力せず、後段の第2DNN316に再構成画像を生成させない。
【0084】
出力制御機能220は、例えば、通信インターフェース202を介して接続された医用画像撮像装置100や端末装置などに、再構成画像評価機能218によって十分な画質であると評価された再構成画像を出力する。また、出力制御機能220は、ディスプレイ206に再構成画像を出力(表示)させてもよい。
【0085】
例えば、出力制御機能220は、1段目の第1エンコーダ310によって出力された再構成画像が十分な画質であると評価された場合、すなわち後段の第2DNN316に再構成画像を生成させないことが決定された場合、第1エンコーダ310によって出力された再構成画像を出力する。また、出力制御機能220は、1段目の第1エンコーダ310によって出力された再構成画像が十分な画質でないと評価され、後段の第2DNN316に再構成画像を生成させることが決定された場合において、更に後段の第2エンコーダ318によって出力された再構成画像が十分な画質であると評価された場合、第2エンコーダ318によって出力された再構成画像を出力する。このように、出力制御機能220は、画質が十分であると評価された時点の再構成画像を出力する。なお、出力制御機能220は、再構成画像を生成する処理回数が予め決められた上限回数に達するまでに、十分な画質の再構成画像が各エンコーダによって出力されない場合、例えば、最後に出力された再構成画像を画質の評価結果に依らずに出力してもよい。この際、出力制御機能220は、再構成画像と共に、再構成画像の画質が十分でないことを読影者に通知するための文字や画像を出力してよい。
【0086】
また、出力制御機能220は、再構成画像評価機能218によって十分な画質であると評価された再構成画像を出力するのに代えて、或いは加えて、データ整合評価機能216によってy(→)と整合すると評価されたk空間データDk(すなわちx(→))に基づく再構成画像を出力してもよい。
【0087】
[処理フロー]
以下、本実施形態における処理回路210の一連の処理の流れをフローチャートに即して説明する。図8は、本実施形態における処理回路210の一連の処理の流れを示すフローチャートである。本フローチャートの処理は、例えば、取得機能212によってk空間データDkが取得された場合に開始され、再構成画像の生成処理が予め決められた上限回数に達するまで、所定の周期で繰り返し行われてよい。
【0088】
まず、再構成処理機能214は、医用画像再構成モデル情報232が示す医用画像再構成モデル300の第n段目のDNNに、第n-1段目のDNNの処理結果を入力する(ステップS100)。「n」は、医用画像再構成モデル300に含まれる複数のDNNのうち、ある着目する一つのDNNを示すテンポラリパラメータを表している。例えば、nが1である場合、再構成処理機能214は、第1段目の第1DNN308に対して、変換レイヤ302およびアクティベーションレイヤ304において処理されたk空間データDkを入力する。これによって、第1段目の第1DNN308によって再構成画像が生成される。
【0089】
次に、再構成画像評価機能218は、第n段目のDNNの処理結果である再構成画像を取得し(ステップS102)、取得した再構成画像が十分な画質であるか否かを判定する(ステップS104)。
【0090】
再構成画像評価機能218によって再構成画像が十分な画質であると判定された場合、データ整合評価機能216は、十分な画質であると判定された再構成画像に変換される前の情報であるk空間データDk(すなわちx(→))と、S100の処理でDNNに入力されたk空間データDk(すなわちy(→))とを比較して、x(→)とy(→)とが互いに整合するか否かを判定する(ステップS106)。なお、S104の処理とS106の処理との順番は反対であってもよい。
【0091】
出力制御機能220は、例えば、再構成画像評価機能218によって再構成画像が十分な画質であると判定され、更に、データ整合評価機能216によって再構成画像の元となったx(→)とy(→)とが互いに整合すると判定された場合、S102の処理で取得された第n段目のDNNの処理結果である再構成画像を出力する(ステップS108)。なお、出力制御機能220は、上述したように、再構成画像評価機能218によって再構成画像が十分な画質であると判定された場合、またはデータ整合評価機能216によって再構成画像の元となったx(→)とy(→)とが互いに整合すると判定された場合のいずれかに再構成画像を出力してもよい。
【0092】
一方、再構成処理機能214は、例えば、再構成画像評価機能218によって再構成画像が十分な画質でないと判定された場合、或いは、データ整合評価機能216によって再構成画像の元となったx(→)とy(→)とが互いに整合しないと判定された場合、テンポラリパラメータnをインクリメントする(ステップS110)。そして、再構成処理機能214は、S100の処理に戻る。これによって、再構成処理機能214は、例えば、nを1として、第1段目の第1DNN308を着目するDNNとしていた場合、第2段目の第2DNN316を着目するDNNに変更する。この結果、再構成処理機能214は、第2段目の第2DNN316に対して、第1デコーダ312の処理結果を入力する。これによって本フローチャートの処理が終了する。
【0093】
[医用画像再構成モデルの学習方法]
以下、医用画像再構成モデル300の学習方法について説明する。例えば、再構成処理機能214は、医用画像再構成モデル300の最前段のDNN、すなわち第1DNN308に対して、間引いていないk空間データDkを入力し、その第1DNN308によって生成された再構成画像を教師データとして予め取得しておく。そして、再構成処理機能214は、第1DNN308に対して、間引いたk空間データDkを入力し、その第1DNN308によって生成された再構成画像が、予め取得しておいた教師データである再構成画像に近づくように、第1DNN308、変換レイヤ302、アクティベーションレイヤ304、第1変調レイヤ306、第1エンコーダ310などのパラメータ(例えば、カーネル関数の係数など)を学習させる。例えば、再構成処理機能214は、SGD(Stochastic Gradient Descent)、Momentum SGD、AdaGrad、RMSprop、AdaDelta、Adam(Adaptive moment estimation)などの勾配法を利用してパラメータを学習させてよい。
【0094】
また、再構成処理機能214は、2段目以降の第n段目のDNNに対しては、間引いていないk空間データDkを入力したときに第n-1段目のDNNによって生成された再構成画像を入力し、その第n段目のDNNによって生成された再構成画像を教師データとして予め取得しておく。この際、第n-1段目のDNNについては十分に学習されているものとする。そして、再構成処理機能214は、第n段目のDNNに対して、間引いたk空間データDkを入力したときに第n-1段目のDNNによって生成された再構成画像を入力し、その第n段目のDNNによって生成された再構成画像が、教師データである再構成画像に近づくように、第n段目のDNN、第n段目の変調レイヤ、第n-1段目のデコーダ、第n段目のエンコーダなどのパラメータを学習させる。
【0095】
例えば、nを2とした場合、再構成処理機能214は、間引いていないk空間データDkを入力したときに第1DNN308によって生成された再構成画像を第1デコーダ312が処理した結果(行列)を第2DNN316に対して入力し、その第2DNN316によって生成された再構成画像を教師データとして取得する。次に、再構成処理機能214は、間引いたk空間データDkを入力したときに第1DNN308によって生成された再構成画像について第1デコーダ312が処理した結果(行列)を第2DNN316に対して入力し、その第2DNN316によって生成された再構成画像を、教師データである再構成画像に近づけるように、第2DNN316、第2変調レイヤ314、第1デコーダ312、第2エンコーダ318などのパラメータを学習させる。
【0096】
このように、第1DNN308を十分に学習してから、その十分に学習された第1DNN308の処理結果を基に、第2DNN316を学習し、更に後段のDNNを学習していくことを繰り返すことで、直列に接続された複数のDNNのうち、前段から後段に向けて順番にDNNを学習させていく。この結果、各DNN単位でパラメータを学習しているため、画像の再構成の処理を途中で打ち切った場合であっても、画質が良好な再構成画像を生成することができる。なお、前段のDNNから順番に学習させてくことに代えて、最後段のDNNの出力結果である再構成画像が、間引かないk空間データDkからフーリエ変換によって得られた再構成画像(教師データ)に近づくように、一気通貫で直列接続された全てのDNNのパラメータを学習させてもよい。
【0097】
以上説明した第1の実施形態によれば、k空間データDk(第1データの一例)を取得する取得機能212(取得部の一例)と、取得機能212によって取得されたk空間データDkを基に、第1DNN308および第1エンコーダ310に再構成画像(第2データの一例)を出力させ、第1DNN308および第1エンコーダ310によって出力された再構成画像に対して第1デコーダ312が処理した結果(行列)を基に、第2DNN316および第2エンコーダ318に再構成画像(第3データの一例)を出力させ、第1エンコーダ310に出力させた再構成画像の画質に基づいて、後段の第2DNN316に再構成画像を生成させるか否かを決定する再構成処理機能214(決定部の一例)と、を備えることにより、処理時間を短くしつつ、精度のよい(画質が良好な)医用画像を生成することができる。
【0098】
一般的に、MR画像やCT画像などの医用画像を撮像するために、患者を医用画像撮像装置100の寝台104に拘束しておける時間には制限があり、画質よりも処理時間を優先すべき場合がある。特に、救急医療を必要とする患者などの場合には、速やかに医用画像を生成することが要求される。本実施形態では、処理回路210が、再構成画像の画質の評価結果に基づいて、後段のDNNに再構成画像を生成させるか否かを決定するため、医用現場の状況に合わせながら医用画像の再構成に要する処理演算量を動的に変更して、良好な画質の医用画像を生成することができる。
【0099】
(第1の実施形態の変形例)
以下、第1の実施形態の変形例について説明する。上述した第1の実施形態では、医用画像再構成モデル300に入力するデータを、k空間データDkとしたがこれに限られない。例えば、医用画像再構成モデル300に入力するデータは、k空間データDkの各要素となるデータであってもよいし、k空間データDkをフーリエ変換したハイブリッド空間データであってもよいし、医用画像そのものであってもよい。この場合、ハイブリッド空間データや医用画像は、「第1データ」の他の例となる。k空間データDk単体が医用画像再構成モデル300に入力される場合、変換レイヤ302は、畳み込み層の代わりに、全結合層(Full connected layer)であってよい。
【0100】
また、上述した第1の実施形態では、医用画像再構成モデル300が、複数のDNNが多段に構成されているものとして説明したがこれに限られない。例えば、医用画像再構成モデル300は、多段に接続された複数のDNNによって構成される代わりに、単一のRNNによって構成されてもよい。
【0101】
図9は、医用画像再構成モデル300の他の例を示す図である。図示のように、医用画像再構成モデル300は、例えば、変換レイヤ302と、アクティベーションレイヤ304と、変調レイヤ330と、RNN332と、エンコーダ334と、デコーダ336とを備えてよい。
【0102】
変調レイヤ330は、上述した第1変調レイヤ306や第2変調レイヤ314と同様に、重みを乗算するレイヤやスケーリングを行うレイヤなどによって実現されてよい。
【0103】
RNN332は、所定の周期で処理を繰り返すニューラルネットワークである。例えば。RNN332は、前回の周期で得られた処理結果と、今回の周期で入力されたデータとを基に、再構成画像の元となる、k空間データDkを表す行列を生成する。
【0104】
エンコーダ334は、上述した第1エンコーダ310や第2エンコーダ318と同様に、例えば、畳み込み層によって実現されてよい。例えば、エンコーダ334は、変調レイヤ330からの出力データと、RNN332からの出力データとに基づいて、行と列の数がk空間データDkの行列と同じ行列を生成する。第2エンコーダ318は、生成した行列に対して逆フーリエ変換を行うことで、k空間データDkを用いて再構成した再構成画像を生成し、これを出力する。なお、エンコーダ334は、逆フーリエ変換を行わずに、または逆フーリエ変換を行うと共に、生成した行列をそのまま出力してもよい。
【0105】
デコーダ336は、上述した第1デコーダ312や第2デコーダ320と同様に、例えば、畳み込み層によって実現されてよい。例えば、デコーダ336は、エンコーダ334により再構成画像が出力された場合、その再構成画像に対してフーリエ変換を行うことで、再構成画像から、k空間データDkを表す行列を生成する。また、デコーダ336は、エンコーダ334により再構成画像が出力される代わりにk空間データDkを表す行列が出力された場合、フーリエ変換を行わなくてよい。デコーダ336によって出力された処理結果は、RNN332の次の処理周期における入力データとして扱われる。これによって、第1の実施形態と同様に、処理時間を短くしつつ、精度のよい(画質が良好な)医用画像を生成することができる。
【0106】
また、上述した第1の実施形態では、医用画像撮像装置100と医用情報処理装置200とが互いに異なる装置であるものとして説明したがこれに限られない。例えば、医用情報処理装置200は、医用画像撮像装置100のコンソール装置120の一機能によって実現されてもよい。すなわち、医用情報処理装置200は、医用画像撮像装置100のコンソール装置120によって仮想的に実現される仮想マシンであってもよい。
【0107】
図10は、第1の実施形態に係る医用画像撮像装置100の他の例を示す図である。図10に示すように、コンソール装置120の処理回路130は、上述した取得機能132に加えて、再構成処理機能214と、データ整合評価機能216と、再構成画像評価機能218と、出力制御機能220とを実行してよい。
【0108】
また、コンソール装置120のメモリ150には、医用画像再構成モデル情報232が格納されてよい。
【0109】
このような構成によって、医用画像撮像装置100単体で、処理時間を短くしつつ、精度のよい(画質が良好な)医用画像を生成することができる。
【0110】
(第2の実施形態)
以下、第2の実施形態について説明する。第2の実施形態では、医用画像撮像装置100の撮像スケジュールに基づいて、後段のDNNに再構成画像を生成させる条件を変更する点で上述した第1の実施形態と相違する。以下、第1の実施形態との相違点を中心に説明し、第1の実施形態と共通する点については説明を省略する。なお、第2の実施形態の説明において、第1の実施形態と同じ部分については同一符号を付して説明する。
【0111】
第2の実施形態における処理回路210のデータ整合評価機能216は、例えば、撮像スケジュールに応じて、データの整合性を評価する際の評価条件を変更する。撮像スケジュールとは、検査種別(造影剤の投与の有無など)や撮像する部位に応じて、医用画像を再構成する実行時間が決められた情報である。医用画像を再構成する実行時間は、画像の撮像合間で患者をどれだけ待たせておけるのかということを示す待ち時間を表している。
【0112】
一般的に、造影剤を投与して被検体を撮像する検査では、造影剤を投与せずに被検体を撮像する検査と比べて、より短い時間で再構成画像を生成する必要がある。このような場合には、データの整合性の評価に要する時間を短くすることが望ましい。従って、データ整合評価機能216は、造影剤の投与が決められた撮像時には、データの整合性の評価をしない、或いは、データの整合性の評価を厳しくすることで、再構成画像の画質よりも処理時間を短くすることを優先してよい。
【0113】
また、MRI装置やCT装置において、腹部や胸部といった部位を撮像する場合には、医用画像の画質を向上させるために患者に息を止めてもらう場合がある。この場合、撮像終了後に患者を休憩させるために、次の撮像まで比較的長い間隔が空けられる。従って、データ整合評価機能216は、腹部や胸部といった部位の撮像時には、データの整合性の評価を緩くすることで、画像の再構成に要する処理時間よりも画質を向上させることを優先してよい。
【0114】
図11は、撮像スケジュールの一例を示す図である。図示の例のように、撮像スケジュールにおいて、造影剤の投与がない撮像時には、画像を再構成する実行時間が長めに確保されており、造影剤の投与がある撮像時には、画像を再構成する実行時間が短めに確保されている場合、データ整合評価機能216は、造影剤の投与がない撮像時には評価条件を緩めに設定し、造影剤の投与がある撮像時には評価条件を厳しめに設定してよい。より具体的には、データ整合評価機能216は、造影剤の投与がない撮像時には、x(→)とy(→)との差分が生じたと見做す許容範囲を小さくし、造影剤の投与がある撮像時にはx(→)とy(→)との差分が生じたと見做す許容範囲を大きくしてよい。
【0115】
また、第2の実施形態における処理回路210の再構成処理機能214は、撮像スケジュールに応じて、医用画像再構成モデル300に再構成画像を出力させる上限回数を変更してもよい。例えば、再構成処理機能214は、造影剤の投与がない撮像時には、上限回数を大きくし、造影剤の投与がある撮像時には、上限回数を小さくしてよい。
【0116】
このように再構成画像の生成に係る条件を変更することによって、処理回路210は、造影剤の投与がある撮像時には、造影剤の投与がない撮像時に比して、患者の待ち時間を短くする必要があるため、後段のDNNに再構成画像を生成させにくくする。これによって、より早く再構成画像を読影者に提供することができる。
【0117】
なお、上述した撮像スケジュールはあくまでも一例であり、例えば、造影剤を投与した後、造影剤が被検部位に循環するのを待ってから次の撮像を行うようなスケジュールの場合には、次の撮像までに比較的時間があるため、造影剤の投与前に撮像した画像の再構成画像の画質を向上させるために、処理回路210は、許容範囲を小さくしたり、上限回数を大きくしたりしてもよい。これによって、医用画像の再構成に要する処理演算時間が増加することが許容され、後段のDNNに再構成画像を生成させやすくすることができる。この結果、より高精度な再構成画像を読影者に提供することができる。
【0118】
また、上述した評価条件や画像再構成の上限回数は、医者や読影者などによって適時変更されてもよい。例えば、出力制御機能220は、評価条件や画像再構成の上限回数を変更するための画面をGUIとしてディスプレイ206に表示させたり、通信インターフェース202を介して接続された端末装置の画面に表示させたりする。これによって、GUIを介して評価条件や画像再構成の上限回数が変更された場合、処理回路210は、ディスプレイ206や端末装置が受け付けた評価条件や画像再構成の上限回数の変更操作を示す電気信号をそれらの装置から取得し、取得した電気信号に基づいて、評価条件や画像再構成の上限回数を変更する。
【0119】
以上説明した第2の実施形態によれば、予め決められた撮像スケジュールに従って画像を再構成するため、検査時間を短くすることができ、患者の負担を軽減することができる。一般的に、MRIなどの検査では、MR画像が精度良く撮像できていないときに備えて、全てのMR画像が正常に撮像されていることが目視によって確認されるまで、患者を院内に留まらせておき、一部のMR画像が正常に撮像されていないことが確認されると、その場で再検査を行っている。そのため、再構成に長い時間を要すれば患者を長い間拘束することになり、患者の負担が増加しやすい。これに対して、第2の実施形態では、検査種別(造影剤の投与の有無など)や撮像する部位に応じて、医用画像の再構成の時間を動的に変更するため、次の撮像タイミングまでに再構成の処理を終了して再構成画像を読影者に提供することができ、読影者は、正常に医用画像が得られたか否かを撮像の都度確認することができる。この結果、再構成された医用画像を確認する前に、次の撮像が開始されてしまうことで、一つ或いは二つ以上前の撮像をやり直すといった作業を減らすことができ、患者の負担を軽減することができる。
【0120】
また、上述した第2の実施形態よれば、予め決められた撮像スケジュールに従って画像を再構成するため、医師などの読影者に再構成画像を提供するタイミングのリアルタイム性が向上し、読影者が医用画像を見ながらリアルタイムに診断を下すことができ、次に撮像すべき身体の部位を適切に決定することができる。
【0121】
上記説明した実施形態は、以下のように表現することができる。
プログラムを格納するストレージと、
プロセッサと、を備え、
前記プロセッサは、前記プログラムを実行することにより、
電磁波を被検体に作用させることで生成された第1データを取得し、
第1パラメータ付合成関数として機能して、前記取得した第1データを前記第1パラメータ付合成関数の入力データとして、第2データを出力し、
第2パラメータ付合成関数として機能して、前記出力した第2データを前記第2パラメータ付合成関数の入力データとして、第3データを出力し、
前記出力した前記第2データを前記第2パラメータ付合成関数の入力データとして前記第3データを出力するのか否かを決定する、
ように構成されている、医用情報処理装置。
【0122】
以上説明した少なくともひとつの実施形態によれば、k空間データDkを取得する取得機能212と、取得機能212によって取得されたk空間データDkを基に、第1DNN308および第1エンコーダ310に再構成画像を出力させ、第1DNN308および第1エンコーダ310によって出力された再構成画像に対して第1デコーダ312が処理した結果(行列)を基に、第2DNN316および第2エンコーダ318に再構成画像を出力させ、第1エンコーダ310に出力させた再構成画像の画質に基づいて、後段の第2DNN316に再構成画像を生成させるか否かを決定する再構成処理機能214と、を備えることにより、処理時間を短くしつつ、精度のよい(画質が良好な)医用画像を生成することができる。
【0123】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0124】
1…医用情報処理システム、100…医用画像撮像装置、101…静磁場磁石、102…傾斜磁場コイル、104…寝台、105…寝台制御回路、106…送信コイル、107…送信回路、108…受信コイル、109…受信回路、110…シーケンス制御回路、120…コンソール装置、200…医用情報処理装置、202…通信インターフェース、204…入力インターフェース、206…ディスプレイ、210…処理回路、212…取得機能、214…再構成処理機能、216…データ整合評価機能、218…再構成画像評価機能、220…出力制御機能、230…メモリ、232…医用画像再構成モデル情報、300…医用画像再構成モデル、302…変換レイヤ、304…アクティベーションレイヤ、306…第1変調レイヤ、308…第1DNN、310…第1エンコーダ、312…第1デコーダ、314…第2変調レイヤ、316…第2DNN、318…第2エンコーダ、320…第2デコーダ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11