IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルム株式会社の特許一覧

特開2025-149687画像処理装置、画像処理方法、及び画像処理プログラム
<>
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図1
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図2
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図3
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図4
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図5
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図6
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図7
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図8
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図9
  • 特開-画像処理装置、画像処理方法、及び画像処理プログラム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025149687
(43)【公開日】2025-10-08
(54)【発明の名称】画像処理装置、画像処理方法、及び画像処理プログラム
(51)【国際特許分類】
   A61B 5/055 20060101AFI20251001BHJP
【FI】
A61B5/055 380
A61B5/055 382
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2024050488
(22)【出願日】2024-03-26
(71)【出願人】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】中林 淳
(72)【発明者】
【氏名】岡田 耕
(72)【発明者】
【氏名】伊藤 広貴
(72)【発明者】
【氏名】畝村 毅
【テーマコード(参考)】
4C096
【Fターム(参考)】
4C096AA08
4C096AA10
4C096AB02
4C096AD14
4C096AD27
4C096DC22
4C096DC32
4C096DC33
4C096DC36
(57)【要約】
【課題】生体の構造物内における流体の流れを良好な精度で解析できる画像処理装置、画像処理方法、及び画像処理プログラムを得る。
【解決手段】画像処理装置10は、少なくとも1つのプロセッサを備え、プロセッサは、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、流速画像よりも高解像度の流速推定画像、及び構造物の形態を表す形態画像を生成するための学習モデルであって、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、流速画像から流速推定画像及び形態画像を生成する。
【選択図】図3
【特許請求の範囲】
【請求項1】
少なくとも1つのプロセッサを備え、
前記プロセッサは、
生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、前記流速画像よりも高解像度の流速推定画像、及び前記構造物の形態を表す形態画像を生成するための学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、前記流速画像から前記流速推定画像及び前記形態画像を生成する
画像処理装置。
【請求項2】
前記流体の物理法則に関する情報は、前記流体の運動を記述する支配方程式としての微分方程式である
請求項1に記載の画像処理装置。
【請求項3】
前記微分方程式は、ナビエ-ストークス方程式である
請求項2に記載の画像処理装置。
【請求項4】
前記損失関数は、前記学習モデルの学習における反復回数に応じて変化する
請求項1に記載の画像処理装置。
【請求項5】
前記学習モデルは、
前記流速画像と前記流速推定画像との誤差を表す第1損失関数と、
前記流速推定画像の、前記流体の運動を記述する支配方程式に対する適合度を表す第2損失関数と、
に基づいて学習される請求項1に記載の画像処理装置。
【請求項6】
前記学習モデルは、前記第1損失関数と、前記第2損失関数との重み付き和によって学習され、
前記重み付き和における前記第1損失関数及び前記第2損失関数のそれぞれの重みは、学習における反復回数に応じて変化する
請求項5に記載の画像処理装置。
【請求項7】
前記反復回数が増えるほど、前記第2損失関数の影響が大きくなるように、前記第1損失関数の重み及び前記第2損失関数の重みの少なくとも一方が変化する
請求項6に記載の画像処理装置。
【請求項8】
前記学習モデルは、
前記第1損失関数と、
前記第2損失関数と、
前記形態画像によって表される前記構造物の壁面位置に対応する前記流速推定画像の、前記流体の運動を記述する支配方程式における境界条件に対する適合度を表す第3損失関数と、
に基づいて学習される請求項5に記載の画像処理装置。
【請求項9】
前記学習モデルは、前記第1損失関数と、前記第2損失関数と、前記第3損失関数との重み付き和によって学習され、
前記重み付き和における前記第1損失関数、前記第2損失関数、及び前記第3損失関数のそれぞれの重みは、学習における反復回数に応じて変化する
請求項8に記載の画像処理装置。
【請求項10】
前記反復回数が増えるほど、前記第2損失関数及び前記第3損失関数の少なくとも一方の影響が大きくなるように、前記第1損失関数の重み、前記第2損失関数の重み、及び前記第3損失関数の重みのうち少なくとも1つが変化する
請求項9に記載の画像処理装置。
【請求項11】
前記学習モデルは、
前記流速画像から、前記流速推定画像を生成するための第1学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された第1学習モデルと、
前記流速画像及び前記流速推定画像の少なくとも一方から、前記形態画像を生成するための第2学習モデルと、
を含む請求項1に記載の画像処理装置。
【請求項12】
前記構造物は、血管であり、
前記流体は、血液である
請求項1に記載の画像処理装置。
【請求項13】
前記血管は、脳動脈、頸動脈、冠動脈、胸部大動脈、及び腹部大動脈のうち少なくとも1つである
請求項12に記載の画像処理装置。
【請求項14】
前記流速画像は、3次元シネ位相コントラスト磁気共鳴法によって前記血管を撮影することにより取得された3次元の画像である
請求項12に記載の画像処理装置。
【請求項15】
前記プロセッサは、
前記流速推定画像及び前記形態画像に基づいて、前記形態画像における領域ごとに、壁面せん断応力を導出する
請求項12に記載の画像処理装置。
【請求項16】
前記プロセッサは、
前記形態画像における領域ごとの前記壁面せん断応力の大小を可視化した画像を生成する
請求項15に記載の画像処理装置。
【請求項17】
前記プロセッサは、
前記学習モデルを用いて、前記流速画像から、前記構造物内における流体の圧力の分布を表す圧力画像を更に生成し、
前記圧力画像及び前記形態画像に基づいて、前記形態画像における領域ごとに、冠血流予備比を導出する
請求項12に記載の画像処理装置。
【請求項18】
前記プロセッサは、
前記形態画像における領域ごとの前記冠血流予備比の大小を可視化した画像を生成する
請求項17に記載の画像処理装置。
【請求項19】
生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、前記流速画像よりも高解像度の流速推定画像、及び前記構造物の形態を表す形態画像を生成するための学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、前記流速画像から前記流速推定画像及び前記形態画像を生成する
処理をコンピュータが実行する画像処理方法。
【請求項20】
生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、前記流速画像よりも高解像度の流速推定画像、及び前記構造物の形態を表す形態画像を生成するための学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、前記流速画像から前記流速推定画像及び前記形態画像を生成する
処理をコンピュータが実行するための画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、画像処理方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
従来、医用画像を用いて、生体の構造物内における流体の流れを解析することが行われている。流体の流れの解析結果は、流体の流れの可視化、並びに、診断及び治療のための指標の定量化等に活用される。
【0003】
例えば、血流の解析において、実際の血流を4次元的に測定する4次元(4D)フローの手法が用いられている。4Dフローでは、一般的に、3次元シネ位相コントラスト磁気共鳴法(PC-MRI:Phase Contrast-Magnetic Resonance Imaging)によって血管を複数の時相(フェーズ)に亘って撮影することにより取得された、3次元のPC-MRI画像が用いられる。4Dフローは、3次元のPC-MRI画像から、血管の領域ごとの血流の速度を表す流速ベクトルを導出し、これを時間の流れと合わせて動的に表示する手法である。
【0004】
また、4Dフローにおいては、例えば磁気共鳴血管造影法(MRA:Magnetic Resonance Angiography)によって、血管の構造を特定するための画像が、PC-MRI画像とは別に撮影される場合がある。これは、解像度の制約上、PC-MRI画像のみでは細い血管(例えば脳動脈及び冠動脈等)の構造を特定することが困難なためである。この場合、PC-MRI画像とMRA画像との位置合わせが必要となる。血流と血管の構造とが空間的及び時間的に整合すれば、血流が血管壁に与える摩擦刺激を示す壁面せん断応力(WSS:Wall Shear Stress)等の指標の定量化も可能となる。
【0005】
また例えば、特許文献1には、2D物理データから3D物理データに変換するためのモデルであって、物理法則に従ったモデルを用いて、測定された2D物理量データから3D物理量データを決定する医用情報処理装置が記載されている。2D物理データとしては、PC-MRIにより得られる2次元の血流の速度が開示されている。3D物理データとしては、3次元の血流の速度及び圧力場が開示されている。
【0006】
また例えば、非特許文献1には、物理法則の支配方程式を学習したニューラルネットワーク(PINNs:Physics Informed Neural Networks)を用いて、血流のシミュレーションを行うことが開示されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2022-123809号公報
【非特許文献】
【0008】
【非特許文献1】Maziar Raissi et al. , "Hidden fluid mechanics: Learning velocity and pressure fields from flow visualizations", Science 367, 1026-1030, January 2020
【発明の概要】
【発明が解決しようとする課題】
【0009】
近年、生体の構造物内における流体の流れの解析について、解析結果の精度への要求が高まっている。しかしながら、従来の技術では、解析結果の精度が十分ではない場合があった。例えば、血流の解析において、MRA画像等の血管の構造を特定するための画像撮影を行わない場合は、血管の構造を精度よく特定することができないので、WSS等の指標の定量精度が十分ではなかった。また例えば、MRA画像を追加で撮影した場合は、PC-MRI画像とMRA画像とを位置合わせする際に生じる位置ずれによって、解析結果の精度が低下することがあった。
【0010】
本開示は、生体の構造物内における流体の流れを良好な精度で解析できる画像処理装置、画像処理方法、及び画像処理プログラムを提供する。
【課題を解決するための手段】
【0011】
本開示の第1の態様は、画像処理装置であって、少なくとも1つのプロセッサを備え、プロセッサは、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、流速画像よりも高解像度の流速推定画像、及び構造物の形態を表す形態画像を生成するための学習モデルであって、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、流速画像から流速推定画像及び形態画像を生成する。
画像処理装置。
【0012】
上記態様において、流体の物理法則に関する情報は、流体の運動を記述する支配方程式としての微分方程式であってもよい。
【0013】
上記態様において、微分方程式は、ナビエ-ストークス方程式であってもよい。
【0014】
上記態様において、損失関数は、学習モデルの学習における反復回数に応じて変化してもよい。
【0015】
上記態様において、学習モデルは、流速画像と流速推定画像との誤差を表す第1損失関数と、流速推定画像の、流体の運動を記述する支配方程式に対する適合度を表す第2損失関数と、に基づいて学習されてもよい。
【0016】
上記態様において、学習モデルは、第1損失関数と、第2損失関数との重み付き和によって学習され、重み付き和における第1損失関数及び第2損失関数のそれぞれの重みは、学習における反復回数に応じて変化してもよい。
【0017】
上記態様において、反復回数が増えるほど、第2損失関数の影響が大きくなるように、第1損失関数の重み及び第2損失関数の重みの少なくとも一方が変化してもよい。
【0018】
上記態様において、学習モデルは、第1損失関数と、第2損失関数と、形態画像によって表される構造物の壁面位置に対応する流速推定画像の、流体の運動を記述する支配方程式における境界条件に対する適合度を表す第3損失関数と、に基づいて学習されてもよい。
【0019】
上記態様において、学習モデルは、第1損失関数と、第2損失関数と、第3損失関数との重み付き和によって学習され、重み付き和における第1損失関数、第2損失関数、及び第3損失関数のそれぞれの重みは、学習における反復回数に応じて変化してもよい。
【0020】
上記態様において、反復回数が増えるほど、第2損失関数及び第3損失関数の少なくとも一方の影響が大きくなるように、第1損失関数の重み、第2損失関数の重み、及び第3損失関数の重みのうち少なくとも1つが変化してもよい。
【0021】
上記態様において、学習モデルは、流速画像から、流速推定画像を生成するための第1学習モデルであって、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数に基づいて学習された第1学習モデルと、流速画像及び流速推定画像の少なくとも一方から、形態画像を生成するための第2学習モデルと、を含んでもよい。
【0022】
上記態様において、構造物は、血管であり、流体は、血液であってもよい。
【0023】
上記態様において、血管は、脳動脈、頸動脈、冠動脈、胸部大動脈、及び腹部大動脈のうち少なくとも1つであってもよい。
【0024】
上記態様において、流速画像は、3次元シネ位相コントラスト磁気共鳴法によって血管を撮影することにより取得された3次元の画像であってもよい。
【0025】
上記態様において、プロセッサは、流速推定画像及び形態画像に基づいて、形態画像における領域ごとに、壁面せん断応力を導出してもよい。
【0026】
上記態様において、プロセッサは、形態画像における領域ごとの壁面せん断応力の大小を可視化した画像を生成してもよい。
【0027】
上記態様において、プロセッサは、学習モデルを用いて、流速画像から、構造物内における流体の圧力の分布を表す圧力画像を更に生成し、圧力画像及び形態画像に基づいて、形態画像における領域ごとに、冠血流予備比を導出してもよい。
【0028】
上記態様において、プロセッサは、形態画像における領域ごとの冠血流予備比の大小を可視化した画像を生成してもよい。
【0029】
本開示の第2の態様は、画像処理方法であって、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、流速画像よりも高解像度の流速推定画像、及び構造物の形態を表す形態画像を生成するための学習モデルであって、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、流速画像から流速推定画像及び形態画像を生成する処理をコンピュータが実行するものである。
【0030】
本開示の第3の態様は、画像処理プログラムであって、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、流速画像よりも高解像度の流速推定画像、及び構造物の形態を表す形態画像を生成するための学習モデルであって、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、流速画像から流速推定画像及び形態画像を生成する処理をコンピュータが実行するためのものである。
【発明の効果】
【0031】
上記態様によれば、本開示の画像処理装置、画像処理方法、及び画像処理プログラムは、生体の構造物内における流体の流れを良好な精度で解析できる。
【図面の簡単な説明】
【0032】
図1】解析システムの概略構成図である。
図2】画像処理装置のハードウェア構成の一例を示すブロック図である。
図3】画像処理装置の機能的な構成の一例を示すブロック図である。
図4】PC-MRIによって撮影された3次元画像の一例を示す図である。
図5】解析モデルの概略構成の一例を示す図である。
図6】解析モデルの詳細な構成の一例を示す図である。
図7】ディスプレイに表示される画面の一例を示す図である。
図8】画像処理の一例を示すフローチャートである。
図9】ウィンドケッセルモデルの適用例を説明するための図である。
図10】比較例における流体画像及び形態画像の一例を示す図である。
【発明を実施するための形態】
【0033】
以下、開示の技術の実施形態の一例を、図面を参照しつつ説明する。なお、各図面において同一又は等価な構成要素及び部分には同一の参照符号を付与し、重複する説明は省略する。また、図面の寸法比率は、説明の都合上誇張されており、実際の比率とは異なる場合がある。
【0034】
まず、図1を参照して、本実施形態に係る解析システム1の構成の一例について説明する。本実施形態に係る解析システム1は、生体の構造物内における流体の流れを解析するためのシステムである。以下、一例として、構造物が血管であり、流体が血液である例について説明する。血管とは、例えば、脳動脈、頸動脈、冠動脈、胸部大動脈、及び腹部大動脈のうち少なくとも1つであってもよい。
【0035】
解析システム1は、画像処理装置10と、撮影装置3と、画像サーバ5と、画像DB(DataBase)6と、を含む。画像処理装置10、撮影装置3、及び画像サーバ5は、有線又は無線のネットワーク9により互いに通信可能な状態で接続されている。ネットワーク9は、例えば、LAN(Local Area Network)及びWAN(Wide Area Network)等のネットワークである。
【0036】
撮影装置3は、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像を生成するための装置(モダリティ)である。撮影装置3の一例としては、3次元シネ位相コントラスト磁気共鳴法(PC-MRI:Phase Contrast-Magnetic Resonance Imaging)によって血管を複数の時相(フェーズ)に亘って撮影する、MRI装置が挙げられる。撮影装置3により生成された流速画像は、画像サーバ5に送信される。
【0037】
画像サーバ5は、汎用のコンピュータにデータベース管理システムの機能を提供するソフトウェアプログラムがインストールされたものである。画像サーバ5は、画像DB6と接続される。画像サーバ5は、撮影装置3からの流速画像の登録要求を受信すると、その流速画像をデータベース用のフォーマットに整えて画像DB6に登録する。また、画像サーバ5は、画像処理装置10からの閲覧要求を受信すると、画像DB6に登録されている流速画像を検索し、検索された流速画像を画像処理装置10に送信する。
【0038】
画像DB6は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)及びフラッシュメモリ等の記憶媒体によって実現される。画像DB6には、撮影装置3において取得された流速画像と、流速画像に関するメタデータと、が対応付けられて登録される。なお、画像サーバ5と画像DB6との接続形態は特に限定されず、データバスによって接続される形態でもよいし、NAS(Network Attached Storage)及びSAN(Storage Area Network)等のネットワークを介して接続される形態でもよい。
【0039】
メタデータには、例えば、流速画像を識別するための画像ID(identification)、被検体を識別するための被検体ID、及び検査を識別するための検査ID等の識別情報が含まれてもよい。また例えば、メタデータには、被検体の名前、生年月日、年齢及び性別等の被検体に関する情報が含まれていてもよい。
【0040】
また例えば、メタデータには、流速画像の撮影に関する撮影方法、撮影条件、撮影目的及び撮影日時等の撮影に関する情報が含まれていてもよい。「撮影方法」及び「撮影条件」とは、例えば、撮影装置3の種類、製造会社、撮影部位、撮影プロトコル、撮影シーケンス、撮像手法、造影剤の使用有無、及び解像度等である。メタデータは、例えば、放射線情報システム(RIS:Radiology Information System)、及び病院情報システム(HIS:Hospital Information System)等の公知の外部の情報システムから取得されたものであってもよい。
【0041】
なお、解析システム1に含まれる各装置は、それぞれ同一の施設(例えば病院)に配置されていてもよいし、異なる施設に配置されていてもよい。また、解析システム1に含まれる各装置の台数は特に限定されず、各装置は、それぞれ同様の機能を有する複数台の装置で構成されていてもよい。
【0042】
画像処理装置10は、撮影装置3により取得された流速画像に基づき、より良好な精度で流体の流れを解析するための装置である。以下、本実施形態に係る画像処理装置10の構成の一例について説明する。
【0043】
まず、図2を参照して、画像処理装置10のハードウェア構成の一例を説明する。画像処理装置10は、CPU(Central Processing Unit)21、不揮発性の記憶部22、及び一時記憶領域としてのメモリ23を含む。また、画像処理装置10は、ディスプレイ24、入力部25、及びネットワークI/F(Interface)26を含む。CPU21、記憶部22、メモリ23、ディスプレイ24、入力部25及びネットワークI/F26は、システムバス及びコントロールバス等のバス28を介して相互に各種情報の授受が可能に接続されている。
【0044】
記憶部22は、例えば、HDD、SSD及びフラッシュメモリ等の記憶媒体によって実現される。記憶部22には、画像処理装置10における画像処理プログラム27が記憶される。CPU21は、記憶部22から画像処理プログラム27を読み出してからメモリ23に展開し、展開した画像処理プログラム27を実行する。CPU21が本開示のプロセッサの一例である。また、記憶部22には、流体の流れを解析するため解析モデルMが格納される(詳細は後述)。
【0045】
ディスプレイ24は、例えば液晶ディスプレイであり、各種の情報を表示する。入力部25は、マウス等のポインティングデバイス、及びキーボード等を含み、自装置に対して各種の入力を行うために使用される。なお、ディスプレイ24をタッチパネルによって構成し、入力部25と兼用してもよい。
【0046】
ネットワークI/F26は、ネットワーク9を介して、撮影装置3及び画像サーバ5等の外部装置と通信するためのインタフェースである。当該通信には、例えば、イーサネット(登録商標)若しくはFDDI(Fiber Distributed Data Interface)等の有線通信の規格、又は、4G、5G、若しくはWi-Fi(登録商標)等の無線通信の規格が用いられる。画像処理装置10としては、例えば、パーソナルコンピュータ、サーバコンピュータ、スマートフォン、タブレット端末及びウェアラブル端末等を適宜適用できる。
【0047】
次に、図3を参照して、画像処理装置10の機能的な構成の一例について説明する。画像処理装置10は、取得部30、生成部32、導出部34、及び表示制御部36を含む。CPU21が画像処理プログラム27を実行することにより、CPU21が取得部30、生成部32、導出部34、及び表示制御部36の各機能部として機能する。
【0048】
取得部30は、撮影装置3及び/又は画像サーバ5から、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像を取得する。流速画像は、例えば、PC-MRIによって血管を複数の時相(フェーズ)に亘って撮影することにより取得された3次元の画像である(以下、PC-MRI画像と称する)。
【0049】
図4に、PC-MRI画像G0の一例を示す。PC-MRI画像G0は、マグニチュードデータGM、X軸方向の位相データGx、Y軸方向の位相データGy、及びZ軸方向の位相データGzを含む。マグニチュードデータGM及び位相データGx、Gy、Gzは、それぞれ時間軸tに沿って予め定められた周期で取得されたボリュームデータである。
【0050】
位相データGx、Gy、Gzは、それぞれ、PC-MRIによる測定結果をX軸方向、Y軸方向、及びZ軸方向にエンコード(VENC:Velocity Encoding)することにより得られる。位相データGx、Gy、Gzは、各軸方向の血流の速度(流速)を表すデータであり、3つの位相データから各ボクセルの3次元の流速ベクトルが得られる。
【0051】
ボリュームデータを取得する周期としては、例えば、平均的な心拍間隔内で設定された周期が採用される。血流は、心拍に同期して周期的な変動を示すので、心拍間隔を基準にデータ取得タイミングを決定することで、血流の周期的な変動を示すデータを取得できる。
【0052】
生成部32は、解析モデルMを用いて、流速画像から、当該流速画像よりも高解像度の流速推定画像、及び、構造物の形態を表す形態画像を生成する。図5に示すように、解析モデルMは、流速画像から、流速推定画像及び形態画像を生成するための学習モデルである。高解像度とは、空間分解能が高いことを意味する。すなわち、流速推定画像は、流速画像に含まれる3次元の流速ベクトルよりも高い空間分解能の3次元の流速ベクトルを含んで構成される。
【0053】
なお、図5では分かりやすいように、流速画像を、流速画像に含まれる流速ベクトルの空間的な分布を可視化した流速可視化画像50として示している。同様に、流速推定画像を、流速推定画像に含まれる流速ベクトルの空間的な分布を可視化した流速可視化画像52として示している。流速可視化画像50、52では、流速ベクトルの方向を矢印の傾きと矢尻で示し、流速ベクトルの速さを矢印の長さで示している。また、流速可視化画像50、52において、空間分解能を点線のグリッドで示している。
【0054】
また、解析モデルMは、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数Lに基づいて学習される。流体の物理法則に関する情報とは、例えば、流体の運動を記述する支配方程式としての微分方程式である。具体的には、解析モデルMは、ある物理現象の支配方程式の解をニューラルネットワーク(以下、NNと称する)で構成する、PINNs(Physics Informed Neural Networks)と呼ばれるモデルである。
【0055】
図6に、解析モデルM(PINNs)の詳細な構成の一例を示す。解析モデルMは、入力(流速画像)及びパラメータθに基づき支配方程式の解を求めるNNで構成された前半部分M1と、損失関数Lに基づきパラメータθを最適化するための計算を行う後半部分M2と、を含む。解析モデルMは、本開示の学習モデルの一例である。
【0056】
以下、粘性率が一定で非圧縮流体のナビエ-ストークス方程式(以下、NS方程式と称する)を解析モデルMに適用する例について説明する。NS方程式は、血流の運動を記述する支配方程式としての微分方程式の一例であり、下記式(1)で表される。
【0057】
【数1】
【0058】
Uは、流速であり、3次元空間座標(x、y、z)及び時間(t)の関数である。pは、圧力であり、3次元空間座標(x、y、z)及び時間(t)の関数である。νは、流体(ここでは血液)の動粘性係数であり、定数である。
【0059】
なお、NS方程式を演算子ナブラ及びラプラシアンを使わずに、X軸方向、Y軸方向、及びZ軸方向ごとに表記すると、下記式(1x)、(1y)、及び(1z)となる。
【0060】
【数2】

【数3】

【数4】
【0061】
uは、流速のX軸方向の成分であり、3次元空間座標(x、y、z)及び時間(t)の関数である。vは、流速のY軸方向の成分であり、3次元空間座標(x、y、z)及び時間(t)の関数である。wは、流速のZ軸方向の成分であり、3次元空間座標(x、y、z)及び時間(t)の関数である。
【0062】
図6に示すように、解析モデルMの前半部分M1は、入力層IL、隠れ層(中間層)HL、及び出力層OLを含んで構成されるNNである。NNの入力は、流速Uの各変数(x、y、z、t)である。NNの出力は、流速の各軸方向の成分u(x、y、z、t)、v(x、y、z、t)、w(x、y、z、t)、及び圧力p(x、y、z、t)である。このNNは、NNが有する万能近似定理を利用することによって、入力に基づき支配方程式の解を近似的に生成する。なお、このNNとしては、例えば、畳み込みNN(CNN:Convolutional Neural Network)及び再帰型NN(Recurrent Neural Network)等の各種モデルを適宜適用できる。
【0063】
解析モデルMの前半部分M1(NN)において解の生成に用いられるパラメータθは、解析モデルMの後半部分M2で導出される損失関数Lに基づき最適化される。支配方程式として式(1)を適用した場合の損失関数Lの一例を、下記式(2)~(4)に示す。
L=L1+L2 (2)
【0064】
【数5】

【数6】
【0065】
U0は、流速Uの実測値(PC-MRI画像G0に基づき導出される流速)である。U1は、前半部分M1(NN)の出力に基づき導出される流速Uの予測値である。具体的には、予測値U1(x、y、z、t)は、実測値U0(x、y、z、t)をNNに入力した場合の出力であるu(x、y、z、t)、v(x、y、z、t)、w(x、y、z、t)、及びp(x、y、z、t)から導出される。iは1~N1の整数であり、N1は流速の実測値U0のデータ数である。jは1~N2の整数であり、N2は流速の予測値U1のデータ数である。
【0066】
L1は、流速の実測値U0と流速の予測値U1との誤差を示す第1損失関数である。すなわち、第1損失関数L1は、流速画像(流速の実測値U0)と流速推定画像(流速の予測値U1)との誤差を表すものといえる。なお、式(3)では二乗平均平方根誤差(RMSE:Root Mean Squared Error)を用いているが、これに限らず、2つの数値間の誤差を表す式を適宜適用してもよい。このような式としては、例えば、二乗和誤差(SSE:Sum of Squared Error)、二乗和平方根(RSS:Root Sum Squares)、平均二乗誤差(MSE:Mean Squared Error)、及び平均絶対誤差(MAE:Mean Absolute Error)等が挙げられる。
【0067】
L2は、流速の予測値U1の、NS方程式に対する適合度を表す第2損失関数である。すなわち、第2損失関数L2は、流速推定画像(流速の予測値U1)の、流体の運動を記述する支配方程式に対する適合度を表すものといえる。なお、第2損失関数L2の計算で用いる動粘性係数νの値は、パラメータとして解析モデルMに与えられるが、文献値等を適宜設定してもよいし、解析モデルMの学習フェーズで推定したものを用いてもよい(詳細は後述)。
【0068】
図6に示すように、解析モデルMの後半部分M2では、解析モデルMの前半部分M1の出力u、v、w、及びpのそれぞれについて微分計算を行っている。ここで、NNは、アルゴリズムで関数を定義するので、入力に対する出力の解析微分を容易に得られるという性質を有する(いわゆる自動微分)。この性質を利用することによって、解析モデルMの後半部分M2では、解析モデルMの前半部分M1(NN)の出力u、v、w、及びpのそれぞれを容易にかつ精度よく微分できる。したがって、解析モデルMにおいては、第2損失関数L2を容易にかつ精度よく計算できる。
【0069】
解析モデルMによれば、独立変数(x、y、z、t)の任意の値に対して、出力u(x、y、z、t)、v(x、y、z、t)、w(x、y、z、t)、及びp(x、y、z、t)が得られる。生成部32は、入力する流速画像よりも空間的及び時間的に高分解能のΔx、Δy、Δz、及びΔtを設定し、ある基準点x0、y0、z0、及びt0に対して、解析モデルMを用いて下記u、v、w、及びpを得ることで、元の流速画像よりも高解像度の流速推定画像を生成する。
【0070】
u(x0+i×Δx、y0+j×Δy、z0+k×Δz、t0+l×Δt)
v(x0+i×Δx、y0+j×Δy、z0+k×Δz、t0+l×Δt)
w(x0+i×Δx、y0+j×Δy、z0+k×Δz、t0+l×Δt)
p(x0+i×Δx、y0+j×Δy、z0+k×Δz、t0+l×Δt)
ここで、i、j、k、及びlは整数である。
【0071】
また、生成部32は、形態画像54を生成する。例えば、生成部32は、流速推定画像において流速の予測値U1が0となる領域の輪郭を抽出することによって、当該輪郭を示す形態画像を生成してもよい。これは、血管壁において、流速が0となることを利用したものである。
【0072】
また例えば、生成部32は、流速画像及び流速推定画像の少なくとも一方から、形態画像54を生成するための形態画像生成モデルを用いて、流速画像及び流速推定画像の少なくとも一方から形態画像54を生成してもよい。形態画像生成モデルは、例えば、流速画像及び流速推定画像の少なくとも一方と、形態画像との組合せを学習データとして予め学習されたNNである。
【0073】
形態画像生成モデルを用いる場合は、上記PINNsで構築された解析モデルMに、形態画像生成モデルを組み込むこととなる。すなわち、解析モデルMは、流速画像から、流速推定画像を生成するためのPINNsモデルと、流速画像及び流速推定画像の少なくとも一方から、形態画像54を生成するための形態画像生成モデルと、を含むものであってもよい。ここでいうPINNsモデルが、本開示の第1学習モデルの一例であり、形態画像生成モデルが、本開示の第2学習モデルの一例である。
【0074】
また、生成部32は、解析モデルMを用いて、流速画像から、構造物内における流体の圧力の分布を表す圧力画像を更に生成してもよい。上述したように、解析モデルMによれば、圧力p(x、y、z、t)についても、空間的及び時間的に高い分解能でその分布を得ることができるので、圧力画像の生成が可能である。
【0075】
また、生成部32は、流速画像から、流速画像に含まれる流速ベクトルを可視化した流速可視化画像50を生成してもよい。同様に、生成部32は、流速推定画像から、流速推定画像に含まれる流速ベクトルを可視化した流速可視化画像52を生成してもよい(図5参照)。
【0076】
なお、流速ベクトルの可視化の手段は図5の例に限らず、例えば、流速ベクトルの速さを矢印の太さ、線種(実線、点線、及び二点鎖線等)、色、又は透明度等で示すものであってもよい。また例えば、矢印に代えて、三角形状などの多角形状のマークを用いてもよいし、直線の一端に丸印等が付されたマークを用いてもよい。また、図5では、流速画像及び流速推定画像における3次元の流速ベクトルを、ある2次元平面に投影することによって、2次元の流速可視化画像50、52としているが、これに限らず、3次元の流速可視化画像としてもよい。
【0077】
導出部34は、流速画像、流速推定画像、形態画像、圧力画像及び流速可視化画像のうち少なくとも1つに基づいて、流体の流れを診断及び治療に活用するための各種指標を導出してもよい。また、導出部34は、導出した指標の大小を可視化した画像(以下、指標可視化画像と称する)を生成してもよい。指標可視化画像としては、例えば、形態画像における領域を、領域ごとの指標の大小に応じて色分けしたヒートマップが挙げられる(図7参照)。
【0078】
例えば、導出部34は、流速推定画像及び形態画像に基づいて、形態画像における領域ごとに、壁面せん断応力(WSS:Wall Shear Stress)を導出してもよい。WSSは、血流が血管壁に与える摩擦刺激を示す。WSSを定量化することによって、アテローム性動脈硬化及び動脈瘤等の血管疾患の発生及び進行(破裂)の状況を解析できる可能性がある。アテローム性動脈硬化は、冠動脈、腹部大動脈、及び頸動脈で好発であり、血管狭窄に寄与する。動脈瘤は、脳動脈、腹部大動脈、及び胸部大動脈等で発生し得る。
【0079】
WSSは、血管壁に平行な方向をX軸方向とし、血管壁に垂直な方向をY軸方向とした場合、流速UのX軸方向の成分uのY軸方向の速度勾配で定量化できる。この場合のWSSの量をτとした場合、τは下記式(5)で表される。
【0080】
【数7】
【0081】
は、y軸方向における血管壁の位置であり、形態画像から特定できる。μは、流体(ここでは血液)の粘性係数である。なお、流体の動粘性係数をνとし、密度をρとすると、μ=ρνの関係が成り立つ。したがって、上記解析モデルMで用いたνの値と、ρの文献値(例えば1.056kg/m)からμが求まる。導出部34は、流速推定画像及び形態画像から、式(5)に代入する各数値を特定することによって、血管壁上の任意の位置(y)におけるWSSの量τを導出する。
【0082】
また、導出部34は、形態画像における領域ごとのWSSの大小を可視化した指標可視化画像を生成してもよい。例えば、導出部34は、WSSの大小に応じて色分けしたヒートマップを生成してもよい(図7参照)。
【0083】
また例えば、導出部34は、圧力画像及び形態画像に基づいて、形態画像における領域ごとに、冠血流予備比(FFR:Fractional Flow Reserve)を導出してもよい。FFRは、冠動脈の狭窄病変の重症度の指標であり、冠血行再建術を行う目安として用いられる。FFRは、狭窄部位の前後における血圧の比で定量化できる。例えば、狭窄部位の手前の血圧をPaとし、狭窄部位より先の血圧をPdとした場合、FFRは下記式(6)で表される。
FFR=Pd/Pa (6)
【0084】
また、導出部34は、形態画像における領域ごとのFFRの大小を可視化した指標可視化画像を生成してもよい。例えば、導出部34は、FFRの大小に応じて色分けしたヒートマップを生成してもよい(図7参照)。具体的には、例えば狭窄部位の手前の任意の点を仮想の基準点とし、当該基準点における血圧をPaとし、血圧Paに対する血圧の比を、血管内の領域ごとに導出してもよい。
【0085】
表示制御部36は、流速画像、流速推定画像、形態画像、圧力画像、流速可視化画像、及び指標可視化画像のうち少なくとも1つを、ディスプレイ24に表示させるよう制御する。図7に、表示制御部36によってディスプレイ24に表示される画面Dの一例を示す。一例として、画面Dは、流速画像の流速可視化画像50を含む。また、画面Dは、流速推定画像の流速可視化画像52と形態画像54とが空間的及び時間的に整合するように重ね合わせた合成画像53を含む。
【0086】
また、画面Dは、形態画像54における領域ごとのWSSの指標可視化画像56を含む。また、画面Dは、形態画像54における領域ごとのFFRの指標可視化画像58を含む。指標可視化画像56、58は、それぞれ、WSS及びFFRの大小に応じて、形態画像54に含まれる血管の領域を色分けしたヒートマップである。
【0087】
次に、図8を参照して、画像処理装置10の作用を説明する。画像処理装置10において、CPU21が画像処理プログラム27を実行することによって、図8に示す画像処理が実行される。本処理は、例えば、ユーザにより入力部25を介して実行開始の指示があった場合に実行される。
【0088】
ステップS10で、取得部30は、流速画像を取得する。ステップS12で、生成部32は、解析モデルMを用いて、ステップS12で取得された流速画像から、流速推定画像及び形態画像を生成する。ステップS14で、導出部34は、ステップS12で生成された流速推定画像及び形態画像に基づいて、形態画像における領域ごとに、WSS及びFFR等の各種指標を導出する。ステップS16で、導出部34は、ステップS12で生成された形態画像における領域ごとに、ステップS14で導出した指標の大小を可視化した指標可視化画像を生成する。
【0089】
ステップS18で、表示制御部36は、ステップS12で生成された流速推定画像及び形態画像、並びに、ステップS16で生成された指標可視化画像のうち少なくとも1つをディスプレイ24に表示させるよう制御する。なお、表示制御部36は、図7に示すように、流速推定画像を流速可視化画像52として表示してもよいし、流速推定画像(又は流速可視化画像52)と形態画像54とを重ね合わせて表示してもよい。ステップS18が完了すると、本処理を終了する。
【0090】
以上説明したように、本実施形態に係る画像処理装置10は、少なくとも1つのプロセッサを備え、プロセッサは、生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、流速画像よりも高解像度の流速推定画像、及び構造物の形態を表す形態画像を生成するための学習モデルであって、流体の物理法則に関する情報と流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、流速画像から流速推定画像及び形態画像を生成する。
【0091】
画像処理装置10によれば、流体の物理法則に関する情報を用いた損失関数Lに基づいて学習された解析モデルM(PINNs)を用いることによって、低解像度の流速画像に基づいて、高解像度の流速推定画像と、形態画像とを生成できる。すなわち、低解像度の流速画像からでも、空間的により精細な速度ベクトルと、構造物の形態と、を特定できる。したがって、生体の構造物内における流体の流れを良好な精度で解析でき、WSS及びFFR等の指標の定量精度の向上に寄与できる。
【0092】
[比較例]
従来から用いられる血流解析の手法として、PC-MRIによる流速画像とは別に、例えば磁気共鳴血管造影法(MRA:Magnetic Resonance Angiography)によって、形態画像を撮影する手法がある。これは、PC-MRI画像では流速ベクトルが離散的であり、解像度の制約があるので、MRA画像によって細い血管(例えば脳動脈及び冠動脈等)の構造を特定することを目的としたものである。この手法では、血流と血管の構造とを空間的に整合させるために、PC-MRI画像とMRA画像との位置合わせが必要となる。
【0093】
図10に、流速画像(PC-MRI画像)の流速可視化画像50と、MRAにより得られる形態画像54Aと、それらの合成画像53Aとの一例を示す。図10に示すように、別撮りの画像間を位置合わせする従来の手法では、空間的に位置ずれが生じてしまう場合があった。特にWSSの導出(式(5)参照)では、血管壁の位置(y)近傍における流速ベクトルの特定が重要となるため、位置ずれによりWSSの定量精度が低下する場合があった。
【0094】
上記の従来手法に対し、本実施形態に係る画像処理装置10では、流速推定画像と形態画像の生成元が同一の流速画像なので、流速推定画像(又は流速画像)と形態画像との位置合わせは不要である。したがって、位置ずれに起因する解析結果の精度の低下を回避できる。また、形態画像の撮影が不要なので、時間及びコストを削減できる。
【0095】
[第1変形例]
上記実施形態においては、解析モデルMにおいて用いられる損失関数Lとして、第1損失関数L1及び第2損失関数L2の和(式(2)参照)を適用する例について説明したが、これに限らない。学習モデルの学習フェーズにおいては、損失関数Lを最小化するようなパラメータθの探索が繰り返し行われるが、損失関数Lを、解析モデルMの学習における反復回数に応じて変化するようにしてもよい。
【0096】
具体的には、解析モデルMは、第1損失関数L1と、第2損失関数L2との重み付き和によって学習されるようにしてもよい。例えば、式(2)に代えて、下記式(2-1)の重み付き和を適用してもよい。
L=k1×L1+k2×L2 (2-1)
【0097】
k1及びk2は、重み付き和における第1損失関数L1及び第2損失関数L2のそれぞれの重みであり、解析モデルMの学習における反復回数に応じて変化する。重みk1及びk2の変化の仕方は特に限定されないが、反復回数が増えるほど、第2損失関数L2の影響が大きくなるように、第1損失関数L1の重みk1及び第2損失関数L2の重みk2の少なくとも一方が変化することが望ましい。
【0098】
例えば、反復回数に応じて重みk2を徐々に増加させる、及び/又は、重みk1を徐々に減少させるようにしてもよい。また例えば、反復回数が予め定められた閾値を超えた段階で、重みk1が1から0に変化し、重みk2が0から1に変化する(すなわち、Lの内容が、L1からL2に完全に切り替わる)ようにしてもよい。
【0099】
学習が進んでいない初期段階においては、パラメータθの最適解は不明なため、パラメータθは適当なアルゴリズムに基づきランダムに与えられることが一般的である。この状態で、微分方程式由来の第2損失関数L2に基づいた学習を行うと、期待する最適解が得られない場合がある。例えば、式(4)の微分方程式における自明解(U1が0)のように、第2損失関数L2は最小化されるものの、第1損失関数L1の最小化は考慮されていないパラメータθを最適解としてしまう場合がある(いわゆるローカルミニマムの解)。
【0100】
そこで、反復回数が少ないうちは第1損失関数L1を重視し、反復回数が増えるほど第2損失関数L2を重視することによって、ローカルミニマムの解に陥ることを回避できる。このように、損失関数Lの内容を、学習における反復回数に応じて変化させることによって、学習を効率的に進めることができる場合がある。
【0101】
[第2変形例]
上記実施形態においては、形態画像を、流速推定画像において流速が0となる領域の輪郭を抽出することによって生成する、又は、形態画像生成モデルによって生成する例について説明したが、これに限らない。例えば、解析モデルMの学習フェーズにおいて、支配方程式における境界条件として血管壁における条件を考慮した項を含む損失関数Lに基づいて学習を行うことによって、血管壁の位置を推定してもよい。
【0102】
具体的には、解析モデルMは、第1損失関数L1と、第2損失関数L2と、支配方程式における境界条件に対する適合度を表す第3損失関数L3と、に基づいて学習されてもよい。例えば、式(2)に代えて、下記式(2-2)を適用してもよい。第3損失関数L3の一例を下記式(7)に示す。
L=L1+L2+L3 (2-2)
【0103】
【数8】
【0104】
U1は、解析モデルMの前半部分M1(NN)の出力に基づき導出される流速Uの予測値である。血管壁を3次元のポリゴンデータで表現することを考え、その頂点の座標をα(x、y、z)とする。kは1~N3の整数であり、N3は血管壁の頂点となる座標のデータ数である。図6に点線で示すように、座標αは、損失関数Lの算出に用いるパラメータとして、解析モデルMに与えられる。
【0105】
式(7)は、血管壁上の座標α(x、y、z)においては、流速の予測値U1は0になるという境界条件を利用したものである。すなわち、第3損失関数L3は、形態画像によって表される構造物の壁面位置に対応する流速推定画像(すなわち流速の予測値U1)の、流体の運動を記述する支配方程式における境界条件に対する適合度を表すものといえる。
【0106】
解析モデルMの学習フェーズにおいて、座標α(x、y、z)を変化させながら、第3損失関数L3を最小化するように学習を行うことによって、適切な座標αを推定できる。これにより、血管壁を構成する各頂点の座標α、すなわち血管壁の位置が求まるので、その血管壁の位置を表す形態画像を生成できる。
【0107】
[第3変形例]
第2変形例に、第1変形例の方法を適用してもよい。具体的には、解析モデルMは、第1損失関数L1と、第2損失関数L2と、第3損失関数L3との重み付き和によって学習されるようにしてもよい。例えば、式(2-2)に代えて、下記式(2-3)の重み付き和を適用してもよい。
L=k1×L1+k2×L2+k3×L3 (2-3)
【0108】
k1~k3は、重み付き和における第1損失関数L1、第2損失関数L2、及び第3損失関数L3のそれぞれの重みであり、解析モデルMの学習における反復回数に応じて変化する。重みk1~k3の変化の仕方は特に限定されないが、反復回数が増えるほど、第2損失関数L2及び第3損失関数L3の少なくとも一方の影響が大きくなるように、第1損失関数L1の重みk1、第2損失関数L2の重みk2、及び第3損失関数L3の重みk3のうち少なくとも1つが変化することが望ましい。その理由は、第1変形例と同様である。
【0109】
例えば、反復回数に応じて重みk2及びk3を徐々に増加させる、及び/又は、重みk1を徐々に減少させるようにしてもよい。また例えば、反復回数が予め定められた閾値を超えた段階で、重みk1が1から0に変化し、重みk2が0から1に変化し、重みk3が0から1に変化する(すなわち、Lの内容が、L1単体から、L2とL3の和に切り替わる)ようにしてもよい。
【0110】
[第4変形例]
第2変形例の座標αと同様に、損失関数Lの算出に用いる他のパラメータを、解析モデルMの学習フェーズにおいて推定してもよい。例えば、式(2)の第2損失関数L2において、動粘性係数νを変化させながら、第2損失関数L2を最小化するように学習を行うことによって、適切な動粘性係数νを推定できる。
【0111】
このようにした場合は、解析対象の流体においてより適切な動粘性係数νを推定できるので、例えば動粘性係数νの個人差をも考慮でき、血流をより良好な精度で解析できる。特に、動粘性係数νは、WSSの定量化に用いられる粘性係数μ(μ=ρν)にも影響を与えるので、WSSの定量精度も向上させることができる。
【0112】
[第5変形例]
上記実施形態においては、解析モデルM(PINNs)において用いる支配方程式としてNS方程式を適用する例について説明したが、これに限らない。NS方程式に加えて、又は代えて、流体の運動を記述する他の支配方程式を適用してもよい。
【0113】
例えば、解析モデルMの支配方程式として、ウィンドケッセルモデルを用いたときの回路方程式を適用すれば、流出境界条件を解析できる。ウィンドケッセルモデルとは、解析領域よりも抹消の血管による影響(例えば血液の流れにくさ等)を、回路要素の特性値で記述することによって、血流を電気回路モデルで記述するものである。一般に、末梢血管における血圧及び抵抗等は実測が困難なため、解析領域における流出境界条件の特定も困難だが、ウィンドケッセルモデルを用いることによって、流出境界条件を推定できる。
【0114】
図9に、4分岐血管90へ3要素のウィンドケッセルモデルを適用した例を示す。図9では、4分岐血管90への流入口INと、4つの流出口O1~O4を示し、流出口O1~O4のそれぞれに3要素のウィンドケッセルモデルを接続している。3要素のウィンドケッセルモデルでは、血流量Qを電流、血圧Pを電圧、動脈コンプライアンスCをキャパシタの容量、末梢血管抵抗Rを抵抗器の抵抗、大動脈弁による抵抗rを特性インピーダンスとして記述する。この場合の回路方程式を式(8)に示す。
【0115】
【数9】
【0116】
解析モデルMにこのようなウィンドケッセルモデルを組み込むことによって、流出境界のそれぞれにおいて、特性値R、C、及びrを推定できる。以下、流出境界Okにおける血流量をQと称し、血圧をPと称し、特性値をR、C、及びrと称する。kは1~N4の整数であり、N4は流出境界の数である。なお、図9でも、この方法に則って表記している。
【0117】
具体的には、解析モデルMの前半部分M1の出力層OLに、各流出境界Okにおける血流量Q及び血圧Pを加えればよい。また、損失関数Lの算出に用いるパラメータとして、各流出境界Okにおける特性値R、C、及びrを加えればよい。また、解析モデルMの損失関数Lに、下記式(9)で表される第4損失関数L4を加えればよい。
【0118】
【数10】
【0119】
第4損失関数L4は、各流出境界Okにおける血流量Q及び血圧Pの予測値の、回路方程式に対する適合度を表す。第4損失関数L4において、特性値R、C、及びrを変化させながら、第4損失関数L4を最小化するように学習を行うことによって、特性値R、C、及びrを推定できる。
【0120】
このようにして学習された解析モデルMによれば、各流出境界Okにおける血流量Q及び血圧Pの予測値を得ることができるので、流出境界条件を推定できる。したがって、生体の構造物内における流体の流れを良好な精度で解析できる。
【0121】
なお、推定した流出境界条件を、数値流体力学を用いた血流解析(CFD:Computational Fluid Dynamics)によるシミュレーションに活用することもできる。CFDにおいて、上記の手法により推定した高精度の流出境界条件を設定することによって、血流解析の精度を向上できる。これにより、例えば、狭窄拡張及び瘤塞栓等の手術により血管構造が変化した場合の血流の変化を、高精度でシミュレーションすることが可能となるので、シミュレーション結果を治療効果の検討に活用させることが期待できる。
【0122】
[第6変形例]
また例えば、解析モデルMの支配方程式として、格子ボルツマン方程式を適用してもよい。流体は、ミクロ的には個々の粒子の並進及び衝突により記述できる。格子ボルツマン方程式は、この観点に基づき、空間を格子状に離散化させるとともに、粒子の速度も有限種の速度ベクトルに離散化させた流体解析モデルである。格子ボルツマン方程式によれば、各格子における粒子の分布関数の時間的な変化によって、流体の流れが解析される。
【0123】
2次元空間(XY空間)において、速度ベクトルを9つの状態に離散化させたモデル(2次元9速度モデル)における格子ボルツマン方程式を式(10)に示す。2次元9速度モデルでは、座標(x、y)=(±1、±1)の4点を頂点とするある格子において、離散化された9つの速度ベクトルの始点を(0、0)とし、終点をそれぞれ(0、0)、(±1、0)、(0、±1)、(±1、±1)と設定する。各速度ベクトルの大きさは定数である。
【0124】
【数11】
【0125】
は、離散化された速度ベクトルであり、iは0~8の整数である。すなわち、c~cは、それぞれが上記9つの速度ベクトルに対応する。Fは、時刻tかつある格子点において、速度ベクトルcに対応する粒子の分布関数である。なお、分布関数Fは、確率変数が離散型なので離散分布関数である。F eqは、平衡分布関数である。τは、緩和パラメータである。
【0126】
解析モデルM(PINNs)を用いれば、このような格子ボルツマン方程式を解くことができ、流体の流れを解析できる。具体的には、解析モデルMの前半部分M1の出力層OLに、分布関数Fを加えればよい。また、損失関数Lの算出に用いるパラメータとして、平衡分布関数F eq及び緩和パラメータτを加えればよい。また、解析モデルMの損失関数Lに、下記式(11)で表される第5損失関数L5を加えればよい。
【0127】
【数12】
【0128】
kは1~N5の整数であり、N5は分布関数Fの予測値のデータ数である。第5損失関数L5は、分布関数Fの予測値の、格子ボルツマン方程式に対する適合度を表す。第5損失関数L5において、平衡分布関数F eq及び緩和パラメータτを変化させながら、第5損失関数L5を最小化するように学習を行うことによって、平衡分布関数F eq及び緩和パラメータτを推定できる。
【0129】
このようにして学習された解析モデルMによれば、各時刻t及び各格子点における分布関数Fの予測値を得ることができる。したがって、生体の構造物内における流体の流れを良好な精度で解析できる。
【0130】
なお、上記実施形態及び各変形例において説明した損失関数Lは、第1損失関数L1~第5損失関数L5のうち任意の組合せを含む和であってもよい。また、損失関数Lに含まれる第1損失関数L1~第5損失関数L5のうち、それぞれに重みを設定した重み付き和であってもよい。この場合、学習の反復回数に応じて、それぞれの重みを変化させてもよい。
【0131】
また、上記実施形態においては、学習済みの解析モデルMが記憶部22に予め記憶されている例について説明したが、これに限らない。例えば、画像処理装置10が、解析モデルMの学習機能を有していてもよい。具体的には、CPU21は、上述した第1損失関数L1~第5損失関数L5のうち少なくとも1つを含む損失関数Lを用いた学習を行うことによって、解析モデルMを構築してもよい。また例えば、CPU21は、生成部32が流速画像から流速推定画像及び形態画像を生成するたびに、当該流速画像、流速推定画像、及び形態画像に基づいて、解析モデルMの再学習をおこなってもよい。
【0132】
また、上記実施形態においては、PC-MRIによって流速画像を取得する例について説明したが、これに限らない。例えば、撮影装置3として超音波装置を用い、ドップラー計測によって時系列に撮影された3次元の超音波画像を取得し、当該超音波画像に基づいて、流速画像を取得するようにしてもよい。
【0133】
また、上記実施形態においては、流体の流れを診断及び治療に活用するための各種指標として、WSS及びFFRを例示したが、これに限らない。例えば、このような指標として、渦度及びヘリシティ等を適用してもよい。
【0134】
また、上記実施形態においては、構造物が血管であり、流体が血液である例について説明したが、これに限らない。例えば、脳脊髄液の流れを解析することを考えた場合、髄液が流れる構造物としては、頭蓋内での脳室、特にくも膜下腔を、脊柱管内では脊髄くも膜下腔を適用できる。また例えば、構造物としてリンパ管を用い、流体としてリンパ液を用いてもよい。
【0135】
また、上記実施形態においては、人体を対象とした画像を対象としているが、これに限らない。例えば、配管内を流れる流体の流れを解析する際にも、本開示の技術を適用できる。
【0136】
また、上記実施形態において、例えば、取得部30、生成部32、導出部34、及び表示制御部36といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(processor)を用いることができる。上記各種のプロセッサには、前述したように、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPUに加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
【0137】
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせや、CPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
【0138】
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアント及びサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System on Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
【0139】
さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)を用いることができる。
【0140】
また、上記実施形態では、画像処理プログラム27が記憶部22に予め記憶(インストール)されている態様を説明したが、これに限定されない。プログラムは、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の記録媒体に記録された形態で提供されてもよい。また、プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。さらに、本開示の技術は、プログラムに加えて、プログラムを非一時的に記憶する記憶媒体にもおよぶ。
【0141】
本開示の技術は、上記実施形態例及び変形例を適宜組み合わせることも可能である。以上に示した記載内容及び図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用及び効果に関する説明は、本開示の技術に係る部分の構成、機能、作用及び効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容及び図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことはいうまでもない。
【0142】
上記実施形態に関し、更に以下の付記を開示する。
[付記1]
少なくとも1つのプロセッサを備え、
前記プロセッサは、
生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、前記流速画像よりも高解像度の流速推定画像、及び前記構造物の形態を表す形態画像を生成するための学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、前記流速画像から前記流速推定画像及び前記形態画像を生成する
画像処理装置。
[付記2]
前記流体の物理法則に関する情報は、前記流体の運動を記述する支配方程式としての微分方程式である
付記1に記載の画像処理装置。
[付記3]
前記微分方程式は、ナビエ-ストークス方程式である
付記2に記載の画像処理装置。
[付記4]
前記損失関数は、前記学習モデルの学習における反復回数に応じて変化する
付記1から付記3の何れか1つに記載の画像処理装置。
[付記5]
前記学習モデルは、
前記流速画像と前記流速推定画像との誤差を表す第1損失関数と、
前記流速推定画像の、前記流体の運動を記述する支配方程式に対する適合度を表す第2損失関数と、
に基づいて学習される付記1から付記4の何れか1つに記載の画像処理装置。
[付記6]
前記学習モデルは、前記第1損失関数と、前記第2損失関数との重み付き和によって学習され、
前記重み付き和における前記第1損失関数及び前記第2損失関数のそれぞれの重みは、学習における反復回数に応じて変化する
付記5に記載の画像処理装置。
[付記7]
前記反復回数が増えるほど、前記第2損失関数の影響が大きくなるように、前記第1損失関数の重み及び前記第2損失関数の重みの少なくとも一方が変化する
付記6に記載の画像処理装置。
[付記8]
前記学習モデルは、
前記第1損失関数と、
前記第2損失関数と、
前記形態画像によって表される前記構造物の壁面位置に対応する前記流速推定画像の、前記流体の運動を記述する支配方程式における境界条件に対する適合度を表す第3損失関数と、
に基づいて学習される付記5に記載の画像処理装置。
[付記9]
前記学習モデルは、前記第1損失関数と、前記第2損失関数と、前記第3損失関数との重み付き和によって学習され、
前記重み付き和における前記第1損失関数、前記第2損失関数、及び前記第3損失関数のそれぞれの重みは、学習における反復回数に応じて変化する
付記8に記載の画像処理装置。
[付記10]
前記反復回数が増えるほど、前記第2損失関数及び前記第3損失関数の少なくとも一方の影響が大きくなるように、前記第1損失関数の重み、前記第2損失関数の重み、及び前記第3損失関数の重みのうち少なくとも1つが変化する
付記9に記載の画像処理装置。
[付記11]
前記学習モデルは、
前記流速画像から、前記流速推定画像を生成するための第1学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された第1学習モデルと、
前記流速画像及び前記流速推定画像の少なくとも一方から、前記形態画像を生成するための第2学習モデルと、
を含む付記1から付記10の何れか1つに記載の画像処理装置。
[付記12]
前記構造物は、血管であり、
前記流体は、血液である
付記1に記載の画像処理装置。
[付記13]
前記血管は、脳動脈、頸動脈、冠動脈、胸部大動脈、及び腹部大動脈のうち少なくとも1つである
付記12に記載の画像処理装置。
[付記14]
前記流速画像は、3次元シネ位相コントラスト磁気共鳴法によって前記血管を撮影することにより取得された3次元の画像である
付記12に記載の画像処理装置。
[付記15]
前記プロセッサは、
前記流速推定画像及び前記形態画像に基づいて、前記形態画像における領域ごとに、壁面せん断応力を導出する
付記12に記載の画像処理装置。
[付記16]
前記プロセッサは、
前記形態画像における領域ごとの前記壁面せん断応力の大小を可視化した画像を生成する
付記15に記載の画像処理装置。
[付記17]
前記プロセッサは、
前記学習モデルを用いて、前記流速画像から、前記構造物内における流体の圧力の分布を表す圧力画像を更に生成し、
前記圧力画像及び前記形態画像に基づいて、前記形態画像における領域ごとに、冠血流予備比を導出する
付記12に記載の画像処理装置。
[付記18]
前記プロセッサは、
前記形態画像における領域ごとの前記冠血流予備比の大小を可視化した画像を生成する
付記17に記載の画像処理装置。
[付記19]
生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、前記流速画像よりも高解像度の流速推定画像、及び前記構造物の形態を表す形態画像を生成するための学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、前記流速画像から前記流速推定画像及び前記形態画像を生成する
処理をコンピュータが実行する画像処理方法。
[付記20]
生体の構造物内における流体の流速ベクトルの空間的な分布を表す流速画像から、前記流速画像よりも高解像度の流速推定画像、及び前記構造物の形態を表す形態画像を生成するための学習モデルであって、前記流体の物理法則に関する情報と前記流速画像とを少なくとも用いた損失関数に基づいて学習された学習モデルを用いて、前記流速画像から前記流速推定画像及び前記形態画像を生成する
処理をコンピュータが実行するための画像処理プログラム。
【符号の説明】
【0143】
1 解析システム
3 撮影装置
5 画像サーバ
6 画像DB
9 ネットワーク
10 画像処理装置
21 CPU
22 記憶部
23 メモリ
24 ディスプレイ
25 入力部
26 ネットワークI/F
27 画像処理プログラム
28 バス
30 取得部
32 生成部
34 導出部
36 表示制御部
50、52 流速可視化画像
53、53A 合成画像
54、54A 形態画像
56、58 指標可視化画像
90 4分岐血管
GM マグニチュードデータ
Gx、Gy、Gz 位相データ
M 解析モデル
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10