IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルム株式会社の特許一覧

特開2024-15883情報処理装置、情報処理方法、プログラム、学習済みモデルおよび学習モデル生成方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024015883
(43)【公開日】2024-02-06
(54)【発明の名称】情報処理装置、情報処理方法、プログラム、学習済みモデルおよび学習モデル生成方法
(51)【国際特許分類】
   A61B 6/03 20060101AFI20240130BHJP
【FI】
A61B6/03 370Z
A61B6/03 360J
【審査請求】未請求
【請求項の数】17
【出願形態】OL
(21)【出願番号】P 2022118251
(22)【出願日】2022-07-25
(71)【出願人】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】100083116
【弁理士】
【氏名又は名称】松浦 憲三
(74)【代理人】
【識別番号】100170069
【弁理士】
【氏名又は名称】大原 一樹
(74)【代理人】
【識別番号】100128635
【弁理士】
【氏名又は名称】松村 潔
(74)【代理人】
【識別番号】100140992
【弁理士】
【氏名又は名称】松浦 憲政
(72)【発明者】
【氏名】ケシュワニ ディーパック
(72)【発明者】
【氏名】北村 嘉郎
【テーマコード(参考)】
4C093
【Fターム(参考)】
4C093AA22
4C093AA26
4C093CA18
4C093DA02
4C093FA47
4C093FD03
4C093FF16
4C093FF19
4C093FF20
4C093FF23
4C093FG16
(57)【要約】
【課題】簡便あるいは低負荷な方法により取得可能な画像から精度よく臨床パラメータを算出することが可能になる情報処理装置、情報処理方法、プログラム、学習済みモデルおよび学習モデル生成方法を提供する。
【解決手段】情報処理装置は、1つ以上のプロセッサと、プログラムを記憶する1つ以上の記憶装置と、を備え、プログラムは、入力された第1の画像から第1の画像とは異なる撮影プロトコルにより得られる画像を模した第2の画像を生成するように学習された画像生成モデルを含む。画像生成モデルは、第1の撮影プロトコルにより撮影された訓練画像と、同種のモダリティを用いて同じ被検者について第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、画像生成モデルが出力する生成画像から算出される臨床パラメータが正解の臨床パラメータに近づくように学習されたモデルである。
【選択図】図7
【特許請求の範囲】
【請求項1】
1つ以上のプロセッサと、
前記1つ以上のプロセッサに実行させるプログラムを記憶する1つ以上の記憶装置と、を備え、
前記プログラムは、入力された第1の画像から前記第1の画像とは異なる撮影プロトコルにより得られる画像を模した第2の画像を生成するように学習された画像生成モデルを含み、
前記画像生成モデルは、第1の撮影プロトコルにより撮影された訓練画像と、前記訓練画像の撮影に用いたモダリティと同種のモダリティを用いて前記訓練画像と同じ被検者について前記第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、前記訓練画像の入力に対して前記画像生成モデルが出力する生成画像から算出される臨床パラメータが前記正解の臨床パラメータに近づくように学習されたモデルであり、
前記1つ以上の前記プロセッサは、
前記第1の撮影プロトコルにより撮影された前記第1の画像の入力を受け付け、
前記第1の画像から前記画像生成モデルによって前記第2の画像を生成し、
前記第2の画像から臨床パラメータを算出する、
情報処理装置。
【請求項2】
前記1つ以上の前記プロセッサは、
前記第1の画像を解剖学的領域に分割し、
前記分割された解剖学的領域毎に前記臨床パラメータを算出する、
請求項1に記載の情報処理装置。
【請求項3】
前記訓練画像と前記対応画像とのそれぞれは前記解剖学的領域に分割され、前記対応画像の前記分割された解剖学的領域毎に前記正解の臨床パラメータが算出されており、
前記画像生成モデルは、前記訓練画像の前記分割された解剖学的領域毎に前記生成画像から算出されるそれぞれの前記臨床パラメータが、前記対応画像のそれぞれの解剖学的領域の前記正解の臨床パラメータに近づくように学習されたモデルである、
請求項2に記載の情報処理装置。
【請求項4】
前記分割された前記解剖学的領域は、冠状動脈の灌流領域である、
請求項2又は3に記載の情報処理装置。
【請求項5】
前記臨床パラメータは、冠動脈の主枝毎のカルシウム体積である、
請求項2に記載の情報処理装置。
【請求項6】
前記第1の画像は、心電図非同期撮影により得られる非心電図同期CT画像であり、
前記第2の画像は、心電図同期撮影により得られる心電図同期CT画像を模した画像である、
請求項1に記載の情報処理装置。
【請求項7】
前記訓練画像は、前記対応画像よりも低線量の条件下で撮影されたものである、
請求項1に記載の情報処理装置。
【請求項8】
前記第1の撮影プロトコルは、前記第2の撮影プロトコルよりも低線量である、
請求項1に記載の情報処理装置。
【請求項9】
前記第1の撮影プロトコルは、前記第2の撮影プロトコルよりも遅いスキャン速度である、
請求項1に記載の情報処理装置。
【請求項10】
前記臨床パラメータが、石灰化スコアである、
請求項1に記載の情報処理装置。
【請求項11】
前記臨床パラメータが、心臓血管のカルシウム体積である、
請求項1に記載の情報処理装置。
【請求項12】
前記臨床パラメータが、冠動脈石灰化の重症度である、
請求項1に記載の情報処理装置。
【請求項13】
前記画像生成モデルは、ニューラルネットワークを用いて構成される、
請求項1記載の情報処理装置。
【請求項14】
1つ以上のプロセッサが実行する情報処理方法であって、
前記1つ以上の前記プロセッサが、
第1の撮影プロトコルにより撮影された第1の画像を取得することと、
前記第1の画像を画像生成モデルに入力し、前記画像生成モデルにより前記第1の画像から、前記第1の画像の撮影に用いたモダリティと同種のモダリティを用いて前記第1の画像と同じ被検者について前記第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影した場合に得られる画像を模した第2の画像を生成することと、
前記第2の画像から臨床パラメータを算出することと、を含み、
前記画像生成モデルは、前記第1の撮影プロトコルにより撮影された訓練画像と、前記訓練画像の撮影に用いたモダリティと同種のモダリティを用いて前記訓練画像と同じ被検者について前記第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用い、前記訓練画像の入力に対して前記画像生成モデルが出力する生成画像から算出される臨床パラメータが前記正解の臨床パラメータに近づくように学習されたモデルである、
情報処理方法。
【請求項15】
コンピュータに、
第1の撮影プロトコルにより撮影された第1の画像を取得する機能と、
前記第1の画像を画像生成モデルに入力し、画像生成モデルによって前記第1の画像から、前記第1の画像の撮影に用いたモダリティと同種のモダリティを用いて前記第1の画像と同じ被検者について前記第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影した場合に得られる画像を模した第2の画像を生成する機能と、
前記第2の画像から臨床パラメータを算出する機能と、
を実現させるプログラムであって、
前記画像生成モデルは、前記第1の撮影プロトコルにより撮影された訓練画像と、前記訓練画像の撮影に用いたモダリティと同種のモダリティを用いて前記訓練画像と同じ被検者について前記第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、前記訓練画像の入力に対して前記画像生成モデルが出力する生成画像から算出される臨床パラメータが前記正解の臨床パラメータに近づくように学習されたモデルである、
プログラム。
【請求項16】
入力された画像から前記画像とは異なる撮影プロトコルにより得られる画像を模した擬似画像を生成する機能をコンピュータに実現させる学習済みモデルであって、
第1の撮影プロトコルにより撮影された訓練画像と、前記訓練画像の撮影に用いたモダリティと同種のモダリティを用いて前記訓練画像と同じ被検者について前記第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、前記訓練画像の入力に対して学習モデルが出力する生成画像から算出される臨床パラメータが前記正解の臨床パラメータに近づくように学習された学習済みモデル。
【請求項17】
入力された画像から前記画像とは異なる撮影プロトコルにより得られる画像を模した擬似画像を生成する機能をコンピュータに実現させる学習モデルを生成する学習モデル生成方法であって、
1つ以上のプロセッサを含むシステムが、
第1の撮影プロトコルにより撮影された訓練画像と、前記訓練画像の撮影に用いたモダリティと同種のモダリティを用いて前記訓練画像と同じ被検者について前記第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いて機械学習を行い、
前記訓練画像を学習モデルに入力して前記学習モデルから出力される生成画像から臨床パラメータを算出し、前記生成画像から算出される前記臨床パラメータが前記正解の臨床パラメータに近づくように前記学習モデルを学習することを含む、
学習モデル生成方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理方法、プログラム、学習済みモデルおよび学習モデル生成方法に係り、特に医療画像から臨床パラメータを算出する画像処理技術および機械学習技術に関する。
【背景技術】
【0002】
心臓血管疾患(Cardiovascular disease :CVD)を検出するための一般的な方法として、胸部領域のコンピュータ断層撮影(Computed Tomography:CT)画像を撮影し、冠動脈および心臓の石灰化(カルシウム化)を定量化することが行われる。冠動脈石灰化(Coronary Artery Calcification :CAC)スコアリングは、CVD検出における最も特徴的かつ標準的なマーカーである。CACスコアに基づいてCVDの重症度が評価され、治療等が処方される。現状においてCACスコアを測定する際には、心臓の運動アーチファクトを無くすために、心電図(Electrocardiogram:ECG)と同期した特殊な撮影法によって得られる心電図同期CT(ECG gated CT)画像が用いられる。
【0003】
これに対し、非特許文献1は、心電図と非同期の撮影法によって得られる非心電図同期CT(non ECG gated CT)画像から、限られた精度でCAC重症度を4段階にクラス分けする技術を開示している。非特許文献1に記載の方法は、まず、畳み込みニューラルネットワーク(Convolutional Neural Network:CNN)を使用して、非心電図同期CT画像からカルシウム領域をセグメント化する。次に、セグメント化されたカルシウム領域から平均CT値および標準偏差などの特徴量を取得し、別の機械学習方法を用いて、対応する心電図同期CT画像で把握される重症度ステージと同じCAC重症度ステージを出力するようにモデルを訓練する。
【0004】
また、画像診断の支援技術に関して、特許文献1は、PET(Positron Emission Tomography)画像など、放射性薬剤を用いて撮影される画像のデメリットに鑑み、放射性薬剤を用いずに撮影可能なMRI(Magnetic Resonance Imaging)画像などの画像から、薬剤を用いたPET画像などの画像を推定して診断に活用するシステムを提案している。特許文献1に記載のシステムは、受診者の、評価対象領域を一部に含む参照領域を少なくとも含むMR画像の実画像データを含む受診者情報を取得する取得ユニットと、複数の被験対象の参照領域のMR画像の実画像データと評価対象領域を含むPET画像の実画像データとを含む訓練データに基づいて、参照領域のMR画像の実画像データから評価対象領域の疑似PET画像データを生成するように機械学習をさせた画像処理モデルにより、受診者の個別のMR画像の実画像データから生成された評価対象領域の疑似PET画像データに基づく診断支援情報を提供する情報提供ユニットとを有する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第6746160号
【非特許文献】
【0006】
【非特許文献1】Eng, D., Chute, C., Khandwala, N. et al. “Automated coronary calcium scoring using deep learning with multicenter external validation.” npj Digit. Med. 4, 88 (2021).
【発明の概要】
【発明が解決しようとする課題】
【0007】
心電図同期撮影は、心電図非同期撮影に比べて精細な画像が得られるものの、撮影方法が複雑であり、特別な撮影システムが必要となる。また、心電図同期撮影は、心電図非同期撮影に比べて被検者に対する放射線量が増える。放射線量を低減して被検者への負荷を減らす観点から、肺がんや呼吸器疾患のスクリーニングに用いられる通常の胸部CT画像を用いてCACスコアを測定することが望ましい。
【0008】
しかし、心電図と非同期の撮影により得られる通常の非心電図同期CT画像は、心臓の動きに起因して不鮮明な(ぼやけた)画像であり、非心電図同期CT画像から精度よくCACスコアを測定することは困難である。そのため、非心電図同期CT画像から十分な精度でCACスコアリングを行う技術の開発が望まれている。
【0009】
この点、非特許文献1は、非心電図同期撮影CT画像を用いてCAC重症度ステージを推定し得るものの、心電図同期CT画像と同等の精度でCACスコアを算出することはできない。また、非特許文献1に記載のCAC重症度を計算する方法は、どのような道筋で(なぜ)その結果が導き出されたのかを説明することができない、いわゆる「説明不能な人工知能(Artificial Intelligence:AI)」を用いたブラックボックス方法である。
【0010】
上述の課題はCT画像やCACスコアに限らず、他のモダリティの画像を用いて様々な臨床パラメータを算出する場合に共通する課題である。このような課題に対して、複雑な撮影方法、高価な高機能撮影システムが必要な撮影方法、あるいは被検者にとって負荷の大きい撮影方法などでなければ取得できないような画像と同等の診断精度を、より簡便、安価、あるいは低負荷で取得可能な画像から達成できる技術が望まれる。
【0011】
本開示はこのような事情に鑑みてなされたものであり、比較的簡便にあるいは低負荷で取得可能な画像から精度よく臨床パラメータを算出することが可能になる情報処理装置、情報処理方法、プログラム、学習済みモデルおよび学習モデル生成方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
本開示の第1態様に係る情報処理装置は、1つ以上のプロセッサと、1つ以上のプロセッサに実行させるプログラムを記憶する1つ以上の記憶装置と、を備え、プログラムは、入力された第1の画像から第1の画像とは異なる撮影プロトコルにより得られる画像を模した第2の画像を生成するように学習された画像生成モデルを含み、画像生成モデルは、第1の撮影プロトコルにより撮影された訓練画像と、訓練画像の撮影に用いたモダリティと同種のモダリティを用いて訓練画像と同じ被検者について第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、訓練画像の入力に対して画像生成モデルが出力する生成画像から算出される臨床パラメータが正解の臨床パラメータに近づくように学習されたモデルであり、1つ以上のプロセッサは、第1の撮影プロトコルにより撮影された第1の画像の入力を受け付け、第1の画像から画像生成モデルによって第2の画像を生成し、第2の画像から臨床パラメータを算出する。
【0013】
「撮影プロトコル」という用語は、撮影方法、撮影条件、およびスキャン設定等の用語の概念を含む。
【0014】
本開示によれば、第1の撮影プロトコルにより撮影された第1の画像から、同種のモダリティの第2の撮影プロトコルにより撮影される画像と同等の精度で臨床パラメータを算出することができる。第1の撮影プロトコルは、第2の撮影プロトコルよりも簡便な撮影方法であってよく、第2の撮影プロトコルの撮影に必要なシステムよりも安価なシステムとすることができる。また、第1の撮影プロトコルは、第2の撮影プロトコルよりも被検者にとって低負荷なものとすることができる。
【0015】
第2態様に係る情報処理装置は、第1態様に係る情報処理装置において、1つ以上のプロセッサは、第1の画像を解剖学的領域に分割し、分割された解剖学的領域毎に臨床パラメータを算出する構成であってもよい。
【0016】
第3態様に係る情報処理装置は、第2態様に係る情報処理装置において、訓練画像と対応画像とのそれぞれは解剖学的領域に分割され、対応画像の分割された解剖学的領域毎に正解の臨床パラメータが算出されており、画像生成モデルは、訓練画像の分割された解剖学的領域毎に生成画像から算出されるそれぞれの臨床パラメータが、対応画像のそれぞれの解剖学的領域の正解の臨床パラメータに近づくように学習されたモデルであってよい。
【0017】
第4態様に係る情報処理装置は、第2態様または第3態様の情報処理装置において、分割された解剖学的領域は、冠動脈の灌流領域であってもよい。
【0018】
第5態様に係る情報処理装置は、第2態様から第4態様のいずれか一態様に係る情報処理装置において、臨床パラメータは、冠動脈の主枝毎のカルシウム体積であってもよい。
【0019】
第6態様に係る情報処理装置は、第1態様から第5態様のいずれか一態様に係る情報処理装置において、第1の画像は、心電図非同期撮影により得られる非心電図同期CT画像であり、第2の画像は、心電図同期撮影により得られる心電図同期CT画像を模した画像であってもよい。
【0020】
第7態様に係る情報処理装置は、第1態様から第6態様のいずれか一態様に係る情報処理装置において、訓練画像は、対応画像よりも低線量の条件下で撮影されたものであってもよい。
【0021】
第8態様に係る情報処理装置は、第1態様から第6態様のいずれか一態様に係る情報処理装置において、第1の撮影プロトコルは、第2の撮影プロトコルよりも低線量であってもよい。
【0022】
第9態様に係る情報処理装置は、第1態様から第8態様のいずれか一態様に係る情報処理装置において、第1の撮影プロトコルは、第2の撮影プロトコルよりも遅いスキャン速度であってもよい。
【0023】
第10態様に係る情報処理装置は、第1態様から第9態様のいずれか一態様に係る情報処理装置において、臨床パラメータが、石灰化スコアであってもよい。
【0024】
第11態様に係る情報処理装置は、第1態様から第9態様のいずれか一態様に係る情報処理装置において、臨床パラメータが、心臓血管のカルシウム体積であってもよい。
【0025】
第12態様に係る情報処理装置は、第1態様から第9態様のいずれか一態様に係る情報処理装置において、臨床パラメータが、冠動脈石灰化の重症度であってもよい。
【0026】
第13態様に係る情報処理装置は、第1態様から第12態様のいずれか一態様に係る情報処理装置において、画像生成モデルは、ニューラルネットワークを用いて構成されてもよい。
【0027】
第14態様に係る情報処理方法は、1つ以上のプロセッサが実行する情報処理方法であって、1つ以上のプロセッサが、第1の撮影プロトコルにより撮影された第1の画像を取得することと、第1の画像を画像生成モデルに入力し、画像生成モデルにより第1の画像から、第1の画像の撮影に用いたモダリティと同種のモダリティを用いて第1の画像と同じ被検者について第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影した場合に得られる画像を模した第2の画像を生成することと、第2の画像から臨床パラメータを算出することと、を含み、画像生成モデルは、第1の撮影プロトコルにより撮影された訓練画像と、訓練画像の撮影に用いたモダリティと同種のモダリティを用いて訓練画像と同じ被検者について第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用い、訓練画像の入力に対して画像生成モデルが出力する生成画像から算出される臨床パラメータが正解の臨床パラメータに近づくように学習されたモデルである。
【0028】
第14態様に係る情報処理方法について、第2態様から第13態様のいずれか一態様の情報処理装置と同様の具体的態様を含む構成とすることができる。
【0029】
第15態様に係るプログラムは、コンピュータに、第1の撮影プロトコルにより撮影された第1の画像を取得する機能と、第1の画像を画像生成モデルに入力し、画像生成モデルによって第1の画像から、第1の画像の撮影に用いたモダリティと同種のモダリティを用いて第1の画像と同じ被検者について第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影した場合に得られる画像を模した第2の画像を生成する機能と、第2の画像から臨床パラメータを算出する機能と、を実現させるプログラムであって、画像生成モデルは、第1の撮影プロトコルにより撮影された訓練画像と、訓練画像の撮影に用いたモダリティと同種のモダリティを用いて訓練画像と同じ被検者について第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、訓練画像の入力に対して画像生成モデルが出力する生成画像から算出される臨床パラメータが正解の臨床パラメータに近づくように学習されたモデルである。
【0030】
第15態様に係るプログラムについて、第2態様から第13態様のいずれか一態様の情報処理装置と同様の具体的態様を含む構成とすることができる。
【0031】
第16態様に係る学習済みモデルは、入力された画像から画像とは異なる撮影プロトコルにより得られる画像を模した擬似画像を生成する機能をコンピュータに実現させる学習済みモデルであって、第1の撮影プロトコルにより撮影された訓練画像と、訓練画像の撮影に用いたモダリティと同種のモダリティを用いて訓練画像と同じ被検者について第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いた機械学習により、訓練画像の入力に対して学習モデルが出力する生成画像から算出される臨床パラメータが正解の臨床パラメータに近づくように学習された学習済みモデルである。
【0032】
第16態様に係る学習済みモデルについて、第2態様から第13態様のいずれか一態様の情報処理装置と同様の具体的態様を含む構成とすることができる。
【0033】
第17態様に係る学習モデル生成方法は、入力された画像から画像とは異なる撮影プロトコルにより得られる画像を模した擬似画像を生成する機能をコンピュータに実現させる学習モデルを生成する学習モデル生成方法であって、1つ以上のプロセッサを含むシステムが、第1の撮影プロトコルにより撮影された訓練画像と、訓練画像の撮影に用いたモダリティと同種のモダリティを用いて訓練画像と同じ被検者について第1の撮影プロトコルとは異なる第2の撮影プロトコルにより撮影された対応画像から算出された正解の臨床パラメータとが関連付けされた複数の訓練データを用いて機械学習を行い、訓練画像を学習モデルに入力して学習モデルから出力される生成画像から臨床パラメータを算出し、生成画像から算出される臨床パラメータが正解の臨床パラメータに近づくように学習モデルを学習することを含む。
【0034】
第17態様に係る学習モデル生成方法について、第2態様から第13態様のいずれか一態様の情報処理装置と同様の具体的態様を含む構成とすることができる。
【発明の効果】
【0035】
本開示によれば、第1の撮影プロトコルにより撮影された第1の画像を基に、同種のモダリティの第2の撮影プロトコルにより撮影される画像と同等の精度で臨床パラメータを算出することができる。これによりに、第1の撮影プロトコルにより撮影された画像から、第2の撮影プロトコルにより撮影される画像に基づく診断精度と同等の診断精度を達成することができる。第1の撮影プロトコルは、第2の撮影プロトコルよりも簡便な撮影方法とすることができ、第2の撮影プロトコルの撮影に必要なシステムよりも安価なシステムとすることができる。また、第1の撮影プロトコルは、第2の撮影プロトコルよりも被検者にとって低負荷なものとすることができる。
【図面の簡単な説明】
【0036】
図1図1は、心臓および冠動脈を模式的に示す説明図である。
図2図2は、心臓を含む胸部領域を撮影したCT画像の例である。
図3図3は、心電図同期CT画像から測定されたCACスコアの例を示す説明図である。
図4図4は、図3に示す心電図同期CT画像と同じ被検者の非心電図同期CT画像から測定されたCACスコアの例を示す説明図である。
図5図5は、第1実施形態に係る情報処理装置の機能的構成を示すブロック図である。
図6図6は、第1実施形態に係る情報処理装置のハードウェア構成の例を示すブロック図である。
図7図7は、第1実施形態に適用される画像生成モデルを生成するための機械学習方法の概要を示す説明図である。
図8図8は、第1実施形態に適用される機械学習装置の機能的構成を示すブロック図である。
図9図9は、第1実施形態に適用される機械学習装置のハードウェア構成の例を示すブロック図である。
図10図10は、第1実施形態の機械学習方法に用いられる訓練データを生成する処理を行う訓練データ生成装置の機能的構成を示すブロック図である。
図11図11は、訓練データセットの概念図である。
図12図12は、機械学習装置が実行する機械学習方法の例を示すフローチャートである。
図13図13は、情報処理装置が実行する情報処理方法の例を示すフローチャートである。
図14図14は、第2実施形態に係る情報処理装置の機能的構成を示すブロック図である。
図15図15は、第2実施形態に係る情報処理装置のハードウェア構成の例を示すブロック図である。
図16図16は、第2実施形態に適用される画像生成モデルを生成するための機械学習方法の概要を示す説明図である。
図17図17は、第2実施形態に適用される機械学習装置の機能的構成を示すブロック図である。
図18図18は、第2実施形態に適用される機械学習装置のハードウェア構成の例を示すブロック図である。
図19図19は、第2実施形態の機械学習方法に用いられる訓練データを生成する処理を行う訓練データ生成装置の機能的構成を示すブロック図である。
図20図20は、第2実施形態に適用される機械学習装置が実行する機械学習方法の例を示すフローチャートである。
図21図21は、第2実施形態に係る情報処理装置が実行する情報処理方法の例を示すフローチャートである。
図22図22は、第2実施形態に係る情報処理装置を用いて非心電図同期CT画像から算出されたCACスコアと、心電図同期CT画像から算出されたCACスコアとの関係を示すグラフである。
図23図23は、比較例に係る情報処理装置を用いて非心電図同期CT画像から算出されたCACスコアと、心電図同期CT画像から算出されたCACスコアとの関係を示すグラフである。
図24図24は、CACスコアの算出に用いられた心電図同期CT画像、非心電図同期CT画像および非心電図同期CT画像から生成された疑似画像のそれぞれの画像例である。
【発明を実施するための形態】
【0037】
以下、添付図面に従って本発明の好ましい実施形態について説明する。
【0038】
《CACスコアリングの説明》
ここでは、CT装置を用いて被検者の心臓を含む胸部領域を撮影して得られたCT画像からCACスコアを測定する場合を例に説明する。CT装置は医療画像を撮影するモダリティの一例である。CACスコアは診断に用いられる臨床パラメータの一例である。図1は、心臓および冠動脈を模式的に示す説明図である。図1の左図F1Aは心臓を正面から見た図、図1の右図F1Bは心臓を上から見た図である。冠動脈は、左冠動脈主幹部(left main coronary trunk:LM)、左前下行動脈(left anterior descending artery:LAD)、左旋回動脈(left circumflex artery:LCX)および右冠動脈(right coronary artery:RCA)の4つの主要な枝を含む。図1中の「AA」は上行大動脈(Ascending Aorta)を表し、「PT」は肺動脈幹(Pulmonary Artery Trunk)を表す。
【0039】
CACスコアリングでは、冠動脈のこれら4つの主枝のカルシウム沈着の量を測定する。冠動脈内のカルシウムは心臓疾患を引き起こす要因となる。心臓疾患のリスクは、冠動脈における各主枝のカルシウム量を総合したトータルCACスコアと相関があり、算出されたCACスコアに基づき治療法などが決定される。
【0040】
図2は、心臓を含む胸部領域を撮影したCT画像の例である。図2の左側の画像F2Aは、心電図同期撮影により得られた心電図同期CT画像の例である。図2の右側の画像F2Bは、同じ被検者について心電図非同期撮影によって得られた非心電図同期CT画像の例である。両画像を比較すると明らかなように、心電図同期CT画像(左図)は心臓の動きによる影響が抑制された精細な画像F2Aであるのに対し、非心電図同期CT画像(右図)は、撮影時の心臓の動きにより不鮮明な(ぼやけた)画像F2Bである。なお、非心電図同期CT画像および心電図同期CT画像は、いずれも2次元スライス断層画像を連続的に撮影して得られた3次元データから構成された3次元画像である。「画像」という用語は、画像データの意味を含む。
【0041】
心電図同期撮影は本開示における「第1の撮影プロトコル」の一例である。心電図非同期撮影は本開示における「第2の撮影プロトコル」の一例である。心電図同期CT画像と非心電図同期CT画像とは同種のモダリティを用いて撮影された画像の一例である。
【0042】
非心電図同期CT画像は、心電図同期CT画像に比べて低線量の条件下で撮影することができる。すなわち、心電図非同期撮影は、心電図同期撮影よりも低線量で撮影可能であり、被検者にとって負荷が少ない撮影方法である。また、非心電図同期CT画像は、心電図同期CT画像に比べて遅いスキャン速度で撮影することができる。
【0043】
《課題の説明》
図3は、心電図同期CT画像F3Aから測定されたCACスコアの例を示す説明図である。心電図同期CT画像F3Aは、心臓の領域が4つの主枝のそれぞれの灌流領域(支配領域)に区分けされ、主枝の領域毎にCACスコアが算出される。各主枝の灌流領域の識別は、例えば、機械学習により訓練されたセグメンテーションモデルなどを用いた画像処理によって自動的に行われてもよいし、医師が画像を観察しながら手動で領域を指定してもよい。カルシウム領域か否かの識別は、各ボクセルのCT値に対する閾値処理によって判定可能である。例えば、CT値が100HUよりも大きな領域はカルシウム領域と判定される。
【0044】
図3に示す例では、RCA、LM、LAD、及びLCXの各冠動脈枝の個別のCACスコアがそれぞれ「0」、「0」、「90」、及び「30」と算出され、トータルCACスコアが「120」と算出された例を示す。
【0045】
図4は、図3に示す心電図同期CT画像F3Aと同じ被検者の非心電図同期CT画像F4Aから測定されたCACスコアの例を示す説明図である。図4に示す非心電図同期CT画像F4Aについて、図3の心電図同期CT画像F3Aと同様に、CT値の閾値処理を行うことにより、冠動脈枝の領域毎のCACスコアを算出すると、RCA、LM、LAD、及びLCXの各冠動脈枝の個別のCACスコアはそれぞれ「0」、「0」、「40」、及び「10」と算出され、トータルCACスコアが「50」と算出された例を示す。トータルCACスコアは本開示における「石灰化スコア」の一例である。
【0046】
図4に示すうように、非心電図同期CT画像F4Aから算出されるCACスコアは、心電図同期CT画像F3Aから算出されるCACスコアと乖離しており、非心電図同期CT画像F4Aから心電図同期CT画像F3Aと同程度の精度で正確に(精度よく)CACスコアを算出することは困難である。
【0047】
なお、図3及び図4では、4つの主枝の灌流領域毎に個別のCACスコアを算出して、これらの合計からトータルCACスコアを求めているが、主枝の灌流領域毎に区分けせずに、心臓の全体からCT値100HU以上のボクセル数をカウントしてCACスコアを算出してもよい。なお、「100HU」はカルシウム領域を判定するための閾値の一例である。
【0048】
《第1実施形態》
〔情報処理装置の構成〕
図5は、第1実施形態に係る情報処理装置10の機能的構成を示すブロック図である。情報処理装置10は、データ取得部12と、画像生成モデル14と、臨床パラメータ算出部16と、処理結果出力部18と、を備える。情報処理装置10の各種機能は、コンピュータのハードウェアとソフトウェアとの組み合わせによって実現し得る。情報処理装置10は、1台又は複数台のコンピュータを含むコンピュータシステムによって構成されてもよい。
【0049】
データ取得部12は、処理対象としての非心電図同期CT画像IMngを取得する。データ取得部12を介して入力される非心電図同期CT画像IMngは、CT装置を用いて実際に被検者を撮影して得られた実画像のデータである。
【0050】
画像生成モデル14は、非心電図同期CT画像IMngの入力を受けて、非心電図同期CT画像IMngから疑似心電図同期CT画像IMsynを生成するように機械学習によって訓練された学習済み(訓練済み)のモデルである。画像生成モデル14は、いわゆるエンコーダ-デコーダ型と呼ばれる全層畳み込みニューラルネットワーク(fully convolutional neural network:FCN)の構造を用いて構成される。
【0051】
画像生成モデル14から出力される疑似心電図同期CT画像IMsynは、CACスコアの算出に使用するために、画像処理によって人工的に生成されるシンセティック(Synthetic)画像である。疑似心電図同期CT画像IMsynは、入力された非心電図同期CT画像IMngを基にCACスコアを予測する処理の過程において中間的に生成される中間画像である。疑似心電図同期CT画像IMsynは、心電図同期撮影によって得られる心電図同期CT画像を模した人工的な画像として生成されるが、この疑似画像(中間画像)から目的のCACスコアが精度よく算出されればよく、疑似画像自体が実際の心電図同期撮影により得られる実画像の心電図同期CT画像の特徴と類似しているか否かは問題としない。なお、「疑似画像」という用語は、「補正画像」あるいは「変換画像」などと言い換えてもよい。
【0052】
非心電図同期CT画像IMngは本開示における「第1の画像」の一例であり、疑似心電図同期CT画像IMsynは本開示における「第2の画像」の一例である。
【0053】
画像生成モデル14は、訓練画像としての非心電図同期CT画像と、この訓練画像と同じ被検者の心電図同期CT画像から算出された正解のCACスコアとが関連付け(紐付け)された訓練データを用いて、訓練画像の入力を受けてモデルが出力する出力画像(疑似画像)から算出されるCACスコアが正解のCACスコアに近づくように訓練されたモデルである。画像生成モデル14を得るための機械学習方法について詳細は後述する。
【0054】
臨床パラメータ算出部16は、画像生成モデル14によって生成された疑似心電図同期CT画像IMsynに基づいて診断用の臨床パラメータを算出する。本実施形態において算出の対象とする臨床パラメータは、CACスコアである。
【0055】
処理結果出力部18は、臨床パラメータ算出部16によって算出された臨床パラメータの値(臨床パラメータの算出結果)を含む処理結果を出力する。処理結果出力部18は、例えば、処理結果を表示させる処理、処理結果をデータベース等に記録する処理、および処理結果を印刷させる処理のうち少なくとも1つの処理を行う構成であってよい。
【0056】
図6は、情報処理装置10のハードウェア構成の例を示すブロック図である。情報処理装置10は、プロセッサ102と、非一時的な有体物であるコンピュータ可読媒体104と、通信インターフェース106と、入出力インターフェース108と、バス110と、を備える。プロセッサ102は、バス110を介してコンピュータ可読媒体104、通信インターフェース106および入出力インターフェース108と接続される。情報処理装置10の形態は、特に限定されず、サーバであってもよいし、パーソナルコンピュータであってもよく、ワークステーション、あるいはタブレット端末などであってもよい。また、情報処理装置10は、読影用のビューワ端末などであってもよい。
【0057】
プロセッサ102はCPU(Central Processing Unit)を含む。プロセッサ102はGPU(Graphics Processing Unit)を含んでもよい。コンピュータ可読媒体104は、主記憶装置であるメモリ112および補助記憶装置であるストレージ114を含む。コンピュータ可読媒体104は、例えば、半導体メモリ、ハードディスク(Hard Disk Drive:HDD)装置、もしくはソリッドステートドライブ(Solid State Drive:SSD)装置またはこれらの複数の組み合わせであってよい。コンピュータ可読媒体104は本開示における「記憶装置」の一例である。
【0058】
コンピュータ可読媒体104は、入力画像記憶領域120と、生成画像記憶領域122と、処理結果記憶領域124と、を含む。また、コンピュータ可読媒体104には、画像生成モデル14、臨床パラメータ算出プログラム160、処理結果出力プログラム180および表示制御プログラム190を含む複数のプログラムおよびデータ等が記憶される。「プログラム」という用語はプログラムモジュールの概念を含む。プロセッサ102は、コンピュータ可読媒体104に記憶されたプログラムの命令を実行することにより、各種の処理部として機能する。
【0059】
入力画像記憶領域120には、処理の対象画像として入力された非心電図同期CT画像IMngが記憶される。生成画像記憶領域122には、画像生成モデル14から出力される生成画像である疑似心電図同期CT画像IMsynが記憶される。臨床パラメータ算出プログラム160は、疑似心電図同期CT画像IMsynから臨床パラメータを算出する処理を実行させる命令を含む。処理結果記憶領域124には、臨床パラメータ算出プログラム160によって算出された臨床パラメータの値を含む処理結果の情報が記録される。処理結果出力プログラム180は、臨床パラメータの値を含む処理結果を出力する処理を実行させる命令を含む。表示制御プログラム190は、表示装置154への表示出力に必要な表示用信号を生成し、表示装置154の表示制御を実行させる命令を含む。
【0060】
情報処理装置10は、通信インターフェース106を介して不図示の電気通信回線に接続され得る。電気通信回線は、広域通信回線であってもよいし、構内通信回線であってもよく、これらの組み合わせであってもよい。
【0061】
情報処理装置10は、入力装置152と、表示装置154とを備えていてもよい。入力装置152は、例えば、キーボード、マウス、マルチタッチパネル、もしくはその他のポインティングデバイス、もしくは、音声入力装置、またはこれらの適宜の組み合わせによって構成される。表示装置154は、例えば、液晶ディスプレイ、有機EL(organic electro-luminescence:OEL)ディスプレイ、もしくは、プロジェクタ、またはこれらの適宜の組み合わせによって構成される。入力装置152と表示装置154とは、入出力インターフェース108を介してプロセッサ102と接続される。
【0062】
〔機械学習方法の概要〕
図7は、第1実施形態に適用される画像生成モデル14を生成するための機械学習方法の概要を示す説明図である。
【0063】
訓練に用いるデータセットは、被検者を撮影して得られた非心電図同期CT画像F7Aと、この非心電図同期CT画像F7Aと同じ被検者を撮影して得られた心電図同期CT画像F7Bから算出されたCACスコアGTSとが関連付けされた複数の訓練データを含む。非心電図同期CT画像F7Aは、学習モデル210への入力用の訓練画像である。CACスコアGTSは、非心電図同期CT画像F7Aに対応する正解のCACスコアであり、教師有り学習における教師データ(正解データ)に相当する。CACスコアGTSは、例えば、心電図同期CT画像F7BにおけるCT値が100HUよりも大きい領域のボクセル数をカウントした値であってもよい。第1実施形態の場合、CACスコアGTSはトータルCACスコアであってよい。心電図同期CT画像F7Bは本開示における「対応画像」の一例である。
【0064】
学習モデル210は、全層畳み込みニューラルネットワークによって構成され、次のような方法により訓練される。
【0065】
[手順1]学習モデル210に対して、訓練画像である非心電図同期CT画像F7Aが入力される。
【0066】
[手順2]非心電図同期CT画像F7Aの入力によって学習モデル210から生成画像F7Cの出力を得る。
【0067】
[手順3]学習モデル210から出力された生成画像F7CについてCT値>100HUの条件による閾値処理により、CACスコアPRSを算出する。生成画像F7Cから算出されるCACスコアPRSは、非心電図同期CT画像F7Aから予測されるCACスコアである。
【0068】
[手順4]機械学習の処理を実行するプロセッサを含む機械学習装置は、生成画像F7Cから算出されたCACスコアPRSと、正解のCACスコアGTSとから損失(loss)を算出し、損失を最小化するように、学習モデル210のモデルパラメータを更新する。損失は、例えばL1損失であってよい。なお、損失を最小化するように学習することは、生成画像F7Cから算出されるCACスコアPRSが正解のCACスコアGTSに近づくように(誤差が小さくなるように)学習することを意味している。
【0069】
複数の訓練データを用いて上記手順1~4を繰り返すことにより、学習モデル210のモデルパラメータが最適化され、学習モデル210は、正解のCACスコアと同程度の精度によりCACスコアPRSが算出される生成画像F7Cを生成するように訓練される。
【0070】
図8は、機械学習装置30の機能的構成を示すブロック図である。機械学習装置30は、学習モデル210と、臨床パラメータ算出部220と、損失算出部230と、モデルパラメータ更新量算出部232と、モデルパラメータ更新部234と、を含む。機械学習装置30の各処理部の機能は、コンピュータのハードウェアとソフトウェアの組み合わせによって実現できる。機械学習装置30の各部の機能は1台のコンピュータで実現してもよいし、2以上の複数台のコンピュータで処理の機能を分担して実現してもよい。
【0071】
訓練データは、非心電図同期CT画像である訓練画像TIjと、これに対応する正解臨床パラメータGTjと、を含む。添字のjは、複数の訓練データを識別するインデンクス番号を表す。第1実施形態の場合、正解臨床パラメータGTjは、訓練画像TIjと同じ被検者の心電図同期CT画像から算出されたCACスコアであってよい。
【0072】
学習モデル210は、非心電図同期CT画像である訓練画像TIjの入力を受けて生成画像SIjを出力する。臨床パラメータ算出部220は、生成画像SIjから臨床パラメータPPjを算出する。この臨床パラメータPPjは、生成画像SIjから閾値処理により算出されるトータルCACスコアであってよい。生成画像SIjから算出される臨床パラメータPPjは、訓練画像TIjから予測(推定)される臨床パラメータ予測値に相当する。
【0073】
損失算出部230は、臨床パラメータ算出部220が算出した臨床パラメータPPjと、正解臨床パラメータGTjとの誤差を示す損失を算出する。
【0074】
モデルパラメータ更新量算出部232は、算出された損失に基づき、学習モデル210におけるモデルパラメータの更新量を算出する。モデルパラメータは、CNNの各層の処理に用いるフィルタのフィルタ係数(ノード間の結合の重み)およびノードのバイアスなどを含む。
【0075】
モデルパラメータ更新部234は、モデルパラメータ更新量算出部232により算出された更新量に従い学習モデル210のモデルパラメータを更新する。モデルパラメータ更新量算出部232およびモデルパラメータ更新部234は、例えば確率的勾配降下法(Stochastic Gradient Descent:SGD)などの手法により、モデルパラメータの最適化を行う。
【0076】
図9は、機械学習装置30のハードウェア構成の例を示すブロック図である。機械学習装置30は、プロセッサ302と、非一時的な有体物であるコンピュータ可読媒体304と、通信インターフェース306と、入出力インターフェース308と、バス310と、を備える。コンピュータ可読媒体304は、メモリ312およびストレージ314を含む。プロセッサ302は、バス310を介してコンピュータ可読媒体304、通信インターフェース306および入出力インターフェース308と接続される。入力装置352および表示装置354は入出力インターフェース308を介してバス310に接続される。機械学習装置30のハードウェア構成は、図6で説明した情報処理装置10の対応する要素と同様であってよい。機械学習装置30の形態は、サーバであってもよいし、パーソナルコンピュータであってもよく、ワークステーションであってもよい。
【0077】
機械学習装置30は、通信インターフェース306を介して不図示の電気通信回線に接続され、訓練データ保存部550などの外部装置と通信可能に接続される。訓練データ保存部550は、複数の訓練データを含む訓練データセットが保存されているストレージを含む。なお、訓練データ保存部550は、機械学習装置30内のストレージ314に構築されてもよい。
【0078】
コンピュータ可読媒体304には、学習処理プログラム330および表示制御プログラム340を含む複数のプログラムおよびデータ等が記憶される。学習処理プログラム330は、データ取得プログラム400、学習モデル210、臨床パラメータ算出プログラム420、損失算出プログラム430およびオプティマイザ440を含む。データ取得プログラム400は、訓練データ保存部550から訓練データを取得する処理を実行させる命令を含む。臨床パラメータ算出プログラム420は、図6で説明した臨床パラメータ算出プログラム160と同様であってよい。
【0079】
損失算出プログラム430は、臨床パラメータ算出プログラム420により算出された臨床パラメータと、訓練画像に対応する正解臨床パラメータとの誤差を示す損失を算出する処理を実行させる命令を含む。オプティマイザ440は、算出された損失からモデルパラメータの更新量を算出し、学習モデル210のモデルパラメータを更新する処理を実行させる命令を含む。
【0080】
〔訓練データの生成方法〕
図10は、第1実施形態の機械学習方法に用いられる訓練データを生成する処理を行う訓練データ生成装置50の機能的構成を示すブロック図である。
【0081】
訓練データ生成装置50は、臨床パラメータ算出部520と、関連付け処理部530と、を含む。訓練データを生成するために、まず、同じ被検者の同じ部位の領域を含む非心電図同期CT画像NIjと、心電図同期CT画像GIjとの画像ペアが複数組用意される。
【0082】
非心電図同期CT画像NIjは、学習モデル210への入力用の訓練画像TIjとなる。臨床パラメータ算出部520は、心電図同期CT画像GIjから臨床パラメータを算出する。関連付け処理部530は、心電図同期CT画像GIjから算出された臨床パラメータCPjと、非心電図同期CT画像NIjとの関連付け(紐付け)を行う。すなわち、関連付け処理部530は、心電図同期CT画像GIjから算出された臨床パラメータCPjを、非心電図同期CT画像NIj(訓練画像TIj)に対応する正解臨床パラメータGTjとして非心電図同期CT画像NIjに関連付けする。
【0083】
関連付け処理部530によって関連付けされた非心電図同期CT画像NIjおよび臨床パラメータCPjは、訓練画像TIjおよび正解臨床パラメータGTjとして訓練データ保存部550に保存される。訓練データ保存部550は、訓練データ生成装置50に含まれてもよいし、訓練データ生成装置50とは別の装置であってもよい。複数の被検者のそれぞれについて撮影された画像ペアについて、同様の処理を行うことにより、複数の訓練データのセットが得られる。訓練データ生成装置50の機能は、機械学習装置30に組み込まれていてもよい。
【0084】
図11は、訓練データ保存部550に保存される訓練データセットの概念図である。図11に示すように、訓練データセットは、入力用の訓練画像TIjと、対応する正解臨床パラメータGTjであるCACスコアの値とが関連付けされた複数の訓練データを含む。図11のような訓練データセットを事前に用意しておき、訓練データセットからサンプルを取得して学習モデル210を訓練することが望ましい。なお、学習モデル210の訓練中に心電図同期CT画像GIjから正解の臨床パラメータを算出して訓練データを生成することも可能である。
【0085】
〔機械学習装置30が実行する機械学習方法のフローチャート〕
図12は、機械学習装置30が実行する機械学習方法の例を示すフローチャートである。ステップS102において、プロセッサ302は、訓練データを取得する。
【0086】
ステップS104において、プロセッサ302は、訓練データの訓練画像TIjを学習モデル210に入力し、学習モデル210によって疑似画像を生成する。
【0087】
ステップS106において、プロセッサ302は、学習モデル210が出力した疑似画像から臨床パラメータを算出する。
【0088】
ステップS108において、プロセッサ302は、疑似画像から算出された臨床パラメータと訓練画像TIjに紐付けされた正解臨床パラメータGTjとの誤差を示す損失を算出する。
【0089】
ステップS110において、プロセッサ302は、算出された損失に基づき学習モデル210のモデルパラメータの更新量を算出し、モデルパラメータを更新する。なお、ステップS102からステップS110の動作はミニバッチの単位で実施されてもよい。
【0090】
ステップS112において、プロセッサ302は、学習を終了するか否かを判定する。
学習の終了条件は、損失の値に基づいて定められていてもよいし、モデルパラメータの更新回数に基づいて定められていてもよい。損失の値に基づく方法としては、例えば、損失が規定の範囲内に収束していることを学習終了条件としてよい。また、更新回数に基づく方法としては、例えば、更新回数が規定回数に到達したことを学習終了条件としてよい。あるいは、訓練データとは別にモデルの性能評価用のデータセットを用意しておき、評価用のデータを用いた評価値に基づいて学習終了の可否を判定してもよい。
【0091】
ステップS112の判定結果がNo判定である場合、プロセッサ302はステップS102に戻り、学習処理を継続する。一方、ステップS112の判定結果がYes判定である場合、プロセッサ302は図12のフローチャートを終了する。
【0092】
こうして、訓練された学習済みの学習モデル210は、画像生成モデル14として情報処理装置10に組み込まれる。機械学習装置30が実行する機械学習方法は、画像生成モデル14を生成する方法と理解することができ、本開示における学習モデル生成方法の一例である。
【0093】
〔情報処理装置10が実行する情報処理方法のフローチャート〕
図13は、情報処理装置10が実行する情報処理方法の例を示すフローチャートである。ステップS202において、プロセッサ102は、処理の対象となる対象画像を取得する。この場合の対象画像は、非心電図同期CT画像である。プロセッサ102は、不図示の画像保存サーバなどから対象画像を自動的に取得してもよいし、ユーザインターフェースを介して対象画像の入力を受け付け、指定された画像を取得してもよい。画像保存サーバは、例えば、DICOM(Digital Imaging and Communications in Medicine)サーバであってもよい。
【0094】
ステップS204において、プロセッサ102は、対象画像を画像生成モデル14に入力し、画像生成モデル14によって疑似画像を生成する。
【0095】
ステップS206において、プロセッサ102は、疑似画像から臨床パラメータを算出する。
【0096】
ステップS208において、プロセッサ102は、算出された臨床パラメータの値を含む処理結果を出力する。
【0097】
ステップS208の後、プロセッサ102は、図13のフローチャートを終了する。
【0098】
《第2実施形態》
第2実施形態では、冠動脈の4つの主枝の灌流領域毎にCACスコアを算出する場合の例を説明する。
【0099】
〔情報処理装置の構成〕
図14は、第2実施形態に係る情報処理装置100の機能的構成を示すブロック図である。図14において、図5に示す構成と同一または類似の要素は同一の符号を付し、重複する説明は省略する。図14に示す構成について図5と異なる点を説明する。
【0100】
図14に示す情報処理装置100は、データ取得部12を介して入力された非心電図同期CT画像について冠動脈の4つの主枝の灌流領域に区分けする解剖学的領域分割部15を含む。冠動脈の4つの主枝の灌流領域は、解剖学的領域の一例である。解剖学的領域分割部15は、例えば、入力された画像を4つの主枝の灌流領域別に領域分割するセグメンテーションの処理を行い、領域分割されたセグメンテーション結果を出力するように機械学習によって訓練された学習モデル(セグメンテーションモデル)を用いて構成される。
【0101】
解剖学的領域分割部15によって得られる解剖学的領域情報は、臨床パラメータ算出部16に送られる。臨床パラメータ算出部16は、画像生成モデル14によって生成された疑似心電図同期CT画像IMsynについて解剖学的領域情報を適用し、解剖学的領域毎に臨床パラメータを算出する。すなわち、第2実施形態の場合、主枝の灌流領域毎のCACスコアが算出される。その他の構成は、図5で説明した構成と同様であってよい。
【0102】
図15は、第2実施形態に係る情報処理装置100のハードウェア構成の例を示すブロック図である。図15に示す構成について、図6に示す構成と同一または類似の要素には同一の符号を付し、重複する説明は省略する。
【0103】
情報処理装置100のハードウェア構成は、図6に示す情報処理装置10と同様であってよい。情報処理装置100のコンピュータ可読媒体104には、図6で説明した構成に加え、解剖学的領域分割プログラム150が記憶される。解剖学的領域分割プログラム150は、解剖学的領域分割部15として機能するセグメンテーションの処理を行うように機械学習によって訓練された学習済みモデルを含んでもよい。また、解剖学的領域分割プログラム150は、ユーザインターフェースを介して解剖学的領域を指定する指示の入力を受け付け、指示された情報に基づいて画像の領域分割を行い、解剖学的領域を特定することにより解剖学的領域情報を生成させる命令を含んでもよい。
【0104】
また、情報処理装置100のコンピュータ可読媒体104は、解剖学的領域情報記憶領域125を含む。解剖学的領域情報記憶領域125には、解剖学的領域分割プログラム150によって得られた解剖学的領域情報が記憶される。臨床パラメータ算出プログラム160は、画像生成モデル14の生成画像に対して解剖学的領域情報を適用し、生成画像のそれぞれの解剖学的領域について個別に臨床パラメータを算出する。その他の構成は、図6で説明した構成と同様であってよい。
【0105】
図16は、第2実施形態に適用される画像生成モデル14を生成するため機械学習方法の概要を示す説明図である。訓練データセットは、被検者を撮影して得られた非心電図同期CT画像F16Aと、非心電図同期CT画像F16Aについての解剖学的領域情報としての冠動脈の4つの主枝のそれぞれの灌流領域を領域分けした情報と、この非心電図同期CT画像F16Aと同じ被検者を撮影して得られた心電図同期CT画像F16Bから算出された解剖学的領域毎の正解CACスコアGTSsとが関連付けされた複数の訓練データを含む。
【0106】
非心電図同期CT画像F16Aは、学習モデル210への入力用の訓練画像である。正解CACスコアGTSsは、非心電図同期CT画像F16Aに対応する教師データである。正解CACスコアGTSsは、例えば、心電図同期CT画像F16Bにおける解剖学的領域毎にCT値が100HUよりも大きい領域のボクセル数をカウントした値であってもよい。第2実施形態の場合、正解CACスコアGTSsは、冠動脈の主枝の灌流領域毎のCACスコアのセットである。なお、解剖学的領域情報は、非心電図同期CT画像F16Aから生成してもよいし、対応する心電図同期CT画像F16Bから生成してもよい。
【0107】
この場合、学習モデル210は、次のような手順で学習が行われる。
【0108】
[手順1]学習モデル210に対して、訓練画像である非心電図同期CT画像F16Aが入力される。
【0109】
[手順2]非心電図同期CT画像F16Aの入力によって学習モデル210から生成画像F16Cの出力を得る。
【0110】
[手順3]生成画像F16Cに対して解剖学的領域情報を適用して生成画像F16Cを冠動脈枝の灌流領域に分割し、かつ、生成画像F16Cに対してCT値>100HUの条件による閾値処理を行い、それぞれの灌流領域について個別にCACスコアPRSsを算出する。生成画像F7Cから算出される領域別のCACスコアPRSsは、非心電図同期CT画像F16Aから予測されるCACスコアである。図16には、生成画像F7Cから算出された4つの主枝に対応する領域別のCACスコアPRSsの値が(RCA,LM,LAD,LCx)=(5,2,60,45)である場合の例が示されている。
【0111】
[手順4]機械学習を実行するプロセッサを含む機械学習装置は、生成画像F7Cから算出されたCACスコアPRSsと、正解CACスコアGTSsとから損失を算出し、損失を最小化するように、学習モデル210のモデルパラメータを更新する。図16には、4つの主枝に対応する領域別の正解CACスコアGTSsの値が(RCA,LM,LAD,LCx)=(0,0,90,30)である場合の例が示されている。学習モデル210は、解剖学的領域毎に生成画像F7Cから算出されるそれぞれの臨床パラメータの値が、対応する解剖学的領域の正解の臨床パラメータの値に近づくように、モデルパラメータが更新される。
【0112】
複数の訓練データを用いて上記手順1~4を繰り返すことにより、学習モデル210のモデルパラメータが最適化され、学習モデル210は、正解CACスコアGTSsと同程度の精度によりCACスコアPRSsが算出される生成画像F16Cを生成するように訓練される。
【0113】
図17は、第2実施形態に適用される機械学習装置32の機能的構成を示すブロック図である。図17に示す構成について、図8に示す構成と同一または類似の要素には同一の符号を付し、重複する説明は省略する。
【0114】
機械学習装置32が取得する訓練データには、非心電図同期CT画像である訓練画像TIjについての解剖学的領域情報AAjが含まれる。また、訓練画像TIjに紐付けされる正解の臨床パラメータは、解剖学的領域毎の正解臨床パラメータGTsjとなっている。
【0115】
臨床パラメータ算出部220は、学習モデル210から出力された生成画像SIjと解剖学的領域情報AAjとに基づき、解剖学的領域毎の臨床パラメータPPsjを算出する。その他の構成は、図8で説明した構成と同様であってよい。
【0116】
図18は、第2実施形態に適用される機械学習装置32のハードウェア構成の例を示すブロック図である。図18に示す構成について、図9に示す構成と同一または類似の要素には同一の符号を付し、重複する説明は省略する。
【0117】
機械学習装置32のハードウェア構成は、図9に示す構成と同様であってよい。コンピュータ可読媒体304には、図9で説明した構成に加え、解剖学的領域分割プログラム450が記憶される。解剖学的領域分割プログラム450は、図15で説明した解剖学的領域分割プログラム150と同様の構成であってよい。
【0118】
訓練データ保存部550には、訓練画像TIjと、その訓練画像TIjについての解剖学的領域情報AAjと、解剖学的領域毎の正解臨床パラメータGTsjとが関連付けされた複数の訓練データを含む訓練データセットが保存されている。
【0119】
データ取得プログラム400は、解剖学的領域情報AAjを含む訓練データを取得する処理を実行させる命令を含む。臨床パラメータ算出プログラム420は、解剖学的領域情報AAjと生成画像SIjとに基づいて、生成画像SIjから解剖学的領域毎の臨床パラメータを算出する処理を実行させる命令を含む。また、損失算出プログラム430は、生成画像SIjから算出された解剖学的領域毎の臨床パラメータPPsjと、訓練画像TIjに紐付けされた解剖学的領域毎の正解臨床パラメータGTsjとから損失を算出する処理を実行させる命令を含む。その他の構成は、図9で説明した構成と同様であってよい。
【0120】
図19は、第2実施形態の機械学習方法に用いられる訓練データを生成する処理を行う訓練データ生成装置52の機能的構成を示すブロック図である。図19において、図10に示す構成と同一又は類似の要素には同一の符号を付し、重複する説明は省略する。
【0121】
訓練データ生成装置52は、図10に示す構成に対して、解剖学的領域分割部510A、510Bが追加された構成となっている。なお、図19においては、解剖学的領域分割部510A、510Bを図示しているが、解剖学的領域分割部510A、510Bは共通の(単一の)処理部であってよい。また、図19では、心電図同期CT画像GIjと非心電図同期CT画像NIjとのそれぞれから解剖学的領域情報を取得する例が示されているが、非心電図同期CT画像NIjから解剖学的領域分割部510Bによって得られる解剖学的領域情報は、心電図同期CT画像GIjから得られる解剖学的領域情報と概ね同等の精度であることから、いずれか一方の画像のみから解剖学的領域情報を取得する構成であってもよい。
【0122】
例えば、心電図同期CT画像GIjから得られた解剖学的領域情報を訓練画像TIjと関連付けて、訓練データの解剖学的領域情報AAjとしてもよい。あるいはまた、非心電図同期CT画像NIjから得られた解剖学的領域情報AAjを臨床パラメータ算出部520に適用して、解剖学的領域毎の臨床パラメータCPsjを算出してもよい。
【0123】
〔機械学習装置32が実行する機械学習方法のフローチャート〕
図20は、機械学習装置30が実行する機械学習方法の例を示すフローチャートである。図20に示すフローチャートについて、図12と共通するステップには同一のステップ番号を付し、重複する説明は省略する。
【0124】
図20に示すフローチャートは、図12のステップS106の代わりに、ステップS107を含む。ステップS104の後、ステップS107において、プロセッサ302は、学習モデルが生成した疑似画像(生成画像SIj)と、訓練画像TIjに関連付けされた解剖学的領域情報AAjとに基づき、疑似画像から解剖学的領域毎の臨床パラメータPPsjを算出する。
【0125】
ステップS108において、プロセッサ302は、疑似画像から算出された解剖学的領域毎の臨床パラメータPPsjと、訓練画像TIjに関連付けされている解剖学的領域毎の正解臨床パラメータGTsjとから損失を算出する。
【0126】
その他のステップは図12のフローチャートと同様であってよい。こうして、訓練された学習済みの学習モデル210は、画像生成モデル14として情報処理装置100に組み込まれる。
【0127】
〔情報処理装置100が実行する情報処理方法のフローチャート〕
図21は、第2実施形態に係る情報処理装置100が実行する情報処理方法の例を示すフローチャートである。図21のフローチャートについて、図13と共通するステップには同一のステップ番号を付し、重複する説明は省略する。
【0128】
図21に示すフローチャートは、図13のステップS206の代わりに、ステップS205とステップS207とを含む。
【0129】
ステップS204の後、プロセッサ102は、対象画像を解剖学的領域に分割し、解剖学的領域情報を取得する。
【0130】
ステップS207において、プロセッサ102は、画像生成モデル14が生成した疑似画像と、解剖学的領域情報とに基づき、疑似画像から解剖学的領域毎の臨床パラメータを算出する。第2実施形態の場合、冠動脈の4つの主枝の灌流領域毎のCACスコアが算出される。その他のステップは、図13のフローチャートと同様であってよい。
【0131】
〔非心電図同期CT画像に基づくCACスコアリングの精度の検証〕
図22は、第2実施形態に係る情報処理装置100を用いて非心電図同期CT画像から算出されたCACスコアと、同じ被検者の対応する心電図同期CT画像から算出されたCACスコアとの関係を示すグラフである。図22に示すように、両者のCACスコアは概ね一致している。
【0132】
図23は、比較例に係る情報処理装置を用いて非心電図同期CT画像から算出されたCACスコアと、心電図同期CT画像から算出されたCACスコアとの関係を示すグラフである。比較例に係る情報処理装置は、画像生成モデル14を用いずに、非心電図同期CT画像に対して閾値処理を行うことによりCACスコアを算出するように構成されている。この場合、図23に示すように、両者のCACスコアは大きく乖離している。
【0133】
図24には、図22および図23に示すCACスコアリングに用いられた画像の一例が示されている。図24の左図F24Aは心電図同期CT画像の例である。中央図F24Bは、左図F24Aと同じ被検者の非心電図同期CT画像の例である。右図F24Cは、中央図F24Bの非心電図同期CT画像から画像生成モデル14が生成した擬似画像の例である。左図F24Aと右図F24Cとを比較すると明らかなように、画像生成モデル14が出力する擬似画像は、実画像の心電図同期CT画像とは異なるアピアランスの特徴を持つ画像となり得る。
【0134】
《コンピュータを動作させるプログラムについて》
第1実施形態に係る情報処理装置10、機械学習装置30、訓練データ生成装置50、第2実施形態に係る情報処理装置100、機械学習装置32および訓練データ生成装置52の各装置における処理機能の一部または全部をコンピュータに実現させるプログラムを、光ディスク、磁気ディスク、もしくは、半導体メモリその他の有体物たる非一時的な情報記憶媒体であるコンピュータ可読媒体に記録し、この情報記憶媒体を通じてプログラムを提供することが可能である。
【0135】
またこのような有体物たる非一時的なコンピュータ可読媒体にプログラムを記憶させて提供する態様に代えて、インターネットなどの電気通信回線を利用してプログラム信号をダウンロードサービスとして提供することも可能である。
【0136】
さらに、上述の各装置における処理機能の一部または全部をクラウドコンピューティングによって実現してもよく、また、SaaS(Software as a Service)として提供することも可能である。
【0137】
《各処理部のハードウェア構成について》
情報処理装置10および情報処理装置100におけるデータ取得部12、画像生成モデル14を含む画像生成部、解剖学的領域分割部15、臨床パラメータ算出部16、処理結果出力部18、機械学習装置30および機械学習装置32における学習モデル210を含む画像生成部、臨床パラメータ算出部220、損失算出部230、モデルパラメータ更新量算出部232、モデルパラメータ更新部234、訓練データ生成装置50および訓練データ生成装置52における解剖学的領域分割部510A、510B、臨床パラメータ算出部520、および関連付け処理部530などの各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、例えば、次に示すような各種のプロセッサ(processor)である。
【0138】
各種のプロセッサには、プログラムを実行して各種の処理部として機能する汎用的なプロセッサであるCPU、GPU、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
【0139】
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種または異種の2つ以上のプロセッサで構成されてもよい。例えば、1つの処理部は、複数のFPGA、あるいは、CPUとFPGAの組み合わせ、またはCPUとGPUの組み合わせによって構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第一に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第二に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
【0140】
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
【0141】
〔第1実施形態および第2実施形態の利点〕
上述した第1実施形態に係る情報処理装置10および第2実施形態に係る情報処理装置100によれば、次のような効果が得られる。
【0142】
[1]非心電図同期CT画像から心電図同期CT画像と同程度の精度でCACスコアを算出することが可能である。
【0143】
[2]非心電図同期CT画像は、心電図同期CT画像と比較して、簡便な撮影方法によって取得可能であり、特別に高価な高機能撮影システムを必要とせず、通常のCT装置を用いて取得可能である。
【0144】
[3]非心電図同期CT画像は、心電図同期CT画像と比較して、被検者に対する放射線量が少なく、被検者にとって低負荷で取得可能である。
【0145】
[4]情報処理装置10および情報処理装置100のそれぞれによって算出されるCACスコアは、その算出のプロセスが説明可能であり、算出結果の値について合理的な納得感が得られる。
【0146】
《他の臨床パラメータについて》
上述の各実施形態では、臨床パラメータとしてCACスコアを算出する例を説明したが、臨床パラメータはCACスコアに限らず、石灰化の重症度を示すCAC重症度ステージであってもよい。また、臨床パラメータは、心臓血管のカルシウム体積であってもいし、アガストンスコア(Agaston score)であってもよい。
【0147】
《医療画像の種類について》
本開示の技術は、CT画像に限らず、MRI(Magnetic Resonance Imaging)装置を用いて撮影されるMR画像、人体情報を投影する超音波画像および陽電子放射断層撮影(Positron Emission Tomography:PET)装置を用いて撮影されるPET画像、内視鏡装置を用いて撮影された内視鏡画像など、様々な医療機器(モダリティ)によって撮影される各種の医療画像を対象とすることができる。本開示の技術が対象とする画像は3次元画像に限らず、2次元画像であってもよい。なお、2次元画像を扱う構成の場合、上述の各実施形態で説明した内容における「ボクセル」は「ピクセル」に置き換えて適用される。
【0148】
《その他》
本開示は上述した実施形態に限定されるものではなく、本開示の技術的思想の趣旨を逸脱しない範囲で種々の変形が可能である。
【符号の説明】
【0149】
10、100 情報処理装置
12 データ取得部
14 画像生成モデル
15 解剖学的領域分割部
16 臨床パラメータ算出部
18 処理結果出力部
30、32 機械学習装置
50、52 訓練データ生成装置
102 プロセッサ
104 コンピュータ可読媒体
106 通信インターフェース
108 入出力インターフェース
110 バス
112 メモリ
114 ストレージ
120 入力画像記憶領域
122 生成画像記憶領域
124 処理結果記憶領域
125 解剖学的領域情報記憶領域
150 解剖学的領域分割プログラム
152 入力装置
154 表示装置
160 臨床パラメータ算出プログラム
180 処理結果出力プログラム
190 表示制御プログラム
210 学習モデル
220 臨床パラメータ算出部
230 損失算出部
232 モデルパラメータ更新量算出部
234 モデルパラメータ更新部
302 プロセッサ
304 コンピュータ可読媒体
306 通信インターフェース
308 入出力インターフェース
310 バス
314 ストレージ
330 学習処理プログラム
340 表示制御プログラム
352 入力装置
354 表示装置
400 データ取得プログラム
420 臨床パラメータ算出プログラム
430 損失算出プログラム
440 オプティマイザ
450 解剖学的領域分割プログラム
510A 解剖学的領域分割部
510B 解剖学的領域分割部
520 臨床パラメータ算出部
530 関連付け処理部
550 訓練データ保存部
AAj 解剖学的領域情報
CPj 臨床パラメータ
CPsj 臨床パラメータ
F1A 左図
F1B 右図
F2A 画像
F2B 画像
F3A 心電図同期CT画像
F4A 非心電図同期CT画像
F7A 非心電図同期CT画像
F7B 心電図同期CT画像
F7C 生成画像
F16A 非心電図同期CT画像
F16B 心電図同期CT画像
F16C 生成画像
F24A 左図
F24B 中央図
F24C 右図
GIj 心電図同期CT画像
GTj 正解臨床パラメータ
GTS CACスコア
GTsj 正解臨床パラメータ
GTSs 正解CACスコア
IMng 非心電図同期CT画像
IMsyn 疑似心電図同期CT画像
NIj 非心電図同期CT画像
PPj 臨床パラメータ
PPsj 臨床パラメータ
PRS CACスコア
PRSs CACスコア
SIj 生成画像
TIj 訓練画像
S102~S112 機械学習方法のステップ
S202~S208 情報処理方法のステップ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24