IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 学校法人帝京大学の特許一覧

特開2024-118355学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム
<>
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図1
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図2
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図3
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図4
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図5
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図6
  • 特開-学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024118355
(43)【公開日】2024-08-30
(54)【発明の名称】学習済モデルの生成方法、画像生成方法、画像生成装置およびプログラム
(51)【国際特許分類】
   A61B 6/00 20240101AFI20240823BHJP
   A61B 6/50 20240101ALI20240823BHJP
【FI】
A61B6/00 350M
A61B6/00 331A
A61B6/00 350S
A61B6/00 360Z
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023024728
(22)【出願日】2023-02-20
(71)【出願人】
【識別番号】399086263
【氏名又は名称】学校法人帝京大学
(74)【代理人】
【識別番号】100218062
【弁理士】
【氏名又は名称】小野 悠樹
(74)【代理人】
【識別番号】100093230
【弁理士】
【氏名又は名称】西澤 利夫
(72)【発明者】
【氏名】高田 剛志
(72)【発明者】
【氏名】山田 謙太郎
【テーマコード(参考)】
4C093
【Fターム(参考)】
4C093AA01
4C093AA22
4C093AA24
4C093CA21
4C093DA02
4C093FF07
4C093FF34
(57)【要約】
【課題】対象組織を表す領域とそれ以外の領域とのコントラストが強調された画像を出力する学習済モデルの生成において、被験者への負担を軽減する。
【解決手段】観察対象となる対象組織を表す第1領域と当該第1領域以外の第2領域とを含み、造影剤を使用して得られた第1画像と、観察対象となる対象組織を表す第3領域と当該第3領域以外の第4領域とを含み、当該第3領域と当該第4領域とのコントラストが前記第1画像における前記第1領域と前記第2領域とのコントラストよりも低い第2画像との関係を機械学習することで学習済モデルを生成し、前記第2画像は、前記第1画像に対して画像処理をすることで生成されるコンピュータシステムにより実現される学習済モデルの生成方法。
【選択図】図4
【特許請求の範囲】
【請求項1】
観察対象となる対象組織を表す第1領域と当該第1領域以外の第2領域とを含み、造影剤を使用して得られた第1画像と、
観察対象となる対象組織を表す第3領域と当該第3領域以外の第4領域とを含み、当該第3領域と当該第4領域とのコントラストが前記第1画像における前記第1領域と前記第2領域とのコントラストよりも低い第2画像との関係を機械学習することで学習済モデルを生成し、
前記第2画像は、前記第1画像に対して画像処理をすることで生成される
コンピュータシステムにより実現される学習済モデルの生成方法。
【請求項2】
前記画像処理では、前記第1領域における画素値を変化することで得られる前記第3領域を含む前記第2画像を生成する
請求項1の生成方法。
【請求項3】
前記画像処理では、前記第2領域における画素値を維持することで得られる前記第4領域を含む前記第2画像を生成する
請求項2の生成方法。
【請求項4】
前記画像処理では、1個の前記第1画像から、前記第3領域と前記第4領域とのコントラストが相異なる複数の第2画像を生成する
請求項1の生成方法。
【請求項5】
前記第1画像は、デジタル差分血管造影法(Digital subtraction angiography)により得られた画像である
請求項1の生成方法。
【請求項6】
請求項1の生成方法により生成された学習済モデルに、造影剤を使用して得られた画像であって、観察対象となる対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像を入力することで、前記対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが前記入力画像よりも高い出力画像を生成する生成処理を含む
画像生成方法。
【請求項7】
前記入力画像は、前記第1画像を得るために使用した造影剤の濃度よりも低い濃度の造影剤を使用して得られる画像である
請求項6の画像生成方法。
【請求項8】
前記学習済モデルは、複数の対象組織の種類にそれぞれ対応する複数の学習済モデルを含み、
前記生成処理では、前記複数の学習済モデルのうち利用者からの指示に応じて選択した学習済モデルを用いる
請求項6の画像生成方法。
【請求項9】
請求項1の生成方法により生成された学習済モデルに、造影剤を使用して得られた画像であって、観察対象となる対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像を入力することで、前記対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが前記入力画像よりも高い出力画像を生成する生成部を含む
画像生成装置。
【請求項10】
請求項1の生成方法により生成された学習済モデルに、造影剤を使用して得られた画像であって、観察対象となる対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像を入力することで、前記対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが前記入力画像よりも高い出力画像を生成する生成部
としてコンピュータシステムを機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、人体について造影剤を用いて撮像される画像のコントラストを改善するための技術に関する。
【背景技術】
【0002】
各種の画像診断において、観察の対象となる組織(以下「対象組織」という)と、対象組織の周囲の組織とのコントラストを強調するために造影剤が使用されている。例えば、血管造影法、X線透視法、コンピュータ断層撮影法(CT)、超音波イメージングおよび磁気共鳴イメージング(MRI)といった各種の画像診断の技術において、造影剤が用いられている。
【0003】
しかし、造影剤の種類によっては、人体に副作用を引き起こす場合がある。例えば、血管内に投与されるヨード系造影剤については、大きな副作用として急性造影剤腎症を引き起こすことが知られている。そこで、人体への安全性を考慮すると、造影剤の使用量を低減することが所望される。しかし、造影剤の使用量を低減すると、対象組織と当該対象組織の周囲にある組織とのコントラストが低下するという問題がある。正確な診断を行うという観点からは、コントラストの低下は望ましくない。
【0004】
そこで、造影剤を使用せずに(または低用量の造影剤で)、コントラストが強調された画像(すなわち通常の用量で造影剤を用いて撮像されたような画像)を得る技術が提案されている。
【0005】
例えば、特許文献1には、造影剤を使用することなく、コントラストが強調されたMRI画像(磁気共鳴画像)を得ることを目的として、造影剤を使用せず撮像したMRI画像と、造影剤を使用して撮像したMRI画像とを学習用データとして学習済モデルを生成する技術が開示されている。そして、造影剤を使用せず撮像したMRI画像を学習済モデルに入力すると、対象組織と対象組織の周囲の組織とのコントラストが強調されたMRI画像が出力される。しかし、特許文献1の技術では、造影剤を使用していないMRI画像からコントラストが強調されたMRI画像を生成することから、精度に問題があった。
【0006】
一方で、特許文献2には、通常の用量で造影剤を使用して撮像したフル造影剤用量画像と、フル造影剤用量より少ない用量で造影剤を使用して撮像した低造影剤用量画像と、造影剤を投与せずに撮像したゼロ造影剤用量画像とを学習用データとして、学習済モデルを生成する技術が開示されている。そして、低造影剤用量画像とゼロ造影剤用量画像とを学習済モデルに入力することで、フル造影剤用量画像(すなわちコントラストが強調された画像)が出力される。特許文献2では、ゼロ造影剤用量画像だけでなく、低造影剤用量画像も加味した上で、高精度にフル造影剤用量画像が生成できることが想定される。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特表2022-547047号公報
【特許文献2】特表2020-536638号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかし、特許文献2の技術では、学習用データ(フル造影剤用量画像および低造影剤用量画像)を生成するにあたって、被験者に、実際に、通常の用量の造影剤を投与するだけでなく、低用量の造影剤も投与する必要がある。すなわち、学習済モデルの生成において、被験者への負担が大きいという問題があった。以上の事情を考慮して、本発明では、対象組織を表す領域とそれ以外の領域とのコントラストが強調された画像を出力する学習済モデルの生成において、被験者への負担を軽減することを目的とする。
【課題を解決するための手段】
【0009】
[1]観察対象となる対象組織を表す第1領域と当該第1領域以外の第2領域とを含み、造影剤を使用して得られた第1画像と、観察対象となる対象組織を表す第3領域と当該第3領域以外の第4領域とを含み、当該第3領域と当該第4領域とのコントラストが前記第1画像における前記第1領域と前記第2領域とのコントラストよりも低い第2画像との関係を機械学習することで学習済モデルを生成し、前記第2画像は、前記第1画像に対して画像処理をすることで生成されるコンピュータシステムにより実現される学習済モデルの生成方法。
【0010】
[2]前記画像処理では、前記第1領域における画素値を変化することで得られる前記第3領域を含む前記第2画像を生成する[1]の生成方法。
【0011】
[3]前記画像処理では、前記第2領域における画素値を維持することで得られる前記第4領域を含む前記第2画像を生成する[2]の生成方法。
【0012】
[4]前記画像処理では、1個の前記第1画像から、前記第3領域と前記第4領域とのコントラストが相異なる複数の第2画像を生成する[1]から[3]の生成方法。
【0013】
[5]前記第1画像は、デジタル差分血管造影法(Digital subtraction angiography)により得られた画像である[1]から[4]の生成方法。
【0014】
[6][1]から[5]の生成方法により生成された学習済モデルに、造影剤を使用して得られた画像であって、観察対象となる対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像を入力することで、前記対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが前記入力画像よりも高い出力画像を生成する生成処理を含む画像生成方法。
【0015】
[7]前記入力画像は、前記第1画像を得るために使用した造影剤の濃度よりも低い濃度の造影剤を使用して得られる画像である[6]の画像生成方法。
【0016】
[8]前記学習済モデルは、複数の対象組織の種類にそれぞれ対応する複数の学習済モデルを含み、前記生成処理では、前記複数の学習済モデルのうち利用者からの指示に応じて選択した学習済モデルを用いる[6]または[7]の画像生成方法。
【0017】
[9][1]から[5]の生成方法により生成された学習済モデルに、造影剤を使用して得られた画像であって、観察対象となる対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像を入力することで、前記対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが前記入力画像よりも高い出力画像を生成する生成部を含む画像生成装置。
【0018】
[10][1]から[5]の生成方法により生成された学習済モデルに、造影剤を使用して得られた画像であって、観察対象となる対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像を入力することで、前記対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが前記入力画像よりも高い出力画像を生成する生成部としてコンピュータシステムを機能させるプログラム。
【発明の効果】
【0019】
本発明によれば、対象組織を表す領域とそれ以外の領域とコントラストが強調された画像を出力する学習済モデルの生成において、被験者への負担を軽減できる。
【図面の簡単な説明】
【0020】
図1】画像生成装置の構成を例示するブロック図である。
図2】画像生成装置が行う処理のフローチャートである。
図3】第1画像と第2画像とを模式的に表す模式図である。
図4】学習済モデルを生成するためのする機械学習の説明図である。
図5】上腸間膜動脈における第1画像および第2画像である。
図6】左腎動脈における入力画像および出力画像である。
図7】脾動脈における入力画像および出力画像である。
【発明を実施するための形態】
【0021】
図1は、本実施形態に係る画像生成装置100の構成を例示するブロック図である。本発明に係る画像生成装置100は、医療において診断に用いられる画像を生成するためのコンピュータシステムである。具体的には、画像生成装置100は、観察対象となる対象組織Vを撮像した画像(以下「入力画像」という)Daから、入力画像Daよりも対象組織Vが鮮明である画像(以下「出力画像」という)Dbを生成する装置である。
【0022】
本実施形態では、対象組織Vが血管である場合を例示し、入力画像Daがデジタル差分血管造影法(DSA:Digital subtraction angiography)により得られた画像である場合を例示する。デジタル差分血管造影法は、造影剤を投与する前後において被検体のX線画像をそれぞれ取得し、造影剤を投与した後のX線画像(オリジナル画像)から、造影剤を投与する前のX線画像(マスク画像)を差し引くことによって、血管が鮮明に映し出されたDSA画像を得る技術である。
【0023】
本実施形態の入力画像Daは、対象組織V(血管)を表す領域を含む画像であり、通常の濃度(以下「第1濃度」という)の造影剤を使用して得られる画像よりも、対象組織を表す領域とそれ以外の領域とのコントラストが低い画像である。すなわち、入力画像Daは、通常の濃度の造影剤を使用して得られた画像よりも対象組織Vが不明瞭な画像である。
【0024】
本発明において、画像におけるコントラストとは、当該画像における対象組織V(すなわち造影剤により強調される部分)を表す領域と、当該対象組織Vを表す領域以外の領域(すなわち背景や対象組織以外の組織を含む領域)との間の濃度差である。なお、対象組織以外の組織とは、造影剤では強調されない組織である。
【0025】
本実施形態では、入力画像Daとして、第1濃度よりも低い濃度(以下「第2濃度」という)の造影剤を使用して得られた画像を例示する。本実施形態の入力画像Daは、被検体に第2濃度の造影剤を投与して撮像したX線画像から、被検体に造影剤を投与する前に撮像したX線画像を差し引くことにより得られたDSA画像である。造影剤は、例えばヨード系造影剤である。
【0026】
一方で、出力画像Dbは、入力画像Daと同様に、対象組織Vを表す領域を含む画像である。具体的には、出力画像Dbのコントラストは、入力画像Daのコントラストよりも高い。出力画像Dbは、通常の濃度である第1濃度の造影剤を使用して得られた画像(DSA画像)に対応する画像であるとも換言できる。
【0027】
本実施形態では、学習済モデルMを用いて入力画像Daから出力画像Dbが生成される。学習済モデルMの詳細は、後述する。
【0028】
以上の説明から理解される通り、画像生成装置100は、造影剤を使用して得られた画像であって、対象組織を表す領域と、当該対象組織を表す領域以外の領域とを含む入力画像Daを学習済モデルMに入力することで、対象組織を表す領域と、当該対象組織を表す領域以外の領域とのコントラストが入力画像Daよりも高い出力画像Dbを生成する装置である。
【0029】
本実施形態では、通常の濃度(第1濃度)よりも低い濃度(第2濃度)の造影剤を用いて、通常の濃度の造影剤を用いて得られたようなコントラストを有する画像が得られる場合を例示する。
【0030】
第2濃度は、被検体への負担が十分に少なく、かつ、高精度に出力画像Dbを得る観点から以下のように設定する。第2濃度の下限は、例えば第1濃度の0.1倍以上であり、好ましくは第1濃度の0.25倍以上であり、より好ましくは第1濃度の0.5倍以上である。第2濃度の上限は、例えば第1濃度の0.9倍以下であり、好ましくは第1濃度の0.8倍以下であり、より好ましくは第1濃度の0.7倍以下である。なお、第1濃度は、対象組織の種類や被験者の体重に応じて設定する。
【0031】
図1に例示される通り、画像生成装置100は、例えば、制御装置11と記憶装置13と表示装置15と操作装置17とを含む。
【0032】
制御装置11は、画像生成装置100の各要素を制御する単数または複数のプロセッサで構成される。例えば、制御装置11は、CPU(Central Processing Unit)、SPU(Sound Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)またはASIC(Application Specific Integrated Circuit)等の1種類以上のプロセッサにより構成される。
【0033】
記憶装置13は、制御装置11が実行するプログラムと、制御装置11が使用する各種のデータとを記憶する単数または複数のメモリである。記憶装置13は、例えば磁気記録媒体もしくは半導体記録媒体等の公知の記録媒体、または、複数種の記録媒体の組合せで構成される。なお、画像生成装置100に対して着脱される可搬型の記録媒体、または例えばインターネット等の通信網を介して制御装置11が書込または読出を実行可能な記録媒体(例えばクラウドストレージ)を、記憶装置13として利用してもよい。
【0034】
本実施系形態では、例えば入力画像Daや学習済モデルMが記憶装置13に記憶される。なお、入力画像Daは、例えば撮像システム200により撮像される。撮像システム200は、入力画像Daの種類に応じて適宜に異なる。入力画像DaがDSA画像である場合には、X線を照射可能な血管造影装置が撮像システム200として例示される。
【0035】
表示装置15は、制御装置11による制御のもとで各種の画像を表示する。例えば液晶表示パネルまたは有機EL(Electroluminescence)パネル等の各種の表示パネルが表示装置15として利用される。例えば、入力画像Daおよび出力画像Dbが表示装置15に表示される。
【0036】
操作装置17は、利用者からの指示を受付ける入力機器である。操作装置17は、例えば、利用者が操作する操作子(例えばマウスやキーボート)、または、利用者による接触を検知するタッチパネルである。
【0037】
本実施形態の制御装置11は、記憶装置13に記憶されたプログラムを実行することで、入力画像Daから出力画像Dbを生成するための機能(取得部112,生成部114)を実現する。
【0038】
図2には、制御装置11が実行する処理の一例を示すフローチャートである。例えば、利用者(典型的には医療従事者)からの操作装置17に対する指示を契機として、図2の処理が開始される。図2の処理が開始されると、取得部112は、記憶装置13から入力画像Daを取得する(Sa1)。次に、生成部114は、学習済モデルMに入力画像Daを入力することで、出力画像Dbを生成する(Sa2)。Sa2は、学習済モデルMに出力画像Dbを出力させる処理であるとも換言できる。そして、生成部114は、出力画像Dbを表示装置15に表示させる。
【0039】
以下、本発明に係る学習済モデルMを生成するための学習処理装置について詳述する。
【0040】
本実施形態の学習済モデルMは、第1画像Kaと第2画像Kbとの関係を機械学習することで生成される統計モデルである。すなわち、第1画像Kaと第2画像Kbとは学習データTである。
【0041】
図3は、第1画像Kaと第2画像Kbとの模式的に表す模式図である。以下の説明では、第1画像Kaにおいて、対象組織Vを表す領域を「第1領域R1」と表記し、第1領域R1以外の領域を「第2領域R2」と表記する。また、第2画像Kbにおいて、対象組織Vを表す領域を「第3領域R3」と表記し、第3領域R3以外の領域を「第4領域R4」と表記する。なお、第2領域R2および第4領域R4は、背景や対象組織以外の組織(すなわち造影剤では強調されない組織)を含む領域であるとも換言できる。
【0042】
第1画像Kaは、第1領域R1と第2領域R2とを含み、第1濃度の造影剤を使用して得られた画像である。第1画像Kaは、出力画像Dbにおけるコントラストに対応した画像であるとも換言できる。第1画像Kaは、撮像システム200により撮像される。なお、本実施形態では、第1画像Kaを得るために使用した造影剤の濃度(第1濃度)よりも低い濃度(第2濃度)の造影剤を使用して得られる画像を入力画像Daとして例示する。
【0043】
第2画像Kbは、第3領域R3と第4領域R4とを含む画像である。第3領域R3は、第1領域R1に対応する領域であり、第4領域R4は、第2領域R2に対応する領域であるとも換言できる。
【0044】
具体的には、第2画像Kbは、第3領域R3と第4領域R4とのコントラストが第1画像Kaにおける第1領域R1と第2領域R2とのコントラストよりも低い画像である。第2画像Kbは、入力画像Daにおけるコントラストに対応した画像であるとも換言できる。図3では、便宜的に、第1画像Kaにおける血管を黒色で示し、第2画像Kbにおける血管を黒色よりも薄い墨色(灰色)で示す場合を例示する。
【0045】
図4は、学習済モデルMを生成(確立)するためのする機械学習の説明図である。例えば画像生成装置100とは別体の機械学習システム300による機械学習で学習済モデルMが確立され、当該学習済モデルMが画像生成装置100に提供される。機械学習システム300は、例えばインターネット等の通信網を介して画像生成装置100と通信可能なサーバシステムである。機械学習システム300から通信網を介して画像生成装置100に学習済モデルMが送信される。
【0046】
学習済モデルMは、例えば深層ニューラルネットワーク(DNN:Deep Neural Network)で構成される。例えば、再帰型ニューラルネットワーク(RNN:Recurrent Neural Network)、または畳込ニューラルネットワーク(CNN:Convolutional Neural Network)等の任意の形式の深層ニューラルネットワークが学習済モデルMとして利用される。同種または複数種の深層ニューラルネットワークの2以上の組合せで学習済モデルMが構成されてもよい。
【0047】
学習済モデルMの機械学習には複数の学習データTが利用される。複数の学習データTの各々は、上述した通り、第1画像Kaと第2画像Kbとの組合せで構成される。すなわち、本実施形態では、第1画像Kaと第2画像Kbとがペアになった学習データTを用いる場合を例示する。第1画像Kaは、撮像システム200を用いて事前に撮像される。なお、第1画像Kaが撮像される条件(例えば被検体および撮像対象となる対象組織Vの位置)は、第1画像Ka毎に相違し得る。例えば対象組織Vが血管である場合には、相異なる被検体の多様な部位における血管を撮像した複数の第1画像Kaが学習データTとして使用される。第2画像Kbは、第1画像Kaの入力に対して学習済モデルMが出力すべき正解を意味する。第2画像Kbは、画像処理装置400により生成される。第2画像Kbを生成する方法については、後述する。
【0048】
本実施形態の機械学習システム300は、例えば、敵対的生成ネットワーク(例えばPix2Pix)のアルゴリズムを用いて学習済モデルMを生成する。具体的には、機械学習システム300は、生成器(ジェネレータ)と識別器(ディスクリミネータ)とを用いて学習済モデルMを生成する。生成器は、例えば、学習データTの第2画像Kbから第1画像Kaを再現した画像(以下「再現画像」という)を生成するニューラルネットワークである。識別器は、例えば、再現画像および第2画像Kbのペアと、第1画像Kaおよび第2画像Kbのペアとの真偽を識別するニューラルネットワークである。識別器は、第1画像Kaおよび第2画像Kbのペアが入力された場合には「真」であるとの結果を出力し、再現画像および第2画像Kbのペアとが入力された場合には「偽」であるとの結果を出力するように学習される。学習の過程で、生成器の損失関数を最大化し、かつ、識別器の損失関数を最小化するように、各々のパラメータが更新される。すなわち、生成器が第1画像Kaにより近い再現画像を生成し、識別器が入力された画像を正しく識別するように、生成器および識別器が学習される。以上のように学習された生成器が学習済モデルMとして利用される。
【0049】
以上の例示では、第1画像Kaと第2画像Kbとがペアになった学習データTを用いて学習済モデルMを生成する方法を例示したが、例えば、相異なる複数の第1画像Kaの集合と相異なる複数の第2画像Kbの集合とを学習データTとして学習済モデルMを生成する手法(例えばCycleGAN)を用いてもよい。なお、複数の第1画像Kaの集合と複数の第2画像Kbの集合とを学習データTとする構成では、各第1画像Kaにおける対象組織の種類と、各第2画像Kbにおける対象組織の種類とは、共通していなくてもよい。また、学習済モデルMを生成する方法は、敵対的生成ネットワークには限定されない。例えばleave-one-out法(1個のデータのみを検証用に利用し、残りを学習データとして利用する交差検証法)を使用して学習済モデルMが生成される。
【0050】
画像処理装置400は、第1画像Kaから第2画像Kbを生成するための画像処理を行う。画像処理装置400は、画像生成装置100で説明したのと同様に、制御装置(図示略)や記憶装置(図示略)をコンピュータシステムである。
【0051】
第1画像Kaから第2画像Kb(すなわち第3領域R3と第4領域R4とのコントラストが第1領域R1と第2領域R2とのコントラストよりも低い画像)を生成する学習処理の一例を説明する。学習処理は、第1画像Kaよりも対象組織Vを表す領域がそれ以外の領域に対して強調されていない(対象組織Vを表す領域が明瞭でない)第2画像Kbを生成するとも換言できる。
【0052】
具体的には、画像処理は、第1画像Kaから、第3領域R3と第4領域R4とのコントラストが当該第1画像Kaにおける第1領域R1と第2領域R2とのコントラストよりも低い第2画像Kbを生成する処理である。
すなわち、被検体に投与が想定される造影剤の濃度(通常より低い濃度)に応じた第2画像Kbが生成される。第1画像Kaは、前処理として解像度を1024×1024とし、256階調(8bit)に変換させる。ただし、第1画像Kaに対する前処理は、以上の例示には限定されない。
【0053】
本実施形態の画像処理は、第1領域R1の画素値(濃度)を第2濃度に応じて変化させることで得られる第3領域R3と、第2領域R2における画素値(濃度)を維持することで得られる第4領域R4とを含む第2画像Kbを生成する。以上の画像処理により、第3領域R3と第4領域R4とのコントラストが第1領域R1と第2領域R2とのコントラストよりも低い第2画像Kbを生成する。
【0054】
第3領域R3は、第1領域R1の各画素の画素値を第2領域R2の画素値に近づくように(すなわち第1領域R1と第2領域R2とのコントラストが低くなるように)変化させることで得られる領域である。ここでいう第2領域R2の画素値とは、例えば第2領域R2の最頻値である。なお、第1画像Kaにおいて、第1領域R1よりも第2画像Kb(背景部分)が十分に大きくなることが想定される。したがって、典型的には、第1画像Kaにおける最頻値が第2領域R2の最頻値になる。ただし、例えば利用者が目視で第2領域R2中の任意の画素の画素値を第2領域R2の画素値として選択してもよい。
【0055】
図3では、第1領域R1は黒色(0)に近く、第2領域R2は白色(255)に近い第1画像Kaを例示する。したがって、第2画像Kbの第3領域R3は、第1画像Kaの第1領域R1よりも薄くなる(すなわち画素値が大きくなる)。なお、図3では、第1領域R1が黒色に近く、第2領域R2が白色に近い場合を例示するが、実際の臨床現場で使用される第1画像Kaは、第1領域R1と第2領域R2との濃淡が逆の場合(第1領域R1が白色に近く、第2領域R2が黒色に近い場合)もある。
【0056】
例えば、第1画像Kaの各画素の画素値を以下の式(1)を適用して変換することで、第2画像Kbが生成される。P1は、第1画像Kaの画素の画素値であり、P2は、変換後の画素値(すなわち第2画像Kbの画素の画素値)である。αは、第2濃度に応じた値である。BGは、第1画像Kaにおける最頻値(すなわち第2領域R2における最頻値)から、ノイズ(例えば生体や撮像システム200に起因するノイズ)に応じた値(例えば20)を減算した値である。
【0057】
P2=BG-α(BG-P1)・・・(1)
【0058】
第1画像Kaの各画素のうちP1がBGより小さい(P1<BG)画素(すなわち第1領域R1)について、以下の式(1)を行う。第1画像Kaについて、P1がBGより小さい画素とは、典型的には第1領域R1に対応する画素(すなわち対象組織Vを表す画素)になる。第1領域R1における各画素の画素値は、背景に起因する画素値と対象組織Vに起因する画素値とが重畳する。式(1)における項「α(BG-P1)」は、第1領域R1における画素について、対象組織Vに起因する画素値を抽出した上で、αを乗ずる。
【0059】
例えば、P1が50であり、BGが200であり、αが0.2(第2濃度が第1濃度の0.2倍の濃度)である場合には、P2は170になる。なお、第1画像Ka(第1領域R1)の各画素の画素値を変換する式は、第2濃度に応じて画素値を変換することが可能であれば、以上の式(1)には限定されない。本実施形態の画像処理では、第2濃度が第1濃度に近いほど、第1画像Kaのコントラストと第2画像Kbのコントラストとの差が小さく、第2濃度が第1濃度よりも薄いほど、第1画像Kaのコントラストと第2画像Kbのコントラストとの差が大きくなるように、第2画像Kbが生成される。
【0060】
第2画像Kbにおける第3領域R3と第4領域R4とのコントラストは、第2濃度の造影剤を使用して得られる画像における対象組織を表す領域とそれ以外の領域とのコントラストに対応するとも換言できる。
【0061】
本実施形態では、1個の第1画像Kaから複数の第2画像Kbを生成する場合を例示する。すなわち、1個の第1画像Kaから、第3領域R3と第4領域R4とのコントラストが相異なる複数の第2画像Kbが生成される。具体的には、1個の第1画像Kaから、第2濃度を相違させて複数の第2画像Kbを生成する。例えば、第1濃度に対して0.25~0.9倍の範囲内において所定の間隔(例えば0.02倍)毎に第2濃度を設定して、複数の第2画像Kbを生成する。1個の第1画像Kaから複数の第2画像Kbを生成することで、効率的に機械学習が行えるという利点がある。
【0062】
図5には、実際の第1画像Ka(造影剤を用いて上腸間膜動脈を対象組織Vとして撮像した画像)と、当該第1画像Kaから画像処理で生成した第2画像Kbを図示する。
【0063】
以上の説明から理解される通り、第1画像Kaにおける第1領域R1の画素値を第2濃度に応じて変化させることで、第3領域R3と第4領域R4とのコントラストが第1領域R1と第2領域R2とのコントラストよりも低くなる第2画像Kbが生成される。ただし、第3領域R3と第4領域R4とのコントラストが第1領域R1と第2領域R2とのコントラストよりも低い第2画像Kbを生成することができれば、画像処理は以上の例示には限定されない。
【0064】
本実施形態では、第1画像Kaから第2画像Kbを生成し、当該第1画像Kaと当該第2画像Kbとを学習データTとして用いて学習済モデルMが生成される。したがって、第1濃度の造影剤を用いて得られた画像と、第2濃度の造影剤を用いて撮像した画像とを学習データとして用いる構成(以下「比較例」という)と比較して、被検体への負担を軽減して、対象組織Vを表す領域とそれ以外の領域とのコントラストが強調された画像を出力する学習済モデルMを生成することが可能である。
【0065】
ここで、2つの画像の組み合わせ(ペア)を学習データTとして用いる場合には、2つの画像が時間的および空間的に一致していることが望まれている。しかし、比較例において、第1濃度の造影剤を用いて得られた画像と、第2濃度の造影剤を用いて撮像した画像との組み合わせ(ペア)を学習データTとして用いる場合、双方の画像が空間的および時間的に一致すること非常に困難である。それに対して、本実施形態では、第1画像Kaに対する画像処理で第2画像Kbが生成されるから、第1画像Kaおよび第2画像Kbが空間的および時間的に一致する。したがって、学習済モデルMの精度を向上させることができる。
【0066】
図6および図7には、実際に学習済モデルMを用いて得られた入力画像Daおよび出力画像Dbが図示されている。図6は、左腎動脈を対象組織Vとした場合であり、図7は脾動脈を対象組織Vとした場合である。なお、図6および図7には、参考画像として入力画像Daをウインドウ処理(ウインドウレベルおよびウインドウ幅の変更)をして、対象組織Vとそれ以外の領域とのコントラストを強調した画像も示されている。なお、入力画像Daとしては、第2濃度の造影剤を使用して得られた画像ではなく、通常の濃度(第1濃度)の造影剤を用いたもののコントラストが低かった画像を使用した。
【0067】
ここで、参考画像のようにウインドウ処理をする場合には、画像毎にウインドウレベルおよびウインドウ幅のパラメータを手動で調整する必要がある。また、ウインドウ処理が加えられた画像は、極度に明度が高い又は低い画像になりやすく、視認性に劣る傾向がある。それに対して、本実施形態の構成によれば、ウインドウ処理を行う構成と比較して、出力画像Dbを得るためにパラメータの調整をする必要がないという利点や、視認性に優れた出力画像Dbが得られるという利点がある。
【0068】
<変形例>
以上に例示した態様に付加される具体的な変形の態様を以下に例示する。以下の例示から任意に選択された複数の態様を、相互に矛盾しない範囲で適宜に併合してもよい。
【0069】
(1)前述の形態では、第1画像Kaおよび入力画像Daは、デジタル差分血管造影法で撮像された画像であったが、第1画像Kaおよび入力画像Daは、以上の例示には限定されない。例えば、デジタル差分血管造影法以外の血管造影法、X線透視法、コンピュータ断層撮影法(CT)、超音波イメージングおよび磁気共鳴イメージング(MRI)といった各種の撮像技術において、造影剤を用いて撮像した画像が、第1画像Kaおよび入力画像Daとして採用され得る。なお、被検体に投与する造影剤の種類は、撮像技術の種類に応じて適宜に変更し得る。また、対象組織Vは、血管には限定されず、造影剤により強調される組織であれば任意であり、例えばリンパ管、胆管および膵管といった脈管臓器などであってもよい。
【0070】
(2)前述の形態では、第2濃度の造影剤を使用して得られた画像を入力画像Daとして使用する場合を想定したが、入力画像Daは以上の例示には限定されない。例えば、通常の濃度の造影剤を用いたもののコントラストが低い画像を入力画像Daとしてもよい。
【0071】
(3)前述の形態では、第1画像Kaにおける第1領域R1の画素値を式(1)を用いて変化させることで第2画像Kbを生成する画像処理を例示したが、第1画像Kaから第2画像Kbを生成する画像処理には公知の任意の技術が採用される。例えば、第1画像Kaから第1領域R1を抽出する領域抽出技術を用いて画素値を変化させることで第2画像Kbを生成する方法や、第1画像Kaと第2画像Kbとの関係を学習させた学習済モデルMを用いて第1画像Kaから第2画像Kbを生成する方法も採用される。対象組織や第1画像Kaの種類に応じて第2画像Kbを生成する方法は変更し得る。
【0072】
また、前述の形態では、第1領域R1の画素値を変化させることで得られる第3領域R3と、第2領域R2における画素値を維持することで得られる第4領域R4とを含む第2画像Kbを生成した。ただし、第3領域R3と第4領域R4とのコントラストが第1領域R1と第2領域R2とのコントラストよりも低い第2画像Kbを生成することが可能であれば、第1領域R1および第2領域R1との画素値の双方を(例えば使用可能な画素値の範囲を変更することで)変化させることで第2画像Kbを生成してもよい。第2領域R2における画素値を維持することで得られる第4領域R4とを含む第2画像Kbによれば、実際の臨床の現場において第2濃度の造影剤を使用して得られる画像や第1濃度の造影剤を使用したもののコントラストが低下した画像に第2画像Kbをより近似させることができる。
【0073】
(4)前述の形態では、DSA画像において使用する場合を例示したが、本発明の適用となる画像はDSA画像には限定されない。ただし、DSA画像には、アーチファクトがない(または十分に少ない)場合には、基本的には対象組織(血管)像以外の組織が含まれないため、第2画像Kbを簡便な方法(例えば上述した式(1))で生成できるという利点がある。なお、DA(Digital Angiography)画像にも本発明は適用できる。
【0074】
(5)本発明の適用となる被検体は、人体には限定されず、その他の動物(例えば犬や猫)であってもよい。
【0075】
(6)前述の形態において、例えば模擬された組織(例えば模擬血管や模擬臓器)に対して第1濃度の造影剤を用いることで得られた第1画像Kaを使用してもよい。
【0076】
(7)前述の形態において、学習済モデルMが、複数の対象組織の種類にそれぞれ対応する複数の学習済モデルを含んでもよい。すなわち、対象組織の種類毎に学習済モデルが存在する。例えば、腎動脈、脾動脈、膵十二指腸動脈や子宮動脈といった血管の種類毎に学習済モデルが存在する。学習済モデルの生成の段階において、血管の種類毎に機械学習を行うことで、複数の学習済モデルを生成する。そして、生成部114は、複数の学習済モデルのうち利用者からの指示に応じて選択した学習済モデルを用いることで、入力画像Daから出力画像Dbを生成する。同様に、血管以外の対象組織(例えば胆管や膵管などの脈管臓器)の種類毎に、学習済モデルを含んでもよい。以上の構成によれば、対象組織の種類毎の傾向を学習した学習済モデルが使用されるから、高精度に出力画像Dbを生成できるという利点がある。
【0077】
(8)本発明は、観察対象となる対象組織を表す第1領域と当該第1領域以外の第2領域とを含み、造影剤を使用して得られた第1画像と、観察対象となる対象組織を表す第3領域と、当該第3領域以外の第4領域とを含み、当該第3領域と当該第4領域とのコントラストが前記第1画像における前記第1領域と前記第2領域とのコントラストよりも低い第2画像との関係を機械学習することで学習済モデルを生成し、前記第2画像は、前記第1画像に対して画像処理をすることで生成されるコンピュータシステムにより実現される学習済モデルMの生成方法として観念できる。
【0078】
(9)本発明は、以上の生成方法により生成された学習済モデルMに入力画像Daを入力することで出力画像Dbを出力する生成処理を含む画像生成方法としも観念できる。
【0079】
(10)本発明は、以上の生成方法により生成された学習済モデルMに入力画像Daを入力することで出力画像Dbを出力する生成部としてコンピュータシステムを機能させるプログラムとしても観念できる。
【0080】
(11)本発明は、以上の生成方法により生成された学習済モデルMそのものとしても観念できる。
【0081】
本発明に係るプログラムおよび学習済モデルMは、例えば、コンピュータが読取可能な記録媒体に格納された形態、または、配信装置から通信網を介して配信される形態で提供されてコンピュータにインストールされ得る。
【符号の説明】
【0082】
11 :制御装置
13 :記憶装置
15 :表示装置
17 :操作装置
100 :画像生成装置
112 :取得部
114 :生成部
200 :撮像システム
300 :機械学習システム
400 :画像処理装置
Da :入力画像
Db :出力画像
Ka :第1画像
Kb :第2画像
M :学習済モデル
R1 :第1領域
R2 :第2領域
T :学習データ
V :対象組織
図1
図2
図3
図4
図5
図6
図7