(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024142137
(43)【公開日】2024-10-10
(54)【発明の名称】プログラム、画像処理方法及び画像処理装置
(51)【国際特許分類】
A61B 1/00 20060101AFI20241003BHJP
A61B 1/045 20060101ALI20241003BHJP
A61B 8/12 20060101ALI20241003BHJP
【FI】
A61B1/00 526
A61B1/00 530
A61B1/045 614
A61B1/045 618
A61B1/045 622
A61B8/12
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023054162
(22)【出願日】2023-03-29
(71)【出願人】
【識別番号】000109543
【氏名又は名称】テルモ株式会社
(74)【代理人】
【識別番号】100114557
【弁理士】
【氏名又は名称】河野 英仁
(74)【代理人】
【識別番号】100078868
【弁理士】
【氏名又は名称】河野 登夫
(72)【発明者】
【氏名】坂口 雄紀
【テーマコード(参考)】
4C161
4C601
【Fターム(参考)】
4C161AA22
4C161BB08
4C161CC07
4C161FF40
4C161FF46
4C161HH51
4C161MM10
4C161NN01
4C161QQ09
4C161RR01
4C161RR18
4C161WW02
4C161WW13
4C161WW16
4C601BB03
4C601BB13
4C601BB14
4C601BB24
4C601DD14
4C601EE07
4C601EE11
4C601FE02
4C601FE04
4C601JB34
4C601JC06
4C601JC22
4C601JC25
4C601JC37
(57)【要約】
【課題】ステントエッジによる解離の有無を早急に判定することが可能なプログラム等を提供する。
【解決手段】コンピュータは、プログラムに従って、カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得する。コンピュータは、スキャンデータのうちで、管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、管腔器官の縦断層画像を生成し、生成した縦断層画像に基づいて、管腔器官に留置されたステントを検出する。また、コンピュータは、検出したステントのエッジからステントの外側の所定領域を撮影位置とするスキャンデータに基づいて、管腔器官の横断層画像を生成し、生成した横断層画像に基づいて、管腔器官内のステントのエッジによる解離の有無を判定する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得し、
前記スキャンデータのうちで、前記管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、前記管腔器官の縦断層画像を生成し、
生成した前記縦断層画像に基づいて、前記管腔器官に留置されたステントを検出し、
検出した前記ステントのエッジから前記ステントの外側の所定領域を撮影位置とする前記スキャンデータに基づいて、前記管腔器官の横断層画像を生成し、
生成した前記横断層画像に基づいて、前記ステントのエッジによる解離の有無を判定する
処理をコンピュータに実行させるプログラム。
【請求項2】
管腔器官の横断層画像を入力した場合に前記横断層画像中の管腔器官に対するステントのエッジによる解離の有無を示す情報を出力するように学習された学習モデルに、前記生成した横断層画像を入力して、入力した前記横断層画像中の管腔器官に対するステントのエッジによる解離の有無を示す情報を取得する
処理を前記コンピュータに実行させる請求項1に記載のプログラム。
【請求項3】
前記スキャンデータは、前記カテーテル内の光センサを用いて前記管腔器官をスキャンした光データと、前記カテーテル内の超音波センサを用いて前記管腔器官をスキャンした超音波データとを含み、
前記光データに基づいて前記管腔器官の光干渉縦断層画像を生成し、
前記超音波データに基づいて前記管腔器官の超音波縦断層画像を生成し、
前記光干渉縦断層画像及び前記超音波縦断層画像のそれぞれに基づいて、前記ステントを検出し、
前記光干渉縦断層画像及び前記超音波縦断層画像のそれぞれから検出した前記ステントの位置に基づいて、前記ステントの位置を特定する
処理を前記コンピュータに実行させる請求項1又は2に記載のプログラム。
【請求項4】
前記スキャンデータは、前記カテーテル内の光センサを用いて前記管腔器官をスキャンした光データと、前記カテーテル内の超音波センサを用いて前記管腔器官をスキャンした超音波データとを含み、
前記ステントのエッジから外側の所定領域を撮影位置とする前記光データに基づいて、前記管腔器官の光干渉横断層画像を生成し、
前記ステントのエッジから外側の所定領域を撮影位置とする前記超音波データに基づいて、前記管腔器官の超音波横断層画像を生成し、
前記光干渉横断層画像及び前記超音波横断層画像のそれぞれに基づいて、前記ステントのエッジによる解離の有無を判定し、
前記光干渉横断層画像及び前記超音波横断層画像のそれぞれに基づく判定結果から、前記解離の有無を特定する
処理を前記コンピュータに実行させる請求項1又は2に記載のプログラム。
【請求項5】
前記生成した縦断層画像上に、検出したステントの位置を表示する画面を出力する
処理を前記コンピュータに実行させる請求項1又は2に記載のプログラム。
【請求項6】
前記生成した縦断層画像上に、判定した解離の位置を表示する画面を出力する
処理を前記コンピュータに実行させる請求項1又は2に記載のプログラム。
【請求項7】
カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得し、
前記スキャンデータのうちで、前記管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、前記管腔器官の縦断層画像を生成し、
生成した前記縦断層画像に基づいて、前記管腔器官に留置されたステントを検出し、
検出した前記ステントのエッジから前記ステントの外側の所定領域を撮影位置とする前記スキャンデータに基づいて、前記管腔器官の横断層画像を生成し、
生成した前記横断層画像に基づいて、前記ステントのエッジによる解離の有無を判定する
処理をコンピュータが実行する画像処理方法。
【請求項8】
制御部を備える画像処理装置であって、
前記制御部は、
カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得し、
前記スキャンデータのうちで、前記管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、前記管腔器官の縦断層画像を生成し、
生成した前記縦断層画像に基づいて、前記管腔器官に留置されたステントを検出し、
検出した前記ステントのエッジから前記ステントの外側の所定領域を撮影位置とする前記スキャンデータに基づいて、前記管腔器官の横断層画像を生成し、
生成した前記横断層画像に基づいて、前記ステントのエッジによる解離の有無を判定する
画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、画像処理方法及び画像処理装置に関する。
【背景技術】
【0002】
冠動脈における狭窄部の治療法の一つに経皮的冠状動脈インターベンション(Percutaneous Coronary Intervention:PCI)と称される方法がある。PCIは、狭窄した病変部をバルーンカテーテルで拡張し、ステントを留置して血管を再建する低侵襲治療である。PCIの術中又は術後において、画像診断用カテーテルを用いた血管内超音波診断法(IVUS:Intra Vascular Ultra Sound)又は光干渉断層診断法(OCT:Optical Coherence Tomography)により、血管内の状態を観察することができる。特許文献1には、超音波診断のためのイメージングコアを備える超音波カテーテルが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
PCIの術中に治療対象領域にステントを留置した後、ステントのエッジが血管壁(血管内膜)に接触する箇所において、ステントエッジによって血管壁に亀裂が入り剥離した状態(以下では解離と称する)が発生するおそれがある。解離が発生すると、剥離した血管壁、又は解離部分に発生した血栓が血流を阻害し、末梢の心筋の梗塞等の合併症の発生原因となり得る。そこで、術者は、ステント留置後に、ステントエッジによる解離が発生していないことを早急に確認する必要がある。術者が血管内の状態を把握するために、血管内を撮影した画像に基づいて、血管の状態を検出し、検出結果を術者に提示することが行われている。例えば、血管の横断面を撮影したIVUS画像又はOCT画像に基づいて、撮影された血管の内腔及び血管壁等の領域が検出されて提示される。このような検出処理は、一般的に、撮影範囲内で撮影された全ての画像に対して行われた後に検出結果が提示されるので、検出結果が提示されるまでに時間を要する。
【0005】
一つの側面では、ステントエッジによる解離の有無を早急に判定することが可能なプログラム等を提供することを目的とする。
【課題を解決するための手段】
【0006】
(1)本開示は、カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得し、前記スキャンデータのうちで、前記管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、前記管腔器官の縦断層画像を生成し、生成した前記縦断層画像に基づいて、前記管腔器官に留置されたステントを検出し、検出した前記ステントのエッジから前記ステントの外側の所定領域を撮影位置とする前記スキャンデータに基づいて、前記管腔器官の横断層画像を生成し、生成した前記横断層画像に基づいて、前記ステントのエッジによる解離の有無を判定する処理をコンピュータに実行させるプログラムである。
【0007】
(2)上記(1)のプログラムにおいて、管腔器官の横断層画像を入力した場合に前記横断層画像中の管腔器官に対するステントのエッジによる解離の有無を示す情報を出力するように学習された学習モデルに、前記生成した横断層画像を入力して、入力した前記横断層画像中の管腔器官に対するステントのエッジによる解離の有無を示す情報を取得する処理を更に前記コンピュータに実行させることが好ましい。
【0008】
(3)上記(1)又は(2)のプログラムにおいて、前記スキャンデータは、前記カテーテル内の光センサを用いて前記管腔器官をスキャンした光データと、前記カテーテル内の超音波センサを用いて前記管腔器官をスキャンした超音波データとを含み、前記光データに基づいて前記管腔器官の光干渉縦断層画像を生成し、前記超音波データに基づいて前記管腔器官の超音波縦断層画像を生成し、前記光干渉縦断層画像及び前記超音波縦断層画像のそれぞれに基づいて、前記ステントを検出し、前記光干渉縦断層画像及び前記超音波縦断層画像のそれぞれから検出した前記ステントの位置に基づいて、前記ステントの位置を特定する処理を更に前記コンピュータに実行させることが好ましい。
【0009】
(4)上記(1)~(3)のいずれかに記載のプログラムにおいて、前記スキャンデータは、前記カテーテル内の光センサを用いて前記管腔器官をスキャンした光データと、前記カテーテル内の超音波センサを用いて前記管腔器官をスキャンした超音波データとを含み、前記ステントのエッジから外側の所定領域を撮影位置とする前記光データに基づいて、前記管腔器官の光干渉横断層画像を生成し、前記ステントのエッジから外側の所定領域を撮影位置とする前記超音波データに基づいて、前記管腔器官の超音波横断層画像を生成し、前記光干渉横断層画像及び前記超音波横断層画像のそれぞれに基づいて、前記ステントのエッジによる解離の有無を判定し、前記光干渉横断層画像及び前記超音波横断層画像のそれぞれに基づく判定結果から、前記解離の有無を特定する処理を更に前記コンピュータに実行させることが好ましい。
【0010】
(5)上記(1)~(4)のいずれかに記載のプログラムにおいて、前記生成した縦断層画像上に、検出したステントの位置を表示する画面を出力する処理を更に前記コンピュータに実行させることが好ましい。
【0011】
(6)上記(1)~(5)のいずれかに記載のプログラムにおいて、前記生成した縦断層画像上に、判定した解離の位置を表示する画面を出力する処理を更に前記コンピュータに実行させることが好ましい。
【0012】
(7)また、本開示は、カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得し、前記スキャンデータのうちで、前記管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、前記管腔器官の縦断層画像を生成し、生成した前記縦断層画像に基づいて、前記管腔器官に留置されたステントを検出し、検出した前記ステントのエッジから前記ステントの外側の所定領域を撮影位置とする前記スキャンデータに基づいて、前記管腔器官の横断層画像を生成し、生成した前記横断層画像に基づいて、前記ステントのエッジによる解離の有無を判定する処理をコンピュータが実行する画像処理方法である。
【0013】
(8)また、本開示は、制御部を備える画像処理装置であって、前記制御部は、カテーテルを用いて管腔器官をスキャンしたスキャンデータを取得し、前記スキャンデータのうちで、前記管腔器官の径方向の所定角度でスキャンしたスキャンデータに基づいて、前記管腔器官の縦断層画像を生成し、生成した前記縦断層画像に基づいて、前記管腔器官に留置されたステントを検出し、検出した前記ステントのエッジから前記ステントの外側の所定領域を撮影位置とする前記スキャンデータに基づいて、前記管腔器官の横断層画像を生成し、生成した前記横断層画像に基づいて、前記ステントのエッジによる解離の有無を判定する画像処理装置である。
【発明の効果】
【0014】
一つの側面では、ステントエッジによる解離の有無を早急に判定することが可能となる。
【図面の簡単な説明】
【0015】
【
図2】画像診断用カテーテルの概要を説明する説明図である。
【
図3】センサ部を挿通させた血管の断面を示す説明図である。
【
図5】画像処理装置の構成例を示すブロック図である。
【
図7】解離の有無の判定処理手順の一例を示すフローチャートである。
【
図10】解離の有無の判定処理手順の他の一例を示すフローチャートである。
【
図11】実施形態2の解離の有無の判定処理手順の一例を示すフローチャートである。
【
図13】解離判定モデルの変形例を示す説明図である。
【発明を実施するための形態】
【0016】
以下、本開示のプログラム、画像処理方法及び画像処理装置について、その実施形態を示す図面に基づいて詳述する。以下の各実施形態では、血管内治療である心臓カテーテル治療を一例に説明するが、カテーテル治療の対象とする管腔器官は血管に限定されず、例えば胆管、膵管、気管支、腸等の他の管腔器官であってもよい。
【0017】
(実施形態1)
図1は、画像診断装置100の構成例を示す説明図である。本実施形態では、血管内超音波診断法(IVUS)及び光干渉断層診断法(OCT)の両方の機能を備えるデュアルタイプのカテーテルを用いた画像診断装置について説明する。デュアルタイプのカテーテルでは、IVUSのみによって超音波断層画像を取得するモードと、OCTのみによって光干渉断層画像を取得するモードと、IVUS及びOCTによって両方の断層画像を取得するモードとが設けられており、これらのモードを切り替えて使用することができる。以下、超音波断層画像及び光干渉断層画像をそれぞれIVUS画像及びOCT画像と記載する。IVUS画像及びOCT画像は血管の断層画像の一例であり、IVUS画像及びOCT画像はそれぞれ、血管の径方向の断面画像である横断層画像と、血管の長軸方向の断面画像である縦断層画像とを含む。
【0018】
本実施形態の画像診断装置100は、血管内検査装置101と、血管造影装置102と、画像処理装置3と、表示装置4と、入力装置5とを備える。血管内検査装置101は、画像診断用カテーテル1及びMDU(Motor Drive Unit)2を備える。画像診断用カテーテル1は、MDU2を介して画像処理装置3に接続されている。画像処理装置3には、表示装置4及び入力装置5が接続されている。表示装置4は、例えば液晶ディスプレイ又は有機ELディスプレイ等であり、入力装置5は、例えばキーボード、マウス、タッチパネル又はマイク等である。入力装置5と画像処理装置3とは、一体に構成されていてもよい。更に入力装置5は、ジェスチャ入力又は視線入力等を受け付けるセンサであってもよい。
【0019】
血管造影装置102は画像処理装置3に接続されている。血管造影装置102は、患者の血管に造影剤を注入しながら、患者の生体外からX線を用いて血管を撮影し、当該血管の透視画像であるアンギオ画像を得るためのアンギオグラフィ装置である。血管造影装置102は、X線源及びX線センサを備え、X線源から照射されたX線をX線センサが受信することにより、患者のX線透視画像をイメージングする。なお、画像診断用カテーテル1にはX線を透過しないマーカが設けられており、アンギオ画像において画像診断用カテーテル1(マーカ)の位置が可視化される。血管造影装置102は、撮影して得られたアンギオ画像を画像処理装置3へ出力し、画像処理装置3を介して当該アンギオ画像を表示装置4に表示させる。なお、表示装置4には、アンギオ画像と、画像診断用カテーテル1を用いて撮影された断層画像とが表示される。
【0020】
図2は画像診断用カテーテル1の概要を説明する説明図である。なお、
図2中の上側の一点鎖線の領域は、下側の一点鎖線の領域を拡大したものである。画像診断用カテーテル1は、プローブ11と、プローブ11の端部に配置されたコネクタ部15とを有する。プローブ11は、コネクタ部15を介してMDU2に接続される。以下の説明では画像診断用カテーテル1のコネクタ部15から遠い側を先端側と記載し、コネクタ部15側を基端側と記載する。プローブ11は、カテーテルシース11aを備え、その先端部には、ガイドワイヤGWが挿通可能なガイドワイヤ挿通部14が設けられている。ガイドワイヤ挿通部14はガイドワイヤルーメンを構成し、予め血管内に挿入されたガイドワイヤGWを受け入れ、ガイドワイヤGWによってプローブ11を患部まで導くのに使用される。カテーテルシース11aは、ガイドワイヤ挿通部14との接続部分からコネクタ部15との接続部分に亘って連続する管部を形成している。カテーテルシース11aの内部にはシャフト13が挿通されており、シャフト13の先端側にはセンサ部12が接続されている。
【0021】
センサ部12は、ハウジング12dを有し、ハウジング12dの先端側は、カテーテルシース11aの内面との摩擦や引っ掛かりを抑制するために半球状に形成されている。ハウジング12d内には、超音波を血管内に送信すると共に血管内からの反射波を受信する超音波送受信部12a(超音波センサ、以下ではIVUSセンサ12aという)と、近赤外光を血管内に送信すると共に血管内からの反射光を受信する光送受信部12b(光センサ、以下ではOCTセンサ12bという)とが配置されている。
図2に示す例では、プローブ11の先端側にIVUSセンサ12aが設けられており、基端側にOCTセンサ12bが設けられている。画像診断用カテーテル1において、IVUSセンサ12a及びOCTセンサ12bは、シャフト13の軸方向に対して略90度となる方向(シャフト13の径方向)を超音波又は近赤外光の送受信方向として取り付けられている。なお、IVUSセンサ12a及びOCTセンサ12bは、カテーテルシース11aの内面での反射波又は反射光を受信しないように、径方向よりややずらして取り付けられることが望ましい。
【0022】
シャフト13には、IVUSセンサ12aに接続された電気信号ケーブル(図示せず)と、OCTセンサ12bに接続された光ファイバケーブル(図示せず)とが内挿されている。プローブ11は、先端側から血管内に挿入される。センサ部12及びシャフト13は、カテーテルシース11aの内部で進退可能であり、また、周方向に回転することができる。センサ部12及びシャフト13は、シャフト13の中心軸を回転軸として回転する。画像診断装置100では、センサ部12及びシャフト13によって構成されるイメージングコアを用いることにより、血管の内側から撮影されたIVUS画像、及び/又は、血管の内側から撮影されたOCT画像によって血管内部の状態を測定する。
【0023】
MDU2は、コネクタ部15によってプローブ11(画像診断用カテーテル1)が着脱可能に取り付けられる駆動装置であり、医療従事者の操作に応じて内蔵モータを駆動することにより、血管内に挿入された画像診断用カテーテル1の動作を制御する。例えばMDU2は、プローブ11に内挿されたセンサ部12及びシャフト13を一定の速度でMDU2側に向けて引っ張りながら周方向に回転させるプルバック操作を行う。センサ部12は、プルバック操作によって先端側から基端側に移動しながら回転しつつ、所定の時間間隔で連続的に血管内を走査することにより、IVUSセンサ12aが送信した超音波の血管内からの反射波を受信し、OCTセンサ12bが送信した光の血管内からの反射光を受信する。MDU2は、IVUSセンサ12aが受信した超音波の反射波データと、OCTセンサ12bが受信した反射光データとを画像処理装置3へ出力する。
【0024】
画像処理装置3は、MDU2を介してIVUSセンサ12aが受信した超音波の反射波データである信号データセットと、OCTセンサ12bが受信した反射光データである信号データセットとを取得する。画像処理装置3は、超音波の信号データセットから超音波ラインデータを生成し、生成した超音波ラインデータに基づいて血管の横断層(横断面)を撮影したIVUS横断層画像と、血管の縦断層(縦断面)を撮影したIVUS縦断層画像とを構築する。また、画像処理装置3は、反射光の信号データセットから光ラインデータを生成し、生成した光ラインデータに基づいて血管の横断層を撮影したOCT横断層画像と、血管の縦断層を撮影したOCT縦断層画像とを構築する。なお、超音波の信号データセットから超音波ラインデータを生成する処理、及び、反射光の信号データセットから光ラインデータを生成する処理は、画像処理装置3で実行されるほかに、MDU2で実行されてもよい。この場合、画像処理装置3は、MDU2から超音波ラインデータ及び光ラインデータを取得する構成となる。
【0025】
ここで、IVUSセンサ12a及びOCTセンサ12bが取得する信号データセットと、信号データセットから構築される断層画像とについて説明する。
図3は、センサ部12を挿通させた血管の断面を示す説明図であり、
図4は断層画像を説明する説明図である。まず、
図3を用いて、血管内におけるIVUSセンサ12a及びOCTセンサ12bの動作と、IVUSセンサ12a及びOCTセンサ12bによって取得される信号データセット(超音波ラインデータ及び光ラインデータ)について説明する。イメージングコアが血管内に挿通された状態で断層画像の撮影が開始されると、イメージングコアが矢符で示す方向に、シャフト13の中心軸を回転中心として回転する。このとき、IVUSセンサ12aは、各回転角度において超音波の送信及び受信を行う。ライン1,2,…512は各回転角度における超音波の送受信方向を示している。本実施形態では、IVUSセンサ12aは、血管内において360度回動(1回転)する間に512回の超音波の送信及び受信を断続的に行う。IVUSセンサ12aは、1回の超音波の送受信により、送受信方向の1ラインのデータを取得するので、1回転の間に、回転中心から放射線状に延びる512本の超音波ラインデータを得ることができる。512本の超音波ラインデータは、回転中心の近傍では密であるが、回転中心から離れるにつれて互いに疎になっていく。そこで、画像処理装置3は、各ラインの空いた空間における画素を周知の補間処理によって生成することにより、
図4A左側に示すような2次元の超音波断層画像を構築することができる。このように512本のラインデータから構築される2次元の超音波断層画像を1フレームのIVUS横断層画像(超音波横断層画像)という。なお、センサ部12は血管内を移動しながら走査するため、移動範囲内において1回転した各位置で1フレームのIVUS横断層画像が取得される。即ち、移動範囲においてプローブ11の先端側から基端側への各位置で1フレームのIVUS横断層画像が取得されるので、
図4A右側に示すように、移動範囲内で複数フレームのIVUS横断層画像が取得される。
【0026】
また、画像処理装置3は、移動範囲内で取得した超音波ラインデータのうちで、同一の回転角度で受信した超音波ラインデータを、各ラインデータの取得位置(血管の長軸方向の位置)に応じて並べることにより、
図4Bに示すような2次元の超音波断層画像を構築することができる。具体的には、画像処理装置3は、任意の回転角度で受信したラインデータ(同じライン番号のラインデータ)と、この回転角度に180度を加算した回転角度で受信したラインデータ(前記ライン番号に256を加算したライン番号のラインデータ)とから2次元の超音波断層画像を構築し、このような2次元の超音波断層画像をIVUS縦断層画像(超音波縦断層画像)という。
【0027】
同様に、OCTセンサ12bも、各回転角度において近赤外光(測定光)の送信及び受信を行う。OCTセンサ12bも血管内において360度回動する間に512回の測定光の送信及び受信を行うので、1回転の間に、回転中心から放射線状に延びる512本の光ラインデータを得ることができる。光ラインデータについても、画像処理装置3は、各ラインの空いた空間における画素を周知の補間処理によって生成することにより、
図4Aに示すIVUS横断層画像と同様の2次元のOCT横断層画像(光干渉横断層画像)を構築することができる。また、光ラインデータについても、画像処理装置3は、任意の回転角度で受信した光ラインデータと、この回転角度に180度を加算した回転角度で受信した光ラインデータとから、
図4Bに示すIVUS縦断層画像と同様の2次元のOCT縦断層画像(光干渉縦断層画像)を構築することができる。
【0028】
画像診断用カテーテル1は、IVUSセンサ12aによって得られるIVUS画像及び/又はOCTセンサ12bによって得られるOCT画像と、血管造影装置102によって得られるアンギオ画像との位置関係を確認するために、X線を透過しないマーカを有する。
図2に示す例では、カテーテルシース11aの先端部、例えばガイドワイヤ挿通部14にマーカ14aが設けられており、センサ部12のシャフト13側にマーカ12cが設けられている。このように構成された画像診断用カテーテル1をX線で撮影すると、マーカ14a,12cが可視化されたアンギオ画像が得られる。マーカ14a,12cを設ける位置は一例であり、マーカ12cはセンサ部12ではなくシャフト13に設けてもよく、マーカ14aはカテーテルシース11aの先端部以外の箇所に設けてもよい。また、本実施形態では、IVUSセンサ12a及びOCTセンサ12bはそれぞれ、512本のラインデータを取得する構成とするが、IVUSセンサ12a及びOCTセンサ12bが取得するラインデータの数は512本に限定されない。
【0029】
図5は画像処理装置3の構成例を示すブロック図である。画像処理装置3はコンピュータ(情報処理装置)であり、制御部31、主記憶部32、入出力部33、通信部34、補助記憶部35、読取部36を備える。制御部31は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)、GPGPU(General-purpose computing on graphics processing units)、TPU(Tensor Processing Unit)等の演算処理装置を用いて構成されている。制御部31は、バスを介して画像処理装置3を構成するハードウェア各部と接続されている。
【0030】
主記憶部32は、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、フラッシュメモリ等の一時記憶領域であり、制御部31が演算処理を実行するために必要なデータを一時的に記憶する。
【0031】
入出力部33は、血管内検査装置101、血管造影装置102、表示装置4、入力装置5等の外部装置が接続されるインタフェースを備える。制御部31は、入出力部33を介して、血管内検査装置101から超音波の反射波データ及び測定光の反射光データを取得し、血管造影装置102からアンギオ画像を取得する。なお、制御部31は、血管内検査装置101から取得した反射波データから超音波ラインデータを生成し、更にIVUS画像を構築する。また制御部31は、血管内検査装置101から取得した反射光データから光ラインデータを生成し、更にOCT画像を構築する。また、制御部31は、入出力部33を介して、IVUS画像、OCT画像、又はアンギオ画像の医用画像信号を表示装置4へ出力することによって、表示装置4に医用画像を表示する。更に、制御部31は、入出力部33を介して、入力装置5に入力された情報を受け付ける。
【0032】
通信部34は、例えば、4G、5G、WiFi等の通信規格に準拠した通信インタフェースを備える。画像処理装置3は、通信部34を介して、インターネット等の外部ネットワークに接続されるクラウドサーバ等の外部サーバと通信を行う。制御部31は、通信部34を介して、外部サーバにアクセスし、当該外部サーバのストレージに記憶されている各種のデータを参照するものであってもよい。また、制御部31は、当該外部サーバと、例えばプロセス間通信を行うことにより、本実施形態における処理を協働して行うものであってもよい。
【0033】
補助記憶部35は、ハードディスク、SSD(Solid State Drive)等の記憶装置である。補助記憶部35は、制御部31が実行するプログラムP、制御部31の処理に必要な各種データを記憶する。また補助記憶部35は、例えば機械学習によって訓練データを学習済みの学習モデルが記憶されている。学習モデルは、人工知能ソフトウェアを構成するプログラムモジュールとしての利用が想定される。学習モデルは、入力値に対して所定の演算を行い、演算結果を出力するものであり、補助記憶部35には、この演算を規定する関数の係数や閾値等のデータが学習モデルとして記憶される。本実施形態では、学習モデルとして、後述するステント検出モデルM1と、解離判定モデルM2とを記憶している。なお、補助記憶部35は画像処理装置3に接続された外部記憶装置であってもよい。プログラムP及びモデルM1,M2の一部又は全部は、画像処理装置3の製造段階において補助記憶部35に書き込まれてもよいし、遠隔のサーバ装置が配信するものを画像処理装置3が通信にて取得して補助記憶部35に記憶させてもよい。また、プログラムP及びモデルM1,M2の一部又は全部は、磁気ディスク、光ディスク、半導体メモリ等の記録媒体30に読み出し可能に記録された態様であってもよく、読取部36が記録媒体30から読み出して補助記憶部35に記憶させてもよい。
【0034】
画像処理装置3は、単一のコンピュータに限らず、複数のコンピュータを含んで構成されるマルチコンピュータであってよい。また、画像処理装置3は、サーバクライアントシステムや、クラウドサーバ、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。以下の説明では、画像処理装置3が1台のコンピュータであるものとして説明する。本実施形態では、画像処理装置3に、2次元のアンギオ画像を撮影する血管造影装置102が接続されているが、生体外の複数の方向から患者の管腔器官及び画像診断用カテーテル1を撮影する装置であれば、血管造影装置102に限定されない。
【0035】
図6はモデルM1,M2の構成例を示す説明図である。
図6Aはステント検出モデルM1の構成例を示す。ステント検出モデルM1は、IVUS縦断層画像又はOCT縦断層画像を入力とし、入力された縦断層画像中の血管内に留置されたステントを認識するモデルである。ステント検出モデルM1は、IVUS縦断層画像用のモデルと、OCT縦断層画像用のモデルとを含むが、以下ではまとめてステント検出モデルM1と記載する。ステント検出モデルM1は、例えばYOLO(You Only Look Once)、SSD(Single Shot Multi-Box Detector)、ViT(Vision Transformer)等の物体検出用のアルゴリズムを用いて構成することができ、複数のアルゴリズムを組み合わせて構成してもよい。また、ステント検出モデルM1は、U-Net、FCN(Fully Convolutional Network)、SegNet、PSPNet等の画像セグメンテーション用のアルゴリズムを用いて構成してもよい。この場合、ステント検出モデルM1は、セマンティックセグメンテーションにより、画像中のステントの領域を画素単位で分類することができる。
【0036】
ステント検出モデルM1は、1枚の縦断層画像を入力とし、入力された縦断層画像に基づいて、当該縦断層画像に含まれるステント(血管内に留置されたステント)を検出する演算を行い、検出結果を示す情報を出力するように学習される。具体的には、ステント検出モデルM1は、入力された縦断層画像に対して、検出されたステントを囲むバウンディングボックス(
図6Aでは白実線で示す矩形)が付加された画像(以下ではラベル画像と称する)を出力する。
【0037】
ステント検出モデルM1は、訓練用の縦断層画像と、この縦断層画像中のステントにマーク(バウンディングボックス)が付けられた画像(正解のラベル画像)とを関連付けた訓練データを用いて機械学習することにより生成される。正解のラベル画像は、医師等のアノテーション担当者が、訓練用の縦断層画像に対して、画像中のステントにマーク(ステントの領域を示すバウンディングボックス)を付加することにより生成される。ステント検出モデルM1は、訓練データに含まれる縦断層画像が入力された場合に、訓練データに含まれる正解のラベル画像を出力するように学習する。学習処理においてステント検出モデルM1は、入力された縦断層画像に基づいて演算を行い、画像中のステントの領域を検出した検出結果(ラベル画像)を算出する。そして、ステント検出モデルM1は、検出結果のラベル画像と、正解のラベル画像とを比較し、両者が近似するように、演算処理に用いるパラメータを最適化する。具体的には、ステント検出モデルM1は、検出結果のラベル画像中のステント領域の座標範囲と、正解のラベル画像中のステント領域の座標範囲とを比較し、両者が近似するように最適化する。当該パラメータは、ステント検出モデルM1におけるニューロン間の重み(結合係数)等のパラメータであり、パラメータの最適化の方法は、誤差逆伝播法、最急降下法等を用いることができる。これにより、縦断層画像が入力された場合に、縦断層画像中のステントの領域をバウンディングボックスで示すラベル画像を出力するステント検出モデルM1が得られる。なお、ステント検出モデルM1は、縦断層画像から、ステントの領域に加えて、血管内腔及び血管壁の領域、ガイドワイヤ及びカテーテルの領域を認識する構成でもよい。
【0038】
図6Bは解離判定モデルM2の構成例を示す。解離判定モデルM2は、IVUS横断層画像又はOCT横断層画像を入力とし、入力された横断層画像中の血管における解離の有無を認識するモデルである。解離判定モデルM2は、IVUS横断層画像用のモデルと、OCT横断層画像用のモデルとを含むが、以下ではまとめて解離判定モデルM2と記載する。解離判定モデルM2は、例えばCNN(Convolution Neural Network)、RNN(Recurrent Neural Network)、LSTM(Long Short-Term Memory)、Transformer、決定木、ランダムフォレスト、SVM(Support Vector Machine)等のアルゴリズムを用いて構成されてもよく、複数のアルゴリズムを組み合わせて構成されてもよい。
【0039】
解離判定モデルM2は、1枚の横断層画像又は複数枚の横断層画像を入力とし、入力された横断層画像に基づいて、当該横断層画像に含まれる血管における解離の有無を判別する演算を行い、演算した結果を示す情報を出力するように学習してある。なお、解離判定モデルM2に複数枚の横断層画像が入力される場合、当該横断層画像は、例えばプルバック操作を行いつつ撮影した一連のラインデータに基づく縦断層画像とすることができる。
図6Bに示す解離判定モデルM2は、2つの出力ノードを有しており、各出力ノードには、予め設定された判別結果が対応付けられており、各出力ノードから、対応付けられた判別結果であると判別すべき確率(確信度)を出力する。
図6Bの例では、一方の出力ノードは、画像中に解離角度が60度以上の解離があると判別すべき確率を出力し、他方の出力ノードは、画像中に解離角度が60度以上の解離がない(即ち、画像中の解離の角度が60度未満である)と判別すべき確率を出力する。解離角度は、
図6Cに示すように、血管内腔の重心を中心として、血管壁の内膜(血管内膜)の剥離領域(解離部分)の先端部と基端部との角度を意味する。各出力ノードの出力値は例えば0~1.0の値であり、各出力ノードから出力された確信度の合計が1.0となる。上述した構成により、解離判定モデルM2は、横断層画像が入力された場合に、入力された画像中の血管内に解離角度が60度以上の解離の有無を示す情報を出力する。なお、解離判定モデルM2は、それぞれの判別結果に対する確信度を出力する2つの出力ノードを有する代わりに、確信度が大きい判別結果を出力する1つの出力ノードを有する構成でもよい。
【0040】
解離判定モデルM2は、訓練用の横断層画像と、当該横断層画像について医師等が判断した判別結果を示す情報(正解ラベル)とを関連付けた訓練データを用いて機械学習させることにより生成される。解離判定モデルM2は、訓練データに含まれる横断層画像が入力された場合に、正解ラベルが示す判別結果に対応する出力ノードからの出力値が1に近づき、他方の出力ノードからの出力値が0に近づくように学習する。学習処理において解離判定モデルM2は、入力された横断層画像に基づく演算を行い、各出力ノードからの出力値を算出する。そして解離判定モデルM2は、算出した各出力ノードの出力値と正解ラベルに応じた値(正解ラベルが示す判別結果に対応する出力ノードに対しては1、他方の出力ノードに対しては0)とを比較し、各出力値がそれぞれ正解ラベルに応じた値に近似するように、演算処理に用いるパラメータを最適化する。ここでも、誤差逆伝播法、最急降下法等を用いて、解離判定モデルM2におけるニューロン間の重み(結合係数)等のパラメータを最適化する。これにより、横断層画像が入力された場合に、横断層画像中の血管に解離角度が60度以上の解離が発生しているか否かを推定し、推定結果を出力する解離判定モデルM2が得られる。
【0041】
上述したモデルM1,M2の学習は、画像処理装置3で行われてもよく、他の学習装置で行われてもよい。他の学習装置で学習が行われて生成された学習済みのモデルM1,M2は、例えばネットワーク経由又は記録媒体30経由で学習装置から画像処理装置3にダウンロードされて補助記憶部35に記憶される。
【0042】
解離判定モデルM2は、
図6Bに示す構成に限定されない。
図13は解離判定モデルM2の変形例を示す説明図である。
図13Aに示す解離判定モデルM2aは、IVUS横断層画像又はOCT横断層画像を入力とし、入力された横断層画像中の血管内腔(ルーメン)及び解離領域を認識するモデルである。解離判定モデルM2aも、IVUS横断層画像用のモデルと、OCT横断層画像用のモデルとを含む。解離判定モデルM2aは、例えばU-Net、FCN、SegNet、PSPNet等の画像セグメンテーション用のアルゴリズムを用いて構成することができ、複数のアルゴリズムを組み合わせて構成してもよい。この場合、解離判定モデルM2aは、セマンティックセグメンテーションにより、画像中の血管内腔及び解離領域を画素単位で分類することができる。なお、解離判定モデルM2aは、例えばYOLO(You Only Look Once)、SSD(Single Shot Multi-Box Detector)、ViT(Vision Transformer)等の物体検出用のアルゴリズムを用いて構成してもよい。
【0043】
解離判定モデルM2aは、1枚の横断層画像又は複数枚の横断層画像を入力とし、入力された横断層画像に基づいて、当該横断層画像に含まれる血管における血管内腔及び解離領域を検出する演算を行い、演算した結果を示す情報を出力するように学習してある。
図13Aに示す解離判定モデルM2aは、入力された横断層画像に対して、検出された血管内腔及び解離領域を示すラベル(
図13Aでは血管内腔及び解離領域にそれぞれ異なるハッチング)が付加された画像(以下ではラベル画像と称する)を出力する。
【0044】
解離判定モデルM2aは、訓練用の横断層画像と、この横断層画像中の血管内腔及び解離領域にそれぞれに応じたラベルが付けられた画像(正解のラベル画像)とを関連付けた訓練データを用いて機械学習させることにより生成される。正解のラベル画像は、医師等のアノテーション担当者が、訓練用の横断層画像に対して、画像中の血管内腔及び解離領域にラベルを付加することにより生成される。解離判定モデルM2aは、訓練データに含まれる横断層画像が入力された場合に、訓練データに含まれる正解のラベル画像を出力するように学習する。学習処理において解離判定モデルM2aは、入力された横断層画像に基づく演算を行い、画像中の血管内腔及び解離領域を検出した検出結果(ラベル画像)を算出する。そして解離判定モデルM2aは、検出結果のラベル画像と、正解のラベル画像とを比較し、両者が近似するように、演算処理に用いるパラメータを最適化する。具体的には、解離判定モデルM2aは、検出結果のラベル画像中の血管内腔及び解離領域の座標範囲と、正解のラベル画像中の血管内腔及び解離領域の座標範囲とを比較し、両者が近似するように最適化する。ここでも、誤差逆伝播法、最急降下法等を用いて、解離判定モデルM2aにおけるパラメータを最適化する。これにより、横断層画像が入力された場合に、横断層画像中の血管内腔及び解離領域を示すラベル画像を出力する解離判定モデルM2aが得られる。このような解離判定モデルM2aを用いる場合でも、制御部31は、解離判定モデルM2aによって検出された入力画像中の血管内腔及び解離領域に基づいて、血管内腔の重心を同定し、同定した重心に基づいて解離領域の角度範囲を算出し、例えば解離角度が60度以上の解離の有無を判定できる。
【0045】
図13Bは、血管内腔の重心を同定する方法の説明図である。横断層画像中の血管内腔及び解離領域が検出された場合、制御部31は、
図13Bの左側に示すように解離フラップ領域を特定できる。血管内の解離フラップ領域は、例えば、
図13Aに示す解離判定モデルM2aを用いて画像中の血管内腔及び解離領域を検出した場合、検出した血管内腔及び解離領域に基づいて特定できる。例えば血管内腔及び解離領域を合わせた領域に基づいて解離前の血管内腔を予測し、予測した血管内腔から、検出した血管内腔及び解離領域を除外した領域を解離フラップ領域に特定できる。また、解離判定モデルM2aが、血管内腔及び解離領域に加えて、解離フラップ領域も検出するように構成されていてもよく、この場合、解離判定モデルM2aによって解離フラップ領域を検出できる。また、解離判定モデルM2aは、血管内腔及び解離フラップ領域を検出するように構成されていてもよく、この場合にも、解離判定モデルM2aによって解離フラップ領域を検出できる。解離フラップ領域を特定した場合、制御部31は、
図13Bの左側に示すように、解離フラップ領域の根本(血管壁との連結箇所)を直線とし、この直線に平行な直線を複数特定する。次に制御部31は、
図13Bの中央に示すように、解離フラップ領域を血管壁に接する位置まで平行移動する。そして、制御部31は、
図13B中の右側に示すように、解離が発生する前の血管内腔の形状を予測し、予測した血管内腔の形状に基づいて血管内腔の重心位置を算出する。制御部31は、このように横断層画像中の血管内腔の重心を特定することにより、重心を中心とした解離領域の角度範囲を算出することができる。
【0046】
以下に、PCIの術中に、血管内に留置したステントのエッジによって解離が発生しているか否かを画像処理装置3が判定する処理について説明する。
図7は解離の有無の判定処理手順の一例を示すフローチャート、
図8は解離の有無の判定処理の説明図、
図9は画面例を示す説明図である。本実施形態の画像処理装置3において、制御部31は、補助記憶部35に記憶されたプログラムPを読み出して実行することにより以下の処理を行う。
【0047】
PCIの術中に、術者は、ステントを留置した後、又は留置したステントをバルーンカテーテルで圧接(後拡張)した後等、適宜のタイミングでIVUSセンサ12a及び/又はOCTセンサ12bによる撮影を行い、治療対象領域を血管内から撮影した断層画像(IVUS画像及び/又はOCT画像)を取得する。そして、術者は、取得した断層画像によって治療対象領域を観察し、留置したステントのエッジによって解離が発生していないことを確認する。
【0048】
画像処理装置3の制御部31は、血管内検査装置101による血管内の撮影処理を行い、血管内検査装置101がプルバック操作を行いつつ撮影した一連のラインデータ(血管内をスキャンしたスキャンデータ)を取得する(S11)。ここでは、血管内検査装置101は、画像診断用カテーテル1のセンサ部12を先端側(遠位側)から基端側(近位側)に移動させながら血管内を走査して、IVUSセンサ12aによる撮影で得られた超音波ラインデータと、OCTセンサ12bによる撮影で得られた光ラインデータとを取得する。画像処理装置3の制御部31は、入出力部33を通じて、血管内検査装置101が取得した一連のラインデータを取得する。なお、制御部31は、MDU2を介してIVUSセンサ12aから超音波の反射波データを取得する場合、取得した超音波の反射波データから超音波ラインデータを生成し、MDU2を介してOCTセンサ12bから反射光データを取得する場合、取得した反射光データから光ラインデータを生成する。
【0049】
制御部31は、ステップS11で取得した超音波ラインデータに基づいて、所定枚数のIVUS縦断層画像を構築する(S12)。例えば制御部31は、1枚のIVUS縦断層画像を構築する。この場合、制御部31は、任意のライン番号(例えば1)及びこのライン番号に256を加算したライン番号(例えば257)の超音波ラインデータに基づいてIVUS縦断層画像を生成する。具体的には、制御部31は、取得した超音波ラインデータから、2つの超音波ラインデータ(例えばライン番号1及び257のラインデータ)を抽出し、各超音波ラインデータを、長軸方向における撮影位置の順に並べて2次元のIVUS縦断層画像を生成する。これにより、血管の径方向の所定角度(ここでは、ライン番号1及び257の撮影方向)でスキャンしたスキャンデータに基づくIVUS縦断層画像が生成される。また、制御部31は、2枚以上のIVUS縦断層画像を構築してもよく、2枚のIVUS縦断層画像を構築する場合、例えば、ライン番号1及び257の超音波ラインデータに基づくIVUS縦断層画像と、ライン番号129及び385の超音波ラインデータに基づくIVUS縦断層画像とを生成する。また、4枚のIVUS縦断層画像を構築してもよく、この場合、制御部31は、例えば、ライン番号1及び257の超音波ラインデータに基づくIVUS縦断層画像と、ライン番号65及び321の超音波ラインデータに基づくIVUS縦断層画像と、ライン番号129及び385の超音波ラインデータに基づくIVUS縦断層画像と、ライン番号193及び449の超音波ラインデータに基づくIVUS縦断層画像とを生成する。制御部31は、構築したIVUS縦断層画像を主記憶部32又は補助記憶部35に記憶する。
【0050】
同様に、制御部31は、ステップS11で取得した光ラインデータに基づいて、所定枚数のOCT縦断層画像を構築し(S13)、構築したOCT縦断層画像を主記憶部32又は補助記憶部35に記憶する。ここでも、制御部31は、1枚のOCT縦断層画像を構築してもよく、2枚以上のOCT縦断層画像を構築してもよい。これにより、血管の径方向の所定角度(例えばライン番号1及び257の撮影方向)でスキャンしたスキャンデータに基づくOCT縦断層画像が生成される。
【0051】
制御部31は、ステップS12で生成したIVUS縦断層画像に基づいて、当該画像中のステントの位置(ステントの留置範囲)を検出する(S14)。ここでは、制御部31は、IVUS縦断層画像を、IVUS用のステント検出モデルM1に入力し、ステント検出モデルM1から出力されたラベル画像に基づいて、入力画像中のステントを検出する。
図4Bに示すように縦断層画像の横軸は、血管の長軸方向の撮影位置を示しており、制御部31は、ラベル画像に基づいて、入力画像中の血管の長軸方向の各撮影位置に対して、ステント有又はステント無を判定し、ステント有と判定した撮影位置を、ステントの留置範囲に特定する。
【0052】
同様に、制御部31は、ステップS13で生成したOCT縦断層画像に基づいて、当該画像中のステントの位置(ステントの留置範囲)を検出する(S15)。ここでは、制御部31は、OCT縦断層画像を、OCT用のステント検出モデルM1に入力し、ステント検出モデルM1から出力されたラベル画像に基づいて、入力画像中のステントを検出する。ここでも制御部31は、ラベル画像に基づいて、入力画像中の血管の長軸方向の各撮影位置に対して、ステント有又はステント無を判定し、ステント有と判定した撮影位置を、ステントの留置範囲に特定する。
【0053】
なお、ステップS14,S15において、縦断層画像中のステントの位置を検出する処理は、ステント検出モデルM1を用いる構成に限定されず、ルールベースで行う構成でもよい。例えば、IVUS縦断層画像又はOCT縦断層画像中に撮影されたステントが取り得る画素値の範囲を予め設定しておき、縦断層画像中の各画素の画素値に基づいてステント有又はステント無を判定し、判定結果からステントの位置(留置範囲)を特定してもよい。
【0054】
制御部31は、IVUS縦断層画像に基づいて検出したステントの位置と、OCT縦断層画像に基づいて検出したステントの位置とに基づいて、最終的なステントの位置(留置範囲)を特定する(S16)。例えば制御部31は、IVUS縦断層画像に基づいてステント有と判定した撮影位置(ステントの留置範囲)と、OCT縦断層画像に基づいてステント有と判定した撮影位置(ステントの留置範囲)とにおいて、ステントの留置範囲の一端側同士を比較し、例えば、よりステントの内側にある端部を採用してもよく、2つの端部の中央位置を最終的な端部としてもよい。同様に、他端側同士を比較し、よりステントの内側にある端部を採用してもよく、2つの端部の中央位置を最終的な端部としてもよい。また、制御部31が、留置されたステントの長さを把握している場合、ステントの長さを考慮して、一端側及び他端側のそれぞれについて、いずれの端部を採用するかを決定してもよい。このように、IVUS縦断層画像及びOCT縦断層画像のそれぞれに基づいてステント位置を検出した場合、それぞれの検出結果を補正することにより、より適切なステントの位置(留置範囲)を特定できる。
【0055】
ステントエッジによる解離は、ステントエッジからステントの外側の所定範囲内で発生するので、ステントエッジによる解離の有無の判定は、この範囲内で行えばよい。よって、制御部31は、ステップS16で特定したステント位置に基づいて、ステントエッジによる解離の有無の判定対象とすべき対象領域を特定する(S17)。具体的には、制御部31は、
図8に示すように、特定したステント位置(ステントの留置範囲)の長軸方向の両端部(エッジ)のそれぞれから、ステントの外側に所定距離隔てた位置までの範囲(所定領域)を対象領域に特定する。対象領域は、ステントエッジから、例えば5mm又は10mm程度とすることができる。なお、ステントはメッシュ状に形成されているので、ステップS14,S15でステント位置の検出に用いる縦断層画像に、正確なステントエッジが含まれない場合が生じる。そこで、対象領域を、縦断層画像から検出されたステントエッジから10mm程度の範囲とすることにより、縦断層画像に正確なステントエッジが撮影されていない場合であっても、正確なステントエッジから所定範囲(5mm程度)を含む領域を対象領域とすることができる。この場合、ステップS12,S13で制御部31は、1枚の縦断層画像を構築し、ステップS14,S15で1枚の縦断層画像からステント位置を検出すればよい。
【0056】
一方、対象領域を、縦断層画像から検出されたステントエッジから5mm程度の範囲とする場合、縦断層画像に正確なステントエッジが撮影されていない場合には、正確なステントエッジから所定範囲(5mm程度)を含む領域を対象領域とすることができない。そこで、この場合、ステップS12,S13で制御部31は、複数枚の縦断層画像を構築し、ステップS14,S15で複数枚の縦断層画像からステント位置を検出する。これにより、1枚の縦断層画像から正確なステント位置を検出できない場合であっても、複数枚の縦断層画像からステントを検出することにより、正確なステント位置を検出でき、その結果、正確なステントエッジから所定範囲(5mm程度)を対象領域とすることができる。なお、複数枚の縦断層画像からステント位置を検出する場合、各縦断層画像からそれぞれ検出したステント位置に基づいて、最終的なステント位置を特定すればよい。
【0057】
制御部31は、ステップS11で取得した超音波ラインデータのうちで、特定した対象領域を撮影位置として取得した超音波ラインデータに基づいて、前記対象領域を撮影位置とするIVUS横断層画像を構築する(S18)。具体的には、制御部31は、当該対象領域でセンサ部12が一回転する間に取得された512本の超音波ラインデータ毎に、512本の超音波ラインデータに対して補間処理によって画素を補間して2次元のIVUS横断層画像を構築する。制御部31は、構築したIVUS横断層画像を主記憶部32又は補助記憶部35に記憶する。同様に、制御部31は、ステップS11で取得した光ラインデータのうちで、特定した対象領域を撮影位置として取得した光ラインデータに基づいて、前記対象領域を撮影位置とするOCT横断層画像を構築し(S19)、構築したOCT横断層画像を主記憶部32又は補助記憶部35に記憶する。
【0058】
制御部31は、ステップS18で生成したIVUS横断層画像のそれぞれに対して、各画像中の血管に、解離角度が60度以上の解離が発生しているか否か(解離の有無)を判定する(S20)。ここでは、制御部31は、IVUS横断層画像を1枚ずつ、IVUS用の解離判定モデルM2に入力し、解離判定モデルM2からの出力情報に基づいて、各入力画像中の血管に解離角度が60度以上の解離が発生しているか否かを判定する。具体的には、制御部31は、解離判定モデルM2において、大きい方の出力値(確信度)を出力した出力ノードを特定し、特定した出力ノードに対応付けられている判別結果を、入力画像中の血管に対する判別結果に特定する。
【0059】
同様に、制御部31は、ステップS19で生成したOCT横断層画像のそれぞれに対して、各画像中の血管に解離が発生しているか否か(解離の有無)を判定する(S21)。ここでは、制御部31は、OCT横断層画像を1枚ずつ、OCT用の解離判定モデルM2に入力し、解離判定モデルM2からの出力情報に基づいて、各入力画像中の血管に解離角度が60度以上の解離が発生しているか否かを判定する。ここでも制御部31は、解離判定モデルM2において、大きい方の出力値(確信度)を出力した出力ノードに対応付けられている判別結果を、入力画像中の血管に対する判別結果に特定する。なお、
図13Aに示すような解離判定モデルM2aを用いて解離領域を判定する場合、制御部31は、上述したような処理によって、解離前の血管内腔の形状を予測して血管内腔の重心位置を算出し、算出した重心を中心とした解離領域の角度範囲を算出してもよい。そして、制御部31は、算出した解離領域の角度範囲が60度以上であるか否かを判断することにより、入力画像中の血管に解離角度が60度以上の解離が発生しているか否かを判定してもよい。
【0060】
制御部31は、IVUS横断層画像のそれぞれに対して判定した解離有無の判定結果と、OCT横断層画像のそれぞれに対して判定した解離有無の判定結果とに基づいて、解離が発生している領域を特定する(S22)。例えば、解離角度が60度以上の解離が血管の長軸方向に2mm以上続いている場合、ステントの追加留置等の処置を行う必要がある解離が発生していると考えられる。そこで、制御部31は、IVUS横断層画像及びOCT横断層画像のそれぞれについて、解離角度が60度以上の解離が長軸方向に2mm以上続いているか否かを判断する。具体的には、制御部31は、対象領域を撮影位置とする全てのIVUS横断層画像に対して解離判定モデルM2を用いた判定処理を行い、解離角度が60度以上の解離が有ると判定された横断層画像が長軸方向に連続する長さを計測し、計測した長さが所定値(例えば2mm)以上であった場合に、処置を要する解離があると判断する。そして、制御部31は、処置を要する解離があると判断した場合、当該解離の領域(当該解離を撮影した横断層画像の撮影位置)を、解離が発生しているフレーム(解離の発生領域)に特定する。なお、プルバック操作におけるセンサ部12の移動速度とセンサ部12の撮影タイミングとに基づいて、横断層画像の各フレーム間の距離(各フレームの撮影位置間の距離)が算出できる。従って、解離の長軸方向の長さは、解離角度が60度以上の解離が有ると判定された横断層画像のフレーム数に基づいて算出できる。
【0061】
OCT横断層画像についても同様に、制御部31は、対象領域を撮影位置とする全てのOCT横断層画像に対して解離判定モデルM2を用いた判定処理を行い、解離角度が60度以上の解離が有ると判定された横断層画像が長軸方向に連続する長さが所定値(例えば2mm)以上であった場合に、処置を要する解離があると判断する。そして、制御部31は、処置を要する解離があると判断した領域(当該解離を撮影した横断層画像の撮影位置)を、解離が発生しているフレーム(解離の発生領域)に特定する。そして、制御部31は、IVUS横断層画像に基づいて特定した解離の発生領域と、OCT横断層画像に基づいて特定した解離の発生領域とを比較し、例えば、IVUS横断層画像及びOCT横断層画像に基づいてそれぞれ特定された解離の発生領域の少なくとも一方を含む範囲を、最終的な解離の発生領域に特定する。また、制御部31は、IVUS横断層画像及びOCT横断層画像に基づいてそれぞれ特定された解離の発生領域が重複する範囲を、最終的な解離の発生領域に特定してもよい。このように、IVUS横断層画像及びOCT横断層画像のそれぞれに基づく判定結果を総合的に判断して最終的な解離の発生領域を特定することにより、より適切な解離の発生領域を特定できる。
【0062】
制御部31は、構築して主記憶部32又は補助記憶部35に記憶したIVUS横断層画像、IVUS縦断層画像、OCT横断層画像及びOCT縦断層画像と共に、血管の状態の検出結果を表示装置4に表示する(S23)。例えば制御部31は、
図9に示すような画面を表示する。
図9の画面は、ステップS19で構築したOCT横断層画像、ステップS13で構築したOCT縦断層画像、ステップS18で構築したIVUS横断層画像、ステップS12で構築したIVUS縦断層画像を並べて表示している。なお、OCT横断層画像及びIVUS横断層画像は、血管の長軸方向の同じ位置で撮影された横断層画像であり、この横断層画像の撮影位置は、OCT縦断層画像及びIVUS縦断層画像においてマークL1で示されている。また、
図9の画面では、OCT縦断層画像及びIVUS縦断層画像のそれぞれの上側に、撮影対象の血管の長軸方向において、ステップS16で特定したステント位置(ステントの留置範囲)を示すマークL2が表示されている。また、
図9の画面では、OCT縦断層画像の上側に、ステップS22で特定した解離の発生領域を示すマークL3が表示されている。なお、
図9の画面では、OCT縦断層画像の上側にのみマークL3が表示されており、これは、OCT画像のみに基づいて解離の有無及び解離の発生領域が判定された場合の例である。しかし、
図7に示すようにOCT画像に加えてIVUS画像に基づいて解離の有無及び解離の発生領域を判定する処理を行う場合、OCT縦断層画像だけでなくIVUS縦断層画像の上側にも、解離の発生領域を示すマークL3が表示される。
【0063】
なお、制御部31は、対象領域を撮影位置とする横断層画像に対して、ステップS20,S21に加えて、血管内のプラーク領域の検出、ステントと血管内腔面(内膜)との隙間(マルアポジション)が所定値(例えば0.4mm)以上である箇所の検出等の処理を行っており、その結果を
図9の画面に表示する。また、制御部31は、ステントの留置範囲を撮影位置とする横断層画像に対して、MSA(Minimum Stent Area:最小ステント拡張面積)の大きさ及び位置の検出処理を行い、その結果を
図9の画面に表示する。例えば、制御部31は、横断層画像(IVUS横断層画像又はOCT横断層画像)を入力とし、入力された横断層画像中の血管内の血管内腔の領域、血管壁の領域、ステントの領域、又はプラークの領域等を認識するモデルを用いて、横断層画像の各画素を各領域に分類する処理を行う。そして制御部31は、分類した各領域に基づいて、画像中の血管内のプラーク領域を検出する。この場合、
図9に示すように、OCT横断層画像上に当該画像中に検出されたプラーク領域を示すマークL4が表示され、IVUS横断層画像上に当該画像中に検出されたプラーク領域を示すマークL5が表示される。マークL4,L5は、表示中の横断層画像におけるプラーク領域の血管周方向の広がりを示している。なお、OCT画像では、脂質性組織で形成されて線維性被膜が薄い脂質性プラークを高精度で撮影できるため、制御部31は、OCT横断層画像から脂質性プラークの領域を検出してもよく、この場合、マークL4は、脂質性プラークの領域を示す。また、IVUS画像では超音波の減衰を伴う減衰性プラーク(attenuated plaque)を撮影できるため、制御部31は、IVUS横断層画像から減衰性プラークの領域を検出してもよく、この場合、マークL5は、減衰性プラークの領域を示す。また、制御部31は、横断層画像に基づいて画像中の血管内のプラーク領域を検出する処理に加えて、解離の発生範囲を検出してもよく、検出した解離の発生範囲を示すマークを、例えば横断層画像中に表示してもよい。
【0064】
また制御部31は、横断層画像を分類した各領域に基づいて、対象領域の各撮影位置におけるマルアポジションを計測し、計測したマルアポジションが所定値(例えば0.4mm)以上である箇所を検出する。マルアポジションが所定値以上である箇所を検出できた場合、
図9に示すように、OCT縦断層画像の上側に、マルアポジションが所定値以上である箇所を示すマークL6が表示される。マークL6についてもOCT横断層画像の上側にのみ表示されており、これは、OCT横断層画像のみに基づいてマルアポジションの計測が行われた場合の例である。マルアポジションの計測もOCT横断層画像に加えてIVUS横断層画像に基づいて行われてもよく、この場合、OCT横断層画像だけでなくIVUS横断層画像の上側にも、マルアポジションが所定値以上である箇所を示すマークL6が表示される。また制御部31は、ステントの留置範囲を撮影位置とする横断層画像に対して同様の処理を行ってもよく、対象領域に加えてステントの留置範囲の各撮影位置についても、マルアポジションが所定値以上である箇所を検出してマークL6で表示してもよい。
【0065】
更に制御部31は、ステントの留置範囲を撮影位置とする横断層画像に対して、画像中の各画素を各領域に分類する処理を行い、分類結果から、MSAの大きさ及び位置を検出する。この場合、
図9に示すように、OCT縦断層画像及びIVUS縦断層画像のそれぞれの上側に、MSAの位置を示すマークL7が表示される。その他に、制御部31は、例えばIVUS横断層画像に基づいて、画像診断用カテーテル1が挿入されている血管(本幹)から分岐して伸びる血管(側枝)の位置を検出する処理を行ってもよい。この場合、
図9に示すように、IVUS縦断層画像上に、側枝が分岐している位置を示すマークL8を表示できる。上述した処理のほかに、制御部31は、例えば横断層画像中の血管内腔面(ルーメンの輪郭)、EEM(External Elastic Membrane:外弾性板)(ヴェッセルの輪郭)、ステントをそれぞれ検出し、
図9の画像中の横断層画像中に表示してもよい。
【0066】
図7に示す処理において、制御部31は、ステップS16の処理後に、
図9の画面中の縦断層画像及びマークL2のみが表示された画面を表示し、ステップS23で
図9の画面を表示してもよい。この場合、縦断層画像に基づいてステントの位置が特定された直後に、術者は、縦断層画像中のステントの位置を確認でき、横断層画像に基づいて血管の状態が検出された後には、
図9に示すような画面によって血管の状態を詳細に確認できる。
【0067】
上述した処理では、解離の有無を判定する処理に用いる横断層画像を、ステントエッジからステントの外側の所定範囲を撮影位置とする画像に制限することにより、演算量が削減され、ステントエッジによる解離の有無を確認するために必要な情報を早期に提供することができる。よって、術者は、早期に提供された情報に基づいて、ステントエッジによる解離の有無を早急に判定することが可能となる。また、解離判定モデルM2を用いた解離有無の判定処理を行う画像を、ステントエッジから所定範囲の領域で撮影された画像に制限することにより、解離判定モデルM2の学習に用いる訓練データを、当該領域の画像に制限できるので、効率のよい学習が可能となると共に、精度の高い判定結果が得られる解離判定モデルM2の実現が可能となる。なお、ラインデータの一部(任意のライン番号のラインデータ及びこのライン番号に256を加算したライン番号のラインデータ)から構築された縦断層画像に基づいてステント位置の検出が行われるので、全てのラインデータを処理する必要がなく、早期にステント位置の検出が可能となる。また、上述した処理では、IVUS画像及びOCT画像の両方を用いてステントエッジによる解離の有無を判定するため、それぞれの画像に基づいて検出されたステントの位置、及び、それぞれの画像に基づいて判定された解離の発生領域を補正することにより、より適切なステントの位置及び解離の発生領域を特定できる。
【0068】
本実施形態の血管内検査装置101は、IVUS及びOCTの両方の機能を備えるデュアルタイプの画像診断用カテーテル1を用いた構成に限定されず、画像診断用カテーテル1は、IVUSセンサ12aのみ又はOCTセンサ12bのみを備える構成でもよい。以下に、IVUSセンサ12aのみ又はOCTセンサ12bのみを備える画像診断用カテーテル1を用いてステントエッジによる解離の有無を判定する処理について説明する。
図10は、解離の有無の判定処理手順の他の一例を示すフローチャートである。なお、OCT画像に基づいて解離の有無を判定する処理と、IVUS画像に基づいて解離の有無を判定する処理とは同様の処理であり、以下ではまとめて説明する。よって、以下の説明において、OCT画像に基づいて解離の有無を判定する処理では、ラインデータは光ラインデータ、縦断層画像はOCT縦断層画像、横断層画像はOCT横断層画像とそれぞれ読み替える。また、IVUS画像に基づいて解離の有無を判定する処理では、ラインデータは超音波ラインデータ、縦断層画像はIVUS縦断層画像、横断層画像はIVUS横断層画像とそれぞれ読み替える。
【0069】
画像処理装置3の制御部31は、
図7中のステップS11と同じ処理を行い、血管内検査装置101によって撮影された一連のラインデータを取得する(S31)。また制御部31は、
図7中のステップS12,S13と同じ処理を行い、ステップS31で取得したラインデータに基づいて、所定枚数の縦断層画像を構築する(S32)。また制御部31は、
図7中のステップS14,S15と同じ処理を行い、生成した縦断層画像に基づいて、当該画像中のステントの位置(ステントの留置範囲)を検出する(S33)。そして、制御部31は、検出したステント位置に基づいて、ステントエッジによる解離の有無の判定対象とすべき対象領域を特定する(S34)。ここでは、制御部31は、検出したステント位置の長軸方向の両端部(エッジ)のそれぞれから、ステントの外側に所定距離隔てた位置までの範囲を対象領域に特定する。
【0070】
制御部31は、
図7中のステップS18,S19と同じ処理を行い、特定した対象領域を撮影位置とするラインデータに基づいて、前記対象領域を撮影位置とする横断層画像を構築し(S35)、主記憶部32又は補助記憶部35に記憶する。また制御部31は、
図7中のステップS20,S21と同じ処理を行い、生成した横断層画像のそれぞれに対して、各画像中の血管における解離の有無を判定する(S36)。また制御部31は、
図7中のステップS22と同じ処理を行い、横断層画像のそれぞれに対して判定した解離有無の判定結果に基づいて、解離の発生領域を特定する(S37)。そして、制御部31は、
図7中のステップS23と同じ処理を行い、
図9に示すような画面によって、血管の状態の検出結果を表示する(S38)。なお、ここでの画面では、
図9の画面において、OCT横断層画像及びOCT縦断層画像、あるいは、IVUS横断層画像及びIVUS縦断層画像のいずれか一方が表示される。
【0071】
図10に示す処理のように、IVUSセンサ12aのみ、又はOCTセンサ12bのみを用いる場合であっても、ラインデータに基づく縦断層画像からステント位置が検出され、検出されたステント位置から対象領域が特定され、対象領域について、横断層画像に基づいてステントエッジによる解離の有無の判定処理が行われる。このような構成においても、ステントエッジによる解離の有無を確認するために必要な情報を早期に提供することができるので、術者は、ステントエッジによる解離の有無を早急に判定することができる。
【0072】
(実施形態2)
ステントエッジによる解離の有無の判定結果と共に、ステントエッジによる解離があると判定した場合に、解離の状態(タイプ)及び解離に対するアドバイスを術者に提供する画像診断装置について説明する。本実施形態の画像診断装置100は、実施形態1の画像診断装置100における各装置と同様の装置によって実現できるので、同様の構成については説明を省略する。
【0073】
図11は、実施形態2の解離の有無の判定処理手順の一例を示すフローチャート、
図12は画面例を示す説明図である。
図11に示す処理は、
図7に示す処理において、ステップS23の後にステップS41~S43を追加したものである。
図7と同じステップについては説明を省略する。なお、
図11では
図7中のステップS11~S21の図示を省略している。
【0074】
本実施形態の画像診断装置100では、画像処理装置3の制御部31は、
図9に示すような画面によって検出結果を表示した(S23)後、例えば横断層画像(IVUS横断層画像又はOCT横断層画像)に基づいて、検出した解離(処置を要する解離)の状態を判定する(S41)。解離の状態の判定処理は、例えば、解離を含む血管の横断層画像から生成されたテンプレート画像を用いたパターンマッチングによって行ってもよく、機械学習によって構築された学習モデルを用いて行ってもよい。
【0075】
学習モデルを用いて解離状態の判定処理を行う場合、例えば、1枚の横断層画像を入力とし、入力された横断層画像に基づいて、当該画像中の血管内の解離の状態(タイプ)を判別する演算を行い、演算結果を示す情報を出力するように学習された学習モデルを用いることができる。このような学習モデルは、例えば、予め設定された判別結果が対応付けられた複数の出力ノードを有し、各出力ノードから、対応付けられた判別結果であると判別すべき確率(確信度)を出力するように構成される。各出力ノードに対応付けられる判別結果には、例えばスタンフォード分類によるスタンフォードA型及びスタンフォードB型、ドベーキー分類によるドベーキーI型、II型、IIIa型、IIIb型等を用いることができる。このような学習モデルは、例えばCNN、RNN、LSTM、Transformer、決定木、ランダムフォレスト、SVM等を用いて構成される。画像処理装置3の制御部31は、このような学習モデルに横断層画像を入力することにより、学習モデルからの出力情報に基づいて、入力画像中の血管内の解離の状態(分類)を特定することができる。
【0076】
次に制御部31は、ステップS22で特定した解離の発生領域、及び、ステップS41で判定した解離の状態に基づいて、術者に提供すべきアドバイスを特定する(S42)。例えば制御部31は、解離角度が60度以上の解離の発生領域が血管の長軸方向に所定値(例えば2mm)以上続く場合、解離の発生領域に追加のステントを留置するアドバイスを特定する。また、制御部31は、解離の発生領域の大きさに応じて、追加で留置すべきステントのサイズ又は型番、並びに、ステントの留置位置の候補等を特定してアドバイスに含めてもよい。また、解離の状態又はタイプに応じて術者に提供すべきアドバイスを予めDBに登録しておき、制御部31は、判定した解離の状態又はタイプに応じたアドバイスをDBから特定してもよい。
【0077】
そして、制御部31は、
図9に示す画面に、特定したアドバイスを追加して表示する(S43)。これにより、
図12に示す画面が表示装置4に表示される。
図12に示す画面は、
図9に示す画面と同様の構成に加えて、判定された解離の状態と、解離に対するアドバイスとを表示する。これにより、ステントの留置後に撮影された画像に基づいて判定された、ステントエッジによる解離の有無の判定結果に加えて、解離の状態又はタイプと共に、追加で行うべき処置に関するアドバイスを術者に提供することができる。
【0078】
上述した処理により、ステントの留置後にステントエッジによる解離が発生した場合に、解離の発生領域と共に、解離の状態又はタイプ、並びに、ステントの追加留置等の処置に関するアドバイスを術者に提供することができる。よって、術者は、提供された情報に基づいてステントエッジによる解離の有無を判断でき、また、アドバイスを参考にして最適な治療を行うことができる。
【0079】
上述した各実施形態において、ステント検出モデルM1を用いて縦断層画像からステント位置を検出する処理、解離判定モデルM2を用いて横断層画像から解離の有無を判定する処理は、画像処理装置3がローカルで行う構成に限定されない。例えば、ステント検出モデルM1を用いて縦断層画像からステント位置を検出する処理を行うサーバを設けてもよい。この場合、画像処理装置3は、OCT縦断層画像及び/又はIVUS縦断層画像をサーバへ送信し、サーバでOCT縦断層画像及び/又はIVUS縦断層画像から検出されたステント位置を取得するように構成される。また、解離判定モデルM2を用いて横断層画像から解離の有無を判定する処理を行うサーバを設けてもよい。この場合、画像処理装置3は、OCT横断層画像及び/又はIVUS横断層画像をサーバへ送信し、サーバでOCT横断層画像及び/又はIVUS横断層画像から判定された解離の有無の判定結果を取得するように構成される。このような構成とした場合であっても、上述した各実施形態と同様の処理が可能であり、同様の効果が得られる。なお、実施形態2においても、上述した実施形態1で適宜説明した変形例の適用が可能である。
【0080】
上述した各実施形態では、超音波を用いて血管内の断層画像を撮影するIVUSセンサ12aと、近赤外光を用いて血管内の断層画像を撮影するOCTセンサ12bとを使用する構成であるが、このような構成に限定されない。例えばIVUSセンサ12a又はOCTセンサ12bの代わりに、血管内からのラマン散乱光を受光して血管内の断層画像を撮影するセンサ、血管内からの励起光を受光して血管内の断層画像を撮影するセンサ等、血管の状態を観察できる各種のセンサを使用する構成とすることもできる。
【0081】
今回開示された実施の形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0082】
1 画像診断用カテーテル
2 MDU
3 画像処理装置
4 表示装置
5 入力装置
31 制御部
32 主記憶部
33 入出力部
35 補助記憶部
101 血管内検査装置
102 血管造影装置
P プログラム