(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023183004
(43)【公開日】2023-12-27
(54)【発明の名称】医用画像処理装置及び医用画像処理方法
(51)【国際特許分類】
A61B 6/00 20060101AFI20231220BHJP
【FI】
A61B6/00 360B
A61B6/00 350A
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022096348
(22)【出願日】2022-06-15
(71)【出願人】
【識別番号】502094572
【氏名又は名称】株式会社アールテック
(74)【代理人】
【識別番号】100117857
【弁理士】
【氏名又は名称】南林 薫
(72)【発明者】
【氏名】小杉 隆司
(72)【発明者】
【氏名】小杉 崇文
【テーマコード(参考)】
4C093
【Fターム(参考)】
4C093AA04
4C093AA08
4C093CA33
4C093DA02
4C093FF18
4C093FF24
4C093FF27
4C093FF35
4C093FF37
4C093FF42
(57)【要約】
【課題】術者が医用画像を視認しながら医療デバイスを用いて被検体の血管を手術する際に、安全に手術を行える仕組みを提供する。
【解決手段】術者20が医療デバイス100を用いて被検体の血管を手術する際に視認する表示部380を有する医用画像処理装置300において、表示処理部370は、透過度推定部350で推定された血管の透過度305に基づいて3次元の血管像371を生成するとともに、実像虚像判定部360で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307に基づいて3次元の医療デバイス像372を生成し、3次元の血管像371と3次元の医療デバイス像372とを重ね合わせて生成した3次元の医用画像309を表示部380に表示する処理を行う。
【選択図】
図1
【特許請求の範囲】
【請求項1】
術者が医療デバイスを用いて被検体の血管を手術する際に視認する表示部を有する医用画像処理装置であって、
前記医療デバイスが挿入された前記血管を含む前記被検体を第1面の方向においてX線透視撮影することによって得られた第1面X線透視画像と前記第1面X線透視画像に対応する第1面ロードマップ画像とを含む第1面2次元画像、前記第1面の方向におけるX線透視撮影に係る第1面撮影情報、前記医療デバイスが挿入された前記血管を含む前記被検体を前記第1面とは異なる第2面の方向においてX線透視撮影することによって得られた第2面X線透視画像と前記第2面X線透視画像に対応する第2面ロードマップ画像とを含む第2面2次元画像、および、前記第2面の方向におけるX線透視撮影に係る第2面撮影情報に基づいて、前記血管と前記医療デバイスにおける3次元の特徴量を算出する特徴量算出部と、
前記第1面2次元画像に基づいて前記第1面の方向における前記医療デバイスの形状を表す第1面2次元デバイス形状画像を生成するとともに、前記第2面2次元画像に基づいて前記第2面の方向における前記医療デバイスの形状を表す第2面2次元デバイス形状画像を生成する2次元デバイス形状画像生成部と、
前記第1面2次元デバイス形状画像および前記第2面2次元デバイス形状画像と、前記第1面撮影情報および前記第2面撮影情報とに基づいて、前記医療デバイスにおける3次元形状の点群情報である3次元デバイス形状点群情報を算出する3次元デバイス形状点群情報算出部と、
前記特徴量算出部で算出された前記3次元の特徴量と、前記被検体に対して設定された複数の格子点の情報である被検体格子点群情報とに基づいて、前記血管の透過度を推定するとともに、前記特徴量算出部で算出された前記3次元の特徴量と、前記3次元デバイス形状点群情報とに基づいて、前記医療デバイスの透過度を推定する透過度推定部と、
前記透過度推定部で推定された前記医療デバイスの透過度に基づいて、前記3次元デバイス形状点群情報における点群を含む近傍領域を複数のグループに分けた際の前記グループごとに、実像か虚像かを判定する実像虚像判定部と、
前記透過度推定部で推定された前記血管の透過度に基づいて3次元の血管像を生成するとともに、前記実像虚像判定部で前記実像と判定された前記グループに属する前記点群の前記3次元デバイス形状点群情報に基づいて3次元の医療デバイス像を生成し、前記3次元の血管像と前記3次元の医療デバイス像とを重ね合わせて生成した3次元の医用画像を前記表示部に表示する処理を行う表示処理部と、
を有することを特徴とする医用画像処理装置。
【請求項2】
前記実像虚像判定部は、前記グループごとに、前記医療デバイスの透過度における平均値を算出し、前記平均値が所定の閾値以下の前記グループを前記実像と判定し、前記平均値が前記所定の閾値よりも大きい前記グループを前記虚像と判定することを特徴とする請求項1に記載の医用画像処理装置。
【請求項3】
前記被検体は、被検者の頭部であり、
前記第1面X線透視画像は、前記医療デバイスが挿入された前記頭部の前記血管および前記頭部の頭蓋骨を前記第1面の方向においてX線透視撮影することによって得られた画像であり、
前記第2面X線透視画像は、前記医療デバイスが挿入された前記頭部の前記血管および前記頭蓋骨を前記第2面の方向においてX線透視撮影することによって得られた画像であり、
前記特徴量算出部は、前記頭蓋骨と前記血管と前記医療デバイスにおける3次元の特徴量を算出し、
前記透過度推定部は、前記特徴量算出部で算出された前記3次元の特徴量と、前記被検体格子点群情報とに基づいて、前記頭蓋骨および前記血管の透過度を推定し、
前記表示処理部は、前記透過度推定部で推定された前記頭蓋骨および前記血管の透過度に基づいて3次元の頭蓋骨像および前記3次元の血管像を生成し、前記3次元の頭蓋骨像および前記3次元の血管像と前記3次元の医療デバイス像とを重ね合わせて生成した3次元の医用画像を前記表示部に表示する処理を行う
ことを特徴とする請求項1に記載の医用画像処理装置。
【請求項4】
前記被検体は、被検者の胸部または腹部であることを特徴とする請求項1に記載の医用画像処理装置。
【請求項5】
前記特徴量算出部は、前記第1面2次元画像、前記第1面撮影情報、前記第2面2次元画像、および、前記第2面撮影情報が入力された場合に、前記血管と前記医療デバイスにおける3次元の特徴量を出力するように機械学習された学習済モデルを用いて、前記3次元の特徴量を算出することを特徴とする請求項1に記載の医用画像処理装置。
【請求項6】
前記2次元デバイス形状画像生成部は、前記第1面2次元画像および前記第2面2次元画像が入力された場合に、前記第1面2次元デバイス形状画像および前記第2面2次元デバイス形状画像を出力するように機械学習された学習済モデルを用いて、前記第1面2次元デバイス形状画像および前記第2面2次元デバイス形状画像を生成することを特徴とする請求項1に記載の医用画像処理装置。
【請求項7】
前記透過度推定部は、前記特徴量算出部で算出された前記3次元の特徴量および前記被検体格子点群情報が入力された場合に前記血管の透過度を出力するように機械学習され、且つ、前記特徴量算出部で算出された前記3次元の特徴量および前記3次元デバイス形状点群情報が入力された場合に前記医療デバイスの透過度を出力するように機械学習された学習済モデルを用いて、前記血管の透過度および前記医療デバイスの透過度を推定することを特徴とする請求項1に記載の医用画像処理装置。
【請求項8】
術者が医療デバイスを用いて被検体の血管を手術する際に視認する表示部を有する医用画像処理装置による医用画像処理方法であって、
前記医療デバイスが挿入された前記血管を含む前記被検体を第1面の方向においてX線透視撮影することによって得られた第1面X線透視画像と前記第1面X線透視画像に対応する第1面ロードマップ画像とを含む第1面2次元画像、前記第1面の方向におけるX線透視撮影に係る第1面撮影情報、前記医療デバイスが挿入された前記血管を含む前記被検体を前記第1面とは異なる第2面の方向においてX線透視撮影することによって得られた第2面X線透視画像と前記第2面X線透視画像に対応する第2面ロードマップ画像とを含む第2面2次元画像、および、前記第2面の方向におけるX線透視撮影に係る第2面撮影情報に基づいて、前記血管と前記医療デバイスにおける3次元の特徴量を算出する特徴量算出ステップと、
前記第1面2次元画像に基づいて前記第1面の方向における前記医療デバイスの形状を表す第1面2次元デバイス形状画像を生成するとともに、前記第2面2次元画像に基づいて前記第2面の方向における前記医療デバイスの形状を表す第2面2次元デバイス形状画像を生成する2次元デバイス形状画像生成ステップと、
前記第1面2次元デバイス形状画像および前記第2面2次元デバイス形状画像と、前記第1面撮影情報および前記第2面撮影情報とに基づいて、前記医療デバイスにおける3次元形状の点群情報である3次元デバイス形状点群情報を算出する3次元デバイス形状点群情報算出ステップと、
前記特徴量算出ステップで算出された前記3次元の特徴量と、前記被検体に対して設定された複数の格子点の情報である被検体格子点群情報とに基づいて、前記血管の透過度を推定するとともに、前記特徴量算出ステップで算出された前記3次元の特徴量と、前記3次元デバイス形状点群情報とに基づいて、前記医療デバイスの透過度を推定する透過度推定ステップと、
前記透過度推定ステップで推定された前記医療デバイスの透過度に基づいて、前記3次元デバイス形状点群情報における点群を含む近傍領域を複数のグループに分けた際の前記グループごとに、実像か虚像かを判定する実像虚像判定ステップと、
前記透過度推定ステップで推定された前記血管の透過度に基づいて3次元の血管像を生成するとともに、前記実像虚像判定ステップで前記実像と判定された前記グループに属する前記点群の前記3次元デバイス形状点群情報に基づいて3次元の医療デバイス像を生成し、前記3次元の血管像と前記3次元の医療デバイス像とを重ね合わせて生成した3次元の医用画像を前記表示部に表示する処理を行う表示処理ステップと、
を有することを特徴とする医用画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、術者が医療デバイスを用いて被検体の血管を手術する際に視認する表示部を有する医用画像処理装置、及び、医用画像処理装置による医用画像処理方法に関するものである。
【背景技術】
【0002】
術者が医療デバイスを用いて被検体の血管を手術する際に、当該血管及び当該医療デバイスを含む被検体の領域をX線透視撮影することによって得られる医用画像の一種であるX線透視画像を表示部に動画表示して、術者が表示部に表示されたX線透視画像を視認しながら当該手術を進めることが行われている。例えば、特許文献1には、血管内に医療デバイス(具体的には、ステント)を設置する手術を行う際に、当該血管及び当該医療デバイスを含む被検体の領域をX線透視撮影して、X線透視画像を表示部に動画表示する技術が記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
一般的に、X線透視画像は2次元画像であるため、特許文献1に記載の技術では、術者は、この2次元画像から血管や医療デバイスにおける3次元の位置関係を認識しながら手術を進めることになる。この際、2次元の情報は、3次元の情報と比べて情報の欠落があるため、特許文献1に記載の技術では、術者が安全に血管の手術を進めるという観点においては不十分である。
【0005】
本発明は、このような問題点に鑑みてなされたものであり、術者が医用画像を視認しながら医療デバイスを用いて被検体の血管を手術する際に、血管や医療デバイスにおける3次元の位置関係をより容易に認識させることで、安全に手術を行える仕組みを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の医用画像処理装置は、術者が医療デバイスを用いて被検体の血管を手術する際に視認する表示部を有する医用画像処理装置であって、前記医療デバイスが挿入された前記血管を含む前記被検体を第1面の方向においてX線透視撮影することによって得られた第1面X線透視画像と前記第1面X線透視画像に対応する第1面ロードマップ画像とを含む第1面2次元画像、前記第1面の方向におけるX線透視撮影に係る第1面撮影情報、前記医療デバイスが挿入された前記血管を含む前記被検体を前記第1面とは異なる第2面の方向においてX線透視撮影することによって得られた第2面X線透視画像と前記第2面X線透視画像に対応する第2面ロードマップ画像とを含む第2面2次元画像、および、前記第2面の方向におけるX線透視撮影に係る第2面撮影情報に基づいて、前記血管と前記医療デバイスにおける3次元の特徴量を算出する特徴量算出部と、前記第1面2次元画像に基づいて前記第1面の方向における前記医療デバイスの形状を表す第1面2次元デバイス形状画像を生成するとともに、前記第2面2次元画像に基づいて前記第2面の方向における前記医療デバイスの形状を表す第2面2次元デバイス形状画像を生成する2次元デバイス形状画像生成部と、前記第1面2次元デバイス形状画像および前記第2面2次元デバイス形状画像と、前記第1面撮影情報および前記第2面撮影情報とに基づいて、前記医療デバイスにおける3次元形状の点群情報である3次元デバイス形状点群情報を算出する3次元デバイス形状点群情報算出部と、前記特徴量算出部で算出された前記3次元の特徴量と、前記被検体に対して設定された複数の格子点の情報である被検体格子点群情報とに基づいて、前記血管の透過度を推定するとともに、前記特徴量算出部で算出された前記3次元の特徴量と、前記3次元デバイス形状点群情報とに基づいて、前記医療デバイスの透過度を推定する透過度推定部と、前記透過度推定部で推定された前記医療デバイスの透過度に基づいて、前記3次元デバイス形状点群情報における点群を含む近傍領域を複数のグループに分けた際の前記グループごとに、実像か虚像かを判定する実像虚像判定部と、前記透過度推定部で推定された前記血管の透過度に基づいて3次元の血管像を生成するとともに、前記実像虚像判定部で前記実像と判定された前記グループに属する前記点群の前記3次元デバイス形状点群情報に基づいて3次元の医療デバイス像を生成し、前記3次元の血管像と前記3次元の医療デバイス像とを重ね合わせて生成した3次元の医用画像を前記表示部に表示する処理を行う表示処理部と、を有する。
また、本発明は、上述した医用画像処理装置による医用画像処理方法を含む。
【発明の効果】
【0007】
本発明によれば、術者が医用画像を視認しながら医療デバイスを用いて被検体の血管を手術する際に、安全に手術を行うことができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の実施形態に係る医用画像処理システムの概略構成の一例を示す図である。
【
図2】本発明の実施形態を示し、
図1の第1面X線透視画像及び第1面ロードマップ画像の具体例を示す画像図である。
【
図3】本発明の実施形態を示し、
図1の第1面撮影情報及び第2面撮影情報の具体例を示す図である。
【
図4】本発明の実施形態を示し、
図1の被検体格子点群情報の具体例を示す図である。
【
図5】本発明の実施形態を示し、
図1の特徴量算出部による処理例を示す図である。
【
図6】本発明の実施形態を示し、
図1の2次元デバイス形状画像生成部による処理例を示す図である。
【
図7】本発明の実施形態を示し、
図1の3次元デバイス形状点群情報算出部による処理例を示す図である。
【
図8】本発明の実施形態を示し、
図1の透過度推定部による処理例を示す図である。
【
図9】本発明の実施形態を示し、
図1の実像虚像判定部による処理例を示す図である。
【
図10】本発明の実施形態を示し、
図1の表示処理部による処理例を示す図である。
【
図11】本発明の実施形態に係る医用画像処理装置による医用画像処理方法の処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下に、図面を参照しながら、本発明を実施するための形態(実施形態)について説明する。なお、以下に記載する本発明の実施形態では、X線透視撮影を行う被検体として被検者の頭部を適用した例について説明する。
【0010】
図1は、本発明の実施形態に係る医用画像処理システム10の概略構成の一例を示す図である。
図1に示すように、医用画像処理システム10は、医療デバイス100、天板200、第1のX線撮影装置210、第2のX線撮影装置220、医用画像処理装置300、制御装置400、及び、入力装置500を有して構成されている。
【0011】
医療デバイス100は、術者20が、被検体である被検者30の頭部31における血管を手術する際に用いる医療デバイスである。本実施形態では、医療デバイス100は、例えば、被検者30の頭部31の内部における脳動脈の動脈瘤に対してコイル塞栓術を行うためのカテーテル器具(各種のカテーテルやコイルを含む)である。
【0012】
天板200は、被検者30を載置するための部材であり、X線を透過させる材質で形成されている。
【0013】
第1のX線撮影装置210は、X線発生部211、X線検出部213、及び、Cアーム214を有して構成されている。この第1のX線撮影装置210は、X線212を用いて、被検者30の頭部31の内部(医療デバイス100が挿入された血管を含む領域)を第1面の方向であるX線検出部213のX線検出面213aにおいて撮影する装置である。X線発生部211は、制御装置400の制御に基づいて、被検者30の頭部31及びX線検出部213に向けてX線212を発生させる。X線検出部213は、制御装置400の制御に基づいて、被検者30の頭部31を透過したX線212を画像信号として検出する。Cアーム214は、一方の端にX線発生部211を固定し、他方の端にX線検出部213を固定して、被検体である被検者30の頭部31を間に挟んでX線発生部211とX線検出部213とを対向させて配置するための支持部材である。このCアーム214は、例えば制御装置400の制御によって、移動可能に構成されている。
【0014】
第2のX線撮影装置220は、X線発生部221、X線検出部223、及び、Cアーム224を有して構成されている。この第2のX線撮影装置220は、X線222を用いて、被検者30の頭部31の内部(医療デバイス100が挿入された血管を含む領域)を第2面の方向であるX線検出部223のX線検出面223aにおいて撮影する装置である。X線発生部221は、制御装置400の制御に基づいて、被検者30の頭部31及びX線検出部223に向けてX線222を発生させる。X線検出部223は、制御装置400の制御に基づいて、被検者30の頭部31を透過したX線222を画像信号として検出する。Cアーム224は、一方の端にX線発生部221を固定し、他方の端にX線検出部223を固定して、被検体である被検者30の頭部31を間に挟んでX線発生部221とX線検出部223とを対向させて配置するための支持部材である。このCアーム224は、例えば制御装置400の制御によって、移動可能に構成されている。
【0015】
医用画像処理装置300は、術者20が医療デバイス100を用いて被検体である被検者30の頭部31における血管を手術する際に視認する3次元の医用画像を生成する処理を行う。この医用画像処理装置300の内部の各構成部の説明については後述する。
【0016】
制御装置400は、例えば入力装置500から入力された情報に基づいて、医用画像処理システム10の動作を統括的に制御するとともに、各種の処理を行う。
【0017】
入力装置500は、制御装置400に対して各種の情報を入力する。
【0018】
次に、医用画像処理装置300の内部の各構成部について説明する。
図1に示すように、医用画像処理装置300は、画像・情報取得部310、特徴量算出部320、2次元デバイス形状画像生成部330、3次元デバイス形状点群情報算出部340、透過度推定部350、実像虚像判定部360、表示処理部370、及び、表示部380を有して構成されている。
【0019】
画像・情報取得部310は、第1のX線撮影装置210のX線検出部213から、被検体である被検者30の頭部31を第1面の方向であるX線検出部213のX線検出面213aにおいてX線透視撮影することによって得られた第1面X線透視画像3111と、第1面X線透視画像3111に対応する第1面ロードマップ画像3112と、を含む第1面2次元画像311を取得する。
図2は、本発明の実施形態を示し、
図1の第1面X線透視画像3111及び第1面ロードマップ画像3112の具体例を示す画像図である。
図2(a)に示す第1面X線透視画像3111は、被検体である被検者30の頭部31を第1面の方向であるX線検出部213のX線検出面213aにおいてX線透視撮影することによって得られたX線透視画像の生データである。この
図2(a)に示す第1面X線透視画像3111には、被検者30の頭部31における頭蓋骨や医療デバイス100が挿入された血管を含む領域が描画されている。また、
図2(b)に示す第1面ロードマップ画像3112は、直前に撮影した第1面の方向における血管造影画像と第1面X線透視画像3111とを重ね合わせた画像である。本実施形態においては、第1面ロードマップ画像3112は、血管が造影剤により染まった画像や、
図2(b)に示すように当該画像を白抜きした画像である。
【0020】
ここで再び、
図1の説明に戻る。
画像・情報取得部310は、第2のX線撮影装置220のX線検出部223から、被検体である被検者30の頭部31を第2面の方向であるX線検出部223のX線検出面223aにおいてX線透視撮影することによって得られた第2面X線透視画像3121と、第2面X線透視画像3121に対応する第2面ロードマップ画像3122と、を含む第2面2次元画像312を取得する。第2面X線透視画像3121は、
図2(a)に示す第1面X線透視画像3111における第1面の方向とは異なる第2面の方向においてX線透視撮影することによって得られたX線透視画像の生データである。また、第2面ロードマップ画像3122は、直前に撮影した第2面の方向における血管造影画像と第2面X線透視画像3121とを重ね合わせた画像である。本実施形態においては、第2面ロードマップ画像3122は、血管が造影剤により染まった画像や、
図2(b)に示す第1面ロードマップ画像3112のように当該画像を白抜きした画像である。
【0021】
また、画像・情報取得部310は、第1のX線撮影装置210及び第2のX線撮影装置220の動作を制御する制御装置400から、第1面撮影情報313及び第2面撮影情報314を取得する。第1面撮影情報313は、第1面の方向におけるX線透視撮影に係る撮影情報であり、第1面X線透視画像3111を撮影する際の撮影情報である。第2面撮影情報314は、第2面の方向におけるX線透視撮影に係る撮影情報であり、第2面X線透視画像3121を撮影する際の撮影情報である。
図3は、本発明の実施形態を示し、
図1の第1面撮影情報313及び第2面撮影情報314の具体例を示す図である。本実施形態では、第1面撮影情報313及び第2面撮影情報314は、
図3(a)に示すように、X線発生部からX線検出部までの距離情報(SID:Source Image Receptor Distance)、X線撮影装置の傾きを緯度及び経度で表した数値情報(CRA:Cranial direction(被検者30の上側)またはCAU:Caudal direction(被検者30の下側),LAO:Left Anterior Oblique view(被検者30の左側)またはRAO:Right Anterior Oblique view(被検者30の右側))、及び、2次元画像の実寸サイズ情報(FD:Flat Detector)を含む。
図3(b)~
図3(g)は、
図3(a)に示す第1面撮影情報313及び第2面撮影情報314に含まれる各種の情報を説明するための図であり、
図1及び
図2に示す構成と同様の構成については同じ符号を付している。
図3(b)に示すように、第1面撮影情報313の距離情報(SID)は、X線発生部211からX線検出部213までの距離情報であり、また、第2面撮影情報314の距離情報(SID)は、X線発生部221からX線検出部223までの距離情報である。第1面撮影情報313の数値情報(CRAまたはCAU,LAOまたはRAO)は、
図3(c)及び
図3(d)に示すように、天板200に横たわった被検者30を水平方向に配置した際に、被検者30の頭部31を通る鉛直線とX線発生部211からX線検出部213までを結ぶ直線とのなす角度を示すCRAまたはCAU、及び、
図3(e)及び
図3(f)に示すように、天板200に横たわった被検者30を奥行方向に配置した際に、被検者30の頭部31を通る鉛直線とX線発生部211からX線検出部213までを結ぶ直線とのなす角度を示すLAOまたはRAOを含む。また、第2面撮影情報314の数値情報(CRAまたはCAU,LAOまたはRAO)は、
図3(c)及び
図3(d)に示すように、天板200に横たわった被検者30を水平方向に配置した際に、被検者30の頭部31を通る鉛直線とX線発生部221からX線検出部223までを結ぶ直線とのなす角度を示すCRAまたはCAU、及び、
図3(e)及び
図3(f)に示すように、天板200に横たわった被検者30を奥行方向に配置した際に、被検者30の頭部31を通る鉛直線とX線発生部221からX線検出部223までを結ぶ直線とのなす角度を示すLAOまたはRAOを含む。第1面撮影情報313の2次元画像の実寸サイズ情報(FD)は、
図3(g)に示すように第1面X線透視画像3111の対角線の長さに相当する情報であり、また、第2面撮影情報314の2次元画像の実寸サイズ情報(FD)は、第2面X線透視画像3121の対角線の長さに相当する情報である。なお、本実施形態では、画像・情報取得部310は、第1のX線撮影装置210及び第2のX線撮影装置220の動作を制御する制御装置400から、第1面撮影情報313及び第2面撮影情報314を取得する形態としているが、本発明においてはこの形態に限定されるものではない。例えば、画像・情報取得部310は、取得した第1面ロードマップ画像3112及び第2面ロードマップ画像3122を画像解析することにより、それぞれ第1面撮影情報313及び第2面撮影情報314を取得し、また、ここで取得した撮影情報に誤りがある場合に入力装置500から正しい撮影情報を取得するようにした形態も、本発明に適用可能である。
【0022】
ここで再び、
図1の説明に戻る。
さらに、画像・情報取得部310は、制御装置400を介して、入力装置500から入力された被検体格子点群情報315を取得する。
図4は、本発明の実施形態を示し、
図1の被検体格子点群情報315の具体例を示す図である。
図4には、被検体である被検者30の頭部31における領域を直方体で指定し、指定した直方体内に設定された複数の格子点3151の情報である被検体格子点群情報315が示されている。また、
図4には、第1のX線撮影装置210におけるX線発生部211とX線検出部213との間の面であってX線検出部213のX線検出面213aと平行な第1面401と、第2のX線撮影装置220におけるX線発生部221とX線検出部223との間の面であってX線検出部223のX線検出面223aと平行な第2面402も、図示している。この場合、X線検出部213のX線検出面213aは、被検体である被検者30の頭部31に対して第1面の方向に位置し、また、X線検出部223のX線検出面223aは、被検体である被検者30の頭部31に対して第2面の方向に位置することになる。
【0023】
ここで再び、
図1の説明に戻る。
特徴量算出部320は、機械学習により3次元の特徴量301を算出する。具体的に、特徴量算出部320は、画像・情報取得部310で取得された第1面2次元画像311、第2面2次元画像312、第1面撮影情報313及び第2面撮影情報314に基づいて、被検者30の頭部31の頭蓋骨と血管と医療デバイスにおける3次元の特徴量301を算出する。本実施形態においては、特徴量算出部320は、第1面2次元画像311、第2面2次元画像312、第1面撮影情報313及び第2面撮影情報314が入力された場合に、頭蓋骨と血管と医療デバイスにおける3次元の特徴量を出力するように機械学習された第1の学習済モデル321を用いて、被検者30の頭部31の頭蓋骨と血管と医療デバイスにおける3次元の特徴量301を算出する。この際、第1の学習済モデル321における機械学習では、例えばニューラルネットワークモデル(NNモデル)による機械学習を行う。
図5は、本発明の実施形態を示し、
図1の特徴量算出部320による処理例を示す図である。この
図5において、
図1に示す構成と同様の構成については同じ符号を付している。
図5に示すように、特徴量算出部320は、まず、第1面2次元画像311及び第1面撮影情報313を用いて頭蓋骨と血管と医療デバイスにおける2次元の特徴量322を算出し、第2面2次元画像312及び第2面撮影情報314を用いて頭蓋骨と血管と医療デバイスにおける2次元の特徴量323を算出する。そして、特徴量算出部320は、第1面における2次元の特徴量322と第2面における2次元の特徴量323から、自由視点画像を生成するNeRF(Neural Radiance Fields)を用いた機械学習により、被検者30の頭部31の頭蓋骨と血管と医療デバイスにおける3次元の特徴量301を算出する。
【0024】
ここで再び、
図1の説明に戻る。
2次元デバイス形状画像生成部330は、画像・情報取得部310で取得された第1面2次元画像311に基づいて第1面の方向における医療デバイス100の形状を表す第1面2次元デバイス形状画像302を生成するとともに、画像・情報取得部310で取得された第2面2次元画像312に基づいて第2面の方向における医療デバイス100の形状を表す第2面2次元デバイス形状画像303を生成する。本実施形態においては、2次元デバイス形状画像生成部330は、第1面2次元画像311及び第2面2次元画像312が入力された場合に、第1面の方向における医療デバイス100の形状を表す第1面2次元デバイス形状画像及び第2面の方向における医療デバイス100の形状を表す第2面2次元デバイス形状画像を出力するように機械学習された第2の学習済モデル331を用いて、第1面2次元デバイス形状画像302及び第2面2次元デバイス形状画像303を生成する。この際、第2の学習済モデル331における機械学習では、例えばNNモデルによる機械学習を行う。
図6は、本発明の実施形態を示し、
図1の2次元デバイス形状画像生成部330による処理例を示す図である。この
図6において、
図1に示す構成と同様の構成については同じ符号を付している。
図6に示すように、2次元デバイス形状画像生成部330は、第1面2次元画像311を用いてNNモデルでセグメンテーションする(画像をオブジェクトごとに色分けする)ことで第1面2次元デバイス形状画像302を生成し、また、第2面2次元画像312を用いてNNモデルでセグメンテーションすることで第2面2次元デバイス形状画像303を生成する。なお、
図6に示す第1面2次元デバイス形状画像302及び第2面2次元デバイス形状画像303では、医療デバイス100に相当する部分を白色で描画している。
【0025】
ここで再び、
図1の説明に戻る。
3次元デバイス形状点群情報算出部340は、2次元デバイス形状画像生成部330で生成された第1面2次元デバイス形状画像302及び第2面2次元デバイス形状画像303と、画像・情報取得部310で取得された第1面撮影情報313及び第2面撮影情報314とに基づいて、医療デバイス100における3次元形状の点群情報である3次元デバイス形状点群情報304を算出する。
図7は、本発明の実施形態を示し、
図1の3次元デバイス形状点群情報算出部340による処理例を示す図である。この
図7において、
図1に示す構成と同様の構成については同じ符号を付している。
図7に示すように、3次元デバイス形状点群情報算出部340は、第1面2次元デバイス形状画像302、第2面2次元デバイス形状画像303、第1面撮影情報313及び第2面撮影情報314に基づいて、3次元デバイス形状点群情報304を算出する。この際、
図7に示す3次元デバイス形状点群情報304には、医療デバイス100における実像のみならず虚像も含みうる。また、
図7には、
図4と同様に定義される第1面401及び第2面402も、図示している。
【0026】
ここで再び、
図1の説明に戻る。
透過度推定部350は、特徴量算出部320で算出された頭蓋骨と血管と医療デバイスにおける3次元の特徴量301と、画像・情報取得部310で取得された被検体格子点群情報315とに基づいて、頭蓋骨及び血管の透過度305を推定するとともに、特徴量算出部320で算出された頭蓋骨と血管と医療デバイスにおける3次元の特徴量301と、3次元デバイス形状点群情報算出部340で算出された3次元デバイス形状点群情報304とに基づいて、医療デバイス100の透過度306を推定する。本実施形態においては、透過度推定部350は、頭蓋骨と血管と医療デバイスにおける3次元の特徴量301及び被検体格子点群情報315が入力された場合に頭蓋骨及び血管の透過度を出力するように機械学習され、且つ、頭蓋骨と血管と医療デバイスにおける3次元の特徴量301及び3次元デバイス形状点群情報304が入力された場合に医療デバイス100の透過度を出力するように機械学習された第3の学習済モデル351を用いて、頭蓋骨及び血管の透過度305と医療デバイス100の透過度306を推定する。この際、第3の学習済モデル351における機械学習では、例えばNNモデルによる機械学習を行う。
図8は、本発明の実施形態を示し、
図1の透過度推定部350による処理例を示す図である。この
図8において、
図1に示す構成と同様の構成については同じ符号を付している。
図8に示すように、透過度推定部350は、特徴量算出部320で算出された頭蓋骨と血管と医療デバイスにおける3次元の特徴量301をもとにして、NNモデルにより被検体格子点群情報315における複数の格子点3151上のそれぞれ頭蓋骨及び血管の透過度(画像が透き通って背後の色を透過させる度合い)305を推定する。また、
図8に示すように、透過度推定部350は、特徴量算出部320で算出された頭蓋骨と血管と医療デバイスにおける3次元の特徴量301をもとにして、NNモデルにより3次元デバイス形状点群情報304における点群上の医療デバイス100の透過度306を推定する。
【0027】
ここで再び、
図1の説明に戻る。
実像虚像判定部360は、透過度推定部350で推定された医療デバイス100の透過度306に基づいて、3次元デバイス形状点群情報304における点群を含む近傍領域を複数のグループに分けた際のグループごとに、実像か虚像かを判定する。具体的に、実像虚像判定部360は、グループごとに、医療デバイス100の透過度306における平均値を算出し、当該平均値が所定の閾値以下のグループを実像と判定し、当該平均値が所定の閾値よりも大きいグループを虚像と判定する。ここで、3次元デバイス形状点群情報304における点群のみならず、3次元デバイス形状点群情報304における点群を含む近傍領域を考慮して、実像か虚像かを判定しているのは、判定誤差を小さくするためである。また、医療デバイス100の透過度306における平均値が所定の閾値以下のグループを実像と判定しているのは、医療デバイス100は、X線透視画像などにおいて透過度が小さく表示されるためである。
図9は、本発明の実施形態を示し、
図1の実像虚像判定部360による処理例を示す図である。この
図9において、
図1及び
図7に示す構成と同様の構成については同じ符号を付している。
図9に示すように、実像虚像判定部360は、透過度推定部350で推定された医療デバイス100の透過度306をもとにして、3次元デバイス形状点群情報304における点群を含む近傍領域を複数のグループに分けた際のグループごとに、実像か虚像かを判定する。具体的に、
図9では、
図7に示す3次元デバイス形状点群情報304において、実像と判定されたグループに属する点群の3次元デバイス形状点群情報307、及び、虚像と判定されたグループに属する点群の3次元デバイス形状点群情報308のイメージの一例を図示している。
【0028】
ここで再び、
図1の説明に戻る。
表示処理部370は、透過度推定部350で推定された頭蓋骨及び血管の透過度305に基づいて3次元の頭蓋骨像及び3次元の血管像371を生成するとともに、実像虚像判定部360で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307に基づいて3次元の医療デバイス像372を生成する。そして、表示処理部370は、3次元の頭蓋骨像及び3次元の血管像371と3次元の医療デバイス像372とを重ね合わせて3次元の医用画像309を生成し、生成した3次元の医用画像309を表示部380に表示する処理を行う。
図10は、本発明の実施形態を示し、
図1の表示処理部370による処理例を示す図である。この
図10において、
図1、
図4、
図8及び
図9に示す構成と同様の構成については同じ符号を付している。
図10に示すように、表示処理部370は、透過度推定部350で推定された頭蓋骨及び血管の透過度305を用いて、例えばボリュームレンダリングにより3次元の頭蓋骨像及び3次元の血管像371を生成する。この際、
図10に示す3次元の頭蓋骨像及び3次元の血管像371には、3次元の頭蓋骨像3711と3次元の血管像3712が含まれている。また、
図10に示すように、表示処理部370は、実像虚像判定部360で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307を用いて、3次元の医療デバイス像372を生成する。さらに、表示処理部370は、
図10に示すように、3次元の頭蓋骨像及び3次元の血管像371と3次元の医療デバイス像372とを重ね合わせて3次元の医用画像309を生成する。そして、表示処理部370は、生成した
図10に示す3次元の医用画像309を表示部380に表示する処理を行う。
【0029】
ここで再び、
図1の説明に戻る。
表示部380は、術者20が医療デバイス100を用いて被検体である被検者30の頭部31における血管を手術する際に視認する表示部である。表示部380は、制御装置400の制御に基づいて、各種の画像や各種の情報を表示する。本実施形態においては、表示部380は、表示処理部370で生成された3次元の医用画像309を表示する。
【0030】
次に、
図1の医用画像処理装置300による医用画像処理方法の処理手順について説明する。
図11は、本発明の実施形態に係る医用画像処理装置300による医用画像処理方法の処理手順の一例を示すフローチャートである。
【0031】
まず、
図11のステップS101において、画像・情報取得部310は、制御装置400を介して、入力装置500から入力された被検体格子点群情報315を取得する。
【0032】
続いて、ステップS102において、画像・情報取得部310は、第1のX線撮影装置210のX線検出部213から第1面2次元画像311を取得し、第2のX線撮影装置220のX線検出部223から第2面2次元画像312を取得し、さらに、制御装置400から第1面撮影情報313及び第2面撮影情報314を取得する。
【0033】
続いて、ステップS103において、特徴量算出部320は、ステップS102で取得された第1面2次元画像311、第2面2次元画像312、第1面撮影情報313及び第2面撮影情報314に基づいて、被検者30の頭部31の頭蓋骨と血管と医療デバイスにおける3次元の特徴量301を算出する。
【0034】
続いて、ステップS104において、ステップS103で算出された頭蓋骨と血管と医療デバイスにおける3次元の特徴量301と、ステップS101で取得された被検体格子点群情報315とに基づいて、頭蓋骨及び血管の透過度305を推定する。
【0035】
本実施形態においては、ステップS104の処理と並列して、以下のステップS105~ステップS108の処理が行われる。
【0036】
ステップS105において、2次元デバイス形状画像生成部330は、ステップS102で取得された第1面2次元画像311に基づいて第1面2次元デバイス形状画像302を生成するとともに、ステップS102で取得された第2面2次元画像312に基づいて第2面2次元デバイス形状画像303を生成する。
【0037】
続いて、ステップS106において、3次元デバイス形状点群情報算出部340は、ステップS105で生成された第1面2次元デバイス形状画像302及び第2面2次元デバイス形状画像303と、ステップS102で取得された第1面撮影情報313及び第2面撮影情報314とに基づいて、医療デバイス100における3次元形状の点群情報である3次元デバイス形状点群情報304を算出する。
【0038】
続いて、ステップS107において、透過度推定部350は、ステップS103で算出された頭蓋骨と血管と医療デバイスにおける3次元の特徴量301と、ステップS106で算出された3次元デバイス形状点群情報304とに基づいて、医療デバイス100の透過度306を推定する。
【0039】
続いて、ステップS108において、実像虚像判定部360は、ステップS107で推定された医療デバイス100の透過度306に基づいて、3次元デバイス形状点群情報304における点群を含む近傍領域を複数のグループに分けた際のグループごとに、実像か虚像かを判定する。
【0040】
ステップS104及びステップS108の処理が終了すると、ステップS109に進む。ステップS109に進むと、表示処理部370は、まず、ステップS104で推定された頭蓋骨及び血管の透過度305に基づいて3次元の頭蓋骨像及び3次元の血管像371を生成するとともに、ステップS108で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307に基づいて3次元の医療デバイス像372を生成する。次いで、表示処理部370は、3次元の頭蓋骨像及び3次元の血管像371と3次元の医療デバイス像372とを重ね合わせて3次元の医用画像309を生成し、生成した3次元の医用画像309を表示部380に表示する処理を行う。
【0041】
続いて、ステップS110において、医用画像処理装置300(例えば画像・情報取得部310)は、制御装置400を介して入力装置500から入力された情報に基づいて、医療デバイス100を用いた被検体(本実施形態では被検者30の頭部31)における血管の手術を終了するか否かを判断する。
【0042】
ステップS110の判断の結果、医療デバイス100を用いた被検体における血管の手術を終了しない場合には(S110/NO)、ステップS102に戻り、ステップS102以降の処理を再度行う。
【0043】
一方、ステップS110の判断の結果、医療デバイス100を用いた被検体における血管の手術を終了する場合には(S110/YES)、
図11に示すフローチャートの処理を終了する。
【0044】
以上説明した本発明の実施形態に係る医用画像処理装置300では、以下の処理を行っている。特徴量算出部320は、第1面2次元画像311、第1面撮影情報313、第2面2次元画像312及び第2面撮影情報314に基づいて、被検体(被検者30の頭部31)の頭蓋骨と血管と医療デバイス100における3次元の特徴量301を算出する。また、2次元デバイス形状画像生成部330は、第1面2次元画像311に基づいて第1面2次元デバイス形状画像302を生成するとともに、第2面2次元画像312に基づいて第2面2次元デバイス形状画像303を生成する。3次元デバイス形状点群情報算出部340は、第1面2次元デバイス形状画像302及び第2面2次元デバイス形状画像303と、第1面撮影情報313及び第2面撮影情報314とに基づいて、3次元デバイス形状点群情報304を算出する。透過度推定部350は、特徴量算出部320で算出された3次元の特徴量301と、被検体格子点群情報315とに基づいて、頭蓋骨及び血管の透過度305を推定するとともに、特徴量算出部320で算出された3次元の特徴量301と、3次元デバイス形状点群情報304とに基づいて、医療デバイス100の透過度306を推定する。実像虚像判定部360は、透過度推定部350で推定された医療デバイス100の透過度306に基づいて、3次元デバイス形状点群情報304における点群を含む近傍領域を複数のグループに分けた際の前記グループごとに、実像か虚像かを判定する。そして、表示処理部370は、透過度推定部350で推定された頭蓋骨及び血管の透過度305に基づいて3次元の頭蓋骨像及び3次元の血管像371を生成するとともに、実像虚像判定部360で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307に基づいて3次元の医療デバイス像372を生成し、3次元の頭蓋骨像及び3次元の血管像371と3次元の医療デバイス像372とを重ね合わせて生成した3次元の医用画像309を表示部380に表示する処理を行う。
かかる構成によれば、術者20が医用画像を視認しながら医療デバイス100を用いて被検体の血管を手術する際に、頭蓋骨や血管や医療デバイスにおける3次元の位置関係をより容易に認識させることができるため、安全に手術を行うことができる。
【0045】
なお、本願の発明者は、透過度推定部350において、特徴量算出部320で算出された3次元の特徴量301及び被検体格子点群情報315に基づいて、医療デバイス100の透過度を推定する場合の推定精度が良くないとの知見を得ている。このため、本発明の実施形態に係る医用画像処理装置300では、医療デバイス100に関しては、透過度推定部350において、特徴量算出部320で算出された3次元の特徴量301に加えて、2次元デバイス形状画像生成部330の処理及び3次元デバイス形状点群情報算出部340の処理の結果得られた3次元デバイス形状点群情報304に基づいて、医療デバイス100の透過度306を推定し、さらに、実像虚像判定部360において、医療デバイス100の透過度306に基づいて、3次元デバイス形状点群情報304における点群を含む近傍領域を複数のグループに分けた際のグループごとに実像か虚像かを判定し、さらに、表示処理部370において、実像虚像判定部360で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307に基づいて3次元の医療デバイス像372を生成するようにしている。
【0046】
(その他の実施形態)
上述した本発明の実施形態では、X線透視撮影を行う被検体として被検者30の頭部31を適用した例について説明したが、本発明においては、これに限定されるものではない。例えば、X線透視撮影を行う被検体として被検者30の胸部または腹部を適用した形態も、本発明に適用可能である。X線透視撮影を行う被検体として被検者30の胸部または腹部を適用するその他の実施形態の場合、医療デバイス100は、例えば、被検者30の胸部の内部における胸部大動脈の動脈瘤または被検者30の腹部の内部における腹部大動脈の動脈瘤に対してステントグラフト内挿術を行うためのステントグラフト器具である。また、X線透視撮影を行う被検体として被検者30の胸部または腹部を適用するその他の実施形態の場合、医用画像処理装置300は、上述した本発明の実施形態における「頭蓋骨」及び「血管」に係る処理に替えて、胸部大動脈または腹部大動脈を想定した「血管」のみに係る処理を行う。即ち、X線透視撮影を行う被検体として被検者30の胸部または腹部を適用するその他の実施形態の場合、医用画像処理装置300では、以下の処理を行う。
特徴量算出部320は、医療デバイス100が挿入された血管(胸部大動脈または腹部大動脈)を含む被検体(被検者30の胸部または腹部)を第1面の方向においてX線透視撮影することによって得られた第1面2次元画像311、第1面撮影情報313、被検体を第1面とは異なる第2面の方向においてX線透視撮影することによって得られた第2面2次元画像312、及び、第2面撮影情報314に基づいて、血管と医療デバイス100における3次元の特徴量301を算出する。2次元デバイス形状画像生成部330は、第1面2次元画像311に基づいて第1面2次元デバイス形状画像302を生成するとともに、第2面2次元画像312に基づいて第2面2次元デバイス形状画像303を生成する。3次元デバイス形状点群情報算出部340は、第1面2次元デバイス形状画像302及び第2面2次元デバイス形状画像303と、第1面撮影情報313及び第2面撮影情報314とに基づいて、医療デバイス100における3次元形状の点群情報である3次元デバイス形状点群情報304を算出する。透過度推定部350は、特徴量算出部320で算出された3次元の特徴量301と被検体格子点群情報315とに基づいて血管の透過度305を推定するとともに、特徴量算出部320で算出された3次元の特徴量301と3次元デバイス形状点群情報304とに基づいて医療デバイス100の透過度306を推定する。実像虚像判定部360は、透過度推定部350で推定された医療デバイス100の透過度306に基づいて、3次元デバイス形状点群情報304における点群を含む近傍領域を複数のグループに分けた際のグループごとに、実像か虚像かを判定する。表示処理部370は、透過度推定部350で推定された血管の透過度305に基づいて3次元の血管像371を生成するとともに、実像虚像判定部360で実像と判定されたグループに属する点群の3次元デバイス形状点群情報307に基づいて3次元の医療デバイス像372を生成し、3次元の血管像371と3次元の医療デバイス像372とを重ね合わせて生成した3次元の医用画像309を表示部380に表示する処理を行う。
かかる構成によれば、術者20が医用画像を視認しながら医療デバイス100を用いて被検体の血管を手術する際に、血管や医療デバイスにおける3次元の位置関係をより容易に認識させることができるため、安全に手術を行うことができる。
【0047】
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
このプログラム及び当該プログラムを記憶したコンピュータ読み取り可能な記憶媒体は、本発明に含まれる。
【0048】
なお、上述した本発明の実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【符号の説明】
【0049】
10:医用画像処理システム、20:術者、30:被検者、31:被検者の頭部、100:医療デバイス、200:天板、210:第1のX線撮影装置、211:X線発生部、212:X線、213:X線検出部、213a:X線検出面、214:Cアーム、220:第2のX線撮影装置、221:X線発生部、222:X線、223:X線検出部、223a:X線検出面、224:Cアーム、300:医用画像処理装置、310:画像・情報取得部、311:第1面2次元画像、3111:第1面X線透視画像、3112:第1面ロードマップ画像、312:第2面2次元画像、3121:第2面X線透視画像、3122:第2面ロードマップ画像、313:第1面撮影情報、314:第2面撮影情報、315、被検体格子点群情報、320:特徴量算出部、321:第1の学習済モデル、330:2次元デバイス形状画像生成部、331:第2の学習済モデル、340:3次元デバイス形状点群情報算出部、350:透過度推定部、351:第3の学習済モデル、360:実像虚像判定部、370:表示処理部、371:3次元の頭蓋骨像及び3次元の血管像、372:3次元の医療デバイス像、380:表示部、400:制御装置、500:入力装置