IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ テルモ株式会社の特許一覧 ▶ 株式会社ロッケンの特許一覧

特開2024-51351画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム
<>
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図1
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図2
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図3
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図4
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図5
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図6
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図7
  • 特開-画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024051351
(43)【公開日】2024-04-11
(54)【発明の名称】画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム
(51)【国際特許分類】
   A61B 8/12 20060101AFI20240404BHJP
【FI】
A61B8/12
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022157478
(22)【出願日】2022-09-30
(71)【出願人】
【識別番号】000109543
【氏名又は名称】テルモ株式会社
(71)【出願人】
【識別番号】518110280
【氏名又は名称】株式会社ロッケン
(74)【代理人】
【識別番号】100147485
【弁理士】
【氏名又は名称】杉村 憲司
(74)【代理人】
【識別番号】230118913
【弁護士】
【氏名又は名称】杉村 光嗣
(74)【代理人】
【識別番号】100186015
【弁理士】
【氏名又は名称】小松 靖之
(74)【代理人】
【識別番号】100176728
【弁理士】
【氏名又は名称】北村 慎吾
(72)【発明者】
【氏名】坂本 泰一
(72)【発明者】
【氏名】吉澤 俊祐
(72)【発明者】
【氏名】ジャケ クレモン
(72)【発明者】
【氏名】チェン ステフェン
(72)【発明者】
【氏名】ピト ヘクトル
(72)【発明者】
【氏名】ボシェ エドガル
(72)【発明者】
【氏名】エン トマ
(72)【発明者】
【氏名】佐賀 亮介
【テーマコード(参考)】
4C601
【Fターム(参考)】
4C601BB03
4C601BB14
4C601BB24
4C601DD14
4C601DD15
4C601EE09
4C601FE04
4C601JC08
4C601JC15
4C601KK21
(57)【要約】
【課題】生体組織を表す3次元画像の生成時における拍動の影響を低減させる。
【解決手段】画像処理装置は、生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得し、取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出し、算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択し、前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成する制御部を備える。
【選択図】図3
【特許請求の範囲】
【請求項1】
生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得し、取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出し、算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択し、前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成する制御部を備える画像処理装置。
【請求項2】
前記制御部は、前記センサの移動方向における位置ごとに、取得した複数の断面画像のうち前記内腔の断面積が最大の断面画像を選択する請求項1に記載の画像処理装置。
【請求項3】
前記制御部は、前記センサの移動方向における位置ごとに、取得した複数の断面画像のうち前記内腔の断面積が最小の断面画像を選択する請求項1に記載の画像処理装置。
【請求項4】
前記制御部は、前記センサの移動方向における位置ごとに、取得した複数の断面画像のうち前記内腔の断面積が中央値の断面画像を選択する請求項1に記載の画像処理装置。
【請求項5】
前記制御部は、前記センサの移動方向における各位置を第1位置、1つ以上の別の位置を第2位置としたとき、前記第1位置について取得した複数の断面画像における前記内腔の断面積を、前記第2位置について得られた選択画像における前記内腔の断面積と比較し、得られた比較結果に応じて、当該複数の断面画像の中から1つの断面画像を選択する請求項1に記載の画像処理装置。
【請求項6】
前記制御部は、前記第1位置について取得した複数の断面画像のうち、前記内腔の断面積と前記第2位置について得られた選択画像における前記内腔の断面積との差が最小の断面画像を選択する請求項5に記載の画像処理装置。
【請求項7】
前記第2位置は、前記センサの移動方向における前記第1位置の前後それぞれの少なくとも1つの位置を含む請求項5に記載の画像処理装置。
【請求項8】
請求項1から請求項7のいずれか1項に記載の画像処理装置と、
前記3次元画像を表示するディスプレイと
を備える画像表示システム。
【請求項9】
生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得し、
取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出し、
算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択し、
前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成し、
生成した3次元画像をディスプレイに表示する画像表示方法。
【請求項10】
生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得する処理と、
取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出する処理と、
算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択する処理と、
前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成する処理と
をコンピュータに実行させる画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
特許文献1から特許文献3には、US画像システムを用いて心腔又は血管の3次元画像を生成する技術が記載されている。「US」は、ultrasoundの略語である。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】米国特許出願公開第2010/0215238号明細書
【特許文献2】米国特許第6385332号明細書
【特許文献3】米国特許第6251072号明細書
【発明の概要】
【発明が解決しようとする課題】
【0004】
心腔内、心臓血管、及び下肢動脈領域などに対してIVUSを用いる画像診断が広く行われている。「IVUS」は、intravascular ultrasoundの略語である。IVUSとはカテーテル長軸に対して垂直平面の2次元画像を提供するデバイス又は方法のことである。
【0005】
現状として、術者はIVUSの2次元画像を順次観察しながら、頭の中で立体構造を想像して施術を行う必要があり、特に若年層の医師、又は経験の浅い医師にとって障壁がある。そのような障壁を取り除くために、IVUSの2次元画像から心腔又は血管などの生体組織の構造を表現する3次元画像を自動生成し、生成した3次元画像を術者に向けて表示することが考えられる。
【0006】
心腔又は血管などの生体組織は、心臓の拍動の影響によって、大きさ及び形状が経時的に変化する。3次元画像の生成に用いられるIVUSの2次元画像は、全てが拍動の周期における同じタイミングで取得されるわけではないから、結果として凹凸のある3次元画像が描画されることになってしまう。術者にとって、そのような3次元画像から生体組織の構造を正確に把握することは難しい。
【0007】
本開示の目的は、生体組織を表す3次元画像の生成時における拍動の影響を低減させることである。
【課題を解決するための手段】
【0008】
本開示の幾つかの態様を以下に示す。
【0009】
[1]
生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得し、取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出し、算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択し、前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成する制御部を備える画像処理装置。
【0010】
[2]
前記制御部は、前記センサの移動方向における位置ごとに、取得した複数の断面画像のうち前記内腔の断面積が最大の断面画像を選択する[1]に記載の画像処理装置。
【0011】
[3]
前記制御部は、前記センサの移動方向における位置ごとに、取得した複数の断面画像のうち前記内腔の断面積が最小の断面画像を選択する[1]に記載の画像処理装置。
【0012】
[4]
前記制御部は、前記センサの移動方向における位置ごとに、取得した複数の断面画像のうち前記内腔の断面積が中央値の断面画像を選択する[1]に記載の画像処理装置。
【0013】
[5]
前記制御部は、前記センサの移動方向における各位置を第1位置、1つ以上の別の位置を第2位置としたとき、前記第1位置について取得した複数の断面画像における前記内腔の断面積を、前記第2位置について得られた選択画像における前記内腔の断面積と比較し、得られた比較結果に応じて、当該複数の断面画像の中から1つの断面画像を選択する[1]に記載の画像処理装置。
【0014】
[6]
前記制御部は、前記第1位置について取得した複数の断面画像のうち、前記内腔の断面積と前記第2位置について得られた選択画像における前記内腔の断面積との差が最小の断面画像を選択する[5]に記載の画像処理装置。
【0015】
[7]
前記第2位置は、前記センサの移動方向における前記第1位置の前後それぞれの少なくとも1つの位置を含む[5]又は[6]に記載の画像処理装置。
【0016】
[8]
[1]から[7]のいずれか1項に記載の画像処理装置と、
前記3次元画像を表示するディスプレイと
を備える画像表示システム。
【0017】
[9]
生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得し、
取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出し、
算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択し、
前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成し、
生成した3次元画像をディスプレイに表示する画像表示方法。
【0018】
[10]
生体組織の内腔を移動するセンサの移動方向における位置ごとに、前記センサを用いて互いに異なる時刻に得られた複数の断面画像を取得する処理と、
取得した複数の断面画像を解析して、当該複数の断面画像における前記内腔の断面積を算出する処理と、
算出した断面積に応じて、当該複数の断面画像の中から1つの断面画像を選択する処理と、
前記センサの移動方向における複数の位置について得られた選択画像群から、前記生体組織を表す3次元画像を生成する処理と
をコンピュータに実行させる画像処理プログラム。
【発明の効果】
【0019】
本開示によれば、生体組織を表す3次元画像の生成時における拍動の影響を低減させることができる。
【図面の簡単な説明】
【0020】
図1】本開示の実施形態に係る画像表示システムの斜視図である。
図2】本開示の実施形態に係るプローブ及び駆動ユニットの斜視図である。
図3】本開示の実施形態に係る複数の断面画像と、選択画像との例を示す図である。
図4】本開示の実施形態に係るセンサを用いて得られた断面画像と、学習済みモデルによる分類後の断面画像との例を示す図である。
図5】本開示の実施形態に係る画像処理装置の構成を示すブロック図である。
図6】本開示の実施形態に係る画像表示システムの動作を示すフローチャートである。
図7】本開示の実施形態に係る画像表示システムの動作の具体例を示すフローチャートである。
図8】本開示の実施形態に係る画像表示システムの動作の変形例を示すフローチャートである。
【発明を実施するための形態】
【0021】
以下、本開示の一実施形態について、図を参照して説明する。
【0022】
各図中、同一又は相当する部分には、同一符号を付している。本実施形態の説明において、同一又は相当する部分については、説明を適宜省略又は簡略化する。
【0023】
図1を参照して、本実施形態に係る画像表示システム10の構成を説明する。
【0024】
画像表示システム10は、画像処理装置11、ケーブル12、駆動ユニット13、キーボード14、マウス15、及びディスプレイ16を備える。
【0025】
画像処理装置11は、本実施形態では画像診断に特化した専用のコンピュータであるが、PCなどの汎用のコンピュータでもよい。「PC」は、personal computerの略語である。
【0026】
ケーブル12は、画像処理装置11と駆動ユニット13とを接続するために用いられる。
【0027】
駆動ユニット13は、図2に示すプローブ20に接続して用いられ、プローブ20を駆動する装置である。駆動ユニット13は、MDUとも呼ばれる。「MDU」は、motor drive unitの略語である。プローブ20は、IVUSに適用される。プローブ20は、IVUSカテーテル又は画像診断用カテーテルとも呼ばれる。
【0028】
キーボード14、マウス15、及びディスプレイ16は、任意のケーブルを介して、又は無線で画像処理装置11と接続される。ディスプレイ16は、例えば、LCD、有機ELディスプレイ、又はHMDである。「LCD」は、liquid crystal displayの略語である。「EL」は、electro luminescentの略語である。「HMD」は、head-mounted displayの略語である。
【0029】
画像表示システム10は、オプションとして、接続端子17及びカートユニット18を更に備える。
【0030】
接続端子17は、画像処理装置11と外部機器とを接続するために用いられる。接続端子17は、例えば、USB端子である。「USB」は、Universal Serial Busの略語である。外部機器は、例えば、磁気ディスクドライブ、光磁気ディスクドライブ、又は光ディスクドライブなどの記録媒体である。
【0031】
カートユニット18は、移動用のキャスタ付きのカートである。カートユニット18のカート本体には、画像処理装置11、ケーブル12、及び駆動ユニット13が設置される。カートユニット18の最上部のテーブルには、キーボード14、マウス15、及びディスプレイ16が設置される。
【0032】
図2を参照して、本実施形態に係るプローブ20及び駆動ユニット13の構成を説明する。
【0033】
プローブ20は、駆動シャフト21、ハブ22、シース23、外管24、超音波振動子25、及び中継コネクタ26を備える。
【0034】
駆動シャフト21は、生体の体腔内に挿入されるシース23と、シース23の基端に接続した外管24とを通り、プローブ20の基端に設けられたハブ22の内部まで延びている。駆動シャフト21は、信号を送受信する超音波振動子25を先端に有してシース23及び外管24内に回転可能に設けられる。中継コネクタ26は、シース23及び外管24を接続する。
【0035】
ハブ22、駆動シャフト21、及び超音波振動子25は、それぞれが一体的に軸方向に進退移動するように互いに接続される。そのため、例えば、ハブ22が先端側に向けて押される操作がなされると、駆動シャフト21及び超音波振動子25は、矢印で示す方向と反対に、シース23の内部を先端側へ移動する。例えば、ハブ22が基端側に引かれる操作がなされると、駆動シャフト21及び超音波振動子25は、矢印で示す方向に、シース23の内部を基端側へ移動する。
【0036】
駆動ユニット13は、スキャナユニット31、スライドユニット32、及びボトムカバー33を備える。
【0037】
スキャナユニット31は、プルバックユニットとも呼ばれる。スキャナユニット31は、ケーブル12を介して画像処理装置11と接続する。スキャナユニット31は、プローブ20と接続するプローブ接続部34と、駆動シャフト21を回転させる駆動源であるスキャナモータ35とを備える。
【0038】
プローブ接続部34は、プローブ20の基端に設けられたハブ22の差込口36を介して、プローブ20と着脱自在に接続する。ハブ22の内部では、駆動シャフト21の基端が回転自在に支持されており、スキャナモータ35の回転力が駆動シャフト21に伝えられる。また、ケーブル12を介して駆動シャフト21と画像処理装置11との間で信号が送受信される。画像処理装置11では、駆動シャフト21から伝わる信号に基づき、生体管腔の断層画像の生成、及び画像処理が行われる。
【0039】
スライドユニット32は、スキャナユニット31を進退自在に載せており、スキャナユニット31と機械的かつ電気的に接続している。スライドユニット32は、プローブクランプ部37、スライドモータ38、及びスイッチ群39を備える。
【0040】
プローブクランプ部37は、プローブ接続部34よりも先端側でこれと同軸的に配置して設けられており、プローブ接続部34に接続されるプローブ20を支持する。
【0041】
スライドモータ38は、軸方向の駆動力を生じさせる駆動源である。スライドモータ38の駆動によってスキャナユニット31が進退動し、それに伴って駆動シャフト21が軸方向に進退動する。スライドモータ38は、例えば、サーボモータである。
【0042】
スイッチ群39には、例えば、スキャナユニット31の進退操作の際に押されるフォワードスイッチ及びプルバックスイッチ、並びに画像描写の開始及び終了の際に押されるスキャンスイッチが含まれる。ここでの例に限定されず、必要に応じて種々のスイッチがスイッチ群39に含まれる。
【0043】
フォワードスイッチが押されると、スライドモータ38が正回転し、スキャナユニット31が前進する。一方、プルバックスイッチが押されると、スライドモータ38が逆回転し、スキャナユニット31が後退する。
【0044】
スキャンスイッチが押されると画像描写が開始され、スキャナモータ35が駆動するとともに、スライドモータ38が駆動してスキャナユニット31の前進と後退とが繰り返される。術者などのユーザは、事前にプローブ20をスキャナユニット31に接続しておき、画像描写開始とともに駆動シャフト21が回転しつつ軸方向先端側への移動と軸方向基端側への移動とを繰り返すようにする。スキャナモータ35及びスライドモータ38は、スキャンスイッチが再度押されると停止し、画像描写が終了する。
【0045】
ボトムカバー33は、スライドユニット32の底面及び底面側の側面全周を覆っており、スライドユニット32の底面に対して近接離間自在である。
【0046】
図3から図5を参照して、本実施形態の概要を説明する。
【0047】
画像処理装置11は、生体組織60の内腔61を移動するセンサ71の移動方向における位置ごとに、センサ71を用いて互いに異なる時刻に得られた複数の断面画像54を取得する。画像処理装置11は、センサ71の移動方向における位置ごとに、取得した複数の断面画像54を解析して、当該複数の断面画像54における内腔61の断面積を算出する。画像処理装置11は、センサ71の移動方向における位置ごとに、算出した断面積に応じて、当該複数の断面画像54の中から1つの断面画像55を選択する。断面画像55を選択する方法として、本実施形態では、複数の断面画像54のうち内腔61の断面積が最大の断面画像54を選択する方法が用いられるが、複数の断面画像54のうち内腔61の断面積が最小又は中央値の断面画像54を選択する方法が用いられてもよい。画像処理装置11は、センサ71の移動方向における複数の位置について得られた選択画像群から、生体組織60を表す3次元画像53を生成する。ディスプレイ16は、画像処理装置11により生成された3次元画像53を表示する。
【0048】
本実施形態によれば、3次元画像53の生成に用いる2次元画像群を、各2次元画像における内腔61の断面積に応じて選択することで、拍動の周期における同じタイミングで取得された2次元画像群を選択しやすくなる。結果として、3次元画像53の生成時における拍動の影響を低減させることができる。すなわち、3次元画像53として、拍動の影響による凹凸のほとんどない画像を生成することが可能になる。したがって、術者が3次元画像53から生体組織60の構造を正確に把握しやすくなる。
【0049】
生体組織60は、例えば、血管、又は心臓などの臓器を含む。生体組織60は、解剖学的に単一の器官又はその一部のみに限らず、複数の器官を跨いで内腔を有する組織も含む。そのような組織の一例として、具体的には、下大静脈の上部から右心房を抜けて上大静脈の下部に至る血管系組織の一部が挙げられる。
【0050】
本実施形態では、画像処理装置11は、センサ71を用いて得られた断面画像54のデータセットである断層データ51を参照して、生体組織60を表す3次元データ52を生成及び更新する。画像処理装置11は、3次元データ52を3次元画像53としてディスプレイ16に表示させる。すなわち、画像処理装置11は、断層データ51を参照して、3次元画像53をディスプレイ16に表示させる。
【0051】
画像処理装置11は、3次元画像53において生体組織60の内腔61を露出させる開口を3次元データ52に形成してもよい。画像処理装置11は、開口の位置に応じて、3次元画像53を画面に表示する際の視点を調整してもよい。視点とは、3次元空間に配置される仮想のカメラの位置のことである。
【0052】
センサ71は、カテーテル70に備えられている。カテーテル70は、本実施形態ではプローブ20、すなわち、IVUSカテーテルであるが、OFDIカテーテル又はOCTカテーテルでもよい。「OFDI」は、optical frequency domain imagingの略語である。「OCT」は、optical coherence tomographyの略語である。すなわち、センサ71は、本実施形態では超音波振動子25であり、生体組織60の内腔61で超音波を送信して断層データ51を取得するが、生体組織60の内腔61で光を放射して断層データ51を取得してもよい。
【0053】
図3において、Z方向は、センサ71の移動方向に相当するが、便宜上、Z方向は、生体組織60の内腔61の長手方向に相当するとみなしてもよい。Z方向に直交するX方向、並びにZ方向及びX方向に直交するY方向は、それぞれ生体組織60の内腔61の短手方向に相当するとみなしてもよい。
【0054】
本実施形態では、画像処理装置11は、断面画像54としてのIVUSの2次元画像が得られる度に、得られた2次元画像を、センサ71の移動方向における位置に応じたバケットB[i]内に保存する。センサ71の移動方向における位置は、例えば、プルバックユニットのリニアスケーラーの位置によって識別され、各画像に位置情報として付与される。位置情報は、所定の幅の範囲を含むように区画されたものであってもよい。各バケットの容量は、任意に設定されてよいが、例えば、画像4枚分である。画像がバケットB[i]に追加される際にバケットB[i]の容量に空きがなければ、最も古い画像が削除されてよい。画像処理装置11は、バケットB[i]に保存された画像に含まれる、内腔61を表す画素の数を内腔61の断面積として算出する。内腔61を表す画素は、例えば、図4に示すように、学習済みモデル56を用いて識別される。画像処理装置11は、各バケットに保存された画像のうち断面積が最大となる画像を選択する。あるいは、各バケットに保存された画像のうち断面積が最小又は中央値となる画像を選択してもよい。画像処理装置11は、複数のバケットについて選択した画像群を用いて、3次元画像53を描画する。
【0055】
本実施形態では、画像処理装置11は、学習済みモデル56を用いて、各断面画像54に含まれる複数の画素を2つ以上のクラスに分類する。これら2つ以上のクラスには、生体組織60を表す画素に対応する生体組織クラス80、内腔61を流れる血液に含まれる血球を表す画素に対応する血球クラス81、及びカテーテル70以外のカテーテル、又はガイドワイヤなどの、内腔61に挿入される医療器具62を表す画素に対応する医療器具クラス82が含まれる。ステントなどの留置物を表す画素に対応する留置物クラスが更に含まれてもよい。石灰又はプラークなどの病変を表す画素に対応する病変クラスが更に含まれてもよい。各クラスは、細分化されてもよい。例えば、医療器具クラス82は、カテーテルクラス、ガイドワイヤクラス、及びその他の医療器具クラスに分かれていてもよい。
【0056】
学習済みモデル56は、事前に機械学習を行うことによって、サンプルとなる2次元画像から、各クラスに該当する領域を検出できるように調教されている。学習済みモデル56は、断面画像54が入力されると、入力された断面画像54の各画素に生体組織クラス80、血球クラス81、及び医療器具クラス82のいずれかの分類を付与した断面画像57を分類結果として出力する。本実施形態では、血球クラス81に分類された画素が内腔61を表す画素として扱われるが、医療器具クラス82に分類された画素など、生体組織クラス80を除く他のクラスに分類された画素が更に内腔61を表す画素として扱われてもよい。各バケットには、分類前の断面画像54が蓄積されてもよいし、又は分類後の断面画像57が蓄積されてもよい。
【0057】
本実施形態では、画像処理装置11は、複数のバケットについて選択した画像群に含まれる、生体組織クラス80に分類した画素群を積層して3次元化することで、3次元画像53を生成する。画像処理装置11は、複数のバケットについて選択した画像群に含まれる、医療器具クラス82に分類した画素群を積層して3次元化することで、医療器具62の3次元画像を更に生成してもよい。あるいは、画像処理装置11は、複数のバケットについて選択した画像群に含まれる、医療器具クラス82に分類した画素群の座標をつなぐ線状の3次元モデルを医療器具62の3次元画像として更に生成してもよい。
【0058】
図5を参照して、画像処理装置11の構成を説明する。
【0059】
画像処理装置11は、制御部41と、記憶部42と、通信部43と、入力部44と、出力部45とを備える。
【0060】
制御部41は、少なくとも1つのプロセッサ、少なくとも1つのプログラマブル回路、少なくとも1つの専用回路、又はこれらの任意の組合せを含む。プロセッサは、CPU若しくはGPUなどの汎用プロセッサ、又は特定の処理に特化した専用プロセッサである。「CPU」は、central processing unitの略語である。「GPU」は、graphics processing unitの略語である。プログラマブル回路は、例えば、FPGAである。「FPGA」は、field-programmable gate arrayの略語である。専用回路は、例えば、ASICである。「ASIC」は、application specific integrated circuitの略語である。制御部41は、画像処理装置11を含む画像表示システム10の各部を制御しながら、画像処理装置11の動作に関わる処理を実行する。
【0061】
記憶部42は、少なくとも1つの半導体メモリ、少なくとも1つの磁気メモリ、少なくとも1つの光メモリ、又はこれらの任意の組合せを含む。半導体メモリは、例えば、RAM又はROMである。「RAM」は、random access memoryの略語である。「ROM」は、read only memoryの略語である。RAMは、例えば、SRAM又はDRAMである。「SRAM」は、static random access memoryの略語である。「DRAM」は、dynamic random access memoryの略語である。ROMは、例えば、EEPROMである。「EEPROM」は、electrically erasable programmable read only memoryの略語である。記憶部42は、例えば、主記憶装置、補助記憶装置、又はキャッシュメモリとして機能する。記憶部42には、断層データ51など、画像処理装置11の動作に用いられるデータと、3次元データ52及び3次元画像53など、画像処理装置11の動作によって得られたデータとが記憶される。記憶部42には、図3に示した各バケットに相当する記憶領域が設定される。
【0062】
通信部43は、少なくとも1つの通信用インタフェースを含む。通信用インタフェースは、例えば、Ethernet(登録商標)などの通信規格に対応した有線LANインタフェース、IEEE802.11などの通信規格に対応した無線LANインタフェース、又はIVUSの信号を受信及びA/D変換する画像診断用インタフェースである。「LAN」は、local area networkの略語である。「IEEE」は、Institute of Electrical and Electronics Engineersの略称である。「A/D」は、analog to digitalの略語である。通信部43は、画像処理装置11の動作に用いられるデータを受信し、また画像処理装置11の動作によって得られるデータを送信する。本実施形態では、通信部43に含まれる画像診断用インタフェースに駆動ユニット13が接続される。
【0063】
入力部44は、少なくとも1つの入力用インタフェースを含む。入力用インタフェースは、例えば、USBインタフェース、HDMI(登録商標)インタフェース、又はBluetooth(登録商標)などの近距離無線通信規格に対応したインタフェースである。「HDMI(登録商標)」は、High-Definition Multimedia Interfaceの略語である。入力部44は、画像処理装置11の動作に用いられるデータを入力する操作などのユーザの操作を受け付ける。本実施形態では、入力部44に含まれるUSBインタフェース、又は近距離無線通信に対応したインタフェースにキーボード14及びマウス15が接続される。タッチスクリーンがディスプレイ16と一体的に設けられている場合、入力部44に含まれるUSBインタフェース又はHDMI(登録商標)インタフェースにディスプレイ16が接続されてもよい。
【0064】
出力部45は、少なくとも1つの出力用インタフェースを含む。出力用インタフェースは、例えば、USBインタフェース、HDMI(登録商標)インタフェース、又はBluetooth(登録商標)などの近距離無線通信規格に対応したインタフェースである。出力部45は、画像処理装置11の動作によって得られるデータを出力する。本実施形態では、出力部45に含まれるUSBインタフェース又はHDMI(登録商標)インタフェースにディスプレイ16が接続される。
【0065】
画像処理装置11の機能は、本実施形態に係る画像処理プログラムを、制御部41としてのプロセッサで実行することにより実現される。すなわち、画像処理装置11の機能は、ソフトウェアにより実現される。画像処理プログラムは、画像処理装置11の動作をコンピュータに実行させることで、コンピュータを画像処理装置11として機能させる。すなわち、コンピュータは、画像処理プログラムに従って画像処理装置11の動作を実行することにより画像処理装置11として機能する。
【0066】
プログラムは、非一時的なコンピュータ読取り可能な媒体に記憶しておくことができる。非一時的なコンピュータ読取り可能な媒体は、例えば、フラッシュメモリ、磁気記録装置、光ディスク、光磁気記録媒体、又はROMである。プログラムの流通は、例えば、プログラムを記憶したSDカード、DVD、又はCD-ROMなどの可搬型媒体を販売、譲渡、又は貸与することによって行う。「SD」は、Secure Digitalの略語である。「DVD」は、digital versatile discの略語である。「CD-ROM」は、compact disc read only memoryの略語である。プログラムをサーバのストレージに格納しておき、サーバから他のコンピュータにプログラムを転送することにより、プログラムを流通させてもよい。プログラムをプログラムプロダクトとして提供してもよい。
【0067】
コンピュータは、例えば、可搬型媒体に記憶されたプログラム又はサーバから転送されたプログラムを、一旦、主記憶装置に格納する。そして、コンピュータは、主記憶装置に格納されたプログラムをプロセッサで読み取り、読み取ったプログラムに従った処理をプロセッサで実行する。コンピュータは、可搬型媒体から直接プログラムを読み取り、プログラムに従った処理を実行してもよい。コンピュータは、コンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行してもよい。サーバからコンピュータへのプログラムの転送は行わず、実行指示及び結果取得のみによって機能を実現する、いわゆるASP型のサービスによって処理を実行してもよい。「ASP」は、application service providerの略語である。プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるものを含む。例えば、コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータは、「プログラムに準ずるもの」に該当する。
【0068】
画像処理装置11の一部又は全ての機能が、制御部41としてのプログラマブル回路又は専用回路により実現されてもよい。すなわち、画像処理装置11の一部又は全ての機能が、ハードウェアにより実現されてもよい。
【0069】
図6を参照して、本実施形態に係る画像表示システム10の動作を説明する。画像表示システム10の動作は、本実施形態に係る画像表示方法に相当する。
【0070】
図6のフローの開始前に、ユーザによって、プローブ20がプライミングされる。その後、プローブ20が駆動ユニット13のプローブ接続部34及びプローブクランプ部37に嵌め込まれ、駆動ユニット13に接続及び固定される。そして、プローブ20が血管又は心臓などの生体組織60内の目的部位まで挿入される。
【0071】
ステップS101において、スイッチ群39に含まれるスキャンスイッチが押され、更にスイッチ群39に含まれるプルバックスイッチが押されることで、いわゆるプルバック操作が行われる。プローブ20は、生体組織60の内部で、プルバック操作によって軸方向に後退する超音波振動子25により超音波を送信する。超音波振動子25は、生体組織60の内部を移動しながら放射線状に超音波を送信する。超音波振動子25は、送信した超音波の反射波を受信する。プローブ20は、超音波振動子25により受信した反射波の信号を画像処理装置11に入力する。画像処理装置11の制御部41は、入力された信号を処理して生体組織60の断面画像54を順次生成することで、複数の断面画像54を含む断層データ51を取得する。
【0072】
具体的には、プローブ20は、生体組織60の内部で超音波振動子25を周方向に回転させながら、かつ軸方向に移動させながら、超音波振動子25により、回転中心から外側に向かう複数方向に超音波を送信する。プローブ20は、生体組織60の内部で複数方向のそれぞれに存在する反射物からの反射波を超音波振動子25により受信する。プローブ20は、受信した反射波の信号を、駆動ユニット13及びケーブル12を介して画像処理装置11に送信する。画像処理装置11の通信部43は、プローブ20から送信された信号を受信する。通信部43は、受信した信号をA/D変換する。通信部43は、A/D変換した信号を制御部41に入力する。制御部41は、入力された信号を処理して、超音波振動子25の超音波の送信方向に存在する反射物からの反射波の強度値分布を算出する。制御部41は、算出した強度値分布に相当する輝度値分布を持つ2次元画像を生体組織60の断面画像54として順次生成することで、断面画像54のデータセットである断層データ51を取得する。制御部41は、取得した断層データ51を記憶部42に記憶させる。
【0073】
本実施形態において、超音波振動子25が受信する反射波の信号は、断層データ51の生データに相当し、画像処理装置11が反射波の信号を処理して生成する断面画像54は、断層データ51の加工データに相当する。
【0074】
本実施形態の一変形例として、画像処理装置11の制御部41は、プローブ20から入力された信号をそのまま断層データ51として記憶部42に記憶させてもよい。あるいは、制御部41は、プローブ20から入力された信号を処理して算出した反射波の強度値分布を示すデータを断層データ51として記憶部42に記憶させてもよい。すなわち、断層データ51は、生体組織60の断面画像54のデータセットに限られず、超音波振動子25の各移動位置における生体組織60の断面を何らかの形式で表すデータであればよい。
【0075】
本実施形態の一変形例として、周方向に回転しながら複数方向に超音波を送信する超音波振動子25の代わりに、複数の超音波振動子を周方向に並べた所謂アレイ型を用いることで、回転することなく複数方向に超音波を送信するようにしてもよい。
【0076】
本実施形態の一変形例として、画像処理装置11が生体組織60の断面画像54のデータセットを生成する代わりに、他の装置が同様のデータセットを生成し、画像処理装置11はそのデータセットを当該他の装置から取得してもよい。すなわち、画像処理装置11の制御部41が、IVUSの信号を処理して生体組織60の断面画像54を生成する代わりに、他の装置が、IVUSの信号を処理して生体組織60の断面画像54を生成し、生成した断面画像54を画像処理装置11に入力してもよい。
【0077】
ステップS102において、画像処理装置11の制御部41は、ステップS101で取得した断層データ51に基づいて生体組織60の3次元データ52を生成する。すなわち、制御部41は、センサ71によって取得された断層データ51に基づいて3次元データ52を生成する。ここで、既に生成済みの3次元データ52が存在する場合、全ての3次元データ52を一から生成し直すのではなく、更新された断層データ51が対応する箇所のデータのみを更新することが好ましい。その場合、3次元データ52を生成する際のデータ処理量を削減し、後のステップS103における3次元画像53のリアルタイム性を向上させることができる。
【0078】
具体的には、画像処理装置11の制御部41は、記憶部42に記憶された断層データ51に含まれる生体組織60の断面画像54を積層して3次元化することで、生体組織60の3次元データ52を生成する。3次元化の手法としては、サーフェスレンダリング又はボリュームレンダリングなどのレンダリング手法、並びにそれに付随した、環境マッピングを含むテクスチャマッピング、及びバンプマッピングなどの種々の処理のうち任意の手法が用いられる。制御部41は、生成した3次元データ52を記憶部42に記憶させる。
【0079】
画像処理装置11の制御部41は、ステップS101で取得した断層データ51に含まれる断面画像54の画素群を2つ以上のクラスに分類する。これら2つ以上のクラスには、生体組織クラス80と、血球クラス81と、医療器具クラス82とが含まれ、留置物クラス、又は病変クラスが更に含まれてもよい。分類方法としては、任意の方法を用いてよいが、本実施形態では、図4に示したように、学習済みモデル56によって断面画像54の画素群を分類する方法が用いられる。
【0080】
ステップS103において、画像処理装置11の制御部41は、ステップS102で生成した3次元データ52を3次元画像53としてディスプレイ16に表示させる。この時点では、制御部41は、3次元画像53を表示させる角度を任意の角度に設定してよい。
【0081】
具体的には、画像処理装置11の制御部41は、記憶部42に記憶された3次元データ52から3次元画像53を生成する。3次元画像53は、3次元空間において生体組織60を表す組織オブジェクト、及び当該3次元空間において医療器具62を表す医療器具オブジェクトなどの3次元オブジェクト群を含む。すなわち、制御部41は、記憶部42に記憶された生体組織60のデータから生体組織60の3次元オブジェクトを生成し、記憶部42に記憶された医療器具62のデータから医療器具62の3次元オブジェクトを生成する。制御部41は、生成した3次元画像53を、出力部45を介してディスプレイ16に表示させる。
【0082】
ステップS104において、ユーザの変更操作として、3次元画像53を表示させる角度を設定する操作があれば、ステップS105の処理が実行される。ユーザの変更操作がなければ、ステップS106の処理が実行される。
【0083】
ステップS105において、画像処理装置11の制御部41は、3次元画像53を表示させる角度を設定する操作を、入力部44を介して受け付ける。制御部41は、3次元画像53を表示させる角度を、設定された角度に調整する。そして、ステップS103において、制御部41は、ステップS105で設定された角度で3次元画像53をディスプレイ16に表示させる。
【0084】
具体的には、画像処理装置11の制御部41は、ディスプレイ16に表示されている3次元画像53をユーザがキーボード14、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンを用いて回転させる操作を、入力部44を介して受け付ける。制御部41は、3次元画像53をディスプレイ16に表示させる角度を、ユーザの操作に応じてインタラクティブに調整する。あるいは、制御部41は、3次元画像53を表示させる角度の数値をユーザがキーボード14、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンを用いて入力する操作を、入力部44を介して受け付ける。制御部41は、3次元画像53をディスプレイ16に表示させる角度を、入力された数値に合わせて調整する。
【0085】
ステップS106において、断層データ51の更新があれば、ステップS107及びステップS108の処理が実行される。断層データ51の更新がなければ、ステップS104において、ユーザの変更操作の有無が再度確認される。
【0086】
ステップS107において、画像処理装置11の制御部41は、ステップS101の処理と同様に、プローブ20から入力された信号を処理して生体組織60の断面画像54を新たに生成することで、少なくとも1つの新たな断面画像54を含む断層データ51を取得する。
【0087】
ステップS108において、画像処理装置11の制御部41は、ステップS107で取得した断層データ51に基づいて生体組織60の3次元データ52を更新する。すなわち、制御部41は、センサ71によって取得された断層データ51に基づいて3次元データ52を更新する。ステップS108においては、更新された断層データ51が対応する箇所のデータのみを更新することが好ましい。その場合、3次元データ52を生成する際のデータ処理量を削減し、後のステップS103において、3次元画像53のリアルタイム性を向上させることができる。
【0088】
具体的には、画像処理装置11の制御部41は、センサ71としての超音波振動子25の移動方向における位置ごとに、記憶部42に記憶された断層データ51に含まれる、互いに異なる時刻に得られた複数の断面画像54を解析して、当該複数の断面画像54における内腔61の断面積を算出する。当該複数の断面画像54は、ステップS101で取得された断面画像54、前回までのステップS107で取得された断面画像54、又はこれらの両方を含み得る。ステップS102で既に断面積を算出済みの断面画像54については、算出処理を省略してもよい。制御部41は、超音波振動子25の移動方向における位置ごとに、算出した断面積に応じて、当該複数の断面画像54の中から1つの断面画像55を選択する。より具体的には、制御部41は、超音波振動子25の移動方向における位置ごとに、当該複数の断面画像54のうち内腔61の断面積が最大の断面画像54を断面画像55として選択する。あるいは、制御部41は、超音波振動子25の移動方向における位置ごとに、当該複数の断面画像54のうち内腔61の断面積が最小の断面画像54を断面画像55として選択してもよい。あるいは、制御部41は、超音波振動子25の移動方向における位置ごとに、当該複数の断面画像54のうち内腔61の断面積が中央値の断面画像54を断面画像55として選択してもよい。制御部41は、超音波振動子25の移動方向における複数の位置について得られた選択画像群から、生体組織60の3次元データ52を更新する。より具体的には、制御部41は、超音波振動子25の移動方向における位置ごとに選択した断面画像55を含む選択画像群を積層して3次元化することで、生体組織60の3次元データ52を更新する。3次元化の手法としては、ステップS102と同様の手法が用いられる。制御部41は、更新した3次元データ52を記憶部42に記憶させる。
【0089】
最新の断面画像54が取得されたときに断面画像55が選択される動作の具体例を図7に示す。この図に示したステップS201において、画像処理装置11の制御部41は、最新の断面画像54を、最新の断面画像54が得られたときの超音波振動子25の移動方向における位置に対応するバケットB[i]に追加する。図3に示したように、バケットB[i]には、最新の断面画像54が得られたときよりも前に、超音波振動子25が同じ位置にあるときに得られた1つ以上の他の断面画像54が既に格納されている。ステップS202において、制御部41は、バケットB[i]内の、最新の断面画像54を含む複数の断面画像54における内腔61の断面積を算出する。ステップS203において、制御部41は、バケットB[i]内の複数の断面画像54のうち内腔61の断面積が最大の断面画像54を断面画像55として選択する。あるいは、制御部41は、バケットB[i]内の複数の断面画像54のうち内腔61の断面積が最小の断面画像54を断面画像55として選択してもよい。あるいは、制御部41は、バケットB[i]内の複数の断面画像54のうち内腔61の断面積が中央値の断面画像54を断面画像55として選択してもよい。
【0090】
画像処理装置11の制御部41は、ステップS102と同様に、最新の断面画像54の画素群を2つ以上のクラスに分類する。そのため、ステップS202において、制御部41は、バケットB[i]内の断面画像54ごとに、血球クラス81に分類された画素の数など、内腔61を表す画素の数を内腔61の断面積として算出する。
【0091】
ステップS108の後、再びステップS103において、画像処理装置11の制御部41は、ステップS108で更新した3次元データ52を3次元画像53としてディスプレイ16に表示させる。
【0092】
最新の断面画像54が取得されたときに断面画像55が選択される動作の変形例を図8に示す。この図に示したステップS211及びステップS212の処理については、図7に示したステップS201及びステップS202の処理と同様であるため、説明を省略する。ステップS213において、制御部41は、バケットB[i]内の複数の断面画像54における内腔61の断面積を、図3に示したような前後のバケットB[i-4],・・・,B[i-1]及びB[i+1],・・・,B[i+4]内で選択した断面画像55における内腔61の断面積と比較する。ステップS214において、制御部41は、バケットB[i]内の複数の断面画像54のうち、バケットB[i-4],・・・,B[i-1]及びB[i+1],・・・,B[i+4]内で選択した断面画像55との内腔61の断面積の差が最小の断面画像54を断面画像55として選択する。あるいは、制御部41は、バケットB[i-4],・・・,B[i-1]及びB[i+1],・・・,B[i+4]内で選択した断面画像55に対して、移動方向における位置差に応じた重み付けをした上で、バケットB[i]内の複数の断面画像54のうち、バケットB[i-4],・・・,B[i-1]及びB[i+1],・・・,B[i+4]内で選択した断面画像55との内腔61の断面積の差の合計が最も小さくなる断面画像54を断面画像55として選択してもよい。移動方向における位置差をjとしたとき、1/jを重み付けの係数として用いることが考えられる。図8に示した例では、前後4つずつのバケット内で選択した断面画像55を比較対象としているが、任意の数のバケット内で選択した断面画像55を比較対象としてもよいし、又は前後いずれか片方の1つ以上のバケット内で選択した断面画像55を比較対象としてもよい。
【0093】
上述したように、画像処理装置11の制御部41は、センサ71の移動方向における各位置を第1位置、1つ以上の別の位置を第2位置としたとき、第1位置について取得した複数の断面画像54における内腔61の断面積を、第2位置について得られた選択画像における内腔61の断面積と比較してもよい。制御部41は、得られた比較結果に応じて、当該複数の断面画像54の中から1つの断面画像55を選択してもよい。具体的には、制御部41は、第1位置について取得した複数の断面画像54のうち、第2位置について得られた選択画像との内腔61の断面積の差が最小の断面画像54を断面画像55として選択してもよい。第2位置は、センサ71の移動方向における第1位置の前後それぞれの少なくとも1つの位置を含んでよい。
【0094】
この変形例によれば、第1位置について取得された複数の断面画像54の中に、非常に大きな領域が血球クラス81に該当する領域として誤検出されてしまうような断面画像54が含まれていても、その断面画像54が選択されるのを避けることができる。同様に、第1位置について取得された複数の断面画像54の中に、非常に小さな領域が血球クラス81に該当する領域として誤検出されてしまうような断面画像54が含まれていても、その断面画像54が選択されるのを避けることができる。そのため、3次元画像53として、よりノイズの少ない画像を生成することが可能になる。したがって、術者が3次元画像53から生体組織60の構造をより正確に把握しやすくなる。
【0095】
本開示は上述の実施形態に限定されるものではない。例えば、ブロック図に記載の2つ以上のブロックを統合してもよいし、又は1つのブロックを分割してもよい。フローチャートに記載の2つ以上のステップを記述に従って時系列に実行する代わりに、各ステップを実行する装置の処理能力に応じて、又は必要に応じて、並列的に又は異なる順序で実行してもよい。その他、本開示の趣旨を逸脱しない範囲での変更が可能である。
【符号の説明】
【0096】
10 画像表示システム
11 画像処理装置
12 ケーブル
13 駆動ユニット
14 キーボード
15 マウス
16 ディスプレイ
17 接続端子
18 カートユニット
20 プローブ
21 駆動シャフト
22 ハブ
23 シース
24 外管
25 超音波振動子
26 中継コネクタ
31 スキャナユニット
32 スライドユニット
33 ボトムカバー
34 プローブ接続部
35 スキャナモータ
36 差込口
37 プローブクランプ部
38 スライドモータ
39 スイッチ群
41 制御部
42 記憶部
43 通信部
44 入力部
45 出力部
51 断層データ
52 3次元データ
53 3次元画像
54 断面画像
55 断面画像
56 学習済みモデル
57 断面画像
60 生体組織
61 内腔
62 医療器具
70 カテーテル
71 センサ
80 生体組織クラス
81 血球クラス
82 医療器具クラス
図1
図2
図3
図4
図5
図6
図7
図8