IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルムヘルスケア株式会社の特許一覧

特開2024-21859手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法
<>
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図1
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図2
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図3
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図4
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図5
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図6
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図7
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図8
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図9
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図10
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図11
  • 特開-手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024021859
(43)【公開日】2024-02-16
(54)【発明の名称】手術ナビゲーションシステム、焦点位置登録方法、および、手術ナビゲーション方法
(51)【国際特許分類】
   A61B 34/20 20160101AFI20240208BHJP
   A61B 90/20 20160101ALI20240208BHJP
【FI】
A61B34/20
A61B90/20
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022124998
(22)【出願日】2022-08-04
(71)【出願人】
【識別番号】320011683
【氏名又は名称】富士フイルムヘルスケア株式会社
(74)【代理人】
【識別番号】110000888
【氏名又は名称】弁理士法人山王坂特許事務所
(72)【発明者】
【氏名】秋丸 英久
(57)【要約】      (修正有)
【課題】手術器具のポインタが検出できない場合であっても、顕微鏡の視野位置を特定して画像生成し、手術ナビゲーションを行う。
【解決手段】手術顕微鏡11に取り付けられた顕微鏡用ポインタの実空間座標系における座標および向きを検出する。顕微鏡から焦点距離を取得する。予め求めておいた関係を参照することにより、現時点の焦点距離に対応する、顕微鏡用ポインタから見た前記顕微鏡の視野の座標を算出する。さらに、現時点の顕微鏡の視野の実空間座標系における座標および向きを算出する。算出した現時点の視野の座標および向きに一致する2次元画像を、予め撮像しておいた3次元画像データから生成し、表示する。
【選択図】図1
【特許請求の範囲】
【請求項1】
手術時に患者の術野を拡大して観察する顕微鏡に取り付けられた顕微鏡用ポインタの実空間座標系における座標および向きを検出する位置検出センサと、
予め求めておいた前記顕微鏡の焦点距離と、その焦点距離において前記顕微鏡用ポインタから見た顕微鏡の視野の座標および向きとの関係を予め格納する位置関係格納部と、
術前に撮像しておいた患者の3次元画像データを格納する術前画像格納部と、
演算処理部とを有し、
前記演算処理部は、
前記顕微鏡から現在の焦点距離を取得する焦点距離取得部と、
前記焦点距離取得部が取得した前記焦点距離に基づいて、前記位置関係格納部の前記関係を参照することにより、現時点の前記顕微鏡の視野の前記顕微鏡用ポインタから見た座標を算出し、算出した現時点の前記顕微鏡の視野の座標と、前記位置検出センサが検出した現時点の前記顕微鏡用ポインタの座標および向きに基づいて、現時点の前記顕微鏡の視野の実空間座標系における座標および向きを算出する視野位置算出部と、
前記視野位置算出部が算出した現時点の視野の座標および向きに一致する2次元画像を前記3次元画像データから生成し、表示する画像生成部と
を含むことを特徴とする手術ナビゲーションシステム。
【請求項2】
請求項1に記載の手術ナビゲーションシステムであって、
前記位置検出センサは、手術器具に取り付けられた手術器具用ポインタの実空間座標系における座標および向きを検出し、
前記演算処理部は、前記位置検出センサが検出した現時点の前記手術器具用ポインタの座標および向きに基づいて、現時点の前記手術器具の先端位置の実空間座標系における座標を算出する手術器具位置算出部を有し、
前記画像生成部は、前記手術器具位置算出部が算出した現時点の手術器具の先端位置の座標を含み、所定の向きの面2次元画像を前記3次元画像データから生成し、表示する
ことを特徴とする手術ナビゲーションシステム。
【請求項3】
請求項2に記載の手術ナビゲーションシステムであって、前記画像生成部は、前記位置検出センサが前記手術器具用ポインタを検出している場合、前記手術器具位置算出部が算出した前記手術器具の先端位置の座標に基づき前記2次元画像を生成し、前記位置検出センサが前記手術器具用ポインタを検出できない場合、前記視野位置算出部が算出した前記視野の座標及び向きに基づき前記2次元画像を生成する
ことを特徴とする手術ナビゲーションシステム。
【請求項4】
請求項1に記載の手術ナビゲーションシステムであって、前記画像生成部は、前記顕微鏡に備えられた撮像装置から視野の画像を受け取って、前記2次元画像と重畳して表示する
ことを特徴とする手術ナビゲーションシステム。
【請求項5】
オートフォーカス機能を備えた顕微鏡の視野に、プレート状の焦点位置登録用ポインタを配置する第1ステップと、
前記焦点位置登録用ポインタに形成されているターゲットラインと、顕微鏡の視野のガイドラインとを位置合わせする第2ステップと、
位置合わせされた前記焦点位置登録用ポインタに、前記顕微鏡の光学系をオートフォーカス機能により合焦させ、前記顕微鏡の光学系の焦点距離を取得する第3ステップと、
前記位置検出センサにより前記焦点位置登録用ポインタの座標と、前記顕微鏡に装着されている顕微鏡用ポインタの座標とを検出し、その差異から、前記顕微鏡用ポインタから見た前記ターゲットラインの所定位置の座標および向きを算出して、前記第3ステップの前記焦点距離と対応させて登録する第4ステップと、
前記顕微鏡と前記焦点位置登録用ポインタとの距離を変えて、前記第1ステップから第4ステップをさらに1回以上繰り返す第5ステップと、
最初の前記第4ステップにおいて登録した前記顕微鏡用ポインタから見た前記ターゲットラインの所定位置の座標と、それに対応する前記焦点距離、ならびに、前記第5ステップで1回以上繰り返して登録した前記顕微鏡用ポインタから見た前記ターゲットラインの所定位置の座標と、それに対応する前記焦点距離をグラフにプロットして直線で近似して近似ラインを得て、前記近似ラインを、前記顕微鏡の焦点距離と、前記顕微鏡用ポインタから見た顕微鏡の視野の座標および向きとの関係として登録する第6ステップと
を有することを特徴とする手術顕微鏡の焦点位置登録方法。
【請求項6】
請求項5に記載の手術顕微鏡の焦点位置登録方法であって、前記第4ステップの後であって第5ステップの前に、前記手術顕微鏡の倍率を上げて、前記第3ステップと第4ステップとを繰り返し、それにより登録した前記顕微鏡用ポインタから見た前記ターゲットラインの所定位置の座標と、それに対応する前記焦点距離に基づいて、前記近似ラインを求める
ことを特徴とする手術顕微鏡の焦点位置登録方法。
【請求項7】
請求項5に記載の手術顕微鏡の焦点位置登録方法であって、前記第6ステップにおいて得た近似ラインに対する、プロットした前記所定位置の座標と、それに対応する前記焦点距離とのずれ量を算出し、前記ずれ量が予め定めた許容範囲を超える場合、顕微鏡の調整を行う
ことを特徴とする手術顕微鏡の焦点位置登録方法。
【請求項8】
手術時に患者の術野を拡大して観察する顕微鏡に取り付けられた顕微鏡用ポインタの実空間座標系における座標および向きを検出する第1ステップと、
前記顕微鏡から焦点距離を取得する第2ステップと、
予め求めておいた前記顕微鏡の焦点距離と、その焦点距離において前記顕微鏡用ポインタから見た顕微鏡の視野の座標および向きとの関係を参照することにより、現時点の前記焦点距離に対応する、前記顕微鏡用ポインタから見た前記顕微鏡の視野の座標および向きを算出する第3ステップと、
前記第1ステップで検出した前記顕微鏡用ポインタの座標及び向きと、前記第3ステップにおいて算出した現時点の前記顕微鏡用ポインタから見た前記顕微鏡の視野の座標とに基づいて、現時点の前記顕微鏡の視野の実空間座標系における座標および向きを算出する第4ステップと、
前記第4ステップにおいて算出した現時点の視野の座標および向きに一致する2次元画像を、予め撮像しておいた3次元画像データから生成し、表示する第5ステップとを
を含むことを特徴とする手術ナビゲーション方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、手術器具の位置を、術前に撮像した磁気共鳴イメージング(以下、「MRI」という)装置やCT装置等の画像上に表示する手術ナビゲーションシステムに関する。
【背景技術】
【0002】
術中に医師が操る手術器具の先端の位置を、術前に撮像した患者の画像上に表示する手術ナビゲーションシステムが知られている。手術器具の先端位置を検出するために、手術器具にはポインタ(マーカー)が取り付けられ、位置検出センサがポインタの3次元位置を検出する。ポインタと手術器具先端との位置関係に基づいて手術器具の先端位置が算出される。手術器具の先端位置を含む面の2次元画像は、術前に撮像した患者の3次元のMRI画像等からレンダリングによって生成される。生成された画像は、手術器具の先端位置を示すマークと共に表示される。術前の3次元画像データは、MRI画像の他、CT(Computed Tomography)画像等、術前に撮像された医用画像が用いられる。位置検出センサとしては、赤外線センサや磁気センサが用いられる。
【0003】
一方、脳神経外科等においては、医師が術部を拡大して観察しながら手術するために、手術顕微鏡が用いられる。手術顕微鏡は、特許文献1に記載されているように、対物光学系と接眼部をアームによって支持した構成であり、術部に対物光学系を近づけた状態でアームによって支持し、医師は、術部を観察または撮像する。対物光学系には、ズームレンズが用いられ、レンズ群の一部のレンズを光軸方向に移動させることにより、焦点距離を変化させることができる。
【0004】
また、特許文献1には、医師が、術部の視野内のフォーカスを合わせたい位置を、指示具の先端で指し示し、手術ナビゲーションシステムが指示具に取り付けられたポインタの位置情報を検出することにより、指し示した位置に焦点が合うように、手術顕微鏡の対物光学系をコントローラにより制御することが開示されている。これにより、手術顕微鏡の位置や向きを変化させた場合でも合焦状態を維持できる。さらに、手術ナビゲーションシステムが、手術顕微鏡に取り付けたポインタの位置と向きを検出することにより、指示具が指し示した位置に合致し、かつ、術野の位置及び向きに合致した2次元画像を、術前に撮影した3次元のMRI画像等から生成し、モニターに表示する。これにより、医師は、手術顕微鏡で術部を観察しながら、術部のMRI画像等の画像をモニターで同時に視認することができる。また、手術顕微鏡の術野の画像と、これと一致した面の術前のMRI画像とを重畳して表示することもできる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2021-159734号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
手術顕微鏡と手術器具にポインタ(マーカー)をそれぞれ取り付け、手術ナビゲーションシステムによって各ポインタの位置を検出することにより、手術顕微鏡の視野画像と、手術器具の先端位置を含み、位置及び向きが視野画像と一致した術前のMRI画像とを重畳して表示することが可能である。これにより、医師は、MRI画像に含まれる腫瘍位置等を把握しながら、手術顕微鏡下で手術を行うことができる。
【0007】
しかしながら、手術器具にポインタを取り付けて手術を行う場合、手術器具のポインタが、位置検出センサ(赤外線センサ)に対して術者等の影に入ってしまうと、術者等によって赤外線が遮蔽され、位置検出センサが手術器具のポインタを検出不可能になることがある。手術器具のポインタが術者等の影に入った場合、その間、顕微鏡の視野画像に、位置及び向きが視野画像と一致した術前のMRI画像を重畳して表示することができなくなる。
【0008】
本発明の目的は、手術器具のポインタが検出できない場合であっても、顕微鏡の視野位置を特定して画像生成し、手術ナビゲーションを行うことにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明の磁気共鳴イメージング装置は、手術時に患者の術野を拡大して観察する顕微鏡に取り付けられた顕微鏡用ポインタの実空間座標系における座標および向きを検出する位置検出センサと、予め求めておいた顕微鏡の焦点距離と、その焦点距離において顕微鏡用ポインタから見た顕微鏡の視野の座標との関係を予め格納する位置関係格納部と、術前に撮像しておいた患者の3次元画像データを格納する術前画像格納部と、演算処理部とを有する。演算処理部は、顕微鏡から現在の焦点距離を取得する焦点距離取得部と、視野位置算出部と、画像生成部とを含む。視野位置算出部は、焦点距離取得部が取得した焦点距離に基づいて、位置関係格納部の関係を参照することにより、現時点の顕微鏡の視野の顕微鏡用ポインタから見た座標を算出し、算出した現時点の顕微鏡の視野の座標と、位置検出センサが検出した現時点の顕微鏡用ポインタの座標および向きに基づいて、現時点の顕微鏡の視野の実空間座標系における座標および向きを算出する。画像生成部は、視野位置算出部が算出した現時点の視野の座標および向きに一致する2次元画像を3次元画像データから生成し、表示する。
【発明の効果】
【0010】
本発明によれば、顕微鏡の焦点距離に基づいて顕微鏡の視野位置を特定できるため、手術器具のポインタが検出できない場合であっても、手術ナビゲーションを行うことができる。
【図面の簡単な説明】
【0011】
図1】本実施形態の手術ナビゲーションシステム1の構成を示すブロック図。
図2】本実施形態の手術ナビゲーションシステム1の演算処理部2と、記憶装置4の機能ブロック図。
図3】本発明の実施形態の手術ナビゲーションシステムの手術顕微鏡11の斜視図。
図4】(a)手術ナビゲーションシステムの手術顕微鏡11の焦点位置登録用ポインタ30の上面の斜視図、(b)下面の斜視図。
図5】本実施形態の手術ナビゲーションシステムにおいて、手術顕微鏡の据付時の焦点位置を登録する動作を示すフローチャート。
図6】実施形態の手術ナビゲーションシステムの顕微鏡焦点位置登録用画面600を示す図。
図7】本実施形態の手術ナビゲーションシステムにおいて、手術顕微鏡の据付時の焦点位置を登録する際に、焦点位置登録用ポインタ30を配置した状態を示す斜視図。
図8】本実施形態の手術ナビゲーションシステムにおいて、焦点位置登録用ポインタ30の位置合わせを示す説明図。
図9】本実施形態の手術ナビゲーションシステムにおいて、位置関係格納部41に格納されている近似ラインを示すグラフ。
図10】本実施形態の手術ナビゲーションシステムにおいて、手術顕微鏡の手術前の焦点位置の確認を示すフローチャート。
図11】実施形態の手術ナビゲーションシステムの確認用画面1100を示す図。
図12】本実施形態の手術ナビゲーションシステムにおいて、手術ナビゲーションの動作を示すフローチャート。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態の手術ナビゲーションシステムについて図面を用いて説明する。
【0013】
図1は手術ナビゲーションシステム1の構成を示す図である。図2は、手術ナビゲーションシステム1の演算処理部2と、記憶装置4の機能ブロックを示す図である。図3は、手術顕微鏡11の斜視図である。図4は、手術顕微鏡11の焦点位置登録用ポインタの斜視図である。
【0014】
図1のように手術ナビゲーションシステム1は、CPU(Central Processing Unit)2、主メモリ3、記憶装置4、表示メモリ5、表示装置6、マウス8が接続されたコントローラ7、位置検出センサ9、ネットワークアダプタ10が、システムバス13によって信号送受可能に接続されて構成される。
【0015】
手術ナビゲーションシステム1のシステムバス13には、手術顕微鏡11が接続されている。また、手術ナビゲーションシステム1は、ネットワーク14を介して3次元撮像装置15や医用画像データベース16が、信号送受可能に接続される。ここで、「信号送受可能に」とは、電気的、光学的に有線、無線を問わずに、相互にあるいは一方から他方へ信号送受可能な状態を示す。
【0016】
手術顕微鏡11は、図3に示すように、対物光学系が内部に配置された筐体111と、接眼部112をアーム(不図示)によって支持した構成である。アームは、自在に筐体111を移動させることができる。医師は、術部に対物光学系を近づけた状態で筐体111をアームによって支持させ、その状態で、術部を接眼部112を介して直接目視で観察する。また、接眼部112に取り付けた撮像装置(不図示)により撮像された画像を、表示装置6に表示させ、医師はその画像を観察することもできる。対物光学系には、オートフォーカス機能を備えたズームレンズが用いられる。すなわち、対物光学系は、レンズ群を含み、オートフォーカスの機構部がレンズ群の一部のレンズを光軸方向に移動させることにより、焦点距離および拡大倍率(視野範囲(画角))を変化させることができる。オートフォーカス動作の実行や、拡大倍率の指定を医師が操作するための操作部(不図示)が、手術顕微鏡11には設けられている。
【0017】
手術顕微鏡11の筐体111には、取り付け金具12が固定されている。取り付け金具12には、顕微鏡用ポインタ17が着脱可能に固定されている。顕微鏡用ポインタ17は、3以上の反射球18が固定された剛体である。
【0018】
また、医師が手術に用いる手術器具33の後端には、手術器具用ポインタ35が着脱可能に固定されている。手術器具用ポインタ35は、3以上の反射球36が固定された剛体である。
【0019】
さらに、手術顕微鏡11の視野を顕微鏡用ポインタから見た場合の座標および向きを、手術顕微鏡11の焦点距離ごとに、術前に登録するために、焦点位置登録用ポインタ30が用いられる。焦点位置登録用ポインタ30は、図4(a)のように、3つの反射球36が上面の非対称な位置に固定されたプレート状の剛体である。また、焦点位置登録用ポインタ30の上面には、手術顕微鏡11への位置合わせのための十字型のターゲットライン30aと、焦点位置登録用ポインタ30の向きをわかりやすくするための文字30bが描かれている。一方、焦点位置登録用ポインタ30の裏面には、図4(b)のように手術顕微鏡11に対して焦点位置登録用ポインタ30を、カメラ用三脚等を用いて所定の高さに支持するため、固定孔(雌ねじ)30cが形成されている。
【0020】
なお、手術顕微鏡11は、焦点位置登録用ポインタ30を用いて、焦点位置を登録する際に焦点登録用ポインタ30に焦点を合わせて、そのターゲットラインと顕微鏡視野114の中心および上下左右を示す十字型のガイドライン114aを一致させる。
【0021】
位置検出センサ9は、一対の赤外線カメラ等を含み、ポインタ17、30、35の複数の反射球31、36,18の実空間座標系における座標を検出することができる。
【0022】
CPU2は、各構成要素の動作を制御するとともに、所定の演算処理を行う制御部である。以下、CPU2を演算処理部とも呼ぶ。
【0023】
図2に示すように、CPU(演算処理部)2は、焦点距離取得部21と、視野位置算出部22と、手術器具位置算出部23と、画像生成部24と、焦点位置事前登録部25とを含む。
【0024】
焦点距離取得部21は、手術顕微鏡11から現在の焦点距離を取得する。
【0025】
視野位置算出部22は、焦点距離取得部21が取得した焦点距離等に基づいて、現時点の手術顕微鏡11の視野の、実空間座標系における座標および向きを算出する。
【0026】
手術器具位置算出部23は、位置検出センサ9が検出した現時点の手術器具用ポインタ35の座標および向きに基づいて、現時点の手術器具33の先端位置の実空間座標系における座標を算出する。
【0027】
画像生成部24は、視野位置算出部22が算出した現時点の視野の座標および向きに一致する2次元画像を、術前に撮像した3次元画像データから生成し、表示装置に表示する。また、画像生成部24は、手術器具位置算出部23が算出した現時点の手術器具33の先端位置の座標を含み、所定の向きの面の2次元画像を生成し、表示装置6に表示する。なお、2次元画像の向きは、患者50の3次元画像のアキシャル断面、サジタル断面およびコロナル断面のいずれかであってもよいし、手術器具33の先端を登録したときの手術器具33の向きに基づいて定めた面でもよい。
【0028】
焦点位置事前登録部25は、据付時登録部25aと、手術前確認部25bとを含む。据付時登録部25aは、手術顕微鏡11を手術室に据え付けた際、または、定期的なメンテナンス時に、焦点位置登録用ポインタ30を用いて、複数の焦点距離について、顕微鏡用ポインタから見た視野の座標および向きを求め、記憶装置4に登録する。手術前確認部25bは、記憶装置4に登録されている焦点距離と、顕微鏡用ポインタ17から見た視野の座標および向きとの関係が、手術前の時点で満たされているかどうかについて確認する。
【0029】
記憶装置4は、位置関係格納部41と、術前画像格納部42とを含む。位置関係格納部41には、焦点位置事前登録部25が術前に求めた、手術顕微鏡11の焦点距離と、その焦点距離における手術顕微鏡11の視野の顕微鏡用ポインタ17から見た座標および向きとの関係が登録(格納)されている。
【0030】
術前画像格納部42には、術前に撮像しておいた患者50の3次元画像データが格納される。例えば、ネットワーク14を介して接続されたCT装置やMRI装置などの3次元撮像装置15により撮影された医用画像情報が、術前画像格納部42に格納される。また、ネットワーク14を介して接続された医用画像データベース16から取得した患者50の3次元画像データを術前画像格納部42に格納してもよい。
【0031】
記憶装置4は、具体的には例えば、ハードディスク等である。また、記憶装置4は、フレシキブルディスク、光(磁気)ディスク、ZIPメモリ、USBメモリ等の可搬性記録媒体とデータの受け渡しをする装置であっても良い。また、記憶装置4には、CPU2が実行するプログラムやプログラム実行に必要なデータが格納される。
【0032】
主メモリ3は、CPU2が実行するプログラムや演算処理の途中経過を記憶するものである。
【0033】
表示メモリ5は、液晶ディスプレイやCRT(Cathode Ray Tube)等の表示装置6に表示するための表示データを一時格納するものである。マウス8は、操作者が手術ナビゲーションシステム1に対して操作指示を行う操作デバイスである。マウス8はトラックパッドやトラックボールなどの他のポインティングデバイスであっても良い。
【0034】
コントローラ7は、マウス8の状態を検出して、表示装置6上のマウスポインタの位置を取得し、取得した位置情報等をCPU2へ出力するものである。
【0035】
ネットワークアダプタ10は、手術ナビゲーションシステム1をネットワーク14に接続する。ネットワーク14は、LAN(Local Area Network)、電話回線、および、インターネット等のいずれであってもよい。
【0036】
CPU(演算処理部)2は、記憶装置4に予め格納されているプログラムやプログラム実行に必要なデータを主メモリ3にロードして実行することにより、図2に示した各部(21~25)の機能をソフトウエアにより実現する。また、各部(21~25)の機能の一部または全部をハードウエアによって実現することも可能である。例えば、ASIC(Application Specific Integrated Circuit)のようなカスタムICや、FPGA(Field-Programmable Gate Array)のようなプログラマブルICを用いて、各部(21~25)の機能を実現するように回路設計を行えばよい。
【0037】
以下、CPU(演算処理部)2の各部の機能についてフローチャートを用いて具体的に説明する。
【0038】
本実施形態の手術ナビゲーションシステムは、手術器具33のポインタ35の位置を位置検出センサ9が検出できる場合には、手術器具33の先端位置の患者50の2次元画像を術前に撮影した3次元画像から生成して表示装置6に表示する。一方、手術器具33のポインタ35が術者等の影に入っており、位置検出センサ9から検出できない場合は、手術顕微鏡11の焦点距離を手術顕微鏡11から受け取って、焦点距離から視野の位置を算出し、視野の位置の患者50の2次元画像を術前に撮影した3次元画像から生成して表示装置6に表示する。そのため、手術顕微鏡11の焦点距離と、視野の位置との関係を予め求めて、記憶装置4に登録する。
【0039】
<手術顕微鏡の据付時の焦点位置の登録>
まず、手術顕微鏡11の手術室への据え付け時や、定期的なメンテナンス時に、焦点位置事前登録部25の据付時登録部25aが、手術顕微鏡11の焦点距離と、視野の位置との関係を登録する動作について図5のフローを用いて説明する。
【0040】
(ステップ501)
据付時登録部25aは、手術顕微鏡11が撮像した映像出力を手術ナビゲーションシステム1の映像入力にケーブルで接続するよう操作者に指示する。指示方法としては、例えば、表示装置6にメッセージを表示する方法や、音声で指示する方法を用いる。以下の各ステップの指示方法についても同様である。
【0041】
指示を受けた操作者は、手術顕微鏡11が撮像した映像出力を手術ナビゲーションシステム1の映像入力にケーブルで接続する。
【0042】
これにより、据付時登録部25aは、図6のような、顕微鏡焦点位置登録用画面600の表示装置6に表示メモリ5を介して表示し、画面600内の顕微鏡映像出力表示領域601に、現在の顕微鏡の映像出力を表示する。
【0043】
(ステップ502)
据付時登録部25aは、手術顕微鏡11の取り付け金具12に顕微鏡用ポインタ17を装着するよう操作者に指示する。
【0044】
指示を受けた操作者は、手術顕微鏡11の取り付け金具12に顕微鏡用ポインタ17を装着する。これにより、位置検出センサ9は、顕微鏡用ポインタ17を検出可能になる。
【0045】
(ステップ503)
据付時登録部25aは、焦点位置登録用ポインタ30を配置し、静止するよう操作者に指示する。
【0046】
また、据付時登録部25aは、顕微鏡焦点位置登録用画面600の焦点登録状況表示領域602に、登録すべき複数の焦点距離を表示するとともに、その中のこれから登録すべき焦点距離の表示に色を付けた丸印を付加表示する等して強調し、操作者にこれから登録する焦点距離を教示する。
【0047】
また、操作者は、図7のように、焦点位置登録用ポインタ30の裏面の固定孔30cをカメラ用三脚70に固定し、焦点登録状況表示領域602によって教示されている焦点距離(ここでは200mm)付近に、焦点位置登録用ポインタ30の上面を配置する。
【0048】
その後、静止すると、手術顕微鏡11は、オートフォーカス機能または手動による焦点調整により、対物光学系が焦点位置登録用ポインタ30の上面に焦点を合わせる。焦点距離取得部21は、手術顕微鏡11から、現在の対物光学系の焦点距離を受け取る。
【0049】
これにより、図6の顕微鏡映像出力表示領域601には、現在の手術顕微鏡11の視野にある焦点位置登録用ポインタ30の上面画像と、顕微鏡映像出力表示領域601の上下および左右の中心を示す十字型のガイドライン114aが重ねられて表示される。
【0050】
また、据付時登録部25aは、焦点距離取得部21から現在の焦点距離を受け取って、顕微鏡映像出力表示領域601内の焦点距離表示領域606に表示させる。
【0051】
(ステップ504)
据付時登録部25aは、手術顕微鏡11からの顕微鏡映像出力表示領域601の十字型のライン114aと、焦点位置登録用ポインタ30の十字型のターゲットライン30aの中心位置および十字の向きが重なるように、焦点位置登録用ポインタ30および/または手術顕微鏡11の位置を調節するよう操作者に指示する。
【0052】
指示を受けた操作者は、図8に示すように、焦点位置登録用ポインタ30および/または手術顕微鏡11の位置を調節し、顕微鏡映像出力表示領域601の画像を見ながら、十字型のガイドライン114aと、焦点位置登録用ポインタ30の十字型のターゲットライン30aの中心位置および十字の向きを一致させる。
【0053】
据付時登録部25aは、顕微鏡映像出力表示領域601の画像に予め定めた画像処理を施すことにより、十字型のガイドライン114aと、十字型のターゲットライン30aが一致したかどうかを判定し、一致した場合には、一致表示部605を所定に色等で強調表示する。これにより、操作者は、一致したかどうかを確認することができる。
【0054】
(ステップ505)
据付時登録部25aは、手術顕微鏡11の被写界深度が浅くなるよう最大倍率にして、焦点距離を合わせるよう操作者に指示する。
【0055】
指示を受けた操作者は、手術顕微鏡11を操作して対物光学系の倍率を最大に設定し、顕微鏡映像出力表示領域601の画像を見ながら、十字型のガイドライン114aと、焦点位置登録用ポインタ30の十字型のターゲットライン30aの中心位置および十字の向きを一致させる。一致表示部605の表示により、操作者は、一致したかどうかを確認することができる。
【0056】
最大倍率に変更した際も、手術顕微鏡11は、オートフォーカス機能により、焦点位置登録用ポインタ30の上面に焦点位置が一致する制御を行う。最大倍率に設定したことにより、被写界深度が浅くなるため、焦点位置登録用ポインタ30の上面に、より正確に焦点を一致させることができる。
【0057】
焦点距離表示領域606には、最高倍率に設定した状態の焦点距離が表示される。
【0058】
(ステップ506)
据付時登録部25aは、現在の顕微鏡用ポインタ17から見た焦点位置登録用ポインタ30のターゲットライン30aの位置(中心座標および向き)と、現在の焦点距離を登録するよう操作者に指示する。
【0059】
操作者は、画面600内の焦点登録ボタン603を押すことにより、登録する。
【0060】
具体的には、焦点登録ボタン603が押された場合、据付時登録部25aは、位置検出センサ9が検出した現在の顕微鏡用ポインタ17の3つ以上の反射球18の実空間座標系における座標と、焦点位置登録用ポインタ30の3つの反射球31の実空間座標系に座標を受け取る。据付時登録部25aは、顕微鏡用ポインタ17の3つ以上の反射球18の中心座標を算出し、実空間座標系における顕微鏡用ポインタ17の中心の座標を算出する。据付時登録部25aは、焦点位置登録用ポインタ30の3つの反射球31の位置から、ターゲットライン30aの中心の座標を求め、顕微鏡用ポインタ17の中心の座標との差異を算出する。
【0061】
据付時登録部25aは、算出した座標の差異を、顕微鏡用ポインタ17から見た焦点位置登録用ポインタ30のターゲットライン30aの位置(座標および向き)として、手術顕微鏡11から取り込んだ焦点位置に対応させて、記憶装置4の位置関係格納部41に格納する。
【0062】
なお、画面600には、位置検出センサ9が、顕微鏡用ポインタ17と、焦点位置登録用ポインタ30の両方が検出できているか、片方のみが検出できているかを示す検出状態表示部607が配置されている。操作者は、検出状態表示部607の点灯状態により、検出状態を把握できる。
(ステップ507)
据付時登録部25aは、焦点登録状況表示領域602に表示しているすべての焦点距離のデータが登録されたかを判定し、まだ登録されていない場合はステップ508に進む。
【0063】
(ステップ508)
据付時登録部25aは、手術顕微鏡11から見た焦点位置登録用ポインタ30の距離を変更するよう操作者に指示する。
【0064】
また、据付時登録部25aは、焦点登録状況表示領域602の次に登録すべき焦点距離の表示に色を付けた丸印を付加表示する等して、操作者に教示する。
【0065】
操作者は、カメラ用三脚70を調整し、教示されている焦点距離付近に、焦点位置登録用ポインタ30の上面を配置する。
【0066】
据付時登録部25aは、ステップ503~507を、登録すべきすべての焦点距離のデータ登録されるまで繰り返す。すべての焦点距離のデータが揃った場合、ステップ509に進む。
【0067】
(ステップ509)
据付時登録部25aは、ステップ506で位置関係格納部41に格納した複数の焦点距離ごとの、顕微鏡用ポインタ17から見た焦点位置登録用ポインタ30のターゲットライン30aの位置を、図9のようにグラフにプロットして直線近似する。
【0068】
(ステップ510)
据付時登録部25aは、近似ラインとプロットした位置との誤差が許容範囲内かどうかを判定し、許容範囲よりも誤差が大きい場合には、ステップ511に進む。
【0069】
(ステップ511)
据付時登録部25aは、再登録を促すメッセージを表示し、ステップ504に戻る。
【0070】
これにより、据付時登録部25aは、ステップ504~509を繰り返し、再登録を行う。
【0071】
ステップ510において、近似ラインとプロットした位置との誤差が許容範囲内である場合には、ステップ512に進む。
【0072】
(ステップ512)
据付時登録部25aは、近似ラインを、焦点距離と顕微鏡用ポインタから見た顕微鏡の視野の焦点位置との関係として、位置関係格納部41に登録する。
【0073】
以上により、顕微鏡据付時や定期メンテナンス時に、据付時登録部25aが、手術顕微鏡11の焦点距離と、顕微鏡用ポインタ17から見た手術顕微鏡11の視野の焦点位置との関係を求め、登録することができる。この関係を用いて、手術中に、顕微鏡の焦点距離から、視野の位置を算出できるため、視野に一致する面の2次元画像を3次元画像から生成して表示装置6に表示し、手術ナビゲーションを実行できる。この手術ナビゲーションの動作については後で説明する。
【0074】
<手術顕微鏡の手術前の焦点位置の確認>
手術顕微鏡の据付時や定期メンテナンスにおいて、手術顕微鏡11の焦点距離と、顕微鏡用ポインタ17から見た手術顕微鏡11の視野の焦点位置との関係が位置関係格納部41に登録されているが、経時的に登録されている関係が変化することがある。
【0075】
そこで、手術前に、焦点位置事前登録部25の手術前確認部25bは、確認動作を行う。確認動作を、図10のフローを用いて説明する。なお、図11は、確認動作において表示装置6に表示される確認用画面1100である。確認用画面1100は、顕微鏡焦点位置登録用画面600の一部の表示領域のみを表示する構成であり、同じ表示領域には同じ番号を付している。
【0076】
(ステップ1001~1006)
図10のフローにおいて、ステップ1001~1006は、図5のステップ501~506と同様である。
【0077】
簡単に説明すると、ステップ1001~1003において、手術前確認部25bは、操作者に指示して、手術顕微鏡11に顕微鏡用ポインタ17を装着させ、カメラ用三脚70で焦点位置登録用ポインタ30を支持させる。手術顕微鏡11は、オートフォーカス機能または手動調整により、焦点位置登録用ポインタ30に焦点を合わせる。
【0078】
ステップ1004において、操作者は、確認用画面1100の顕微鏡映像出力表示領域601を見ながら、十字型のガイドライン114aと、十字型のターゲットライン30aを位置合わせする。
【0079】
さらに、ステップ1005において、手術顕微鏡11を最大倍率にして再度位置合わせする。
【0080】
この状態で、ステップ1006において、手術前確認部25bは、焦点位置を取得するとともに、顕微鏡用ポインタ17から見た手術顕微鏡11の視野の焦点位置を算出し、位置関係格納部41に登録する。
【0081】
(ステップ1007)
次に、手術前確認部25bは、ステップ1006において登録した焦点位置と、顕微鏡用ポインタ17から見た手術顕微鏡11の視野の焦点位置が、据付時登録部25aによって登録されて位置関係格納部41に格納されている近似ライン(図9)からどれくらいずれているかずれ量を算出し、ずれ量が予め定めた許容範囲内かどうかを判定する。ずれ量が予め定めた許容範囲よりも大きい場合、ステップ1004に戻ってステップ1004~1007を繰り返す。ステップ1004~1007を所定回数繰り返してもずれ量が許容値以下にならない場合、取り付け金具12の位置がずれている可能性があるので、サービスマンにメンテナンスを依頼する。
【0082】
また、ステップ1107において、ずれ量が予め定めた許容範囲内の場合は、確認動作を終了する。
【0083】
これにより、現時点の手術顕微鏡11の焦点距離と、顕微鏡用ポインタ17から見た手術顕微鏡11の視野の焦点位置との関係が、位置関係格納部41に登録されている関係を満たしていることを確認して手術ナビゲーションを行うことができる。
【0084】
<手術ナビゲーション>
位置関係格納部41に登録されている手術顕微鏡11の焦点距離と視野の焦点位置との関係を用いて、手術ナビゲーションシステム1が手術ナビゲーションを行う動作について図12のフローを用いて説明する。
【0085】
(ステップ1201)
手術器具位置算出部23は、手術器具33に手術器具用ポインタ35を装着するよう操作者に指示する。
【0086】
操作者は、この指示を受けて手術器具33の例えば後端に手術器具用ポインタ35を装着する。
【0087】
(ステップ1202)
手術器具位置算出部23は、手術器具用ポインタ35から見た手術器具33の先端位置をマウス8等を介して登録するよう操作者に指示する。
【0088】
操作者は、この指示を受けて、手術器具33の例えば後端に手術器具用ポインタ35を装着した場合、手術器具用ポインタ35の先端と手術器具用ポインタ35との距離および方向をマウス8等を介して手術器具位置算出部23に登録する。
【0089】
(ステップ1203)
位置検出センサ9は、手術器具用ポインタ35の実空間座標系における位置(座標と向き)を認識(検出)を試み、認識できた場合、ステップ1204に進む。
【0090】
(ステップ1204)
手術器具位置算出部23は、位置検出センサ9から手術器具用ポインタ35の座標と向きを受け取って、ステップ1202に操作者が登録した手術器具用ポインタから手術器具33の先端までの距離および方向に基づいて、手術器具33の先端位置(座標)を算出する。
【0091】
(ステップ1205)
画像生成部24は、手術器具用ポインタ35を装着した手術器具33の先端位置に該当する患者画像を表示する。具体的には、画像生成部24は、術前画像格納部42に予め取り込まれている患者の3次元画像から手術器具33の先端位置を含む2次元画像をレンダリングにより生成し、この2次元画像を患者画像として表示装置6に表示する。なお、2次元画像の向きは、患者50の3次元画像のアキシャル断面、サジタル断面およびコロナル断面のいずれかを選択してもよいし、手術器具33の先端を登録したときの手術器具33の向きに基づいて定めた面でもよい。
【0092】
このとき、画像生成部24は、手術顕微鏡11に備えられた撮像装置から視野の画像を受け取って、2次元画像と重畳して表示してもよいし、並列に表示してもよい。
【0093】
表示後、ステップ1210へ進む。
【0094】
なお、上記ステップ1203において、位置検出センサ9が手術器具用ポインタ35が認識できなかった場合、ステップ1206に進む。
【0095】
(ステップ1206)
位置検出センサ9は、焦点位置登録用ポインタ30の位置座標の認識(検出)を試み、認識できた場合、ステップ1207に進む。
【0096】
(ステップ1207)
焦点距離取得部21は、手術顕微鏡11から焦点距離を取得する。
【0097】
(ステップ1208)
視野位置算出部22は、位置関係格納部41に格納されている手術顕微鏡11の焦点距離と、顕微鏡用ポインタ17から見た手術顕微鏡11の視野の焦点位置との関係を示す近似ラインを読み出して参照することにより、位置検出センサ9が検出した焦点距離に基づいて、顕微鏡用ポインタ17から見た視野の座標を、近似または補間等することにより算出する。さらに、視野位置算出部22は、位置検出センサ9がステップ1206で検出した現時点の顕微鏡用ポインタ17の座標および向きに基づいて、顕微鏡用ポインタ17から見た視野の座標から、現時点の顕微鏡の視野の実空間座標系における座標および向きを算出する。
【0098】
(ステップ1209)
画像生成部24は、ステップ1208で算出された手術顕微鏡11の視野の座標および向きの患者画像を表示する。具体的には、画像生成部24は、術前画像格納部42に予め取り込まれている患者の3次元画像から手術顕微鏡11の視野の座標および向きの2次元画像をレンダリングにより生成し、この2次元画像を患者画像として表示装置6に表示する。
【0099】
このとき、画像生成部24は、手術顕微鏡11に備えられた撮像装置から視野の画像を受け取って、2次元画像と重畳して表示してもよいし、並列に表示してもよい。
【0100】
(ステップ1210)
演算処理部2は、操作者からナビ終了の指示をマウス8等を介して受け取っているかどうか判定し、ナビ終了の指示がある場合は終了する。ナビ終了の指示がない場合は、ステップ1203に戻って手術ナビゲーションを継続する。
【0101】
上述してきたように、本実施形態の手術ナビゲーションによれば、手術顕微鏡11の焦点距離に基づいて手術顕微鏡11の視野位置を特定できるため、手術器具33のポインタ35が検出できない場合であっても、手術ナビゲーションを行うことができる。
【0102】
また、手術器具33の手術器具用ポインタ35が、位置検出センサ9により認識(検出)されている場合には、手術器具用ポインタ35を優先して、手術器具用ポインタ35に基づいて画像を生成し、手術器具用ポインタ35が、位置検出センサ9により認識(検出)できない場合には、手術顕微鏡11の焦点位置に戻づいて画像が生成される。よって、手術器具33が、術者の影に入る場合でも、手術顕微鏡11の焦点位置に基づいて手術ナビゲーションを継続することができる。
【0103】
なお、ここでは、手術器具用ポインタ35を、手術顕微鏡11の焦点位置よりも優先させて手術ナビゲーションを行っているが、この構成に限定されるものではなく、手術顕微鏡11の焦点位置を優先させる構成としてもよい。また、手術器具用ポインタ35を用いず、手術顕微鏡11の焦点位置を常に用いて、手術ナビゲーションを行うことも可能である。
【0104】
また、画像生成部24は、ステップ1209において、手術顕微鏡11から倍率を受け取って、当該倍率に対応した倍率で2次元画像生成する構成とすることもできる。
【符号の説明】
【0105】
1 手術ナビゲーションシステム
2 演算処理部
3 主メモリ
4 記憶装置
5 表示メモリ
6 表示装置
7 コントローラ
8 マウス
9 位置検出センサ
10 ネットワークアダプタ
11 手術顕微鏡
12 取り付け金具
13 システムバス
14 ネットワーク
15 3次元撮像装置
16 医用画像データベース
17 顕微鏡用ポインタ
18 反射球
21 焦点距離取得部
22 視野位置算出部
23 手術器具位置算出部
24 画像生成部
25 焦点位置事前登録部
25a 据付時登録部
25b 手術前確認部
30 焦点位置登録用ポインタ
30a ターゲットライン
30b 文字
30c 固定孔
31 反射球
33 手術器具
35 ポインタ
35 手術器具用ポインタ
36 反射球
41 位置関係格納部
42 術前画像格納部
50 患者
70 カメラ用三脚
111 筐体
112 接眼部
114a ガイドライン
600 顕微鏡焦点位置登録用画面
601 顕微鏡映像出力表示領域
602 焦点登録状況表示領域
603 焦点登録ボタン
605 一致表示部
606 焦点距離表示領域
607 検出状態表示部
1100 確認用画面
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12