(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-08-16
(45)【発行日】2022-08-24
(54)【発明の名称】手術支援用マーカー及び手術支援システム
(51)【国際特許分類】
A61B 34/20 20160101AFI20220817BHJP
A61B 6/03 20060101ALN20220817BHJP
【FI】
A61B34/20
A61B6/03 360G
(21)【出願番号】P 2018106215
(22)【出願日】2018-06-01
【審査請求日】2021-05-19
(73)【特許権者】
【識別番号】516299419
【氏名又は名称】インテリジェンスファクトリー合同会社
(73)【特許権者】
【識別番号】515161065
【氏名又は名称】株式会社Medica Scientia
(73)【特許権者】
【識別番号】518194844
【氏名又は名称】シェルハメディカル株式会社
(74)【代理人】
【識別番号】110002952
【氏名又は名称】特許業務法人鷲田国際特許事務所
(72)【発明者】
【氏名】稲垣 麻帆
(72)【発明者】
【氏名】道家 健仁
(72)【発明者】
【氏名】小山 和也
(72)【発明者】
【氏名】解 晨
【審査官】北村 龍平
(56)【参考文献】
【文献】特開2018-47240(JP,A)
【文献】特開2016-214937(JP,A)
【文献】米国特許出願公開第2010/0182005(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 34/20
A61B 6/03
A61B 5/00
A61B 90/90
G06V 20/20
(57)【特許請求の範囲】
【請求項1】
コード部及び背景部からなる所定のパターンを有し、手術用照明灯下で使用される手術支援用マーカーであって、
基体と、
前記基体上に形成され、可視光領域における反射率が1%以下である低反射層と、
前記低反射層を覆うように配置され、前記所定のパターンに対応する開口を有する高反射層と、を備え、
前記開口を介して外部に臨む前記低反射層により前記コード部が形成され、前記高反射層により前記背景部が形成されていることを特徴とする手術支援用マーカー。
【請求項2】
前記低反射層は、表面に微細な突起群からなる反射防止構造を有することを特徴とする請求項1に記載の手術支援用マーカー。
【請求項3】
前記低反射層は、黒色のめっき層であることを特徴とする請求項1又は2に記載の手術支援用マーカー。
【請求項4】
前記基体及び前記高反射層は、硬質材料で形成されていることを特徴とする請求項1から3のいずれか一項に記載の手術支援用マーカー。
【請求項5】
前記基体及び前記高反射層は、当該手術支援用マーカーの外面を形成することを特徴とする請求項4に記載の手術支援用マーカー。
【請求項6】
請求項1から5のいずれか一項に記載の手術支援用マーカーと、
前記手術支援用マーカーを含む術野を撮像する撮像装置と、
前記撮像装置によって撮像された実画像に、予め用意された仮想画像を重畳して表示する手術支援端末と、を備え、
前記手術支援端末は、前記実画像から得られる前記手術支援用マーカーの位置及び姿勢に基づいて、前記仮想画像の表示態様を決定することを特徴とする手術支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、手術支援用マーカー及び手術支援システムに関する。
【背景技術】
【0002】
近年、手術支援システムの一例として、拡張現実(AR:Augmented Reality)技術を利用した手術ナビゲーションシステムの開発が進められている(例えば、特許文献1、2参照)。手術ナビゲーションシステムは、例えば、患者の膝関節や股関節などを金属やセラミックス製の人工関節に置き換える人工関節置換術において使用される。また、特許文献1、2には、患者の口腔内にインプラントを埋め込む歯科インプラント手術に使用される手術ナビゲーションシステムが開示されている。
【0003】
具体的には、手術ナビゲーションシステムは、術前計画において行われたシミュレーションの結果を示す仮想画像を、撮像装置で撮像されている実画像に重ね合わせることにより、施術者に対して有用な手術支援情報を提供する。例えば、術前計画では、患部の断層画像を用いて、取付け予定のインプラントの形状、寸法、取付角度、必要に応じて骨切り量や骨切り位置等のシミュレーションが行われる。
【0004】
手術ナビゲーションシステムでは、仮想画像を実画像に重ね合わせるために、実空間の座標系と仮想画像の座標系とを正確に位置合わせする必要がある(いわゆるレジストレーション)。また、撮像視点の変化に伴う実画像の変化に追従して、仮想画像の表示制御を行う必要がある(いわゆるトラッキング)。一般には、所定部位(例えば、患者の骨など)に固定された識別標識(以下、「ARマーカー」と称する)の位置及び姿勢を検出することにより、レジストレーション及びトラッキングが行われる。
【0005】
一般に、ARマーカーは、黒色のコード部と白色の背景部からなる所定のパターンを有している(いわゆる二次元コード)。コード部と背景部のコントラストが大きい程、パターンの識別精度が高くなる。従来のARマーカーは、例えば、白地の紙などのシートに黒色でコード部が印刷された印刷物で形成されている(例えば、特許文献1参照)。また、ARマーカーに関する先行技術文献としては、例えば、特許文献3がある。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2010-259497号公報
【文献】特許第6063599号公報
【文献】特開2016-77574号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、手術室の照明には、術野の視認性を確保するために、影ができにくい手術用照明灯(いわゆる無影灯)が用いられる。当然に、手術ナビゲーションシステムで用いられるARマーカーも手術用照明灯下に設置されることとなる。手術用照明灯下では、印刷によって形成された黒色のコード部からの光強度は、光沢などにより、白色の背景部からの光強度と同様に高くなり、コード部と背景部のコントラストが小さくなる。そのため、印刷物からなる従来のARマーカーを手術用照明灯下で使用する場合、手術ナビゲーションシステムにおいてARマーカーの位置及び姿勢、すなわち仮想画像を重ね合わせるターゲットの位置及び姿勢を正確に検出できず、その結果、仮想画像を適切に表示させることができない虞がある。
【0008】
なお、撮像装置において露光量を調整することによりARマーカーのパターン識別精度を高めることもできるが、この場合、高機能な撮像装置が必要となるため、システムコストが増大してしまう。また、印刷技術の改良(例えば、顔料成分の改良)によりコード部の低反射化を図ることも考えられるが、現状では、手術用照明灯下において利用しうる識別性を有するARマーカーは実現されていない。
【0009】
本発明の目的は、手術用照明灯下でAR技術を利用する場合に、ターゲットの位置及び姿勢を精度よく検出でき、仮想画像を適切に表示できる手術支援用マーカー及び手術支援システムを提供することである。
【課題を解決するための手段】
【0010】
本発明の一態様に係る手術支援用マーカーは、
コード部及び背景部からなる所定のパターンを有し、手術用照明灯下で使用される手術支援用マーカーであって、
基体と、
前記基体上に形成され、可視光領域における反射率が1%以下である低反射層と、
前記低反射層を覆うように配置され、前記所定のパターンに対応する開口を有する高反射層と、を備え、
前記開口を介して外部に臨む前記低反射層により前記コード部が形成され、前記高反射層により前記背景部が形成されていることを特徴とする。
【発明の効果】
【0011】
本発明によれば、手術用照明灯下でAR技術を利用する場合に、ターゲットの位置及び姿勢を精度よく検出でき、仮想画像を適切に表示することができる。
【図面の簡単な説明】
【0012】
【
図2】
図2は、低反射層の反射特性を示す図である。
【
図3】
図3は、手術支援システムを用いた人工膝関節置換術を説明するための図である。
【
図4】
図4は、手術支援端末の機能的構成を示すブロック図である。
【
図5】
図5は、手術支援システムを用いた手術ナビゲーション処理の一例を示すフローチャートである。
【
図6】
図6は、手術ナビゲーション処理における手術支援端末の表示画面の一例を示す図である。
【発明を実施するための形態】
【0013】
以下、本発明の実施の形態を、図面を参照して詳細に説明する。
【0014】
図1A、
図1Bは、本発明の一実施の形態に係るARマーカー1の構成を模式的に示す図である。
図1Aは、ARマーカー1の外観斜視図であり、
図1Bは、ARマーカー1の分解斜視図である。
【0015】
ARマーカー1は、手術室で用いられる識別標識であり、例えば、手術支援システムの一例である手術ナビゲーションシステムにおいて、ターゲットの位置及び姿勢を検出するために用いられる。ARマーカー1は、低反射で黒として認識されるコード部1aと、高反射で白として認識される背景部1bとからなる所定のパターンを有する。本実施の形態では、一例として、図形と文字とからなるパターンが形成されている場合について示している。なお、本実施の形態では、ARマーカー1は、平面視において正方形状を有しているが、正方形以外の特殊形状を有していてもよい。また、典型的には、コード部1aの色は「黒」で、背景部1bの色は「白」であるが、コード部1aと背景部1bを区別して認識しうるコントラストが得られればよく、特に、背景部1bの色は白以外であってもよい。
【0016】
図1A、
図1Bに示すように、ARマーカー1は、高反射層11、低反射層12及び基体13からなる三層構造を有する。ARマーカー1は、構造の面で印刷物からなる従来のARマーカーと明確に異なる。
【0017】
基体13は、低反射層12を形成するための硬質材料からなる基板である。本実施の形態では、基体13は、高反射層11及び低反射層12を収容する凹室13aを有する。基体13の厚さ(凹室13aの深さ)は、収容する高反射層11及び低反射層12の厚さに依存する。基体13は、オートクレーブによる高圧蒸気滅菌処理(例えば、130~140℃×10~30minの熱処理)に耐えうる材料で形成される。基体13は、例えば、アルミニウムやステンレス等の金属材料によって形成される。
【0018】
低反射層12は、基体13上に形成される黒色の薄膜層(例えば、厚さ数μm)である。本実施の形態では、低反射層12は、基体13の凹室13aの底面に、全面に亘って形成されている。低反射層12は、光沢がなく、可視光領域における反射率が1%以下である(
図2参照)。これに対して、印刷物からなる従来のARマーカーにおける黒色のコード部の反射率は、一般に、2~10%である。すなわち、従来のARマーカーに比較して、低反射層12の光沢度及び反射率は格段に小さい。これにより、ARマーカー1のパターン識別精度の向上を図ることができる。
【0019】
本実施の形態では、低反射層12は、基体13上への金属めっきにより形成されている。例えば、ヱビナ電化工業の黒化処理技術を利用することにより、可視光領域における反射率が1%以下である黒色のめっき層(無機皮膜)を形成することができる。具体的には、低反射層12として、ヱビナ電化工業製のスゴクロ(商品名)を適用することができる。
【0020】
低反射層12を金属めっきにより形成することにより、オートクレーブによる滅菌処理を施しても低反射層12の性状は維持される。これに対して、印刷物からなる従来のARマーカーは、耐熱性が低いので、オートクレーブによる滅菌処理を行うことができない。そのため、従来のARマーカーは、オートクレーブ以外の滅菌処理(例えば、ガス滅菌)を適用しなければならない。すなわち、本実施の形態のARマーカー1は、従来に比較して、短時間で、容易かつ安価に滅菌処理を行うことができる。
【0021】
また、本実施の形態では、低反射層12は、表面に微細な突起群からなる反射防止構造を有している。スゴクロは、微視的にみると表面が毛羽立っている。これにより、低反射層12に入射した光は、低反射層12の表面で乱反射するので、低反射層12の光沢度及び反射率を低減することができる。
【0022】
高反射層11は、所定のパターンに対応する開口11aを有する硬質材料からなる平板である。開口11aは、例えば、レーザー加工により形成される。高反射層11は、低反射層12を覆うように配置される。高反射層11は、例えば、ねじ止めにより基体13に固定される。低反射層12の表面は、高反射層11によって覆われ、外部と非接触となる。これにより、高反射層11によって低反射層12が保護されるので、低反射層12の性状を維持することができる。したがって、低反射層12として、機械的に脆く、外部との接触によって損傷しやすい構造を適用することもできる。高反射層11は、基体13と同様に、オートクレーブによる高圧蒸気滅菌に耐えうる材料で形成される。高反射層11は、例えば、アルミニウムやステンレス等の金属材料によって形成される。
【0023】
本実施の形態では、高反射層11及び基体13は硬質材料で形成されており、高反射層11及び基体13によって、ARマーカー1の外面が形成されている。これにより、ARマーカー1は簡単には破損しないので、取扱いが容易になる。また、ARマーカー1の構造が簡素化されているので、ARマーカー1の製造コストを低減することができる。
【0024】
なお、高反射層11及び基体13の厚さ(肉厚)は特に制限されないが、軽量化、低コスト化の観点から、ARマーカーとしての使用に耐えられる程度に薄いことが好ましい。また、高反射層11及び基体13は、耐熱性を有するプラスチック材料やセラミック材料によって形成されてもよい。
【0025】
ARマーカー1において、高反射層11が所定パターンの背景部1bを形成し、低反射層12のうち高反射層11の開口11aから外部に臨む部分が所定パターンのコード部1aを形成する。これにより、手術用照明灯下においても高いコントラストが得られるので、パターンの識別精度が向上する。したがって、ARマーカー1を用いることにより、手術支援システムの撮像装置として、スマートフォン等に搭載されている一般的な撮像装置を適用することもできる。
【0026】
図3は、ARマーカー1を用いた手術支援システムSを説明するための斜視図である。手術支援システムSは、手術用照明灯Lを用いた照明環境における患者Pの患部を含む撮像画像(実画像)に、術前計画においてシミュレーションした仮想画像を重畳して表示する手術ナビゲーションシステムである。
図3では、一例として、人工膝関節置換術に手術支援システムSを適用した場合について示している。なお、手術支援システムSは、人工膝関節置換術だけでなく、人工股関節置換術やその他の外科手術に利用することができる。
【0027】
図3に示すように、手術支援システムSは、ARマーカー1、手術支援端末100、及び病院端末200を備える。手術支援端末100と病院端末200は、無線通信回線(例えば、無線LAN(Local Area Network)等)を介して、情報通信可能に接続される。なお、
図3では、手術台T上において患者Pが固定されていない状態を表しているが、施術しやすくなるように患者Pは固定されていてもよい。また、手術支援端末100は、患者Pの患部との位置関係が大幅にずれないように、施術者が容易に視認できる位置に固定されてもよい。
【0028】
ARマーカー1は、手術支援システムSにおいて、仮想画像を重ね合わせるターゲット(ここでは、患者Pの脛骨又は大腿骨)の位置及び姿勢を検出するために用いられる。ARマーカー1は、例えば、所定部位(例えば、患者Pの骨)、及び/又は所定部位を指し示すツールに取り付けられる。上述したように、ARマーカー1は、コード部1aの反射率が極めて低いので、手術用照明灯Lの下でも、手術支援端末100によって精度よくARマーカー1の位置及び姿勢を検出し、撮像画像におけるターゲットの位置及び姿勢を特定することができる。
【0029】
病院端末200は、人工膝関節置換術の術前計画を行うための端末である。病院端末200は、病院内に設置され、例えば、医用画像保存通信システム(PACS:Picture Archiving and Communication Systems)、病院情報システム(HIS:Hospital Information Systems)、及び放射線科情報システム(RIS:Radiology Information Systems)等と情報通信可能に接続されている。病院端末200、PACS、HIS及びRISを含む院内ネットワークにおいては、例えば、DICOM(Digital Image and Communications in Medicine)規格に従って、情報の送受信が行われる。
【0030】
病院端末200は、例えば、汎用のパーソナルコンピューター等で構成される。すなわち、病院端末200は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)を含む処理部、ハードディスク等の記憶部、表示部、操作部及び通信部等を備える(いずれも図示略)。
【0031】
病院端末200は、術前計画用プログラムを実行することにより、取付け予定の人工膝関節(脛骨側部材(脛骨ベースプレート)、大腿骨側部材(大腿骨コンポーネント)等の人工関節構成部材)の形状や寸法、脛骨に刺入される脛骨随内ロッドの向き及び刺入点の位置、脛骨の骨切り位置、大腿骨に刺入される大腿骨随内ロッドの向き及び刺入点の位置、大腿骨の骨切り位置等を、術前検査で得られた断層画像データに基づいてシミュレーションする。
【0032】
ここで、断層画像データは、例えば、X線CT(Computed Tomography)装置やMRI(Magnetic Resonance Imaging System)装置などの医用断層画像診断装置(図示略)により患者の患部が撮像された画像データである。なお、断層画像データは、院内ネットワークを介してPACSから病院端末200に送信されてもよいし、メモリカード等の可搬型記憶媒体を介して病院端末200に提供されてもよい。
【0033】
病院端末200で行われる術前計画処理は、公知の技術であるので、以下に簡単に説明する。すなわち、病院端末200は、術前計画処理において、例えば、断層画像データから患者の脛骨や大腿骨の三次元形状を表す画像データ(三次元モデル)を生成する。そして、病院端末200は、脛骨や大腿骨の三次元モデル上で座標系を構築し、人工膝関節を構成する脛骨側部材や大腿骨側部材の取付け予定位置等をシミュレーションする。
【0034】
また、病院端末200は、脛骨及び大腿骨の三次元モデルにおいて、脛骨や大腿骨に対する脛骨側部材や大腿骨側部材の取付けを案内支援するための治具(脛骨髄内ロッド、大腿骨髄内ロッド)の適切な向き及び位置等を含む治具情報をシミュレーションする。この治具情報は、シミュレーションにより自動的に生成されてもよいし、医者による操作部の所定操作に基づいて治具の向きや位置の微調整が行われてもよい。
【0035】
治具情報には、例えば、脛骨に対する脛骨側部材の取付けを案内するために脛骨に刺入される脛骨随内ロッドの向き及び刺入点の位置、脛骨随内ロッドを基準として脛骨の骨切りを案内する脛骨骨切り案内部材の向き及び設置位置、大腿骨に対する大腿骨側部材の取付けを案内するために大腿骨に刺入される大腿骨随内ロッドの向き及び刺入点の位置、大腿骨随内ロッドを基準として大腿骨の骨切りを案内する大腿骨骨切り案内部材の向き及び設置位置、等が含まれる。
【0036】
また、病院端末200は、下肢の機能軸、大腿骨の骨頭中心の位置、大腿骨の機能軸、大腿骨の前方皮質近似平面、脛骨の機能軸、内/外半角、屈曲・伸展角、回旋角等の各種の術中支援パラメーターを生成してもよい。病院端末200において生成された術前計画データは、適宜手術支援端末100に提供される。
【0037】
手術支援端末100は、人工膝関節置換術の術中支援を行う支援端末である。具体的には、手術支援端末100は、術前計画におけるシミュレーション結果を含む仮想画像を、実画像に重ね合わせた画像(以下、「拡張現実画像」と称する)表示する。本実施の形態では、手術支援端末100として、スマートフォンやタブレット等の携帯端末を適用している。
【0038】
図4は、手術支援端末100の機能的構成を示すブロック図である。
図4に示すように、手術支援端末100は、制御部101、記憶部105、撮像部106、操作部107、表示部108、及び通信部109を備える。
【0039】
制御部101は、演算/制御装置としてのCPU102、主記憶装置としてのROM103及びRAM104等を備える。ROM103には、基本プログラムや基本的な設定データが記憶される。CPU102は、ROM103又は記憶部105から処理内容に応じたプログラムを読み出してRAM104に展開し、展開したプログラムを実行することにより、手術支援端末100の各ブロックの動作を集中制御する。
【0040】
なお、制御部101が実行する処理の一部又は全部は、処理に応じて設けられたDSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)等の電子回路によって実行されてもよい。
【0041】
記憶部105は、例えば、フラッシュメモリ等の内蔵ストレージ(補助記憶装置)であり、プログラムや各種データ等を記憶する。本実施の形態では、記憶部105は、手術ナビゲーションプログラムを記憶する。なお、手術ナビゲーションプログラムは、ROM103に記憶されてもよい。また、記憶部105は、通信部109を介して病院端末200から取得した患者Pの断層画像データや術前計画データを記憶する。
【0042】
撮像部106は、レンズ部及びイメージセンサー、及び撮像制御部等を有し、操作部107(シャッターボタン)の操作に伴い被写体(ここでは、手術台T上の患者Pの骨B)を撮像する。
【0043】
操作部107及び表示部108は、例えば、タッチパネル付きのフラットパネルディスプレイで構成される。フラットパネルディスプレイとしては、液晶ディスプレイ、有機ELディスプレイなどを用いることができる。また、操作部107は、電源のON/OFF操作に係る電源ボタン、撮像指示に係るシャッターボタン、各種のモードや機能等の選択指示に係るボタン等(いずれも図示略)を有する。
【0044】
操作部107は、手術支援端末100に所定の動作を実行させるための操作を受け付け、操作に応じた操作信号を制御部101に操作信号を出力する。制御部101は、操作部107からの操作信号に従って所定の動作(例えば、被写体の撮像等)を各部に実行させる。表示部108は、制御部101の制御に従って各種情報を表示する。表示部108は、例えば、制御部101による各種のアプリケーションプログラムの実行に伴い、アプリケーション画面を表示する。本実施の形態では、表示部108は、手術ナビゲーション用の画面を表示する。
【0045】
通信部109は、例えば、NIC(Network Interface Card)、MODEM(MOdulator-DEModulator)、USB(Universal Serial Bus)等の通信インターフェースである。制御部101は、通信部109を介して、有線/無線LAN等のネットワークに接続された病院端末200との間で各種情報の送受信を行う。通信部109には、NFC(Near Field Communication)やBluetooth(登録商標)等の近距離無線通信用の通信インターフェースを適用することもできる。
【0046】
制御部101は、記憶部105に記憶されている手術ナビゲーションプログラムを実行することにより、術前計画取得部101A、実画像取得部101B、位置姿勢推定部101C、表示制御部101Dとして機能する。これらの機能については、
図5のフローチャートに従って詳述する。
【0047】
図5は、制御部101が実行する手術ナビゲーション処理の一例を示すフローチャートである。この処理は、例えば、操作部107を通じて、手術ナビゲーションのアプリケーションを起動する操作が入力されることに伴い、CPU102が記憶部105に格納されている手術ナビゲーションプログラムを実行することにより実現される。
【0048】
なお、以下の説明では、予め病院端末200において患者Pの人口膝関節置換術の術前計画処理が行われ、生成された術前計画データが病院端末200の記憶部に記憶されているものとする。また、手術支援端末100は、患者Pの患部及びARマーカー1が撮像領域含まれる位置に設置され、手術ナビゲーションプログラムの実行に伴い、撮像部106は撮像を開始するものとする。また、患者Pの位置及び姿勢を検出するために、所定位置(例えば、患者の骨、又は骨の特定部位を指し示すツール)にARマーカー1が取り付けられているものとする。
【0049】
ステップS101において、制御部101は、患者Pの人工膝関節が取り付けられる予定の脛骨及び大腿骨の三次元形状を表す基準画像(三次元モデル)、並びに、治具情報を含む術前計画データを、病院端末200から取得する(術前計画取得部101Aとしての処理)。なお、術前計画データは、予め、手術支援端末100の記憶部105に記憶しておいてもよい。
【0050】
ステップS102において、制御部101は、脛骨及び大腿骨のうち、施術者による操作部107の所定操作に基づいて、仮想画像を重ね合わせるターゲットとなる対象骨を設定する。
【0051】
ステップS103において、制御部101は、対象骨の表面が撮像された撮像画像を逐次取得する(実画像取得部101Bとしての処理)。
【0052】
ステップS104において、制御部101は、撮像画像における患者Pの対象骨の位置及び姿勢を推定する(位置姿勢推定部101Cとしての処理)。具体的には、制御部101は、撮像画像に含まれるARマーカー1のパターンの大きさ及び傾きに基づいて、対象骨の位置及び姿勢を推定する。ARマーカー1を用いることにより、パターンを精度よく識別でき、ARマーカー1の位置及び姿勢を正確に検出できるので、対象骨の位置及び姿勢を正確に推定することができる。
【0053】
ステップS105において、制御部101は、撮像画像に重ね合わせる仮想画像の表示態様(仮想画像の表示位置及び表示姿勢)を決定する(表示制御部101Dとしての処理)。具体的には、制御部101は、ステップS104で推定された対象骨の位置及び姿勢と、ステップS101で取得された術前計画データとに基づいて、撮像画像内の対象骨の座標系と当該対象骨の三次元モデルの座標系の位置合わせを行い、撮像画像に重畳する仮想画像の表示姿勢を決定するとともに、当該仮想画像の表示位置を決定する。
【0054】
ここで、仮想画像は、治具情報及び対象骨の三次元モデルを含んでもよいし、何れか一方だけを含んでもよい。また、仮想画像は、撮像画像を透かして視認できる半透過画像であってもよいし、輪郭だけからなる透過画像であってもよい。
【0055】
ステップS106において、制御部101は、撮像画像に仮想画像を重ね合わせた拡張現実画像を表示部108に表示させる(表示制御部101Dとしての処理)。
【0056】
例えば、対象骨が脛骨の場合、制御部101は、脛骨髄内ロッドの刺入前には、撮像画像内の脛骨に対して、脛骨髄内ロッドの向き及び当該脛骨髄内ロッドの刺入点の位置を示す治具情報を、仮想画像として重畳させた拡張現実画像ARIを表示部108に表示させる(
図6参照)。また、脛骨髄内ロッドの刺入後には、撮像画像内の脛骨に対して、脛骨骨切り案内部材の向き及び位置を示す治具情報を、仮想画像として重畳させた拡張現実画像を表示部108に表示させる。これにより、施術者は、拡張現実画像を視認して、脛骨に対する脛骨髄内ロッドの向き及び刺入点の位置、並びに、脛骨骨切り案内部材の向き及び位置を把握することができる。
【0057】
なお、
図6では、患者Pの脛骨以外の部分の図示は省略しているが、実際には、脛骨の周囲の組織(例えば、軟骨、腱、靱帯、皮膚等)も撮像部106により撮像され表示部108に表示された状態となる。
【0058】
ステップS107において、制御部101は、操作部107からの操作信号に基づいて、手術ナビゲーションのアプリケーションを終了する操作が行われたか否かを判定する。アプリケーションの終了操作が行われた場合(ステップS107で“YES”)、手術ナビゲーション処理を終了する。アプリケーションの終了操作が行われない場合(ステップS107で“NO”)、ステップS103の処理に移行する。すなわち、手術が終了するまで、手術支援端末100の表示部108には、患部の位置及び姿勢、又は手術支援端末100の撮像部106の位置及び姿勢に追従して、拡張現実画像が表示されることとなる(トラッキング)。
【0059】
なお、ターゲットとなる対象骨が変更される場合(例えば、脛骨から大腿骨に対象骨が変更される場合)、制御部101は、操作部107を通じて行われた対象骨の変更操作を受け付けて、上記と同様にしてステップS102以降の処理を実行する。
【0060】
以上説明したように、実施の形態に係るARマーカー1(手術支援用マーカー)は、コード部1a及び背景部1bからなる所定のパターンを有し、手術用照明灯L下で使用される手術支援用マーカーである。ARマーカー1は、基体13と、基体13上に形成され、可視光領域における反射率が1%以下である低反射層12と、低反射層12を覆うように配置され、所定のパターンに対応する開口11aを有する高反射層11と、を備える。開口11aを介して外部に臨む低反射層12によりコード部1aが形成され、高反射層11により背景部1bが形成されている。
【0061】
ARマーカー1によれば、コード部1bの光沢度及び反射率が極めて小さく、手術用照明灯下においても高いコントラストが得られるので、パターンの識別精度が飛躍的に向上する。したがって、ARマーカー1は、手術用照明等下で使用される手術支援用マーカーとして有用である。
【0062】
また、実施の形態で説明したように、低反射層12は、表面に微細な突起群からなる反射防止構造を有することが好ましい。これにより、低反射層12に入射した光は、低反射層12の表面で乱反射するので、低反射層12の反射率を低減することができる。
【0063】
また、実施の形態で説明したように、低反射層12は、黒色のめっき層であることが好ましい。これにより、オートクレーブによる滅菌処理を施すことができるので、手術器材の準備が簡単になる。
【0064】
また、実施の形態で説明したように、高反射層11及び基体13は、硬質材料で形成されることが好ましい。これにより、ARマーカー1は簡単には破損しないので、取扱いが容易になる。
【0065】
また、実施の形態で説明したように、高反射層11及び基体13は、ARマーカー1の外面を形成することが好ましい。これにより、ARマーカー1の構造が簡素化されるので、ARマーカー1の製造コストを低減することができる。
【0066】
また、実施の形態に係る手術支援システムSは、ARマーカー1(手術支援用マーカー)と、ARマーカー1を含む術野を撮像する手術支援端末100の撮像部106(撮像装置)と、撮像装置によって撮像された撮像画像(実画像)に、予め用意された仮想画像を重畳して表示する手術支援端末100と、を備える。手術支援端末100は、撮像画像から得られるARマーカー1の位置及び姿勢に基づいて、仮想画像の表示態様を決定する。
【0067】
手術支援システムSによれば、手術用照明灯下でも高い識別性を有するARマーカー1を用いるので、仮想画像を重ね合わせるターゲットの位置及び姿勢を精度よく検出でき、仮想画像を適切に表示することができる。また、手術支援システムSの撮像装置として、スマートフォン等に搭載されている一般的な撮像装置を適用することができるので、手術支援システムSの低コスト化を図ることができる。
【0068】
以上、本発明者によってなされた発明を実施の形態に基づいて具体的に説明したが、本発明は上記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で変更可能である。
【0069】
例えば、ARマーカー1を構成する低反射層12は、金属めっき以外の方法によって形成されてもよい。ただし、インクや塗料は、オートクレーブによる滅菌処理に耐えられないので、実施の形態のように、低反射層12は、金属めっきにより形成されるのが好ましい。
【0070】
また例えば、実施の形態では、手術支援端末100の撮像部106を、手術支援システムSの撮像装置として利用しているが、手術支援端末100とは別に、撮像装置を設けてもよい。この場合、撮像装置は、患者Pの患部を撮像できるように設置され、手術支援端末100は、施術者が視認しやすいように設置されればよい。
【0071】
また、手術支援端末100として、ウェアラブルコンピューターデバイス(特に、頭部装着型のヘッドマウントディスプレイ)を適用してもよい。
【0072】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0073】
1 ARマーカー(手術支援用マーカー)
1a コード部
1b 背景部
11 高反射層
11a 開口
12 低反射層
13 基体