特表2024-537781基準特定及び追跡を使用する手術デバイス、システム、方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-10-16
(54)【発明の名称】基準特定及び追跡を使用する手術デバイス、システム、方法
(51)【国際特許分類】
A61B 90/00 20160101AFI20241008BHJP
A61B 90/98 20160101ALI20241008BHJP
A61B 90/96 20160101ALI20241008BHJP
A61B 90/10 20160101ALI20241008BHJP
【ＦＩ】
A61B90/00
A61B90/98
A61B90/96
A61B90/10
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024519412
(86)(22)【出願日】2022-09-26
(85)【翻訳文提出日】2024-05-02
(86)【国際出願番号】 IB2022059092
(87)【国際公開番号】W WO2023052942
(87)【国際公開日】2023-04-06
(31)【優先権主張番号】63/249,652
(32)【優先日】2021-09-29
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】17/493,914
(32)【優先日】2021-10-05
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
【公序良俗違反の表示】
（特許庁注：以下のものは登録商標）
１．ＱＲコード
(71)【出願人】
【識別番号】506157570
【氏名又は名称】シラグ・ゲーエムベーハー・インターナショナル
【氏名又は名称原語表記】Ｃｉｌａｇ ＧＭＢＨ Ｉｎｔｅｒｎａｔｉｏｎａｌ
(74)【代理人】
【識別番号】100088605
【弁理士】
【氏名又は名称】加藤 公延
(74)【代理人】
【識別番号】100130384
【弁理士】
【氏名又は名称】大島 孝文
(72)【発明者】
【氏名】シェルトン・ザ・フォース・フレデリック・イー
(72)【発明者】
【氏名】ハリス・ジェイソン・エル
(72)【発明者】
【氏名】ミューモー・ダニエル・ジェイ
(72)【発明者】
【氏名】シャイブ・チャールズ・ジェイ
(72)【発明者】
【氏名】デック・アンドリュー・シー
(72)【発明者】
【氏名】イェイツ・デビッド・シー
(57)【要約】
手術処置を行っている間に、患者の身体内に前進させられるように構成された遠位部分を有する手術デバイスと、手術デバイスの遠位部分の外部上の基準マーカであって、手術デバイスに関連付けられた情報を記憶する、基準マーカと、患者の身体内の基準マーカを可視化する画像を収集するように構成された撮像デバイスと、手術処置を行うのとリアルタイムで画像を分析し、手術デバイスに関連付けられた情報を検出するように構成されたコントローラと、を備える、手術システム。
【特許請求の範囲】
【請求項1】
手術システムであって、手術処置を行っている間に患者の身体内に前進させられるように構成された遠位部分を有する手術デバイスと、
前記手術デバイスの前記遠位部分の外部上の基準マーカであって、前記手術デバイスに関連付けられた情報を記憶する、基準マーカと、
前記患者の前記身体内の前記基準マーカを可視化する画像を収集するように構成された撮像デバイスと、
前記手術処置を行うのとリアルタイムで前記画像を分析し、前記手術デバイスに関連付けられた前記情報を検出するように構成されたコントローラと、を備える、手術システム。
【請求項2】
記憶された前記情報が、前記手術デバイスに固有であり、前記手術デバイスのモデル番号及び前記手術デバイスのシリアル番号のうちの少なくとも１つを含む、請求項１に記載のシステム。
【請求項3】
前記記憶された情報が、前記手術デバイスを含む可視化システムに固有である、請求項１又は２に記載のシステム。
【請求項4】
前記記憶された情報が、前記手術デバイスが真正であると認証されていることを示す認証署名を含み、前記コントローラが、検出された前記情報を分析し、それによって、前記手術デバイスが真正であると認証されていると判定するように構成されている、請求項１に記載のシステム。
【請求項5】
前記記憶された情報が静的ではなく、前記手術処置を行っている間に前記手術デバイスの第２のコントローラによって変更されるように構成されている、請求項１に記載のシステム。
【請求項6】
前記第２のコントローラが、前記手術デバイス及び／又は前記手術デバイスの構成要素の現在の状態に基づいて、前記記憶された情報を変更するように構成されている、請求項５に記載のシステム。
【請求項7】
前記第２のコントローラが、磁気パラメータ変更、電磁パラメータ変更、又は電気パラメータ変更のうちの少なくとも１つを介して、前記記憶された情報を変更するように構成されている、請求項５又は６に記載のシステム。
【請求項8】
前記記憶された情報が、静的であり、変更することができない、請求項１に記載のシステム。
【請求項9】
前記基準マーカが、前記手術デバイスの固定部分に取り付けられている、請求項１に記載のシステム。
【請求項10】
前記基準マーカが、前記手術デバイスの可動部分に取り付けられており、前記コントローラが、前記検出された情報を分析し、それによって、前記手術デバイスの前記可動部分の状態を判定するように構成されている、請求項１に記載のシステム。
【請求項11】
前記基準マーカが、受動的であり、バーコード及びＱＲコードのうちの少なくとも１つを含む、請求項１に記載のシステム。
【請求項12】
前記基準マーカが、能動的であり、前記撮像デバイスによって検出されるように構成されたエネルギーを放出するように構成されており、前記コントローラが、前記手術処置を行うのとリアルタイムで、前記撮像デバイスによって検出された前記エネルギーを分析し、それによって、標的に対する前記手術デバイスの位置を判定するように構成されている、請求項１に記載のシステム。
【請求項13】
前記手術デバイスが、手術解剖器具、手術ステープラ、手術把持器、クリップアプライヤ、煙排出器、及び手術エネルギーデバイスのうちの１つを含む、請求項１に記載のシステム。
【請求項14】
手術ハブが、前記コントローラを含む、請求項１に記載のシステム。
【請求項15】
ロボット手術システムが、前記コントローラを含み、前記手術デバイス及び前記撮像デバイスが、各々、前記ロボット手術システムに解放可能に結合され、前記ロボット手術システムによって制御されるように構成されている、請求項１に記載のシステム。
【請求項16】
方法であって、手術処置を行っている間に、請求項１に記載の手術デバイスを前記患者の前記身体内に前進させることであって、前記手術デバイスが、ロボット手術システムに解放可能に結合されている、ことと、
前記手術処置を行っている間に、請求項１に記載の撮像デバイスを前記患者の前記身体内に前進させることであって、前記撮像デバイスが、前記ロボット手術システムに解放可能に結合されている、ことと、
前記手術処置を行っている間に、前記撮像デバイスを使用して、請求項１に記載の基準マーカの画像を収集することと、
請求項１に記載のコントローラを使用して、前記手術処置を行っている間に、前記画像を分析して前記手術デバイスに関連付けられた前記情報を検出することと、を含む、方法。
【請求項17】
記憶された前記情報が、前記手術デバイスが真正であると認証されていることを示す認証署名を含み、前記分析することが、前記認証署名に基づいて、前記手術デバイスが真正であると認証されていると判定することを含む、請求項１６に記載の方法。
【請求項18】
前記コントローラを用いて、前記手術処置を行っている間に前記手術デバイスによって行われるアクションに基づいて、前記記憶された情報を変更することを更に含む、請求項１６又は１７に記載の方法。
【請求項19】
前記基準マーカが、エネルギーを放出し、前記方法が、前記コントローラを使用して、前記手術処置を行っている間に、放出された前記エネルギーを分析し、それによって、標的に対する前記手術デバイスの位置を判定することを更に含む、請求項１６に記載の方法。
【請求項20】
前記ロボット手術システムが、前記コントローラを含む、請求項１６に記載の方法。
【請求項21】
手術ハブが、前記コントローラを含む、請求項１６に記載の方法。
【請求項22】
命令を含むコンピュータプログラム製品であって、前記命令は、前記プログラムが請求項１に記載のシステムのコントローラによって実行されるときに、前記コントローラシステムに請求項１６に記載の方法を行わせる、コンピュータプログラム製品。
【請求項23】
請求項２２に記載のコンピュータプログラム製品を記憶したコンピュータ可読媒体。
【請求項24】
請求項２２に記載のコンピュータプログラム製品を搬送するデータキャリア信号。
【発明の詳細な説明】
【技術分野】
【0001】
（関連出願の相互参照）
本出願は、２０２１年９月２９日に出願された「Ｓｕｒｇｉｃａｌ Ｄｅｖｉｃｅｓ，Ｓｙｓｔｅｍｓ，Ａｎｄ Ｍｅｔｈｏｄｓ Ｕｓｉｎｇ Ｆｉｄｕｃｉａｌ Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ Ａｎｄ Ｔｒａｃｋｉｎｇ」と題する米国特許仮出願第６３／２４９，６５２号に対する優先権を主張し、同文献は、その全体が参照により本明細書に組み込まれる。
本出願は、２０２１年９月２９日に出願された「Ｓｕｒｇｉｃａｌ Ｄｅｖｉｃｅｓ，Ｓｙｓｔｅｍｓ，Ａｎｄ Ｍｅｔｈｏｄｓ Ｕｓｉｎｇ Ｆｉｄｕｃｉａｌ Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ Ａｎｄ Ｔｒａｃｋｉｎｇ」と題する米国特許仮出願第６３／２４９，６５２号に対する優先権を主張し、同文献は、その全体が参照により本明細書に組み込まれる。
【0002】
（発明の分野）
本開示は、概して基準特定及び追跡を使用する手術デバイス、システム、及び方法に関する。
本開示は、概して基準特定及び追跡を使用する手術デバイス、システム、及び方法に関する。
【背景技術】
【0003】
手術システムは、多くの場合、撮像システムを組み込み、撮像システムは、医師が、１つ又は２つ以上のディスプレイ、例えば、モニタ、コンピュータタブレットスクリーンなど上で手術部位及び／又は手術部位の１つ又は２つ以上の部分を見ることを可能にすることができる。ディスプレイは、手術室に対してローカル及び／又は遠隔である場合がある。撮像システムは、手術部位を見て、医師が見ることができる１つ又は２つ以上のディスプレイにビューを送信する、カメラを備えたスコープを含むことができる。
【0004】
撮像システムは、撮像システムが認識することができ、かつ／又は医師に伝達することができる情報によって制限される場合がある。例えば、三次元空間内の特定の隠れた構造、物理的輪郭、及び／又は寸法は、特定の撮像システムでは手術中に認識できないことがある。別の実施例では、特定の撮像システムが、手術中に特定の情報を医師に通信すること、及び／又は伝達することできないことがある。
【発明の概要】
【発明が解決しようとする課題】
【0005】
したがって、改善された手術撮像が依然として必要とされている。
【課題を解決するための手段】
【0006】
概して、基準特定及び追跡のためのデバイス、システム、及び方法が提供される。
【0007】
一態様では、一実施形態において、手術処置を行っている間に患者の身体内に前進させられるように構成された遠位部分を有する手術デバイスと、手術デバイスの遠位部分の外部上の基準マーカと、を含む、手術システムが提供される。基準マーカは、手術デバイスに関連付けられた情報を記憶する。システムはまた、患者の身体内の基準マーカを可視化する画像を収集するように構成された撮像デバイスと、手術処置を行うのとリアルタイムで画像を分析し、手術デバイスに関連付けられた情報を検出するように構成されたコントローラと、を含む。
【0008】
手術システムは、多くの方法において異なり得る。例えば、記憶された情報は、手術デバイスに固有とすることができ、手術デバイスのモデル番号及び手術デバイスのシリアル番号のうちの少なくとも１つを含むことができる。別の実施例では、記憶された情報は、手術デバイスを含む可視化システムに固有とすることができる。更に別の実施例では、記憶された情報は、手術デバイスが真正であると認証されていることを示す認証署名を含むことができ、コントローラは、検出された情報を分析し、それによって、手術デバイスが真正であると認証されていると判定するように構成することができる。
【0009】
更に別の実施例では、記憶された情報は、静的ではない場合があり、手術処置を行っている間に手術デバイスの第２のコントローラによって変更されるように構成することができる。第２のコントローラは、手術デバイス及び／又は手術デバイスの構成要素の現在の状態に基づいて、記憶された情報を変更するように構成することができる。第２のコントローラは、磁気パラメータ変更、電磁パラメータ変更、又は電気パラメータ変更のうちの少なくとも１つを介して、記憶された情報を変更するように構成することができる。
【0010】
更に別の実施例では、記憶された情報は、静的とすることができ、変更することができない場合がある。別の実施例では、基準マーカは、手術デバイスの固定部分に取り付けられることができる。更に別の実施例では、基準マーカは、手術デバイスの可動部分に取り付けられることができ、コントローラは、検出された情報を分析し、それによって、手術デバイスの可動部分の状態を判定するように構成することができる。別の実施例では、基準マーカは受動的とすることができ、バーコード及びＱＲコードのうちの少なくとも１つを含む場合がある。更に別の実施例では、基準マーカは、能動的とすることができ、撮像デバイスによって検出されるように構成されたエネルギーを放出するように構成される場合があり、コントローラは、手術処置を行うのとリアルタイムで、撮像デバイスによって検出されたエネルギーを分析し、それによって、標的に対する手術デバイスの位置を判定するように構成することができる。別の実施例では、手術デバイスは、手術解剖器具、手術ステープラ、手術把持器、クリップアプライヤ、煙排出器、及び手術エネルギーデバイスのうちの１つを含むことができる。更に別の実施例では、手術ハブは、コントローラを含み得る。更に別の実施例では、ロボット手術システムは、コントローラを含むことができ、手術デバイス及び撮像デバイスは、各々、ロボット手術システムに解放可能に結合され、ロボット手術システムによって制御されるように構成することができる。
【0011】
別の実施例では、手術方法は、手術処置を行っている間に手術デバイスを患者の身体内に前進させることを含むことができ、手術デバイスは、ロボット手術システムに解放可能に結合されることができ、方法はまた、手術処置を行っている間に撮像デバイスを患者の身体内に前進させることを含むことができ、撮像デバイスは、ロボット手術システムに解放可能に結合されることができ、方法はまた、手術処置を行っている間に撮像デバイスを使用して、基準マーカの画像を収集することを含むことができ、方法はまた、コントローラを使用して、手術処置を行っている間に、画像を分析して手術デバイスに関連付けられた情報を検出することを含むことができる。記憶された情報は、手術デバイスが真正であると認証されていることを示す認証署名を含むことができ、分析することは、認証署名に基づいて、手術デバイスが真正であると認証されていると判定することを含み得る。本方法はまた、コントローラを用いて、手術処置を行っている間に手術デバイスによって行われるアクションに基づいて、記憶された情報を変更することを含み得る。基準マーカは、エネルギーを放出することができ、方法は、コントローラを使用して、手術処置を行っている間に、放出されたエネルギーを分析し、それによって、標的に対する手術デバイスの位置を判定することを更に含み得る。ロボット手術システムはコントローラを含み得るか、又は手術ハブはコントローラを含み得る。
【図面の簡単な説明】
【0012】
本発明について、添付の図面を参照して説明する。
【図1】手術可視化システムの一実施形態の概略図である。
【図3】手術可視化システムの別の実施形態の概略図である。
【図4】手術可視化システムのための制御システムの一実施形態の概略図である。
【図5】手術可視化システムのための制御システムの制御回路の一実施形態の概略図である。
【図6】手術可視化システムの組み合わせロジック回路の一実施形態の概略図である。
【図7】手術可視化システムの順序ロジック回路の一実施形態の概略図である。
【図8】手術可視化システムの更に別の実施形態の斜視図である。
【図9】手術可視化システムのための制御システムの別の実施形態の概略図である。
【図10】様々な生物学的材料についての波長対吸収係数を示すグラフである。
【図11】手術部位を可視化するスペクトルエミッタの一実施形態の概略図である。
【図12】尿管を閉塞物から区別するための例示のハイパースペクトル特定シグネチャを描写するグラフである。
【図13】動脈を閉塞物から区別するための例示のハイパースペクトル特定シグネチャを描写するグラフである。
【図14】神経を閉塞物から区別するための例示のハイパースペクトル特定シグネチャを描写するグラフである。
【図15】術中に利用されている近赤外（near infrared、ＮＩＲ）飛行時間測定システムの一実施形態の概略図である。
【図17】術中に利用されている近赤外（ＮＩＲ）飛行時間測定システムの別の実施形態の概略図である。
【図18】コンピュータ実装双方向手術システムの一実施形態の概略図である。
【図19】手術室内で手術処置を行うために使用されている手術システムの一実施形態の概略図である。
【図20】スマート手術器具と、手術ハブと、を含む手術システムの一実施形態の概略図である。
【図22】結腸の主要な切除を例解する結腸の概略図である。
【図22A】十二指腸粘膜表面再建処置の一実施形態の斜視部分断面図である。
【図23】基準マーカを含む手術器具の一実施形態の遠位部分の斜視図である。
【図24】基準マーカの可視光部分を示す基準マーカの一実施形態の斜視図である。
【発明を実施するための形態】
【0013】
本明細書に開示されるデバイス、システム、及び方法の構造、機能、製造、及び使用の原理が総括的に理解されるように、特定の例示的な実施形態について、これから説明する。これらの実施形態の１つ又は２つ以上の実施例が、添付の図面に例解されている。当業者であれば、本明細書で詳細に説明し、添付の図面に示されるデバイス、システム、及び方法は、非限定的な例示的な実施形態であり、本発明の範囲は、特許請求の範囲のみによって定義されることが理解されるであろう。例示的な一実施形態に関連して例解又は説明される特徴は、他の実施形態の特徴と組み合わせることができる。このような改変及び変形は、本発明の範囲内に含まれるものとする。
【0014】
更に、本開示においては、実施形態の同様の名称の構成要素は概して同様の特徴を有するものであり、したがって、特定の実施形態において、同様の名称の各構成要素の各特徴については必ずしも完全に詳しく述べることはしない。追加的に、開示されるシステム、デバイス、及び方法の説明で直線寸法又は円寸法が使用される限りにおいて、そのような寸法は、そのようなシステム、デバイス、及び方法と組み合わせて使用することができる形状の種類を限定しようとするものではない。当業者には、そのような直線寸法及び円寸法に相当する寸法を、任意の幾何学的形状について容易に判定することができる点が認識されるであろう。当業者は、寸法が正確な値ではなくても、製作公差及び測定機器の感度などの多くの要因により、その値に近い値であると考えられることを理解するであろう。システム及びデバイスのサイズ及び形状、並びにその構成要素は、少なくとも、システム及びデバイスがそれとともに使用される構成要素のサイズ及び形状に依存し得る。
【0015】
手術可視化
一般に、手術可視化システムは、「デジタル手術」を活用して、患者の解剖学的構造及び／又は手術処置に関する追加情報を取得するように構成されている。手術可視化プラットフォームは、有用な様式で１人又は２人以上の医師にデータを伝達するように更に構成されている。本開示の様々な態様は、患者の解剖学的構造及び／若しくは手術処置の改善された可視化を提供し、並びに／又は手術ツール（本明細書では「手術デバイス」又は「手術器具」とも呼ばれる）の改善された制御を提供するために可視化を使用する。
一般に、手術可視化システムは、「デジタル手術」を活用して、患者の解剖学的構造及び／又は手術処置に関する追加情報を取得するように構成されている。手術可視化プラットフォームは、有用な様式で１人又は２人以上の医師にデータを伝達するように更に構成されている。本開示の様々な態様は、患者の解剖学的構造及び／若しくは手術処置の改善された可視化を提供し、並びに／又は手術ツール（本明細書では「手術デバイス」又は「手術器具」とも呼ばれる）の改善された制御を提供するために可視化を使用する。
【0016】
「デジタル手術」は、ロボットシステム、先進撮像、先進器具、人工知能、機械学習、性能追跡及びベンチマーキングのためのデータ分析、手術室（operating room、ＯＲ）の内外両方での接続性などを包含し得る。本明細書に記載される様々な手術可視化システムは、ロボット手術システムと組み合わせて使用することができるが、手術可視化プラットフォームは、ロボット手術システムとともに使用することに限定されない。特定の例では、ロボットなしで、かつ／又はロボット支援が制限されている、かつ／若しくは任意である状態で、手術可視化を発生させることができる。同様に、ロボットなしで、かつ／又はロボット支援が制限されている、かつ／若しくは任意である状態で、デジタル手術を発生させることができる。
【0017】
特定の例では、手術可視化システムを組み込む手術システムは、重要構造を特定し、それらを回避するためのスマート切開を可能にし得る。重要構造としては、解剖学的構造、例えば他の解剖学的構造の中でもとりわけ、尿管、上腸間膜動脈などの動脈、門脈などの静脈、横隔神経などの神経、及び／又は腫瘍が挙げられる。他の例では、重要構造は、解剖学的領域における外来構造、例えば、手術デバイス、手術締結具、クリップ、留め金、ブジー、バンド、プレート、及び遺物構造などとすることができる。重要構造は、患者ごと及び／又は処置ごとに判定される場合がある。スマート切開術は、例えば、切開のために改善された術中ガイダンスを提供し得、かつ／又は重要な解剖学的構造の検出及び回避技術によってよりスマートな判断を可能にし得る。
【0018】
手術可視化システムを組み込んだ手術システムは、改善されたワークフローによって最適な位置においてより一貫した吻合を提供するスマート吻合術を可能にし得る。がん局在化技術は、手術可視化プラットフォームを用いて改善され得る。例えば、がん局在化法は、がんの位置、向き、及びそのマージンを特定し、追跡することができる。特定の例では、がん局在化法は、手術処置中に手術器具、患者、及び／又は患者の解剖学的構造の動きを補償し、医師を関心のある点に戻す誘導を提供し得る。
【0019】
手術可視化システムは、改善された組織特徴付け、並びに／又はリンパ節診断及びマッピングを提供し得る。例えば、組織特徴付け技術は、特に切開時、及び／又は組織内のステープリングデバイスの配置時に、物理的触覚を必要とせずに組織の種類及び健康状態を特徴付けることができる。特定の組織特徴付け技術は、電離放射線及び／又は造影剤を使用せずに利用し得る。リンパ節診断及びマッピングに関して、手術可視化プラットフォームは、例えば、がん診断及びステージ診断に関与するリンパ系及び／又はリンパ節を手術前に位置特定し、マッピングし、理想的には、診断することができる。
【0020】
手術処置中、「肉眼」及び／又は撮像システムを介して医師が利用可能な情報は、不完全な手術部位のビューを提供する場合がある。例えば、臓器内に埋め込まれた又は埋もれた構造などの特定の構造は、ビューから少なくとも部分的に隠され、つまり見えない場合がある。追加的に、特定の寸法及び／又は相対距離は、既存のセンサシステムでの確認することが難しく、かつ／又は「肉眼」では把握が難しい場合がある。更に、特定の構造は、術前（例えば、手術処置前であるが術前のスキャン後）、及び／又は術中に動く場合がある。そのような例では、医師は、術中に重要構造の位置を正確に判定することができない場合がある。
【0021】
重要構造の配置が不確定である場合、及び／又は重要構造と手術ツールとの間の近接度が不明である場合、医師の意思決定プロセスが阻害される可能性がある。例えば、医師は、重要構造の不注意による切開を回避するために、特定の領域を回避し得る。しかしながら、回避された領域は、不必要に大きく、かつ／又は少なくとも部分的に場所を誤っている可能性がある。不確実性、及び／又は過度／過剰な用心に起因して、医師は特定の所望の領域に到達できない場合がある。例えば、重要構造がその特定領域にない場合、及び／又はその特定領域での医師の行為によって悪影響がない場合であっても、用心のし過ぎにより、医師が、重要構造を回避しようと努力して、腫瘍及び／又は他の望ましくない組織の一部分を残してしまう場合がある。特定の例では、手術成績は知識及び／又は確実性が高まるとともに向上される場合があり、これにより、外科医にとって、より正確で、特定の例では、特定の解剖学的領域に対してより抑えて／より積極的になることが可能になる。
【0022】
手術可視化システムは、術中の特定及び重要構造の回避を可能にすることができる。したがって、手術可視化システムは、術中意思決定の強化及び手術転帰の改善を可能にし得る。手術可視化システムは、医師が「肉眼」で見るものを越えた、かつ／又は撮像システムが認識し、かつ／若しくは医師に伝達できるものを超えた、高度な可視化能力を提供することができる。手術可視化システムは、医師が組織治療（例えば、切開）の前に知ることができることを補強かつ強化できることによって、様々な例における転帰を改善し得る。結果として、手術可視化システムが、例えば、切開中にアプローチされ得る重要構造を追跡していることを認識しながら、医師は、手術処置を通して勢いを確実に維持することができる。手術可視化システムは、医師が手術処置を休止し、及び／又は減速させ、重要構造に対する不注意による損傷を防止するためにその構造までの近接度を評価するのに十分な時間内で、医師に対して指示を提供することができる。手術可視化システムは、理想的で、最適化された、かつ／又はカスタマイズ可能な量の情報を医師に提供して、健康組織及び／又は重要構造への不注意による損傷を回避しつつ、医師が組織全体を確実、及び／又は迅速に動くことを可能にし、これによって、手術処置から生じる損傷のリスクを最小限に抑えることができる。
【0023】
手術可視化システムは、以下に詳細に説明される。一般に、手術可視化システムは、複数のスペクトル波を放射するように構成された第１の光エミッタと、光パターンを放射するように構成された第２の光エミッタと、可視光、スペクトル波に対する分子応答（分光撮像）、及び／又は光パターンを検出するように構成された受信器、若しくはセンサと、を含むことができる。手術可視化システムはまた、撮像システムと、受信器及び撮像システムとを信号通信する制御回路と、を含むことができる。受信器からの出力に基づいて、制御回路は、手術部位における可視表面の幾何学的表面マップ、例えば、三次元表面トポグラフィ、及び少なくとも部分的に隠れた構造までの距離などの手術部位に対する距離を判定することができる。撮像システムは、幾何学的表面マップ及び距離を医師に伝達することができる。そのような例では、医師に提供される手術部位の拡張ビューは、手術部位に関連するコンテキスト内で隠れた構造の表示を提供することができる。例えば、撮像システムは、表面の下方のユーティリティ配管を示すために地面に引かれた線と同様に、隠しており、かつ／又は遮断している組織の幾何学的表面マップ上に隠れた構造を仮想的に強化することができる。追加的又は代替的に、撮像システムは、可視の遮断している組織まで、かつ／若しくは少なくとも部分的に隠れた構造までの、手術ツールの近接度、及び／又は遮蔽している組織の可視表面の下方に隠された構造の深さを伝達することができる。例えば、可視化システムは、可視組織の表面上の拡張された線に対する距離を判定し、その距離を撮像システムに伝達することができる。
【0024】
本開示を通じて、特に可視光に言及しない限り、「光」への言及は全て、電磁放射線（electromagnetic radiation、ＥＭＲ）波長スペクトルの可視部分及び／又は非可視部分におけるＥＭＲ又は光子を含むことができる。可視スペクトルは、場合によっては、光スペクトル又は発光スペクトルとも称され、人間の目に見える（例えば、人間の目によって検出することができる）電磁スペクトルの一部分であり、可視光、又は単に光と称されることがある。典型的な人間の目は、空気中の約３８０ｎｍ～約７５０ｎｍの波長に応答する。不可視スペクトル（例えば、非発光スペクトル）は、可視スペクトルの下及び上にある電磁スペクトルの部分である。不可視スペクトルは、人間の目で検出可能ではない。約７５０ｎｍを超える波長は、赤色可視スペクトルよりも長く、これらは不可視赤外（infrared、ＩＲ）、マイクロ波及び無線電磁放射線になる。約３８０ｎｍ未満の波長は、紫色スペクトルよりも短く、これらは不可視紫外線、ｘ線及びガンマ線電磁放射線になる。
【0025】
図１は、手術可視化システム１００の一実施形態を例解する。手術可視化システム１００は、解剖学的領域内の重要構造１０１の視覚的表示を作成するように構成されている。重要構造１０１は、単一の重要構造又は複数の重要構造を含むことができる。本明細書で論じるように、重要構造１０１は、解剖学的構造、例えば、尿管、上腸間膜動脈などの動脈、門脈などの静脈、横隔神経などの神経、血管、腫瘍、若しくは他の解剖学的構造、又は外来構造、例えば、手術デバイス、手術締結具、手術クリップ、手術留め金、ブジー、手術バンド、手術プレート、若しくは他の外来構造などの様々な構造のうちのいずれかとすることができる。本明細書で論じるように、重要構造１０１は、患者ごと及び／又は処置ごとに特定することができる。重要構造の実施形態及び可視化システムを使用して重要構造を特定する実施形態は、２０２０年１０月６日に発行された「Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｏｆ Ｓｕｒｇｉｃａｌ Ｄｅｖｉｃｅｓ」と題する米国特許第１０，７９２，０３４号に更に説明されており、その全体が参照により本明細書に組み込まれる。
【0026】
いくつかの例では、重要構造１０１は、組織１０３に埋め込まれ得る。組織１０３は、脂肪、結合組織、癒着、及び／又は臓器などの様々な組織のうちのいずれかとすることができる。換言すれば、重要構造１０１は、組織１０３の表面１０５の下方に位置付けられ得る。そのような例では、組織１０３は、医師の「肉眼」のビューから重要構造１０１を隠している。組織１０３はまた、手術可視化システム１００の撮像デバイス１２０のビューから重要構造１０１を覆い隠す。重要構造１０１は、完全に覆い隠される代わりに、医師及び／又は撮像デバイス１２０のビューから部分的に覆い隠されることができる。
【0027】
手術可視化システム１００は、臨床分析及び／又は医学的介入で使用することができる。特定の例では、手術可視化システム１００を術中に使用して、近接度データ、寸法、及び／又は距離に関するリアルタイム情報などのリアルタイム情報を、手術処置中に医師に提供することができる。当業者であれば、情報は正確にリアルタイムでないが、それでもなお、データ送信によって引き起こされる時間遅延、データ処理によって引き起こされる時間遅延、及び／又は測定機器の感度などの様々な理由のうちのいずれかにより、リアルタイムであるとみなされることがあると認識するだろう。手術可視化システム１００は、重要構造の術中特定のために、かつ／又は手術デバイスによる重要構造１０１の回避を容易にするように構成されている。例えば、重要構造１０１を特定することによって、医師は、手術処置中に、重要構造１０１及び／又は重要構造１０１の既定の近接度の領域の周囲で手術デバイスを操作することを回避できる。別の実施例では、重要構造１０１を特定することによって、医師は、重要構造１０１及び／又はその近くの切開を回避することができ、それによって、重要構造１０１への損傷を防止するのに役立ち、かつ／又は医師によって使用されている手術デバイスが重要構造１０１によって損傷されるのを防止するのに役立つ。
【0028】
手術可視化システム１００は、手術可視化システムの距離センサシステム１０４と組み合わせた組織特定及び幾何学的表面マッピングを組み込むように構成されている。組み合わせると、手術可視化システム１００のこれらの特徴は、解剖学的領域内の重要構造１０１の配置、並びに／又は可視組織１０３の表面１０５及び／若しくは重要構造１０１への手術デバイス１０２の近接度を判定することができる。更に、手術可視化システム１００は、例えば、手術部位のリアルタイムのビューを提供するように構成された撮像デバイス１２０を含む撮像システムを含む。撮像デバイス１２０は、例えば、反射されたスペクトル波形を検出し、かつ様々な波長に対する分子応答に基づいて、画像のスペクトルキューブを生成するように構成されているスペクトルカメラ（例えば、ハイパースペクトルカメラ、マルチスペクトルカメラ、又は選択的スペクトルカメラ）を含むことができる。撮像デバイス１２０からのビューは、ディスプレイ（例えば、モニタ、コンピュータタブレットスクリーンなど）上などで、医師にリアルタイムで提供され得る。表示されたビューは、組織特定、ランドスケープマッピング、及び距離センサシステム１０４に基づく追加情報で拡張することができる。そのような例では、手術可視化システム１００は、複数のサブシステム、つまり、撮像サブシステム、表面マッピングサブシステム、組織特定サブシステム、及び／又は距離判定サブシステムを含む。これらのサブシステムは協働して、高度なデータ合成及び統合された情報を手術中に医師に対して提供することができる。
【0029】
撮像デバイス１２０は、可視光、スペクトル光波（可視又は不可視）、及び構造化光パターン（可視又は不可視）を検出するように構成することができる。撮像デバイス１２０の実施例は、スコープ、例えば、内視鏡、関節鏡、血管内視鏡、気管支鏡、総胆管鏡（choledochoscope）、結腸鏡（colonoscope）、サイトスコープ（cytoscope）、十二指腸鏡、小腸内視鏡、食道胃－十二指腸鏡（胃鏡）、喉頭鏡、鼻咽頭－鼻腔鏡、Ｓ状結腸鏡、胸腔鏡、尿管鏡、又は外視鏡を含む。スコープは、低侵襲手術処置において特に有用とすることができる。開腹手術用途では、撮像デバイス１２０は、スコープを含まなくてもよい。
【0030】
組織特定サブシステムは、スペクトル撮像システムを用いて達成することができる。スペクトル撮像システムは、ハイパースペクトル撮像、マルチスペクトル撮像、又は選択的スペクトル撮像などの撮像に依存することができる。組織のハイパースペクトル撮像の実施形態は、２０１６年３月１日に発行された、「Ｓｙｓｔｅｍ Ａｎｄ Ｍｅｔｈｏｄ Ｆｏｒ Ｇｒｏｓｓ Ａｎａｔｏｍｉｃ Ｐａｔｈｏｌｏｇｙ Ｕｓｉｎｇ Ｈｙｐｅｒｓｐｅｃｔｒａｌ Ｉｍａｇｉｎｇ」と題する米国特許第９，２７４，０４７号に更に説明されており、その全体が参照により本明細書に組み込まれる。
【0031】
表面マッピングサブシステムは、光パターンシステムを用いて達成することができる。表面マッピングのために光パターン（又は構造化光）を使用する様々な表面マッピング技法が、本明細書に説明される手術可視化システムにおいて利用することができる。構造化光は、表面上に既知のパターン（多くの場合、グリッド又は水平バー）を投影するプロセスである。特定の例では、見えない（つまり、検知不能な）構造化光を利用することができ、構造化光は、投影されたパターンが混乱し得る他のコンピュータビジョンタスクと干することなく利用される。例えば、２つの正確に反対のパターンを繰り返す赤外光又は非常に速いフレームレートの可視光を利用して干渉を防止することができる。表面マッピング、並びに光源及び光パターンを投影するためのプロジェクタを含む手術システムの実施形態は、２０１７年３月２日に公開された「Ｓｅｔ Ｃｏｍｐｒｉｓｉｎｇ Ａ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ」と題する米国特許出願公開第２０１７／００５５８１９号、２０１７年９月７日に公開された「Ｄｅｐｉｃｔｉｏｎ Ｓｙｓｔｅｍ」と題する米国特許出願公開第２０１７／０２５１９００号、及び２０２１年７月１日に公開された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｇｅｎｅｒａｔｉｎｇ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔｓ Ｏｆ Ａｎａｔｏｍｉｃａｌ Ｏｒｇａｎｓ Ａｎｄ Ｃｏｕｐｌｉｎｇ Ｉｄｅｎｔｉｆｉｅｄ Ａｎａｔｏｍｉｃａｌ Ｓｔｒｕｃｔｕｒｅｓ Ｔｈｅｒｅｔｏ」と題する米国特許出願公開第２０２１／０１９６３８５号に更に説明されており、参照によりその全体が本明細書に組み込まれる。
【0032】
距離判定システムは、表面マッピングシステムに組み込むことができる。例えば、構造化光を利用して、可視表面１０５の三次元（３Ｄ）仮想モデルを生成し、可視表面１０５に対する様々な距離を判定することができる。追加的又は代替的に、距離判定システムは、飛行時間測定に依存して、手術部位で特定された組織（又は他の構造）までの１つ又は２つ以上の距離を判定することができる。
【0033】
手術可視化システム１００はまた、手術デバイス１０２を含む。手術デバイス１０２は、任意の好適な手術デバイスとすることができる。手術デバイス１０２の実施例は、手術解剖器具、手術ステープラ、手術把持器、クリップアプライヤ、煙排出器、手術エネルギーデバイス（例えば、単極プローブ、双極プローブ、アブレーションプローブ、超音波デバイス、超音波エンドエフェクタなど）などを含む。いくつかの実施形態では、手術デバイス１０２は、手術デバイス１０２のシャフトの遠位端から延在し、組織を間に係合するように構成されている対向するジョーを有するエンドエフェクタを含む。手術可視化システム１００は、重要構造１０１と、重要構造１０１に対する手術デバイス１０２の近接度と、を特定するように構成することができる。手術可視化システム１００の撮像デバイス１２０は、例えば、可視光、スペクトル光波（可視又は不可視）、及び構造化光パターン（可視又は不可視）などの様々な波長の光を検出するように構成されている。撮像デバイス１２０は、異なる信号を検出するための複数のレンズ、センサ、及び／又は受信器を含むことができる。例えば、撮像デバイス１２０は、本明細書で更に説明されるように、ハイパースペクトルカメラ、マルチスペクトルカメラ、又は選択的スペクトルカメラとすることができる。撮像デバイス１２０はまた、波形センサ１２２（例えば、スペクトル画像センサ、検出器、及び／又は三次元カメラレンズ）も含むことができる。例えば、撮像デバイス１２０は、２つの二次元画像を同時に記録することによって、手術部位の３Ｄ画像を生成し、手術部位の三次元画像をレンダリングし、かつ／又は手術部位における１つ又は２つ以上の距離を判定するために一緒に使用される右側レンズ及び左側レンズを含むことができる。追加的又は代替的に、撮像デバイス１２０は、本明細書で更に説明されるように、可視組織のトポグラフィ、並びに隠れた重要構造の特定及び配置を示す画像を受信するように構成することができる。例えば、図１に示されるように、撮像デバイス１２０のビューを、組織１０３の表面１０５上の光パターン（構造化光）と重ねることができる。
【0034】
この例解された実施形態におけるように、手術可視化システム１００は、ロボットシステム１１０に組み込むことができる。ロボット手術システム１１０は、本明細書で論じられるように、様々な構成を有することができる。この例解された実施形態では、ロボット手術システム１１０は、第１のロボットアーム１１２と第２のロボットアーム１１４と、を含む。ロボットアーム１１２、１１４は、各々、サーボモータ制御を含むことができる剛性構造部材１１６及び継手１１８を含む。第１のロボットアーム１１２は、手術デバイス１０２を操作するように構成されており、第２のロボットアーム１１４は、撮像デバイス１２０を操作するように構成されている。ロボット手術システム１１０のロボット制御ユニットは、それぞれ手術デバイス１０２及び撮像デバイス１２０に作用することができる第１のロボットアーム１１２及び第２のロボットアーム１１４への制御運動を発するように構成されている。
【0035】
いくつかの実施形態では、ロボットアーム１１２、１１４のうちの１つ又は２つ以上は、手術処置で使用される主ロボットシステム１１０とは別個とすることができる。例えば、ロボットアーム１１２、１１４のうちの少なくとも１つは、サーボモータ制御なしに特定の座標系に位置付けられ、かつ位置合わせすることができる。例えば、ロボットアーム１１２、１１４に対する閉ループ制御システム及び／又は複数のセンサは、特定の座標系に対するロボットアーム１１２、１１４の配置を制御し、かつ／又は位置合わせすることができる。同様に、手術デバイス１０２及び撮像デバイス１２０の配置は、特定の座標系に対して位置合わせすることができる。
【0036】
ロボット手術システムの実施例は、Ｏｔｔａｖａ（商標）のロボット支援手術システム（Ｎｅｗ Ｂｒｕｎｓｗｉｃｋ，ＮＪのＪｏｈｎｓｏｎ＆Ｊｏｈｎｓｏｎ）、ｄａ Ｖｉｎｃｉ（登録商標）の手術システム（Ｓｕｎｎｙｖａｌｅ，ＣＡのＩｎｔｕｉｔｉｖｅ Ｓｕｒｇｉｃａｌ，Ｉｎｃ．）、Ｈｕｇｏ（商標）のロボット支援手術システム（Ｍｉｎｎｅａｐｏｌｉｓ，ＭＮのＭｅｄｔｒｏｎｉｃ ＰＬＣ）、Ｖｅｒｓｉｕｓ（登録商標）の手術ロボットシステム（Ｃａｍｂｒｉｄｇｅ，ＵＫのＣＭＲ Ｓｕｒｇｉｃａｌ Ｌｔｄ）、及びＭｏｎａｒｃｈ（登録商標）のプラットフォーム（Ｒｅｄｗｏｏｄ Ｃｉｔｙ，ＣＡのＡｕｒｉｓ Ｈｅａｌｔｈ，Ｉｎｃ．）を含む。様々なロボット手術処置システム及びロボット手術処置システムを使用する実施形態は、２０１６年１２月２８日に出願された「Ｆｌｅｘｉｂｌｅ Ｉｎｓｔｒｕｍｅｎｔ Ｉｎｓｅｒｔｉｏｎ Ｕｓｉｎｇ Ａｎ Ａｄａｐｔｉｖｅ Ｆｏｒｃｅ Ｔｈｒｅｓｈｏｌｄ」と題する米国特許出願公開第２０１８／０１７７５５６号、２０１９年４月１６日に出願された「Ｓｙｓｔｅｍｓ Ａｎｄ Ｔｅｃｈｎｉｑｕｅｓ Ｆｏｒ Ｐｒｏｖｉｄｉｎｇ Ｍｕｌｔｉｐｌｅ Ｐｅｒｓｐｅｃｔｉｖｅｓ Ｄｕｒｉｎｇ Ｍｅｄｉｃａｌ Ｐｒｏｃｅｄｕｒｅｓ」と題する米国特許出願公開第２０２０／００００５３０号、２０２０年２月７日に出願された「Ｉｍａｇｅ－Ｂａｓｅｄ Ｂｒａｎｃｈ Ｄｅｔｅｃｔｉｏｎ Ａｎｄ Ｍａｐｐｉｎｇ Ｆｏｒ Ｎａｖｉｇａｔｉｏｎ」と題する米国特許出願公開第２０２０／０１７０７２０号、２０１９年１２月９日に出願された「Ｓｕｒｇｉｃａｌ Ｒｏｂｏｔｉｃｓ Ｓｙｓｔｅｍ」と題する米国特許出願公開第２０２０／０１８８０４３号、２０１９年９月３日に出願された「Ｓｙｓｔｅｍｓ Ａｎｄ Ｍｅｔｈｏｄｓ Ｆｏｒ Ｃｏｎｃｏｍｉｔａｎｔ Ｍｅｄｉｃａｌ Ｐｒｏｃｅｄｕｒｅｓ」と題する米国特許出願公開第２０２０／００８５５１６号、２０１３年７月１５日に出願された「Ｐａｔｉｅｎｔ－Ｓｉｄｅ Ｓｕｒｇｅｏｎ Ｉｎｔｅｒｆａｃｅ Ｆｏｒ Ａ Ｔｅｌｅｏｐｅｒａｔｅｄ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ」と題する米国特許第８，８３１，７８２号、及び２０１４年３月１３日に出願された「Ｈｙｐｅｒｄｅｘｔｅｒｏｕｓ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する国際公開第２０１４１５１６２１号に更に説明されており、その全体が参照により本明細書に組み込まれる。
【0037】
手術可視化システム１００はまた、エミッタ１０６を含む。エミッタ１０６は、表面１０５のトポグラフィ又はランドスケープの判定を可能にするために、縞、グリッド線、及び／又はドットなどの光パターンを放射するように構成されている。例えば、投影された光アレイ１３０は、表面１０５上の三次元スキャン及び位置合わせのために使用することができる。投影された光アレイ１３０は、手術デバイス１０２、及び／又はロボットアーム１１２、１１４のうちの１つ、及び／又は撮像デバイス１２０上に位置するエミッタ１０６から放射することができる。一態様では、投影された光アレイ１３０は、手術可視化システム１００が組織１０３の表面１０５及び／又は表面１０５の運動により手術中に画定される形状を判定するために採用される。撮像デバイス１２０は、表面１０５から反射された投影された光アレイ１３０を検出して、表面１０５のトポグラフィ、及び表面１０５に対する様々な距離を判定するように構成されている。
【0038】
この例解された実施形態におけるように、撮像デバイス１２０は、撮像デバイス１２０上に装着されるか、又は別様に取り付けられることなどによって、光波形エミッタ１２３を含むことができる。光波形エミッタ１２３は、組織１０３の表面１０５を透過して重要構造１０１に到達することができる電磁放射線１２４（近赤外（ＮＩＲ）光子）を放射するように構成されている。撮像デバイス１２０、及び光波形エミッタ１２３は、ロボットアーム１１４によって位置付け可能とすることができる。光波形エミッタ１２３は、撮像デバイス１２０上、又は別様に装着されるが、他の実施形態では、撮像デバイス１２０とは別個の手術デバイス上に位置付けることができる。撮像デバイス１２０上の対応する波形センサ１２２（例えば、画像センサ、分光計、又は振動センサ）は、波形センサ１２２によって受信された電磁放射線の影響を検出するように構成されている。光波形エミッタ１２３から放射される電磁放射線１２４の波長は、重要構造１０１などの解剖学的構造及び／又は身体構造の種類の特定を可能にするように構成することができる。重要構造１０１の特定は、例えば、スペクトル分析、光音響、及び／又は超音波によって達成することができる。一態様では、電磁放射線１２４の波長は可変とすることができる。波形センサ１２２及び光波形エミッタ１２３は、例えば、マルチスペクトル撮像システム及び／又は選択的スペクトル撮像システムを含み得る。他の実施例では、波形センサ１２２及び光波形エミッタ１２３は、例えば、光音響撮像システムを含むことができる。
【0039】
手術可視化システム１００の距離センサシステム１０４は、手術部位における１つ又は２つ以上の距離を判定するように構成されている。距離センサシステム１０４は、この例解された実施形態におけるようなエミッタ１０６などのエミッタを含み、受信器１０８を含む、飛行時間型距離センサシステムとすることができる。他の例では、飛行時間エミッタは構造化光エミッタとは別個であり得る。エミッタ１０６は、非常に小さなレーザ源を含むことができ、受信器１０８は、マッチングセンサを含むことができる。距離センサシステム１０４は、「飛行時間」、又はエミッタ１０６によって放射されたレーザ光が受信器１０８のセンサ部分に跳ね返るまでにかかる時間を検出するように構成されている。エミッタ１０６中で非常に狭い光源を使用することにより、距離センサシステム１０４が、距離センサシステム１０４の直ぐ前にある組織１０３の表面１０５までの距離を判定することを可能にする。
【0040】
距離センサシステム１０４の受信器１０８は、この例解された実施形態では手術デバイス１０２上に位置付けられるが、他の実施形態では、受信器１０８は、手術デバイス１０２の代わりに別個の手術デバイス上に装着することができる。例えば、受信器１０８は、手術デバイス１０２が手術部位に到達するようにそこを通って延在するカニューレ又はトロカール上に装着することができる。更に他の実施形態では、距離センサシステム１０４のための受信器１０８は、手術デバイス１０２が結合された第１のロボットアーム１１２とは別個のロボットシステム１１０のロボット制御アーム上に（例えば、第２のロボットアーム１１４上に）装着することができるか、別のロボットによって動作する可動アーム上に装着することができるか、又は手術室（ＯＲ）台若しくは固定具に装着することができる。いくつかの実施形態では、撮像デバイス１２０は、手術デバイス１０２上のエミッタ１０６と撮像デバイス１２０との間の線を使用して、エミッタ１０６から組織１０３の表面１０５までの距離を判定することを可能にする受信器１０８を含む。例えば、距離センサシステム１０４の（手術デバイス１０２上の）エミッタ１０６、及び（撮像デバイス１２０上の）受信器１０８の既知の配置に基づいて、距離ｄｅを三角測量することができる。受信器１０８の３Ｄ位置を、術中に、ロボット座標平面に対して既知であり、かつ／又は位置合わせすることができる。
【0041】
この例解された実施形態におけるように、距離センサシステム１０４のエミッタ１０６の配置は、第１のロボットアーム１１２によって制御することができ、距離センサシステム１０４の受信器１０８の位置は、第２のロボットアーム１１４によって制御することができる。別の実施形態では、手術可視化システム１００は、ロボットシステムとは別に利用することができる。そのような例では、距離センサシステム１０４は、ロボットシステムとは独立していてもよい。
【0042】
図１では、距離ｄｅは、エミッタ１０６から組織１０３の表面１０５までのエミッタ－組織間距離であり、距離ｄｔは、手術デバイス１０２の遠位端から組織１０３の表面１０５までのデバイス－組織間距離である。距離センサシステム１０４は、エミッタ－組織間距離ｄｅを判定するように構成されている。デバイス－組織間距離ｄｔは、手術デバイス１０２の遠位端に対する、手術デバイス１０２上、例えば、手術デバイスの遠位端に近位のそのシャフト上のエミッタ１０６の既知の配置から取得可能である。言い換えると、エミッタ１０６と手術デバイス１０２の遠位端との間の距離が既知であるときに、デバイス－組織間距離ｄｔは、エミッタ－組織間距離ｄｅから判定することができる。いくつかの実施形態では、手術デバイス１０２のシャフトは、１つ又は２つ以上の関節継手を含むことができ、エミッタ１０６及び手術デバイス１０２の遠位端におけるジョーに対して関節運動可能とすることができる。関節運動構成は、例えば、多関節椎骨様構造を含むことができる。いくつかの実施形態では、３Ｄカメラを利用して、表面１０５までの１つ又は２つ以上の距離を三角測量することができる。
【0043】
図１では、距離ｄｗは、撮像デバイス１２０上に位置する光波形エミッタ１２３から重要構造１０１の表面までのカメラ－重要構造間距離であり、距離ｄＡは、組織１０３の表面１０５の下方の重要構造１０１の深さ（例えば、手術デバイス１０２に最も近い表面１０５の一部分と重要構造１０１との間の距離）である。撮像デバイス１２０上に位置する光波形エミッタ１２３から放射される光波形の飛行時間は、カメラ－重要構造間距離ｄｗを判定するように構成されている。
【0044】
図２に示されるように、組織１０３の表面１０５に対する重要構造１０１の深さｄＡは、カメラ－重要構造間距離ｄｗ、並びに手術デバイス１０２上のエミッタ１０６、及び撮像デバイス１２０上の光波形エミッタ１２３の既知の配置（したがって、これらの間の既知の距離ｄｘ）から三角測量によって判定されて、距離ｄｅとｄＡとの合計である距離ｄｙを判定することができる。追加的又は代替的に、光波形エミッタ１２３からの飛行時間は、光波形エミッタ１２３から組織１０３の表面１０５までの距離を判定するように構成することができる。例えば、第１の波形（又は波形範囲）を利用して、カメラ－重要構造間距離ｄｗを判定することができ、第２の波形（又は波形範囲）を利用して、組織１０３の表面１０５までの距離を判定することができる。そのような例では、異なる波形を利用して、組織１０３の表面１０５の下方の重要構造１０１の深さを判定することができる。
【0045】
追加的又は代替的に、距離ｄＡは、超音波、位置合わせされた磁気共鳴ビュー（magnetic resonance imaging、ＭＲＩ）、又はコンピュータ断層撮影（computerized tomography、ＣＴ）スキャンから判定することができる。更に他の例では、距離ｄＡは、撮像デバイス１２０によって受信された検出信号が材料の種類、例えば、組織１０３の種類に基づいて変動し得るので、スペクトル撮像によって判定することができる。例えば、脂肪は、検出信号を第１の方法、又は第１の量で減少させることができ、コラーゲンは、検出信号を異なる第２の方法、又は第２の量で減少させることができる。
【0046】
図３に例解された手術可視化システム１６０の別の実施形態では、撮像デバイス１２０ではなく手術デバイス１６２は、光波形エミッタ１２３と、反射された波形を検出するように構成されている波形センサ１２２と、を含む。光波形エミッタ１２３は、本明細書で更に説明されるように、手術デバイス１６２などの共通デバイスからの距離ｄｔ、及びｄｗを判定するための波形を放射するように構成されている。そのような例では、組織１０３の表面１０５から重要構造１０１の表面までの距離ｄＡは、以下のように判定することができる。
ｄＡ＝ｄｗ－ｄｔ
ｄＡ＝ｄｗ－ｄｔ
【0047】
手術可視化システム１００は、手術可視化システム１００の様々な態様を制御するように構成された制御システムを含む。図４は、手術可視化システム１００（又は本明細書に説明される他の手術可視化システム）の制御システムとして利用することができる制御システム１３３の一実施形態を例解する。制御システム１３３は、メモリ１３４と信号通信するように構成された制御回路１３２を含む。メモリ１３４は、重要構造（例えば、図１の重要構造１０１）を判定及び／又は認識するための命令、１つ又は２つ以上の距離及び／又は三次元デジタル表示を判定及び／又は計算するための命令、並びに、情報を医師に通信するための命令など、制御回路１３２により実行可能な命令を記憶するように構成されている。したがって、メモリ１３４内に記憶された命令は、プロセッサによって実行されるときに、プロセッサに上述のように行わせる命令を含むコンピュータプログラム製品を構成する。また、このような命令は、任意のコンピュータ可読媒体（光ディスク、ＳＤカード、ＵＳＢドライブなど、又は別個のデバイスのメモリなど）に記憶されてもよく、そこからメモリ１３４にコピーされるか、又は直接実行されてもよい。コピー又は直接実行のプロセスは、コンピュータプログラム製品を搬送するデータキャリア信号の作成を伴う。この例解された実施形態におけるように、メモリ１３４は、表面マッピングロジック１３６、撮像ロジック１３８、組織特定ロジック１４０、及び距離判定ロジック１４１を記憶することができるが、メモリ１３４は、ロジック１３６、１３８、１４０、１４１の任意の組み合わせを記憶することができ、及び／又は様々なロジックを一緒に組み合わせることができる。制御システム１３３はまた、カメラ１４４を含む撮像システム１４２（例えば、図１の撮像デバイス１２０を含む撮像システム）、ディスプレイ１４６（例えば、モニタ、コンピュータタブレットスクリーン）、並びにカメラ１４４及びディスプレイ１４６の制御部１４８を含む。カメラ１４４は、様々な可視及び不可視スペクトルで光を放射する様々な光源からの信号を受信するように構成された画像センサ１３５（例えば、波形センサ１２２）（例えば、可視光、スペクトルイメージャ、三次元レンズなど）を含む。ディスプレイ１４６は、実際の、仮想の、かつ／又は仮想的に拡張された画像及び／又は情報を医師に描写するように構成されている。
【0048】
例示的な実施形態では、画像センサ１３５は、ピクセルと呼ばれる個別の光検出器部位を最大で数百万個含む固体電子デバイスである。画像センサ１３５の技術は、電荷結合素子（Charge-Coupled Device、ＣＣＤ）イメージャ及び相捕型金属酸化膜半導体（Complementary Metal Oxide Semiconductor、ＣＭＯＳ）イメージャの２つの範疇のうちの１つに分類され、より直近になると、短波赤外（short-wave infrared、ＳＷＩＲ）が撮像における新技術である。別の種類の画像センサ１３５は、ハイブリッドＣＣＤ／ＣＭＯＳアーキテクチャ（「ｓＣＭＯＳ」の名称で販売）を採用し、ＣＣＤ撮像基板にバンプ接合されたＣＭＯＳ読み出し集積回路（readout integrated circuit、ＲＯＩＣ）からなる。ＣＣＤ及びＣＭＯＳ画像センサは、約４００ｎｍ～約１０００ｎｍの範囲など、約３５０ｎｍ～約１０５０ｎｍの範囲の波長に対して感度がある。当業者であれば、値が正確にある値ではないが、それでもなお、測定機器の感度及び製造公差などの様々な理由のうちのいずれかにより、ほぼその値であるとみなされることがあると認識するであろう。ＣＭＯＳセンサは、一般に、ＣＣＤセンサよりもＩＲ波長に対して感度が高い。固体画像センサは、光電効果に基づいており、その結果、色を区別することができない。したがって、１チップ及び３チップの２種類のカラーＣＣＤカメラが存在する。１チップカラーＣＣＤカメラは、よく採用される低コストの撮像ソリューションを提供し、モザイク（例えば、ベイヤー）光学フィルタを使用して、入射光を一連の色に分離し、補間アルゴリズムを採用してフルカラー画像を解像する。次いで、各色は、異なるピクセルセットに方向付けられる。３チップカラーＣＣＤカメラは、プリズムを採用することによってより高い分解能を提供し、入射スペクトルの各セクションを異なるチップに誘導する。オブジェクトの空間内の各点が、色を判定するためのアルゴリズムを使用するのではなく、別個のＲＧＢ強度値を有するため、より正確な色再現が可能である。３チップカメラは、非常に高い分解能を提供する。
【0049】
制御システム１３３はまた、各々が制御回路１３３に動作可能に結合されたスペクトル光源１５０及び構造化光源１５２を含むエミッタ（例えば、エミッタ１０６）を含む。単一の光源は、スペクトル光源１５０の範囲内の光の波長及び構造化光源１５２の範囲内の光の波長を放射するようにパルス化することができる。代替的に、単一の光源は、可視スペクトル内の光（例えば、赤外スペクトル光）及び可視スペクトル上の光の波長を提供するようにパルス化することができる。スペクトル光源１５０は、例えば、ハイパースペクトル光源、マルチスペクトル光源、及び／又は選択的スペクトル光源とすることができる。組織特定ロジック１４０は、カメラ１４４の画像センサ１３５によって受信されたスペクトル光源１５０からのデータを介して、重要構造（例えば、図１の重要構造１０１）を特定するように構成されている。表面マッピングロジック１３６は、反射された構造化光に基づいて、可視組織（例えば、組織１０３）の表面の輪郭を判定するように構成されている。飛行時間測定により、距離判定ロジック１４１は、可視組織及び／又は重要構造までの１つ又は２つ以上の距離を判定するように構成されている。表面マッピングロジック１３６、組織特定ロジック１４０、及び距離判定ロジック１４１の各々からの出力は、撮像ロジック１３８に提供され、撮像システム１４２のディスプレイ１４６を介して医師に伝達されるように撮像ロジック１３８によって、組み合わされ、一体化され、かつ／又は重ね合わせられるように構成されている。
【0050】
制御回路１３２は、様々な構成を有することができる。図５は、手術可視化システム１００の態様を制御するように構成された制御回路１３２として使用することができる制御回路１７０の一実施形態を例解する。制御回路１７０は、本明細書に説明される様々なプロセスを実装するように構成されている。制御回路１７０は、メモリ１７４に動作可能に結合されたプロセッサ１７２（例えば、マイクロプロセッサ又はマイクロコントローラ）を含むマイクロコントローラを含む。メモリ回路１７４は、プロセッサ１７２によって実行されるときに、プロセッサ１７２に、本明細書に説明される様々なプロセスを実装するための機械命令を実行させる、機械実行可能命令を記憶するように構成されている。プロセッサ１７２は、当該技術分野で既知のいくつかのシングルコアプロセッサ又はマルチコアプロセッサのうちの任意の１つとすることができる。メモリ回路１７４は、揮発性及び不揮発性の記憶媒体を含むことができる。プロセッサ１７２は、命令処理ユニット１７６、及び演算ユニット１７８を含む。命令処理ユニット１７６は、メモリ回路１７４から命令を受信するように構成されている。
【0051】
表面マッピングロジック１３６、撮像ロジック１３８、組織特定ロジック１４０、及び距離判定ロジック１４１は、様々な構成を有することができる。図６は、表面マッピングロジック１３６、撮像ロジック１３８、組織特定ロジック１４０、及び距離判定ロジック１４１のうちの１つ又は２つ以上などのロジックを使用して、手術可視化システム１００の態様を制御するように構成された組み合わせロジック回路１８０の一実施形態を例解する。組み合わせロジック回路１８０は、入力１８４において手術デバイス（例えば、手術デバイス１０２及び／又は撮像デバイス１２０）に関連付けられたデータを受信し、組み合わせロジック１８２によってデータを処理し、出力１８４を制御回路（例えば、制御回路１３２）に提供するように構成された組み合わせロジック１８２を含む有限状態機械を含む。
【0052】
図７は、表面マッピングロジック１３６、撮像ロジック１３８、組織特定ロジック１４０、及び距離判定ロジック１４１のうちの１つ又は２つ以上などのロジックを使用して、手術可視化システム１００の態様を制御するように構成された順序ロジック回路１９０の一実施形態を例解する。順序ロジック回路１９０は、組み合わせロジック１９２、メモリ１９４、及びクロック１９６を含む有限状態機械を含む。メモリ１９４は、有限状態機械の現在の状態を記憶するように構成されている。順序ロジック回路１９０は、同期又は非同期とすることができる。組み合わせロジック１９２は、入力４２６において手術デバイス（例えば、手術デバイス１０２及び／又は撮像デバイス１２０）に関連付けられたデータを受信し、組み合わせロジック１９２によってデータを処理し、出力４９９を制御回路（例えば、制御回路１３２）に提供するように構成されている。いくつかの態様では、順序ロジック回路１９０は、プロセッサ（例えば、図５のプロセッサ１７２）と、本明細書の様々なプロセスを実装する有限状態機械と、の組み合わせを含むことができる。いくつかの実施形態では、有限状態機械は、組み合わせロジック回路（例えば、図７の組み合わせロジック回路１９２）と順序ロジック回路１９０との組み合わせを含むことができる。
【0053】
図８は、手術可視化システム２００の別の実施形態を例解する。手術可視化システム２００は、概して、図１の手術可視化システム１００と同様に構成されており、使用され、例えば、手術デバイス２０２及び撮像デバイス２２０を含む。撮像デバイス２２０は、例えば、隠れた構造のスペクトル画像を取得するために複数の波長のスペクトル光を放射するように構成されたスペクトル光エミッタ２２３を含む。撮像デバイス２２０はまた、三次元カメラ及び関連する電子処理回路を含むことができる。臓器２０３の表面２０５上では不可視の尿管２０１ａ、及び臓器２０３（この例では、子宮）内の血管２０１ｂなどの特定の重要構造を特定し、それらの回避を容易にするために術中に利用されている、手術可視化システム２００が示されている。
【0054】
手術可視化システム２００は、構造化光によって、手術デバイス２０２上のエミッタ２０６から子宮２０３の表面２０５までのエミッタ－組織間距離ｄｅを判定するように構成されている。手術可視化システム２００は、エミッタ－組織間距離ｄｅに基づいて、手術デバイス２０２から子宮２０３の表面２０５までのデバイス－組織間距離ｄｔを外挿するように構成されている。手術可視化システム２００はまた、尿管２０１ａから表面２０５までの組織－尿管間距離ｄＡ、及び撮像デバイス２２０から尿管２０１ａまでのカメラ－尿管間距離ｄｗを判定するように構成されている。本明細書に説明されるように、例えば、図１の手術可視化システム１００に関して、手術可視化システム２００は、例えば、スペクトル撮像及び飛行時間型センサを用いて、距離ｄｗを判定するように構成されている。様々な実施形態では、手術可視化システム２００は、本明細書に説明される他の距離、及び／又は表面マッピングロジックに基づいて、組織－尿管間距離ｄＡ（つまり、深さ）を判定（例えば、三角測量）することができる。
【0055】
上述したように、手術可視化システムは、手術可視化システムの様々な態様を制御するように構成された制御システムを含む。制御システムは、様々な構成を有することができる。図９は、図１の手術可視化システム１００、図８の手術可視化システム２００、又は本明細書に説明される他の手術可視化システムなどの手術可視化システムのための制御システム６００の一実施形態を例解する。制御システム６００は、スペクトルシグネチャ組織特定及び構造化光組織位置付けを統合して、特に、重要構造が、組織、例えば、脂肪、結合組織、血液組織、及び／若しくは臓器によって、かつ／又は血液によって覆い隠されているときにその構造を特定し、かつ／あるいは腫瘍及び／又は非健常組織を臓器内の健常組織から区別するなど、組織変動性を検出する変換システムである。
【0056】
制御システム６００は、ハイパースペクトル撮像可視化システムを実装するように構成されており、このシステムでは、分子応答を利用して、手術視野内の解剖学的構造を検出及び特定する。制御システム６００は、組織データを外科医及び／又は他の医師に使用可能な情報に変換するように構成された変換ロジック回路６４８を含む。例えば、覆い隠されている材料に対する波長に基づく可変反射率を利用して、解剖学的構造中の重要構造を特定することができる。更に、制御システム６００は、特定されたスペクトルシグネチャと構造光データとを画像内で組み合わせるように構成されている。例えば、制御システム６００を採用して、拡張画像オーバーレイを用いたシステムにおける手術用途のための三次元データセットを作成することができる。技法は、追加の視覚的情報を採用して、手術中及び手術前の両方で採用することができる。様々な実施形態では、制御システム６００は、１つ又は２つ以上の重要構造の近接するときに、医師に警告を提供するように構成されている。手術処置及び重要構造への近接度に基づくロボット自動化アプローチ及び半自動化アプローチを誘導するために、様々なアルゴリズムを採用することができる。
【0057】
投影された光アレイは、組織の形状及び運動を術中に判定するために制御システム６００によって採用される。代替的に、フラッシュライダーを組織の表面マッピングに利用してもよい。
【0058】
制御システム６００は、上述のように、１つ又は２つ以上の重要構造を含むことができる重要構造を検出し、重要構造の画像オーバーレイを提供し、可視組織の表面までの距離、及び埋め込まれた／埋もれた重要構造までの距離を測定するように構成されている。制御システム６００は、可視組織の表面までの距離を測定するか、又は重要構造を検出し、重要構造の画像オーバーレイを提供することができる。
【0059】
制御システム６００は、スペクトル制御回路６０２を含む。スペクトル制御回路６０２は、フィールドプログラマブルゲートアレイ（field programmable gate array、ＦＰＧＡ）又は図６、図７、及び図８に関して説明される構成などの別の好適な回路構成であることができる。スペクトル制御回路６０２は、ビデオ入力プロセッサ６０６からビデオ入力信号を受信するように構成されたプロセッサ６０４を含む。プロセッサ６０４は、ハイパースペクトル処理を行うように構成されてよく、例えば、Ｃ／Ｃ＋＋コードを利用することができる。ビデオ入力（video input）プロセッサ６０６は、例えば、シャッタ時間、波長、及びセンサ分析などの制御（メタデータ）データのビデオ入力（video-in）を受信するように構成されている。プロセッサ６０４は、ビデオ入力プロセッサ６０６からのビデオ入力信号を処理し、例えば、インターフェース制御（メタデータ）データのハイパースペクトルビデオ出力（hyperspectral video-out）を含むビデオ出力（video output）信号をビデオ出力（video output）プロセッサ６０８に提供するように構成されている。ビデオ出力プロセッサ６０８は、ビデオ出力信号を画像オーバーレイコントローラ６１０に提供するように構成されている。
【0060】
ビデオ入力プロセッサ６０６は、患者隔離回路６１４を介して患者側のカメラ６１２に動作可能に結合されている。カメラ６１２は、固体画像センサ６３４を含む。患者隔離回路６１４は、患者がシステム内の他の回路から隔離されるように、複数の変圧器を含むことができる。カメラ６１２は、光学素子６３２及び画像センサ６３４を介して術中画像を受信するように構成されている。画像センサ６３４は、例えば、ＣＭＯＳ画像センサを含むことができるか、又は図４に関連して本明細書で論じられるものなどの別の画像センサ技術を含むことができる。カメラ６１２は、１４ビット／ピクセル信号で６１３個の画像を出力するように構成されている。当業者は、より高いか、又はより低い分解能を採用することができると認識するであろう。隔離カメラ出力信号６１３は、カラーＲＧＢ融合回路６１６に提供され、この回路は、この例解された実施形態において、カメラ出力信号６１３を処理する構成されたカメラハードウェアレジスタ６１８及びＮｉｏｓ２コプロセッサ６２０を採用する。ビデオ入力プロセッサ６０６及びレーザパルス制御回路６２２には、カラーＲＧＢ融合出力信号が提供される。
【0061】
レーザパルス制御回路６２２は、レーザ光エンジン６２４を制御するように構成されている。レーザ光エンジン６２４は、近赤外（ＮＩＲ）を含む複数の波長（λ１、λ２、λ３、．．．λｎ）において光を出力するように構成されている。レーザ光エンジン６２４は、複数のモードで動作することができる。例えば、レーザ光エンジン６２４は、２つのモードで動作することができる。第１のモード、例えば、標準動作モードでは、レーザ光エンジン６２４は、照明信号を出力するように構成されている。第２のモード、例えば、特定モードでは、レーザ光エンジン６２４は、ＲＧＢＧ光及びＮＩＲ光を出力するように構成されている。様々な実施形態では、レーザ光エンジン６２４は、偏光モードで動作することができる。
【0062】
レーザ光エンジン６２４からの光出力６２６は、術中の手術部位６２７内の標的とされる解剖学的構造を照明するように構成されている。レーザパルス制御回路６２２はまた、手術部位６２７における手術組織、又は臓器上に所定の波長（λ２）で、ライン及び／又はドットのグリッド又はパターンなどのレーザ光パターン６３１を投影するように構成されたレーザパターンプロジェクタ６３０のためのレーザパルスコントローラ６２８を制御するように構成されている。カメラ６１２は、カメラ光学素子６３２を通して出力されたパターン化された光及び反射光を受信するように構成されている。画像センサ６３４は、受信された光をデジタル信号に変換するように構成されている。カラーＲＧＢ融合回路６１６はまた、画像オーバーレイコントローラ６１０、並びに、レーザパターンプロジェクタ６３０によって手術部位６２７の標的とされる解剖学的構造上に投影されたレーザ光パターン６３１を読み取るためのビデオ入力モジュール６３６に信号を出力するように構成されている。処理モジュール６３８は、レーザ光パターン６３１を処理し、手術部位６２７において可視組織までの距離を表す第１のビデオ出力信号６４０を出力するように構成されている。データは、画像オーバーレイコントローラ６１０に提供される。処理モジュール６３８はまた、手術部位における標的とされる解剖学的構造の組織又は臓器の三次元レンダリングされた形状を表す第２のビデオ信号６４２を出力するように構成されている。
【0063】
第１のビデオ出力信号６４０及び第２のビデオ出力信号６４２は、集積モジュール６４３に提供される三次元表面モデル上の重要構造の配置を表すデータを含む。スペクトル制御回路６０２のビデオ出力プロセッサ６０８からのデータと組み合わせて、集積モジュール６４３は、埋もれた重要構造までの距離（例えば、図１の距離ｄＡ）を（例えば、三角測量アルゴリズム６４４によって）判定するように構成されており、埋もれた重要構造までの距離は、ビデオ出力プロセッサ６４６を介して、画像オーバーレイコントローラ６１０に提供することができる。前述の変換ロジックは、変換ロジック回路６４８、中間ビデオモニタ６５２、及び手術部位６２７に位置付けられたカメラ６２４／レーザパターンプロジェクタ６３０を包含することができる。
【0064】
ＣＴ又はＭＲＩスキャンなどによる術前データ６５０を採用して、特定の三次元変形可能な組織を様々な例で位置合わせ又は整列させることができる。このような術前データ６５０は、集積モジュール６４３、最終的には、画像オーバーレイコントローラ６１０に提供することができるので、このような情報はカメラ６１２のビューと重ね合わせられ、ビデオモニタ６５２に提供することができる。術前データの位置合わせの実施形態は、２０１８年９月１１日に出願された「Ｉｎｔｅｇｒａｔｉｏｎ Ｏｆ Ｉｍａｇｉｎｇ Ｄａｔａ」と題する米国特許出願公開第２０２０／００１５９０７号に更に説明されており、その全体は参照により本明細書に組み込まれる。
【0065】
ビデオモニタ６５２は、画像オーバーレイコントローラ６１０から統合／拡張ビューを出力するように構成されている。医師は、１つ又は２つ以上のディスプレイ上の異なるビューを選択し、かつ／又は切り替えることができる。この例解された実施形態においてモニタである第１のディスプレイ６５２ａ上で、医師は、（Ａ）可視組織の三次元レンダリングが示されているビューと、（Ｂ）１つ又は２つ以上の隠れた重要構造が可視組織の三次元レンダリングの上に描写される拡張ビューとを切り替えることができる。この例解された実施形態においてモニタである第２のディスプレイ６５２ｂ上で、医師は、例えば、１つ又は２つ以上の隠れた重要構造、及び／又は可視組織の表面までの距離測定値を切り替えることができる。
【0066】
本明細書に説明される様々な手術可視化システムを利用して、スペクトルの可視部分においてＥＭＲにより可視化されるのが覆い隠され得る組織、及び／又は解剖学的構造を含む、様々な異なる種類の組織、及び／又は解剖学的構造を可視化することができる。手術可視化システムは、上述したように、スペクトル撮像システムを利用することができ、これは、構成材料の様々な組み合わせに基づいて、異なる種類の組織を可視化するように構成することができる。特に、スペクトル撮像システムは、様々なＥＭＲ波長にわたる組織の吸収係数に基づいて可視化されている組織内の様々な構成材料の存在を検出するように構成することができる。スペクトル撮像システムは、構成材料の特定の組み合わせに基づいて、可視化されている組織の組織種類を特徴付けるように構成することができる。
【0067】
図１０は、様々な生体材料の吸収係数がＥＭＲ波長スペクトルにわたり、どのように変動するかを描写するグラフ３００を示す。グラフ３００では、垂直軸３０２は、生体材料の吸収係数をｃｍ－１単位で表し、水平軸３０４は、ＥＭＲ波長をμｍ単位で表す。このグラフ３００における第１の線３０６は、様々なＥＭＲ波長における水の吸収係数を表し、第２の線３０８は、様々なＥＭＲ波長におけるタンパク質の吸収係数を表し、第３の線３１０は、様々なＥＭＲ波長におけるメラニンの吸収係数を表し、第４の線３１２は、様々なＥＭＲ波長における脱酸素化ヘモグロビンの吸収係数を表し、第５の線３１４は、様々なＥＭＲ波長における酸素化ヘモグロビンの吸収係数を表し、第６の線３１６は、様々なＥＭＲ波長におけるコラーゲンの吸収係数を表す。組織種類が異なると、構成材料の組み合わせも異なるので、手術可視化システムによって可視化されている組織種類は、検出された構成材料の特定の組み合わせに従って、特定し、差別化することが可能である。したがって、手術可視化システムのスペクトル撮像システムは、いくつかの異なる波長でＥＭＲを放射し、異なる波長で検出された吸収ＥＭＲ吸収応答に基づいて、組織の構成材料を判定し、その後、構成材料の特定の検出された組み合わせに基づいて、組織種類を特徴付けるように構成することができる。
【0068】
図１１は、異なる組織種類、及び／又は解剖学的構造を可視化するためのスペクトル撮像技法の利用の一実施形態を示す。図１１では、スペクトルエミッタ３２０（例えば、図４のスペクトル光源１５０）は、手術部位３２２を可視化するために撮像システムによって利用されている。スペクトルエミッタ３２０によって放射され、手術部位３２２の組織及び／又は構造から反射されたＥＭＲは、画像センサ（例えば、図４の画像センサ１３５）によって受信されて、組織及び／又は構造を可視化し、これらは、可視であるか（例えば、手術部位３２２の表面に位置している）、又は覆い隠されている（例えば、手術部位３２２において他の組織及び／又は構造の下にある）かのいずれかとすることができる。この実施形態では、撮像システム１４２（例えば、図４の撮像システム）は、異なる組織／構造種類の各々に対して、構成材料の異なる吸収性状（例えば、吸収係数）によって特徴付けられるスペクトルシグネチャに基づいて、腫瘍３２４、動脈３２６、及び様々な異常３２８（例えば、既知又は予想されるスペクトルシグネチャに対して確認できない組織）を可視化する。可視化された組織及び構造は、撮像システムに関連付けられた又は結合されたディスプレイスクリーン（例えば、図４の撮像システム１４２のディスプレイ１４６）上、主ディスプレイ（例えば、図１９の主ディスプレイ８１９）上、非滅菌ディスプレイ（例えば、図１９の非滅菌ディスプレイ８０７、８０９）上、手術ハブのディスプレイ（例えば、図１９の手術ハブ８０６のディスプレイ）上、手術器具、又は撮像デバイスディスプレイ上、及び／又は別のディスプレイ上に表示することができる。
【0069】
撮像システムは、特定された組織及び／又は構造種類に従って、表示された手術部位の可視化を調整又は更新するように構成することができる。例えば、図１１に示されるように、撮像システムは、撮像システムに関連付けられた又は結合されたディスプレイスクリーン上、主ディスプレイ上、非滅菌ディスプレイ上、手術ハブのディスプレイ上、手術器具又は撮像デバイスディスプレイ上、及び／又は別のディスプレイ上に可視化されている腫瘍３２４に関連付けられたマージン３３０を表示することができる。マージン３３０は、腫瘍３２４を確実に完全に除去するように切除されるべき組織の面積又は量を示すことができる。手術可視化システムの制御システム（例えば、図４の制御システム１３３）は、撮像システムによって特定された組織及び／又は構造に基づいて、マージン３３０の寸法を制御又は更新するように構成することができる。この例解された実施形態では、撮像システムは、視野（field of view、ＦＯＶ）内の複数の異常３２８を特定している。したがって、制御システムは、この異常３２８を包含するのに十分な寸法を有する第１の更新されたマージン３３２に、表示されたマージン３３０を調節することができる。更に、撮像システムは、最初に表示されたマージン３３０（動脈３２６の強調表示された領域３３４によって示されるように）と部分的に重なっている動脈３２６を特定している。したがって、制御システムは、この動脈３２６の関連部分を包含するのに十分な寸法を有する第２の更新されたマージン３３６に、表示されたマージンを調節することができる。
【0070】
組織及び／又は構造はまた、図１０及び図１１に関して上述した吸収性状に加えて、又はそれに代えて、ＥＭＲ波長スペクトルにわたるこれらの反射性状に従って、撮像するか又は特徴付けることができる。例えば、図１２、図１３、及び図１４は、様々なＥＭＲ波長にわたる異なる種類の組織又は構造の反射率の様々なグラフを例解する。図１２は、覆い隠すものに対する例示の尿管シグネチャのグラフ表示３４０である。図１３は、覆い隠すものに対する例示の動脈シグネチャのグラフ表示３４２である。図１４は、覆い隠すものに対する例示の神経シグネチャのグラフ表示３４４である。図１２、図１３、及び図１４のプロットは、対応する波長における脂肪、肺組織、及び血液の対応する反射率に対する、特定の構造（尿管、動脈、及び神経）の波長（ｎｍ）の関数としての反射率を表している。これらのグラフは例示目的に過ぎず、他の組織及び／又は構造では、組織、及び／又は構造を特定及び可視化を可能にする対応する検出可能な反射率シグネチャを含み得ることを理解されたい。
【0071】
スペクトル撮像のための選択波長は、手術部位において予測される重要構造及び／又は覆い隠すものに基づいて特定し、利用することができる（例えば、「選択的スペクトル」撮像）。選択的スペクトル撮像を利用することにより、スペクトル画像を取得するために必要な時間量は、情報をリアルタイムで取得し、術中に利用することができるように、最小化することができる。波長は、医師によって、又はユーザ、例えば、医師による入力に基づいて、制御回路によって選択することができる。特定の例では、波長を、例えば、クラウド又は手術ハブを介して制御回路にアクセス可能な機械学習及び／又はビッグデータに基づいて選択することができる。
【0072】
図１５は、波形エミッタと組織によって覆い隠された重要構造との間の距離を測定するために、術中に利用されている組織へのスペクトル撮像の一実施形態を例解する。図１５は、波形４２４、４２５を利用する飛行時間型センサシステム４０４の一実施形態を示す。飛行時間型センサシステム４０４は、例えば、図１の手術可視化システム１００のセンサシステム１０４として、手術可視化システムに組み込むことができる。飛行時間型センサシステム４０４は、同じ手術デバイス１０２上に波形エミッタ４０６及び波形受信器４０８を含む（例えば、図１の同じ手術デバイス４０２上のエミッタ１０６及び受信器１０８）。放射された波４００は、エミッタ４０６から重要構造４０１（例えば、図１の重要構造１０１）まで延在し、受信される波４２５は、反射されて重要構造４０１から受信器４０８に戻される。この例解された実施形態では、手術デバイス４０２は、患者の腔４０７内へと延在するトロカール４１０を通って位置付けられる。この例解された実施形態では、トロカール４１０が使用されているが、他のトロカール又は他のアクセスデバイスを使用することができるか、又はアクセスデバイスを使用しなくてもよい。
【0073】
波形４２４、４２５は、波長のＮＩＲ又はＳＷＩＲスペクトル内の波長を有することなどによって、覆い隠している組織４０３を貫通するように構成されている。スペクトル信号（例えば、ハイパースペクトル、マルチスペクトル、若しくは選択的スペクトル）又は光音響信号は、遠位を指す第１の矢印４０７によって示されるように、エミッタ４０６から放射され、重要構造４０１が隠されている組織４０３を貫通することができる。放射された波形４２４は、近位を指す第２の矢印４０９によって示されるように、重要構造４０１によって反射される。受信された波形４２５は、手術デバイス４０２の遠位端と重要構造４０１との間の距離ｄに起因して、遅延する可能性がある。波形４２４、４２５は、本明細書に説明されるように、重要構造４０１のスペクトルシグネチャに基づいて、組織４０３内の重要構造４０１を標的とするように選択することができる。エミッタ４０６は、例えば、図１６に示されるように、オンとオフを表す二値信号を提供するように構成されており、受信器４０８によって測定することができる。
【0074】
放射された波４２４と受信された波４２５との間の遅延に基づいて、飛行時間型センサシステム４０４は、距離ｄを判定するように構成されている。図１５のエミッタ４０６及び受信器４０８の飛行時間タイミング図４３０が、図１６に示されている。遅延は、距離ｄの関数であり、距離ｄは、
【0075】
【数1】
【0076】
波形４２４、４２５の飛行時間は、図１５の距離ｄに対応する。様々な例では、追加のエミッタ／受信器及び／又はエミッタ４０６からのパルス信号は、非透過信号を放射するように構成することができる。非透過信号は、エミッタ４０６から覆い隠している組織４０３の表面４０５までの距離を判定するように構成することができる。様々な例では、重要構造４０１の深さは、
ｄＡ＝ｄｗ－ｄｔ
によって判定することができ、
ｄＡ＝重要構造４０１の深さであり、ｄｗ＝エミッタ４０６から重要構造４０１までの距離（図１５のｄ）であり、ｄｔ＝エミッタ４０６（手術デバイス４０２の遠位端上）から覆い隠している組織４０３の表面４０５までの距離である。
ｄＡ＝ｄｗ－ｄｔ
によって判定することができ、
ｄＡ＝重要構造４０１の深さであり、ｄｗ＝エミッタ４０６から重要構造４０１までの距離（図１５のｄ）であり、ｄｔ＝エミッタ４０６（手術デバイス４０２の遠位端上）から覆い隠している組織４０３の表面４０５までの距離である。
【0077】
図１７は、波５２４ａ、５２４ｂ、５２４ｃ、５２５ａ、５２５ｂ、５２５ｃを利用する飛行時間型センサシステム５０４の別の実施形態を例解する。飛行時間型センサシステム５０４は、例えば、図１の手術可視化システム１００のセンサシステム１０４として、手術可視化システムに組み込むことができる。飛行時間型センサシステム５０４は、波形エミッタ５０６及び波形受信器５０８（例えば、図１のエミッタ１０６及び受信器１０８）を含む。波形エミッタ５０６は、第１の手術デバイス５０２ａ（例えば、図１の手術デバイス１０２））上に位置付けられ、波形受信器５０８は、第２の手術デバイス５０２ｂ上に位置付けられる。手術デバイス５０２ａ、５０２ｂは、それぞれ、患者の腔５０７内に延在する第１のトロカール５１０ａ及び第２のトロカール５１０ｂを通って位置付けられる。トロカール５１０ａ、５１０ｂは、この例解された実施形態において使用されるが、他のトロカール又は他のアクセスデバイスを使用することができるか、又はアクセスデバイスを使用してなくてもよい。放射された波５２４ａ、５２４ｂ、５２４ｃは、エミッタ５０６から手術部位に向かって延在し、受信された波５２５ａ、５２５ｂ、５２５ｃは、手術部位における様々な構造、及び／又は表面から受信器５０８から反射される。
【0078】
異なる放射された波５２４ａ、５２４ｂ、５２４ｃは、手術部位において異なる種類の材料を標的とするように構成されている。例えば、波５２４ａは、覆い隠している組織５０３を標的とし、波５２４ｂは、この例解された実施形態では血管である第１の重要構造５０１ａ（例えば、図１の重要構造１０１）を標的とし、波５２４ｃは、この例解された実施形態ではがん性腫瘍である第２の重要構造５０１ｂ（例えば、図１の重要構造１０１）を標的とする。波５２４ａ、５２４ｂ、５２４ｃの波長は、可視光、ＮＩＲ、又はＳＷＩＲスペクトルの波長とすることができる。例えば、可視光は、組織５０３の表面５０５に反射することができ、ＮＩＲ波形及び／又はＳＷＩＲ波形は、組織５０３の表面５０５を透過することができる。様々な態様では、本明細書に説明されるように、スペクトル信号（例えば、ハイパースペクトル、マルチスペクトル、又は選択的スペクトル）又は光音響信号をエミッタ５０６から放射することができる。波５２４ｂ、５２４ｃは、本明細書に説明されるように、重要構造５０１ａ、５０１ｂのスペクトルシグネチャに基づいて、組織５０３内の重要構造５０１ａ、５０１ｂを標的とするように選択することができる。光音響撮像は、様々な米国特許出願に更に説明されており、これらは、本開示において参照により本開示に組み込まれる。
【0079】
放射された波５２４ａ、５２４ｂ、５２４ｃは、標的とされる材料、すなわち、それぞれ表面５０５、第１の重要構造５０１ａ、及び第２の構造５０１ｂから反射される。受信された波形５２５ａ、５２５ｂ、５２５ｃは、距離ｄ１ａ、ｄ２ａ、ｄ３ａ、ｄ１ｂ、ｄ２ｂ、ｄ２ｃに起因して遅延する可能性がある。
【0080】
エミッタ５０６及び受信器５０８を個別に位置付け可能である（例えば、別個の手術デバイス５０２ａ、５０２ｂ上で、及び／又は別個のロボットアームによって制御される）飛行時間型センサシステム５０４において、様々な距離ｄ１ａ、ｄ２ａ、ｄ３ａ、ｄ１ｂ、ｄ２ｂ、ｄ２ｃは、エミッタ５０６及び受信器５０８の既知の位置から算出することができる。例えば、手術デバイス５０２ａ、５０２ｂがロボット制御されるときに、配置は既知とすることができる。エミッタ５０６及び受信器５０８の配置、並びに特定組織を標的とする光子ストリームの時間、及び受信器５０８によって受信されたその特定の応答の情報に関する知識により、距離ｄ１ａ、ｄ２ａ、ｄ３ａ、ｄ１ｂ、ｄ２ｂ、ｄ２ｃの判定を可能にすることができる。一態様では、覆い隠された重要構造５０１ａ、５０１ｂまでの距離は、透過波長を使用して三角測量することができる。光速度は可視光又は不可視光の任意の波長に対して一定であるため、飛行時間型センサシステム５０４は、様々な距離を判定することができる。
【0081】
医師に提供されたビュー、例えば、ディスプレイ上では、結果として生じる画像内の標的構造の質量中心が一定のままとなるように、例えば、選択標的構造５０３、５０１ａ、又は５０１ｂの軸に垂直な平面内で、受信器５０８を回転させることができる。そのような向きは、標的構造に対して、１つ又は２つ以上の関連する距離及び／又は視点を迅速に通信することができる。例えば、図１７に示されるように、重要構造５０１ａがビュー平面に垂直である（例えば、血管がページの内外に向いている）視点から、手術部位が表示される。そのような向きは、デフォルトセッティングとすることができる。しかしながら、ビューは、医師によって回転されるか、又は別様に調節され得る。特定の例では、医師は、撮像システムによって提供される手術部位の視点を画定する、異なる表面及び／又は標的構造を切り替えることができる。
【0082】
この例解された実施形態におけるように、受信器５０８は、トロカール５１０ｂ（又は他のアクセスデバイス）上に装着することができ、それを通して手術デバイス５０２ｂが位置付けられる。他の実施形態では、受信器５０８は、三次元配置が既知である別個のロボットアームに装着することができる。様々な例では、受信器５０８は、手術デバイス５０２ａを制御するロボットとは別個の可動アーム上に装着することができるか、又はロボット座標平面に術中に位置合わせ可能な手術室（ＯＲ）台若しくは固定具に装着することができる。そのような例では、エミッタ５０６及び受信器５０８の配置は、飛行時間型センサシステム５０４の出力から距離を三角測量することができるように、同じ座標平面に位置合わせすることができる。
【0083】
飛行時間型センサシステムとナノ秒の分解能を用いたＮＩＲ光の時間分解プロファイルを測定することが可能である、ＴＯＦ－ＮＩＲＳと呼ばれる近赤外分光法（near-infrared spectroscopy、ＮＩＲＳ）との組み合わせは、「Ｔｉｍｅ－Ｏｆ－Ｆｌｉｇｈｔ Ｎｅａｒ－Ｉｎｆｒａｒｅｄ Ｓｐｅｃｔｒｏｓｃｏｐｙ Ｆｏｒ Ｎｏｎｄｅｓｔｒｕｃｔｉｖｅ Ｍｅａｓｕｒｅｍｅｎｔ Ｏｆ Ｉｎｔｅｒｎａｌ Ｑｕａｌｉｔｙ Ｉｎ Ｇｒａｐｅｆｒｕｉｔ」，Ｊｏｕｒｎａｌ ｏｆ ｔｈｅ Ａｍｅｒｉｃａｎ Ｓｏｃｉｅｔｙ ｆｏｒ Ｈｏｒｔｉｃｕｌｔｕｒａｌ Ｓｃｉｅｎｃｅ，Ｍａｙ ２０１３ ｖｏｌ．１３８ ｎｏ．３ ２２５－２２８に見出すことができ、これは、その全体が参照により本明細書に組み込まれる。
【0084】
可視化システム並びにその態様及び使用の実施形態は、２０１８年９月１１日に出願された「Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｐｌａｔｆｏｒｍ」と題する米国特許出願公開第２０２０／００１５９２３号、２０１８年９月１１日に出願された「Ｃｏｎｔｒｏｌｌｉｎｇ Ａｎ Ｅｍｉｔｔｅｒ Ａｓｓｅｍｂｌｙ Ｐｕｌｓｅ Ｓｅｑｕｅｎｃｅ」と題する米国特許出願公開第２０２０／００１５９００号、２０１８年９月１１日に出願された「Ｓｉｎｇｕｌａｒ ＥＭＲ Ｓｏｕｒｃｅ Ｅｍｉｔｔｅｒ Ａｓｓｅｍｂｌｙ」と題する米国特許出願公開第２０２０／００１５６６８号、２０１８年９月１１日に出願された「Ｃｏｍｂｉｎａｔｉｏｎ Ｅｍｉｔｔｅｒ Ａｎｄ Ｃａｍｅｒａ Ａｓｓｅｍｂｌｙ」と題する米国特許出願公開第２０２０／００１５９２５号、２０１８年９月１１日に出願された「Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｗｉｔｈ Ｐｒｏｘｉｍｉｔｙ Ｔｒａｃｋｉｎｇ Ｆｅａｔｕｒｅｓ」と題する米国特許出願公開第２０２０／０００１５８９９号、２０１８年９月１１日に出願された「Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｏｆ Ｍｕｌｔｉｐｌｅ Ｔａｒｇｅｔｓ」と題する米国特許出願公開第２０２０／０００１５９０３号、２０１８年９月１１日に出願された「Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｏｆ Ｓｕｒｇｉｃａｌ Ｄｅｖｉｃｅｓ」と題する米国特許第１０，７９２，０３４号、２０１８年９月１１日に出願された「Ｏｐｅｒａｔｉｖｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｏｆ Ｌｉｇｈｔ」と題する米国特許出願公開第２０２０／００１５８９７号、２０１８年９月１１日に出願された「Ｒｏｂｏｔｉｃ Ｌｉｇｈｔ Ｐｒｏｊｅｃｔｉｏｎ Ｔｏｏｌｓ」と題する米国特許出願公開第２０２０／００１５９２４号、２０１８年９月１１日に出願された「Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｆｅｅｄｂａｃｋ Ｓｙｓｔｅｍ」と題する米国特許出願公開第２０２０／００１５８９８号、２０１８年９月１１日に出願された「Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ａｎｄ Ｍｏｎｉｔｏｒｉｎｇ」と題する米国特許出願公開第２０２０／００１５９０６号、２０１８年９月１１日に出願された「Ｉｎｔｅｇｒａｔｉｏｎ Ｏｆ Ｉｍａｇｉｎｇ Ｄａｔａ」と題する米国特許出願公開第２０２０／００１５９０７号、２０１８年９月１１日に出願された「Ｒｏｂｏｔｉｃａｌｌｙ－Ａｓｓｉｓｔｅｄ Ｓｕｒｇｉｃａｌ Ｓｕｔｕｒｉｎｇ Ｓｙｓｔｅｍｓ」と題する米国特許第１０，９２５，５９８号、２０１８年９月１１日に出願された「Ｓａｆｅｔｙ Ｌｏｇｉｃ Ｆｏｒ Ｓｕｒｇｉｃａｌ Ｓｕｔｕｒｉｎｇ Ｓｙｓｔｅｍｓ」と題する米国特許出願公開第２０２０／００１５９０１号、２０１８年９月１１日に出願された「Ｒｏｂｏｔｉｃ Ｓｙｓｔｅｍｓ Ｗｉｔｈ Ｓｅｐａｒａｔｅ Ｐｈｏｔｏａｃｏｕｓｔｉｃ Ｒｅｃｅｉｖｅｒｓ」と題する米国特許出願公開第２０２０／００１５９１４号、２０１８年９月１１日に出願された「Ｆｏｒｃｅ Ｓｅｎｓｏｒ Ｔｈｒｏｕｇｈ Ｓｔｒｕｃｔｕｒｅｄ Ｌｉｇｈｔ Ｄｅｆｌｅｃｔｉｏｎ」と題する米国特許出願公開第２０２０／００１５９０２号、２０１８年１２月４日に出願された「Ｍｅｔｈｏｄ Ｏｆ Ｈｕｂ Ｃｏｍｍｕｎｉｃａｔｉｏｎ」と題する米国特許出願公開第２０１９／０２０１１３６号、２０１９年１２月３０日に出願された「Ａｎａｌｙｚｉｎｇ Ｓｕｒｇｉｃａｌ Ｔｒｅｎｄｓ Ｂｙ Ａ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する米国特許出願第１６／７２９，７７２号、２０１９年１２月３０日に出願された「Ｄｙｎａｍｉｃ Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｓｙｓｔｅｍｓ」と題する米国特許出願第１６／７２９，７４７号、２０１９年１２月３０日に出願された「Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｓｙｓｔｅｍｓ Ｕｓｉｎｇ Ｓｔｒｕｃｔｕｒｅｄ Ｌｉｇｈｔ」と題する米国特許出願第１６／７２９，７４４号、２０１９年１２月３０日に出願された「Ｓｙｓｔｅｍ Ａｎｄ Ｍｅｔｈｏｄ Ｆｏｒ Ｄｅｔｅｒｍｉｎｉｎｇ，Ａｄｊｕｓｔｉｎｇ，Ａｎｄ Ｍａｎａｇｉｎｇ Ｒｅｓｅｃｔｉｏｎ Ｍａｒｇｉｎ Ａｂｏｕｔ Ａ Ｓｕｂｊｅｃｔ Ｔｉｓｓｕｅ」と題する米国特許出願第１６／７２９，７７８号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｐｒｏｐｏｓｉｎｇ Ａｎｄ Ｃｏｒｒｏｂｏｒａｔｉｎｇ Ｏｒｇａｎ Ｐｏｒｔｉｏｎ Ｒｅｍｏｖａｌｓ」と題する米国特許出願第１６／７２９，７２９号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｆｏｒ Ｏｖｅｒｌａｙｉｎｇ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ Ｄａｔａ Ｏｎｔｏ Ａ Ｖｉｒｔｕａｌ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔ Ｏｆ Ａｎ Ｏｒｇａｎ」と題する米国特許出願第１６／７２９，７７８号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｇｅｎｅｒａｔｉｎｇ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔｓ Ｏｆ Ａｎａｔｏｍｉｃａｌ Ｏｒｇａｎｓ Ａｎｄ Ｃｏｕｐｌｉｎｇ Ｉｄｅｎｔｉｆｉｅｄ Ａｎａｔｏｍｉｃａｌ Ｓｔｒｕｃｔｕｒｅｓ Ｔｈｅｒｅｔｏ」と題する米国特許出願第１６／７２９，７５１号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｃｏｒｒｅｌａｔｉｎｇ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｄａｔａ Ａｎｄ Ｐｏｗｅｒｅｄ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ Ｄａｔａ」と題する米国特許出願第１６／７２９，７４０号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｃｏｎｔｒｏｌ Ａｃｃｏｒｄｉｎｇ Ｔｏ Ｓｕｒｇｉｃａｌ Ｓｍｏｋｅ Ｃｌｏｕｄ Ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ」と題する米国特許出願第１６／７２９，７３７号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｃｏｎｔｒｏｌ Ａｃｃｏｒｄｉｎｇ Ｔｏ Ｓｕｒｇｉｃａｌ Ｓｍｏｋｅ Ｐａｒｔｉｃｕｌａｔｅ Ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ」と題する米国特許出願第１６／７２９，７９６号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｂｙ Ａ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する米国特許出願第１６／７２９，８０３号、２０１９年１２月３０日に出願された「Ｍｅｔｈｏｄ Ｏｆ Ｕｓｉｎｇ Ｉｍａｇｉｎｇ Ｄｅｖｉｃｅｓ Ｉｎ Ｓｕｒｇｅｒｙ」と題する米国特許出願第１６／７２９，８０７号、２０２１年１０月５日に出願された「Ｓｕｒｇｉｃａｌ Ｍｅｔｈｏｄｓ Ｕｓｉｎｇ Ｍｕｌｔｉ－Ｓｏｕｒｃｅ Ｉｍａｇｉｎｇ」と題する米国特許出願第１７／４９３，９０４号、２０２１年１０月５日に出願された「Ｓｕｒｇｉｃａｌ Ｍｅｔｈｏｄｓ Ｆｏｒ Ｃｏｎｔｒｏｌ Ｏｆ Ｏｎｅ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｗｉｔｈ Ａｎｏｔｈｅｒ」と題する米国特許出願第１７／４９４，３６４号、２０２１年１０月５日に出願された「Ｍｅｔｈｏｄｓ Ａｎｄ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｃｏｎｔｒｏｌｌｉｎｇ Ｃｏｏｐｅｒａｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔｓ」と題する米国特許出願第１７／４５０，０２０号、２０２１年１０月５日に出願された「Ｍｅｔｈｏｄｓ Ａｎｄ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｃｏｎｔｒｏｌｌｉｎｇ Ｃｏｏｐｅｒａｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔｓ」と題する米国特許出願第１７／４５０，０２５号、２０２１年１０月５日に出願された「Ｍｅｔｈｏｄｓ Ａｎｄ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｃｏｎｔｒｏｌｌｉｎｇ Ｃｏｏｐｅｒａｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔｓ」と題する米国特許出願第１７／４５０，０２７号、及び２０２１年１０月１日に出願された「Ｃｏｏｐｅｒａｔｉｖｅ Ａｃｃｅｓｓ」と題する米国特許出願第１７／４４９，７６５号に更に説明されており、これは、その全体が参照により本明細書に組み込まれる。
【0085】
手術ハブ
本明細書に説明される様々な可視化又は撮像システムは、手術ハブを含むシステムに組み込むことができる。概して、手術ハブは、複数の医療施設にまたがることができ、統合され包括的な改善された医療を膨大な数の患者に提供するように構成された包括的なデジタル医療システムの構成要素とすることができる。包括的なデジタル医療システムは、多くの異なる医療施設にわたって位置する複数の手術ハブに相互接続するように構成されているクラウドベースの医療分析システムを含む。手術ハブは、患者に対して医療処置を行うために使用される１つ又は２つ以上の手術器具及び／又は医療処置を行っている間に使用される１つ又は２つ以上の可視化システムなどの１つ又は２つ以上の要素と相互接続するように構成されている。手術ハブは、医療処置の転帰を改善するための多様な機能性を提供する。様々な手術デバイス、可視化システム、及び手術ハブによって生成された、患者及び医療処置に関するデータは、クラウドベースの医療分析システムに送信され得る。次いで、このデータは、他の医療施設に位置する多くの他の手術ハブ、可視化システム、及び手術器具から収集された同様のデータと集約され得る。収集されたデータを分析するクラウドベースの分析システムを通じて、様々なパターン及び相関が見出され得る。結果として、データを生成するために使用される技法の改善をもたらし得、次いで、これらの改善は、様々な手術ハブ、可視化システム及び手術デバイスに広め得る。上述した構成要素の全ての相互接続性により、多くの構成要素がそのように相互接続されていない場合には見出されない可能性がある医療処置及び医療実践における改善が見出される可能性がある。
本明細書に説明される様々な可視化又は撮像システムは、手術ハブを含むシステムに組み込むことができる。概して、手術ハブは、複数の医療施設にまたがることができ、統合され包括的な改善された医療を膨大な数の患者に提供するように構成された包括的なデジタル医療システムの構成要素とすることができる。包括的なデジタル医療システムは、多くの異なる医療施設にわたって位置する複数の手術ハブに相互接続するように構成されているクラウドベースの医療分析システムを含む。手術ハブは、患者に対して医療処置を行うために使用される１つ又は２つ以上の手術器具及び／又は医療処置を行っている間に使用される１つ又は２つ以上の可視化システムなどの１つ又は２つ以上の要素と相互接続するように構成されている。手術ハブは、医療処置の転帰を改善するための多様な機能性を提供する。様々な手術デバイス、可視化システム、及び手術ハブによって生成された、患者及び医療処置に関するデータは、クラウドベースの医療分析システムに送信され得る。次いで、このデータは、他の医療施設に位置する多くの他の手術ハブ、可視化システム、及び手術器具から収集された同様のデータと集約され得る。収集されたデータを分析するクラウドベースの分析システムを通じて、様々なパターン及び相関が見出され得る。結果として、データを生成するために使用される技法の改善をもたらし得、次いで、これらの改善は、様々な手術ハブ、可視化システム及び手術デバイスに広め得る。上述した構成要素の全ての相互接続性により、多くの構成要素がそのように相互接続されていない場合には見出されない可能性がある医療処置及び医療実践における改善が見出される可能性がある。
【0086】
データを受信し、分析し、かつ出力するように構成された手術ハブ、及びそのような手術ハブを使用する方法の実施例は、２０１８年１２月４日に出願された「Ｍｅｔｈｏｄ Ｏｆ Ｈｕｂ Ｃｏｍｍｕｎｉｃａｔｉｏｎ，Ｐｒｏｃｅｓｓｉｎｇ，Ｓｔｏｒａｇｅ Ａｎｄ Ｄｉｓｐｌａｙ」と題する米国特許出願公開第２０１９／０２００８４４号、２０１８年１２月４日に出願された「Ｍｅｔｈｏｄ Ｏｆ Ｃｏｍｐｒｅｓｓｉｎｇ Ｔｉｓｓｕｅ Ｗｉｔｈｉｎ Ａ Ｓｔａｐｌｉｎｇ Ｄｅｖｉｃｅ Ａｎｄ Ｓｉｍｕｌｔａｎｅｏｕｓｌｙ Ｄｉｓｐｌａｙｉｎｇ Ｔｈｅ Ｌｏｃａｔｉｏｎ Ｏｆ Ｔｈｅ Ｔｉｓｓｕｅ Ｗｉｔｈｉｎ Ｔｈｅ Ｊａｗｓ」と題する米国特許出願公開第２０１９／０２００９８１号、２０１８年１２月４日に出願された「Ｍｅｔｈｏｄ Ｆｏｒ Ｃｏｎｔｒｏｌｌｉｎｇ Ｓｍａｒｔ Ｅｎｅｒｇｙ Ｄｅｖｉｃｅｓ」と題する米国特許出願公開第２０１９／０２０１０４６号、２０１８年３月２９日に出願された「Ａｄａｐｔｉｖｅ Ｃｏｎｔｒｏｌ Ｐｒｏｇｒａｍ Ｕｐｄａｔｅｓ Ｆｏｒ Ｓｕｒｇｉｃａｌ Ｈｕｂｓ」と題する米国特許出願公開第２０１９／０２０１１１４号、２０１８年３月２９日に出願された「Ｓｕｒｇｉｃａｌ Ｈｕｂ Ｓｉｔｕａｔｉｏｎａｌ Ａｗａｒｅｎｅｓｓ」と題する米国特許出願公開第２０１９／０２０１１４０号、２０１８年３月２９日に出願された「Ｉｎｔｅｒａｃｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｗｉｔｈ Ｃｏｎｄｉｔｉｏｎ Ｈａｎｄｌｉｎｇ Ｏｆ Ｄｅｖｉｃｅｓ Ａｎｄ Ｄａｔａ Ｃａｐａｂｉｌｉｔｉｅｓ」と題する米国特許出願公開第２０１９／０２０６００４号、２０１８年３月２９日に出願された「Ｃｌｏｕｄ－ｂａｓｅｄ Ｍｅｄｉｃａｌ Ａｎａｌｙｔｉｃｓ Ｆｏｒ Ｃｕｓｔｏｍｉｚａｔｉｏｎ Ａｎｄ Ｒｅｃｏｍｍｅｎｄａｔｉｏｎｓ Ｔｏ Ａ Ｕｓｅｒ」と題する米国特許出願公開第２０１９／０２０６５５５号、及び２０１８年１１月６日に出願された「Ｓｕｒｇｉｃａｌ Ｎｅｔｗｏｒｋ Ｄｅｔｅｒｍｉｎａｔｉｏｎ Ｏｆ Ｐｒｉｏｒｉｔｉｚａｔｉｏｎ Ｏｆ Ｃｏｍｍｕｎｉｃａｔｉｏｎ，Ｉｎｔｅｒａｃｔｉｏｎ，Ｏｒ Ｐｒｏｃｅｓｓｉｎｇ Ｂａｓｅｄ Ｏｎ Ｓｙｓｔｅｍ Ｏｒ Ｄｅｖｉｃｅ Ｎｅｅｄｓ」と題する米国特許出願公開第２０１９／０２０７８５７号に更に説明されており、これらは、参照によりその全体が本明細書に組み込まれる。
【0087】
図１８は、１つ又は２つ以上の手術システム７０２及びクラウドベースのシステム（例えば、記憶デバイス７０５に結合された遠隔サーバ７１３を含むことができるクラウド７０４）を含むコンピュータ実装双方向手術システム７００の一実施形態を例解する。各手術システム７０２は、クラウド７０４と通信する少なくとも１つの手術ハブ７０６を含む。一実施例では、図１８に例解されたように、手術システム７０２は、可視化システム７０８と、ロボットシステム７１０と、インテリジェント（又は「スマート」）手術器具７１２と、を含み、これらは、互いに、かつ／又はハブ７０６と通信するように構成されている。インテリジェント手術器具７１２は、撮像デバイスを含むことができる。手術システム７０２は、Ｍ個のハブ７０６と、Ｎ個の可視化システム７０８と、Ｏ個のロボットシステム７１０と、Ｐ個のインテリジェント手術器具７１２と、を含むことができ、Ｍ、Ｎ、Ｏ、及びＰは、互いのいずれか１つ又は２つ以上に等しくても等しくなくてもよい１以上の整数である。様々な例示的なインテリジェント手術器具及びロボットシステムが本明細書に説明されている。
【0088】
手術可視化システムから手術ハブによって受信されるデータは、様々な方法のうちのいずれかで使用することができる。例示的な実施形態では、手術ハブは、例えば、手術処置を行っている間に手術室で使用される、手術セッティングにおいて患者とともに使用される手術可視化システムからデータを受信することができる。手術ハブは、本明細書に論じられるように、１つ又は２つ以上の方法のうちのいずれかで受信されたデータを使用することができる。
【0089】
手術ハブは、手術可視化システムの使用に伴って、受信されたデータをリアルタイムで分析し、受信されたデータの分析に基づいて、患者とともに使用される手術可視化システム及び／又は１つ又は２つ以上のインテリジェント手術器具のうちの１つ又は２つ以上を調節制御するように構成することができる。このような調節は、例えば、インテリジェント手術器具の１つ又は動作制御パラメータを調節すること、１つ又は２つ以上のインテリジェント手術器具の１つ又は２つ以上のセンサに測定を行わせて、患者の現在の生理学的状態、及び／又はインテリジェント手術器具の現在の動作状態の理解を得ることを助けること、並びに他の調節を含むことができる。インテリジェント手術器具の動作を制御及び調節することは、以下で更に論じられる。インテリジェント手術器具の動作制御パラメータの実施例は、モータ速度、切断要素速度、時間、持続時間、エネルギー印加のレベル、及び光放射を含む。手術ハブの実施例、並びにインテリジェント手術器具の動作を制御及び調節する実施例は、前述の２０１９年１２月３０日に出願された「Ａｎａｌｙｚｉｎｇ Ｓｕｒｇｉｃａｌ Ｔｒｅｎｄｓ Ｂｙ Ａ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する米国特許出願第１６／７２９，７７２号、２０１９年１２月３０日に出願された「Ｄｙｎａｍｉｃ Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｓｙｓｔｅｍｓ」と題する米国特許出願第１６／７２９，７４７号、２０１９年１２月３０日に出願された「Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｓｙｓｔｅｍｓ Ｕｓｉｎｇ Ｓｔｒｕｃｔｕｒｅｄ Ｌｉｇｈｔ」と題する米国特許出願第１６／７２９，７４４号、２０１９年１２月３０日に出願された「Ｓｙｓｔｅｍ Ａｎｄ Ｍｅｔｈｏｄ Ｆｏｒ Ｄｅｔｅｒｍｉｎｉｎｇ，Ａｄｊｕｓｔｉｎｇ，Ａｎｄ Ｍａｎａｇｉｎｇ Ｒｅｓｅｃｔｉｏｎ Ｍａｒｇｉｎ Ａｂｏｕｔ Ａ Ｓｕｂｊｅｃｔ Ｔｉｓｓｕｅ」と題する米国特許出願第１６／７２９，７７８号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｐｒｏｐｏｓｉｎｇ Ａｎｄ Ｃｏｒｒｏｂｏｒａｔｉｎｇ Ｏｒｇａｎ Ｐｏｒｔｉｏｎ Ｒｅｍｏｖａｌｓ」と題する米国特許出願第１６／７２９，７２９号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｆｏｒ Ｏｖｅｒｌａｙｉｎｇ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ Ｄａｔａ Ｏｎｔｏ Ａ Ｖｉｒｔｕａｌ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔ Ｏｆ Ａｎ Ｏｒｇａｎ」と題する米国特許出願第１６／７２９，７７８号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｇｅｎｅｒａｔｉｎｇ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔｓ Ｏｆ Ａｎａｔｏｍｉｃａｌ Ｏｒｇａｎｓ Ａｎｄ Ｃｏｕｐｌｉｎｇ Ｉｄｅｎｔｉｆｉｅｄ Ａｎａｔｏｍｉｃａｌ Ｓｔｒｕｃｔｕｒｅｓ Ｔｈｅｒｅｔｏ」と題する米国特許出願第１６／７２９，７５１号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｃｏｒｒｅｌａｔｉｎｇ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｄａｔａ Ａｎｄ Ｐｏｗｅｒｅｄ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ Ｄａｔａ」と題する米国特許出願第１６／７２９，７４０号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｃｏｎｔｒｏｌ Ａｃｃｏｒｄｉｎｇ Ｔｏ Ｓｕｒｇｉｃａｌ Ｓｍｏｋｅ Ｃｌｏｕｄ Ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ」と題する米国特許出願第１６／７２９，７３７号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｃｏｎｔｒｏｌ Ａｃｃｏｒｄｉｎｇ Ｔｏ Ｓｕｒｇｉｃａｌ Ｓｍｏｋｅ Ｐａｒｔｉｃｕｌａｔｅ Ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ」と題する米国特許出願第１６／７２９，７９６号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｂｙ Ａ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する米国特許出願第１６／７２９，８０３号、及び２０１９年１２月３０日に出願された「Ｍｅｔｈｏｄ Ｏｆ Ｕｓｉｎｇ Ｉｍａｇｉｎｇ Ｄｅｖｉｃｅｓ Ｉｎ Ｓｕｒｇｅｒｙ」と題する米国特許出願第１６／７２９，８０７号、及び２０２０年１０月１３日に出願された「Ａｄａｐｔｉｖｅ Ｒｅｓｐｏｎｓｅｓ Ｆｒｏｍ Ｓｍａｒｔ Ｐａｃｋａｇｉｎｇ Ｏｆ Ｄｒｕｇ Ｄｅｌｉｖｅｒｙ Ａｂｓｏｒｂａｂｌｅ Ａｄｊｕｎｃｔｓ」と題する米国特許出願第１７／０６８，８５７号、２０２０年１０月１３日に出願された「Ｄｒｕｇ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ Ｄｅｖｉｃｅｓ Ｔｈａｔ Ｃｏｍｍｕｎｉｃａｔｅ Ｗｉｔｈ Ｓｕｒｇｉｃａｌ Ｈｕｂｓ」と題する米国特許出願第１７／０６８，８５８号、２０２０年１０月１３日に出願された「Ｃｏｎｔｒｏｌｌｉｎｇ Ｏｐｅｒａｔｉｏｎ Ｏｆ Ｄｒｕｇ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ Ｄｅｖｉｃｅｓ Ｕｓｉｎｇ Ｓｕｒｇｉｃａｌ Ｈｕｂｓ」と題する米国特許出願第１７／０６８，８５９号、２０２０年１０月１３日に出願された「Ｐａｔｉｅｎｔ Ｍｏｎｉｔｏｒｉｎｇ Ｕｓｉｎｇ Ｄｒｕｇ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ Ｄｅｖｉｃｅｓ」と題する米国特許出願第１７／０６８，８６３号、２０２０年１０月１３日に出願された「Ｍｏｎｉｔｏｒｉｎｇ Ａｎｄ Ｃｏｍｍｕｎｉｃａｔｉｎｇ Ｉｎｆｏｒｍａｔｉｏｎ Ｕｓｉｎｇ Ｄｒｕｇ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ Ｄｅｖｉｃｅｓ」と題する米国特許出願第１７／０６８，８６５号、及び２０２０年１０月１３日に出願された「Ａｇｇｒｅｇａｔｉｎｇ Ａｎｄ Ａｎａｌｙｚｉｎｇ Ｄｒｕｇ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ Ｄａｔａ」と題する米国特許出願第１７／０６８，８６７号に更に説明されており、これらは、参照によりその全体が本明細書に組み込まれる。
【0090】
手術ハブは、受信されたデータの可視化がディスプレイ上の手術セッティングにおいて提供されるように構成することができ、そのため、手術セッティングにおける医師が、データを見ることができ、それにより、手術セッティングにおいて使用されている撮像デバイスの動作の理解を受け取ることができる。可視化を介して提供されるこのような情報は、テキスト及び／又は画像を含むことができる。
【0091】
図１９は、手術ハブ８０６（例えば、図１８の手術ハブ７０６又は本明細書に説明される他の手術ハブ）、ロボット手術システム８１０（例えば、図１のロボット手術処置システム１１０又は本明細書における他のロボット手術システム）、及び可視化システム８０８（例えば、図１の可視化システム１００又は本明細書に説明される他の可視化システム）を含む手術システム８０２の一実施形態を例解する。手術ハブ８０６は、本明細書に論じられるように、クラウドと通信することができる。図１９は、手術室８１６内の手術台８１４上に横たわっている患者に対して手術処置を行うために使用されている手術システム８０２を示す。ロボットシステム８１０は、外科医のコンソール８１８と、患者側カート８２０（手術ロボット）と、ロボットシステムの手術ハブ８２２と、を含む。ロボットシステムの手術ハブ８２２は、概して、手術ハブ８２２と同様に構成されており、クラウドと通信することができる。いくつかの実施形態では、ロボットシステムの手術ハブ８２２及び手術ハブ８０６は、組み合わせることができる。患者側カート８２０は、医師例えば、外科医、看護師、及び／又は他の医師が、外科医コンソール８１８を通して手術部位を見ている間に、患者の身体の低侵襲切開部を通してインテリジェント手術ツール８１２を操作することができる。手術部位の画像は、撮像デバイス８２４（例えば、図１の撮像デバイス１２０、又は本明細書に説明される他の撮像デバイス）によって取得することができ、これは、撮像デバイス８２４の向きを変えるために、患者側カート８２０によって操作することができる。ロボットシステムの手術ハブ８２２を使用して、手術部位の画像を処理し、その後、外科医のコンソール８１８を通して、外科医に表示することができる。
【0092】
主ディスプレイ８１９は、手術室８１６の滅菌野に位置付けられ、手術台８１４にいるオペレータに可視であるように構成されている。加えて、この例解された実施形態では、可視化タワー８１１が、滅菌野の外側に位置付けられ得る。可視化タワー８１１は、互いに反対側を向いている第１の非滅菌ディスプレイ８０７、及び第２の非滅菌ディスプレイ８０９を含む。手術ハブ８０６によって誘導される可視化システム８０８は、ディスプレイ８０７、８０９、８１９を利用して、滅菌野の内側及び外側の医師への情報フローを協調するように構成されている。例えば、手術ハブ８０６は、可視化システム８０８に、主ディスプレイ８１９上に手術部位のライブ映像を維持しながら、撮像デバイス８２４によって取得されるような手術部位のスナップショット及び／又はビデオを非滅菌ディスプレイ８０７、８０９の一方又は両方上に表示させることができる。非滅菌ディスプレイ８０７及び／又は８０９上のスナップショット及び／又はビデオは、例えば、非滅菌医師が、手術処置に関連する診断工程を行うことを許可することができる。
【0093】
手術ハブ８０６は、可視化タワー８１１における非滅菌医師によって入力された診断入力又はフィードバックを滅菌野内の主ディスプレイ８１９に送り、これを手術台８１４における滅菌医師が見ることができるように構成されている。例えば、入力は、手術ハブ８０６によって主ディスプレイ８１９に送ることができる、非滅菌ディスプレイ８０７又は８０９上に表示されるスナップショット及び／又はビデオへの修正の形態とすることができる。
【0094】
手術ハブ８０６は、本開示において参照により本明細書に組み込まれる様々な米国特許出願に説明されているように、インテリジェント手術器具８１２のディスプレイに情報フローを適合させるように構成されている。可視化タワー８１８における非滅菌オペレータによって入力される診断入力又はフィードバックは、手術ハブ８０６によって滅菌野内のディスプレイ８１９に送ることができ、これを手術器具８１２のオペレータ及び／又は滅菌野内の医師が見ることができる。
【0095】
インテリジェント手術器具８１２及びインテリジェント手術ツールでもある撮像デバイス８２４は、手術システム８０２の一部として手術処置において患者とともに使用されている。例えば、患者側カート８２０に取り外し可能に結合され、かつロボット手術システム８１０及び手術ハブ８０６と通信することができる、手術処置で使用することができる他のインテリジェント手術器具８１２ａも、利用可能であるものとして図１９に示されている。非インテリジェント（又は「ダム」）手術器具８１７、例えば、ロボット手術システム８１０及び手術ハブ８０６と通信することができない鋏、トロカール、カニューレ、メスもまた、使用のために利用可能であるものとして図１９に示されている。
【0096】
インテリジェント手術器具の動作
インテリジェント手術デバイスには、インテリジェント手術デバイスの動作を制御するために、インテリジェント手術デバイス、例えば、そのプロセッサによってオンボードで実行可能であるように構成されたアルゴリズムが、インテリジェント手術デバイス上、例えば、そのメモリ内に記憶され得る。いくつかの実施形態では、インテリジェント手術デバイス上に記憶される代わりに、又はそれに加えて、アルゴリズムは、インテリジェント手術デバイスと通信するように構成されている、手術ハブ上、例えば、そのメモリ内に記憶することができる。
インテリジェント手術デバイスには、インテリジェント手術デバイスの動作を制御するために、インテリジェント手術デバイス、例えば、そのプロセッサによってオンボードで実行可能であるように構成されたアルゴリズムが、インテリジェント手術デバイス上、例えば、そのメモリ内に記憶され得る。いくつかの実施形態では、インテリジェント手術デバイス上に記憶される代わりに、又はそれに加えて、アルゴリズムは、インテリジェント手術デバイスと通信するように構成されている、手術ハブ上、例えば、そのメモリ内に記憶することができる。
【0097】
アルゴリズムは、インテリジェント手術デバイスの機能を制御するために、命令、通知、信号などを定義する、及び／又は表す複数のデータポイントの１つ又は２つ以上のセットの形態で記憶される。いくつかの実施形態では、インテリジェント手術デバイスによって収集されたデータは、アルゴリズムの少なくとも１つの可変パラメータを変更するために、例えば、インテリジェント手術デバイスのプロセッサによって、インテリジェント手術デバイスによって使用することができる。上記に論じられるように、手術ハブは、インテリジェント手術デバイスと通信することができ、したがって、インテリジェント手術デバイスによって収集されたデータは、手術ハブに通信することができ、及び／又は手術ハブと通信する別のデバイスによって収集されたデータは、手術ハブに通信することができ、データは、手術ハブからインテリジェント手術デバイスに通信することができる。したがって、インテリジェント手術デバイスが、記憶された可変パラメータを変更するように構成されている代わりに、又はそれに加えて、手術ハブは、変更された少なくとも１つの変数を、単独で、又はアルゴリズムの一部として、インテリジェント手術デバイスに通信するように構成することができ、及び／又は手術ハブは、命令をインテリジェント手術デバイスに通信し、手術ハブによって判定されるような少なくとも１つの変数を変更することができる。
【0098】
少なくとも１つの可変パラメータは、アルゴリズムのデータポイントの間にあり、例えば、インテリジェント手術デバイスを動作させるための命令に含まれ、したがって、各々が、アルゴリズムの記憶された複数のデータポイントのうちの１つ又は２つ以上を変更することによって、変更されることが可能である。少なくとも１つの可変パラメータが変更された後、その後のアルゴリズムの実行は、変更されたアルゴリズムに従う。そのため、患者の実際の状況並びにインテリジェント手術デバイスが使用されている手術処置の実際の条件及び／又は結果を考慮することによって、インテリジェント手術デバイスの有益な結果の使用を増加させるために、インテリジェント手術デバイスの経時的な動作を患者に対して管理することができる。少なくとも１つの可変パラメータを変更することは、患者の転帰を改善するために自動化される。したがって、インテリジェント手術デバイスは、スマートシステムを提供するために患者及び患者の周囲条件に基づいて個別化された医薬を提供するように構成することができる。手術処置を行っている間にインテリジェント手術デバイスが使用されている手術セッティングにおいて、少なくとも１つの可変パラメータの自動変更は、手術処置を行っている間に収集されたデータに基づいて、インテリジェント手術デバイスが制御されることを可能にし得、これは、インテリジェント手術デバイスが効率的かつ正確に使用されることを確実にするのに役立ち得、及び／又は重要な解剖学的構造を傷つけることによって、患者を傷つける可能性を低減するのに役立ち得る。
【0099】
少なくとも１つの可変パラメータは、様々な異なる動作パラメータのうちのいずれかとすることができる。可変パラメータの実施例は、モータ速度、モータトルク、エネルギーレベル、エネルギー印加持続時間、組織圧迫レート、ジョー閉鎖レート、切断要素速度、負荷閾値などを含む。
【0100】
図２０は、少なくとも１つの可変パラメータを含むアルゴリズム９０４が記憶されたメモリ９０２を含むインテリジェント手術器具９００の一実施形態を例解する。アルゴリズム９０４は、単一のアルゴリズムとすることができるか、又は各アルゴリズムが少なくとも１つの可変パラメータを含む、複数のアルゴリズム、例えば、手術器具の動作の異なる態様のための別個のアルゴリズムを含むことができる。インテリジェント手術器具９００は、図１の手術デバイス１０２、図１の撮像デバイス１２０、図８の手術デバイス２０２、図８の撮像デバイス２２０、図１５の手術デバイス４０２、図１７の手術デバイス５０２ａ、図１７の手術デバイス５０２ｂ、図１８の手術デバイス７１２、図１９の手術デバイス８１２、図１９の撮像デバイス８２４、又は他のインテリジェント手術器具とすることができる。手術器具９００はまた、アルゴリズム９０４を実行して手術器具９００の少なくとも１つの態様の動作を制御するように構成されたプロセッサ９０６を含む。アルゴリズム９０４を実行するために、プロセッサ９０６は、メモリ９０２に記憶されたプログラムを実行して、メモリ９０２内のアルゴリズム９０４の複数のデータポイントにアクセスするように構成されている。
【0101】
手術器具９００はまた、手術ハブ９１０などの別のデバイスと通信するように構成された通信インターフェース９０８、例えば、無線送受信器、又は他の有線若しくは無線通信インターフェースを含む。通信インターフェース９０８は、遠隔サーバ（例えば、クラウドサーバ又は他のサーバ）及び／又はローカルの手術ハブサーバにデータを提供すること、及び／又は遠隔サーバ及び／又はローカルの手術ハブサーバから命令又はコマンドを受信することなどの一方向通信、又は手術器具９００及び／又はそこに記憶されたデータに関する情報、メッセージ、データなどを提供し、医師、ソフトウェアの更新に関するリモートサーバ、ソフトウェアの更新に関するローカルの手術ハブサーバなどから命令を受信することなどの双方向通信を可能にするように構成することができる。
【0102】
手術器具９００は、図２０では簡略化されており、例えば、バスシステム、ハンドル、細長いシャフトであって、その遠位端にエンドエフェクタを有する、細長いシャフト、電源などの追加の構成要素を含むことができる。プロセッサ９０６はまた、メモリ９０２に記憶された命令を実行して、概して、通信インターフェース９０８、オーディオスピーカ、ユーザインターフェースなどの他の電気構成要素を含むデバイス９００を制御するように構成することができる。
【0103】
プロセッサ９０６は、アルゴリズム９０４のその後の実行が、変更された少なくとも１つの可変パラメータに従うように、アルゴリズム９０４の少なくとも１つの可変パラメータを変更するように構成されている。アルゴリズム９０４の少なくとも１つの可変パラメータを変更するために、プロセッサ９０６は、メモリ９０２内の少なくとも１つの可変パラメータのデータポイントを修正又は更新するように構成されている。プロセッサ９０６は、手術処置を行っている間に、手術デバイス９００の使用に伴って、アルゴリズム９０４の少なくとも１つの可変パラメータをリアルタイムで変更するように構成することができ、これはリアルタイム条件に対処し得る。
【0104】
プロセッサ９０６が少なくとも１つの可変パラメータを変更することに加えて又はその代わりに、プロセッサ９０６は、手術ハブ９１０から受信された命令に応答して、アルゴリズム９０４及び／又はアルゴリズム９０４の少なくとも１つの可変パラメータを変更するように構成することができる。いくつかの実施形態では、プロセッサ９０６は、手術ハブ９１０と通信し、そこから命令を受信した後にのみ、少なくとも１つの可変パラメータを変更するように構成されており、これは、手術器具９００が使用されている手術処置の他の態様との手術器具９００の協調されたアクションを確実にするのに役立ち得る。
【0105】
例示的な実施形態では、プロセッサ９０６は、アルゴリズム９０４を実行して手術器具９００の動作を制御し、リアルタイムデータに基づいて、アルゴリズム９０４の少なくとも１つの可変パラメータを変更し、少なくとも１つの可変パラメータを変更した後に、アルゴリズム９０４を実行して手術器具９００の動作を制御する。
【0106】
図２１は、アルゴリズム９０４の少なくとも１つの可変パラメータの変更を含む、手術器具９００を使用する方法９１２の一実施形態を例解する。プロセッサ９０６は、メモリ９０２に記憶されたアルゴリズム９０４を実行することによって、手術器具９００の動作を制御する（９１４）。このその後に既知となるデータ及び／又はその後に収集されるデータのうちのいずれかに基づいて、プロセッサ９０４は、上記に論じられたように、アルゴリズム９０４の少なくとも１つの可変パラメータを変更する（９１６）。少なくとも１つの可変パラメータを変更した後に、プロセッサ９０６は、ここで、変更された少なくとも１つの可変パラメータを用いてアルゴリズム９０４を実行することによって、手術器具９００の動作を制御する（９１８）。プロセッサ９０４は、手術処置を行っている間に、少なくとも１つの可変パラメータを、例えば、０回、１回、２回、３回などの任意の回数変更することができる（９１６）。方法９１２の任意の部分中に、手術器具９００は、通信インターフェース９０８を使用して、１つ又は２つ以上のコンピュータシステム、例えば、手術ハブ９１０、クラウドサーバなどの遠隔サーバと通信して、そこにデータを提供し、かつ／又はそこから命令を受信することができる。
【0107】
状況認識
インテリジェント手術器具の動作は、患者の状況認識に基づいて変えることができる。インテリジェント手術器具の動作は、インテリジェント手術器具のユーザが器具を異なるように取り扱うこと、器具に異なる入力を提供すること、器具の使用を停止することなどによって、手動で変えることができる。追加的又は代替的に、インテリジェント手術器具の動作は、器具のアルゴリズムが、例えば、アルゴリズムの少なくとも１つの可変パラメータを変更することによって変更されることによって、自動的に変更することができる。上述したように、アルゴリズムは、変更を要求するユーザ入力なしに自動的に調節することができる。手術処置を行っている間に調節を自動化することは、時間を節約するのに役立ち得、医師が手術処置の他の態様に集中することを可能にし得、及び／又は医師のために手術器具を使用するプロセスを容易にし得、これらは、各々、重要構造を回避すること、器具が使用されている及び／又は近くで使用されている組織種類を考慮して手術器具を制御することなどによって、患者の転帰を改善し得る。
インテリジェント手術器具の動作は、患者の状況認識に基づいて変えることができる。インテリジェント手術器具の動作は、インテリジェント手術器具のユーザが器具を異なるように取り扱うこと、器具に異なる入力を提供すること、器具の使用を停止することなどによって、手動で変えることができる。追加的又は代替的に、インテリジェント手術器具の動作は、器具のアルゴリズムが、例えば、アルゴリズムの少なくとも１つの可変パラメータを変更することによって変更されることによって、自動的に変更することができる。上述したように、アルゴリズムは、変更を要求するユーザ入力なしに自動的に調節することができる。手術処置を行っている間に調節を自動化することは、時間を節約するのに役立ち得、医師が手術処置の他の態様に集中することを可能にし得、及び／又は医師のために手術器具を使用するプロセスを容易にし得、これらは、各々、重要構造を回避すること、器具が使用されている及び／又は近くで使用されている組織種類を考慮して手術器具を制御することなどによって、患者の転帰を改善し得る。
【0108】
本明細書に説明される可視化システムは、手術ハブ、例えば、手術ハブ７０６、手術ハブ８０６、又は本明細書に説明される他の手術ハブによって具現化又は実行され得る状況認識システムの一部として利用することができる。特に、手術器具（これらの配置、向き、アクションを含む）、組織、構造、ユーザ、及び／又は術野又は手術室内に位置する他のものを特徴付けること、特定すること、及び／又は可視化することは、状況認識システムによって利用されて、手術処置の種類又は行われている工程、外科医又は他の医師によって操作されている組織及び／又は構造の種類、及び他の情報を推測することができるコンテキストデータを提供することができる。次いで、このコンテキストデータは、状況認識システムによって利用されて、ユーザにアラートを提供すること、ユーザが引き受けるその後の工程又はアクションを示唆すること、手術デバイスをそれらの使用を予測して準備すること（例えば、電気手術器具が手術処置のその後の工程で利用されることを予測して電気手術発生器を起動すること）、インテリジェント手術器具の動作を制御すること（例えば、下記に更に論じられるように、アルゴリズムの手術器具の動作パラメータをカスタマイズすること）などをすることができる。
【0109】
感知されたデータに応答する制御アルゴリズムを含む「インテリジェント」デバイスは、例えば、変更されたアルゴリズムの少なくとも１つの可変パラメータを有することによって、感知されたデータを考慮せずに動作する「データ処理能力のない（dumb）」デバイスに対する改善とすることができるが、いくつかの感知されたデータは、単独、例えば、行われている手術処置の種類、又は手術されている組織の種類のコンテキストなしで考慮されるときに、不完全又は決定的ではない可能性がある。処置コンテキストを知らないと（例えば、手術されている組織の種類又は行われている処置の種類を知らないと）、制御アルゴリズムは、特定のコンテキストのない感知されたデータが与えられると、手術デバイスを不正確に又は準最適に制御することがある。例えば、特定の感知されたパラメータに応答して、手術器具を制御するための制御アルゴリズムの最適な様式は、手術されている特定の組織の種類に従って変動する可能性がある。これは、異なる組織の種類が異なる特性（例えば、引き裂きに対する抵抗力、切断のし易さなど）を有し、したがって、手術器具によってとられたアクションに対して異なって応答するという事実に起因するものである。したがって、特定のパラメータについて同じ測定値が感知されたときであっても、手術器具が異なるアクションをとることが望ましいことがある。一実施例として、手術ステープラがそのエンドエフェクタを閉鎖するための予想外に高い力を感知することに応答して、手術ステープラを制御する最適な様式は、組織の種類が引き裂きの影響を受けやすいか、又はこれに耐性があるかに応じて変動する。肺組織など、引き裂きの影響を受けやすい組織の場合、手術器具の制御アルゴリズムは、組織の引き裂きを回避するために、閉鎖するための予想外に高い力に応答して、モータを最適に減速させ、例えば、モータが遅くなるようにモータ速度又はトルクを制御する可変パラメータを変更する。胃組織など、引き裂きに耐性がある組織の場合、器具の制御アルゴリズムは、エンドエフェクタが組織に適切にクランプされることを確実にするために、閉鎖するための予想外に高い力に応答して、モータを最適に加速させ、例えば、モータが速くなるようにモータ速度又はトルクを制御する可変パラメータを変更する。肺又は胃の組織がクランプされたかどうかを知ることなく、アルゴリズムは準最適に変更されるか、又は全く変更されないことがある。
【0110】
手術ハブは、様々なデータソースから受信されたデータに基づいて、行われている手術処置に関する情報を導出し、したがって、それに従ってモジュール式デバイスを制御するように構成することができる。言い換えると、手術ハブは、受信されたデータから手術処置に関する情報を推測し、次いで、手術処置の推測されたコンテキストに基づいて、手術ハブに動作可能に結合されたモジュール式デバイスを制御するように構成することができる。モジュール式デバイスは、可視化システムデバイス（例えば、カメラ、又はディスプレイスクリーンなど）、スマート手術器具（例えば、超音波手術器具、電気手術器具、手術ステープラ、煙排出器など）などの状況認識システムによって制御可能な任意の手術デバイスを含むことができる。モジュール式デバイスは、デバイスが使用されている患者に関連付けられたパラメータ、及び／又はモジュール式デバイス自体に関連付けられたパラメータを検出するように構成されたセンサを含むことができる。
【0111】
受信されたデータから導出又は推測されるコンテキスト情報は、例えば、行われている手術処置のタイプ、外科医（又は他の医師）が行っている手術処置の特定の工程、手術されている組織のタイプ、又は手術処置の対象である体腔を含むことができる。手術ハブの状況認識システムは、様々な異なる方式でデータソースから受信されたデータから、コンテキスト情報を導出するように構成することができる。例示的な実施形態では、手術ハブの状況認識システムによって受信されたコンテキスト情報は、１つ又は２つ以上のモジュール式デバイスの特定の制御調節、又は制御調節のセットに関連付けられる。制御調節は、各々、可変パラメータに対応する。一実施例では、状況認識システムは、様々な入力（例えば、データベース、患者モニタリングデバイス、及び／又はモジュール式デバイスからのデータ）を、手術処置に関する対応するコンテキスト情報と相関させるために、訓練データで訓練されたパターン認識システム、又は機械学習システム（例えば、人工ニューラルネットワーク）を含む。言い換えると、機械学習システムは、提供された入力から手術処置に関するコンテキスト情報を正確に導出するように訓練することができる。別の実施例では、状況認識システムは、手術処置に関する事前に特徴付けられたコンテキスト情報を、そのコンテキスト情報に対応する１つ又は２つ以上の入力（又は入力の範囲）と関連付けて記憶する、ルックアップテーブルを含むことができる。１つ又は２つ以上の入力による問い合わせに応答して、ルックアップテーブルは、少なくとも１つのモジュール式デバイスを制御するために状況認識システムの対応するコンテキスト情報を返すことができる。別の実施例では、状況認識システムは、コンテキスト情報が入力として提供されるときに、１つ又は２つ以上のモジュール式デバイスの１つ又は２つ以上の制御調節を生成又は読み出す、更なる機械学習システム、ルックアップテーブル、又は他のそのようなシステムを含む。
【0112】
状況認識システムを含む手術ハブは、手術システムに多くの利点を提供し得る。１つの利点は、感知及び収集されたデータの解釈を改善することを含み、これは、手術処置の過程中の処理精度、及び／又はデータの使用を改善させる。別の利点は、手術ハブのための状況認識システムが、各手術処置の特定のコンテキストのための手術器具（及び、他のモジュール式デバイス）を調節し（例えば、異なる組織種類に調節する）、手術処置中のアクションを検証することによって、手術処置の転帰を改善し得ることである。更に別の利点は、状況認識システムが、処置の特定のコンテキストに従って、次の工程を自動的に示唆し、データを提供し、手術現場内のディスプレイ及び他のモジュール式デバイスを調節することによって、手術処置を行う際の医師の効率を改善し得ることである。別の利点は、処置のその後の工程が器具の使用を必要とすると判定する場合、ＲＦ電気手術器具が接続されている発生器を状況認識手術ハブが積極的に起動することなどによって、行われている手術処置の特定の工程に従ってモジュール式デバイスを積極的かつ自動的に制御して、医師が手術処置の過程中に手術システムと相互作用するか又はこれを制御する必要がある回数を低減することである。エネルギー源を積極的に起動することにより、処置の先行する工程が完了すると直ぐに器具を使用準備完了にすることができる。
【0113】
例えば、状況認識手術ハブは、どの種類の組織が手術されているかを判定するように構成することができる。したがって、手術器具のエンドエフェクタを閉鎖するための予期外の強い力が検出されるときに、状況認識手術ハブは、例えば、モータ速度又はトルクに関する手術器具のためのアルゴリズムの少なくとも１つの可変パラメータを変更するか、又は変更を引き起こすことによって、その種類の組織のために手術器具のモータを正確に加速又は減速するように構成することができる。
【0114】
別の実施例では、手術されている組織の種類は、特定の組織間隙測定のための手術ステープラの圧縮速度と負荷閾値になされる調節に影響を及ぼす可能性がある。状況認識手術ハブは、行われている手術処置が胸部処置であるのか、又は腹部処置であるのかを推測するように構成することができ、手術ハブが、手術ステープラのエンドエフェクタによってクランプされている組織が（胸部処置での）肺組織であるのか、又は（腹部処置での）胃組織であるのかを判定することが可能である。次いで、手術ハブは、例えば、圧縮率及び負荷閾値に関する手術ステープラのためのアルゴリズムの少なくとも１つの可変パラメータを変更するか、又は変更を引き起こすことによって、その種類の組織に適切な手術ステープラの圧縮率及び負荷閾値の調節を引き起こすように構成することができる。
【0115】
更に別の実施例として、送気処置中に手術されている体腔の種類は、煙排出器の機能に影響を及ぼす可能性がある。状況認識手術ハブは、手術部位が（手術処置が送気を利用していると判定することによって）圧力下にあるかどうかを判定し、処置の種類を判定するように構成することができる。ある処置の種類は概して特定の体腔内で行われるので、手術ハブは、例えば、モータ速度に関する煙排出器のためのアルゴリズムの少なくとも１つの可変パラメータを変更するか、又は変更を引き起こすことによって、手術されている体腔に適切に煙排出器のモータ速度を制御するように構成することができる。したがって、状況認識手術ハブは、胸部処置及び腹部処置の両方のために一貫した量の煙排出を提供し得る。
【0116】
更に別の実施例として、行われている処置の種類は、超音波手術器具、又は高周波（radio frequency、ＲＦ）電気手術器具が動作するのに最適なエネルギーレベルに影響を及ぼす可能性がある。例えば、関節鏡処置では、超音波手術器具、又はＲＦ電気手術器具のエンドエフェクタが流体中に浸漬されるので、より高いエネルギーレベルを必要とする。状況認識手術ハブは、手術処置が関節鏡処置であるかどうかを判定するように構成することができる。手術ハブは、例えば、エネルギーレベルに関する器具及び／又は発生器のためのアルゴリズムの少なくとも１つの可変パラメータを変更するか、又は変更を引き起こすことによって、発生器のＲＦ電力レベル又は超音波振幅を調節して（例えば、エネルギーレベルを調節して）、流体充填環境を補償するように構成することができる。関連して、手術されている組織の種類は、超音波手術器具又はＲＦ電気手術器具が動作するのに最適なエネルギーレベルに影響を及ぼす可能性がある。状況認識手術ハブは、どの種類の手術処置が行われているかを判定し、次いで、手術処置のための予想される組織プロファイルに従って、例えば、エネルギーレベルに関する器具及び／又は発生器のためのアルゴリズムの少なくとも１つの可変パラメータを変更するか、又は変更を引き起こすことによって、超音波手術器具又はＲＦ電気手術器具のためのエネルギーレベルをそれぞれカスタマイズするように構成することができる。更に、状況認識手術ハブは、単に手術ごとにではなく、手術処置の過程にわたって、超音波手術器具又はＲＦ電気手術器具のエネルギーレベルを調節するように構成することができる。状況認識手術ハブは、手術処置のどの工程が行われているか、又は引き続き行われるかを判定し、次いで、発電機、及び／又は超音波手術器具若しくはＲＦ電気手術器具の制御アルゴリズムを更新して、手術処置の工程に従って予想される組織の種類に適切な値までエネルギーレベルを設定するように構成することができる。
【0117】
別の実施例として、状況認識手術ハブは、外科医及び／又は医師が見る必要があると予想される手術部位の特徴に従って、手術処置の現工程、又はその後の工程が、ディスプレイ上の異なるビューや倍率を必要とするかどうかを判定するように構成することができる。手術ハブは、（例えば、可視化システムのための撮像デバイスから供給される）表示されたビューを、適宜、積極的に変更し、ディスプレイが手術処置にわたって自動的に調節されるように構成することができる。
【0118】
更に別の実施例として、状況認識手術ハブは、手術処置のどの工程が行われているか、又はその後に行われるか、及び特定のデータ又はデータ同士の比較が手術処置のその工程に必要であるかどうかを判定するように構成することができる。手術ハブは、外科医又は医師が特定の情報を尋ねるのを待機することなく、行われている手術処置の工程に基づいて、データスクリーンを自動的に呼び出すように構成することができる。
【0119】
別の実施例として、状況認識手術ハブは、外科医及び／又は他の医師が、例えば、術前手術計画において提供されるような手術処置の過程中に、誤りを犯しているか、又は別様に予想される一連のアクションから逸脱しているかどうかを判定するように構成することができる。例えば、手術ハブは、行われている手術処置の種類を判定し、機器使用の工程又は順序の対応リストを（例えば、メモリから）読み出し、次いで、手術処置の過程中に行われている工程又は使用されている機器を、手術ハブが行われていることを判定した手術処置の種類について予想される工程又は機器と比較するように構成することができる。手術ハブは、手術処置における特定の工程で予想外のアクションが行われているか、又は予想外のデバイスが利用されていることを示す（視覚的、聴覚的、及び／又は触覚的）アラートを提供するように構成することができる。
【0120】
特定の例では、本明細書に説明される様々なロボット手術システムのうちのいずれかなどのロボット手術システムの動作は、その状況認識及び／又はその構成要素からのフィードバックに基づいて、かつ／又はクラウド（例えば、図１８のクラウド７１３）からの情報に基づいて、手術ハブによって制御することができる。
【0121】
状況認識システムの実施形態及び手術処置を行っている間に状況認識システムを使用する実施形態は、前述の２０１９年１２月３０日に出願された「Ａｎａｌｙｚｉｎｇ Ｓｕｒｇｉｃａｌ Ｔｒｅｎｄｓ Ｂｙ Ａ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する米国特許出願第１６／７２９，７７２号、２０１９年１２月３０日に出願された「Ｄｙｎａｍｉｃ Ｓｕｒｇｉｃａｌ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｓｙｓｔｅｍｓ」と題する米国特許出願第１６／７２９，７４７号、２０１９年１２月３０日に出願された「Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｓｙｓｔｅｍｓ Ｕｓｉｎｇ Ｓｔｒｕｃｔｕｒｅｄ Ｌｉｇｈｔ」と題する米国特許出願第１６／７２９，７４４号、２０１９年１２月３０日に出願された「Ｓｙｓｔｅｍ Ａｎｄ Ｍｅｔｈｏｄ Ｆｏｒ Ｄｅｔｅｒｍｉｎｉｎｇ，Ａｄｊｕｓｔｉｎｇ，Ａｎｄ Ｍａｎａｇｉｎｇ Ｒｅｓｅｃｔｉｏｎ Ｍａｒｇｉｎ Ａｂｏｕｔ Ａ Ｓｕｂｊｅｃｔ Ｔｉｓｓｕｅ」と題する米国特許出願第１６／７２９，７７８号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｐｒｏｐｏｓｉｎｇ Ａｎｄ Ｃｏｒｒｏｂｏｒａｔｉｎｇ Ｏｒｇａｎ Ｐｏｒｔｉｏｎ Ｒｅｍｏｖａｌｓ」と題する米国特許出願第１６／７２９，７２９号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｆｏｒ Ｏｖｅｒｌａｙｉｎｇ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ Ｄａｔａ Ｏｎｔｏ Ａ Ｖｉｒｔｕａｌ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔ Ｏｆ Ａｎ Ｏｒｇａｎ」と題する米国特許出願第１６／７２９，７７８号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｆｏｒ Ｇｅｎｅｒａｔｉｎｇ Ｔｈｒｅｅ Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｓｔｒｕｃｔｓ Ｏｆ Ａｎａｔｏｍｉｃａｌ Ｏｒｇａｎｓ Ａｎｄ Ｃｏｕｐｌｉｎｇ Ｉｄｅｎｔｉｆｉｅｄ Ａｎａｔｏｍｉｃａｌ Ｓｔｒｕｃｔｕｒｅｓ Ｔｈｅｒｅｔｏ」と題する米国特許出願第１６／７２９，７５１号、２０１９年１２月３０日に出願された「Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍｓ Ｃｏｒｒｅｌａｔｉｎｇ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｄａｔａ Ａｎｄ Ｐｏｗｅｒｅｄ Ｓｕｒｇｉｃａｌ Ｉｎｓｔｒｕｍｅｎｔ Ｄａｔａ」と題する米国特許出願第１６／７２９，７４０号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｃｏｎｔｒｏｌ Ａｃｃｏｒｄｉｎｇ Ｔｏ Ｓｕｒｇｉｃａｌ Ｓｍｏｋｅ Ｃｌｏｕｄ Ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ」と題する米国特許出願第１６／７２９，７３７号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ Ｃｏｎｔｒｏｌ Ａｃｃｏｒｄｉｎｇ Ｔｏ Ｓｕｒｇｉｃａｌ Ｓｍｏｋｅ Ｐａｒｔｉｃｕｌａｔｅ Ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ」と題する米国特許出願第１６／７２９，７９６号、２０１９年１２月３０日に出願された「Ａｄａｐｔｉｖｅ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｂｙ Ａ Ｓｕｒｇｉｃａｌ Ｓｙｓｔｅｍ」と題する米国特許出願第１６／７２９，８０３号、及び２０１９年１２月３０日に出願された「Ｍｅｔｈｏｄ Ｏｆ Ｕｓｉｎｇ Ｉｍａｇｉｎｇ Ｄｅｖｉｃｅｓ Ｉｎ Ｓｕｒｇｅｒｙ」と題する米国特許出願第１６／７２９，８０７号に更に説明されている。
【0122】
肺の手術処置
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、肺に行われる手術処置に関連し得る。例えば、肺切除（例えば、肺葉切除）は、肺葉の全部又は一部、例えば、１つ又は２つ以上の肺葉が除去される手術処置である。肺切除を行う目的は、例えば、肺がん、肺気腫、又は気管支拡張症の結果としての損傷又は罹患した肺を治療することである。
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、肺に行われる手術処置に関連し得る。例えば、肺切除（例えば、肺葉切除）は、肺葉の全部又は一部、例えば、１つ又は２つ以上の肺葉が除去される手術処置である。肺切除を行う目的は、例えば、肺がん、肺気腫、又は気管支拡張症の結果としての損傷又は罹患した肺を治療することである。
【0123】
肺切除の間、肺は、最初に収縮させられ、その後、１つ又は２つ以上の切開が、患者の側で、腹腔鏡下で肺に到達するように患者の肋骨の間で行われる。把持器及び腹腔鏡などの手術器具は、切開部を通して挿入される。肺の感染又は損傷領域が特定されると、その領域は肺から切除され、１つ又は２つ以上の切開部から除去される。切開された領域及び１つ又は２つ以上の切開部は、例えば、手術ステープラ又は縫合によって閉鎖することができる。
【0124】
肺は手術中に収縮するので、肺又は肺の特定の部分は、手術器具が手術部位に到達することを可能にするために可動化される必要があり得る。この可動化は、把持器で肺の外側組織層を把持し、把持器を介して肺に力を加えることによって実施することができる。しかしながら、肺の胸膜及び実質組織は非常に脆弱であり、したがって、加えられた力の下で容易に破られるか、又は引き裂かれ得る。追加的に、可動化中、把持器は、肺の１つ又は２つ以上の領域への血液供給を遮断することができる。
【0125】
更に、呼吸チューブが患者の気道内に配置されて、手術中に各肺を別個に膨張させることが可能である。肺の膨張は、肺を移動させ、術前撮像にマッチングさせ、及び／又は外科医が切開された領域における漏出をチェックすることを可能にすることができる。しかしながら、肺全体を膨張させることによって、胸腔の充填に起因して肺の周りの作業空間が失われる。追加的に、肺全体を膨張させることは、時間がかかる可能性があり、手術処置中に肺の複数の部分が手術される場合、容易な漏出検出を保証しない。
【0126】
結腸の手術処置
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、結腸に行われる手術処置に関連し得る。例えば、手術は、初期段階の結腸がんに対する主要な治療である。使用される手術のタイプは、がんが結腸内にある場合、がんのステージ（程度）、及び手術の目標に依存する。一部の初期結腸がん（ステージ０及び一部の初期段階Ｉの腫瘍）並びにほとんどのポリープは、結腸鏡検査中に除去することができる。しかしながら、がんが進行した場合、局所切除又は結腸切除が必要とされ得る。結腸切除は、結腸の全部又は一部を除去するための手術である。特定の例では、近くのリンパ節も除去される。結腸の一部のみが除去される場合、それは、半結腸切除、部分結腸切除、又はセグメント切除と呼ばれ、外科医は、いずれかの側の非罹患結腸の小セグメントとともに結腸の罹患部分を取り出す。通常、がんのサイズ及び位置に応じて、結腸の約４分の１～３分の１が除去される。大腸の主要な切除を図２２に例解し、Ａ－Ｂは、右半結腸切除であり、Ａ－Ｃは、拡張右半結腸切除であり、Ｂ－Ｃは、横行結腸切除であり、Ｃ－Ｅは、左半結腸切除であり、Ｄ－Ｅは、Ｓ状結腸切除であり、Ｄ－Ｆは、前方切除であり、Ｄ－Ｇは、（超）低位前方切除であり、Ｄ－Ｈは、腹会陰切除であり、Ａ－Ｄは、結腸亜全摘であり、Ａ－Ｅは、結腸全摘であり、Ａ－Ｈは、直腸結腸全摘である。切除が完了したら、結腸の残りの無傷のセクションが再付着される。
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、結腸に行われる手術処置に関連し得る。例えば、手術は、初期段階の結腸がんに対する主要な治療である。使用される手術のタイプは、がんが結腸内にある場合、がんのステージ（程度）、及び手術の目標に依存する。一部の初期結腸がん（ステージ０及び一部の初期段階Ｉの腫瘍）並びにほとんどのポリープは、結腸鏡検査中に除去することができる。しかしながら、がんが進行した場合、局所切除又は結腸切除が必要とされ得る。結腸切除は、結腸の全部又は一部を除去するための手術である。特定の例では、近くのリンパ節も除去される。結腸の一部のみが除去される場合、それは、半結腸切除、部分結腸切除、又はセグメント切除と呼ばれ、外科医は、いずれかの側の非罹患結腸の小セグメントとともに結腸の罹患部分を取り出す。通常、がんのサイズ及び位置に応じて、結腸の約４分の１～３分の１が除去される。大腸の主要な切除を図２２に例解し、Ａ－Ｂは、右半結腸切除であり、Ａ－Ｃは、拡張右半結腸切除であり、Ｂ－Ｃは、横行結腸切除であり、Ｃ－Ｅは、左半結腸切除であり、Ｄ－Ｅは、Ｓ状結腸切除であり、Ｄ－Ｆは、前方切除であり、Ｄ－Ｇは、（超）低位前方切除であり、Ｄ－Ｈは、腹会陰切除であり、Ａ－Ｄは、結腸亜全摘であり、Ａ－Ｅは、結腸全摘であり、Ａ－Ｈは、直腸結腸全摘である。切除が完了したら、結腸の残りの無傷のセクションが再付着される。
【0127】
結腸切除は、冒された結腸組織の分離及び除去のために結腸にアクセスするために腹壁を通る単一の切開部が使用される開腹結腸切除を通して、かつ腹腔鏡支援結腸切除を通して行うことができる。腹腔鏡支援結腸切除では、手術器具を用いて多くのより小さな切開部を通して手術が行われ、腹腔鏡が小さな切開部を通過して結腸全体又はその一部を除去する。処置の開始時に、腹部は、ガス、例えば、二酸化炭素で膨張させられて、外科医のための作業空間を提供する。腹腔鏡は、腹腔内の画像を送信し、外科医に、モニタ又は他のディスプレイ上に患者の内臓の拡大ビューを与える。いくつかの他のカニューレが挿入されて、外科医が結腸の内側で作業し、結腸の一部を除去することを可能にする。結腸の罹患部分が除去されると、結腸の残りの端部は、例えば、ステープラ又は縫合を介して互いに取り付けられる。全処置は、カニューレを通して、又は小カニューレ切開のうちの１つを延長することによって、完了され得る。
【0128】
腹腔鏡支援結腸切除処置の間、適切な術野を取得することはしばしば難しい。多くの場合、切開は骨盤の深部で行われるため、その領域を十分に可視化することが難しい。結果として、可動化中に直腸の両側の周りの静脈及び動脈へのアクセスを得るために、下部直腸を持ち上げて回転させなければならない。下部直腸の操作中に、組織のバンチング及び／又は組織の過伸展が起こる可能性がある。追加的に、直腸内の腫瘍は、周囲の骨盤において癒着を引き起こす可能性があり、結果として、これは、腫瘍の離断及び除去の前に、直腸断端を解放し、腸間膜及び血液供給を可動化することを必要とする可能性がある。
【0129】
更に、複数の把持器が、結腸からの除去のために腫瘍を位置付けるために必要とされる。結腸の切開の間、腫瘍は張力下に配置されるべきであり、これは、結腸の周囲の健康組織を把持して伸展させることを必要とする。しかしながら、腫瘍を取り囲む組織の操作は、把持器が組織に高い把持力をかけることに起因して、血流の減少及び外傷を被る可能性がある。追加的に、結腸切除の間、横行結腸及び上部下行結腸は、腫瘍を含む大腸のセクションが離断されて除去された後に、健康良好残存結腸が直腸断端に接続するように下げられることを可能にするために可動化される必要があり得る。
【0130】
結腸切除後、結腸の残りの健康部分を互いに再付着させて、老廃物が身体から出るための経路を作成しなければならない。しかしながら、腹腔鏡器具を使用して結腸切除を行うときに、単一の入口ポートは、結腸の一端を結腸の接続部分に移動させるのに十分な大きさの運動範囲を有していないことがある。そのため、第２の入口ポートは、したがって、結腸を適切に位置付けるために結腸を可動化するのに役立つために手術器具を腹腔鏡下で挿入するのに必要とされる。
【0131】
胃の手術処置
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、胃に行われる手術処置に関連し得る。例えば、手術は、胃がんの最も一般的な治療である。胃がんのために手術が必要とされるときに、目標は、腫瘍全体並びに腫瘍の周りの健康胃組織の良好マージンを除去することである。異なる処置を使用して、胃がんを除去することができる。使用される処置の種類は、がんが胃のどの部分に位置するか、及びがんが近くの領域にどれだけ成長したかに依存する。例えば、胃に対する内視鏡的粘膜切除（ＥＭＲ）及び内視鏡的粘膜下層剥離（endoscopic submucosal dissection、ＥＳＤ）処置は、いくつかの早期がんを治療するために使用することができる。これらの処置は、皮膚の切断を必要としないが、その代わりに、外科医は、内視鏡を患者の咽喉を通して胃の中に通す。次いで、手術ツール（例えば、ＭＥＧＡＤＹＮＥ（商標）のＴｉｓｓｕｅ Ｄｉｓｓｅｃｔｏｒ又はＥｌｅｃｔｒｏｓｕｒｇｉｃａｌ Ｐｅｎｃｉｌ）を内視鏡の作業チャネルに通して、腫瘍及びその下及び周りの正常な胃壁のいくつかの層を除去する。
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、胃に行われる手術処置に関連し得る。例えば、手術は、胃がんの最も一般的な治療である。胃がんのために手術が必要とされるときに、目標は、腫瘍全体並びに腫瘍の周りの健康胃組織の良好マージンを除去することである。異なる処置を使用して、胃がんを除去することができる。使用される処置の種類は、がんが胃のどの部分に位置するか、及びがんが近くの領域にどれだけ成長したかに依存する。例えば、胃に対する内視鏡的粘膜切除（ＥＭＲ）及び内視鏡的粘膜下層剥離（endoscopic submucosal dissection、ＥＳＤ）処置は、いくつかの早期がんを治療するために使用することができる。これらの処置は、皮膚の切断を必要としないが、その代わりに、外科医は、内視鏡を患者の咽喉を通して胃の中に通す。次いで、手術ツール（例えば、ＭＥＧＡＤＹＮＥ（商標）のＴｉｓｓｕｅ Ｄｉｓｓｅｃｔｏｒ又はＥｌｅｃｔｒｏｓｕｒｇｉｃａｌ Ｐｅｎｃｉｌ）を内視鏡の作業チャネルに通して、腫瘍及びその下及び周りの正常な胃壁のいくつかの層を除去する。
【0132】
胃に対して行われる他の手術処置は、開腹処置として行うことができる胃亜全摘（部分）又は全摘を含む。例えば、手術器具は、腹部の皮膚の大きな切開部を通して挿入され、又は腹腔鏡処置として、例えば、手術器具は、いくつかの小さな切断部を通して腹部に挿入される。例えば、腹腔鏡胃切除処置は、概して、約１５ミリメートル水銀（ｍｍＨｇ）の圧力まで二酸化炭素ガスを腹腔に送気することを伴う。腹壁が穿孔され、次いで、約５ｍｍ～約１０ｍｍの範囲内の直径を有するカニューレ又はトロカールなどの直線管状カニューレ又はトロカールが、腹腔内に挿入される。手術室のモニタに接続された腹腔鏡は、術野を可視化するために使用され、トロカールのうちの１つを通して配置される。腹腔鏡手術器具は、胃の所望の部分を除去するために、医師、例えば、外科医及び外科助手による操作のために、２つ又はそれ以上の追加のカニューレ又はトロカールを通して配置される。
【0133】
特定の例では、腹腔鏡及び内視鏡の協調する手術が、胃腫瘍を除去するために使用することができる。この協調する手術は、典型的には、内視鏡、例えば、胃鏡、及び腹腔鏡トロカールの導入を伴う。腹腔鏡並びに組織操作及び切開手術器具は、トロカールを通して導入される。腫瘍位置は、内視鏡を介して特定することができ、内視鏡の作業チャネル内に挿入される切断要素は、次いで、腫瘍の周りの粘膜下層切除のために使用される。次に、腹腔鏡切開手術器具は、胃壁を通して切開部を作成するために、腫瘍マージンに隣接する漿膜筋層切開のために使用される。次いで、腫瘍は、この切開部を通して、管腔内空間、例えば、胃の内側から管腔外空間、例えば、胃の外側に旋回される。次いで、腹腔鏡手術器具、例えば、エンドカッターは、胃壁からの腫瘍の離断を完了し、切開部を封止するために使用することができる。
【0134】
腸の手術処置
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、腸に行われる手術処置に関連し得る。例えば、十二指腸粘膜リサーフェシング（ＤＭＲ）処置は、２型糖尿病などのインスリン抵抗性代謝疾患を治療するために内視鏡的に行うことができる。ＤＭＲ処置は、食物の検出に影響を及ぼすので、有効な治療とすることができる。ＤＭＲ処置は、食物が正常よりも腸のより深くで感知される、例えば、（小腸の最初の部分である）十二指腸を通った後に感知される傾向があるように、十二指腸機能を阻害する。したがって、患者の身体は、典型的なものよりも腸のより深くで糖を感知し、したがって、典型的なものよりも遅く糖に反応し、そのため、血糖制御を改善することができる。十二指腸の不規則な機能は、食物に対する身体の典型的な反応を変更し、神経系及び化学的シグナルを介して、身体にその応答をグルコースレベルに適応させてインスリンレベルを増加させる。
本明細書に説明されるデバイス、システム、及び方法の様々な態様は、腸に行われる手術処置に関連し得る。例えば、十二指腸粘膜リサーフェシング（ＤＭＲ）処置は、２型糖尿病などのインスリン抵抗性代謝疾患を治療するために内視鏡的に行うことができる。ＤＭＲ処置は、食物の検出に影響を及ぼすので、有効な治療とすることができる。ＤＭＲ処置は、食物が正常よりも腸のより深くで感知される、例えば、（小腸の最初の部分である）十二指腸を通った後に感知される傾向があるように、十二指腸機能を阻害する。したがって、患者の身体は、典型的なものよりも腸のより深くで糖を感知し、したがって、典型的なものよりも遅く糖に反応し、そのため、血糖制御を改善することができる。十二指腸の不規則な機能は、食物に対する身体の典型的な反応を変更し、神経系及び化学的シグナルを介して、身体にその応答をグルコースレベルに適応させてインスリンレベルを増加させる。
【0135】
ＤＭＲ処置では、十二指腸粘膜は、生理食塩水などを用いて持ち上げられ、次いで、粘膜は、例えば、内視鏡の作業チャネルを通して十二指腸内に前進したアブレーションデバイスを使用して、アブレーションされる。アブレーション前に粘膜を持ち上げることは、アブレーションによる損傷から十二指腸の外層を保護するのに役立つ。粘膜がアブレーションされた後、粘膜は後に再生する。アブレーションデバイスの実施例は、ＮｅｕＷａｖｅ（商標）のアブレーションプローブ（Ｅｔｈｉｃｏｎ ＵＳ ＬＬＣ、Ｃｉｎｃｉｎｎａｔｉ，ＯＨから入手可能）である。アブレーションデバイスの別の実施例は、Ｈｙｂｌａｔｅのカテーテルアブレーションプローブ（Ｈｙｂｌａｔｅ Ｍｅｄｉｃａｌ、Ｍｉｓｇａｖ，Ｉｓｒａｅｌから入手可能）である。アブレーションデバイスの別の実施例は、Ｂａｒｘｘ（商標）のＨａｌｏＦｌｅｘ（Ｍｅｄｔｒｏｎｉｃ、Ｍｉｎｎｅａｐｏｌｉｓ，ＭＮから入手可能）である。
【0136】
図２２Ａは、ＤＭＲ処置の一実施形態を例解する。図２２Ａに示されるように、腹腔鏡１４００は、十二指腸１４０２の外部可視化のために、十二指腸１４０２の外部に位置付けられる。内視鏡１４０４は、十二指腸１４０２の内部可視化のために、食道１４０６を通り、胃１４０８を通り、十二指腸１４０２内へ経口的に前進させられる。アブレーションデバイス１４１０は、内視鏡１４０４の作業チャネルを通して前進させられ、内視鏡１４０４から十二指腸１４０２の中へ遠位に延在する。アブレーションデバイス１４１０のバルーン１４１２は、図２２Ａで拡張又は膨張されて示される。拡張又は膨張したバルーン１４１２は、アブレーションを繰り返すためにアブレーションデバイス１４１０が前進及び／又は後退させられる前に、円周方向アブレーションさえも生じ得るように、アブレーションデバイスの電極を中心に置くのに役立つことができる。粘膜がアブレーションデバイス１４１０を使用してアブレーションされる前に、十二指腸粘膜は、生理食塩水などで持ち上げられる。いくつかの実施形態では、バルーン１４１２を含むことに加えて、又はその代わりに、アブレーションデバイス１４１０は、拡張及び圧潰するように構成された電極アレイ又はバスケットを使用して、拡張可能／圧潰可能とすることができる。
【0137】
十二指腸１４０２の腹腔鏡による外部可視化は、十二指腸１４０２の熱監視を可能にすることができ、これは、十二指腸１４０２の外層が、十二指腸が穿孔されることなどによる十二指腸粘膜のアブレーションによって損傷されないことを確実にするのに役立ち得る。熱監視の様々な実施形態は、例えば、２０２１年１０月５日に出願された「Ｓｕｒｇｉｃａｌ Ｍｅｔｈｏｄｓ Ｕｓｉｎｇ Ｍｕｌｔｉ－Ｓｏｕｒｃｅ Ｉｍａｇｉｎｇ」と題する米国特許出願第１７／４９３，９０４号、及び２０２１年１０月５日に出願された「Ｓｕｒｇｉｃａｌ Ｍｅｔｈｏｄｓ Ｆｏｒ Ｃｏｎｔｒｏｌ Ｏｆ Ｏｎｅ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｗｉｔｈ Ａｎｏｔｈｅｒ」と題する米国特許出願第１７／４９４，３６４号で更に論じられている。内視鏡１４０４及び／又はアブレーションデバイス１４１０は、腹腔鏡１４００が、例えば、不可視光を使用することによって十二指腸の組織を通して可視化するように構成することができる基準マーカを含んで、アブレーションが生じる場所において腹腔鏡１４００が十二指腸１４０２を外部から可視化すべき場所を判定するのに役立つことができる。基準マーカの様々な実施形態は、例えば、以下、及び２０２１年１０月５日に出願された「Ｓｕｒｇｉｃａｌ Ｍｅｔｈｏｄｓ Ｆｏｒ Ｃｏｎｔｒｏｌ Ｏｆ Ｏｎｅ Ｖｉｓｕａｌｉｚａｔｉｏｎ Ｗｉｔｈ Ａｎｏｔｈｅｒ」と題する米国特許出願第１７／４９４，３６４号で更に論じられている。
【0138】
インテリジェント基準マーカ
本明細書で提供されるマルチソース撮像のためのデバイス、システム、及び方法は、基準特定及び追跡を可能にすることができる。概して、インテリジェント基準マーカは、手術器具又は撮像デバイスに取り付けられ、マーカが取り付けられた手術器具又は撮像デバイスに関する情報を記憶するように構成されている。したがって、マーカは、マーカが取り付けられる手術器具又は撮像デバイスのための基準又は参照点として機能することができ、それによって、手術器具又は撮像デバイスが追跡されることが可能になる。記憶された情報は、モデル番号及び／又はシリアル番号などの、マーカが取り付けられた手術器具又は撮像デバイスに固有の特定情報を含むことができ、それによって、手術器具又は撮像デバイスを一意的に特定することが可能になる。記憶された情報は、数字コード、英数字コード、欧字コードなど、マーカが取り付けられた手術器具又は撮像デバイスを含む可視化システムに固有の特定情報を含むことができ、それによって、可視化システムを一意的に特定することが可能になる。手術処置における手術器具又は撮像デバイスの使用に関して収集されたデータなど、手術器具又は撮像デバイスに関するデータは、手術器具又は撮像デバイスに一意的にリンクされ得る。データを特定の手術器具又は撮像デバイスに関連付けることは、性能の追跡、メンテナンスの必要性、以前に行われたメンテナンスの有効性、手術器具又は撮像デバイスが使用された及び／又は外科医によって使用された手術処置の数、並びに他の種類の分析などの様々な測定基準の分析を容易にし得る。特定情報はまた、製造ロット番号、製造業者名、製造日、適合ステープルカートリッジサイズ、エネルギーモダリティ、基準マーカの各々の間の距離（手術器具又は撮像デバイスが複数の基準マーカを含む実施形態において）、基準マーカの物理的サイズ、及び他の非一意的な特定情報などの、マーカが取り付けられるが手術器具又は撮像デバイスを一意的に特定しない、手術器具又は撮像デバイスに関連付けられた情報を含むことができる。特定情報の代わりに、又は特定情報に加えて、記憶された情報は、マーカが取り付けられた手術器具又は撮像デバイスの真正性を示す認証署名などの認証情報を含むことができ、それによって、手術器具又は撮像デバイスが真正であると認証されたものとして特定されることを可能にする。手術処置における手術器具又は撮像デバイスの使用前に手術器具又は撮像デバイスの真正性を検証することは、手術器具又は撮像デバイスが使用するのに安全であり、手術器具又は撮像デバイスの販売者、製造業者等によって提供されるよう期待される通りに機能することを確実にするのに役立ち得る。
本明細書で提供されるマルチソース撮像のためのデバイス、システム、及び方法は、基準特定及び追跡を可能にすることができる。概して、インテリジェント基準マーカは、手術器具又は撮像デバイスに取り付けられ、マーカが取り付けられた手術器具又は撮像デバイスに関する情報を記憶するように構成されている。したがって、マーカは、マーカが取り付けられる手術器具又は撮像デバイスのための基準又は参照点として機能することができ、それによって、手術器具又は撮像デバイスが追跡されることが可能になる。記憶された情報は、モデル番号及び／又はシリアル番号などの、マーカが取り付けられた手術器具又は撮像デバイスに固有の特定情報を含むことができ、それによって、手術器具又は撮像デバイスを一意的に特定することが可能になる。記憶された情報は、数字コード、英数字コード、欧字コードなど、マーカが取り付けられた手術器具又は撮像デバイスを含む可視化システムに固有の特定情報を含むことができ、それによって、可視化システムを一意的に特定することが可能になる。手術処置における手術器具又は撮像デバイスの使用に関して収集されたデータなど、手術器具又は撮像デバイスに関するデータは、手術器具又は撮像デバイスに一意的にリンクされ得る。データを特定の手術器具又は撮像デバイスに関連付けることは、性能の追跡、メンテナンスの必要性、以前に行われたメンテナンスの有効性、手術器具又は撮像デバイスが使用された及び／又は外科医によって使用された手術処置の数、並びに他の種類の分析などの様々な測定基準の分析を容易にし得る。特定情報はまた、製造ロット番号、製造業者名、製造日、適合ステープルカートリッジサイズ、エネルギーモダリティ、基準マーカの各々の間の距離（手術器具又は撮像デバイスが複数の基準マーカを含む実施形態において）、基準マーカの物理的サイズ、及び他の非一意的な特定情報などの、マーカが取り付けられるが手術器具又は撮像デバイスを一意的に特定しない、手術器具又は撮像デバイスに関連付けられた情報を含むことができる。特定情報の代わりに、又は特定情報に加えて、記憶された情報は、マーカが取り付けられた手術器具又は撮像デバイスの真正性を示す認証署名などの認証情報を含むことができ、それによって、手術器具又は撮像デバイスが真正であると認証されたものとして特定されることを可能にする。手術処置における手術器具又は撮像デバイスの使用前に手術器具又は撮像デバイスの真正性を検証することは、手術器具又は撮像デバイスが使用するのに安全であり、手術器具又は撮像デバイスの販売者、製造業者等によって提供されるよう期待される通りに機能することを確実にするのに役立ち得る。
【0139】
マーカによって記憶された情報の少なくとも一部は、変更することができない静的情報とすることができる。特定情報及び認証情報は、マーカによって記憶することができる静的情報の例である。
【0140】
マーカによって記憶された情報の少なくとも一部は、調節可能である、例えば、静的でない場合がある。情報を調節することができることは、マーカが取り付けられた手術器具又は撮像デバイスに関連付けられた現在の状態を反映するように情報を更新することを可能にし得る。したがって、手術器具又は撮像デバイスに関するリアルタイム情報を、手術器具又は撮像デバイスの使用中に収集することができ、これは、手術器具又は撮像デバイスの使用に関して、かつ／又は手術器具又は撮像デバイスのリアルタイム状態によって影響を受ける可能性がある手術処置の他の態様に関して、情報に基づく判断を行うことを可能にし得る。調節可能な情報の例としては、マーカが取り付けられた手術器具又は撮像デバイスの現在の状態（例えば、電源オン／オフ、動作モード、双極又は単極などのエネルギーモード、ステープリング又は非ステープリング、エネルギーの印加又は非印加、画像の収集又は非収集、及び他の状態情報）、及びマーカが取り付けられた手術器具又は撮像デバイスの構成要素の現在の状態（例えば、ジョー開放又はジョー閉鎖、エンドエフェクタ関節運動又は非関節運動、電極アレイの圧縮構成又は拡張構成、及び他の構成要素状態情報）が挙げられる。基準マーカ上に記憶された調節可能な情報は、記憶されたデータが磁気的に変化する磁気パラメータ変更、記憶されたデータが電磁的に変化する電磁パラメータ変更、又は記憶されたデータが電気的に変化する電気パラメータ変更のうちの少なくとも１つを介するなど、様々な方法のうちのいずれかで調節することができる。
【0141】
基準マーカは、受動的又は能動的とすることができる。バーコード又はＱＲコードなどの受動基準マーカは、読取器によって読み取られるように構成されている。受動基準マーカは、読取器によって読み取られることによる以外は、記憶された情報を提供することができない。磁気コイル又は磁気プリント回路などの一部の受動基準マーカは、基準マーカ上に情報を記憶することができない。
【0142】
能動基準マーカは、記憶された情報を示すエネルギーを放出するように構成されている。エネルギーは、読取器によって検出することができ、それによって、読取器が放出されたエネルギーの範囲内にある限り、記憶された情報を取り出すことが可能になる。例えば、基準マーカは、物体が取り付けられた手術器具又は撮像デバイスを一意的に特定する近赤外（ＮＩＲ）波長パターンを放射するように構成することができる。別の実施例では、複数の基準マーカの各々は、異なる周波数で超音波可聴ビーコンを放出するように構成することができる。異なるタイプの器具／デバイスは、収集された情報が特定の種類の手術器具又は撮像デバイスに関連付けられることができるように、異なる周波数に関連付けられ得る。更に別の実施例では、手術器具又は撮像デバイスは、複数の異なる周波数、例えば、シリアル番号を示す第１の周波数、モデル番号を示す第２の周波数、エンドエフェクタジョーサイズを示す第３の周波数などの各々で異なる種類の情報を発するように構成された基準マーカを含むことができる。更に別の実施例では、基準マーカは、能動又は受動ＲＬＣ共振回路を含み得る。受動ＲＬＣ共振回路は、例えば、電磁アレイによって励起され得る。
【0143】
能動基準マーカは、基準マーカが取り付けられる手術器具又は撮像デバイスの意図された機能を通信するように構成することができる。例えば、基準マーカは、第１の周波数でビーコンを受信する受信器が、手術器具又は撮像デバイスがエネルギー送達、ステープリング、アブレーションなどの機能を行うために患者の身体内のその標的位置に到達したことを手術器具又は撮像デバイスに通信するまで、第１の周波数で通信するように構成することができる。基準マーカは、次いで、第２の異なる周波数で通信するように構成することができる。
【0144】
基準マーカは、いくつかの方法のうちのいずれかで手術器具又は撮像デバイスに取り付けられることができる。例えば、基準マーカは、接着剤を使用して、手術器具又は撮像デバイスの表面に接着することができる。別の実施例では、基準マーカは、可視光で見えるインクを使用して、又は不可視光で見えるインクを使用して、手術器具又は撮像デバイスの表面上に印刷することができる。更に別の実施例では、基準マーカは、手術器具又は撮像デバイス内に埋め込むことができる。更に別の実施例では、基準マーカは、手術器具又は撮像デバイスの表面に射出成形することができる。
【0145】
基準マーカは、手術器具若しくは撮像デバイスの固定部分に取り付けられることができるか、又は基準マーカは、手術器具若しくは撮像デバイスの可動部分に取り付けられることができる。手術器具若しくは撮像デバイスの固定部分に取り付けられている基準マーカは、マーカが手術器具若しくは撮像デバイスに対して固定配置にあることを可能にし、これは、マーカが取り付けられる手術器具又は撮像デバイスに対してマーカが既知の位置にあるため、手術器具若しくは撮像デバイスの追跡を容易にすることができ、かつ／又はマーカが手術器具若しくは撮像デバイス上の既知の場所に予測可能に位置することができるため、マーカからの情報の収集を容易にし得る。手術器具又は撮像デバイスの可動部分に取り付けられている基準マーカは、マーカが手術器具又は撮像デバイスの可動部分とともに移動することを可能にし、これは、マーカが可動部分の現在の配置及び向きに応じて異なる配置にあるため、手術器具又は撮像デバイスの可動部分の状態を判定することを容易にし得る。可動部分の実施例は、細長いシャフトに対して関節運動されるように、かつ／又は細長いシャフトに対して回転されるように構成されたエンドエフェクタ、開放配置と閉鎖配置との間でエンドエフェクタを移動させる際に移動するように構成されたエンドエフェクタのジョー、互いに対して屈曲又は別様に関節運動するように構成された一連のリンクにおける各リンク、アブレーションデバイスの膨張可能又は拡張可能部材、及び他の可動部分を含む。
【0146】
図２３は、第１の基準マーカ及び第２の基準マーカ１３０２、１３０４を含む手術器具１３００の一実施形態を例解する。手術器具１３００は、この例解された実施形態では２つの基準マーカ１３０２、１３０４を含むが、手術器具（又は撮像デバイス）は、１つ又は２つ以上の基準マーカを有することができる。この例解された実施形態における手術器具１３００は把持器であるが、他の種類の手術器具は、１つ又は２つ以上の基準マーカを含むことができる。この例解された実施形態における手術器具１３００は、細長いシャフト１３０６と、間に組織を係合するように構成される、上側ジョー１３１０及び下側ジョー１３１２を含むエンドエフェクタ１３０８と、シャフト１３０６に対するエンドエフェクタ１３０８の関節運動を容易にするように構成される、シャフト１３０６とエンドエフェクタ１３０８との間の関節運動継手１３１４と、を含む。
【0147】
この例解された実施形態における第１の基準マーカ１３０２は、手術器具１３００の固定部分、すなわち細長いシャフト１３０６に取り付けられる。この例解された実施形態における第２の基準マーカ１３０４は、手術器具１３００の可動部分、すなわち、関節運動継手１３１４とエンドエフェクタ１３０８とを接続する細長い接続部分１３１６に取り付けられる。接続部分１３１６は、エンドエフェクタ１３０８を細長いシャフト１３０６に対して関節運動させるように構成されている。したがって、第２の基準マーカ１３０４は、エンドエフェクタ１３０８の関節運動状態を示すように構成されている。
【0148】
この例解された実施形態における第１の基準マーカ及び第２の基準マーカ１３０２、１３０４は、互いに同じサイズであり、各々が円形状を有する。手術器具又は撮像デバイスが複数の基準マーカを含む他の実施形態では、基準マーカのうちの１つ又は２つ以上は、他の基準マーカのうちの１つ又は２つ以上とは異なるサイズ及び／又は形状を有することができる。特定のサイズ及び形状の基準マーカが、他のサイズ及び形状よりも手術器具及び撮像デバイスの特定の部分に良好に適合する場合がある。
【0149】
基準マーカは、正方形、三角形、長方形、楕円形、コイルなど、円以外の形状を有することができる。基準マーカの形状は、基準マーカが取り付けられる手術器具又は撮像デバイスに関する情報を提供するために使用することができる。例えば、第１の形状を有する第１の基準マーカがエンドエフェクタの上側ジョー上にあり、第２の異なる形状を有する第２の基準マーカがエンドエフェクタの下側ジョー上にある、第１の形状を有する第１の基準マーカが手術器具又は撮像デバイスの細長いシャフトの第１の側にあり、第２の異なる形状を有する第２の基準マーカが手術器具又は撮像デバイスの反対側にあるなど、基準マーカの形状が、基準マーカが手術器具又は撮像デバイス上のどこに位置するかを示すように、特定の形状の基準マーカを手術器具又は撮像デバイスの異なる部分に関連付けることができる。別の実施例では、形状は、基準マーカが取り付けられている手術器具又は撮像デバイスの軸を示すことができる。例えば、細長い矩形形状を有する基準マーカは、手術器具又は撮像デバイスの細長いシャフト上にあり、シャフトの長手方向軸に実質的に平行に延在し、それによって、シャフトの長手方向軸の方向及び／又は軌道を示すことができる。当業者であれば、軸が正確に平行ではないが、それでもなお、測定機器の感度及び製造公差などの様々な理由のうちのいずれかにより、実質的に平行であるとみなされることがあると認識するであろう。
【0150】
本明細書に論じられるように、手術器具及び撮像デバイスは、手術処置を行っている間に可視化することができる。手術処置中の可視化は、静止画像、ビデオ画像、又は静止画像及びビデオ画像の両方を収集することができる。収集された画像が静止画像であるかビデオ画像であるかにかかわらず、収集された画像は、手術器具又は撮像デバイスに取り付けられた基準マーカを示すことができる。したがって、収集された画像は、例えば、手術ハブ、ロボット手術システム、又は他のコンピュータシステムのコントローラによって分析されて、収集された画像のうちの少なくとも１つに示される基準マーカを特定し、特定された画像を介してマーカから記憶された情報を取り出すことができる。したがって、画像が患者の身体の内外にある撮像デバイスを使用して収集されるかどうかにかかわらず、画像が表示のためにすでに収集されている手術処置を行う通常の過程において、基準マーカから情報を取り出すことができる。機械学習を使用して、経時的に基準マーカ特定を改善することができる。
【0151】
例えば、画像内に示される基準マーカは、画像認識アルゴリズムを使用して特定することができる、バーコード又はＱＲコードなどの受動マーカとすることができる。基準マーカとして特定されると、次いで情報を受動マーカから電子的に取り出すことができ、例えば、バーコード又はＱＲコードを読み取ることができる。
【0152】
基準マーカから取り出された情報は、様々な方法のうちのいずれかで使用することができる。例えば、上述したように、情報は、マーカが取り付けられた手術器具又は撮像デバイスを一意的に特定するために使用することができる。別の実施例では、同じく上述したように、情報を使用して、マーカが取り付けられた手術器具又は撮像デバイスを認証することができる。更に別の実施例では、同じく上述したように、情報を使用して、様々な測定基準の分析を容易にすることができる。
【0153】
更に別の実施例では、情報を使用して、マーカが取り付けられている手術器具又は撮像デバイスを人間工学的に評価することができる。人間工学的評価に基づいて、手術器具又は撮像デバイスの現在の配置又は向きが１つ又は２つ以上の想定されるアクションに適切でなく、それによって、特定のアクション（又は複数の特定のアクション）がとられる前に行われるべきアクションを示すユーザ通知をトリガする場合がある。いくつかの実施形態では、ユーザ通知は、アクションがとられるべきであることを示さず、代わりに、例えば、ジョーが開放している、ジョーが閉鎖されている、エンドエフェクタが関節運動している、エンドエフェクタが関節運動していない、電極アレイが圧縮構成にある、電極アレイが拡張構成にあるなど、単に人間工学的評価を示す場合がある。例えば、手術ステープラのエンドエフェクタの現在の向きが基準マーカによって示されるように反転していることに基づいて、ユーザ通知は、ステープルカートリッジをエンドエフェクタから取り外す前にエンドエフェクタが１８０°回転されるべきであること、例えば、ステープルがカートリッジから発射された後にカートリッジを交換することを示し得る。別の実施例では、基準マーカによって示されるジョー開放状態に基づいて、ユーザ通知は、手術器具のジョーが現在開放しており、例えば、ジョーの一方又は両方の電極を活性化して組織にエネルギーを印加する、器具を患者の身体から取り外す、ステープルを器具から発射するなどの前に閉鎖されるべきであることを示すことができる。ジョー開放状態は、例えば、手術器具の２つの基準マーカ間の距離が、ジョーが閉鎖されたときの２つの基準マーカ間の距離とは異なると判定することによって判定され得る。ジョーが閉鎖されているときの２つの基準マーカ間の距離は、次いで人間工学的評価における基準として使用することができる記憶された情報の一部とすることができるか、又はジョーが閉鎖されているときの２つの基準マーカ間の距離は、評価を行うコントローラがアクセス可能な予め記憶された情報とすることができる。更に別の実施例では、圧縮された電極アレイ状態に基づいて、ユーザ通知は、電極アレイが取り付けられている手術デバイスの拡張可能部材を拡張することによって、かつ／又は電極アレイが、圧縮構成で電極アレイを現在収容している収容機構の遠位に位置付けることによってなど、エネルギー送達が始まる前に電極アレイが拡張されるべきであることを示すことができる。人間工学的評価は、基準マーカが取り付けられた手術器具若しくは撮像デバイスが、基準マーカから情報を収集した撮像デバイスに向かって向けられているか、又は撮像デバイスから離れて向けられているか否かについての判定を可能にすることができる。そのような例では、手術器具又は撮像デバイスは、複数の基準マーカを含むことができる。人間工学的評価は、基準マーカの各々の間の距離を判定し、それによって、手術器具若しくは撮像デバイスが、情報を収集した撮像デバイスに向かって向けられているか、又は撮像デバイスから離れて向けられているかを示す、基準マーカの三次元態様を判定することができる。手術器具又は撮像デバイスがどこに向けられているかを判定することは、手術器具又は撮像デバイスが別様に見えない別の収集された画像上への手術器具又は撮像デバイスの画像オーバーレイを容易にし得る。
【0154】
更に別の実施例では、手術器具又は撮像デバイスは、基準マーカが取り付けられる手術器具若しくは撮像デバイス、又はその一部のスケール、角度、距離、及び配置を判定するために使用することができる複数の基準マーカを含むことができる。基準マーカは、基準マーカの画像を収集する読取器に対して手術器具又は撮像デバイスがどのように位置付けられるかに基づいて眺めが変化するパターンで手術器具又は撮像デバイスに取り付けられることができる。基準マーカの収集されたパターン、基準マーカが取り付けられる手術器具若しくは撮像デバイス、又はその一部のスケール、角度、距離及び配置に基づく。
【0155】
基準マーカの記憶された情報は、いかなる復号も必要とせずに読み取り可能とすることができる。代替的に、基準マーカの記憶された情報のうちの少なくとも一部は、読み取り可能になる前に復号を必要とする場合がある。復号を必要とすることは、セキュリティを向上させ、許可されたユーザのみが記憶された情報を復号することができること、例えば、そのため、基準マーカが取り付けられた手術器具又は撮像デバイスを購入したと確認されたユーザのみが、必要な復号鍵へのアクセスを有することを確実にするのに役立ち得る。手術ハブ、ロボット手術システム、又は他のコンピュータシステムのメモリは、メモリ内に事前に記憶された復号鍵を有するように構成されることができ、そのため、基準マーカが手術処置中に読み取られると、復号鍵が取り出され、記憶された情報を復号するのに使用され得る。基準マーカは、手術ハブ、ロボット手術システム、又は他のコンピュータシステムが、複数の復号鍵の各々を異なる非暗号化コード又は他の識別子と関連付けるルックアップテーブルにおけるなど、正しい復号鍵を位置特定するために使用することができる非暗号化コード又は他の識別子を含むことができる。
【0156】
基準マーカの記憶された情報は、１つのエネルギーモード、例えば、可視光、超音波、赤外（ＩＲ）、ホール効果又はＭＲＩなどの磁気、ＣＴなどのみを使用して収集されるように構成することができる。基準マーカの情報が不可視光を使用して取り出し可能であることは、基準マーカが、手術器具又は撮像デバイスの外部表面上にあることができるが、手術器具又は撮像デバイスの外部表面上にある必要はないことを意味する。代わりに、不可視光を使用して読み取り可能な情報を記憶する基準マーカは、内部に埋め込まれることによって、又は手術器具若しくは撮像デバイスの内部構成要素の表面上にあることなどによって、手術器具又は撮像デバイスの内部にあることができる。例えば、タングステンの基準マーカは、タングステン基準マーカがＣＴ画像上では見えるが肉眼では見えないように、手術器具又は撮像デバイスの外部鋼製部材内とすることができる。
【0157】
可視光を使用して読み取り可能な情報を記憶する基準マーカは、反射特性を有してもよく、その場合、基準マーカは、弱い光条件下で最もよく見ることができる。
【0158】
基準マーカ上に記憶された特定の種類の情報、例えば、特定情報、認証情報などは、特定のタイプの情報が所望されるとき、その種類の情報に関連付けられたエネルギーモードが、その情報を取り出すのに使用することができるように、特定のエネルギーモードに関連付けることができる。手術器具又は撮像デバイスが複数の基準マーカを含む場合、マーカの各々からの情報は、全ての他のマーカと同じエネルギーモードを使用して、又はマーカのうちの少なくとも１つの他のものとは異なるエネルギーモードを使用して収集されるように構成することができる。複数の基準マーカから情報を取り出すために単一のエネルギーモードを使用することができるので、同じエネルギーモードを使用して取り出し可能な情報を有する２つ以上の基準マーカは、情報取り出しプロセスを高速化することができる。異なるエネルギーモードで読み取り可能である同じ手術器具又は撮像デバイス上の異なる基準マーカは、異なるエネルギーモードを使用して、所望に応じて異なる情報を取り出すことができるので、標的とされる情報の取り出しを容易にすることができる。
【0159】
基準マーカは、複数の層を含むことができる。層の各々は、異なるエネルギーモードを使用して特定可能であるように構成することができる。したがって、単一の基準マーカは、異なる光スペクトル内の複数の異なる波長を使用して読み取られるように構成することができる。層は、特定のエネルギーモードでの読み取りを容易にするために、異なる材料から作製することができる。例えば、タングステンは、ＣＴを使用して見ることができる。別の実施例では、異なる水素様相を有するポリマー密度を超音波で見ることができる。例えば、ポリマーは、電波及び電磁スペクトルのＸ線部分に対して不透明であるように、放射線不透過性とすることができる。別の実施例では、ポリマーは、電波及び電磁スペクトルのＸ線部分に対して不透明でないように、放射線不透過性ではない場合がある。更に別の実施例では、材料は、特定の光波長に曝露されたときに蛍光を発するように構成することができる。
【0160】
基準マークの複数の層の各々は、同じ記憶された情報を含むことができ、これは、冗長性を提供し得、かつ／又は手術処置中に基準マーカが曝露される光のタイプにかかわらず、基準マーカからの情報の収集を容易にし得る。基準マーカが、基準マーカに適合する２つ以上のタイプの光に曝露され、基準マーカのそれらの光層の各々が同じ情報を記憶する場合、読み取られた層の各々からの情報を互いに比較して、情報の精度を検証することができる。代替的に、層のうちの１つ又は２つ以上は、他の層のうちの少なくとも１つとは異なる情報を含むことができ、これは、異なる種類の光が異なる情報を収集するのに使用されることができるため、標的とされる情報の収集を促進し得る。
【0161】
図２４、図２５、及び図２６は、複数の層１３２２、１３２４、１３２６を含む基準マーカ１３２０の一実施形態を例解する。複数の層を含む基準マーカは、この例解された実施形態におけるように、全てが同じ軸方向レベルにあるように互いに水平に隣接する層を有することができるか、又は層は、三次元であるように異なる軸方向（垂直）レベルにあることができる。図２４は、可視光を使用して読み取られるように構成された可視光層１３２２を例解する。図２５は、超音波光を使用して読み取られるように構成された超音波光層１３２４を例解する。図２６は、ＩＲ光を使用して読み取られるように構成された赤外光層１３２６を例解する。層１３２２、１３２４、１３２６は、整列された中心軸１３２８ｃ及び整列されたクロッキング軸１３２８ｋを有し、これは、半径方向の向きを調節するための各可視化技法を可能にし得る。この例解された実施形態における基準マーカ１３２０は、円形状を有するが、本明細書に論じられるように、別の形状を有することができる。
【0162】
図２７は、複数のエネルギーモードを使用して基準マーカから情報を収集するように構成された撮像デバイス１３３０の一実施形態を例解する。撮像デバイス１３３０は、この例解された実施形態ではスコープであるが、他の撮像デバイスを使用することができる。撮像デバイス１３３０は、図２３の手術器具１３００である第１の手術器具、及び第２の手術器具１３３２とともに使用されている状態で示されている。第２の手術器具１３３２は、手術器具１３００と類似した把持器である。他の種類の手術器具を基準マーカとともに使用することができるため、把持器は、例示としてのみ使用されている。
【0163】
撮像デバイス１３３０は、３つのエネルギーモードを使用して、第１の手術器具１３００の第１の基準マーカ及び第２の基準マーカ１３０２、１３０４から、かつ第２の手術器具１３３２の第３の基準マーカ及び第４の基準マーカ１３３４、１３３６から情報を収集するものとして、図２７に示されている。この例解された実施形態における３つのエネルギーモードは、可視光感知のための可視光１３３８、超音波感知のための超音波光１３４０、及び放射線不透過性感知のための放射線不透過性周波数光１３４２である。第１、第２、第３、及び第４の基準マーカ１３０２、１３０４、１３３４、１３３６のうちの少なくとも１つは、可視光１３３８を使用して読み取り可能であり、第１、第２、第３、及び第４の基準マーカ１３０２、１３０４、１３３４、１３３６のうちの少なくとも１つは、超音波光１３４０を使用して読み取り可能であり、第１、第２、第３、及び第４の基準マーカ１３０２、１３０４、１３３４、１３３６のうちの少なくとも１つは、放射線不透過性周波数光１３４２を使用して読み取り可能である。第１の手術器具１３００の第１の基準マーカ及び第２の基準マーカ１３０２、１３０４は、可視光、超音波光、及び放射線不透過性周波数エネルギーモードのうちの少なくとも１つを使用して読み取り可能であるものとして図２７に関して説明されているが、他の実施形態では、他のエネルギーモードを使用して読み取り可能であってもよい。
【0164】
図２７の実施形態では、第１、第２、第３、及び第４の基準マーカ１３０２、１３０４、１３３４、１３３６に様々に関連付けられた３つのエネルギーモードを使用して情報を収集するために、単一の撮像デバイス１３３０が使用される。別の実施形態では、２つ以上の撮像デバイスを、３つのエネルギーモードのうちの少なくとも１つを使用する撮像デバイスの各々とともに使用することができる。
【0165】
本明細書に開示されるデバイス及びシステムは、１回の使用後に廃棄されるように設計することができるか、又は複数回使用されるように設計することができる。しかしながら、いずれの場合も、デバイスは、少なくとも１回の使用の後に再使用のために再調整することができる。再調整には、デバイスの分解工程、それに続く洗浄工程又は特定の部品の交換工程、及びその後の再組み立て工程の任意の組み合わせを含むことができる。具体的には、デバイスは分解することができ、デバイスの多くの特定の部品又は部分を、任意の組み合わせで選択的に交換するか又は取り外すことができる。特定の部品が洗浄及び／又は交換されると、続く使用のためにデバイスを再調整施設において、又は手術処置の直前に外科チームによって再組み立てすることができる。当業者であれば、デバイスの再調整が、分解、洗浄／交換、及び再組み立てのための様々な技法を利用できることを理解するであろう。このような技法の使用、及び結果として得られる再調整されたデバイスは、全て本出願の範囲内にある。
【0166】
本明細書に開示されるデバイスは、使用前に滅菌されることが好ましくあり得る。これは、ベータ線又はガンマ線放射、酸化エチレン、蒸気、及び液浴（例えば、低温浸漬）などの当業者には既知の多くの方法によって行うことができる。内部回路を含むデバイスを滅菌する典型的な実施形態は、２０１２年２月１４日に出願された「Ｓｙｓｔｅｍ Ａｎｄ Ｍｅｔｈｏｄ Ｏｆ Ｓｔｅｒｉｌｉｚｉｎｇ Ａｎ Ｉｍｐｌａｎｔａｂｌｅ Ｍｅｄｉｃａｌ Ｄｅｖｉｃｅ」と題する米国特許第８，１１４，３４５号により詳細に記載されている。デバイスは、埋め込まれる場合、完全に密封されることが好ましい。これは、当業者に既知の多くの方法によって行うことができる。
【0167】
本開示は、本明細書で提供される開示全体の文脈内で、例示のみを目的として上で説明された。本開示の全体的な範囲から逸脱することなく、特許請求の範囲の趣旨及び範囲内の修正を行い得ることが理解されよう。本明細書で引用される全ての刊行物及び参考文献は、全ての目的のために参照によりその全体が本明細書に明示的に組み込まれる。
【0168】
〔実施の態様〕
（１） 手術システムであって、
手術処置を行っている間に患者の身体内に前進させられるように構成された遠位部分を有する手術デバイスと、
前記手術デバイスの前記遠位部分の外部上の基準マーカであって、前記手術デバイスに関連付けられた情報を記憶する、基準マーカと、
前記患者の前記身体内の前記基準マーカを可視化する画像を収集するように構成された撮像デバイスと、
前記手術処置を行うのとリアルタイムで前記画像を分析し、前記手術デバイスに関連付けられた前記情報を検出するように構成されたコントローラと、を備える、手術システム。
（２） 記憶された前記情報が、前記手術デバイスに固有であり、前記手術デバイスのモデル番号及び前記手術デバイスのシリアル番号のうちの少なくとも１つを含む、実施態様１に記載のシステム。
（３） 前記記憶された情報が、前記手術デバイスを含む可視化システムに固有である、実施態様１又は２に記載のシステム。
（４） 前記記憶された情報が、前記手術デバイスが真正であると認証されていることを示す認証署名を含み、
前記コントローラが、検出された前記情報を分析し、それによって、前記手術デバイスが真正であると認証されていると判定するように構成されている、実施態様１に記載のシステム。
（５） 前記記憶された情報が静的ではなく、前記手術処置を行っている間に前記手術デバイスの第２のコントローラによって変更されるように構成されている、実施態様１に記載のシステム。
（１） 手術システムであって、
手術処置を行っている間に患者の身体内に前進させられるように構成された遠位部分を有する手術デバイスと、
前記手術デバイスの前記遠位部分の外部上の基準マーカであって、前記手術デバイスに関連付けられた情報を記憶する、基準マーカと、
前記患者の前記身体内の前記基準マーカを可視化する画像を収集するように構成された撮像デバイスと、
前記手術処置を行うのとリアルタイムで前記画像を分析し、前記手術デバイスに関連付けられた前記情報を検出するように構成されたコントローラと、を備える、手術システム。
（２） 記憶された前記情報が、前記手術デバイスに固有であり、前記手術デバイスのモデル番号及び前記手術デバイスのシリアル番号のうちの少なくとも１つを含む、実施態様１に記載のシステム。
（３） 前記記憶された情報が、前記手術デバイスを含む可視化システムに固有である、実施態様１又は２に記載のシステム。
（４） 前記記憶された情報が、前記手術デバイスが真正であると認証されていることを示す認証署名を含み、
前記コントローラが、検出された前記情報を分析し、それによって、前記手術デバイスが真正であると認証されていると判定するように構成されている、実施態様１に記載のシステム。
（５） 前記記憶された情報が静的ではなく、前記手術処置を行っている間に前記手術デバイスの第２のコントローラによって変更されるように構成されている、実施態様１に記載のシステム。
【0169】
（６） 前記第２のコントローラが、前記手術デバイス及び／又は前記手術デバイスの構成要素の現在の状態に基づいて、前記記憶された情報を変更するように構成されている、実施態様５に記載のシステム。
（７） 前記第２のコントローラが、磁気パラメータ変更、電磁パラメータ変更、又は電気パラメータ変更のうちの少なくとも１つを介して、前記記憶された情報を変更するように構成されている、実施態様５又は６に記載のシステム。
（８） 前記記憶された情報が、静的であり、変更することができない、実施態様１に記載のシステム。
（９） 前記基準マーカが、前記手術デバイスの固定部分に取り付けられている、実施態様１に記載のシステム。
（１０） 前記基準マーカが、前記手術デバイスの可動部分に取り付けられており、
前記コントローラが、前記検出された情報を分析し、それによって、前記手術デバイスの前記可動部分の状態を判定するように構成されている、実施態様１に記載のシステム。
（７） 前記第２のコントローラが、磁気パラメータ変更、電磁パラメータ変更、又は電気パラメータ変更のうちの少なくとも１つを介して、前記記憶された情報を変更するように構成されている、実施態様５又は６に記載のシステム。
（８） 前記記憶された情報が、静的であり、変更することができない、実施態様１に記載のシステム。
（９） 前記基準マーカが、前記手術デバイスの固定部分に取り付けられている、実施態様１に記載のシステム。
（１０） 前記基準マーカが、前記手術デバイスの可動部分に取り付けられており、
前記コントローラが、前記検出された情報を分析し、それによって、前記手術デバイスの前記可動部分の状態を判定するように構成されている、実施態様１に記載のシステム。
【0170】
（１１） 前記基準マーカが、受動的であり、バーコード及びＱＲコードのうちの少なくとも１つを含む、実施態様１に記載のシステム。
（１２） 前記基準マーカが、能動的であり、前記撮像デバイスによって検出されるように構成されたエネルギーを放出するように構成されており、
前記コントローラが、前記手術処置を行うのとリアルタイムで、前記撮像デバイスによって検出された前記エネルギーを分析し、それによって、標的に対する前記手術デバイスの位置を判定するように構成されている、実施態様１に記載のシステム。
（１３） 前記手術デバイスが、手術解剖器具、手術ステープラ、手術把持器、クリップアプライヤ、煙排出器、及び手術エネルギーデバイスのうちの１つを含む、実施態様１に記載のシステム。
（１４） 手術ハブが、前記コントローラを含む、実施態様１に記載のシステム。
（１５） ロボット手術システムが、前記コントローラを含み、前記手術デバイス及び前記撮像デバイスが、各々、前記ロボット手術システムに解放可能に結合され、前記ロボット手術システムによって制御されるように構成されている、実施態様１に記載のシステム。
（１２） 前記基準マーカが、能動的であり、前記撮像デバイスによって検出されるように構成されたエネルギーを放出するように構成されており、
前記コントローラが、前記手術処置を行うのとリアルタイムで、前記撮像デバイスによって検出された前記エネルギーを分析し、それによって、標的に対する前記手術デバイスの位置を判定するように構成されている、実施態様１に記載のシステム。
（１３） 前記手術デバイスが、手術解剖器具、手術ステープラ、手術把持器、クリップアプライヤ、煙排出器、及び手術エネルギーデバイスのうちの１つを含む、実施態様１に記載のシステム。
（１４） 手術ハブが、前記コントローラを含む、実施態様１に記載のシステム。
（１５） ロボット手術システムが、前記コントローラを含み、前記手術デバイス及び前記撮像デバイスが、各々、前記ロボット手術システムに解放可能に結合され、前記ロボット手術システムによって制御されるように構成されている、実施態様１に記載のシステム。
【0171】
（１６） 方法であって、
手術処置を行っている間に、実施態様１に記載の手術デバイスを前記患者の前記身体内に前進させることであって、前記手術デバイスが、ロボット手術システムに解放可能に結合されている、ことと、
前記手術処置を行っている間に、実施態様１に記載の撮像デバイスを前記患者の前記身体内に前進させることであって、前記撮像デバイスが、前記ロボット手術システムに解放可能に結合されている、ことと、
前記手術処置を行っている間に、前記撮像デバイスを使用して、実施態様１に記載の基準マーカの画像を収集することと、
実施態様１に記載のコントローラを使用して、前記手術処置を行っている間に、前記画像を分析して前記手術デバイスに関連付けられた前記情報を検出することと、を含む、方法。
（１７） 記憶された前記情報が、前記手術デバイスが真正であると認証されていることを示す認証署名を含み、
前記分析することが、前記認証署名に基づいて、前記手術デバイスが真正であると認証されていると判定することを含む、実施態様１６に記載の方法。
（１８） 前記コントローラを用いて、前記手術処置を行っている間に前記手術デバイスによって行われるアクションに基づいて、前記記憶された情報を変更することを更に含む、実施態様１６又は１７に記載の方法。
（１９） 前記基準マーカが、エネルギーを放出し、
前記方法が、前記コントローラを使用して、前記手術処置を行っている間に、放出された前記エネルギーを分析し、それによって、標的に対する前記手術デバイスの位置を判定することを更に含む、実施態様１６に記載の方法。
（２０） 前記ロボット手術システムが、前記コントローラを含む、実施態様１６に記載の方法。
手術処置を行っている間に、実施態様１に記載の手術デバイスを前記患者の前記身体内に前進させることであって、前記手術デバイスが、ロボット手術システムに解放可能に結合されている、ことと、
前記手術処置を行っている間に、実施態様１に記載の撮像デバイスを前記患者の前記身体内に前進させることであって、前記撮像デバイスが、前記ロボット手術システムに解放可能に結合されている、ことと、
前記手術処置を行っている間に、前記撮像デバイスを使用して、実施態様１に記載の基準マーカの画像を収集することと、
実施態様１に記載のコントローラを使用して、前記手術処置を行っている間に、前記画像を分析して前記手術デバイスに関連付けられた前記情報を検出することと、を含む、方法。
（１７） 記憶された前記情報が、前記手術デバイスが真正であると認証されていることを示す認証署名を含み、
前記分析することが、前記認証署名に基づいて、前記手術デバイスが真正であると認証されていると判定することを含む、実施態様１６に記載の方法。
（１８） 前記コントローラを用いて、前記手術処置を行っている間に前記手術デバイスによって行われるアクションに基づいて、前記記憶された情報を変更することを更に含む、実施態様１６又は１７に記載の方法。
（１９） 前記基準マーカが、エネルギーを放出し、
前記方法が、前記コントローラを使用して、前記手術処置を行っている間に、放出された前記エネルギーを分析し、それによって、標的に対する前記手術デバイスの位置を判定することを更に含む、実施態様１６に記載の方法。
（２０） 前記ロボット手術システムが、前記コントローラを含む、実施態様１６に記載の方法。
【0172】
（２１） 手術ハブが、前記コントローラを含む、実施態様１６に記載の方法。
（２２） 命令を含むコンピュータプログラム製品であって、前記命令は、前記プログラムが実施態様１に記載のシステムのコントローラによって実行されるときに、前記コントローラシステムに実施態様１６に記載の方法を行わせる、コンピュータプログラム製品。
（２３） 実施態様２２に記載のコンピュータプログラム製品を記憶したコンピュータ可読媒体。
（２４） 実施態様２２に記載のコンピュータプログラム製品を搬送するデータキャリア信号。
（２２） 命令を含むコンピュータプログラム製品であって、前記命令は、前記プログラムが実施態様１に記載のシステムのコントローラによって実行されるときに、前記コントローラシステムに実施態様１６に記載の方法を行わせる、コンピュータプログラム製品。
（２３） 実施態様２２に記載のコンピュータプログラム製品を記憶したコンピュータ可読媒体。
（２４） 実施態様２２に記載のコンピュータプログラム製品を搬送するデータキャリア信号。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図22A】
【図23】
【図24】
【図25】
【図26】
【図27】
【国際調査報告】