IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オーリス ヘルス インコーポレイテッドの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-20
(45)【発行日】2023-10-30
(54)【発明の名称】管状網の経路ベースのナビゲーション
(51)【国際特許分類】
   A61B 34/20 20160101AFI20231023BHJP
【FI】
A61B34/20
【請求項の数】 13
(21)【出願番号】P 2020566560
(86)(22)【出願日】2019-05-28
(65)【公表番号】
(43)【公表日】2021-09-27
(86)【国際出願番号】 US2019034137
(87)【国際公開番号】W WO2019231891
(87)【国際公開日】2019-12-05
【審査請求日】2022-05-25
(31)【優先権主張番号】62/678,970
(32)【優先日】2018-05-31
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】518083032
【氏名又は名称】オーリス ヘルス インコーポレイテッド
(74)【代理人】
【識別番号】100088605
【弁理士】
【氏名又は名称】加藤 公延
(74)【代理人】
【識別番号】100130384
【弁理士】
【氏名又は名称】大島 孝文
(72)【発明者】
【氏名】スリニバサン・スバシニ
(72)【発明者】
【氏名】ラフィー-タリ・ヘディー
(72)【発明者】
【氏名】ウマラネニ・リトビック
(72)【発明者】
【氏名】ヌーナン・デイビッド・ポール
(72)【発明者】
【氏名】ジーバン・プラサンス
【審査官】宮崎 敏長
(56)【参考文献】
【文献】国際公開第2017/049163(WO,A1)
【文献】特表2016-523592(JP,A)
【文献】特表2017-525418(JP,A)
【文献】特表2017-523836(JP,A)
【文献】特表2015-519130(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/005
A61B 34/20
(57)【特許請求の範囲】
【請求項1】
医療用ロボットシステムであって、
1つ以上のプロセッサのセットと、
前記プロセッサのセットと通信し、かつ患者の管腔網のマッピングされた部分のモデルと、前記モデルに対する標的のポジションと、前記モデルの少なくとも一部分に沿った、アクセス点から前記標的までの経路と、を記憶した少なくとも1つのコンピュータ可読メモリであって、前記少なくとも1つのコンピュータ可読メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れると判定することと、
少なくとも第1のモダリティを介して器具の現在位置を表示することであって、前記第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及び前記モデルの前記マッピングされた部分に基づいて位置を導出し、前記器具は、前記管腔網を通って駆動されるように構成されている、ことと、
前記現在位置に基づいて、前記器具の遠位端は、前記経路が前記管腔網の前記マッピングされた部分を離れる点の閾値範囲内にあると判定することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、前記第1のモダリティに与えられた重みの低減に基づいて前記器具の前記現在位置を更新することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、少なくとも第2のモダリティを介して前記器具の前記現在位置を更新することであって、前記第2のモダリティは、前記位置データに基づいて、前記モデルの前記マッピングされた部分に依存せずに、前記位置を導出することと、を行わせる、少なくとも1つのコンピュータ可読メモリと、を備える、医療用ロボットシステム。
【請求項2】
前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、前記器具が、前記第1のセグメントに隣接しかつ前記経路に沿って位置する第2のセグメント内に位置していると判定することを行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメント内に位置していると判定することに更に応答したものである、請求項1に記載の医療用ロボットシステム。
【請求項3】
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記器具が前記第2のセグメントから閾値距離内にあると判定することを更に含み、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメントから前記閾値距離内にあると判定することに更に応答したものである、請求項2に記載の医療用ロボットシステム。
【請求項4】
前記少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記現在位置に基づいて、前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することと、
前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することに応答して、前記第1のモダリティに与えられた前記重みの増加に基づいて前記器具の前記現在位置を更新することと、を行わせる、請求項2に記載の医療用ロボットシステム。
【請求項5】
前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することは、
前記第1のモダリティに与えられた低減した前記重みに基づいて、前記器具の前記現在位置の更新が最初に行われた前記器具の第1の位置を判定することと、
前記器具が前記第1の位置に後退していると判定することと、を含む、請求項4に記載の医療用ロボットシステム。
【請求項6】
前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れると判定することは、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記第1のセグメントと前記管腔網の1つ以上のマッピングされていないセグメントとの間の、より多くのマッピングされていない交差点のうちの1つの位置を識別することと、
前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から規定された距離内にあると判定することと、を行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から前記規定された距離内にあると判定することに更に応答したものである、請求項1に記載の医療用ロボットシステム。
【請求項7】
前記少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記器具の前記現在位置が前記点の前記閾値範囲内にあると判定することに応答して、経路追跡モードに入ることと、
前記経路追跡モードにあるときに、ユーザディスプレイ上に、前記モデルに対する前記器具の以前の位置を示す視覚的しるしを表示することと、を行わせる、請求項1に記載の医療用ロボットシステム。
【請求項8】
前記視覚的しるしは、前記管腔網内の前記器具の履歴ポジションを示している、請求項7に記載の医療用ロボットシステム。
【請求項9】
前記第1のモダリティは、前記経路追跡モードではないときに、画像データ、電磁(EM)データ、及びロボットデータに基づいて前記器具の前記位置を導出する、請求項7に記載の医療用ロボットシステム。
【請求項10】
前記少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記経路追跡モードにあるときに、前記画像データ、前記EMデータ、及び前記ロボットデータのうち少なくとも1つを参照することなく、前記器具の前記位置を判定することを行わせる、請求項9に記載の医療用ロボットシステム。
【請求項11】
非一時的コンピュータ可読記憶媒体であって、前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を有し、前記命令は、実行されると、少なくとも1つのコンピューティング装置に、
経路が標的に到達する前に患者の管腔網のマッピングされた部分を離れると判定することであって、少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶された前記管腔網の前記マッピングされた部分のモデルと、前記モデルに対する前記標的のポジションと、前記モデルの少なくとも一部分に沿った、アクセス点から前記標的までの前記経路と、を有する、ことと、
少なくとも第1のモダリティを介して器具の現在位置を表示することであって、前記第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及び前記モデルの前記マッピングされた部分に基づいて位置を導出し、前記器具は、前記管腔網を通って駆動されるように構成されている、ことと、
前記現在位置に基づいて、前記器具の遠位端は、前記経路が前記管腔網の前記マッピングされた部分を離れる点の閾値範囲内にあると判定することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、前記第1のモダリティに与えられた重みの低減に基づいて前記器具の前記現在位置を更新することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、少なくとも第2のモダリティを介して前記器具の前記現在位置を更新することであって、前記第2のモダリティは、前記位置データに基づいて、前記モデルの前記マッピングされた部分に依存せずに、前記位置を導出することと、を行わせる、非一時的コンピュータ可読記憶媒体。
【請求項12】
前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、前記器具が、前記第1のセグメントに隣接しかつ前記経路に沿って位置する第2のセグメント内に位置していると判定することを行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメント内に位置していると判定することに更に応答したものである、請求項11に記載の非一時的コンピュータ可読記憶媒体。
【請求項13】
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記器具が前記第2のセグメントから閾値距離内にあると判定することを更に含み、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメントから前記閾値距離内にあると判定することに更に応答したものである、請求項12に記載の非一時的コンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本願は、参照によりその全体が本明細書に組み込まれる、2018年5月31日出願の米国仮特許出願第62/678,970号の利益を主張するものである。
【0002】
(発明の分野)
本明細書に開示されるシステム及び方法は、外科用ロボット工学に関し、より具体的には、経路に少なくとも部分的に基づく、患者の身体の管状網内における医療器具のナビゲーションに関する。
【背景技術】
【0003】
気管支鏡検査は、医師が気管支及び細気管支などの患者の肺気道の内部状態を検査することを可能とする医療処置である。肺気道は、導管又は気管から肺に空気を運ぶ。医療処置の間、気管支鏡として知られる薄い可撓性の管状ツールを患者の口に挿入して、患者の喉からその肺気道内まで通すことができ、患者は、医療処置中の外科的検査及び手術のためにその喉及び肺空洞を弛緩させるため、一般には麻酔される。
【0004】
関連技術において、気管支鏡は、医師が患者の気管及び気道を検査することを可能にする光源及び小型カメラを含んでもよく、例えば、患者の肺内に大量の出血が存在する場合、又は大きな物体が患者の喉を閉塞している場合は、剛性管を外科的な目的で気管支鏡と共に用いてもよい。剛性管が使用される場合、患者は麻酔されることが多い。他の先進的医療装置の台頭と共に、ロボット気管支鏡の使用はますます現実に近づいている。ロボット気管支鏡は、管状網を通したナビゲーションにおける多大な利点を提供する。これらは、使用が容易であり、気管支鏡検査段階の間であっても治療及び生検の投与を簡便にすることを可能にする。
【0005】
機械的装置又はプラットフォーム、例えば、上述のロボット気管支鏡とは別に、様々な方法及びソフトウェアモデルを使用して外科手術を支援することができる。一例として、患者の肺のコンピュータ断層撮影(CT)スキャンは、多くの場合、外科的検査の予備作業中に行われる。CTスキャンからのデータを用いて、患者の肺の気道の三次元(3D)モデルを生成することができ、生成された3Dモデルは、外科的検査の手術処置中に有用であり得る視覚的基準に医師がアクセスすることを可能にする。
【0006】
しかしながら、管状網のナビゲーションのための従来技術は、医療用装置(例えば、ロボット気管支鏡)を使用する場合、及び既存の方法(例えば、CTスキャンを実行し、3Dモデルを生成すること)を用いる場合であっても、依然として課題を有する。一例として、患者の身体内の医療装置(例えば、気管支鏡ツール)の動作の推定は、装置の位置及び配向の変化に基づいて正確でない場合があり、その結果、装置のポジションは、患者の身体内で、リアルタイムで正確又は適切に特定されない場合がある。こうした器具の不正確な位置情報は、医療手術手順の間、3Dモデルを視覚的参照として使用する医師に誤解を与える情報を提供する場合がある。
【発明の概要】
【発明が解決しようとする課題】
【0007】
したがって、管状構造体の網を通してナビゲートするための改善された技術が必要とされている。
【課題を解決するための手段】
【0008】
本開示のシステム、方法及び装置はそれぞれ、いくつかの革新的な態様を有し、そのうちの1つも、本明細書に開示される望ましい属性を単独で司るものではない。
【0009】
一態様では、医療用ロボットシステムであって、1つ以上のプロセッサのセットと、プロセッサのセットと通信し、かつ患者の管腔網のモデルと、モデルに対する標的のポジションと、モデルの少なくとも一部分に沿った、アクセス点から標的までの経路と、を記憶した少なくとも1つのコンピュータ可読メモリであって、メモリに記憶されたコンピュータ実行可能命令を更に有し、コンピュータ実行可能命令は、プロセッサのセットに、位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することであって、位置データは、管腔網を通って駆動されるように構成されている器具の位置を示す、ことと、位置データに基づいて第1の時間における器具の位置の第1の推定値を判定することと、経路に基づいて第1の時間における器具の位置の第2の推定値を判定することと、第1の推定値及び第2の推定値に基づいて第1の時間における器具の位置を判定することと、を行わせる、少なくとも1つのコンピュータ可読メモリと、を備える、医療用ロボットシステムが提供される。
【0010】
別の態様では、非一時的コンピュータ可読記憶媒体であって、非一時的コンピュータ可読記憶媒体は、非一時的コンピュータ可読記憶媒体に記憶された命令を有し、命令は、実行されると、少なくとも1つのコンピューティング装置に、位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することであって、位置データは、患者の管腔網を通って駆動されるように構成されている器具の位置を示す、ことと、位置データに基づいて第1の時間における器具の位置の第1の推定値を判定することと、少なくとも1つのコンピュータ可読メモリに記憶された経路に基づいて第1の時間における器具の位置の第2の推定値を判定することであって、非一時的コンピュータ可読記憶媒体は、非一時的コンピュータ可読記憶媒体に記憶された管腔網のモデルと、モデルに対する標的のポジションと、経路と、を更に有し、経路は、モデルの少なくとも一部分に沿ってアクセス点から標的まで画定される、ことと、第1の推定値及び第2の推定値に基づいて第1の時間における器具の位置を判定することと、を行わせる、非一時的コンピュータ可読記憶媒体が提供される。
【0011】
更に別の態様では、器具の位置を推定する方法であって、位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することであって、位置データは、患者の管腔網を通って駆動されるように構成されている器具の位置を示す、ことと、位置データに基づいて第1の時間における器具の位置の第1の推定値を判定することと、少なくとも1つのコンピュータ可読メモリに記憶された経路に基づいて第1の時間における器具の位置の第2の推定値を判定することであって、少なくとも1つのコンピュータ可読メモリは、少なくとも1つのコンピュータ可読メモリに記憶された管腔網のモデルと、モデルに対する標的のポジションと、経路と、を有し、経路は、モデルの少なくとも一部分に沿ってアクセス点から標的まで画定される、ことと、第1の推定値及び第2の推定値に基づいて第1の時間における器具の位置を判定することと、を含む、方法が提供される。
【0012】
また更なる態様では、医療用ロボットシステであって、1つ以上のプロセッサのセットと、プロセッサのセットと通信し、かつ患者の管腔網のマッピングされた部分のモデルと、モデルに対する標的のポジションと、モデルの少なくとも一部分に沿った、アクセス点から標的までの経路と、を記憶した少なくとも1つのコンピュータ可読メモリであって、メモリに記憶されたコンピュータ実行可能命令を更に有し、コンピュータ実行可能命令は、プロセッサのセットに、経路が標的に到達する前に管腔網のマッピングされた部分を離れると判定することと、少なくとも第1のモダリティを介して器具の現在位置を表示することであって、第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及びモデルのマッピングされた部分に基づいて位置を導出し、器具は、管腔網を通って駆動されるように構成されている、ことと、現在位置に基づいて、器具の遠位端は、経路が管腔網のマッピングされた部分を離れる点の閾値範囲内にあると判定することと、器具の遠位端が点の閾値範囲内にあると判定することに応答して、第1のモダリティに与えられた重みの低減に基づいて器具の現在位置を更新することと、を行わせる、少なくとも1つのコンピュータ可読メモリと、を備える、医療用ロボットシステムが提供される。
【0013】
なお別の態様では、非一時的コンピュータ可読記憶媒体であって、非一時的コンピュータ可読記憶媒体は、非一時的コンピュータ可読記憶媒体に記憶された命令を有し、命令は、実行されると、少なくとも1つのコンピューティング装置に、経路が標的に到達する前に患者の管腔網のマッピングされた部分を離れると判定することであって、少なくとも1つのコンピュータ可読メモリは、少なくとも1つのコンピュータ可読メモリに記憶された管腔網のマッピングされた部分のモデルと、モデルに対する標的のポジションと、モデルの少なくとも一部分に沿った、アクセス点から標的までの経路と、を有する、ことと、少なくとも第1のモダリティを介して器具の現在位置を表示することであって、第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及びモデルのマッピングされた部分に基づいて位置を導出し、器具は、管腔網を通って駆動されるように構成されている、ことと、現在位置に基づいて、器具の遠位端は、経路が管腔網のマッピングされた部分を離れる点の閾値範囲内にあると判定することと、器具の遠位端が点の閾値範囲内にあると判定することに応答して、第1のモダリティに与えられた重みの低減に基づいて器具の現在位置を更新することと、を行わせる、非一時的コンピュータ可読記憶媒体が提供される。
【0014】
別の態様では、器具の位置を判定する方法であって、経路が標的に到達する前に患者の管腔網のマッピングされた部分を離れると判定することであって、少なくとも1つのコンピュータ可読メモリは、少なくとも1つのコンピュータ可読メモリに記憶された管腔網のマッピングされた部分のモデルと、モデルに対する標的のポジションと、モデルの少なくとも一部分に沿った、アクセス点から標的までの経路と、を有する、ことと、少なくとも第1のモダリティを介して器具の現在位置を表示することであって、第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及びモデルのマッピングされた部分に基づいて位置を導出し、器具、管腔網を通って駆動されるように構成されている、ことと、現在位置に基づいて、器具の遠位端は、経路が管腔網のマッピングされた部分を離れる点の閾値範囲内にあると判定することと、器具の遠位端が点の閾値範囲内にあると判定することに応答して、第1のモダリティに与えられた重みの低減に基づいて器具の現在位置を更新することと、を含む、方法が提供される。
【図面の簡単な説明】
【0015】
開示される態様は、以下、添付の図面と併せて説明され、開示された態様を例示するが、限定するものではなく、同様の指定は同様の要素を示す。
図1A】一実施形態による例示的な外科用ロボットシステムを示す。
図1B】一実施形態による、図1Aに示される外科用ロボットシステムに連結されたロボットプラットフォームの様々な斜視図を示す。
図1C】一実施形態による、図1Aに示される外科用ロボットシステムに連結されたロボットプラットフォームの様々な斜視図を示す。
図1D】一実施形態による、図1Aに示される外科用ロボットシステムに連結されたロボットプラットフォームの様々な斜視図を示す。
図1E】一実施形態による、図1Aに示される外科用ロボットシステムに連結されたロボットプラットフォームの様々な斜視図を示す。
図1F】一実施形態による、図1Aに示される外科用ロボットシステムに連結されたロボットプラットフォームの様々な斜視図を示す。
図2】一実施形態による、例示的な外科用ロボットシステムのための例示的なコマンドコンソールを示す。
図3A】一実施形態による、図1Aに示す器具装置マニピュレータ(IDM)の例示的な独立駆動機構の等角図を示す。
図3B】一実施形態による、図3Aに示される独立駆動機構のひずみゲージによって力がどのように測定され得るかを示す概念図を示す。
図4A】一実施形態による、例示的な内視鏡の上面図を示す。
図4B】一実施形態による、図4Aに示す内視鏡の例示的な内視鏡先端部を示す。
図5】一実施形態による、外科用ロボットシステムに含まれるEM追跡システムの例示的な概略設定を示す。
図6A】一実施形態による、例示的な解剖学的内腔、及び解剖学的内腔の例示的な3Dモデルを示す。
図6B】一実施形態による、例示的な解剖学的内腔、及び解剖学的内腔の例示的な3Dモデルを示す。
図7】一実施形態による、解剖学的空間を表すコンピュータ生成3Dモデルを示す。
図8A】一実施形態による、管状網を通る経路の3Dモデルに対するEMシステムのオンザフライ位置合わせを示す例示的なグラフを示す。
図8B】一実施形態による、管状網を通る経路の3Dモデルに対するEMシステムのオンザフライ位置合わせを示す例示的なグラフを示す。
図8C】一実施形態による、管状網を通る経路の3Dモデルに対するEMシステムのオンザフライ位置合わせを示す例示的なグラフを示す。
図8D】一実施形態による、管状網を通る経路の3Dモデルに対するEMシステムのオンザフライ位置合わせを示す例示的なグラフを示す。
図8E】一実施形態による、分枝状管状網の3Dモデルに対するEMシステムの例示的な位置合わせの効果を示す。
図8F】一実施形態による、分枝状管状網の3Dモデルに対するEMシステムの例示的な位置合わせの効果を示す。
図9A】一実施形態による、ナビゲーション構成システムの例示的なブロック図の高レベルな概要を示す。
図9B】一実施形態による、状態推定器に含まれる推定状態データストアの例示的なブロック図を示す。
図10】本開示の態様による、経路ベースのアルゴリズムモジュールの例示的なブロック図を示す。
図11】本開示の態様による、管状網の経路ベースのナビゲーションのための、ロボットシステム又はその構成要素(複数可)によって動作可能な例示的な方法を示すフローチャートである。
図12】経路ベースの位置推定に関連する本開示の態様を説明するための、管腔網の一部分の簡略化された例示的モデルである。
図13】本開示の態様による、管腔網にオーバレイされたモデルの例示的な図である。
図14】本開示の態様による、管状網の経路ベースのナビゲーションのための、ロボットシステム又はその構成要素(複数可)によって動作可能な別の例示的な方法を示すフローチャートである。
図15】本開示の態様による、マッピングされた部分及びマッピングされていない部分を含む、図13の管腔網の部分を示す。
図16】本開示の態様による、器具の遠位端の追跡された位置を含む3Dモデルの図である。
図17】様々な実施形態による、例示的な管状網を通ってナビゲートする外科用器具(例えば、器具先端部)の調製のための例示的な手術前法を示す。
【0016】
ここで、いくつかの実施形態を詳細に参照し、それらの実施例が添付の図に示される。可能である場合は、類似又は同様の参照番号が図において使用され得、これらの参照番号は、類似又は同様の機能性を示し得ることに留意されたい。図は、例示のみを目的として、説明されるシステム(又は方法)の実施形態を示すものである。当業者であれば、本明細書に記載の原理から逸脱することなく、本明細書に例示した構造及び方法の代替の実施形態を採用できることを以下の説明から容易に理解するであろう。
【発明を実施するための形態】
【0017】
I.外科用ロボットシステム
図1Aは、一実施形態による例示的な外科用ロボットシステム100を示す。外科用ロボットシステム100は、1つ以上のロボットアーム(例えばロボットアーム102)に連結された基部101を含む。基部101は、コマンドコンソールに通信可能に連結されている。なお、コマンドコンソールについては、セクションIIで図2を参照しながら更に説明する。コマンドコンソール。基部101は、ロボットアーム102が患者に対して外科処置を実行するためのアクセスを有するように配置され得るが、一方で、医師などのユーザは、コマンドコンソールから快適に、外科用ロボットシステム100を制御し得る。いくつかの実施形態では、基部101は、患者を支持するための外科手術台又はベッドに連結されてもよい。明確さのために図1には示されていないが、基部101は、例えば、制御電子機器、空圧系、電源、光源などのサブシステムを含んでもよい。ロボットアーム102は、ジョイント111で連結された複数のアームセグメント110を含み、そのことにより、ロボットアーム102に、複数の自由度、例えば7つのアームセグメントに対応する7つの自由度を提供する。基部101は、電源112、空気圧源113、制御系及びセンサ電子機器114(中央処理ユニット、データバス、制御回路、及びメモリなどの構成要素を含む)、並びに関連するアクチュエータ(例えばロボットアーム102を移動させるためのモータなど)を含んでもよい。基部101内の電子機器114はまた、コマンドコンソールから伝達される制御信号を処理及び送信してもよい。
【0018】
いくつかの実施形態では、基部101は、外科用ロボットシステム100を輸送するためのホイール115を含む。外科用ロボットシステム100が可動性を有するので、外科手術室における空間制約に順応する助けとなり、かつ外科用機器の適切な配置及び移動を容易にする助けとなる。更に、この可動性により、ロボットアーム102が、患者、医師、麻酔科医、又はいかなる他の装置とも干渉しないように、ロボットアーム102を構成することが可能となる。手術中、ユーザは、コマンドコンソールなどの制御装置を使用して、ロボットアーム102を制御し得る。
【0019】
いくつかの実施形態では、ロボットアーム102は、ロボットアーム102のポジションを維持するためにブレーキとカウンタバランスとの組み合わせを使用するセットアップジョイントを含む。カウンタバランスは、ガスばね又はコイルばねを含んでもよい。ブレーキ、例えば、フェイルセーフブレーキは、機械部品及び/又は電気部品を含んでもよい。更に、ロボットアーム102は、重力支援型の受動的支持型ロボットアームであってもよい。
【0020】
各ロボットアーム102は、機構交換インターフェース(MCI)116を使用して、器具装置マニピュレータ(IDM)117に連結されてもよい。IDM117は、取り外して異なるタイプのIDMと交換されてもよく、例えば、第1のタイプのIDMは内視鏡を操作し、一方で第2のタイプのIDMは腹腔鏡を操作する。MCI116は、空気圧、電力、電気信号、及び光信号をロボットアーム102からIDM117に伝達するためのコネクタを含む。MCI116は、止めねじ又は基部プレートコネクタであり得る。IDM117は、直接駆動、高調波駆動、ギア駆動、ベルト及びプーリ、磁気ドライブなどを含む技術を使用して、内視鏡118などの外科用器具を操作する。MCI116は、IDM117のタイプに基づいて交換可能であり、特定のタイプの外科処置のためにカスタマイズされ得る。KUKA AG(登録商標)LBR5ロボットアームなどのロボットアーム102は、ジョイントレベルトルク感知器及び遠位端における手首部を含むことができる。
【0021】
内視鏡118は、解剖学的構造(例えば、身体組織)の画像をキャプチャするために患者の解剖学的構造内に挿入される、管状かつ可撓性の外科用器具である。具体的には、内視鏡118は、画像をキャプチャする1つ以上の撮像装置(例えば、カメラ又はその他のタイプの光学センサ)を含む。撮像装置は、光ファイバ、ファイバアレイ、又はレンズなどの1つ以上の光学部品を含み得る。光学部品は、内視鏡118の先端部と共に移動するため、内視鏡118の先端部の移動により撮像装置によってキャプチャされた画像が変化する。内視鏡118を、セクションIVで図3A~4Bを参照しながら更に説明する。内視鏡。
【0022】
外科用ロボットシステム100のロボットアーム102は、細長い運動部材を使用して内視鏡118を操作する。細長い運動部材は、プルワイヤ若しくはプッシュワイヤ、ケーブル、ファイバ、又は可撓性シャフトとも呼ばれるプルワイヤを含んでもよい。例えば、ロボットアーム102は、内視鏡118に連結された複数のプルワイヤを作動させて、内視鏡118の先端を偏向させる。プルワイヤは、例えば、ステンレス鋼、ケブラー、タングステン、炭素繊維などの、金属材料及び非金属材料の両方を含んでもよい。内視鏡118は、細長い運動部材によって印加される力に応答して、非直線的挙動を呈し得る。非直線的挙動は、内視鏡118の剛性及び圧縮性、並びに異なる細長い運動部材間の緩み又は剛性の変動性に基づくものであり得る。
【0023】
図1B~1Fは、様々な実施形態による、ロボットプラットフォーム150(又は外科用ベッド)に連結された外科用ロボットシステム100の様々な斜視図を示す。具体的には、図1Bは、ロボットアーム102が内視鏡118を操作して内視鏡を患者の体内に挿入する外科用ロボットシステム100の側面図を示し、患者はロボットプラットフォーム150上に横臥している。図1Cは、外科用ロボットシステム100及びロボットプラットフォーム150の上面図を示し、ロボットアームによって操作される内視鏡118が患者の体内に挿入される。図1Dは、外科用ロボットシステム100及びロボットプラットフォーム150の斜視図を示し、内視鏡118はロボットプラットフォームと水平方向で平行に配置されるように制御される。図1Eは、外科用ロボットシステム100及びロボットプラットフォーム150の別の斜視図を示し、内視鏡118はロボットプラットフォームに対して比較的垂直に配置されるように制御される。より詳細には、図1Eでは、ロボットプラットフォーム150の水平面と内視鏡118との間の角度は75度である。図1Fは、図1Eで示される外科用ロボットシステム100及びロボットプラットフォーム150の斜視図を示し、より詳細には、内視鏡118と、内視鏡の一方の端部180及びロボットプラットフォームから比較的遠くに配置されたロボットアーム102を接続する仮想線160との間の角度は90度である。
【0024】
II.コマンドコンソール
図2は、一実施形態による、例示的な外科用ロボットシステム100のための例示的なコマンドコンソール200を示す。コマンドコンソール200は、コンソール基部201、ディスプレイモジュール202(例えば、モニタ)、及び制御モジュール(例えば、キーボード203及びジョイスティック204)を含む。いくつかの実施形態では、コマンドコンソール200の機能のうちの1つ以上は、外科用ロボットシステム100の基部101、又は外科用ロボットシステム100に通信可能に連結された別のシステムに統合されてもよい。ユーザ205(例えば、医師)は、コマンドコンソール200を使用して人間工学的ポジションから外科用ロボットシステム100を遠隔制御する。
【0025】
コンソール基部201は、カメラ撮像データ及び追跡センサデータなどの信号(例えば、図1に示される内視鏡118からのデータ)の解釈及び処理に関与する、中央処理ユニット、メモリユニット、データバス、及び関連データ通信ポートを含んでもよい。いくつかの実施形態では、コンソール基部201及び基部101はどちらも、負荷平衡化のための信号処理を実行する。コンソール基部201はまた、ユーザ205によって制御モジュール203及び204を通じて提供されるコマンド及び命令を処理してもよい。図2に示すキーボード203及びジョイスティック204に加えて、制御モジュールは、他の装置、例えば、コンピュータマウス、トラックパッド、トラックボール、制御パッド、ビデオゲームコントローラ、並びにハンドジェスチャ及び指ジェスチャをキャプチャするセンサ(例えば、モーションセンサ又はカメラ)を含んでもよい。
【0026】
ユーザ205は、コマンドコンソール200を速度モード又はポジション制御モードで使用して、内視鏡118などの外科用器具を制御することができる。速度モードでは、ユーザ205は、制御モジュールを使用した直接手動制御に基づいて、内視鏡118の遠位端のピッチ及びヨー動作を直接制御する。例えば、ジョイスティック204の動作は、内視鏡118の遠位端におけるヨー及びピッチ動作にマッピングされ得る。ジョイスティック204は、ユーザ205に触覚フィードバックを提供することができる。例えば、ジョイスティック204は、振動して、内視鏡118が特定の方向にそれ以上並進又は回転することができないことを示す。コマンドコンソール200はまた、内視鏡118が最大限の並進又は回転に達したことを示すために、視覚的フィードバック(例えば、ポップアップメッセージ)及び/又は聴覚的フィードバック(例えば、ビープ音)を提供することができる。
【0027】
ポジション制御モードでは、コマンドコンソール200は、患者の三次元(3D)マップ及び患者の所定のコンピュータモデルを使用して、外科用器具、例えば、内視鏡118を制御する。コマンドコンソール200は、外科用ロボットシステム100のロボットアーム102に制御信号を提供して、内視鏡118を標的位置まで操作する。3Dマップへ依拠するため、ポジション制御モードは、患者の解剖学的構造の正確なマッピングを必要とする。
【0028】
いくつかの実施形態では、ユーザ205は、コマンドコンソール200を使用せずに、外科用ロボットシステム100のロボットアーム102を手動で操作することができる。外科手術室での設定中、ユーザ205は、ロボットアーム102、内視鏡118、及び他の外科用機器を動かして、患者にアクセスすることができる。外科用ロボットシステム100は、ユーザ205からの力フィードバック及び慣性制御に依存して、ロボットアーム102及び装置の適切な構成を決定してもよい。
【0029】
ディスプレイモジュール202は、電子モニタ、仮想現実閲覧装置(例えば、ゴーグル又は眼鏡)、及び/又はディスプレイ装置の他の手段を含んでもよい。いくつかの実施形態では、ディスプレイモジュール202は、例えば、タッチスクリーンを有するタブレット装置として、制御モジュールに統合される。更に、ユーザ205は、統合ディスプレイモジュール202及び制御モジュールを使用して、データ及び、外科用ロボットシステム100への入力コマンドの両方を見ることができる。
【0030】
ディスプレイモジュール202は、立体視装置(例えば、バイザー又はゴーグル)を使用して、3D画像を表示することができる。3D画像は、患者の解剖学的構造を示すコンピュータ3Dモデルである「エンドビュー」(すなわち、内視鏡ビュー)を提供する。「エンドビュー」は、患者の内部の仮想環境、及び患者の内部における内視鏡118の予想される位置を提供する。ユーザ205は、「エンドビュー」モデルを、カメラによってキャプチャされた実際の画像と比較して、内視鏡118が患者の体内の正しい、又は概ね正しい位置にあるように、頭の中において方向付けし確認する助けとする。「エンドビュー」は、内視鏡118の遠位端周囲の解剖学的構造、例えば、患者の腸又は結腸の形状に関する情報を提供する。ディスプレイモジュール202は、内視鏡118の遠位端周囲の解剖学的構造の3Dモデルとコンピュータ断層撮影(CT)スキャンとを同時に表示することができる。更に、ディスプレイモジュール202は、内視鏡118の既に決定されたナビゲーション経路を、3Dモデル、及び手術前モデルデータ(例えば、CTスキャン)に基づいて生成されたスキャン/画像にオーバレイすることができる。
【0031】
いくつかの実施形態では、内視鏡118のモデルが3Dモデルと共に表示され、外科処置の状態を示す助けとなる。例えば、CTスキャンにより、生検が必要であり得る解剖学的構造にある病変が識別される。動作中、ディスプレイモジュール202は、内視鏡118の現在の位置に対応する、内視鏡118によってキャプチャされた基準画像を示すことができる。ディスプレイモジュール202は、ユーザ設定及び特定の外科処置に応じて、内視鏡118のモデルの異なるビューを自動的に表示することができる。例えば、ディスプレイモジュール202は、内視鏡118が患者の手術領域に接近する際のナビゲーション工程中には、内視鏡118の頭上からのX線透視図を示す。
【0032】
III.器具装置マニピュレータ
図3Aは、一実施形態による、図1に示すIDM117の例示的な独立駆動機構の等角図を示す。独立駆動機構は、IDM117の出力シャフト305、306、307、及び308をそれぞれ回転させることによって、内視鏡のプルワイヤ321、322、323、及び324を締める又は緩めることができる(例えば、互いから独立して)。出力シャフト305、306、307、及び308が、角動作を介して、それぞれプルワイヤ321、322、323、及び324に力を伝達するのと同じように、プルワイヤ321、322、323、及び324は、出力シャフトに力を伝達して戻す。IDM117及び/又は外科用ロボットシステム100は、センサ、例えば、以下に更に記載されるひずみゲージを使用して、伝達された力を測定することができる。
【0033】
図3Bは、一実施形態による、図3Aに示される独立駆動機構のひずみゲージ334によって力がどのように測定され得るかを示す概念図を示す。力331は、モータ337のモータマウント333に連結された出力シャフト305から離れるように方向付けられてもよい。したがって、力331は、モータマウント333の水平方向の変位をもたらす。更に、モータマウント333に水平に連結されたひずみゲージ334は、力331の方向にひずみを受ける。ひずみは、ひずみゲージ334の先端部335の水平方向変位とひずみゲージ334の水平幅336全体との比として測定され得る。
【0034】
いくつかの実施形態では、IDM117は、IDM117の配向を判定するために、追加のセンサ、例えば、傾斜計又は加速度計を含む。追加のセンサ及び/又はひずみゲージ334からの測定値に基づいて、外科用ロボットシステム100は、重力負荷効果を考慮するようにひずみゲージ334からの測定値を較正することができる。例えば、IDM117がIDM117の水平側面上で配向される場合、IDM117の特定の構成要素の重量が、モータマウント333にひずみを引き起こす場合がある。したがって、重力負荷効果を考慮することなく、ひずみゲージ334は、出力シャフト上のひずみに起因していなかったひずみを測定することができる。
【0035】
IV.内視鏡
図4Aは、一実施形態による、例示的な内視鏡118の上面図を示す。内視鏡118は、シース411の管状構成要素の内側で入れ子状又は部分的に入れ子状にされ、かつシース411の管状構成要素と長手方向に整列した、リーダ415の管状構成要素を含む。シース411は、近位シース区画412と遠位シース区画413とを含む。リーダ415は、シース411よりも小さな外径を有し、近位リーダ区画416及び遠位リーダ区画417を含む。シース基部414及びリーダ基部418は、例えば、外科用ロボットシステム100のユーザからの制御信号に基づいて、遠位シース区画413及び遠位リーダ区画417をそれぞれ作動させる。シース基部414及びリーダ基部418は、例えば、図1に示されるIDM117の一部である。
【0036】
シース基部414及びリーダ基部418は両方とも、シース411及びリーダ415に連結されたプルワイヤを制御するための駆動機構(例えば、セクションIIIの器具装置マニピュレータで図3A~Bを参照しながら更に説明される独立駆動機構)を含む。例えば、シース基部414は、シース411に連結されたプルワイヤ上に引張荷重を発生させて、遠位シース区画413を偏向させる。同様に、リーダ基部418は、リーダ415に連結されたプルワイヤ上に引張荷重を発生させて、遠位リーダ区画417を偏向させる。シース基部414及びリーダ基部418の両方は、空気圧、電力、電気信号、又は光信号を、IDMからシース411及びリーダ414へとそれぞれルーティングするためのカップリングを更に含んでもよい。プルワイヤは、シース411又はリーダ415内のプルワイヤの長さに沿ってスチールコイルパイプを含んでもよく、このスチールコイルパイプは、軸方向圧縮を、荷重の起点、例えば、シース基部414又はリーダ基部418のそれぞれに伝達して戻す。
【0037】
内視鏡118は、シース411及びリーダ415に連結されたプルワイヤによって提供される多自由度のために、患者の解剖学的構造を容易にナビゲートすることができる。例えば、シース411及び/又はリーダ415のいずれかに4つ以上のプルワイヤを用いて、8つ以上の自由度を提供することができる。その他の実施形態では、最大で3つのプルワイヤを用いて、最大で6つの自由度を提供することができる。長手方向軸406に沿ってシース411及びリーダ415を最大で360度回転させて、より多くの動作度を提供することができる。回転角度と多自由度との組み合わせによって、外科用ロボットシステム100のユーザに、使いやすく直感的な内視鏡118の制御が提供される。
【0038】
図4Bは、一実施形態による、図4Aに示す内視鏡118の例示的な内視鏡先端部430を示す。図4Bでは、内視鏡先端部430は、撮像装置431(例えば、カメラ)、照明光源432、及びEMコイル434の端部を含む。照明光源432は、解剖学的空間の内部を照明するための光を提供する。提供された光によって、撮像装置431がその空間の画像を記録することが可能となり、続いてこの画像を、本明細書に記載される処理のために、コマンドコンソール200などのコンピュータシステムに送信することができる。先端部430上に位置する電磁(EM)コイル434は、EM追跡システムと共に使用されて、内視鏡先端部430が解剖学系内に配置されている間にそのポジション及び配向を検出することができる。いくつかの実施形態では、コイルは、異なる軸に沿ってEM場に感度を提供するように角度付けされて、6つの自由度(3つのポジション自由度及び3つの角度自由度)の全てを測定する能力を付与することができる。他の実施形態では、単一のコイルのみが内視鏡先端部430内に配置されて、その軸が内視鏡118の内視鏡シャフトに沿って配向されてもよく、こうしたシステムの回転対称性に起因して、その軸を中心にロールすることは感度が悪いため、こうした場合においては5つの自由度だけが検出され得る。内視鏡先端部430は作業チャネル436を更に備え、これを通して生検針などの外科用器具を内視鏡シャフトに沿って挿入して、内視鏡先端部付近の領域へのアクセスを可能にすることができる。
【0039】
V.3Dモデルに対するEMシステムの位置合わせ変換
V.A.EM追跡システムの概略的な設定
図5は、一実施形態による、外科用ロボットシステム500に含まれるEM追跡システム505の例示的な概略設定を示す。図5では、EM追跡システム505には、複数のロボット構成要素(例えば、後述する窓磁場発生器、基準センサ)が含まれる。ロボット外科システム500は、患者の身体を保持するための外科用ベッド511を含む。ベッド511の下に、EMコイルのセット(例えば、図4Bに示されるEMコイル434)を順次作動させるように構成された窓磁場発生器(WFG)512がある。WFG512は、広い容積にわたって交流(AC)磁場を発生させ、例えば、いくつかの場合、約0.5×0.5×0.5mの容積にAC磁場を生成することができる。
【0040】
体内で器具を追跡するのを助けるために、更なる磁場発生器によって追加の磁場が適用されてもよい。例えば、平面磁場発生器(PFG)を、患者に隣接するシステムアームに取り付け、傾斜したEM場を提供するように配向してもよい。基準センサ513を患者の身体上に配置して、局所EM場を提供して、追跡精度を更に上げてもよい。基準センサ513のそれぞれは、ケーブル514によってコマンドモジュール515に取り付けられてもよい。ケーブル514は、インターフェースユニット516を介してコマンドモジュール515に接続され、インターフェースユニット516は、それらのそれぞれの装置との通信、並びに電力の供給を取り扱う。インターフェースユニット516は、上述の様々なエンティティのための全体的なインターフェースコントローラとして機能するシステム制御ユニット(SCU)517に連結される。SCU517はまた、磁場発生器(例えばWFG512)を駆動し、のみならず、インターフェースユニット516からのセンサデータを収集し、このセンサデータから、体内のセンサのポジション及び配向を計算する。SCU517は、ユーザのアクセス及び制御を可能とするためにパーソナルコンピュータ(PC)518に連結されてもよい。
【0041】
コマンドモジュール515はまた、本明細書に記載されるように外科用ロボットシステム500に連結された様々なIDM519に接続される。IDM519は、典型的には、単一の外科用ロボットシステム(例えば、外科用ロボットシステム500)に連結され、これらのそれぞれの接続されたロボット構成要素、例えばロボット内視鏡ツール又はロボットアームからのデータを制御し、かつこのデータを受信するために使用される。上述したように、一例として、IDM519は、外科用ロボットシステム500の内視鏡ツール(本明細書では図示せず)に連結される。
【0042】
コマンドモジュール515は、内視鏡ツールから渡されたデータを受信する。受信されるデータの種類は、取り付けられた対応する器具のタイプに依存する。例えば、受信されるデータの例としては、センサデータ(例えば、画像データ、EMデータ)、ロボットデータ(例えば、内視鏡及びIDM物理動作データ)、制御データ、及び/又はビデオデータが挙げられる。ビデオデータをより良好に取り扱うために、フィールドプログラマブルゲートアレイ(FPGA)520が、画像処理を取り扱うように構成されてもよい。様々なセンサ、装置、及び磁場発生器から得られたデータを比較することにより、SCU517が、外科用ロボットシステム500の異なる構成要素の運動、並びに例えばこれらの構成要素のポジション及び配向を正確に追跡することが可能となる。
【0043】
患者の解剖学的構造を通してセンサを追跡するために、EM追跡システム505は、「位置合わせ」として知られるプロセスを必要とする場合があり、ここで、システムは、異なる座標系の間で単一の物体を整列させる幾何学的変換を発見する。例えば、患者の特定の解剖学的部位は、3Dモデル座標及びEMセンサ座標における2つの異なる表現を有する。これらの2つの異なる座標系間で一貫性及び共通言語を確立することができるように、EM追跡システム505は、これらの2つの表現をリンクさせる変換、すなわち位置合わせを発見する必要がある。例えば、対応する3Dモデル内の位置を特定するために、EM場発生器のポジションに対するEMトラッカのポジションが3D座標系にマッピングされ得る。
【0044】
V.B 3Dモデル表現
図6A~6Bは、一実施形態による、例示的な解剖学的内腔600、及び解剖学的内腔の例示的な3Dモデル620を示す。より具体的には、図6A~6Bは、実際の解剖学的内腔600とその3Dモデル620との間の中心線座標、直径測定値、及び解剖学的空間の関係を示す。図6Aでは、解剖学的内腔600は、中心線座標601、602、603、604、605、及び606によって長手方向に概ね追跡され、各中心線座標は、内腔の断層撮影スライスの中心に概ね近似する。中心線座標は、中心線607によって接続され可視化される。内腔の体積は、各中心線座標で内腔の直径を測定することによって更に可視化することができ、例えば、座標608、609、610、611、612、及び613は、座標601、602、603、604、605、及び606に対応する内腔600の測定値を表す。
【0045】
図6Bは、一実施形態による、図6Aに示す解剖学的内腔600の例示的な3Dモデル620を示す。図6Bでは、解剖学的内腔600は、最初に、中心線607に基づいて3D空間内の中心線座標601、602、603、604、605、及び606を配置することによって、3D空間内で可視化される。一例として、各中心線座標において、内腔の直径は、直径608、609、610、611、612、及び613を備える2D円形空間(例えば、2D円形空間630)として可視化される。これらの2D円形空間を接続して3D空間を形成することによって、解剖学的内腔600は、3Dモデル620として近似化及び可視化される。より正確な近似値は、中心線座標及び測定値の分解能を増加させること、すなわち、所定の内腔又は小区画の中心線座標及び測定値の密度を増加させることによって判定することができる。中心線座標はまた、病変を含む医師の関心点を示すためのマーカを含んでもよい。
【0046】
いくつかの実施形態では、生成された解剖学的空間の3Dモデルに基づいて、ナビゲーション経路を分析及び算出するために、術前ソフトウェアパッケージも使用される。例えば、ソフトウェアパッケージは、単一の病変(中心線座標によってマークされる)又はいくつかの病変に至る最短のナビゲーション経路を算出することができる。このナビゲーション経路は、手術中に、操作者の好みに応じて二次元又は三次元のいずれかで操作者に提示され得る。特定の実装形態では、下記で説明するように、ナビゲーション経路(又はその一部)は、手術前に操作者によって選択されてもよい。経路選択は、患者の解剖学的構造内の1つ以上の標的位置(単に「標的」とも称される)の識別を含み得る。
【0047】
図7は、一実施形態による、解剖学的空間を表すコンピュータ生成3Dモデル700を示す。図6A~6Bで上述したように、3Dモデル700は、手術前に生成されたCTスキャンを精査することによって得られた中心線701を使用して生成され得る。いくつかの実施形態では、コンピュータソフトウェアは、3Dモデル700内の手術部位703(又は他の標的)にアクセスするために、管状網内のナビゲーション経路702をマッピングすることが可能であり得る。いくつかの実施形態では、手術部位703は、個々の中心線座標704にリンクされてもよく、これにより、コンピュータアルゴリズムが、管状網内の最適経路702を求めて3Dモデル700の中心線座標内をトポロジ検索することが可能となる。特定の実施形態では、経路702のトポロジ検索は、1つ以上の標的の位置、1つ以上の中間点(waypoints)などといった、特定の操作者によって選択されたパラメータによって制約され得る。
【0048】
いくつかの実施形態では、患者の解剖学的構造内の内視鏡ツールの遠位端が追跡され、また患者の解剖学的構造内の内視鏡ツールの追跡された位置がコンピュータモデル内でマッピング及び配置され、これによって管状網のナビゲーション能力が向上する。内視鏡ツールの遠位作業端、すなわち、作業端の位置及び配向を追跡するために、単独で又は組み合わせてのいずれかで、多数のアプローチが採用され得る。
【0049】
位置特定に対するセンサベースのアプローチにおいては、電磁(EM)トラッカなどのセンサを内視鏡ツールの遠位作業端に連結して、内視鏡ツールの進行のリアルタイム表示を提供することができる。EMベースの追跡においては、内視鏡ツールに埋め込まれたEMトラッカが、1つ以上のEM送信機によって生成された電磁場の変動を測定する。送信機(又は磁場発生器)は、低強度磁場を生成するために、(例えば、外科用ベッドの一部として)患者に近接して配置されてもよい。これにより、EMトラッカ内のセンサコイル内に小さな電流が誘導され、この電流はセンサと発生器との間の距離及び角度に相関する。続いて、電気信号が、インターフェースユニット(オンチップ又はPCB)によってデジタル化され、ケーブル/配線を介してシステムカートに戻され、続いてコマンドモジュールに送られてもよい。続いて、データを処理して、電流データを解釈し、送信機に対するセンサの正確な位置及び配向を計算することができる。それら構成要素の個々のポジションを計算するために、複数のセンサが、内視鏡ツール内、例えばリーダ及びシース内の様々な位置で用いられてもよい。したがって、人工的に生成されたEM場からの測定値に基づいて、EMトラッカは、患者の解剖学的構造を通って移動するときに、電界強度の変化を検出することができる。
【0050】
V.C.オンザフライEM位置合わせ
図8A~8Dは、一実施形態による、管状網を通る経路の3Dモデルに対するEMシステムのオンザフライ位置合わせを示す例示的なグラフ810~840を示す。本明細書に記載されるナビゲーション構成システムは、内視鏡処置に先立って独立した位置合わせを必要とすることなく、3Dモデル座標に対するEM座標のオンザフライ位置合わせを可能にする。より詳細には、図8Aは、EM追跡システム及び3Dモデルの座標系が最初は互いに位置合わせされていないことを示し、図8Aのグラフ810は、分枝状管状網(本明細書では図示せず)を通って計画されたナビゲーション経路802に沿って移動する内視鏡先端部801の位置合わせされた(又は予測された)位置を示し、位置合わせされた器具先端部801の位置、及び計画された経路802は3Dモデルから算出される。先端部の実際のポジションはEM追跡システム505によって繰り返し測定され、EMデータに基づく複数の測定位置データ点803がもたらされる。図8Aに示すように、EM追跡から算出されたデータ点803は、最初は、3Dモデルから予測される内視鏡先端部801の位置合わせされた位置から遠く離れて位置し、EM座標と3Dモデル座標との間の位置合わせの欠如を反映している。これには、例えば、内視鏡先端部が管状網を通って比較的円滑に移動されている場合であっても、患者の肺の呼吸運動のために、EM測定値におけるいくらかの可視散乱が依然として存在し得ることなど、いくつかの理由がある場合がある。
【0051】
3Dモデル上の点も、3Dモデル自体と、光学センサ(例えば、カメラ)から受信した画像データと、ロボットコマンドからのロボットデータとの間の相関に基づいて判定及び調節され得る。これらの点と収集されたEMデータ点との間の3D変換により、3Dモデル座標系に対するEM座標系の初期位置合わせが決定される。
【0052】
図8Bは、一実施形態による、グラフ810と比較した、後の時間段階におけるグラフ820を示す。より具体的には、グラフ820は、経路に沿った図8Aに示される器具先端部801の元の予測ポジションから図8Bに示すポジションへのシフトによって示されるように、3Dモデルから予測された内視鏡先端部801の予測位置が、予め計画されたナビゲーション経路802に沿ってより遠くに移動したことを示す。グラフ810の生成とグラフ820の生成との間におけるEM追跡の間に、EM追跡システムによって追加のデータ点803が記録されているが、新たに収集されたEMデータに基づく位置合わせはまだ更新されていない。結果として、図8Bのデータ点803は、可視経路814に沿ってクラスタ化されるが、その経路は、内視鏡先端部が、それに沿って移動するように操作者によって方向付けられる計画されたナビゲーション経路802とは位置及び配向が異なる。最終的に、十分なデータ(例えば、EMデータ)が蓄積されると、3Dモデルのみ又はEMデータのみを使用することと比較して、EM座標を3Dモデルの座標と位置合わせするために必要とされる変換から比較的より正確な推定値を算出することができる。十分なデータの判定は、蓄積された合計データ又は方向の変化数などの閾値基準によってなされ得る。例えば、気管支管網などの分枝状管状網では、2つの分枝点に到着した後に十分なデータが蓄積されたと判断され得る。
【0053】
図8Cは、一実施形態による、ナビゲーション構成システムがEMから3Dモデル座標への位置合わせ変換を推定するのに十分な量のデータを蓄積した直後のグラフ830を示す。図8Cのデータ点803は、ここでは、位置合わせ変換の結果として、図8Bに示すそれらの以前のポジションからシフトされている。図8Cに示すように、EMデータから算出されたデータ点803は、ここでは、3Dモデルから算出された計画されたナビゲーション経路802に沿って置かれ、データ点803間の各データ点は、ここでは、3Dモデルの座標系中の内視鏡先端部801の予測ポジションの測定値を反映している。いくつかの実施形態では、更なるデータが収集されると、位置合わせ変換を更新して精度を高めることができる。場合によっては、位置合わせ変換を判定するために用いられるデータは、移動窓によって選択されるデータのサブセットであってもよく、その結果、位置合わせは経時的に変化することができ、これによって、例えば患者の動きに起因するEM及び3Dモデルの相対座標の変化を考慮する能力が与えられる。
【0054】
図8Dは、一実施形態による、内視鏡先端部801の予測位置が計画されたナビゲーション経路802の端部に到達して、管状網の標的位置に達する、例示的なグラフ840を示す。図8Dに示されるように、記録されたEMデータ点803は、ここでは、処置全体にわたる内視鏡先端部の追跡を表す、計画されたナビゲーション経路802に沿って概ね追跡する。各データ点は、3Dモデルに対するEM追跡システムの更新された位置合わせに起因して、変換された位置を反映する。
【0055】
いくつかの実施形態では、図8A~8Dに示されるグラフのそれぞれは、内視鏡先端部が管状網内を前進すると、ユーザに可視であるディスプレイ上に連続的に示され得る。いくつかの実施形態では、ユーザが、固定された基準系を維持し、かつ、ディスプレイ上に示されるモデル上及び計画された経路上で視覚的に配向された状態を維持することができるように、プロセッサは、ディスプレイ上に示される測定された経路のシフトによって測定されたデータ点がディスプレイに位置合わせされたときに、ディスプレイ上に示されたモデルが実質的に一定の状態を維持するように、ナビゲーション構成システムからの命令で構成され得る。
【0056】
図8E~8Fは、一実施形態による、分枝状管状網の3Dモデルに対するEMシステムの例示的な位置合わせの効果を示す。図8E~8Fでは、電磁追跡データ852及び患者の気管支系854のモデルを示す3Dグラフが、位置合わせ変換を伴わずに(図8Eに示される)、及び位置合わせ変換を伴って(図8Fに示す)、例示されている。位置合わせを伴わない図8Eでは、追跡データ860は、気管支系854を通る経路に対応する形状を有するが、その形状は任意のオフセット及び回転を受けている。図8Fでは、位置合わせを適用することによって、追跡データ852は、気管支系854を通る経路に対応するようにシフト及び回転される。
【0057】
VI.ナビゲーション構成システム
VI.A.ナビゲーション構成システムの高レベルな概要
図9A図9Bは、一実施形態による、ナビゲーション構成システム900の例示的なブロック図を示す。より具体的には、図9Aは、一実施形態による、ナビゲーション構成システム900の例示的なブロック図の高レベルな概要を示す。図9Aでは、ナビゲーション構成システム900は、複数の入力データストアと、複数の入力データストアから様々な種類の入力データを受信するナビゲーションモジュール905と、複数の入力データストアから様々な種類の入力データを受信する外部セグメンテーションナビゲーションモジュール905と、ナビゲーションモジュールから出力ナビゲーションデータを受信する出力ナビゲーションデータストア990と、を含む。図9Aに示すナビゲーション構成システム900のブロック図は単なる一例であり、図示されない代替的な実施形態では、ナビゲーション構成システム900は、異なる及び/又は追加のエンティティを含むことができる。同様に、システム900の様々なエンティティによって実行される機能は、異なる実施形態に従って異なり得る。ナビゲーション構成システム900は、その全体が参照により本明細書に組み込まれる、2017年3月23日公開の米国特許出願公開第2017/0084027号に記載されるナビゲーションシステムと同様であってもよい。
【0058】
本明細書で使用するとき、入力データとは、内視鏡の推定状態情報及び出力ナビゲーションデータを生成するために、入力装置(例えば、コマンドモジュール、光学センサ、EMセンサ、IDM)から集められ、且つ/又は入力装置によって処理される生データを指す。複数の入力データストア910~945は、画像データストア910、EMデータストア920、ロボットデータストア930、3Dモデルデータストア940、及び経路データストア945を含む。入力データストア910~945のそれぞれのタイプは、ナビゲーションモジュール905によるアクセス及び使用のための、名前が指定されるタイプのデータ(name-indicated type of data)を記憶する。画像データは、器具先端部で撮像装置によってキャプチャされた1つ以上の画像フレーム、並びにフレームのペアの間で経過した時間の判定を可能にするフレームレート又はタイムスタンプなどの情報を含んでもよい。ロボットデータは、管状網内における医療器具又は医療器具の一部(例えば、器具先端部又はシース)の物理的移動に関連するデータを含んでもよい。例示的なロボットデータとしては、器具先端部に対して、管状網内の特定の解剖学的部位に到達するように、かつ/又はその配向を変更するように(例えば、リーダ及びシースのうちの一方又は両方の、特定のピッチ、ロール、ヨー、挿入、及び後退を用いて)指示するコマンドデータ、医療器具の一部の挿入運動を表す挿入データ(例えば、器具先端部又はシース)、IDMデータ、並びに医療器具の細長い部材の機械的移動、例えば、管状網内で内側器具(medial instrument)の実際の動きを駆動する内視鏡の1つ以上のプルワイヤ、腱、又はシャフトの動作を表す機械的データが挙げられる。EMデータは、上述のEMセンサ及び/又はEM追跡システムによって収集され得る。3Dモデルデータは、上記の2D CTスキャンから算出され得る。経路データは、管状網のトポロジ検索によって1つ以上の標的へと生成され得る、計画されたナビゲーション経路(例えば、ナビゲーション経路702)を含む。複数の入力データストアもまた、任意のポジションセンサデータストア947などの他の種類のデータストアを含んでもよい。特定の実装形態では、ポジションセンサデータストア947は、器具内に配置された形状感知ファイバから受信した形状センサデータを記憶してもよい。ナビゲーションモジュール905及び/又は外部セグメンテーションナビゲーションモジュール907は、実施形態に応じて、ポジションセンサデータストア947からポジションセンサデータを受信するように構成されてもよい。
【0059】
出力ナビゲーションデータストア990は、ナビゲーションモジュール905及び/又は外部セグメンテーションナビゲーションモジュール907によって提供された出力ナビゲーションデータを受信して記憶する。以下でより詳細に説明するように、システム900は、管腔網のマッピングされた部分に対する器具のポジションに基づいて、ナビゲーションモジュール905及び外部セグメンテーションナビゲーションモジュール907によって生成された出力ナビゲーションデータに与えられる重みを調整してもよい。出力ナビゲーションデータは、管状網内の特定の行き先に到達するように管状網を通して医療器具を方向付けることを支援する情報を示し、また、各瞬時における医療器具の推定状態情報に基づいており、推定状態情報は、管状網内の医療器具の位置及び配向を含む。一実施形態では、医療器具が管状網内で移動すると、医療器具の移動及び位置/配向情報の更新を示す出力ナビゲーションデータがリアルタイムで提供され、これが、管状網を通したそのナビゲーションをより良好に支援する。
【0060】
出力ナビゲーションデータを判定するために、ナビゲーションモジュール905及び/又は外部セグメンテーションナビゲーションモジュール907は、管状網内の医療器具の推定状態を位置特定(又は判定)する。図9Aに示すように、ナビゲーションモジュール905は、EMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、ロボットベースのアルゴリズムモジュール970、及び経路ベースのアルゴリズムモジュール975などの様々なアルゴリズムモジュールを更に含み、それぞれが、主に特定のタイプの入力データを消費し、かつ異なるタイプのデータを状態推定器980に提供し得る。図9Aに示されるように、これらのモジュールによって出力される異なる種類のデータ、標識されたEMベースのデータ、画像ベースのデータ、ロボットベースのデータ、及び経路ベースのデータは、一般に、説明のために「中間データ」と称され得る。各アルゴリズムモジュール及び状態推定器980の詳細な構成を、以下でより詳細に説明する。
【0061】
VI.B.ナビゲーションモジュール
図9Aで示したナビゲーションモジュール905を参照すると、ナビゲーションモジュール905は、状態推定器980、並びに管状網を通ってナビゲートするための異なるアルゴリズムを用いる複数のアルゴリズムモジュールを含む。説明を明確にするために、状態推定器980を最初に説明し、その後、状態推定器980とデータを交換する様々なモジュールの説明が続く。
【0062】
VI.B.1 状態推定器
ナビゲーションモジュール905に含まれる状態推定器980は、様々な中間データを受信して、時間の関数として器具先端部の推定状態を提供し、推定状態は、管状網内の器具先端部の推定位置及び配向の情報を示す。推定状態データは、状態推定器980に含まれる推定データストア985に記憶される。
【0063】
図9Bは、一実施形態による、状態推定器980に含まれる推定状態データストア985の例示的なブロック図を示す。推定状態データストア985は、分岐データストア1086、ポジションデータストア1087、深さデータストア1088、及び配向データストア1089を含んでもよいが、このデータストレージの特定の細分化は単なる一例であり、示されていない代替的な実施形態では、異なる及び/又は追加のデータストアが推定状態データストア985に含まれてもよい。
【0064】
上記で紹介された様々なストアは、様々な方法で推定状態データを表す。具体的には、分岐データは、管状網内の分枝のセット(例えば、二分岐、三分岐、又は3つを超える分枝)に関する医療器具の位置を指す。例えば、分岐データは、例えば、管状網の全体をマッピングする3Dモデルによって提供される利用可能な分枝のより大きなセットに基づいて、器具が管状網内を横断する際に器具によって選択される分枝選択のセットであることができる。分岐データは、器具先端部が近位にあるが、まだ横断されていないものの、例えば、3Dモデルに対する先端部の現在のポジション情報に基づいて、又は次の分岐をキャプチャした画像に基づいて検出されていてもよいという、分枝(分岐)などの器具先端部の位置の前部の情報を更に含むことができる。
【0065】
ポジションデータは、管状網内の医療器具の一部、又は管状網自体の一部の三次元ポジションを示す。ポジションデータは、例えば、管状網の3Dモデルに対する絶対位置又は相対位置の形態であり得る。一例として、ポジションデータは、器具の位置のポジションが特定の分枝内にあるという指示を含むことができる。特定の分枝の識別はまた、器具先端部が位置するモデルの特定のセグメントを一意に識別するセグメント識別(ID)として記憶されてもよい。
【0066】
深さデータは、管状網内の器具先端部の深さ情報を示す。深さデータの例としては、患者内への医療器具の合計挿入(絶対)深さ、並びに特定された分枝(例えば、ポジションデータストア1087によって識別されたセグメント)内の(相対的)深さが挙げられる。深さデータは、管状網及び医療器具の両方に関するポジションデータに基づいて決定され得る。
【0067】
配向データは、器具先端部の配向情報を示し、また、3Dモデルに関連した全体的なロール、ピッチ、及びヨー、並びに識別された分枝内のピッチ、ロール、ヨーを含み得る。
【0068】
再び図9Aを参照すると、状態推定器980は、推定状態データをアルゴリズムモジュールに戻してより正確な中間データを生成し、状態推定器はこの中間データを使用して、改善された及び/又は更新された推定状態などを生成して、フィードバックループを形成する。例えば、図9Aに示すように、EMベースのアルゴリズムモジュール950は、タイムスタンプ「t-1」に関連付けられたデータとも称される、以前のEMベース推定状態データを受信する。状態推定器980は、このデータを使用して、タイムスタンプ「t-1」に関連付けられた「推定状態データ(以前)」を生成する。続いて、状態推定器980は、データをEMベースのアルゴリズムモジュールに戻す。「推定状態データ(以前」は、異なるアルゴリズムモジュールから生成及び受信されたとおりのタイムスタンプ「t-1」に関連付けられた、異なる種類の中間データ(例えば、ロボットデータ、画像データ)の組み合わせに基づいてもよい。次に、EMベースのアルゴリズムモジュール950は、推定状態データ(以前)を使用してそのアルゴリズムを実行して、状態推定器980に改善及び/又は更新されたEMベースの推定状態データを出力し、これは、本明細書では「EMベース推定状態データ(現在)」によって表され、またタイムスタンプtに関連付けられる。このプロセスは継続して、将来のタイムスタンプに対しても繰り返される。
【0069】
状態推定器980は、いくつかの異なる種類の中間データを使用して、管状網内の医療器具の状態のその推定値に到達することができるため、状態推定器980は、測定及び分析の両方において様々な異なる種類の誤差及び不確実性を考慮するように構成されており、各タイプの基礎データ(ロボット、EM、画像、経路)及び各タイプのアルゴリズムモジュールが、推定状態の判定における考慮のために使用される中間データを生成又は完成させることができる。これらに対処するために、確率分布及び信頼値の2つの概念が論じられる。
【0070】
本明細書で使用するとき、「確率分布」の「確率」とは、医療器具の可能な位置及び/又は配向の推定値が正確である尤度を指す。例えば、異なる確率は、医療器具が管状網内のいくつかの異なる可能な分枝のうちの1つにあることの相対尤度を示すアルゴリズムモジュールのうちの1つによって計算され得る。一実施形態では、確率分布のタイプ(例えば離散分布又は連続分布)は、推定状態の特徴と一致するように選択される(例えば推定状態のタイプ、例えば、連続ポジション情報対離散分枝選択肢)。一例として、三分岐のために医療器具がどのセグメント内にあるかを識別するための推定状態は、離散確率分布によって表されてもよく、また、アルゴリズムモジュールのうちの1つによって決定されるように、3つの分枝のそれぞれの内側の位置にある可能性を表す20%、30%、及び50%の3つの離散値を含んでもよい。別の例として、推定状態は、40±5度の医療器具のロール角を含んでもよく、分枝内の器具先端部のセグメント深さは4±1mmであってよく、これらはそれぞれ連続確率分布の1つのタイプであるガウス分布によって表される。異なる方法又はモダリティを使用して確率を生成することができるが、これは、後続の図を参照して以下でより詳細に説明されるように、アルゴリズムモジュールによって変化する。
【0071】
対照的に、本明細書で使用するとき、「信頼値」は、1つ以上の因子に基づいてアルゴリズムのうちの1つによって提供される状態の推定における信頼性の尺度を反映する。EMベースのアルゴリズムの場合、EM場に対する歪み、EM位置合わせにおける不正確性、患者のシフト又は動き、及び患者の呼吸などの因子が、状態の推定における信頼性に影響を及ぼし得る。特に、EMベースのアルゴリズムによって提供される状態の推定における信頼値は、患者の特定の呼吸周期、患者又はEM場発生器の動き、及び器具先端部が位置する解剖学的構造内の位置に依存し得る。画像ベースのアルゴリズムの場合、状態の推定において信頼値に影響を及ぼし得る例示的な因子としては、画像がキャプチャされる解剖学的構造内の位置の照明条件、画像をキャプチャする光学センサに対する、又はその前面にある、流体、組織、又はその他の障害物の存在、患者の呼吸、管状網内の一般的な流体及び管状網の閉塞などの患者自体(例えば、肺)の管状網の状態、並びに、例えば、ナビゲート又は画像キャプチャに使用される特定の操作技術が挙げられる。
【0072】
例えば、ある因子は、特定のアルゴリズムが、気道開口部に比較的近位であるような、患者の肺内の異なる深さで異なるレベルの精度を有し、特定のアルゴリズムが、医療器具の位置及び配向の推定において高い信頼性を有し得るが、医療器具が肺の底部へと更に移動すると、その信頼値が低下し得るようであり得る。一般に、信頼値は、それによって結果が判定されるプロセスに関する1つ以上の全身性因子に基づくものであり、一方で、確率は、基礎データに基づいて単一のアルゴリズムを用いて、複数の可能性から正しい結果を決定しようと試みるときに生じる相対的な尺度である。
【0073】
一例として、離散確率分布(例えば、関与する推定状態の3つの値を伴う三分岐の分枝/セグメント識別)によって表される推定状態の結果を計算するための数学的方程式は、以下のとおりであり得る。
=CEM 1,EM+C画像 1,画像+Cロボット 1,ロボット
=CEM 2,EM+C画像 2,画像+Cロボット 2,ロボット
=CEM 3,EM+C画像 3,画像+Cロボット 3,ロボット
【0074】
上記の例示的な数学的方程式において、S(i=1,2,3)は、3つの可能なセグメントが3Dモデル内で識別されるか又は存在する場合の、推定状態の可能な例示値を表し、CEM、C画像、及びCロボットは、EMベースのアルゴリズム、画像ベースのアルゴリズム、及びロボットベースのアルゴリズムに対応する信頼値を表し、また、Pi,EM、Pi,画像、及びPi,ロボットは、セグメントiの確率を表す。
【0075】
推定状態に関連付けられた確率分布及び信頼値の概念をより良く例示するために、本明細書で詳細な例を提供する。本実施例では、ユーザは、器具先端部が管状網の中央気道(予測領域)内の特定の三分岐内に位置するセグメントを識別することを試みており、またEMベースのアルゴリズム、画像ベースのアルゴリズム、及びロボットベースのアルゴリズムを含む3つのアルゴリズムモジュールが用いられる。本実施例では、EMベースのアルゴリズムに対応する確率分布は、第1の分枝内で20%、第2の分枝内で30%、及び第3の(最後の)分枝内で50%であり得、このEMベースのアルゴリズム及び中央気道に適用される信頼値は80%である。同じ実施例では、画像ベースのアルゴリズムに対応する確率分布は、第1、第2、及び第3の分枝の場合で40%、20%、40%であってもよく、またこの画像ベースのアルゴリズムに適用される信頼値は30%であり、一方で、ロボットベースのアルゴリズムに対応する確率分布は、第1、第2、及び第3の分枝の場合で10%、60%、30%であってもよく、またこの画像ベースのアルゴリズムに適用される信頼値は20%である。EMベースのアルゴリズム及び画像ベースのアルゴリズムに適用される信頼値の差は、EMベースのアルゴリズムが、画像ベースのアルゴリズムと比較して、中央気道におけるセグメント識別のより良い選択であり得ることを示す。最終推定状態の例示的な数学的計算は、以下のものであり得る。
【0076】
第1の分枝の場合、20%×80%+40%×30%+10%×20%=30%;第2の分枝の場合、30%×80%+20%×30%+60%×20%=42%;第3の分枝の場合、50%×80%+40%×30%+30%×20%=58%。
【0077】
この実施例では、器具先端部の出力推定状態は、結果値(例えば、結果として得られる30%、42%、及び58%)、又は、器具先端部が第3の分枝にあるという判定などの、これらの結果値からの微分値であり得る。この実施例は、EMベースのアルゴリズム、画像ベースのアルゴリズム、及びロボットベースのアルゴリズムを含むアルゴリズムモジュールの使用について説明しているが、器具先端部の状態の推定値も、経路ベースアルゴリズムを含む様々なアルゴリズムモジュールの異なる組み合わせに基づいて提供され得る。
【0078】
上記のように、推定状態は、多数の異なる方法で表されてもよい。例えば、推定状態は、気道から器具の先端部の位置までの絶対深さ、並びに管状網内の器具によって横断される分枝のセットを表すデータセットを更に含んでもよく、このセットは、例えば、患者の肺の3Dモデルによって提供される分枝のセット全体のサブセットである。推定状態に対する確率分布及び信頼値の適用は、管状網内の器具先端部の位置及び/又は配向の推定精度の改善を可能にする。
【0079】
VI.B.2 経路ベースのナビゲーションの概要
図9Aに示すように、アルゴリズムモジュールは、EMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、ロボットベースのアルゴリズムモジュール970、及び経路ベースのアルゴリズムモジュール975を含む。図9Aに示されるアルゴリズムモジュールは単なる一例であり、代替的な実施形態では、異なる及び/又は追加のナビゲーションアルゴリズムを伴う、異なる及び/又は追加のアルゴリズムモジュールもナビゲーションモジュール905に含まれてもよい。EMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、及びロボットベースのアルゴリズムモジュール970の更なる詳細及び例示的実施形態は、上記で参照した米国特許出願公開第2017/0084027号で説明されている。
【0080】
図10は、本開示の態様による、経路ベースのアルゴリズムモジュール975の例示的なブロック図を示す。経路ベースのアルゴリズムモジュール975は、入力として、推定状態データストア985からの推定状態データ(以前)(例えばポジションデータ及び/又は深さデータ)、3Dモデルデータストア940からの3Dモデルデータ、及び経路データストア945からの経路データを受信する。受信したデータに基づいて、経路ベースのアルゴリズムモジュール975は、管状網の3Dモデルに対する器具先端部のポジションの推定値を判定し、状態推定器980に経路ベースの推定状態データ(現在)を提供し、これは推定状態データストア985に記憶され得る。一例として、経路ベースの推定状態データは、3Dモデルの複数の識別されたセグメント間の確率分布(例えば、分岐部で接合された2つのセグメントに対する30%及び70%の離散分布)として表すことができる。
【0081】
ナビゲーション構成システム900は、推定状態データストア985から受信した推定状態データ(以前)に基づいて定義され得る器具先端部の現在位置に応じて、複数のモダリティのうちの1つで動作することができる。具体的には、ナビゲーション構成システム900は、器具先端部の現在位置が、3Dモデルデータストア940に記憶された3Dモデルデータによって画定され得る管腔網のマッピングされた部分内にあると判定された場合、1つのモダリティで(例えば、ナビゲーションモジュール905を使用して)動作することができる。更に、特定の実施態様では、経路ベースのアルゴリズムモジュール975は、器具先端部の現在位置が、管腔網のマッピングされた部分の外側にあるか、又は、管腔網のマッピングされていない部分の閾値距離内にあると判定された場合は、別のモダリティで(例えば外部セグメンテーションナビゲーションモジュール907を使用して)動作することができる。以下でより詳細に説明するとおり、ナビゲーション構成システム900は、器具の現在位置から管腔網のマッピングされた部分の縁部までの距離などの特定の閾値の検出に基づいて、第1のモダリティと第2のモダリティとの間を移行することができる。
【0082】
VI.B.2.I.経路ベースのナビゲーション-管腔網のマッピングされた部分内
図11は、本開示の態様による、管状網の経路ベースのナビゲーションのための、ロボットシステム又はその構成要素(複数可)によって動作可能な例示的な方法を示すフローチャートである。例えば、図11に示される方法1100の工程は、プロセッサ(複数可)、及び/又は医療用ロボットシステム(例えば、外科用ロボットシステム500)などのその他の構成要素(複数可)、若しくは関連するシステム(複数可)(例えば、ナビゲーション構成システム900の経路ベースのアルゴリズムモジュール945)によって実施され得る。便宜上、方法1100は、方法1100の説明に関連して単に「システム」とも称されるナビゲーション構成システムによって実施されるものとして説明される。
【0083】
方法1100は、ブロック1101において開始する。ブロック1105において、システムは、位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することができる。位置データは、患者の管腔網を通って駆動されるように構成されている器具の位置を示すことができる。上述のように、システムは、少なくとも1つのコンピュータ可読メモリに記憶された管腔網のモデル(例えば、3Dモデルデータストア940に記憶された3Dモデルデータ)と、モデルに対する標的のポジションと、モデルの少なくとも一部分に沿った、アクセス点から標的までの経路と、を含むことができる。特定の実施形態では、経路及び標的のポジションは、経路データストア945内の経路データとして記憶され得る。
【0084】
ブロック1110において、システムは、位置データに基づいて第1の時間における器具の位置の第1の推定値を判定することができる。器具の位置の第1の推定値は、例えば、画像データストア910、EMデータストア920、ロボットデータストア930、及び/又は3Dモデルデータストア940のうち1つ以上から受信したデータに基づいてもよい。
【0085】
ブロック1115において、システムは、経路に基づいて第1の時間における器具の位置の第2の推定値を判定することができる。特定の実装形態では、経路ベースの推定状態データは、経路に沿ったセグメント(例えば、経路データストア945から受信された経路データ)及び識別されたセグメントに関連付けられた重みの表示を含み得る。したがって、システムは、経路ベースの位置推定値に関連付けられた重みを判定することができる。
【0086】
実施形態に応じて、システムは、推定状態データストア985の深さデータストア1088から受信した深さデータに基づいて、器具の推定位置として、経路に沿った管腔網のセグメントを選択してもよい。システムは、深さ情報を使用して、深さデータから判定された経路に沿った距離(例えば、管腔網のアクセス点から開始する深さデータによって画定される距離)に基づいて器具の位置を推定することができる。
【0087】
システムは、複数の方法又はモダリティのうちの1つを用いて、経路ベースの推定値に関連付けられた重みを判定することができる。特定の実施形態では、システムは、管腔網内の器具の位置に基づいて(例えば、推定状態データストア985から受信した推定状態データ(以前)に基づいて)、重みを判定してもよい。以下に詳細に記載されるように、経路ベースの位置推定値に関連する重みは、操作者が器具を駆動している間に経路から逸脱する確率に基づいてもよい。様々な要因が、経路の一部ではない管腔網のセグメントに操作者が器具を駆動させる確率に影響を及ぼし得る。これらの要因の例としては、器具を前進させるための正しいセグメントを視覚的に識別することの難しさ、管腔網の分枝系の複雑さ、経路の外側の管腔網の部分を探索する操作者の判定などが挙げられる。これらの要因のいくつか又は全てが、管腔網への器具の挿入深さに応じて操作者が経路から逸脱する確率を増加させ得る。重みの適切な選択により、システムは、状態推定器980が、器具の推定状態をベースとするデータ源として、経路ベースの位置推定を確実に使用する能力を増加させることができる。
【0088】
関連する態様において、ブロック1115に関する更なる詳細及び例示的なモデルを、図12を参照して以下で説明する。
【0089】
引き続き図11を参照すると、ブロック1120において、システムは、第1の推定値及び第2の推定値に基づいて第1の時間における器具の位置を判定することができる。この判定は、例えば、経路ベースのアルゴリズムモジュール975、並びにEMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、及びロボットベースのアルゴリズムモジュール970のうちの少なくとも1つから受信した推定状態データに基づいて、器具の状態を判定する状態推定器980によって実施され得る。システムが、経路ベースの位置推定値に関連付けられた重みを判定する実施形態では、システムは、ブロック1120において器具の位置を判定する際に重みを更に使用することができる。方法1110は、ブロック1125において終了する。
【0090】
図12は、経路ベースの位置推定に関連する本開示の態様を説明するための、管腔網の一部分の簡略化された例示的モデルである。具体的には、図12は、管腔網の中心線によって画定され得る構造線(skeleton)1205、及びモデル1200の一部分を横断するナビゲーション経路1210を含む簡略化された管腔網のモデル1200を示す。構造線1205からオフセットされて示されているが、特定の実施形態では、ナビゲーション経路1210は構造線1205に沿って画定され得る。モデル1200は、第1世代セグメント1221と、第1世代セグメント1221から分枝する2つの第2世代セグメント1231及び1235と、4つの第3世代セグメント1241、1243、1245、及び1247と、を更に含む。器具の遠位端の2つの例示的な位置1251及び1255も図12に示されている。
【0091】
一実施態様では、器具の位置は、器具の遠位端が現在位置しているセグメントを識別することによって画定され得る。この実施態様では、モデルは、複数のセグメント(例えば、図12に示すセグメント1221~1247)を含んでもよく、ここで各セグメントは、世代カウント又は世代指定に関連付けられる。所与のセグメントの世代カウントは、所与のセグメントと、器具が管腔網内にアクセスすることを可能にする患者のアクセス点との間に位置する管腔網内の分枝の数に基づいて決定又は定義されてよい。図12の実施形態では、セグメント1221~1247への世代カウントの例示的な割り当ては、世代カウント1を有する第1世代セグメント1221と、世代カウント2を有する第2世代セグメント1231及び1235と、世代カウント3を有する第3世代セグメント1241、1243、1245、及び1247と、を含み得る。当業者であれば、世代カウント及び/又は世代指定を管腔網のセグメントに割り当てるためにその他の番号付けスキームを用いてもよいことが理解されよう。
【0092】
特定の実装形態では、システムは、経路ベースの位置推定値を用いて器具が位置する現在のセグメントを推定し、現在のセグメントの世代カウントに基づいて、経路ベースの位置推定値に関連付けられた重みを判定することができる。例えば、器具が第1の位置1251に配置されているとき、現在のセグメント1231のセグメントカウントは2であり得る。システムは、特定の実施形態では、世代カウントが増加するにつれて、経路ベースの位置推定値の重みを減少させることができる。換言すると、経路ベースの推定値に与えられる重みは、現在のセグメントの世代カウントが増加するにつれて減少する(例えば、単調に)ことができる。図12の例を参照すると、この実装形態では、第2の位置1255における経路ベースの推定値に割り当てられた重みは、第1の位置1251における経路ベースの推定値に割り当てられた重みよりも小さくてよい。重みを判定するためにシステムによって使用される特定の機能は、特に限定されない。1つの例示的な実施態様では、特定のセグメントに与えられる重みは、セグメントの世代カウントに反比例し得る。
【0093】
器具が管腔網内の十分な距離を前進した後で、システムは、経路ベースの位置推定値に割り当てられる重みをゼロ又は別の最小値まで低減することができる。特定の実装形態では、システムは、器具が位置する現在のセグメントの世代カウントに基づいて重みをゼロ又は最小値まで減少させるかどうかを判定することができる。例えば、システムは、第1のセグメントの世代カウントが閾値世代カウントよりも大きいと判定することに応答して、現在のセグメントの世代カウントが閾値世代カウントよりも大きいと判定して、重みをゼロ又は最小値に設定することができる。
【0094】
実施形態によっては、経路ベースの位置推定値に関連付けられた重みは、推定値に関連付けられた信頼値に対応し得る。上述のように、信頼値は、経路ベースのアルゴリズムモジュール975によって提供される状態の推定値における信頼性の尺度を反映し得る。システムは、ロボットシステムの操作者がナビゲーション経路から逸脱する尤度に基づいて信頼値を判定することができる。操作者がナビゲーション経路から逸脱する尤度は、実際の医療処置中の器具の位置の追跡に基づいて経験的に判定され得る。一実施例では、操作者が気管支鏡処置中に気管から主気管支のうちの1つに移行するときなどの処置の開始付近で、操作者がナビゲーション経路から逸脱する尤度は、実質的にゼロであり得る。しかしながら、器具が気道内を更に前進すると、操作者が、例えばカメラから受信した画像に基づいて、網の正しいセグメントを識別して、器具を中へと駆動することはより困難になる場合がある。あるいは、操作者は、管腔網の一部分を調査するために、又は複雑なナビゲーション操作を実施する(例えば、管腔網内の緊密な湾曲の周りで器具を関節動作させる)ために、器具が標的に接近するときに、経路から逸脱するように決定することができる。したがって、器具が更に管腔網内を前進するにつれて操作者がナビゲーション経路から離れる確率の増加と一致するように、経路ベースの位置推定値の信頼性レベルを下げることが有利であり得る。
【0095】
VI.B.2.II.経路ベースのナビゲーション-管腔網のマッピングされた部分の外側
管腔網のマッピングされた部分内にあるときに器具の位置を推定する際の経路の使用に加えて、経路は、器具が管腔網のマッピングされた部分の外側に位置するときにおけるデータ源として使用されてもよい。具体的には、所与の管腔網のモデルは、管腔網の全体を完全にマッピングしない場合がある。図13は、本開示の態様による、管腔網1310上にオーバレイされたモデル1300(例えば、3Dモデルデータストア940内に記憶された3Dモデルデータ)の例示的な図である。場合によっては、モデル1300を生成するために使用される撮像及びマッピング技術における制約が、管腔網1310全体に対応するモデルの生成を妨げる場合がある。例えば、管腔網内の特定の分枝状の内腔は、一般的な撮像及びマッピング技術で明確に描写及び分析することができないほど小さい場合がある。したがって、モデル1300は、管腔網1310の完全な表現を提供せずに、例えば、管腔網1310の様々な部分をマッピングされていないままにする、かつ/又はモデル1300中で表現されていないままにする場合がある。
【0096】
例えば、図13に示すように、モデル1300は、管腔網1310のマッピングされた部分1320に対応することができる。モデル1300によって表現されない場合のある管腔網1310のマッピングされていない部分1330は、マッピングされた部分1320を越えて延在する場合がある。管腔網1310のマッピングされた部分1320のセクションと管腔網1310のマッピングされていない部分1330のセクションとを含むモデル1300の部分1350は、図15で拡大されており、これは以下で説明する。
【0097】
器具の位置を推定するための特定のアルゴリズムは、器具の位置を表す推定状態データを生成するために、3Dモデルデータストアから受信した3Dモデルデータを利用することができる。例えば、EMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、及びロボットベースのアルゴリズムモジュール970のそれぞれは、状態データを推定する際に、3Dモデルデータストア940から受信した3Dモデルデータを使用することができる。したがって、器具が、管腔網のマッピングされていない部分(例えば、図13のマッピングされていない部分1330)へと駆動される場合、3Dモデルデータストア940は、器具の位置の推定に使用することができる3Dモデルデータを有さない場合がある。したがって、本開示の態様は、器具位置を推定するために使用される3Dモデルデータの欠如に対処するための、経路データ(例えば、経路データストア945に記憶される)の使用に関する。
【0098】
図14は、本開示の態様による、管状網の非セグメント化部分の外部におけるナビゲーションに経路ベースのデータを使用するために、ロボットシステム又はその構成要素(複数可)によって動作可能な別の例示的な方法を示すフローチャートである。例えば、図14に示される方法1400の工程は、プロセッサ(複数可)、及び/又は医療用ロボットシステム(例えば、外科用ロボットシステム500)などのその他の構成要素(複数可)、若しくは関連するシステム(複数可)(例えば、ナビゲーション構成システム900の経路ベースのアルゴリズムモジュール945)によって実施され得る。便宜上、方法1400は、方法1400の説明に関連して単に「システム」とも称されるナビゲーション構成システムによって実施されるものとして説明される。
【0099】
方法1400は、ブロック1401において開始する。ブロック1405において、システムは、経路が標的に到達する前に患者の管腔網のマッピングされた部分を離れると判定することができる。方法1400を実施する際、システムは、少なくとも1つのコンピュータ可読メモリに記憶された管腔(luminal)のマッピングされた部分のモデルと、モデルに対する標的のポジションと、モデルの少なくとも一部分に沿った、アクセス点から標的までの経路と、を含むことができる。したがって、ブロック1405は、プロセッサが、経路の少なくとも一部分が管腔網のマッピングされていない部分を通って標的まで延在すると判定することを伴い得る。
【0100】
関連する態様において、ブロック1405に関する更なる詳細を、図15を参照して以下で説明する。具体的には、図15に関連する以下の説明は、経路が管腔網のマッピングされた部分を離れたことをシステムがどのように判定し得るかを詳述する、いくつかの実施形態に関する更なる詳細を提供する。
【0101】
ブロック1410において、システムは、少なくとも第1のモダリティ(例えば、図9Aのナビゲーションモジュール905)を介して器具の現在位置を表示することができる。第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及びモデルのマッピングされた部分に基づいて器具位置を導出するシステムを含み得る。位置データの例としては、画像データ、EMデータ、及びロボットデータが挙げられる。実施形態によっては、第1のモダリティは、EMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、及びロボットベースのアルゴリズムモジュール970のうちの1つ以上を介した器具の位置の推定値を含み得る。
【0102】
ブロック1415において、システムは、器具の現在位置に基づいて、器具の遠位端が、経路が管腔網のマッピングされた部分を離れた点の閾値範囲内にあると判定することができる。
【0103】
一実施形態では、システムは、図15の実施例に示されるように、器具が最後から2番目のセグメント1525内に位置していると判定することに基づいて、器具が、経路が管腔網のマッピングされた部分を離れる点の閾値範囲内にあると判定することができる。システムは、最後から2番目のセグメント1525を、最後のセグメント1520に隣接し、かつ経路1505に沿って位置するモデル1300の1つのセグメントとして識別することができる。
【0104】
別の実施形態では、管腔網1310の最後のセグメント1520と1つ以上のマッピングされていないセグメント1530との間のより多くのマッピングされていない交差点のうちの1つの位置(複数可)を識別することに基づいて、システムは、器具の遠位端が、経路が管腔網のマッピングされた部分を離れる点の閾値範囲内にあると判定することができる。一実装形態では、システムは、器具の遠位端又はその近くに位置するカメラを使用してキャプチャされた画像を使用することができる。システムは、管腔網1310内の交差点(例えば、分岐)を表す画像内の視覚的オブジェクトを識別するように構成され得る。システムは、検出された視覚的オブジェクトを使用して、最後のセグメント1520とマッピングされていないセグメント(複数可)1530との交差点の位置を推定することができる。
【0105】
システムはまた、器具の現在位置と交差点の位置との間の距離に基づいて、器具の遠位端が、経路が管腔網のマッピングされた部分を離れる点の閾値範囲内にあると判定することができる。特定の実施形態では、システムは、器具の現在位置が、より多くのマッピングされていない交差点のうちの1つの位置から規定された距離内にあると判定することができる。
【0106】
ブロック1420において、システムは、器具の遠位端が点の閾値範囲内にあると判定することに応答して、第1のモダリティに与えられた重みの低減に基づいて器具の現在位置を更新することができる。閾値範囲に基づいて第1のモダリティに与えられる重みを低減することに加えて、又はその代わりに、システムはまた、第1のモダリティに与えられた重みを低減するための1つ以上の他の条件を使用してもよい。例えば、こうした条件の1つとしては、器具が、最後から2番目のセグメント(例えば、図15の最後から2番目のセグメント1525)内に位置すると判定することが挙げられ得る。別の条件としては、器具が最後から2番目のセグメント1525から閾値距離内にあると判定することが挙げられ得る。別の態様では、条件としては、器具の現在位置が、最後のセグメント1520中に存在するより多くのマッピングされていない交差点のうちの1つの位置から規定された距離内にあると判定することが挙げられ得る。
【0107】
システムはまた、器具が管腔網のマッピングされた部分に戻ることに応答して、第1のモダリティに与えられる重みを増加させるように構成されてもよい。第1のモダリティに与えられる重みのこの増加は、ブロック1420において重みを低減する前に、重みを元の値に戻すことを含んでもよい。
【0108】
特定の実装形態では、システムは、器具の現在位置に基づいて、器具の遠位端が、管腔網のマッピングされた部分の外側から(例えば、管腔網のマッピングされていない部分から)管腔網のマッピングされた部分に戻ったと判定することができる。器具の遠位端が管腔網のマッピングされた部分に戻ったと判定することに応答して、システムは、第1のモダリティに与えられた重みの増加に基づいて、器具の現在位置を更新することができる。すなわち、システムは、EMベースのアルゴリズムモジュール950、画像ベースのアルゴリズムモジュール960、及びロボットベースのアルゴリズムモジュール970のうちの1つ以上における3Dモデルデータストア940からの3Dモデルデータの使用に戻ることができる。
【0109】
器具が管腔網のマッピングされた部分に戻ったという判定はまた、器具が管腔網のマッピングされた部分を離れた位置の表示をシステムが記憶することを伴い得る。例えば、システムは、第1のモダリティに与えられた低減した重みに基づいて、器具の位置の推定が最初に行われた器具の位置を判定することができる。器具が上述の位置まで後退したと判定することに応答して、システムは、器具が管腔網のマッピングされた部分内に後退したと判定することができる。
【0110】
いくつかの実装形態では、第1のモダリティに与えられる重みの低減は、経路追跡モードに入ることを含み得る。経路追跡モードは、例えば、システムが、モデルに対する器具の以前の位置を示す視覚的しるしをユーザディスプレイ上に表示することを含んでもよい。経路追跡モードはまた、新しい視覚的しるしが規則的な間隔でユーザディスプレイ上に表示される「ブレッドクラム」モードと称され得る。特定の実装形態では、視覚的しるしは、管腔網内、及び特に管腔網のマッピングされていない部分内における器具の履歴ポジションを示し得る。実施形態によっては、システムは、経路追跡モードにあるときに、画像データ、EMデータ、及びロボットデータのうち少なくとも1つを参照することなく、器具の位置を判定することができる。EMデータに対するオフセットを計算及び適用するために使用され得る特定の実施形態は、それぞれが参照によりその全体が本明細書に組み込まれる、2017年10月13日出願の米国特許出願第62/572,285号、及び2018年9月26日出願の米国特許出願第16/143,362号に記載されている。
【0111】
その他の実装形態において、第1のモダリティに与えられる重みの低減は、器具の遠位端の位置を判定するために第2のモダリティに入ることを含み得る。再び図9Aを参照すると、第2のモダリティでは、システム900は、ナビゲーションモジュール905の代わりに外部セグメンテーションナビゲーションモジュール907を使用して、出力ナビゲーションデータストア990に提供された出力ナビゲーションデータを判定することができる。外部セグメンテーションナビゲーションモジュール907は、EMデータストア920、ロボットデータストア930、3Dモデルデータストア940、及び経路データストア945のうち少なくとも1つから受信した入力データに基づいて管状網内の医療器具の推定状態を位置特定(又は判定)することができる。上述したように、システム900は、経路データストア945から受信した経路データに基づいて第2のモダリティに入ることを判定してもよい。
【0112】
システムは、例えば、モデル(例えば、3Dモデルデータ)のマッピングされた部分には依存せずに、位置データ(例えば、EMデータ、及びロボットデータ)に基づいて器具の位置を導出することによって、第2のモダリティ内の器具の位置を判定することができる。具体的には、外部セグメンテーションナビゲーションモジュール907は、EMデータストア920、ロボットデータストア930、及び3Dモデルデータストア940のそれぞれから受信したデータを使用して、EMデータの位置合わせを判定することができる。加えて、外部セグメンテーションナビゲーションモジュール907は、ロボットデータを使用して、器具の挿入及び/又は後退の量を追跡してもよい。外部セグメンテーションナビゲーションモジュール907は、挿入及び/又は後退データを使用して、器具が第2のモダリティに入り、かつ第1のモダリティにスイッチバックする点まで後退したことに基づいて、器具がこの点まで後退したか否かを判定することができる。
【0113】
外部セグメンテーションナビゲーションモジュール907はまた、ナビゲーションモジュール905の使用から外部セグメンテーションナビゲーションモジュール907に移行するとき、3Dモデルデータを用いて、位置合わせされたEMデータにオフセットを適用することができる。オフセットは、さもなければ移行中に生じ得る、出力ナビゲーションデータの突然のジャンプを防止することができる。EMデータに対するオフセットを計算及び適用するために使用され得る特定の実施形態は、それぞれが参照によりその全体が本明細書に組み込まれる、2017年12月18日出願の米国特許出願第62/607,246号、及び2018年12月14日出願の米国特許出願第16/221,020号に記載されている。特定の実装形態では、外部セグメンテーションナビゲーションモジュール907は、位置合わせされたEMデータを使用して出力ナビゲーションデータを生成することができる。したがって、外部セグメンテーションナビゲーションモジュール907は、出力ナビゲーションデータを判定する前に、EMデータの位置合わせを最初に判定し得る。いくつかの実装形態では、システム900は、器具が管腔網内(例えば、第3世代セグメント内)を所定の距離駆動されることに基づいて、位置合わせを判定することができる。したがって、外部セグメンテーションナビゲーションモジュール907は、器具が第3世代セグメント(例えば図12の第3世代セグメント1241、1243、1245、及び1247)内に駆動されることに応答して、出力ナビゲーションデータの生成を開始することができる。方法1400は、ブロック1425において終了する。
【0114】
経路が管腔網のマッピングされた部分を離れるか否かを判定するために使用され得るいくつかの例示的な実施形態を、図15に関連して論じる。図15は、本開示の態様による、マッピングされた部分1320及びマッピングされていない部分1330を含む、図13の管腔網1310の部分1350を示す。図15の実施例で示すように、標的1510は、管腔網1310のマッピングされていない部分1320内に位置していてもよい。したがって、経路1505は、管腔網1310のマッピングされた部分1320から、標的1510に到達する前に、管腔網1310のマッピングされていない部分1320内に延在し得る。経路1510を選択するとき(例えば、以下の図17に関連して論じられる手術前経路の計画中に)、管腔網1310のマッピングされていない部分1320が操作者によって閲覧することができない場合があるため、経路1505は、管腔網1310のマッピングされていない部分1320内の内腔に必ずしも沿うことができない。いくつかの実施形態では、経路1505は、経路1505の最終セグメント1520と標的1510との間の実質的な直線に沿うことができる。
【0115】
図15に示すように、モデル1300は、第1のセグメント1520及び第2のセグメント1525を含む複数のセグメントを含む。第1のセグメント1520は、経路1505が管腔網1310のマッピングされた部分1320を離れる前のモデル1300の最終セグメント1520を表すことができ、一方で、第2のセグメント1525は、経路1505が管腔網1310のマッピングされた部分1320を離れる前のモデル1300の最後から2番目の(「終わりから2番目(penultimate)」とも称される)セグメント1525を表すことができる。システムは、例えば、図14に示すブロック1405において、最終セグメント1520及び/又は最後から2番目のセグメント1525の識別に基づいて、経路が管腔網のマッピングされた部分1320を離れると判定することができる。
【0116】
特定の実施形態では、システムは、最後及び/又は最後から2番目のセグメント1520及び/又は1525の識別に基づいて、経路1505が管腔網1310のマッピングされた部分1320を離れる点を判定することができる。したがって、システムは、経路1505がモデル1300の最後のセグメント1520から管腔網1310のマッピングされた部分1320を離れるとの判定に基づいて、経路1505が標的1510に到達する前に管腔網1310のマッピングされた部分1320を離れると判定することができる。
【0117】
別の実施形態では、システムは、器具が第2のセグメント1525から閾値距離内にあるという判定に基づいて、器具が標的1510に到達する前に管腔網1310のマッピンされたグ部分1320を離れると判定することができる。したがって、システムは、器具の現在位置と、経路が管腔網1310のマッピングされた部分1320を離れる点との間の距離を判定し、距離を閾値距離と比較することができる。一実施形態では、システムは、器具の現在位置と経路1505が管腔網1310のマッピングされた部分1320を離れる点との間の距離を、器具の現在位置と経路1505が管腔網1310のマッピングされた部分1320を離れる点との間の経路1505の長さとして判定することができる。その他の実施形態では、システムは、器具の現在位置と経路1505が管腔網1310のマッピングされた部分1320を離れる点との間のユークリッド距離を判定することができる。
【0118】
図16は、本開示の態様による、器具の遠位端の追跡された位置を含む3Dモデルの図である。図16の実施例では、図は、管腔網1600の3Dモデルと、器具の追跡された推定位置1605の第1のセットと、器具の追跡された推定位置1610の第2のセットと、を含む。管腔網1600のマッピングされた部分及びマッピングされていない部分は、図16に示されていない。
【0119】
追跡された推定位置1605の第1のセットは、第1のモダリティに与えられる重みに一切の変更を加えない、上記で図14に関連して説明された第1のモダリティによって推定される器具の遠位端の推定位置を表す。対照的に、追跡された推定位置1610の第2のセットは、ブロック1420で実施される第1のモダリティに与えられた重みの低減を含む、上記で図14に関連して説明された第1のモダリティによって推定される器具の遠位端の推定位置を表す。
【0120】
図16の実施例では、器具は、管腔網1600のマッピングされた部分の外側に駆動された。第1のモダリティがそれに与えられた重みに対する変化を加えずに使用されたため、追跡された推定位置1605の第1のセットは、器具が管腔網1600のマッピングされた部分を離れた後であっても、3Dモデルデータストア940からの手術前3Dモデルデータを使用し続けた。したがって、追跡された推定位置1605の第1のセットは、管腔網1600のマッピングされていない部分の位置と厳密に一致しておらず、そのため器具位置の不正確な推定値を提供する。追跡された推定位置1610の第2のセットは、第1のモダリティに与えられる重みが低減され、器具がモデルのマッピングされた部分の最後から2番目のセグメントに位置するときに経路追跡モードに入ることを含み得る一実施形態を示す。ここでは、第1のモダリティから第2のモダリティへの切り替えに起因して、追跡された推定位置1610の第2のセットが、追跡された推定位置1605の第1のセットよりも管腔網1600の実際の位置を厳密に追跡する。
【0121】
VII.ナビゲーション準備のための手術前経路計画
患者の身体の管状網内の特定の点までナビゲートすることは、管状網の3Dモデルを作成し、ナビゲーション経路を判定するために用いられる情報を生成するための手術前の特定の工程を取ることを伴い得る。図17は、様々な実施形態による、例示的な管状網を通ってナビゲートする外科用器具(例えば、器具先端部)の調製のための例示的な手術前法を示す。具体的には、図17は、管状網内の特定の部位まで器具先端部をナビゲートするための例示的な手術前方法1700を示す。方法1700の各工程と並んで、経路を計画し、管状網を通ってナビゲートするための関連データの表現を示すための対応する画像が示される。
【0122】
最初に、ブロック1705において、管状網の手術前モデルデータ(例えば、CTスキャン)に基づいて生成されたスキャン/画像が得られ、CTスキャンからのデータは、管状網の構造及び接続性に関する3D情報を提供する。例えば、ブロック1705における画像は、患者の肺のトモグラフィスライスを示す。
【0123】
ブロック1710において、得られたCTスキャンデータに基づいて3Dモデルが生成され、生成された3Dモデルは、管状網の各分枝に固有の識別情報を割り当てて、網内での便利なナビゲーションを可能にするために用いられ得る。例えば、ブロック1710における画像は、患者の気管支網の3Dモデルを示す。
【0124】
ブロック1715において、標的1716が選択され、この標的は、例えば、生検に対する病変、又は外科的に修復するための臓器組織の一部分であってもよい。一実施形態では、システムは、マウスをクリックするか又はタッチスクリーンにタッチすることなどにより、3Dモデルを表示することができるコンピュータディスプレイとインターフェースすることによって、標的の位置を選択するための能力をユーザに提供する。続いて、選択された標的は、ユーザに表示され得る。例えば、標的1716は、工程1710から生成された3D気管支モデル内にマークされる。
【0125】
ブロック1720において、経路1721は、標的1716への入口点1722から自動的に計画され、経路1721は、標的1716に到達するように、それを通して移動する網内の分枝のシーケンスを識別する。一実施形態では、管状網は樹枝状であってもよく、経路1721は、管状網の構造によって一意に判定されてもよく、別の実施形態では、管状網は環状であってもよく、経路は、最短経路アルゴリズムなどの適切なアルゴリズムによって見出されてもよい。
【0126】
経路1721が判定されると、仮想内視鏡1725を実施して、ユーザに内視鏡処置のプレビューを与えることができる。工程1710から生成された3Dモデルを使用して、あたかも3Dモデルに対応する網をナビゲートする間に内視鏡先端部によって見られるような2D画像のシーケンスを生成する。経路1721は、辿ることにより入口点1722から標的1716へと到達することができる曲線として示され得る。
【0127】
仮想内視鏡先端部が標的1716に到達したら、仮想ツール整列手順1730を実施して、標的において外科処置を実施するために内視鏡ツールを操作する方法をユーザに例示することができる。例えば、図では、仮想内視鏡生検針1731は、気管支の表面の下に位置する病変1732を生検するためにユーザによって操作される。病変の位置は、ユーザが針をそれと整列させ、続いて針を使用して気管支の表面を穿孔し、その下の病変にアクセスすることができるようにハイライトされる。これは、実際の外科処置中に行われる工程を模倣して、手術を実施する前にユーザが練習することを可能にする。
【0128】
VIII.システム及び用語の実装
本明細書に開示される実装形態は、管状網の経路ベースのナビゲーションのためのシステム、方法、及び機器を提供する。
【0129】
本明細書で使用するとき、用語「連結する」、「連結している」、「連結された」、又は単語結合の他の変形は、間接的接続又は直接的接続のいずれかを示し得ることに留意されたい。例えば、第1の構成要素が第2の構成要素に「連結される」場合、第1の構成要素は、別の構成要素を介して第2の構成要素に間接的に接続される、又は第2の構成要素に直接的に接続される、のいずれかであってもよい。
【0130】
本明細書に記載の経路ベースのナビゲーション機能は、プロセッサ可読媒体又はコンピュータ可読媒体上の1つ以上の命令として記憶されてもよい。用語「コンピュータ可読媒体」は、コンピュータ又はプロセッサによってアクセスすることができる任意の利用可能な媒体を指す。一例として、限定するものではないが、こうした媒体は、ランダムアクセスメモリ(random access memory、RAM)、読み出し専用メモリ(read-only memory、ROM)、電気的消去可能プログラム可能読み出し専用メモリ(electrically erasable programmable read-only memory、EEPROM)、フラッシュメモリ、コンパクトディスク読み出し専用メモリ(compact disc read-only memory、CD-ROM)を含んでもよく、あるいは他の光ディスク記憶装置は、RAM、ROM、EEPROM、フラッシュメモリ、CD-ROM、若しくはその他の光ディスク記憶装置、磁気ディスク記憶装置、若しくは他の磁気記憶装置、又は命令若しくはデータ構造の形態で所望のプログラムコードを記憶するために使用することができ、コンピュータによってアクセスすることができる任意の他の媒体を含んでもよい。コンピュータ可読媒体は、有形であり、非一時的であってもよいことに留意されたい。本明細書で使用するとき、用語「コード」は、コンピューティング装置又はプロセッサによって実行可能であるソフトウェア、命令、コード、又はデータを指してもよい。
【0131】
本明細書に開示される方法は、記載される方法を達成するための1つ以上の工程又は行為を含む。方法工程及び/又は行為は、特許請求の範囲から逸脱することなく互いに交換されてもよい。換言すれば、記載されている方法の適切な動作のために特定の順序の工程又は行為が必要とされない限り、特許請求の範囲から逸脱することなく、特定の工程及び/又は行為の順序及び/又は使用を修正してもよい。
【0132】
本明細書で使用するとき、用語「複数」は、2つ以上を示す。例えば、複数の構成要素は、2つ以上の構成要素を示す。用語「判定する」は、多種多様な行為を包含し、したがって、「判定する」は、計算する、演算する、処理する、算出する、調査する、ルックアップする(例えば、テーブル、データベース又は別のデータ構造を見ること)、確認することなどを含むことができる。また、「判定する」は、受け取る(例えば、情報を受信すること)、アクセスする(例えば、メモリ内のデータにアクセスすること)などを含むことができる。また、「判定する」は、解決する、選択する、選出する、確立するなどを含むことができる。
【0133】
語句「基づく」は、別途明示的に指定されない限り、「のみに基づく」ことを意味しない。換言すれば、語句「基づく」は、「のみに基づく」及び「少なくとも基づく」の両方を記載する。
【0134】
開示される実装形態の前述の説明は、任意の当業者が本発明を製造すること、又は使用することを可能にするために提供される。これらの実装形態に対する種々の修正は、当業者には容易に明らかになり、かつ、本明細書で規定される一般的な原理は、本発明の範囲から逸脱することなく、他の実装形様に適用され得る。例えば、当業者であれば、締結、装着、連結、又は係合ツール構成要素の均等の方法、特定の作動運動を生み出すための均等の機構、及び電気エネルギーを送達するための均等の機構など、多くの対応する代替的かつ均等の構造的詳細を使用することができると理解されるであろう。したがって、本発明は、本明細書に示される実装形態に限定されることを意図するものではなく、本明細書に開示される原則及び新規な特徴と一致する最も広い範囲が与えられるものである。
【0135】
〔実施の態様〕
(1) 医療用ロボットシステムであって、
1つ以上のプロセッサのセットと、
前記プロセッサのセットと通信し、かつ患者の管腔網のモデルと、前記モデルに対する標的のポジションと、前記モデルの少なくとも一部分に沿った、アクセス点から前記標的までの経路と、を記憶した少なくとも1つのコンピュータ可読メモリであって、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することであって、前記位置データは、前記管腔網を通って駆動されるように構成されている器具の位置を示す、ことと、
前記位置データに基づいて第1の時間における前記器具の前記位置の第1の推定値を判定することと、
前記経路に基づいて前記第1の時間における前記器具の前記位置の第2の推定値を判定することと、
前記第1の推定値及び前記第2の推定値に基づいて前記第1の時間における前記器具の前記位置を判定することと、を行わせる、少なくとも1つのコンピュータ可読メモリと、を備える、医療用ロボットシステム。
(2) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記第2の推定値に関連付けられた重みを判定することを行わせ、
前記器具の前記位置の前記判定は、前記重みに更に基づいている、実施態様1に記載のシステム。
(3) 前記モデルは複数のセグメントを含み、各セグメントは、対応する前記セグメントと前記アクセス点との間に位置する前記管腔網内の分枝の数に基づいて判定された世代カウントに関連付けられ、
前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記器具が位置している前記セグメントのうちの第1のセグメントを識別することと、
前記第1のセグメントの前記世代カウントに基づいて前記第2の推定値の前記重みを判定することと、を行わせる、実施態様2に記載のシステム。
(4) 前記第2の推定値の前記重みは、前記世代カウントが増加するにつれて値が減少する、実施態様3に記載のシステム。
(5) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記第1のセグメントの前記世代カウントが閾値世代カウントよりも大きいと判定することと、
前記第1のセグメントの前記世代カウントが前記閾値世代カウントよりも大きいと判定することに応答して前記重みをゼロに設定することと、を行わせる、実施態様3に記載のシステム。
【0136】
(6) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記器具の前記位置と前記アクセス点との間の距離を判定することと、
前記距離に基づいて前記第2の推定値の前記重みを判定することと、を行わせる、実施態様2に記載のシステム。
(7) 前記モデルは複数のセグメントを含み、
前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記器具が位置している前記セグメントのうちの第1のセグメントを識別することと、
前記第1のセグメントの直径を判定することと、
前記第1のセグメントの前記直径に基づいて前記第2の推定値の前記重みを判定することと、を行わせる、実施態様2に記載のシステム。
(8) 前記位置センサのセットは、
前記器具の遠位端に位置し、画像データを生成するように構成されているカメラと、
前記器具の前記遠位端に位置し、電磁(EM)データを生成するように構成されている1つ以上のEMセンサのセットと、を備え、
前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、前記ロボットコマンド入力に基づいて前記器具の前記位置を示すロボットデータを判定することを行わせ、
前記器具の前記位置の前記第1の推定値の前記判定は、前記画像データ及び前記EMデータに更に基づいている、実施態様1に記載のシステム。
(9) 非一時的コンピュータ可読記憶媒体であって、前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を有し、前記命令は、実行されると、少なくとも1つのコンピューティング装置に、
位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することであって、前記位置データは、患者の管腔網を通って駆動されるように構成されている器具の位置を示す、ことと、
前記位置データに基づいて第1の時間における前記器具の前記位置の第1の推定値を判定することと、
少なくとも1つのコンピュータ可読メモリに記憶された経路に基づいて前記第1の時間における前記器具の前記位置の第2の推定値を判定することであって、前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された前記管腔網のモデルと、前記モデルに対する標的のポジションと、前記経路と、を更に有し、前記経路は、前記モデルの少なくとも一部分に沿ってアクセス点から前記標的まで画定される、ことと、
前記第1の推定値及び前記第2の推定値に基づいて前記第1の時間における前記器具の前記位置を判定することと、を行わせる、非一時的コンピュータ可読記憶媒体。
(10) 前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記第2の推定値に関連付けられた重みを判定することを行わせ、
前記器具の前記位置の前記判定は、前記重みに更に基づいている、実施態様9に記載の非一時的コンピュータ可読記憶媒体。
【0137】
(11) 前記モデルは複数のセグメントを含み、各セグメントは、対応する前記セグメントと前記アクセス点との間に位置する前記管腔網内の分枝の数に基づいて判定された世代カウントに関連付けられ、
前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記器具が位置している前記セグメントのうちの第1のセグメントを識別することと、
前記第1のセグメントの前記世代カウントに基づいて前記第2の推定値の前記重みを判定することと、を行わせる、実施態様10に記載の非一時的コンピュータ可読記憶媒体。
(12) 前記第2の推定値の前記重みは、前記世代カウントが増加するにつれて値が減少する、実施態様11に記載の非一時的コンピュータ可読記憶媒体。
(13) 前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記第1のセグメントの前記世代カウントが閾値世代カウントよりも大きいと判定することと、
前記第1のセグメントの前記世代カウントが前記閾値世代カウントよりも大きいと判定することに応答して前記重みをゼロに設定することと、を行わせる、実施態様11に記載の非一時的コンピュータ可読記憶媒体。
(14) 前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記器具の前記位置と前記アクセス点との間の距離を判定することと、
前記距離に基づいて前記第2の推定値の前記重みを判定することと、を行わせる、実施態様10に記載の非一時的コンピュータ可読記憶媒体。
(15) 前記モデルは複数のセグメントを含み、
前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記器具が位置している前記セグメントのうちの第1のセグメントを識別することと、
前記第1のセグメントの直径を判定することと、
前記第1のセグメントの前記直径に基づいて前記第2の推定値の前記重みを判定することと、を行わせる、実施態様10に記載の非一時的コンピュータ可読記憶媒体。
【0138】
(16) 前記位置センサのセットは、
前記器具の遠位端に位置し、画像データを生成するように構成されているカメラと、
前記器具の前記遠位端に位置し、電磁(EM)データを生成するように構成されている1つ以上のEMセンサのセットと、を備え、
前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、前記ロボットコマンド入力に基づいて前記器具の前記位置を示すロボットデータを判定することを行わせ、
前記器具の前記位置の前記第1の推定値の前記判定は、前記画像データ及び前記EMデータに更に基づいている、実施態様9に記載の非一時的コンピュータ可読記憶媒体。
(17) 器具の位置を推定する方法であって、
位置センサのセット及びロボットコマンド入力のセットのうちの少なくとも一方から位置データを受信することであって、前記位置データは、患者の管腔網を通って駆動されるように構成されている器具の位置を示す、ことと、
前記位置データに基づいて第1の時間における前記器具の前記位置の第1の推定値を判定することと、
少なくとも1つのコンピュータ可読メモリに記憶された経路に基づいて前記第1の時間における前記器具の前記位置の第2の推定値を判定することであって、前記少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶された前記管腔網のモデルと、前記モデルに対する標的のポジションと、前記経路と、を有し、前記経路は、前記モデルの少なくとも一部分に沿ってアクセス点から前記標的まで画定される、ことと、
前記第1の推定値及び前記第2の推定値に基づいて前記第1の時間における前記器具の前記位置を判定することと、を含む、方法。
(18) 前記第2の推定値に関連付けられた重みを判定することを更に含み、
前記器具の前記位置の前記判定は、前記重みに更に基づいている、実施態様17に記載の方法。
(19) 前記モデルは複数のセグメントを含み、各セグメントは、対応する前記セグメントと前記アクセス点との間に位置する前記管腔網内の分枝の数に基づいて判定された世代カウントに関連付けられ、
前記方法は、
前記器具が位置している前記セグメントのうちの第1のセグメントを識別することと、
前記第1のセグメントの前記世代カウントに基づいて前記第2の推定値の前記重みを判定することと、を更に含む、実施態様18に記載の方法。
(20) 前記第2の推定値の前記重みは、前記世代カウントが増加するにつれて値が減少する、実施態様19に記載の方法。
【0139】
(21) 前記第1のセグメントの前記世代カウントが閾値世代カウントよりも大きいと判定することと、
前記第1のセグメントの前記世代カウントが前記閾値世代カウントよりも大きいと判定することに応答して前記重みをゼロに設定することと、を更に含む、実施態様19に記載の方法。
(22) 前記器具の前記位置と前記アクセス点との間の距離を判定することと、
前記距離に基づいて前記第2の推定値の前記重みを判定することと、を更に含む、実施態様18に記載の方法。
(23) 前記モデルは複数のセグメントを含み、
前記方法は、
前記器具が位置している前記セグメントのうちの第1のセグメントを識別することと、
前記第1のセグメントの直径を判定することと、
前記第1のセグメントの前記直径に基づいて前記第2の推定値の前記重みを判定することと、を更に含む、実施態様18に記載の方法。
(24) 前記位置センサのセットは、
前記器具の遠位端に位置し、画像データを生成するように構成されているカメラと、
前記器具の前記遠位端に位置し、電磁(EM)データを生成するように構成されている1つ以上のEMセンサのセットと、を備え、
前記方法は、前記ロボットコマンド入力に基づいて前記器具の前記位置を示すロボットデータを判定することを更に含み、
前記器具の前記位置の前記第1の推定値の前記判定は、前記画像データ及び前記EMデータに更に基づいている、実施態様17に記載の方法。
(25) 医療用ロボットシステムであって、
1つ以上のプロセッサのセットと、
前記プロセッサのセットと通信し、かつ患者の管腔網のマッピングされた部分のモデルと、前記モデルに対する標的のポジションと、前記モデルの少なくとも一部分に沿った、アクセス点から前記標的までの経路と、を記憶した少なくとも1つのコンピュータ可読メモリであって、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れると判定することと、
少なくとも第1のモダリティを介して器具の現在位置を表示することであって、前記第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及び前記モデルの前記マッピングされた部分に基づいて位置を導出し、前記器具は、前記管腔網を通って駆動されるように構成されている、ことと、
前記現在位置に基づいて、前記器具の前記遠位端は、前記経路が前記管腔網の前記マッピングされた部分を離れる点の閾値範囲内にあると判定することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、前記第1のモダリティに与えられた重みの低減に基づいて前記器具の前記現在位置を更新することと、を行わせる、少なくとも1つのコンピュータ可読メモリと、を備える、医療用ロボットシステム。
【0140】
(26) 前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、前記器具が、前記第1のセグメントに隣接しかつ前記経路に沿って位置する第2のセグメント内に位置していると判定することを行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメント内に位置していると判定することに更に応答したものである、実施態様25に記載のシステム。
(27) 前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記器具が前記第2のセグメントから閾値距離内にあると判定することを更に含み、
前記第1のモダリティに与えられた前記低減した重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメントから前記閾値距離内にあると判定することに更に応答したものである、実施態様26に記載のシステム。
(28) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記現在位置に基づいて、前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することと、
前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することに応答して、前記第1のモダリティに与えられた前記重みの増加に基づいて前記器具の前記現在位置を更新することと、を行わせる、実施態様26に記載のシステム。
(29) 前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することは、
前記器具の前記現在位置を更新することが最初は前記第1のモダリティに与えられた前記低減した重みに基づいていた、前記器具の第1の位置を判定することと、
前記器具が前記第1の位置に後退していると判定することと、を含む、実施態様28に記載のシステム。
(30) 前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れると判定することは、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記第1のセグメントと前記管腔網の1つ以上のマッピングされていないセグメントとの間の、より多くのマッピングされていない交差点のうちの1つの位置を識別することと、
前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から規定された距離内にあると判定することと、を行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から前記規定された距離内にあると判定することに更に応答したものである、実施態様25に記載のシステム。
【0141】
(31) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記器具の前記現在位置が前記点の前記閾値範囲内にあると判定することに応答して、経路追跡モードに入ることと、
前記経路追跡モードにあるときに、ユーザディスプレイ上に、前記モデルに対する前記器具の以前の位置を示す視覚的しるしを表示することと、を行わせる、実施態様25に記載のシステム。
(32) 前記視覚的しるしは、前記管腔網内の前記器具の履歴ポジションを示している、実施態様31に記載のシステム。
(33) 前記第1のモダリティは、前記経路追跡モードではないときに、画像データ、電磁(EM)データ、及びロボットデータに基づいて前記器具の前記位置を導出する、実施態様31に記載のシステム。
(34) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記経路追跡モードにあるときに、前記画像データ、前記EMデータ、及び前記ロボットデータのうち少なくとも1つを参照することなく、前記器具の前記位置を判定することを行わせる、実施態様33に記載のシステム。
(35) 前記メモリは、前記メモリに記憶されたコンピュータ実行可能命令を更に有し、前記コンピュータ実行可能命令は、前記プロセッサのセットに、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、少なくとも第2のモダリティを介して前記器具の前記現在位置を更新することであって、前記第2のモダリティは、前記位置データに基づいて、前記モデルの前記マッピングされた部分に依存せずに、前記位置を導出する、ことを行わせる、実施態様25に記載のシステム。
【0142】
(36) 非一時的コンピュータ可読記憶媒体であって、前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を有し、前記命令は、実行されると、少なくとも1つのコンピューティング装置に、
経路が標的に到達する前に患者の管腔網のマッピングされた部分を離れると判定することであって、少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶された前記管腔網の前記マッピングされた部分のモデルと、前記モデルに対する前記標的のポジションと、前記モデルの少なくとも一部分に沿った、アクセス点から前記標的までの前記経路と、を有する、ことと、
少なくとも第1のモダリティを介して器具の現在位置を表示することであって、前記第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及び前記モデルの前記マッピングされた部分に基づいて位置を導出し、前記器具は、前記管腔網を通って駆動されるように構成されている、ことと、
前記現在位置に基づいて、前記器具の前記遠位端は、前記経路が前記管腔網の前記マッピングされた部分を離れる点の閾値範囲内にあると判定することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、前記第1のモダリティに与えられた重みの低減に基づいて前記器具の前記現在位置を更新することと、を行わせる、非一時的コンピュータ可読記憶媒体。
(37) 前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、前記器具が、前記第1のセグメントに隣接しかつ前記経路に沿って位置する第2のセグメント内に位置していると判定することを行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメント内に位置していると判定することに更に応答したものである、実施態様36に記載の非一時的コンピュータ可読記憶媒体。
(38) 前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記器具が前記第2のセグメントから閾値距離内にあると判定することを更に含み、
前記第1のモダリティに与えられた前記低減した重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメントから前記閾値距離内にあると判定することに更に応答したものである、実施態様37に記載の非一時的コンピュータ可読記憶媒体。
(39) 前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記現在位置に基づいて、前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することと、
前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することに応答して、前記第1のモダリティに与えられた前記重みの増加に基づいて前記器具の前記現在位置を更新することと、を行わせる、実施態様37に記載の非一時的コンピュータ可読記憶媒体。
(40) 前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することは、
前記器具の前記現在位置を更新することが最初は前記第1のモダリティに与えられた前記低減した重みに基づいていた、前記器具の第1の位置を判定することと、
前記器具が前記第1の位置に後退していると判定することと、を含む、実施態様39に記載の非一時的コンピュータ可読記憶媒体。
【0143】
(41) 前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れると判定することは、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記第1のセグメントと前記管腔網の1つ以上のマッピングされていないセグメントとの間の、より多くのマッピングされていない交差点のうちの1つの位置を識別することと、
前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から規定された距離内にあると判定することと、を行わせ、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から前記規定された距離内にあると判定することに更に応答したものである、実施態様36に記載の非一時的コンピュータ可読記憶媒体。
(42) 前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記器具の前記現在位置が前記点の前記閾値範囲内にあると判定することに応答して、経路追跡モードに入ることと、
前記経路追跡モードにあるときに、ユーザディスプレイ上に、前記モデルに対する前記器具の以前の位置を示す視覚的しるしを表示することと、を行わせる、実施態様36に記載の非一時的コンピュータ可読記憶媒体。
(43) 前記視覚的しるしは、前記管腔網内の前記器具の履歴ポジションを示している、実施態様42に記載の非一時的コンピュータ可読記憶媒体。
(44) 前記第1のモダリティは、前記経路追跡モードではないときに、画像データ、電磁(EM)データ、及びロボットデータに基づいて前記器具の前記位置を導出する、実施態様42に記載の非一時的コンピュータ可読記憶媒体。
(45) 前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記経路追跡モードにあるときに、前記画像データ、前記EMデータ、及び前記ロボットデータのうち少なくとも1つを参照することなく、前記器具の前記位置を判定することを行わせる、実施態様44に記載の非一時的コンピュータ可読記憶媒体。
【0144】
(46) 前記非一時的コンピュータ可読記憶媒体は、前記非一時的コンピュータ可読記憶媒体に記憶された命令を更に有し、前記命令は、実行されると、前記少なくとも1つのコンピューティング装置に、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、少なくとも第2のモダリティを介して前記器具の前記現在位置を更新することであって、前記第2のモダリティは、前記位置データに基づいて、前記モデルの前記マッピングされた部分に依存せずに、前記位置を導出する、ことを行わせる、実施態様36に記載の非一時的コンピュータ可読記憶媒体。
(47) 器具の位置を判定する方法であって、
経路が標的に到達する前に患者の管腔網のマッピングされた部分を離れると判定することであって、少なくとも1つのコンピュータ可読メモリは、前記少なくとも1つのコンピュータ可読メモリに記憶された前記管腔網の前記マッピングされた部分のモデルと、前記モデルに対する前記標的のポジションと、前記モデルの少なくとも一部分に沿った、アクセス点から前記標的までの前記経路と、を有する、ことと、
少なくとも第1のモダリティを介して器具の現在位置を表示することであって、前記第1のモダリティは、1つ以上の位置センサのセットから受信した位置データ、及び前記モデルの前記マッピングされた部分に基づいて位置を導出し、前記器具は、前記管腔網を通って駆動されるように構成されている、ことと、
前記現在位置に基づいて、前記器具の前記遠位端は、前記経路が前記管腔網の前記マッピングされた部分を離れる点の閾値範囲内にあると判定することと、
前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、前記第1のモダリティに与えられた重みの低減に基づいて前記器具の前記現在位置を更新することと、を含む、方法。
(48) 前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記方法は、前記器具が、前記第1のセグメントに隣接しかつ前記経路に沿って位置する第2のセグメント内に位置していると判定することを更に含み、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメント内に位置していると判定することに更に応答したものである、実施態様47に記載の方法。
(49) 前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れるという前記判定は、前記器具が前記第2のセグメントから閾値距離内にあると判定することを更に含み、
前記第1のモダリティに与えられた前記低減した重みに基づいて前記器具の前記現在位置を更新することは、前記器具が前記第2のセグメントから前記閾値距離内にあると判定することに更に応答したものである、実施態様48に記載の方法。
(50) 前記現在位置に基づいて、前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することと、
前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することに応答して、前記第1のモダリティに与えられた前記重みの増加に基づいて前記器具の前記現在位置を更新することと、を更に含む、実施態様48に記載の方法。
【0145】
(51) 前記器具の前記遠位端が前記管腔網の前記マッピングされた部分の外側から前記管腔網の前記マッピングされた部分に戻ったと判定することは、
前記器具の前記現在位置を更新することが最初は前記第1のモダリティに与えられた前記低減した重みに基づいていた、前記器具の第1の位置を判定することと、
前記器具が前記第1の位置に後退していると判定することと、を含む、実施態様50に記載の方法。
(52) 前記モデルは複数のセグメントを含み、
前記経路が前記標的に到達する前に前記管腔網の前記マッピングされた部分を離れると判定することは、前記経路が前記モデルの第1のセグメントから前記管腔網の前記マッピングされた部分を離れると判定することを含み、
前記方法は、
前記第1のセグメントと前記管腔網の1つ以上のマッピングされていないセグメントとの間の、より多くのマッピングされていない交差点のうちの1つの位置を識別することと、
前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から規定された距離内にあると判定することと、を更に含み、
前記第1のモダリティに与えられた低減した前記重みに基づいて前記器具の前記現在位置を更新することは、前記器具の前記現在位置が、前記より多くのマッピングされていない交差点のうちの1つの前記位置から前記規定された距離内にあると判定することに更に応答したものである、実施態様47に記載の方法。
(53) 前記器具の前記現在位置が前記点の前記閾値範囲内にあると判定することに応答して、経路追跡モードに入ることと、
前記経路追跡モードにあるときに、ユーザディスプレイ上に、前記モデルに対する前記器具の以前の位置を示す視覚的しるしを表示することと、を更に含む、実施態様47に記載の方法。
(54) 前記視覚的しるしは、前記管腔網内の前記器具の履歴ポジションを示している、実施態様53に記載の方法。
(55) 前記第1のモダリティは、前記経路追跡モードではないときに、画像データ、電磁(EM)データ、及びロボットデータに基づいて前記器具の前記位置を導出する、実施態様53に記載の方法。
【0146】
(56) 前記経路追跡モードにあるときに、前記画像データ、前記EMデータ、及び前記ロボットデータのうち少なくとも1つを参照することなく、前記器具の前記位置を判定することを更に含む、実施態様55に記載の方法。
(57) 前記器具の前記遠位端が前記点の前記閾値範囲内にあると判定することに応答して、少なくとも第2のモダリティを介して前記器具の前記現在位置を更新することであって、前記第2のモダリティは、前記位置データに基づいて、前記モデルの前記マッピングされた部分に依存せずに、前記位置を導出する、ことを更に含む、実施態様47に記載の方法。
図1A
図1B
図1C
図1D
図1E
図1F
図2
図3A
図3B
図4A
図4B
図5
図6A
図6B
図7
図8A
図8B
図8C
図8D
図8E
図8F
図9A
図9B
図10
図11
図12
図13
図14
図15
図16
図17