IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オーリス ヘルス インコーポレイテッドの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-11-04
(54)【発明の名称】器具画像信頼性システム及び方法
(51)【国際特許分類】
   A61B 34/20 20160101AFI20221027BHJP
   A61B 34/30 20160101ALI20221027BHJP
   A61B 1/00 20060101ALI20221027BHJP
   A61B 1/045 20060101ALI20221027BHJP
【FI】
A61B34/20
A61B34/30
A61B1/00 552
A61B1/045 614
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022513189
(86)(22)【出願日】2020-08-27
(85)【翻訳文提出日】2022-03-24
(86)【国際出願番号】 IB2020058023
(87)【国際公開番号】W WO2021038495
(87)【国際公開日】2021-03-04
(31)【優先権主張番号】62/894,601
(32)【優先日】2019-08-30
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】518083032
【氏名又は名称】オーリス ヘルス インコーポレイテッド
(74)【代理人】
【識別番号】100088605
【弁理士】
【氏名又は名称】加藤 公延
(74)【代理人】
【識別番号】100130384
【弁理士】
【氏名又は名称】大島 孝文
(72)【発明者】
【氏名】イ・メンロン
【テーマコード(参考)】
4C161
【Fターム(参考)】
4C161AA00
4C161BB00
4C161CC06
4C161DD03
4C161HH55
4C161LL02
4C161QQ03
4C161QQ06
4C161SS21
4C161WW20
4C161XX01
(57)【要約】
本明細書では、画像管理に関連するシステム及び方法が記載されている。システムは、細長い本体及び撮像デバイスを含む器具を含み得る。細長い本体は、管腔ネットワークに挿入されるように構成することができる。撮像デバイスは、細長い本体の遠位先端部上に位置付けられ得る。システムは、細長い本体が管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を撮像デバイスから受信し得る。画像の各々について、システムは、管腔ネットワーク内の細長い本体の遠位先端部の位置特定のための画像の信頼性を示す1つ又は2つ以上のメトリックを判定し得る。システムは、1つ又は2つ以上のメトリックの各々に対する信頼性閾値を判定し得る。システムは、1つ又は2つ以上のメトリックが対応する信頼性閾値を満たすかどうかに基づいて、1つ又は2つ以上の画像を利用することができる。
【特許請求の範囲】
【請求項1】
システムであって、
器具であって、
管腔ネットワークに挿入されるように構成された細長い本体と、
前記細長い本体の遠位先端部上に位置付けられた撮像デバイスと、
を備える、器具と、
実行可能命令を記憶している少なくとも1つのコンピュータ可読メモリと、
1つ又は2つ以上のプロセッサであって、前記少なくとも1つのコンピュータ可読メモリと通信しており、かつ前記命令を実行して、前記システムに、少なくとも、
前記撮像デバイスから、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信することと、
前記1つ又は2つ以上の画像の各々について、前記管腔ネットワーク内の前記細長い本体の前記遠位先端部の位置特定のための画像の信頼性を示す1つ又は2つ以上のメトリックを判定することと、
前記1つ又は2つ以上のメトリックの各々について信頼性閾値を判定することと、
対応する信頼性閾値を満たす前記画像の前記1つ又は2つ以上のメトリックの各々に応答して、前記遠位先端部の前記位置特定のために前記画像を利用することと、を行わせるように構成されている、プロセッサと、を備える、システム。
【請求項2】
前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、少なくとも、
1つ又は2つ以上の信頼性閾値を満たす画像の機械学習モデルにアクセスすることと、
前記機械学習モデルに基づいて、前記1つ又は2つ以上のキャプチャされた画像の各々についての前記1つ又は2つ以上のメトリックが、前記対応する信頼性閾値を満たすかどうかを判定することと、を行わせるように構成されている、請求項1に記載のシステム。
【請求項3】
前記機械学習モデルが、(i)前記対応する信頼性閾値を満たす1つ又は2つ以上のメトリックを有する画像と、(ii)前記対応する信頼性閾値を満たさない1つ又は2つ以上のメトリックを有する画像と、を区別するようにトレーニングされた畳み込みニューラルネットワークを含む、請求項2に記載のシステム。
【請求項4】
前記1つ又は2つ以上のメトリックが、
前記画像内のぼやけのレベルを示す第1のメトリックと、
前記画像内の鏡面ハイライトの量を示す第2のメトリックと、
前記画像内の視覚的特徴の利用可能性を示す第3のメトリックと、のうちの少なくとも1つを含む、請求項1に記載のシステム。
【請求項5】
前記画像の前記利用が、
第1の重み付けパラメータを前記第1のメトリックに割り当てることと、
第2の重み付けパラメータを前記第2のメトリックに割り当てることと、
第3の重み付けパラメータを前記第3のメトリックに割り当てることと、
前記第1のメトリック、前記第2のメトリック、及び前記第3のメトリックの、前記それぞれの第1の重み付けパラメータ、第2の重み付けパラメータ、及び第3の重み付けパラメータとの線形の組み合わせに基づいて、複合メトリックを判定することであって、前記複合メトリックが、前記遠位先端部の前記位置特定のための前記画像の信頼性を示す、判定することと、を含む、請求項4に記載のシステム。
【請求項6】
前記1つ又は2つ以上のメトリックを判定することが、
前記画像の二次元座標に対応する画像値を特定することを含み、
各画像値が、対応する座標における色値に基づく、請求項4に記載のシステム。
【請求項7】
前記1つ又は2つ以上のメトリックを判定することが、
前記画像の修正画像上でラプラシアン演算子を実行して、行列を取得することと、
前記修正画像に関連付けられた前記行列の分散を判定することと、に基づいて、前記第1のメトリックを判定することを含む、請求項6に記載のシステム。
【請求項8】
前記1つ又は2つ以上のメトリックを判定することが、
前記画像の彩度及び明度値を判定することと、
前記画像の面積に対する彩度又は値のうちの少なくとも一方の比を判定することと、に基づいて、前記第2のメトリックを判定することを含む、請求項6に記載のシステム。
【請求項9】
前記第2のメトリックを判定することが、前記画像の第1の点と第2の点との間の明度値の分散を判定することを含み、前記第1の点及び前記第2の点が互いに隣接している、請求項8に記載のシステム。
【請求項10】
前記第2のメトリックを判定することが、閾値彩度レベルを下回る彩度値を有する画素の数を特定することを含む、請求項8に記載のシステム。
【請求項11】
前記1つ又は2つ以上のメトリックを判定することが、
SIFT、SURF、BRIEF、BRISK、又はFASTのうちの少なくとも1つを使用して、前記画像内の特徴の数を特定することに基づいて、前記第3のメトリックを判定することを含む、請求項6に記載のシステム。
【請求項12】
特徴の数を特定することが、前記画像内の縁又は角部のうちの少なくとも一方を特定することを含む、請求項6に記載のシステム。
【請求項13】
前記画像の前記利用が、前記1つ又は2つ以上の画像の各々に信頼性係数を割り当てることを含み、前記信頼性係数が、前記1つ又は2つ以上のメトリックに基づいており、かつ前記遠位先端部の前記位置特定のための前記画像の信頼性を示す、請求項1に記載のシステム。
【請求項14】
前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、前記1つ又は2つ以上のメトリックに対応する前記信頼性閾値の各々をユーザから受信させるように更に構成されている、請求項1に記載のシステム。
【請求項15】
前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、前記1つ又は2つ以上のメトリックの対応する第1のメトリック及び第2のメトリックに基づいて、第2の信頼性閾値よりも高い第1の信頼性閾値を自動的に設定させるように更に構成されている、請求項1に記載のシステム。
【請求項16】
前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、仮想画像を含む術前モデルデータにアクセスさせるように更に構成されている、請求項1に記載のシステム。
【請求項17】
術前モデルデータにアクセスすることが、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた前記1つ又は2つ以上の画像を前記仮想画像と比較することを含む、請求項16に記載のシステム。
【請求項18】
前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、前記管腔ネットワーク内の前記細長い本体の位置を、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた前記1つ又は2つ以上の画像を前記仮想画像と比較することに基づいて判定させるように更に構成されている、請求項17に記載のシステム。
【請求項19】
方法であって、
細長い器具の遠位端部に位置付けられている画像デバイスを使用して、前記細長い器具が管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信することと、
1つ又は2つ以上の閾値品質メトリックを満たす画像でトレーニングされた機械学習モデルにアクセスすることと、
前記機械学習モデルに基づいて、前記1つ又は2つ以上の画像が前記1つ又は2つ以上の閾値品質メトリックを満たすかどうかを判定することと、を含む、方法。
【請求項20】
前記機械学習モデルに基づいて、前記管腔ネットワーク内の前記細長い器具の前記遠位端部の位置特定のための画像の信頼性を示す1つ又は2つ以上の品質メトリックを判定することを更に含む、請求項19に記載の方法。
【請求項21】
前記1つ又は2つ以上の閾値品質メトリックを判定することを更に含む、請求項19に記載の方法。
【請求項22】
前記画像の前記1つ又は2つ以上の品質メトリックのうちの少なくとも1つが前記対応する1つ又は2つ以上の閾値品質メトリックを満たすことができないという判定に応答して、前記遠位端部の前記位置特定に使用されることから前記画像をフィルタリングすることを更に含む、請求項19に記載の方法。
【請求項23】
前記管腔ネットワーク内の前記細長い器具の位置を判定することを更に含む、請求項19に記載の方法。
【請求項24】
前記管腔ネットワーク内の前記細長い器具の前記位置を判定することが、前記1つ又は2つ以上のキャプチャされた画像を管腔ネットワークの術前画像と比較することを含む、請求項23に記載の方法。
【請求項25】
前記術前画像が、コンピュータ生成画像を含む、請求項24に記載の方法。
【請求項26】
前記術前画像が、コンピュータ断層撮影(CT)スキャンから得られた画像を含む、請求項24に記載の方法。
【請求項27】
システムであって、
器具であって、
管腔ネットワークに挿入されるように構成された細長い本体と、
前記細長い本体の遠位先端部上に位置付けられている撮像デバイスと、
を備える、器具と、
実行可能命令を記憶している少なくとも1つのコンピュータ可読メモリと、
1つ又は2つ以上のプロセッサであって、前記少なくとも1つのコンピュータ可読メモリと通信しており、かつ前記命令を実行して、前記システムに、少なくとも、
前記撮像デバイスから、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信することと、
前記1つ又は2つ以上の画像の各々について、前記管腔ネットワーク内の前記細長い本体の前記遠位先端部の位置特定のための画像の信頼性を示す1つ又は2つ以上のメトリックを判定することであって、前記1つ又は2つ以上のメトリックが、前記画像内のぼやけのレベルを示す少なくとも第1のメトリックを含む、判定することと、
前記1つ又は2つ以上のメトリックの各々について信頼性閾値を判定することと、
対応する信頼性閾値を満たす前記画像の前記1つ又は2つ以上のメトリックの各々に応答して、前記遠位先端部の前記位置特定のために前記画像を利用することと、を行わせるように構成されている、プロセッサと、を備える、システム。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本出願は、2019年8月30日に出願の米国仮出願第62/894,601号の利益を主張し、参照によりその全体が本明細書に組み込まれる。
【0002】
(発明の分野)
本開示は、概して、医療器具のナビゲーションのためのシステム及び方法に関し、より具体的には、ロボット制御式の医療器具をナビゲートするための画像ベースの分析に関する。
【背景技術】
【0003】
内視鏡検査(例えば、気管支鏡検査)などの医療処置では、診断及び/又は治療目的で患者の管腔(例えば、気道)の内部にアクセスし可視化を行う場合がある。処置中に、内視鏡などの可撓性の管状ツール又は器具を患者の体内に挿入され得る。いくつかの場合には、第2の器具を、内視鏡を通して診断及び/又は治療のために特定された組織部位に到達させることができる。
【0004】
気管支鏡検査は、医師が気管支及び細気管支などの患者の肺内の気道の内部状態を検査することを可能とする医療処置である。この医療処置では、気管支鏡として知られる細い可撓性の管状ツール又は器具を患者の口に挿入し、患者の喉から肺気道内へと、その後の診断及び/又は治療を行うために特定された組織部位に向かって通すことができる。気管支鏡は、組織部位への経路を提供する内部ルーメン(「作業チャネル」)を有することができ、作業チャネルを通してカテーテル及び様々な医療ツールを組織部位に挿入することができる。
【0005】
いくつかの医療処置では、外科用ロボットシステムは、外科用ツールの挿入及び/又は操作を制御するために使用され得る。外科用ロボットシステムは、処置中の外科用ツールの位置付けを制御するために使用されるマニピュレータアセンブリを有する少なくとも1つのロボットアーム又は他の器具位置付けデバイスを含むことができる。
【図面の簡単な説明】
【0006】
開示される態様は、以下、添付の図面と併せて説明され、開示された態様を例示するが、限定するものではなく、同様の称号は同様の要素を示す。
図1】診断及び/又は治療用気管支鏡検査処置のために配置されたカートベースのロボットシステムの実施形態を示す。
図2図1のロボットシステムの更なる態様を描写する。
図3】尿管鏡検査のために配置された図1のロボットシステムの実施形態を示す。
図4】血管処置のために配置された図1のロボットシステムの実施形態を示す。
図5】気管支鏡検査処置のために配置されたテーブルベースのロボットシステムの実施形態を示す。
図6図5のロボットシステムの代替的な図を提供する。
図7】ロボットアームを収納するように構成された例示的なシステムを示す。
図8】尿管鏡検査処置のために構成されたテーブルベースのロボットシステムの実施形態を示す。
図9】腹腔鏡処置のために構成されたテーブルベースのロボットシステムの実施形態を示す。
図10】ピッチ又は傾斜調整を備えた図5図9のテーブルベースのロボットシステムの実施形態を示す。
図11図5~10のテーブルベースのロボットシステムのテーブルとカラムとの間のインターフェースの詳細な図示を提供する。
図12】テーブルベースのロボットシステムの代替的な実施形態を示す。
図13図12のテーブルベースのロボットシステムの端面図を示す。
図14】ロボットアームが取り付けられた、テーブルベースのロボットシステムの端面図を示す。
図15】例示的な器具ドライバを示す。
図16】ペアの器具ドライバを備えた例示的な医療器具を示す。
図17】駆動ユニットの軸が器具の細長いシャフトの軸に平行である、器具ドライバ及び器具の代替的な設計を示す。
図18】器具ベースの挿入アーキテクチャを有する器具を示す。
図19】例示的なコントローラを示す。
図20】例示的な実施形態による、図1図10のロボットシステムの1つ又は2つ以上の要素の位置を推定する、位置特定システムを示すブロック図である。(例えば図16図18の器具の位置など)
図21】患者の例示的な管腔ネットワークを示す。
図22】本明細書に記載のロボットシステムのいくつかの実装態様と共に使用することができる例示的なコマンドコンソールを示す。
図23】例示的な医療器具の遠位端部の詳細図を示す。
図24】管腔ネットワークの枝の内部の例示的な画像を示す。
図25】分析システム及び医療機器を含む例示的な画像管理システムを示す。
図26】本明細書に記載の医療システムと組み合わせて使用することができるマッピングシステムを示す。
図27】上述の画像管理システムを実装するための例示的な方法を示す。
【発明を実施するための形態】
【0007】
I.概要
本開示の態様は、腹腔鏡などの低侵襲性、及び内視鏡などの非侵襲性の両方の処置を含む、様々な医療処置を行うことができるロボットで使用可能な医療システムに統合され得る。内視鏡処置のうち、システムは、気管支鏡検査、尿管鏡検査、胃鏡検査などを行うことができる。
【0008】
幅広い処置を行うことに加えて、システムは、医師を支援するための強調された撮像及び誘導などの追加の利益を提供し得る。追加的に、システムは、厄介な腕の動作及び姿勢を必要とせずに、人間工学的位置から処置を行う能力を医師に提供し得る。また更に、システムは、システムの器具のうちの1つ又は2つ以上が単一のユーザによって制御され得るように、改善された使いやすさで処置を行う能力を医師に提供し得る。
【0009】
以下、説明を目的として、図面と併せて、様々な実施形態が説明される。開示される概念の多くの他の実装態様が可能であり、開示される実装態様で様々な利点が達成され得ることを理解されたい。見出しが、参照のために本明細書に含まれ、様々なセクションの位置を特定する支援となる。これらの見出しは、それに関して説明される概念の範囲を限定することを意図するものではない。そのような概念は、本明細書全体にわたって適用可能性を有し得る。
【0010】
A.ロボットシステム-カート
ロボットで使用可能な医療システムは、特定の処置に応じて様々な方法で構成され得る。図1は、診断及び/又は治療用気管支鏡検査処置のために配置されたカートベースのロボット制御可能なシステム10の実施形態を示す。気管支鏡検査の間、システム10は、気管支鏡検査のための処置専用気管支鏡であり得る操縦可能な内視鏡13などの医療器具を、診断及び/又は治療用具を送達するための自然開口部アクセスポイント(すなわち、本実施例ではテーブル上に位置付けられている患者の口)に送達するための1つ又は2つ以上のロボットアーム12を有するカート11を備え得る。示されるように、カート11は、アクセスポイントへのアクセスを提供するために、患者の上部胴体に近接して位置付けられ得る。同様に、ロボットアーム12は、アクセスポイントに対して気管支鏡を位置付けるために作動させることができる。図1の配置はまた、胃腸管(GI)処置を、GI処置のための特殊な内視鏡である胃鏡を用いて行うときに利用され得る。図2は、カートの例示的な実施形態をより詳細に示す。
【0011】
図1を引き続き参照し、カート11が適切に位置付けられると、ロボットアーム12は、操縦可能な内視鏡13をロボットで、手動で、又はそれらの組み合わせで患者内に挿入し得る。示されるように、操縦可能な内視鏡13は、内側リーダ部分及び外側シース部分などの少なくとも2つの入れ子式部品を含み得、各部分は、器具ドライバの組28から別個の器具ドライバに連結され、各器具ドライバは、個々のロボットアームの遠位端部に連結されている。リーダ部分をシース部分と同軸上に位置合わせするのを容易にする、器具ドライバ28のこの直線配置は、1つ又は2つ以上のロボットアーム12を異なる角度及び/又は位置に操作することによって空間内に再位置付けされ得る「仮想レール」29を作成する。本明細書に記載される仮想レールは、破線を使用して図に示されており、したがって破線は、システムの物理的構造を示さない。仮想レール29に沿った器具ドライバ28の並進は、外側シース部分に対して内側リーダ部分を入れ子にするか、又は内視鏡13を患者から前進若しくは後退させる。仮想レール29の角度は、臨床用途又は医師の選好に基づいて、調整、並進、及び枢動され得る。例えば、気管支鏡検査では、示されるような仮想レール29の角度及び位置は、内視鏡13を患者の口内に曲げ入れることによる摩擦を最小限に抑えながら内視鏡13への医師のアクセスを提供する妥協を表す。
【0012】
内視鏡13は、標的の目的地又は手術部位に到達するまで、ロボットシステムからの正確なコマンドを使用して挿入後に患者の気管及び肺の下方に方向付けられ得る。患者の肺網を通したナビゲーションを高め、及び/又は所望の標的に到達するために、内視鏡13は、操縦され得て、内側リーダ部分を外側シース部分から入れ子状に延在させて、高められた関節運動及びより大きな曲げ半径を得る。別個の器具ドライバ28の使用により、リーダ部分及びシース部分が互いに独立して駆動されることも可能となる。
【0013】
例えば、内視鏡13は、例えば、患者の肺内の病変又は小結節などの標的に生検針を送達するように方向付けられ得る。針は、内視鏡の長さにわたる作業チャネルの下方に展開されて、病理医によって分析される組織サンプルが得られ得る。病理の結果に応じて、追加の生検のために追加のツールが内視鏡の作業チャネルの下方に展開され得る。小結節を悪性と識別した後、内視鏡13は、潜在的な癌組織を切除するために器具を内視鏡的に送達し得る。場合によっては、診断及び治療的処置は、別々の手順で提供することができる。これらの状況において、内視鏡13はまた、標的小結節の場所を「マーク」するために基準を送達するのに使用され得る。他の例では、診断及び治療的処置は、同じ処置中に送達され得る。
【0014】
システム10はまた、カート11に支持ケーブルを介して接続されて、カート11への制御、電子機器、流体工学、光学系、センサ、及び/又は電力のためのサポートを提供し得る移動可能なタワー30を含み得る。タワー30内にこのような機能を置くことにより、動作を行う医師及びそのスタッフがより容易に調整及び/又は再位置付けられ得るより小さいフォームファクタのカート11が可能となる。追加的に、カート/テーブルと支持タワー30との間の機能の分割は、手術室の乱雑さを低減し、臨床ワークフローの改善を促進する。カート11は患者に近接して位置付けられ得るが、タワー30は、処置中に邪魔にならないように離れた場所に収納され得る。
【0015】
上述のロボットシステムのサポートにおいて、タワー30は、例えば、永続的な磁気記憶ドライブ、ソリッドステートドライブなどの非一時的コンピュータ可読記憶媒体内にコンピュータプログラム命令を記憶するコンピュータベースの制御システムの構成要素を含み得る。これらの命令の実行は、実行がタワー30内で行われるのか又はカート11で行われるのかにかかわらず、システム全体又はそのサブシステムを制御し得る。例えば、コンピュータシステムのプロセッサによって実行されるとき、命令は、ロボットシステムの構成要素に、関連するキャリッジ及びアームマウントを作動させ、ロボットアームを作動させ、医療器具を制御させ得る。例えば、制御信号を受信したことに応答して、ロボットアームの関節内のモータは、アームをある特定の姿勢に位置付け得る。
【0016】
タワー30は、内視鏡13を通して配備され得るシステムに、制御された灌注及び吸引機能を提供するために、ポンプ、流量計、弁制御、及び/又は流体アクセスも含むことができる。これらの構成要素はまた、タワー30のコンピュータシステムを使用して制御され得る。いくつかの実施形態では、灌注及び吸引能力は、別個のケーブルを通して内視鏡13に直接送達され得る。
【0017】
タワー30は、フィルタリングされ、保護された電力をカート11に提供するように設計された電圧及びサージ保護具を含み得、それによって、カート11内に電力変圧器及び他の補助電力構成要素を配置することが回避され、カート11はより小さく、より移動可能になる。
【0018】
タワー30は、ロボットシステム10全体に配備されたセンサのための支持機器も含み得る。例えば、タワー30は、ロボットシステム10全体の光センサ又はカメラから受信したデータを検出、受信、及び処理するためのオプトエレクトロニクス機器を含み得る。制御システムと組み合わせて、このようなオプトエレクトロニクス機器は、タワー30内を含むシステム全体に展開された任意の数のコンソール内に表示するためのリアルタイム画像を生成するために使用され得る。同様に、タワー30はまた、展開された電磁(EM)センサから信号を受信し、受信した信号を処理するための電子サブシステムも含み得る。タワー30はまた、医療器具内又は医療器具上のEMセンサによる検出のためにEM場発生器を収容し、位置付けるためにも使用され得る。
【0019】
タワー30はまた、システムの残りの部分で利用可能な他のコンソール、例えば、カートの上部上に装着されたコンソールに追加して、コンソール31を含み得る。コンソール31は、オペレータである医師のためのユーザインターフェース及びタッチスクリーンなどの表示画面を含み得る。システム10内のコンソールは、一般に、ロボット制御、並びに内視鏡13のナビゲーション情報及び位置特定情報などの処置の術前及びリアルタイム情報の両方を提供するように設計される。コンソール31が医師に利用可能な唯一のコンソールではない場合、コンソール31は、看護師などの第2のオペレータによって使用されて、患者の健康又はバイタル、及びシステム10の動作を監視し、並びにナビゲーション及び位置特定情報などの処置固有のデータを提供し得る。他の実施形態では、コンソール30は、タワー30とは別個の本体内に収容される。
【0020】
タワー30は、1つ又は2つ以上のケーブル又は接続(図示せず)を介してカート11及び内視鏡13に結合され得る。いくつかの実施形態では、タワー30からの支持機能は、単一ケーブルを通してカート11に提供されることにより、手術室を簡略化し、整理整頓し得る。他の実施形態では、特定の機能は、別個の配線及び接続部で連結され得る。例えば、単一の電力ケーブルを通してカート11に電力が提供され得る一方、制御、光学、流体工学、及び/又はナビゲーションのためのサポートは、別個のケーブルを通して提供され得る。
【0021】
図2は、図1に示されるロボットで使用可能なカートベースのシステムからのカート11の実施形態の詳細な図を提供する。カート11は、概して、細長い支持構造14(「カラム」と称されることが多い)、カート基部15、及びカラム14の頂部にあるコンソール16を含む。カラム14は、1つ又は2つ以上のロボットアーム12(図2には3つ示されている)の展開を支持するためのキャリッジ17(代替的に「アーム支持体」)などの1つ又は2つ以上のキャリッジを含み得る。キャリッジ17は、患者に対してより良好に位置付けるために垂直軸に沿って回転してロボットアーム12の基部を調整する、個別に構成可能なアームマウントを含み得る。キャリッジ17はまた、キャリッジ17がカラム14に沿って垂直方向に並進することを可能にするキャリッジインターフェース19を含む。
【0022】
キャリッジインターフェース19は、キャリッジ17の垂直方向の並進を誘導するためにカラム14の両側に位置付けられているスロット20などのスロットを通してカラム14に接続されている。スロット20は、カート基部15に対して様々な垂直方向の高さでキャリッジ17を位置付け、保持するための垂直方向の並進インターフェースを含む。キャリッジ17の垂直方向の並進により、カート11は、様々なテーブルの高さ、患者のサイズ、及び医師の好みを満たすようにロボットアーム12のリーチを調整することが可能となる。同様に、キャリッジ17上の個別に構成可能なアームマウントにより、ロボットアーム12のロボットアーム基部21を様々な構成で角度付けすることが可能となる。
【0023】
いくつかの実施形態では、キャリッジ17が垂直方向に並進するときにカラム14の内部チャンバ及び垂直方向の並進インターフェース内に汚れ及び流体が侵入するのを防止するために、スロット20には、スロット表面と同一平面及び平行であるスロットカバーが追加され得る。スロットカバーは、スロット20の垂直方向の頂部及び底部付近に位置付けられているばねスプールの対を通じて展開され得る。カバーは、キャリッジ17が上下に垂直方向に並進するにつれてコイル状から伸縮するように展開されるまで、スプール内でコイル巻きにされている。スプールのばね荷重は、キャリッジ17がスプールに向かって並進する場合にカバーをスプールに引き込む力を提供し、一方、キャリッジ17がスプールから離れて並進する場合にはぴったりとした封止も維持する。カバーは、キャリッジ17が並進するときにカバーが適切に伸縮するのを確実にするために、例えば、キャリッジインターフェース19内のブラケットを使用してキャリッジ17に接続され得る。
【0024】
カラム14は、例えば、コンソール16からの入力などのユーザ入力に応答して生成された制御信号に応答してキャリッジ17を機械的に並進させるために垂直方向に位置合わせされた主ねじを使用するように設計された、ギア及びモータなどの機構を内部に含み得る。
【0025】
ロボットアーム12は、一般に、一連の関節24によって接続されている一連のリンク23によって分離されたロボットアーム基部21及びエンドエフェクタ22を含み得、各関節は独立したアクチュエータを含み、各アクチュエータは、独立して制御可能なモータを含む。独立して制御可能な各関節は、ロボットアーム12が利用可能な独立した自由度を表す。ロボットアーム12の各々は、7つの関節を有し得、したがって、7つの自由度を提供することが可能である。多数の関節は、多数の自由度をもたらし、「冗長」自由度を可能にする。冗長自由度を有することにより、ロボットアーム12は、異なるリンク位置及び関節角度を使用して空間内の特定の位置、配向、及び軌道で、それらのそれぞれのエンドエフェクタ22を位置付けることが可能となる。これにより、システムが空間内の所望のポイントから医療器具を位置付け、方向付けることが可能になると同時に、医師がアーム関節を患者から離れる臨床的に有利な位置へと移動させて、アームの衝突を回避しながらよりよいアクセスを生み出すことを可能にする。
【0026】
カート基部15は、床の上のカラム14、キャリッジ17、及びロボットアーム12の重量の釣り合いをとる。したがって、カート基部15は、電子機器、モータ、電源、並びにカート11の移動及び/又は固定化のいずれかを可能にする構成要素などの、より重い部品を収容する。例えば、カート基部15は、処置前にカート11が部屋中をあちこちに容易に移動することを可能にする、転動可能なホイール形状のキャスタ25を含む。適切な位置に到達した後、キャスタ25は、処置中にカート11を所定の場所に保持するためのホイールロックを使用して静止させられ得る。
【0027】
カラム14の垂直方向の端部に位置付けられたコンソール16は、ユーザ入力を受信するためのユーザインターフェース及び表示画面(又は、例えば、タッチスクリーン26などの二重目的デバイス)の両方を可能にして、術前データ及び術中データの両方を医師であるユーザに提供する。タッチスクリーン26上の潜在的な術前データは、術前計画、術前コンピュータ断層撮影(CT)スキャンから導出されたナビゲーション及びマッピングデータ、並びに/又は術前の患者への問診からのメモを含み得る。ディスプレイ上の術中データは、ツールから提供される光学情報、センサからのセンサ及び座標情報、並びに呼吸、心拍数、及び/又はパルスなどの不可欠な患者統計を含み得る。コンソール16は、医師が、キャリッジ17の反対側のカラム14側からコンソール16にアクセスすることを可能にするように位置付け及び傾斜され得る。この位置から、医師は、コンソール16をカート11の背後から操作しながら、コンソール16、ロボットアーム12、及び患者を見ることができる。示されるように、コンソール16はまた、カート11の操作及び安定化を支援するハンドル27を含む。
【0028】
図3は、尿管鏡検査のために配置された、ロボットで使用可能なシステム10の実施形態を示す。尿管鏡検査処置では、カート11は、患者の尿道及び尿管を横断するように設計された処置専用内視鏡である尿管鏡32を患者の下腹部領域に送達するように位置付けられ得る。尿管鏡検査では、尿管鏡32が患者の尿道と直接位置合わせされ、領域内の敏感な解剖学的構造に対する摩擦及び力を低減することが望ましいことがある。示されるように、カート11は、ロボットアーム12が尿管鏡32を、患者の尿道に直線状に直接アクセスするために位置付けることを可能にするように、テーブルの脚部に位置合わせされ得る。テーブルの脚部から、ロボットアーム12は、尿道を通して患者の下腹部に直接、仮想レール33に沿って尿管鏡32を挿入し得る。
【0029】
気管支鏡検査におけるのと同様の制御技法を使用して尿道に挿入した後、尿管鏡32は、診断及び/又は治療用途のために、膀胱、尿管、及び/又は腎臓にナビゲートされ得る。例えば、尿管鏡32を尿管及び腎臓に方向付けて、尿管鏡32の作業チャネルの下方に配備されたレーザー又は超音波結石破砕デバイスを使用して、腎臓結石の蓄積を破砕し得る。砕石術が完了した後、結果として得られた結石片は、尿管鏡32の下方に配備されたバスケットを使用して除去され得る。
【0030】
図4は、血管処置のために同様に配置された、ロボットで使用可能なシステム10の実施形態を示す。血管処置において、システム10は、カート11が、操縦可能なカテーテルなどの医療器具34を、患者の脚内の大腿動脈内のアクセスポイントに送達し得るように構成され得る。大腿動脈は、ナビゲーションのためのより大きな直径と、患者の心臓への、遠回りが比較的少ない曲がりくねった経路の両方を示すが、これはナビゲーションを簡素化する。尿管鏡検査処置のように、カート11は、患者の脚及び下腹部に向かって位置付けられて、ロボットアーム12が患者の大腿/腰領域内の大腿動脈アクセスポイントへの直接的な線形アクセスで仮想レール35を提供することを可能にし得る。動脈内への挿入後、器具ドライバ28を並進させることによって医療器具34が方向付けられ、挿入され得る。代替的に、カート11は、例えば、肩及び手首付近の頚動脈及び腕動脈などの代替的な血管アクセスポイントに到達するために、患者の上腹部の周囲に位置付けられ得る。
【0031】
B.ロボットシステム-テーブル
ロボットで使用可能な医療システムの実施形態は、患者テーブルも組み込み得る。テーブルの組み込みは、カートをなくすことによって手術室内の資本設備の量を低減し、患者へのより大きなアクセスを可能にする。図5は、気管支鏡検査処置のために配置されたこうしたロボット制御可能なシステムの一実施形態を示す。システム36は、床の上にプラットフォーム38(「テーブル」又は「ベッド」として図示)を支持するための支持構造体又はカラム37を含む。カートベースのシステムと同様に、システム36のロボットアーム39のエンドエフェクタは、器具ドライバ42の線形整列から形成された仮想レール41を通して、又はそれに沿って、図5の気管支鏡40などの細長い医療器具を操縦するように設計された器具ドライバ42を含む。実際には、蛍光透視撮像を提供するためのCアームは、放射器及び検出器をテーブル38の周囲に置くことによって、患者の上部腹部領域の上方に位置付けられ得る。
【0032】
図6は、説明を目的として、患者及び医療器具なしのシステム36の代替的な図を提供する。示されるように、カラム37は、1つ又は2つ以上のロボットアーム39の基部となり得る、システム36内でリング形状として図示される1つ又は2つ以上のキャリッジ43を含み得る。キャリッジ43は、カラム37の長さにわたる垂直方向のカラムインターフェース44に沿って並進して、ロボットアーム39が患者に到達するように位置付けられ得る異なるバンテージポイントを提供し得る。キャリッジ43は、カラム37内に位置付けられている機械的モータを使用してカラム37の周りを回転して、ロボットアーム39が、例えば、患者の両側などのテーブル38の多数の側部へのアクセスを有することを可能にし得る。複数のキャリッジを有する実施形態では、キャリッジはカラム上に個別に位置付けられ得、他のキャリッジとは独立して並進及び/又は回転し得る。キャリッジ43はカラム37を取り囲む必要はなく、又は更には円形である必要もないが、図示されるようなリング形状は、構造的バランスを維持しながらカラム37の周りでのキャリッジ43の回転を容易にする。キャリッジ43の回転及び並進により、システム36は、内視鏡及び腹腔鏡などの医療器具を患者の異なるアクセスポイントに位置合わせすることを可能にする。他の実施形態(図示せず)では、システム36は、並行して延在するバー又はレールの形態の調整可能なアーム支持体を有する患者テーブル又はベッドを含むことができる。1つ又は2つ以上のロボットアーム39を、(例えば、肘関節を有する肩部を介して)垂直方向に調整することができる調整可能なアーム支持体に取り付けることができる。垂直方向の調節を提供することによって、ロボットアーム39は、有利には、患者テーブル又はベッドの下にコンパクトに収納されることが可能であり、その後、処置中に引き上げられることが可能である。
【0033】
ロボットアーム39は、ロボットアーム39に追加の構成可能性を提供するために個別に回転及び/又は入れ子式に延在し得る一連の関節を含むアームマウント45の組を介してキャリッジ43に装着され得る。追加的に、アームマウント45は、キャリッジ43が適切に回転されると、アームマウント45がテーブル38の同じ側(図6に示すように)、テーブル38の両側(図9に示すように)、又はテーブル38の隣接する側部(図示せず)のいずれかに位置付けられ得るように、キャリッジ43上に位置付けられ得る。
【0034】
カラム37は、テーブル38の支持及びキャリッジ43の垂直方向の並進のための経路を構造的に提供する。内部に、カラム37は、キャリッジ43の垂直方向の並進を誘導するための主ねじ、及び主ねじに基づくキャリッジ43の並進を機械化するためのモータを備え得る。カラム37はまた、キャリッジ43及びその上に装着されたロボットアーム39に電力及び制御信号を伝達し得る。
【0035】
テーブル基部46は、図2に示すカート11のカート基部15と同様の機能を果たし、テーブル/ベッド38、カラム37、キャリッジ43、及びロボットアーム39の釣り合いをとるためにより重い構成要素を収容する。テーブル基部46はまた、処置中に安定性を提供するために剛性キャスタを組み込み得る。テーブル基部46の底部から展開されるキャスタは、基部46の両側で反対方向に延在し、システム36を移動させる必要があるときに引き込み得る。
【0036】
引き続き図6を参照すると、システム36はまた、テーブルとタワーとの間でシステム36の機能を分割して、テーブルのフォームファクタ及びバルクを低減するタワー(図示せず)を含み得る。先に開示された実施形態と同様に、タワーは、処理、計算、及び制御能力、電力、流体工学、並びに/又は光学及びセンサ処理などの様々なサポート機能をテーブルに提供し得る。タワーはまた、医師のアクセスを改善し、手術室を整理整頓するために、患者から離れて位置付けられるように移動可能であり得る。追加的に、タワー内に構成要素を配置することにより、ロボットアーム39の潜在的な収納のために、テーブル基部46内により多くの保管空間を可能にする。タワーはまた、キーボード及び/又はペンダントなどのユーザ入力のためのユーザインターフェースと、リアルタイム撮像、ナビゲーション、及び追跡情報などの術前及び術中情報のための表示画面(又はタッチスクリーン)との両方を提供するマスターコントローラ又はコンソールも含み得る。いくつかの実施形態では、タワーはまた、送気のために使用されるガスタンク用のホルダを含み得る。
【0037】
いくつかの実施形態では、テーブル基部は、使用されていないときにロボットアームを収納及び格納し得る。図7は、テーブルベースのシステムの実施形態におけるロボットアームを収納するシステム47を示す。システム47では、キャリッジ48は、ロボットアーム50、アームマウント51、及びキャリッジ48を基部49内に収納するために、基部49内へと垂直方向に並進され得る。基部カバー52は、並進及び後退して、キャリッジ48、アームマウント51、及びロボットアーム50をカラム53の周りに展開させるように開き、使用されていないときにそれらを収納して保護するように閉じられ得る。基部カバー52は、閉じたときに汚れ及び流体の侵入を防止するために、その開口部の縁部に沿って膜54で封止され得る。
【0038】
図8は、尿管鏡検査処置のために構成されたロボット制御可能なテーブルベースのシステムの一実施形態を示す。尿管鏡検査では、テーブル38は、患者をカラム37及びテーブル基部46からオフアングルに位置付けるためのスイベル部分55を含み得る。スイベル部分55は、スイベル部分55の底部をカラム37から離すように位置付けるために、枢動点(例えば、患者の頭部の下方に配置)を中心に回転又は枢動し得る。例えば、スイベル部分55の旋回により、Cアーム(図示せず)が、テーブル38の下のカラム(図示せず)と空間を奪い合うことなく、患者の下部腹部の上方に位置付けられることを可能にする。カラム37の周りにキャリッジ35(図示せず)を回転させることにより、ロボットアーム39は、尿道に到達するように、仮想レール57に沿って、患者の鼠径部領域に尿管鏡56を直接挿入し得る。尿管鏡検査では、処置中に患者の脚の位置を支持し、患者の鼠径部領域への明確なアクセスを可能にするために、テーブル38のスイベル部分55にあぶみ58が固定され得る。
【0039】
腹腔鏡検査処置では、患者の腹壁内の小さな切開部を通して、低侵襲性器具を患者の解剖学的構造に挿入し得る。いくつかの実施形態では、低侵襲性器具は、患者内の解剖学的構造にアクセスするために使用されるシャフトなどの細長い剛性部材を含む。患者の腹腔の膨張後、器具は、把持、切断、アブレーション、縫合などの外科的又は医療的タスクを実施するように方向付けられ得る。いくつかの実施形態では、器具は、腹腔鏡などのスコープを備えることができる。図9は、腹腔鏡検査処置のために構成されたロボット制御可能なテーブルベースのシステムの一実施形態を示す。図示のように、システム36のキャリッジ43は回転し、垂直方向に調整されて、器具59が患者の両側の最小切開部を通過して患者の腹腔に到達するようにアームマウント45を使用して位置付けられ得るように、ロボットアーム39の対をテーブル38の両側に位置付けられ得る。
【0040】
腹腔鏡検査処置に対応するために、ロボット制御可能なテーブルシステムはまた、プラットフォームを所望の角度に傾斜し得る。図10は、ピッチ又は傾斜調整を有するロボットで使用可能な医療システムの実施形態を示す。図10に示されるように、システム36は、テーブル38の傾斜に適応して、テーブルの一方の部分を他方の部分より床から離れた距離に位置付け得る。追加的に、アームマウント45は、ロボットアーム39がテーブル38と同じ平面関係を維持するように、傾斜に一致するように回転し得る。より急な角度に適応するために、カラム37はまた、テーブル38が床に接触すること、又はテーブル基部46と衝突することを防ぐためにカラム37が垂直方向に延在するのを可能にする入れ子部分60を含み得る。
【0041】
図11は、テーブル38とカラム37との間のインターフェースの詳細な図を提供する。ピッチ回転機構61は、カラム37に対するテーブル38のピッチ角を複数の自由度で変更するように構成され得る。ピッチ回転機構61は、カラム-テーブルインターフェースでの直交軸1、2の位置付けによって可能にされ得、各軸は、電気ピッチ角コマンドに応答して別個のモータ3、4によって作動される。一方のねじ5に沿った回転は、一方の軸1における傾斜調整を可能にし、他方のねじ6に沿った回転は、他方の軸2に沿った傾斜調整を可能にする。いくつかの実施形態では、カラム37に対するテーブル38のピッチ角を複数の自由度で変更するために、玉継ぎ手が使用され得る。
【0042】
例えば、ピッチ調整は、テーブルをトレンデレンブルグ位置に位置付けようとするときに、すなわち下腹部手術のために患者の下腹部を患者の上腹部よりも床からより高い位置に位置付けようとするときに、特に有用である。トレンデレンブルグ位置は、重力によって患者の内臓を患者の上腹部に向かって摺動させ、低侵襲性ツールが入って腹腔鏡前立腺切除術などの下腹部の外科又は医療処置を行うために、腹腔を空にする。
【0043】
図12及び図13は、テーブルベースの外科用ロボットシステム100の代替的な実施形態の等角図及び端面図を示す。外科用ロボットシステム100は、テーブル101に対して1つ又は2つ以上のロボットアームを支持するように構成され得る1つ又は2つ以上の調節可能なアーム支持体105(例えば、図14参照)を含む。図示される実施形態では、単一の調整可能なアーム支持体105が示されているが、テーブル101の反対側に追加のアーム支持体を設けることができる。調整可能アームサポート105は、テーブル101に対して移動して、調整可能アーム支持体105及び/又はテーブル101に対してそれに装着された任意のロボットアームの位置を調節及び/又は変更できるように構成され得る。例えば、調整可能なアーム支持体105は、テーブル101に対して1つ又は2つ以上の自由度で調節され得る。調整可能なアーム支持体105は、1つ又は2つ以上の調整可能なアーム支持体105及びそれに取り付けられた任意のロボットアームをテーブル101の下に容易に収納する能力を含む、システム100への高い汎用性を提供する。調整可能なアーム支持体105は、収納位置からテーブル101の上面の下の位置まで上昇させることができる。他の実施形態では、調整可能なアーム支持体105は、収納位置からテーブル101の上面の上方の位置まで上昇させることができる。
【0044】
調節可能なアーム支持体105は、リフト、横方向並進、傾斜などを含む、いくつかの自由度を提供することができる。図12及び図13の図示の実施形態では、アーム支持体105は、4自由度で構成され、図12に矢印で示されている。第1の自由度は、z方向における調整可能なアーム支持体105の調節(「Zリフト」)を可能にする。例えば、調整可能なアーム支持体105は、テーブル101を支持するカラム102に沿って、又はそれに対して上下に動くように構成されたキャリッジ109を含むことができる。第2の自由度は、調整可能なアーム支持体105が傾斜することを可能にする。例えば、調整可能なアーム支持体105は、回転接合部を含むことができ、それは、調整可能なアーム支持体105を、トレンデレンブルグ位置のベッドと位置合わせすることを可能にできる。第3の自由度は、調整可能なアーム支持体105が「上方枢動する」ことを可能にすることができ、それを使用して、テーブル101の側部と調整可能なアーム支持体105との間の距離を調節することができる。第4の自由度は、テーブルの長手方向の長さに沿って調整可能なアーム支持体105の並進を可能にする。
【0045】
図12及び図13の外科用ロボットシステム100は、基部103に装着されたカラム102によって支持されるテーブルを含むことができる。基部103及びカラム102は、支持面に対してテーブル101を支持する。床軸131及び支持軸133は、図13に示される。
【0046】
調整可能なアーム支持体105は、カラム102に装着することができる。他の実施形態では、アーム支持体105は、テーブル101又は基部103に装着することができる。調整可能なアーム支持体105は、キャリッジ109、バー又はレールコネクタ111、及びバー又はレール107を含むことができる。いくつかの実施形態では、レール107に装着された1つ又は2つ以上のロボットアームは、互いに対して並進及び移動することができる。
【0047】
キャリッジ109は、第1の接合部113によってカラム102に取り付けられ得、それにより、キャリッジ109がカラム102に対して移動することが可能になる(例えば、第1又は垂直軸123の上下など)。第1の接合部113は、調整可能なアーム支持体105に第1の自由度(「Zリフト」)を提供することができる。調整可能なアーム支持体105は、第2の自由度(傾斜)を調整可能なアーム支持体105に提供する第2の接合部115を含むことができる。調整可能なアーム支持体105は、第3の自由度(「上方枢動」)を調整可能なアーム支持体105に提供することができる第3の接合部117を含むことができる。レールコネクタ111が第3の軸127を中心にして回転させられるときにレール107の方向を維持するように第3の接合部117を機械的に拘束する、追加の接合部119(図13に示す)を設けることができる。調整可能なアーム支持体105は、第4の自由度(並進)を第4の軸129に沿って調整可能なアーム支持体105に提供することができる第4の接合部121を含むことができる。
【0048】
図14は、テーブル101の両側に装着された2つの調節可能なアーム支持体105A、105Bを有する、外科用ロボットシステム140Aの端面図を示す。第1のロボットアーム142Aは、第1の調整可能なアーム支持体105Bのバー又はレール107Aに取り付けられる。第1のロボットアーム142Aは、レール107Aに取り付けられた基部144Aを含む。第1のロボットアーム142Aの遠位端部は、1つ又は2つ以上のロボット医療器具又はツールに取り付けることができる器具駆動機構146Aを含む。同様に、第2のロボットアーム142Bは、レール107Bに取り付けられた基部144Bを含む。第2のロボットアーム142Bの遠位端部は、器具駆動機構146Bを含む。器具駆動機構146Bは、1つ又は2つ以上のロボット医療器具又はツールに取り付けるように構成され得る。
【0049】
いくつかの実施形態では、ロボットアーム142A、142Bのうちの1つ又は2つ以上は、7以上の自由度を有するアームを含む。いくつかの実施形態では、ロボットアーム142A、142Bのうちの1つ又は2つ以上は、挿入軸(挿入を含む1自由度)、リスト(リストピッチ、ヨー及びロールを含む3自由度)、エルボ(エルボピッチを含む1自由度)、ショルダ(ショルダピッチ及びヨーを含む2自由度)、及び基部144A、144B(並進を含む1自由度)、を含む8自由度を含むことができる。いくつかの実施形態では、挿入自由度は、ロボットアーム142A、142Bによって提供することができるが、他の実施形態では、器具自体は、器具ベースの挿入アーキテクチャを介して挿入を提供する。
【0050】
C.器具ドライバ及びインターフェース
システムのロボットアームのエンドエフェクタは、(i)医療器具を作動させるための電気機械的手段を組み込む器具ドライバ(代替的に、「器具駆動機構」又は「器具デバイスマニピュレータ」と称される)と、(ii)モータなどの任意の電気機械的構成要素を欠き得る除去可能な又は取り外し可能な医療器具と、を含み得る。この二分法は、医療処置に使用される医療器具を滅菌する必要性、それらの複雑な機械的アセンブリ及び繊細な電子機器により、高価な資本設備を十分に滅菌することができないことを根拠とする場合がある。したがって、医療器具は、医師又は医師のスタッフによる個々の滅菌又は廃棄のために、器具ドライバ(したがってそのシステム)から取り外され、除去され、及び交換されるように設計され得る。対照的に、器具ドライバは、交換又は滅菌される必要がなく、保護のために掛け布され得る。
【0051】
図15は、例示的な器具ドライバを示す。ロボットアームの遠位端部に位置付けられる器具ドライバ62は、駆動シャフト64を介して医療器具に制御されたトルクを提供するために平行軸を伴って配置された1つ又は2つ以上の駆動ユニット63を含む。各駆動ユニット63は、器具と相互作用するための個々の駆動シャフト64と、モータシャフトの回転を所望のトルクに変換するためのギアヘッド65と、駆動トルクを生成するためのモータ66と、モータシャフトの速度を測定し、制御回路にフィードバックを提供するエンコーダ67と、制御信号を受信し、駆動ユニットを作動させるための制御回路68と、を含む。各駆動ユニット63は独立して制御及び電動化され得、器具ドライバ62は、複数(例えば図16及び図17に示すように4つなど)の独立した駆動出力を医療器具に提供し得る。動作中、制御回路68は、制御信号を受信し、モータ66にモータ信号を送信し、エンコーダ67によって測定された結果として得られたモータ速度を所望の速度と比較し、モータ信号を変調して所望のトルクを生成する。
【0052】
無菌環境を必要とする処置のために、ロボットシステムは、器具ドライバと医療器具との間に位置する、滅菌ドレープに接続された滅菌アダプタなどの駆動インターフェースを組み込み得る。滅菌アダプタの主な目的は、器具ドライバの駆動シャフトから器具の駆動入力部に角度運動を伝達する一方で、駆動シャフトと駆動入力部との間の物理的分離、したがって無菌性を維持することである。したがって、例示的な滅菌アダプタは、器具ドライバの駆動シャフトと嵌合されることが意図された一連の回転入力部及び出力部と、器具に対する駆動入力部と、を含み得る。滅菌アダプタに接続される滅菌ドレープは、透明又は半透明プラスチックなどの薄い可撓性材料で構成され、器具ドライバ、ロボットアーム、及び(カートベースのシステムにおける)カート又は(テーブルベースのシステムにおける)テーブルなどの資本設備を覆うように設計される。ドレープの使用により、滅菌を必要としない領域(すなわち、非滅菌野)に依然として位置付けられている間に、資本設備を患者に近接して位置付けることが可能となる。滅菌ドレープの反対側では、医療器具は、滅菌を必要とする領域(すなわち、滅菌野)において患者とインターフェースし得る。
【0053】
D.医療器具
図16は、ペアの器具ドライバを備えた例示的な医療器具を示す。ロボットシステムと共に使用するために設計された他の器具と同様に、医療器具70は、細長いシャフト71(又は細長い本体)及び器具基部72を含む。医師による手動相互作用が意図されているその設計により「器具ハンドル」とも称される器具基部72は、概して、ロボットアーム76の遠位端において器具ドライバ75上の駆動インターフェースを通って延在する駆動出力部74と嵌合するように設計された、回転可能な駆動入力部73、例えば、レセプタクル、プーリー、又はスプールを含み得る。物理的に接続、ラッチ、及び/又は連結される場合、器具基部72の嵌合された駆動入力部73は、器具ドライバ75における駆動出力部74と回転軸を共有して、駆動出力部74から駆動入力部73へのトルクの伝達を可能とし得る。いくつかの実施形態では、駆動出力部74は、駆動入力部73上のレセプタクルと嵌合するように設計されたスプラインを含み得る。
【0054】
細長いシャフト71は、例えば、内視鏡におけるような解剖学的開口部若しくは管腔、又は腹腔鏡検査におけるような低侵襲性切開部のいずれかを通して送達されるように設計される。細長いシャフト71は、可撓性(例えば、内視鏡と同様の特性を有する)若しくは剛性(例えば、腹腔鏡と同様の特性を有する)のいずれかであり得るか、又は可撓性部分及び剛性部分の両方のカスタマイズされた組み合わせを含み得る。腹腔鏡検査のために設計される場合、剛性の細長いシャフトの遠位端は、少なくとも1つの自由度を有するクレビスから形成された接合された手首から延在するエンドエフェクタ、及び駆動入力部が器具ドライバ75の駆動出力部74から受け取ったトルクに応答して回転する際に、腱からの力に基づいて作動され得る、例えば、把持具又ははさみなどの手術ツール又は医療器具に接続され得る。内視鏡検査のために設計される場合、可撓性の細長いシャフトの遠位端は、器具ドライバ75の駆動出力部74から受信したトルクに基づいて関節運動及び屈曲され得る操縦可能又は制御可能な屈曲部を含み得る。
【0055】
器具ドライバ75からのトルクは、細長いシャフト71に沿った腱を使用して細長いシャフト71の下流に伝達される。プルワイヤなどのこれらの個々の腱は、器具ハンドル72内の個々の駆動入力部73に個別に固定され得る。ハンドル72から、腱は、細長いシャフト71に沿って1つ又は2つ以上のプルルーメン(pull lumen)を下方に誘導され、細長いシャフト71の遠位部分、又は細長いシャフト71の遠位部分の手首内に固定される。腹腔鏡、内視鏡、又はハイブリッド処置などの外科処置中、これらの腱は、リスト、把持具、又ははさみなどの遠位に装着されたエンドエフェクタに連結され得る。このような構成の下で、駆動入力部73に及ぼされるトルクは、腱に張力を伝達し、それによってエンドエフェクタを何らかの方法で作動させる。腹腔鏡検査では、腱は、関節を軸周りに回転させることができ、それによってエンドエフェクタをいずれかの方向に移動させる。代替的に、腱は、細長いシャフト71の遠位端で把持具の1つ又は2つ以上のジョーに接続され得、腱からの張力によって把持具が閉鎖される。
【0056】
内視鏡検査では、腱は、接着剤、制御リング、又は他の機械的固定を介して、細長いシャフト71に沿って(例えば、遠位端部に)位置付けられている屈曲部又は関節運動部に連結され得る。屈曲部の遠位端部に固定的に取り付けられる場合、駆動入力部73に及ぼされるトルクは、腱の下流に伝達され、より軟質の屈曲部(関節運動可能部又は関節運動可能領域と称されることがある)を屈曲又は関節運動させる。非屈曲部分に沿って、個々の腱を内視鏡シャフトの壁に沿って(又は内側に)指向する個々のプルルーメンをねじ状又は渦巻状にして、プルワイヤにおける張力からもたらされる半径方向の力の釣り合いをとることが有利であり得る。これらの間のねじ及び/又は間隔の角度は、特定の目的のために変更又は設計され得、より狭いねじは負荷力下でより小さいシャフト圧縮を呈する一方で、より少ない量のねじは負荷力下でより大きなシャフト圧縮をもたらすが、屈曲をより制限する。スペクトルの他方の端部では、プルルーメンは、細長いシャフト71の長手方向軸に平行に方向付けられて、所望の屈曲部又は関節運動可能部における制御された関節運動を可能にし得る。
【0057】
内視鏡検査では、細長いシャフト71は、ロボット処置を支援するいくつかの構成要素を収容する。シャフト71は、シャフト71の遠位端部における手術領域に対して外科用ツール(又は医療器具)を展開、灌注、及び/又は吸引するための作業チャネルを含み得る。シャフト71はまた、光学カメラを含み得る遠位先端部の光学アセンブリとの間で信号の授受を行うために、ワイヤ及び/又は光ファイバを収容し得る。シャフト71はまた、発光ダイオードなどの近位に位置する光源からシャフト71の遠位端部に光を搬送するための光ファイバを収容し得る。
【0058】
器具70の遠位端部では、遠位先端部は、診断及び/又は治療、灌注、及び吸引のためにツールを手術部位に送達するための作業チャネルの開口部を含み得る。遠位先端部はまた、内部解剖学的空間の画像をキャプチャするために、ファイバスコープ又はデジタルカメラなどのカメラのためのポートを含み得る。関連して、遠位先端部はまた、カメラを使用する場合に解剖学的空間を照明するための光源用のポートを含み得る。
【0059】
図16の例では、駆動シャフト軸、すなわち駆動入力軸は、細長いシャフト71の軸に直交する。しかしながら、この配置は、細長いシャフト71のロール能力を複雑にする。駆動入力部73を静止させながら、細長いシャフト71をその軸に沿ってロールさせることにより、腱が駆動入力部73から延在し、細長いシャフト71内のプルルーメンに入るときに、腱の望ましくない絡まりをもたらす。結果として生じるそのような腱の絡まりは、内視鏡検査処置中に可撓性の細長いシャフト71の移動を予測することが意図される任意の制御アルゴリズムを妨害することがある。
【0060】
図17は、駆動ユニットの軸が器具の細長いシャフトの軸に平行である、器具ドライバ及び器具の代替的な設計を示す。示されるように、円形の器具ドライバ80は、ロボットアーム82の端部において平行に位置合わせされた駆動出力部81を備える4つの駆動ユニットを含む。駆動ユニット及びそれらのそれぞれの駆動出力部81は、アセンブリ83内の駆動ユニットのうちの1つによって駆動される器具ドライバ80の回転アセンブリ83内に収容される。回転駆動ユニットによって提供されるトルクに応答して、回転アセンブリ83は、回転アセンブリ83を器具ドライバ80の非回転部分84に接続する円形ベアリングに沿って回転する。電力及び制御信号は、ブラシ付きスリップリング接続(図示せず)による回転を通して維持され得る電気接点を介して、器具ドライバ80の非回転部分84から回転アセンブリ83に伝達され得る。他の実施形態では、回転アセンブリ83は、非回転可能部分84に一体化され、したがって他の駆動ユニットと平行ではない別個の駆動ユニットに応答し得る。回転機構83は、器具ドライバ80が、器具ドライバ軸85周りの単一ユニットとして、駆動ユニット及びそれらのそれぞれの駆動出力部81を回転させることを可能にする。
【0061】
先に開示した実施形態と同様に、器具86は、細長いシャフト部分88と、器具ドライバ80内の駆動出力部81を受け入れるように構成された複数の駆動入力部89(レセプタクル、プーリー、及びスプールなど)を含む器具基部87(説明目的のために透明な外部スキンで示される)と、を含み得る。先の開示された実施形態とは異なり、器具シャフト88は、器具基部87の中心から延在し、軸は駆動入力部89の軸に実質的に平行であり、図16の設計にあるように直交してはいない。
【0062】
器具ドライバ80の回転アセンブリ83に連結されると、器具基部87及び器具シャフト88を含む医療器具86は、器具ドライバ軸85を中心にして回転アセンブリ83と一緒に回転する。器具シャフト88は器具基部87の中心に位置付けられているため、器具シャフト88は、取り付けられたときに器具ドライバ軸85と同軸である。したがって、回転アセンブリ83の回転により、器具シャフト88は、それ自体の長手方向軸を中心に回転する。更に、器具基部87が器具シャフト88と共に回転すると、器具基部87内の駆動入力部89に接続されたいずれかの腱は、回転中に絡まらない。したがって、駆動出力部81、駆動入力部89、及び器具シャフト88の軸の平行性は、制御腱を絡めることなくシャフト回転を可能にする。
【0063】
図18は、いくつかの実施形態による、器具ベースの挿入アーキテクチャを有する器具を示す。器具150は、上述の器具ドライバのいずれかに連結することができる。器具150は、細長いシャフト152と、シャフト152に接続されたエンドエフェクタ162と、シャフト152に連結されたハンドル170と、を含む。細長いシャフト152は、近位部分154及び遠位部分156を有する管状部材を含む。細長いシャフト152は、その外側表面に沿った1つ又は2つ以上のチャネル又は溝158を含む。溝158は、1つ又は2つ以上のワイヤ又はケーブル180をそれを通して受け入れるように構成されている。したがって、1つ又は2つ以上のケーブル180は、細長いシャフト152の外側表面に沿って延びる。他の実施形態では、ケーブル180は、細長いシャフト152を通って延びることもできる。ケーブル180のうちの1つ又は2つ以上の操作(例えば、器具ドライバを介して)により、エンドエフェクタ162の作動がもたらされる。
【0064】
器具基部とも称され得る器具ハンドル170は、一般に、器具ドライバの取り付け面上で1つ又は2つ以上のトルクカプラと往復嵌合するように設計された1つ又は2つ以上の機械的入力部174、例えばレセプタクル、プーリー又はスプールを有する取り付けインターフェース172を含むことができる。
【0065】
いくつかの実施形態では、器具150は、細長いシャフト152がハンドル170に対して並進することを可能にする一連のプーリー又はケーブルを含む。換言すれば、器具150自体は器具の挿入に適応する器具ベースの挿入アーキテクチャを含み、それによって器具150の挿入を提供するためにロボットアームへの依存を最小化する。他の実施形態では、ロボットアームは、器具の挿入に大きく関与し得る。
【0066】
E.コントローラ
本明細書に記載の任意のロボットシステムは、ロボットアームに取り付けられた器具を操作するための入力デバイス又はコントローラを含むことができる。いくつかの実施形態では、コントローラは、器具と連結(例えば、通信的に、電子的に、電気的に、無線的に、及び/又は機械的に)することができ、それによりコントローラの操作は、例えば、マスタースレーブ制御を介して、器具の対応する操作を引き起こす。
【0067】
図19は、コントローラ182の実施形態の斜視図である。本実施形態では、コントローラ182は、インピーダンス制御及びアドミタンス制御の両方を有することができるハイブリッドコントローラを含む。他の実施形態では、コントローラ182は、インピーダンス又は受動的制御だけを利用することができる。他の実施形態では、コントローラ182は、アドミタンス制御だけを利用することができる。ハイブリッドコントローラであることにより、コントローラ182は、有利には、使用中、より低い知覚慣性を有することができる。
【0068】
図示される実施形態では、コントローラ182は、2つの医療器具の操作を可能にするように構成され、2つのハンドル184を含む。ハンドル184の各々は、ジンバル186に接続されている。各ジンバル186は、位置付けプラットフォーム188に接続されている。
【0069】
図19に示されるように、各位置付けプラットフォーム188は、プリズム接合部196によってカラム194に連結されたSCARAアーム(selective compliance assembly robot arm)198を含む。プリズム接合部196は、(例えば、レール197に沿って)カラム194に沿って並進して、ハンドル184の各々がz方向に並進され、第1の自由度を提供するように構成されている。SCARAアーム198は、x-y平面におけるハンドル184の動作を可能にし、2つの更なる自由度を提供するように構成されている。
【0070】
いくつかの実施形態では、1つ又は2つ以上のロードセルがコントローラ内に位置付けられる。例えば、いくつかの実施形態では、ロードセル(図示せず)は、ジンバル186の各々の本体内に位置付けられる。ロードセルを設けることによって、コントローラ182の一部分は、アドミタンス制御下で動作することができ、それによって、使用中にコントローラの知覚慣性を有利に低減する。いくつかの実施形態では、位置付けプラットフォーム188はアドミタンス制御用に構成され、一方、ジンバル186はインピーダンス制御用に構成されている。他の実施形態では、ジンバル186はアドミタンス制御用に構成され、位置付けプラットフォーム188はインピーダンス制御用に構成されている。したがって、いくつかの実施形態では、位置付けプラットフォーム188の並進又は位置自由度は、アドミタンス制御に依存し得、一方、ジンバル186の回転自由度はインピーダンス制御に依存する。
【0071】
F.ナビゲーション及び制御
従来の内視鏡検査は、オペレータである医師に腔内誘導を提供するために、蛍光透視法(例えば、Cアームを通して送達され得るような)、及び他の形態の放射線ベースの撮像モダリティの使用を伴い得る。対照的に、本開示によって企図されるロボットシステムは、放射線への医師の曝露を低減し、手術室内の機器の量を低減するために、非放射線ベースのナビゲーション及び位置特定手段を提供することができる。本明細書で使用するとき、「位置特定」という用語は、基準座標系内のオブジェクトの位置を判定及び/又は監視することを指し得る。術前マッピング、コンピュータビジョン、リアルタイムEM追跡、及びロボットコマンドデータなどの技術は、放射線を含まない動作環境を達成するために個別に又は組み合わせて使用され得る。放射線ベースの撮像モダリティが依然として使用される他の場合、術前マッピング、コンピュータビジョン、リアルタイムEM追跡、及びロボットコマンドデータは、放射線ベースの撮像モダリティによってのみ取得される情報を改善するために、個別に又は組み合わせて使用され得る。
【0072】
図20は、例示的な実施形態にかかる、器具の場所など、ロボットシステムの1つ又は2つ以上の要素の場所を推定する位置特定システム90を示すブロック図である。位置特定システム90は、1つ又は2つ以上の命令を実行するように構成されている1つ又は2つ以上のコンピュータデバイスの組であってもよい。コンピュータデバイスは、上で考察された1つ又は2つ以上の構成要素内のプロセッサ(又は複数のプロセッサ)及びコンピュータ可読メモリによって具現化され得る。例として、限定するものではないが、コンピュータデバイスは、図1に示されるタワー30内にあっても、図1図4に示されるカート11内にあっても、図5図14に示されるベッド内にあってもよい。
【0073】
図20に示されるように、位置特定システム90は、入力データ91~94を処理して医療器具の遠位先端部の場所データ96を生成する位置特定モジュール95を含み得る。場所データ96は、基準系に対する器具の遠位端部の場所及び/又は配向を表すデータ又は論理であってもよい。基準系は、患者の解剖学的構造、又はEM場発生器(EM場発生器についての以下の考察を参照)などの既知の物体に対する基準系とすることができる。
【0074】
ここで、様々な入力データ91~94についてより詳細に説明する。術前マッピングは、低用量CTスキャンの群を使用して達成され得る。術前CTスキャンは、例えば、患者の内部解剖学的構造の断面図の「スライス」として可視化される三次元画像へと再構成される。全体として分析される場合、患者の肺網などの患者の解剖学的構造の解剖学的空腔、空間、及び構造のための画像ベースのモデルが生成され得る。中心線形状(center-line geometry)などの手法をCT画像から判定及び近似して、モデルデータ91(術前CTスキャンのみを使用して生成された場合は「術前モデルデータ」とも称される)と称される患者の解剖学的構造の三次元ボリュームを作成し得る。いくつかの実施形態では、術前モデルデータ91は、例えば、蛍光透視法、磁気共鳴撮像法(magnetic resonance imaging、MRI)、超音波撮像、及び/又はX線からのデータを含み得る。中心線形状の使用は、米国特許出願第14/523,760号で考察されており、その内容はその全体が本明細書に組み込まれる。ネットワーク位相モデルもまた、CT画像から導出され得、気管支鏡検査に特に適している。
【0075】
いくつかの実施形態では、器具はカメラを装備して、視覚データ(又は画像データ)92を提供し得る。位置特定モジュール95は、視覚データ92を処理して、1つ又は2つ以上の視覚ベースの(又は画像ベースの)位置追跡モジュール又は機能を有効にし得る。例えば、術前モデルデータ91は、医療器具(例えば、内視鏡又は内視鏡の作業チャネルを通って前進する器具)のコンピュータビジョンベースの追跡を可能にするために、視覚データ92と共に使用され得る。例えば、術前モデルデータ91を使用して、ロボットシステムは、内視鏡の予想される移動経路に基づいて、モデルから、予測される内視鏡画像のライブラリを生成し得、各画像はモデル内の場所にリンクされる。手術中に、このライブラリは、カメラ(例えば、内視鏡の遠位端部でのカメラ)でキャプチャされたリアルタイム画像を画像ライブラリ内のものと比較して、位置特定を支援するために、ロボットシステムによって参照され得る。
【0076】
他のコンピュータビジョンベースの追跡技術は、追跡機能を使用して、カメラ、したがって内視鏡の動作を判定する。位置特定モジュール95のいくつかの特徴は、解剖学的管腔に対応する術前モデルデータ91内の円形幾何学形状を特定し、それらの幾何学的形状の変化を追跡して、どの解剖学的管腔が選択されたか、並びにカメラの相対的な回転及び/又は並進運動を判定し得る。位相マップの使用は、視覚ベースのアルゴリズム又は技術を更に向上させ得る。
【0077】
光学フロー、別のコンピュータビジョンベースの技術は、カメラの移動を推測するために、視覚データ92内のビデオシーケンス内の画像ピクセルの変位及び並進を分析し得る。光学フロー技術の例としては、動き検出、オブジェクトセグメンテーション計算、輝度、動き補償符号化、立体視差測定などを挙げることができる。複数の反復にわたり複数のフレームを比較することにより、カメラ(及びしたがって内視鏡)の動き及び位置が判定され得る。
【0078】
位置特定モジュール95は、リアルタイムEM追跡を使用して、術前モデルによって表される患者の解剖学的構造に登録され得るグローバル座標系内に、内視鏡のリアルタイムの場所を生成し得る。EM追跡では、医療器具(例えば、内視鏡器具)内の1つ又は2つ以上の位置及び配向に埋め込まれた1つ又は2つ以上のセンサコイルを含むEMセンサ(又はトラッカー)は、既知の位置に位置付けられた1つ又は2つ以上の静的EM場発生器によって生成されるEM場の変動を測定する。EMセンサによって検出された位置情報は、EMデータ93として記憶される。EM場発生器(又は送信機)は、埋め込まれたセンサが検出し得る低強度磁場を生成するために、患者に近接して配置され得る。磁場はEMセンサのセンサコイル内に小さな電流を誘導し、EMセンサとEM場発生器との間の距離及び角度を判定するためにこの電流が分析され得る。これらの距離及び配向は、患者の解剖学的構造の術前モデル内の位置と座標系内の単一の場所を位置合わせする幾何学的変換を判定するために、患者の解剖学的構造(例えば、術前モデル)に術中「登録」され得る。一旦登録されると、医療器具の1つ又は2つ以上の位置(例えば、内視鏡の遠位先端部)に埋め込まれたEMトラッカは、患者の解剖学的構造を通る医療器具の進行のリアルタイム表示を提供し得る。
【0079】
ロボットコマンド及び運動学データ94はまた、ロボットシステムのための位置特定データ96を提供するために、位置特定モジュール95によって使用され得る。関節運動コマンドから生じるデバイスピッチ及びヨーは、術前較正中に判定され得る。術中、これらの較正測定値は、既知の挿入深度情報と組み合わせて使用されて、器具の位置を推定し得る。代替的に、これらの計算は、EM、視覚、及び/又は位相モデリングと組み合わせて分析して、ネットワーク内の医療器具の位置を推定し得る。
【0080】
図20が示すように、多くの他の入力データは、位置特定モジュール95によって使用することができる。例えば、図20には示していないが、形状感知ファイバを利用する器具は、位置特定モジュール95が器具の場所及び形状を判定するために使用し得る形状データを提供することができる。
【0081】
位置特定モジュール95は、入力データ91~94を組み合わせて使用し得る。場合によっては、このような組み合わせは、位置特定モジュール95が入力データ91~94の各々から判定された位置に信頼重みを割り当てる確率的アプローチを使用し得る。したがって、EMデータが信頼でき得ない場合(EM干渉が存在する場合など)、EMデータ93によって判定された場所の信頼性を低下させることになり、位置特定モジュール95は、視覚データ92並びに/又はロボットコマンド及び運動学データ94により重く依存し得る。
【0082】
上で考察されるように、本明細書で考察されるロボットシステムは、上述の技術のうちの1つ又は2つ以上の組み合わせを組み込むように設計され得る。タワー、ベッド、及び/又はカートに基づいて、ロボットシステムのコンピュータベースの制御システムは、例えば、永続的な磁気記憶ドライブ、ソリッドステートドライブなどの非一時的コンピュータ可読記憶媒体内に、コンピュータプログラム命令を記憶し得、コンピュータプログラム命令は、実行されると、システムに、センサデータ及びユーザコマンドを受信及び分析させ、システム全体の制御信号を生成させ、グローバル座標系内の器具の位置、解剖学的マップなどのナビゲーション及び位置特定データを表示させる。
【0083】
II.管腔ネットワークのナビゲーション
上述の様々なロボットシステムを使用して、内視鏡処置及び腹腔鏡検査処置などの様々な医療処置を行うことができる。いくつかの処置では、ロボット制御式の医療器具などの医療器具が患者の体内に挿入される。患者の体内で、器具は、患者の管腔ネットワーク内に位置付けられ得る。本明細書で使用するとき、「管腔ネットワーク」という用語は、(例えば、肺などにおける複数の分枝管腔若しくは血管などの)複数の管腔若しくは枝、又は(例えば、消化管内などの)単一の管腔若しくは枝を含むかどうかに関わらず、体内の任意の空洞構造を指す。処置中、器具は、管腔ネットワークを通って1つ又は2つ以上の対象領域に移動(例えば、ナビゲート、誘導、駆動など)され得る。システムを通る器具の移動は、ロボットシステムを制御する医師に器具に関する位置情報を提供することができる上述のナビゲーション又は位置特定システム90によって支援され得る。
【0084】
図21は、患者の例示的な管腔ネットワーク130を示す。図示の実施形態では、管腔ネットワーク130は、患者の肺の経路151の気管支ネットワーク(すなわち、管腔、枝)である。図示の管腔ネットワーク130は、患者の肺内の気道の気管支網であるが、本開示は、図示の例のみに限定されない。本明細書に記載のロボットシステム及び方法は、気管支網、腎臓網、心血管網(例えば、動脈及び静脈)、消化管、尿路などの任意の種類の管腔ネットワークをナビゲートするために使用され得る。
【0085】
図示のように、管腔ネットワーク130は、枝構造内に位置付けられている複数の経路151を備える。一般に、管腔ネットワーク130は、三次元構造を含む。説明を容易にするために、図21は、管腔ネットワーク130を二次元構造として表す。これは、本開示を二次元管腔ネットワークに限定するものと解釈されるべきではない。
【0086】
図21は、管腔ネットワーク130内に位置付けられている医療器具の一例も示す。医療器具は、診断及び/又は治療のために、管腔ネットワーク130を通って対象領域(例えば、小結節155)に向かってナビゲートされる。図示の例では、小結節155は経路151の周辺に位置しているが、対象領域は、患者及び処置に応じて、管腔ネットワーク130内のどの場所にも位置付けられ得る。
【0087】
図示される例では、医療器具は、内視鏡116を備える。内視鏡116は、シース120及びリーダ145を含み得る。いくつかの実施形態では、シース120及びリーダ145は、入れ子式に配置され得る。例えば、リーダ145は、シース120の作業チャネルの内側に摺動可能に位置付けられ得る。シース120は第1の直径を有し得、その遠位端部は、小結節155周辺のより小さな直径の経路151を通して位置付けることができない場合がある。したがって、リーダ145は、シース120の作業チャネルから、小結節155までの残りの距離だけ延伸するように構成され得る。リーダ145は、器具、例えば生検針、細胞ブラシ、及び/又は組織サンプリング鉗子を小結節155の標的組織部位まで通すことができる管腔を有し得る。そのような実装態様では、シース120の遠位端部及びリーダ145の遠位端部のどちらにも、経路151内のそれらのそれぞれの位置を追跡するためのEM器具センサ(例えば図23のEM器具センサ305など)を設けることができる。シース120及びリーダ145のこの入れ子式構成は、内視鏡116をより薄く設計することを可能にし得、シース120を介して構造を支持しながら内視鏡116の曲げ半径を改善し得る。
【0088】
他の実施形態では、内視鏡116の全体の直径は、入れ子式構成でなくても周辺部に到達できる程度に十分に小さいか、又は、(例えば、約2.5~3cm以内など)周辺に接近して、操縦不可能なカテーテルを通して医療器具を展開できる程度に十分に小さくてもよい。内視鏡116を通して展開される医療器具に、EM器具センサ(例えば、図23のEM器具センサ305)が設けられ得、また、以下に説明する画像ベースの経路分析及びマッピング技術が、このような医療器具に適用され得る。
【0089】
図示のように、小結節155に到達するためには、器具(例えば、内視鏡116)は、管腔ネットワークの経路151を通ってナビゲート又は誘導されなければならない。操作者(医師など)は、ロボットシステムを制御して、器具を小結節155にナビゲートすることができる。操作者は、ロボットシステムを制御するための入力を提供することができる。
【0090】
図22は、本明細書に記載のロボットシステムのいくつかの実装態様と共に使用することができる例示的なコマンドコンソール200を示す。操作者は、例えば、ロボットシステムを制御するための入力を提供して、コマンドコンソール200を介して小結節155などの対象領域に器具をナビゲート又は誘導することができる。コマンドコンソール200は、多種多様な配置又は構成で具現化することができる。図示の例では、コマンドコンソール200は、コンソール基部201、ディスプレイ202(例えばモニタ)及び1つ又は2つ以上の制御モジュール(例えば、キーボード203及びジョイスティック204)を含む。ユーザ205(例えば、医師又は他の操作者)は、コマンドコンソール200を使用して、人間工学的位置から医療用ロボットシステム(例えば、図1図20を参照して説明したシステム)を遠隔制御することができる。
【0091】
ディスプレイ202としては、電子モニタ(例えば、液晶ディスプレイ、LEDディスプレイ、タッチセンシティブディスプレイ)、仮想現実視覚デバイス(例えばゴーグル若しくは眼鏡)、及び/又は他のディスプレイデバイスが挙げられ得る。いくつかの実施形態では、ディスプレイ202のうちの1つ又は2つ以上は、例えば、位置特定システム90(図20)によって判定された、器具に関する位置情報を表示する。いくつかの実施形態では、ディスプレイ202のうちの1つ又は2つ以上は、患者の管腔ネットワーク130の術前モデルを表示する。位置情報は、術前モデルに重ね合わせることができる。ディスプレイ202はまた、管腔ネットワーク130内の器具上に位置付けられたカメラ又は別の感知デバイスから受信した画像情報を表示することもできる。いくつかの実施形態では、器具のモデル又は表現が術前モデルと共に表示されて、外科処置又は医療処置の状態を示す助けとなる。
【0092】
いくつかの実施形態では、コンソール基部201は、中央処理ユニット(例えば、CPU又はプロセッサ)と、メモリユニット(例えば、コンピュータ可読メモリ)と、データバスと、例えば、患者の管腔ネットワーク内に位置付けられた医療器具から、カメラ画像及び追跡センサデータなどの信号を解釈及び処理する役割を担う関連データ通信ポートと、を含む。
【0093】
コンソール基部201はまた、ユーザ205によって制御モジュール203、204を通じて提供されるコマンド及び命令を処理し得る。図22に示されるキーボード203及びジョイスティック204に加えて、制御モジュールは、コンピュータマウス、トラックパッド、トラックボール、制御パッド、ハンドヘルドリモートコントローラなどのコントローラ、並びにハンドジェスチャ及び指ジェスチャをキャプチャするセンサ(例えば、モーションセンサ又はカメラ)などの他のデバイスを含み得る。コントローラは、器具の動作(例えば、関節運動、駆動、灌水など)にマッピングされた一組のユーザ入力(例えば、ボタン、ジョイスティック、方向パッドなど)を含むことができる。コマンドコンソール200の制御モジュール203、204を使用して、ユーザ205は、管腔ネットワーク130を通して器具をナビゲートすることができる。
【0094】
図23は、例示的な医療器具300の遠位端部の詳細図である。医療器具300は、図21の内視鏡116又はリーダ145を表し得る。医療器具300は、図1の内視鏡13、図3の尿管鏡32、図9の腹腔鏡59などの、本開示全体を通して説明される任意の医療器具を表し得る。図23では、器具300の遠位端部は、撮像デバイス315、照明源310及び、EM器具センサを形成するEMセンサコイル305の端部を含む。遠位端は、器具300の作業チャネル320への開口部を更に含み、この開口部を通して、生検針、細胞学的ブラシ、鉗子などの外科用器具が器具シャフトに沿って挿入され、器具先端付近の領域へのアクセスを可能にし得る。
【0095】
器具300の遠位端上に配置されたEMコイル305をEM追跡システムと共に使用して、管腔ネットワーク内に位置付けられている間の器具300の遠位端の位置及び配向を検出し得る。いくつかの実施形態では、コイル305は、異なる軸に沿ったEM場に対する感度を提供するように角度付けられ、開示されたナビゲーションシステムに、6つの自由度(degrees of freedom、DoF)、すなわち3つの位置DoF及び3つの角度DoFの全てを測定する能力を与え得る。他の実施形態では、単一のコイル305のみが遠位端の上又は中に配置され、その軸が器具のシャフトに沿って配向され得る。そのようなシステムの回転対称性のために、軸を中心とした回転は感知できない場合があり、そのような実装態様においては、5つの自由度だけが検出され得る。代替的に又は追加的に、他の種類の位置センサが用いられ得る。
【0096】
照明源310は、解剖学的空間の一部を照明するための光を提供する。照明源310は、それぞれ、選択された波長又は波長範囲の光を放射するように構成された1つ又は2つ以上の発光デバイスであり得る。波長は、2~3例を挙げると、例えば、可視スペクトル光、赤外光、(例えば蛍光透視法用の)X線などの任意の好適な波長であってもよい。いくつかの実施形態では、照明源310は、器具300の遠位端に配置された発光ダイオード(LED)を含むことができる。いくつかの実施形態では、照明源310は、内視鏡の長さを通って延在し、例えばX線発生器などの遠隔光源からの光を遠位端を通して透過させることができる、1つ又は2つ以上の光ファイバを含む。遠位端が複数の照明源310を含む場合、これらはそれぞれ、互いに同じ又は異なる波長の光を放射するように構成することができる。
【0097】
撮像デバイス315は、受信した光を表すエネルギーを電気信号、例えば、電荷結合素子(charge-coupled device、CCD)又は相補型金属酸化膜半導体(complementary metal-oxide semiconductor、CMOS)画像センサに変換するように構成された任意の感光性基板又は構造を含み得る。撮像デバイス315のいくつかの例は、内視鏡の遠位端300から内視鏡の近位端付近の接眼レンズ及び/又は画像センサに画像を表す光を送信するように構成された、例えば、光ファイバ束などの1つ又は2つ以上の光ファイバを含むことができる。撮像デバイス315は、様々な光学設計の必要に応じて、1つ若しくは2つ以上のレンズ及び/又は波長通過フィルタ若しくは波長遮断フィルタを更に含むことができる。照明源310から放射された光は、撮像デバイス315が患者の管腔ネットワークの内部の画像をキャプチャすることを可能にする。これらの画像は次いで、個々のフレーム又は一連の連続するフレーム(例えば、ビデオ)として、コマンドコンソール200などのコンピュータシステムに送信され得る。上述のように、また以下でより詳細に説明するように、撮像デバイス315によってキャプチャされた画像(例えば、図20の視覚データ92)は、ナビゲーション又は位置特定システム95によって、管腔ネットワーク内での器具の位置(例えば、器具300の遠位先端部の位置)を判定又は推定するために利用され得る。
【0098】
III.画像管理。
本開示の実施形態は、経路(例えば、気道)分析及び/又はマッピング中に得た画像管理のためのシステム及び技術に関する。画像管理は、本明細書に記載のように、内視鏡から得られた画像を特定、分析、フィルタリング、利用、及び/又は修正することを指し得る。例えば、画像管理システムは、管腔ネットワーク内の器具上に位置付けられている撮像デバイスを使用して、管腔ネットワークの内部の画像をキャプチャすることができ、画像ベースの経路分析システムは、画像を分析して、画像に示される1つ又は2つ以上の気道を特定し得る。画像管理システムは、術前モデルデータ(例えば、機械学習アルゴリズムからトレーニングされたモデル)を使用して、画像の管理を支持し得る。例えば、画像管理システムは、十分に信頼できる、明確な、及び/又は他の品質画像に対応する所与の管腔ネットワークの画像を特定するように構成され得る。いくつかの実装態様では、これらのシステム及び技術は、(例えば、図20を参照して上述したように)様々な他のナビゲーション及び位置特定モダリティと共に使用され得る。
【0099】
A.画像解析
医療処置中、画像は、医療器具の撮像デバイス(例えば、内視鏡)からディスプレイ及び/又はメモリデバイスに転送され得る。内視鏡画像デバイスは、ナビゲーション中に臨床医に直視下知覚を提供する。追加的又は代替的に、画像は、(例えば、位置特定モジュール95を使用して)管腔ネットワーク内の医療デバイスの位置を判定するために、処理アルゴリズムによって分析され得る。しかしながら、内視鏡検査中にキャプチャされた画像、特に無情報である画像は、解釈することが困難であり得る。内視鏡検査では、非情報画像は、例えば、速いカメラの動きによるものであり得る、高度の流体アーチファクト、鏡面反射、及び/又はぼやけ(又は不鮮明さ)を提示する画像を含み得る。これらの無益な画像を自動的に特定するためのコンピュータ化されたアルゴリズムから、臨床医は恩恵を受けるであろう。例えば、そのような画像は、無情報、信頼性がない、及び/又は低品質として廃棄及び/又はラベル付けされ得る。臨床医はまた、本明細書に記載の後続の画像処理アルゴリズムから恩恵を受けることができる。画像管理システムは、有利には、ユーザ(例えば、外科医、医療従事者など)が、撮像デバイスから取得され得る非有用な画像を回避することを可能にする。追加的又は代替的に、システムは、コンピュータ化されたアルゴリズムが、管腔ネットワーク内の医療器具の位置をより良好に判定することを可能にすることができる。
【0100】
管腔ネットワーク内部をナビゲートする能力は、本明細書に記載のロボット制御式の外科用システムの特徴であり得ると共に、位置特定を伴い得る。本明細書で使用するとき、位置特定は、管腔ネットワーク内の器具の位置を特定又は判定することを指し得る。判定された位置は、器具を管腔ネットワーク内の1つ又は2つ以上の特定の対象領域に誘導するのを補助するために使用され得る。いくつかの実施形態では、ロボット制御式の外科用システムは、器具の術中ナビゲーションを提供するために、1つ又は2つ以上の独立した感知モダリティを利用する。図20に示すように、独立した感知モダリティは、位置データ(例えば、EMデータ93)、視覚データ92、及び/又はロボットコマンド及び運動学データ94を提供することができる。これらの独立した感知モダリティは、独立した推定位置を提供するように構成された推定モジュールを含み得る。次いで、独立した推定結果は、例えば、位置特定モジュール95を使用して、システムによって使用することができる、又はユーザに表示することができる、1つのナビゲーション出力へと組み合わされ得る。画像ベースの気道分析及びマッピングは、視覚データ92に基づいて、独立した推定位置を提供することができる独立した感知モダリティを提供することができる。特に、いくつかの場合には、画像ベースの気道分析及びマッピングは、感知モダリティと、器具の撮像デバイスが管腔ネットワークのどの管腔又は枝に位置しているのかを、撮像デバイスによってキャプチャされた1つ又は2つ以上の画像に基づいて推定する状態/位置推定モジュールとの組み合わせを提供する。いくつかの実施形態では、画像ベースの気道分析及びマッピングによって提供される推定結果を、単独で、又は他の推定位置と共に使用して、システムによって使用することができる、又はユーザに表示することができる、最終的な推定位置を判定し得る。いくつかの実施形態では、本明細書に記載の画像ベースの経路分析及びマッピングシステム及び方法は、複数の感知モダリティを使用して計算された過去の推定位置に基づいてその推定を行い得る。したがって、より高い品質及び/又はより信頼性の高い画像は、初期及びその後の位置推定プロセスを支持及び改良することができる。画像管理システム及び方法は、本明細書に記載の他の画像処理システム及び方法を補完することができる。無情報及び/又は信頼性がない画像を特定することにより、更なる処理からそれらを除去することができ、したがって、その後の処理の必要性を低減し、非有用な、又は不正確な結果の数を潜在的に低減する(例えば、不十分な画質のため)。
【0101】
画像管理は、管腔ネットワーク内に位置付けられている器具の撮像デバイス315によってキャプチャされた1つ又は2つ以上の画像管理画像を分析して、画像内の1つ又は2つ以上の気道を検出することを含み得る。図24は、管腔ネットワークの枝の内部の例示的な画像380を示す。図示の例では、画像380は肺の経路の内部画像であるが、画像380は、任意の種類の管腔ネットワークを表すことができる。2つの後続の気道384が画像380に示されている。気道384は、画像がキャプチャされた現在の気道に接続されている。
【0102】
B.例示的な画像管理方法及びシステム
図24とは対照的に、いくつかの画像は、(人間及び/又はコンピュータアルゴリズムに対して)十分にクリア又は信頼性がない場合がある。したがって、画像管理システムは、明確で信頼性の高い、及び/又はそうでなければ高品質の画像を特定及び利用するために有利に採用され得る。図25は、分析システム410及び医療機器420を含む例示的な画像管理システム400を示す。分析システム410は、医療器具に結合され得る。例えば、分析システム410は、医療器具420に電子的に接続され得る。いくつかの構成では、分析システム410及び医療器具420は、同じハウジング内に収容される。
【0103】
分析システム410は、コンピュータ可読メモリ412及び1つ又は2つ以上のプロセッサ414を含み得る。メモリ412は、非一時的であり得、プロセッサによって実行されるときに画像管理システム400に様々な機能を実行させるように構成された実行可能な命令を含み得る。1つ又は2つ以上のプロセッサ414は、メモリ412と通信することができ、本明細書に記載の様々な機能を実行するための命令を実行するように構成され得る。例として、限定するものではないが、メモリ412及び/又はプロセッサ414は、図1に示されるタワー30内にあっても、図1図4に示されるカート11内にあっても、図5図14に示されるベッド内にあってもよい。
【0104】
医療器具420は、器具基部422、細長い本体424、及び/又は撮像デバイス428を含み得る。医療器具420は、図21の内視鏡116、図23の医療器具300、図1の内視鏡13、図3の尿管鏡32、図9のラパロスコープ59などのいくつかの機能性を共有し得る。
【0105】
医療器具420は、器具基部422に結合された細長い本体424を含み得る。細長い本体424の遠位端部(例えば、遠位先端部)は、撮像デバイス428を含み得る。細長い本体424の遠位端部は、追加的又は代替的に、管腔ネットワークを照明するように構成された1つ又は2つ以上の照明源(図示せず)を含み得る。本明細書に記載の他の医療器具と同様に、細長い本体424の遠位端部は、外科用器具420の作業チャネルへの開口部を更に含むことができ、これにより、外科用器具が器具シャフトに沿って及び/又は器具シャフト内に挿入され得、器具先端部の近くの管腔ネットワークの領域へのアクセスを可能にする。撮像デバイス428は、撮像デバイス315に関して上述した様々な機能を含み得る。
【0106】
図26は、本明細書に記載の医療システムと組み合わせて使用することができるマッピングシステム450を示す。マッピングシステム450は、仮想ビュー生成器モジュール462、記述子抽出モジュール466、画像品質検出器474、記述子抽出モジュール478、及び/又は記述子整合モジュール482を含み得る。アルゴリズムの第1のセットは、仮想ビュー生成器モジュール462及び/又は記述子抽出モジュール466を含むことができ、他のアルゴリズムが1つ又は2つ以上の画像センサ(例えば、カメラ画像データ470)から取得された画像データ内の特徴を特定するのを助けるために使用され得る仮想(例えば、コンピュータ生成、シミュレート、人工、など)画像を生成及び分析することができる。第1の組のアルゴリズムは、例えば、医療処置の前に、CTモデル454及び/又はナビゲーション融合データ458に適用され得る。したがって、記述子抽出モジュール466からの出力は、術前データとして記憶することができる。
【0107】
マッピングシステム450は、CTモデル454、ナビゲーション融合データ458、及び/又はカメラ画像データ470を含むデータを受信するように構成され得る。CTモデル454は、CTに基づくか、又はCTをモデル化する仮想画像を含み得る。CTモデル454は、コンピュータアルゴリズム(例えば、仮想ビュー生成器モジュール462、記述子抽出モジュール466、記述子整合モジュール482など)によってアクセスすることができる術前画像のデータベースを含み得る。ナビゲーション融合データ458は、画像データ、EMデータなどの追加のデータ、及び/又はカメラ画像(例えば、カメラ画像データ470)との比較からの結果を含み得る。
【0108】
CTモデル454及び/又はナビゲーション融合データ458からのデータは、仮想ビュー生成器モジュール462に渡され得る。仮想ビュー生成器モジュール462は、データを受信し、管腔ネットワークの仮想モデル、例えば、管腔ネットワークの二次元(2D)モデル又は3次元(3D)モデルを生成することができる。仮想ビュー生成器モジュール462は、医療処置中に取得され得る画像ビューをモデル化又は模倣するように構成することができる。生成された画像/モデルは、記述子抽出モジュール又はアルゴリズム466に渡すことができる。記述子抽出モジュール466は、生成された画像/モデルを受信し、画像から顕著又は有意義な特徴(例えば、記述子)を特定するように構成され得る。例えば、記述子抽出モジュール466は、画像(例えば、仮想画像)のエッジ、形状、色の段階、及び/又は他の態様を特定するように構成することができる。仮想モデル生成及び分析に関連する追加情報は、2019年4月18日に公開された米国特許出願公開第2019/0110843号に更に説明されており、その全体が参照により本明細書に組み込まれる。記述子抽出モジュール466から得られたデータは、例えば、処置中に利用可能であるように、記述子整合モジュール482に渡され得る。
【0109】
第2の組のアルゴリズムは、最終的には、第1の組のアルゴリズムから出力を比較して、画像センサから取得された画像データ内の有意義な特徴(例えば、記述子)を特定するために使用され得るカメラ画像データ470を分析するように構成することができる。上記のように、医療器具420の遠位先端部/部分におけるカメラ又は他の撮像デバイス428からのリアルタイム画像データの分析を通じて、情報を含まない画像データは廃棄され得る一方で、情報を含む画像データを保持し、医療器具420を位置特定するために使用し、かつ/又は医療器具420を管腔ネットワークを通してナビゲートするのを助けることができる。第2の組のアルゴリズムは、情報を含む画像と情報を含まない画像の膨大なセットを選別し、保持された画像は何であれ、医療機器420をより効率的に、迅速に、正確に位置特定するために使用される。システムは、以下で詳しく説明する1つ又は2つ以上の品質メトリック(ぼやけ、スペキュラネス、フィーチャネスなど)に依存して、画像が情報を含まないか、したがって画像を破棄すべきかどうかを判断することができる。各画質メトリック内で、画像が画像品質メトリックを満たしているか否かに関わらず、分析の感度レベルを確立するように閾値を設定することができる。この分析の結果に基づいて、画像は、位置特定及び/又はナビゲーションで使用するために保持され得、又は画像は、医療器具420の位置特定における注意散漫及び/又は不正確さを防ぐために廃棄され得る。第2の組のアルゴリズムは、画像品質検出器474、記述子抽出モジュール478、及び/又は記述子整合モジュール482を含み得る。画像品質検出器474は、カメラ画像データ470を受信し、それを分析して、カメラ画像データ470が1つ又は2つ以上の品質メトリックを満たすかどうかを判定することができる。画像品質検出器474の特徴を、以下に(例えば、図27を参照して)更に詳細に記載する。例えば、画像品質検出器474は、受信された画像に関連する、ぼやけの程度、スペキュラネスの程度、及び/又はフィーチャネスの程度を特定するように構成され得る。画像が1つ又は2つ以上の対応する画像品質メトリックに基づいて1つ又は2つ以上の閾値品質メトリックに合格しない場合、画像は拒否及び/又は廃棄され得る。いくつかの実施形態では、品質メトリックに合格した画像は、記述子抽出モジュール478によって更に分析され得る。画像は、1つ又は2つ以上の品質メトリックの目標数(例えば、1つ、2つ、3つ、4つなど)及び/又は目標の組み合わせがそれぞれの1つ又は2つ以上の閾値品質メトリックを満たす場合、十分に信頼性が高く、情報を含み、及び/又は高品質であると判定し得る。
【0110】
記述子抽出モジュール478は、受信された画像から1つ又は2つ以上の特徴(例えば、記述子)を特定するように構成することができる。例えば、記述子抽出モジュール478は、受信された画像内の分岐、曲率、不規則性、又は他の顕著な特徴を特定するように構成され得る。次いで、記述子抽出モジュール478は、画像及び/又は関連付けられた記述子データを記述子整合モジュール482に渡し得る。
【0111】
記述子整合モジュール482は、記述子抽出モジュール478から及び/又は記述子抽出モジュール466から画像及び/又は記述子データを受信することができる。記述子整合モジュール482は、本明細書に記載のような、管腔ネットワーク内の医療機器(例えば、内視鏡)の位置を特定することができる。例えば、記述子整合482は、記述子抽出モジュール466から取得された1つ又は2つ以上の特徴を、記述子抽出モジュール478からデータ内で特定された特徴で比較することができる。いくつかの例では、記述子整合モジュール482は、予想される位置データ(例えば、モジュール482及び/又はモジュール482がアクセス可能なメモリに事前にロード又は事前に記憶された)を含み、記述子抽出466、478から受信した特徴の比較を効率化し得る。したがって、マッピングシステム450を使用して、医療システムは、1つ又は2つ以上のデータ源、例えば、CTモデル454、ナビゲーション融合データ458、及び/又はカメラ画像データ470から抽出された記述子に基づいて、管腔ネットワーク内の医療器具の位置を特定及び/又は推定することができる。
【0112】
図27は、上述の画像管理システムを実装するための例示的な方法500を示す。方法500は、本開示全体を通して説明される様々なロボット制御式のシステムで実装され得る。方法500は、管腔ネットワークに挿入されるように構成された細長い本体を有する器具を含むロボットシステムと共に実装され得る。撮像デバイスは、細長い本体上(例えば、細長い本体の遠位端上)に位置付けることができる。器具は、管腔ネットワークを通して器具を移動させるように構成された器具位置付けデバイス(例えば、ロボットアーム)に取り付けることができる。方法500を使用するシステムが、プロセッサに方法500を実行させる命令で構成されたプロセッサを含み得る。方法500は、単なる例として提供されており、画像管理方法は、図27に示す工程とは異なる工程を使用して実装することができる。簡潔にするために、図27に示す工程は、システム(例えば、本明細書に記載のシステムのうちの1つ、又は本明細書に記載の技術のうちの1つ又は2つ以上を実行するように構成されたシステム)によって実行されるものとして説明されているが、このステップは、このようなシステムの1つ又は2つ以上の構成要素又はプロセッサによって行われ得る。
【0113】
ブロック504において、画像管理のためのシステムは、デバイス(例えば、撮像デバイス428)から、細長い本体が管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信する。ブロック508で、システムは、1つ又は2つ以上の画像の各々について、管腔ネットワーク内の細長い本体の遠位先端部又は部分の位置特定のための画像の信頼性を示す1つ又は2つ以上の品質メトリックを判定する。品質メトリックの例を下記に示す。ブロック512で、システムは、1つ又は2つ以上の品質メトリックの各々について信頼性閾値を判定する。信頼性閾値は、ユーザによって供給することができ、及び/又は品質メトリック及び/又は品質メトリックの値に基づいて判定することができる。例えば、閾値は、重要な品質メトリックに対して比較的高く設定することができるが、重要でない品質メトリックについてはより低く設定することができる。他の構成も可能である。ブロック516において、対応する信頼性閾値を満たす画像の1つ又は2つ以上のメトリックの各々に応答して、システムは、遠位先端部の位置の画像を利用する。システムは、画像を使用して、器具の遠位先端部の位置を判定し得る。位置判定は、図26に関して説明されたアルゴリズム及び/又は本明細書に記載の他のアルゴリズム(例えば、図20に関して)に部分的に基づくことができる。システムは、対応する信頼性閾値を満たさない画像の品質メトリックのうちの1つ又は2つ以上に応答して、器具の遠位先端部の位置を判定するために画像を廃棄しても、あるいは利用しなくてもよいことに留意されたい。
【0114】
いくつかの例では、システムは術前モデルデータにアクセスする。システムは、例えば、1つ又は2つ以上の信頼性閾値を満たす画像の機械学習モデルにアクセスし得る。追加的又は代替的に、機械学習モデルは、1つ又は2つ以上の信頼性閾値を満たさない画像のモデルを含み得る。機械学習モデルに基づいて、システムは、1つ又は2つ以上のキャプチャされた画像の各々についての1つ又は2つ以上のメトリックが対応する信頼性閾値を満たすかどうかを判定し得る。術前モデルデータは、(例えば、医療器具の位置に対応する気道のカウント及び/又はランドマークを使用して)管腔システム内の医療デバイスの予想位置を示すデータ(例えば、画像データ)などの他のデータを含み得る。例えば、図27には示されていないが、システムは、管腔ネットワーク内に位置付けられている器具の推定位置状態にアクセスし得る。位置状態推定は、器具が現在位置付けられている分岐の特定を含むことができる。位置状態は、CTスキャンを通して取得された画像データに基づき得る。位置状態推定値及び術前モデルデータ(例えば、機械学習モデル、CT画像)に基づいて、システムは、医療器具の位置を判定し得る。推定位置状態は、例えば、図20のナビゲーション及び位置特定システム90によって判定することができる。推定位置状態を、例えば、術前モデルデータ91、視覚データ92、EMデータ93(若しくは他の位置感知データ)、並びに/又はロボットコマンド及び運動学データ94などの様々な及び/又は複数の位置感知モダリティ及び情報に基づいて判定することができる。術前モデルデータを使用した経路の位置判定及びマッピングに関連する追加情報は、2019年4月18日に公開された米国特許出願公開第2019/0110843号で更に説明されており、その全体が参照により本明細書に組み込まれる。
【0115】
システムは、複数の画像品質メトリックを使用して、画像が信頼できるか、情報を含むか、及び/又はそうでなければ十分に高品質であるかを特定し得る。例えば、3つ以上の品質メトリックが使用され得る。各画像について、システムは、2D画像を画像内の画像位置の集合に変換することができる。画像位置は、画像内の画素に対応し得る。画素は、2つの軸に沿ってグリッドに配置され得る。画像位置は、
【0116】
【数1】
と定義され得、式中、I(x、y)は、画像位置に記憶されたデータを表し、W及びH画像の幅及び高さをそれぞれ示す。画像位置に記憶されたデータは、複数の要素を含むベクトルとして記憶され得る。例えば、I(x、y)には、RGB画像における赤、緑、及び青のチャネルの値を記憶し得る。「チャネル」とは、画像位置によって記憶される変数のタイプを指し得る。例えば、RGB画像は、3つのチャネルを有し、グレースケール画像は、1つのチャネルを有する。
【0117】
画像品質メトリックは、様々なメトリックに関連し得る。1つの要因は、画像又はその中の特徴がぼやけている程度に関連し得、これは、ぼやけ、若しくは、不鮮明さと称され得る。別の因子は、画像がどのように飽和及び/又は洗浄されるかに関連し得る。特に、係数は、(例えば、光源からの)光のカメラへの反射によって引き起こされる鏡面ハイライトに関連し得る。この係数は、スペキュラネスと称され得る。更に別の要因は、フィーチャネスと称され得る画像内の視覚的特徴の顕著性がどのようであるかに関連し得る。視覚的特徴の顕著性は、画像内で検出された視覚的特徴の数に関連し得る。
【0118】
ぼやけは、様々な方法で取得され得る。例えば、システムは、入力RGB画像をグレースケール画像に変換し得る。したがって、画像は、黒色度又は暗さの程度などの単一のチャネルに基づいて変化し得る。システムは、画像上の近く及び/又は隣接する点の分散を判定し得る。分散は、各画像位置に関連付けられたベクトル上でラプラシアン演算子を実行することによって取得され得る。ラプラシアン演算子は、行列
【0119】
【数2】
となり得る。行列の分散μが計算され得る。これから、ぼやけは、
【0120】
【数3】
を使用して計算することができ、式中、aは、
【0121】
【数4】
の上限である。
【0122】
スペキュラネスは、画像全体と比較して、鏡面ハイライトを有する画像内の点の比率を見つけることによって得られ得る。したがって、スペキュラネスは、画像内の鏡面ハイライト領域の比又は割合であり得る。スペキュラネスは、画像内の各点の彩度及び/又は値に関連し得る。「彩度」とは、一般的に、同様に照明された白の明るさに対する点のカラフルさを指し得る。「値」は、色の知覚の変動の程度を指し得る。スペキュラネスは、1つ又は2つ以上の閾値を満たす点(例えば、画素)の数を判定することによって取得することができる。例えば、鏡面点は、閾値彩度レベル未満の彩度を有する点を指し得、及び/又は閾値レベルを超える値を有し得る。
【0123】
画像のスペキュラネスを判定することには、画像を異なるタイプの画像に変換することを含み得る。変換は、マルチチャネル画像を異なるタイプのマルチチャネル画像(例えば、HSV画像)に変換することを含み得る。例えば、RGB画像は、HSV画像に変換し得る。いくつかの実施形態では、R、G、Bチャネル値は、0~1の範囲であり得、以下の式に従って変換され得る。
【0124】
【数5】
【0125】
頭字語HSVは、色相、彩度、及び値を表す。画像の各位置は、そのレベルの鏡面ハイライトについて分析され得る。彩度閾値σSat及び/又は値閾値σValは、十分な鏡面ハイライトを有する点(例えば、画素)を特定するように設定され得る。例えば、画素が両方とも(1)彩度閾値σVal未満の彩度値を有する、及び(2)彩度閾値σSat未満の値量を有する場合に、十分な鏡面ハイライトを有していると特定され得る。十分な鏡面ハイライトを有する点(例えば、画素)の総数に基づいて、点が、σSatより低い彩度了及びσValより高い値量を有する場合には、比率は、
【0126】
【数6】
を計算することによって得ることができ、式中、ωi,j=1である。そうでない場合、ωi,j=0である。写真のスペキュラネスは、得られる比を含み得る。
【0127】
フィーチャネスは、特定の画像内の特徴の数を特定することによって判定され得る。特徴の数は、スケール不変特徴変換(SIFT)、堅牢な特徴のスピードアップ(SURF)、バイナリロバストな独立した基本特徴(BRIEF)、加速セグメント試験からの特徴(FAST)、配向FAST、及び回転BRIEF(ORB)及び/又はバイナリロバストな不変スケーラブルキーポイント(BRISK)などのような1つ又は2つ以上の特徴検出アルゴリズムを使用して判定され得る。いくつかの実装態様では、ハリスのアルゴリズム(例えば、ハリスのアフィン領域検出器)を使用して、画像内の角部などの特徴の態様を特定し得る。例えば、ガウスカーネルフィルタリングは、1つ若しくは2つ以上のスケールで使用され得、かつ/又は顕著な特徴(例えば、角、縁、ブロブ、隆起など)を位置特定することを更に含み得る。追加的又は代替的に、(例えば、ソーベル演算子を使用する)ソーベルフィルタなどのフィルタを使用して、エッジなどの特徴の態様を特定及び/又は検出することを助けることができる。特徴は、管腔ネットワークの断面、管腔又は分岐の不規則性、又は関心のあるいくつかの他の特徴であり得る。画像内の特徴は、環境内のエッジ、コーナー、及び/又は他の特定可能な要素を含み得る。したがって、そのような態様が特定されて、画像内の特徴の存在を判定し得る。
【0128】
上記のように、1つ又は2つ以上の品質メトリックを使用して、信頼性のある、及び/又は情報を含む画像を特定することができる。いくつかの構成では、方法500は、上記の品質メトリックの組み合わせ(例えば、線形組み合わせ)を使用することを含み得る。例えば、画像は、(1)ぼやけθが、ぼやけの閾値σblurよりも大きい場合、(2)スペキュラネスφが、スペキュラネス閾値σspecよりも大きい場合、及び/又は(3)フィーチャネスδは、フィーチャネスの閾値σfeat未満である場合には、情報を含まない、及び/又は信頼性がないものとして分類できる。したがって、例えば、いくつかの実装態様では、画像は、θ>σblur、φ>σspec、及びδ<σfeatである場合には信頼性がないと判定される。いくつかの構成では、品質メトリックの線形の組み合わせが、複合閾値を下回る複合メトリックとなる場合、画像は信頼性がないと判定し得る。複合メトリックρは、それぞれの品質メトリックに対応する1つ又は2つ以上の重み付け係数を使用して判定され得る。重み付け係数は、線形重み付け係数であり得るが、他の変形が可能である。例えば、複合メトリックρは、
【0129】
【数7】
を使用して判定し得る。ここで、α、β、及びγは、それぞれ、各品質メトリックのための重み付けパラメータ(例えば、ぼやけθ、スペキュラネスφ、フィーチャネスδ)を表す。いくつかの実装態様では、限界値bは、内視鏡画像で検出される特徴の数の上限を表すことができる。重み付けパラメータは、代表的な画像のセットの分析に基づいて選択され得る。したがって、重み付けパラメータは、本明細書に記載の術前データに含まれ得る。
【0130】
上記のように、いくつかの構成では、システムは、追加的又は代替的に、機械学習(ML)アルゴリズムを実装して、上記の品質メトリックのうちの1つ又は2つ以上を判定し得る。機械学習アルゴリズムは、粒度の粗い(例えば、画素レベルの)画像データに追加的又は代替的に、画像の全体的な情報をキャプチャするように構成することができる。MLアルゴリズムは、信頼性及び/又は情報を含む画像を特定するように構成することができる。追加的又は代替的に、MLアルゴリズムは、信頼性がない及び/又は情報を含まない画像を特定するように構成することができる。
【0131】
MLアルゴリズムは、「良好」(例えば、情報を含む、信頼性がある)及び/又は「悪い」(例えば、情報がない、信頼性がない)画像で以前にトレーニングされ得る。トレーニングアルゴリズムは、ランダムフォレスト、サポートベクターマシン、又は畳み込みニューラルネットワーク(CNN)などの分類子を使用し得る。したがって、「良好」及び/又は「悪い」画像は、トレーニングされた分類子に基づいて判定され得る。
【0132】
トレーニングされると、MLアルゴリズム又はモデルを、システム(例えば、メモリ412)に記憶することができる。機械学習アルゴリズムの例としては、回帰アルゴリズム(例えば、Ordinary Least Squares Regressionなど)、インスタンスベースのアルゴリズム(例えば、Learning Vector Quantization(学習ベクトル量子化)など)、判定木アルゴリズム(例えば、分類木及び回帰木など)、ベイズ・アルゴリズム(例えば、ナイーブ・ベイズなど)、クラスタリングアルゴリズム(例えば、k-平均クラスタリングなど)、アソシエーションルール学習アルゴリズム(例えば、演繹的アルゴリズムなど)、人工ニューラルネットワークアルゴリズム(例えば、パーセプトロンなど)、深層学習アルゴリズム(例えば、深層ボルツマンマシン、深層ニューラルネットワークなど)、次元削減アルゴリズム(例えば、主成分分析など)、アンサンブルアルゴリズム(例えば、積層ジェネラライゼーションなど)、及び/又は他の機械学習アルゴリズムのような教師あり又は教師なしの機械学習アルゴリズムがある。
【0133】
上記のように、方法500は、機械学習モデルにアクセスし、モデルを使用して、各画像の品質メトリックが対応する信頼性閾値を満たすかどうかを判定することを含み得る。機械学習モデルは、1つ又は2つ以上の管腔ネットワーク内の分岐を特定するようにトレーニングされた畳み込みニューラルネットワークを含み得る。機械学習モデルは、管腔ネットワークの模擬画像に少なくとも部分的に基づくことができる。例えば、模擬画像は、2つ又は3つの寸法にわたる管腔ネットワークの少なくとも1つのコンピュータ生成画像を含み得る。例えば、機械学習モデルは、CTスキャンから収集された画像に少なくとも部分的に基づくことができる。模擬画像は、管腔ネットワーク内からシミュレートされた視点を描写し得る。追加的又は代替的に、画像データは、ビデオ画像(例えば、患者内の気管支ネットワークから)を含み得る。
【0134】
MLアルゴリズムは、様々な方法でトレーニングされ得る。例えば、システムは、管腔ネットワークの3D表現にアクセスし得る。システムは、管腔ネットワークの内部の1つ又は2つ以上の画像にアクセスし得る。いくつかの構成では、システムは、管腔ネットワークの内部及び管腔ネットワークの3D表現の画像に基づいて、各画像と3D表現内の対応する場所との間のマッピングを判定し得る。システムは、マッピングに基づいて、重み付けパラメータを設定して、MLアルゴリズムに提示された画像データ内で、管腔ネットワークの対応する分岐及び/又は管腔ネットワーク内の対応する分岐の位置を特定し得る。追加的又は代替的に、システムは、粒子フィルタに基づいて、画像内の1つ又は2つ以上の特徴を予測することができる。
【0135】
IV.システムの実装及び用語
本明細書に開示の実装態様は、ロボット制御式の医療器具のナビゲーションのための画像管理のためのシステム、方法及びデバイスを提供する。本明細書に記載の様々な実装態様は、管腔ネットワークの改善された画像管理とナビゲーションを提供する。
【0136】
本明細書で使用するとき、「連結する」、「連結している」、「連結された」という用語、又は連結という語の他の変形は、間接的接続又は直接的接続のいずれかを示し得ることに留意されたい。例えば、第1の構成要素が第2の構成要素に「連結される」場合、第1の構成要素は、別の構成要素を介して第2の構成要素に間接的に接続される、又は第2の構成要素に直接的に接続される、のいずれかであってもよい。
【0137】
本明細書に記載の画像データ、分析及び/又は管理アルゴリズム、機械学習モデル、位置推定、及び/又はロボットモーションアクチュエーション機能は、プロセッサ可読媒体又はコンピュータ可読媒体上の1つ又は2つ以上の命令として記憶され得る。「コンピュータ可読媒体」という用語は、コンピュータ又はプロセッサによってアクセスすることができる任意の利用可能な媒体を指す。一例として、限定するものではないが、このような媒体は、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、電気的消去可能プログラム可能読み出し専用メモリ(EEPROM)、フラッシュメモリ、コンパクトディスク読み出し専用メモリ(CD-ROM)、又は他の光ディスク記憶装置、磁気ディスク記憶装置、若しくは他の磁気記憶デバイス、又は命令若しくはデータ構造の形態で所望のプログラムコードを記憶するために使用することができ、コンピュータによってアクセスすることができる任意の他の媒体を含み得る。コンピュータ可読媒体は、有形であり、非一時的であってもよいことに留意されたい。本明細書で使用するとき、「コード」という用語は、コンピューティング装置又はプロセッサによって実行可能であるソフトウェア、命令、コード、又はデータを指し得る。
【0138】
本明細書に開示される方法は、記載される方法を達成するための1つ又は2つ以上のステップ又は行為を含む。方法ステップ及び/又は行為は、特許請求の範囲から逸脱することなく互いに交換され得る。換言すれば、記載されている方法の適切な動作のために特定の順序のステップ又は行為が必要とされない限り、特許請求の範囲から逸脱することなく、特定のステップ及び/又は行為の順序及び/又は使用を修正され得る。
【0139】
本明細書で使用するとき、「複数」という用語は、2つ又は3つ以上を示す。例えば、複数の構成要素は、2つ又は3つ以上の構成要素を示す。「判定する」という用語は、多種多様な行為を包含し、したがって、「判定する」は、計算すること、演算すること、処理すること、算出すること、調査すること、ルックアップすること(例えば、テーブル、データベース又は別のデータ構造を見ること)、確認することなどを含むことができる。また、「判定する」は、受信する(例えば、情報を受信すること)、アクセスする(例えば、メモリ内のデータにアクセスすること)などを含むことができる。また、「判定する」は、解決する、選択する、選出する、確立するなどを含むことができる。
【0140】
「基づく」という句は、別途明示的に指定されない限り、「のみに基づく」ことを意味しない。換言すれば、「基づく」という句は、「のみに基づく」及び「少なくとも基づく」の両方を記載する。
【0141】
開示される実装態様の前述の説明は、任意の当業者が本発明を製造すること、又は使用することを可能にするために提供される。これらの実装態様に対する様々な修正は、当業者には容易に明らかになり、かつ、本明細書において定義される一般的な原理は、本発明の範囲から逸脱することなく、他の実装態様に適用され得る。例えば、当業者であれば、締結、装着、連結、又は係合ツール構成要素の均等の方法、特定の作動運動を生み出すための均等の機構、及び電気エネルギーを送達するための均等の機構など、多くの対応する代替的かつ均等の構造的詳細を採用することができると理解されるであろう。したがって、本発明は、本明細書に示される実装態様に限定されることを意図するものではなく、本明細書に開示される原則及び新規な特徴と一致する最も広い範囲が与えられるものである。
【0142】
〔実施の態様〕
(1) システムであって、
器具であって、
管腔ネットワークに挿入されるように構成された細長い本体と、
前記細長い本体の遠位先端部上に位置付けられた撮像デバイスと、
を備える、器具と、
実行可能命令を記憶している少なくとも1つのコンピュータ可読メモリと、
1つ又は2つ以上のプロセッサであって、前記少なくとも1つのコンピュータ可読メモリと通信しており、かつ前記命令を実行して、前記システムに、少なくとも、
前記撮像デバイスから、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信することと、
前記1つ又は2つ以上の画像の各々について、前記管腔ネットワーク内の前記細長い本体の前記遠位先端部の位置特定のための画像の信頼性を示す1つ又は2つ以上のメトリックを判定することと、
前記1つ又は2つ以上のメトリックの各々について信頼性閾値を判定することと、
対応する信頼性閾値を満たす前記画像の前記1つ又は2つ以上のメトリックの各々に応答して、前記遠位先端部の前記位置特定のために前記画像を利用することと、を行わせるように構成されている、プロセッサと、を備える、システム。
(2) 前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、少なくとも、
1つ又は2つ以上の信頼性閾値を満たす画像の機械学習モデルにアクセスすることと、
前記機械学習モデルに基づいて、前記1つ又は2つ以上のキャプチャされた画像の各々についての前記1つ又は2つ以上のメトリックが、前記対応する信頼性閾値を満たすかどうかを判定することと、を行わせるように構成されている、実施態様1に記載のシステム。
(3) 前記機械学習モデルが、(i)前記対応する信頼性閾値を満たす1つ又は2つ以上のメトリックを有する画像と、(ii)前記対応する信頼性閾値を満たさない1つ又は2つ以上のメトリックを有する画像と、を区別するようにトレーニングされた畳み込みニューラルネットワークを含む、実施態様2に記載のシステム。
(4) 前記1つ又は2つ以上のメトリックが、
前記画像内のぼやけのレベルを示す第1のメトリックと、
前記画像内の鏡面ハイライトの量を示す第2のメトリックと、
前記画像内の視覚的特徴の利用可能性を示す第3のメトリックと、のうちの少なくとも1つを含む、実施態様1に記載のシステム。
(5) 前記画像の前記利用が、
第1の重み付けパラメータを前記第1のメトリックに割り当てることと、
第2の重み付けパラメータを前記第2のメトリックに割り当てることと、
第3の重み付けパラメータを前記第3のメトリックに割り当てることと、
前記第1のメトリック、前記第2のメトリック、及び前記第3のメトリックの、前記それぞれの第1の重み付けパラメータ、第2の重み付けパラメータ、及び第3の重み付けパラメータとの線形の組み合わせに基づいて、複合メトリックを判定することであって、前記複合メトリックが、前記遠位先端部の前記位置特定のための前記画像の信頼性を示す、判定することと、を含む、実施態様4に記載のシステム。
【0143】
(6) 前記1つ又は2つ以上のメトリックを判定することが、
前記画像の二次元座標に対応する画像値を特定することを含み、
各画像値が、対応する座標における色値に基づく、実施態様4に記載のシステム。
(7) 前記1つ又は2つ以上のメトリックを判定することが、
前記画像の修正画像上でラプラシアン演算子を実行して、行列を取得することと、
前記修正画像に関連付けられた前記行列の分散を判定することと、に基づいて、前記第1のメトリックを判定することを含む、実施態様6に記載のシステム。
(8) 前記1つ又は2つ以上のメトリックを判定することが、
前記画像の彩度及び明度値を判定することと、
前記画像の面積に対する彩度又は値のうちの少なくとも一方の比を判定することと、に基づいて、前記第2のメトリックを判定することを含む、実施態様6に記載のシステム。
(9) 前記第2のメトリックを判定することが、前記画像の第1の点と第2の点との間の明度値の分散を判定することを含み、前記第1の点及び前記第2の点が互いに隣接している、実施態様8に記載のシステム。
(10) 前記第2のメトリックを判定することが、閾値彩度レベルを下回る彩度値を有する画素の数を特定することを含む、実施態様8に記載のシステム。
【0144】
(11) 前記1つ又は2つ以上のメトリックを判定することが、
SIFT、SURF、BRIEF、BRISK、又はFASTのうちの少なくとも1つを使用して、前記画像内の特徴の数を特定することに基づいて、前記第3のメトリックを判定することを含む、実施態様6に記載のシステム。
(12) 特徴の数を特定することが、前記画像内の縁又は角部のうちの少なくとも一方を特定することを含む、実施態様6に記載のシステム。
(13) 前記画像の前記利用が、前記1つ又は2つ以上の画像の各々に信頼性係数を割り当てることを含み、前記信頼性係数が、前記1つ又は2つ以上のメトリックに基づいており、かつ前記遠位先端部の前記位置特定のための前記画像の信頼性を示す、実施態様1に記載のシステム。
(14) 前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、前記1つ又は2つ以上のメトリックに対応する前記信頼性閾値の各々をユーザから受信させるように更に構成されている、実施態様1に記載のシステム。
(15) 前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、前記1つ又は2つ以上のメトリックの対応する第1のメトリック及び第2のメトリックに基づいて、第2の信頼性閾値よりも高い第1の信頼性閾値を自動的に設定させるように更に構成されている、実施態様1に記載のシステム。
【0145】
(16) 前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、仮想画像を含む術前モデルデータにアクセスさせるように更に構成されている、実施態様1に記載のシステム。
(17) 術前モデルデータにアクセスすることが、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた前記1つ又は2つ以上の画像を前記仮想画像と比較することを含む、実施態様16に記載のシステム。
(18) 前記1つ又は2つ以上のプロセッサが、前記命令を実行して、前記システムに、前記管腔ネットワーク内の前記細長い本体の位置を、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた前記1つ又は2つ以上の画像を前記仮想画像と比較することに基づいて判定させるように更に構成されている、実施態様17に記載のシステム。
(19) 方法であって、
細長い器具の遠位端部に位置付けられている画像デバイスを使用して、前記細長い器具が管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信することと、
1つ又は2つ以上の閾値品質メトリックを満たす画像でトレーニングされた機械学習モデルにアクセスすることと、
前記機械学習モデルに基づいて、前記1つ又は2つ以上の画像が前記1つ又は2つ以上の閾値品質メトリックを満たすかどうかを判定することと、を含む、方法。
(20) 前記機械学習モデルに基づいて、前記管腔ネットワーク内の前記細長い器具の前記遠位端部の位置特定のための画像の信頼性を示す1つ又は2つ以上の品質メトリックを判定することを更に含む、実施態様19に記載の方法。
【0146】
(21) 前記1つ又は2つ以上の閾値品質メトリックを判定することを更に含む、実施態様19に記載の方法。
(22) 前記画像の前記1つ又は2つ以上の品質メトリックのうちの少なくとも1つが前記対応する1つ又は2つ以上の閾値品質メトリックを満たすことができないという判定に応答して、前記遠位端部の前記位置特定に使用されることから前記画像をフィルタリングすることを更に含む、実施態様19に記載の方法。
(23) 前記管腔ネットワーク内の前記細長い器具の位置を判定することを更に含む、実施態様19に記載の方法。
(24) 前記管腔ネットワーク内の前記細長い器具の前記位置を判定することが、前記1つ又は2つ以上のキャプチャされた画像を管腔ネットワークの術前画像と比較することを含む、実施態様23に記載の方法。
(25) 前記術前画像が、コンピュータ生成画像を含む、実施態様24に記載の方法。
【0147】
(26) 前記術前画像が、コンピュータ断層撮影(CT)スキャンから得られた画像を含む、実施態様24に記載の方法。
(27) システムであって、
器具であって、
管腔ネットワークに挿入されるように構成された細長い本体と、
前記細長い本体の遠位先端部上に位置付けられている撮像デバイスと、
を備える、器具と、
実行可能命令を記憶している少なくとも1つのコンピュータ可読メモリと、
1つ又は2つ以上のプロセッサであって、前記少なくとも1つのコンピュータ可読メモリと通信しており、かつ前記命令を実行して、前記システムに、少なくとも、
前記撮像デバイスから、前記細長い本体が前記管腔ネットワーク内にあるときにキャプチャされた1つ又は2つ以上の画像を受信することと、
前記1つ又は2つ以上の画像の各々について、前記管腔ネットワーク内の前記細長い本体の前記遠位先端部の位置特定のための画像の信頼性を示す1つ又は2つ以上のメトリックを判定することであって、前記1つ又は2つ以上のメトリックが、前記画像内のぼやけのレベルを示す少なくとも第1のメトリックを含む、判定することと、
前記1つ又は2つ以上のメトリックの各々について信頼性閾値を判定することと、
対応する信頼性閾値を満たす前記画像の前記1つ又は2つ以上のメトリックの各々に応答して、前記遠位先端部の前記位置特定のために前記画像を利用することと、を行わせるように構成されている、プロセッサと、を備える、システム。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
【国際調査報告】