IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オーリス ヘルス インコーポレイテッドの特許一覧

特許7350726画像ベースの分岐検出およびナビゲーション用マッピング
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-15
(45)【発行日】2023-09-26
(54)【発明の名称】画像ベースの分岐検出およびナビゲーション用マッピング
(51)【国際特許分類】
   A61B 34/20 20160101AFI20230919BHJP
   A61B 34/35 20160101ALI20230919BHJP
   A61B 1/00 20060101ALI20230919BHJP
   A61B 1/045 20060101ALI20230919BHJP
   A61B 1/267 20060101ALI20230919BHJP
【FI】
A61B34/20
A61B34/35
A61B1/00 552
A61B1/045 623
A61B1/267
【請求項の数】 17
(21)【出願番号】P 2020520266
(86)(22)【出願日】2018-09-21
(65)【公表番号】
(43)【公表日】2020-12-17
(86)【国際出願番号】 US2018052268
(87)【国際公開番号】W WO2019074650
(87)【国際公開日】2019-04-18
【審査請求日】2021-09-21
(31)【優先権主張番号】15/783,903
(32)【優先日】2017-10-13
(33)【優先権主張国・地域又は機関】US
【前置審査】
(73)【特許権者】
【識別番号】518083032
【氏名又は名称】オーリス ヘルス インコーポレイテッド
(74)【代理人】
【識別番号】100088605
【弁理士】
【氏名又は名称】加藤 公延
(74)【代理人】
【識別番号】100130384
【弁理士】
【氏名又は名称】大島 孝文
(72)【発明者】
【氏名】ウマラネーニ,リッティク
【審査官】羽月 竜治
(56)【参考文献】
【文献】米国特許出願公開第2017/0084027(US,A1)
【文献】米国特許出願公開第2014/0051986(US,A1)
【文献】米国特許出願公開第2014/0180063(US,A1)
【文献】米国特許出願公開第2010/0180063(US,A1)
【文献】米国特許出願公開第2016/0000520(US,A1)
【文献】米国特許出願公開第2015/0313503(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B
(57)【特許請求の範囲】
【請求項1】
命令が記憶された非一時的なコンピュータ可読記憶媒体であって、前記命令が実行されると、装置のプロセッサに少なくとも、
管腔ネットワークの現在の分岐内に位置する器具の位置状態の推定を特定し、前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、
前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、
前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、
前記画像内において、前記管腔ネットワークの後続の分岐と前記現在の分岐とを接続する複数の開口を検出することと、
2つの開口の重心を結ぶ第1のベクトルを含む、前記検出された複数の開口の1つまたは複数の特徴を特定することと、
前記予想される後続の一連の分岐を結ぶ第2のベクトルを含む、前記予想される後続の一連の分岐の1つまたは複数の特徴を特定することと、
前記器具の前記回転の推定に基づいて前記第2のベクトルを修正することと、
前記第1のベクトルと前記修正された前記第2のベクトルとの内積の値を計算することによって、前記検出された複数の開口の前記1つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の1つまたは複数の特徴とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、
前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定し、それにより、前記器具が前記いずれの開口に移動するかについての確率を提供することと、
を実行させることを特徴とする非一時的なコンピュータ可読記憶媒体。
【請求項2】
前記更新された位置状態の推定は、前記位置状態の推定が正しい確率を含むことを特徴とする請求項1に記載の非一時的なコンピュータ可読記憶媒体。
【請求項3】
前記位置状態の推定が正しい確率は、前記検出された複数の開口の前記1つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記1つまたは複数の特徴との比較に少なくとも部分的に基づいて特定されることを特徴とする請求項2に記載の非一時的なコンピュータ可読記憶媒体。
【請求項4】
前記更新された位置状態の推定は、前記器具の移動先である後続の分岐の推定を含むことを特徴とする請求項1に記載の非一時的なコンピュータ可読記憶媒体。
【請求項5】
前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、
前記回転の推定が正しい確率は、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって特定される、
ことを特徴とする請求項1に記載の非一時的なコンピュータ可読記憶媒体。
【請求項6】
前記命令が実行されると、前記装置の前記プロセッサに、
前記検出された開口のそれぞれに対して、前記検出された開口の前記1つまたは複数の特徴を前記修正された前記予想される後続の一連の分岐の前記1つまたは複数の特徴にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記1つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、
を実行させ、
前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の1つの分岐にマッピングする
ことを特徴とする請求項に記載の非一時的なコンピュータ可読記憶媒体。
【請求項7】
患者の管腔ネットワークにおけるナビゲーションを行うロボットシステムであって、
器具であって、
前記管腔ネットワークに挿入される長尺の本体と、
前記長尺の本体の遠位部分に位置する画像処理装置と、
を有する器具と、
前記器具に取り付けられる器具位置決め装置であって、前記器具位置決め装置は、前記器具を前記管腔ネットワークを通って移動させる、器具位置決め装置と、
実行可能な命令を記憶する少なくとも1つのコンピュータ可読メモリと、
前記少なくとも1つのコンピュータ可読メモリと通信する1つまたは複数のプロセッサであって、前記命令を実行して、前記システムに少なくとも、
前記管腔ネットワークの現在の分岐内に位置する前記器具の位置状態の推定を特定し、前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、
前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、
前記器具上に位置する前記画像処理装置によって前記現在の分岐の画像を取得することと、
前記画像内において、前記管腔ネットワークの後続の分岐と現在の分岐とを接続する複数の開口を検出することと、
2つの開口の重心を結ぶ第1のベクトルを含む、前記検出された複数の開口の1つまたは複数の特徴を特定することと、
前記予想される後続の一連の分岐を結ぶ第2のベクトルを含む、前記予想される後続の一連の分岐の1つまたは複数の特徴を特定することと、
前記器具の前記回転の推定に基づいて前記第2のベクトルを修正することと、
前記第1のベクトルと前記修正された前記第2のベクトルとの内積の値を計算することによって、前記検出された複数の開口の前記1つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記1つまたは複数の特徴とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、
前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定するし、それにより、前記器具が前記いずれの開口に移動するかについての確率を提供することと、
前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
を実行させる1つまたは複数のプロセッサと、
を有することを特徴とするシステム。
【請求項8】
前記器具は内視鏡を含むことを特徴とする請求項に記載のシステム。
【請求項9】
前記器具位置決め装置はロボットアームを含むことを特徴とする請求項に記載のシステム。
【請求項10】
前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークを含むことを特徴とする請求項に記載のシステム。
【請求項11】
前記命令が実行されると、前記1つまたは複数のプロセッサに、
前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、
を実行させることを特徴とする請求項に記載のシステム。
【請求項12】
前記命令が実行されると、前記1つまたは複数のプロセッサに、
前記検出された開口のそれぞれに対して、前記検出された複数の開口の1つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記1つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、
を実行させ、
前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の1つの分岐にマッピングする
ことを特徴とする請求項に記載のシステム。
【請求項13】
プロセッサの作動方法であって、
前記プロセッサが、器具の長手方向の軸周りにおける前記器具の回転の推定を含む前記器具の位置状態の推定を受信することと、
前記プロセッサが、前記位置状態の推定と管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、
前記プロセッサが、前記器具上に位置する画像処理装置から現在の分岐の画像を受信することと、
前記プロセッサが、前記画像を解析して、後続の分岐と前記現在の分岐とを接続する複数の開口を検出することと、
前記プロセッサが、2つの開口の重心を結ぶ第1のベクトルを含む、前記検出された複数の開口の1つまたは複数の特徴を特定することと、
前記プロセッサが、前記予想される後続の一連の分岐を結ぶ第2のベクトルを含む、前記予想される後続の一連の分岐の1つまたは複数の特徴を特定することと、
前記プロセッサが、前記器具の前記回転の推定に基づいて前記第2のベクトルを修正することと、
前記プロセッサが、前記第1のベクトルと前記修正された前記第2のベクトルとの内積の値を計算することによって、前記プロセッサが、前記検出された複数の開口の前記1つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記1つまたは複数の特徴とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、
前記プロセッサが、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
前記プロセッサが、前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定し、それにより、前記プロセッサが、前記器具が前記いずれの開口に移動するかについての確率を提供することと、
を含むことを特徴とするプロセッサの作動方法。
【請求項14】
前記更新された位置状態の推定は、前記位置状態の推定が正しい確率を含むことを特徴とする請求項13に記載のプロセッサの作動方法。
【請求項15】
前記位置状態の推定が正しい確率は、前記検出された複数の開口の前記1つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記1つまたは複数の特徴との比較に部分的に基づいて特定されることを特徴とする請求項14に記載のプロセッサの作動方法。
【請求項16】
前記位置状態の推定が正しい確率は、前記検出された複数の開口の前記1つまたは複数の特徴が前記修正された前記予想される後続の一連の分岐の前記1つまたは複数の特徴と一致する度合いに部分的に基づいて特定されることを特徴とする請求項15に記載のプロセッサの作動方法。
【請求項17】
前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、
前記プロセッサの作動方法はさらに、
前記プロセッサが、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、前記回転の推定が正しい確率を特定する、
ことを含むことを特徴とする請求項13に記載のプロセッサの作動方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、医療器具のナビゲーションのシステムおよび方法に関し、より具体的には、画像ベースの分岐検出およびナビゲーションにおけるロボット制御される医療器具のマッピングに関する。
【背景技術】
【0002】
内視鏡検査(例えば、気管支鏡検査)などの医療手技には、診断目的または治療目的で患者の管腔(例えば、気道)内にアクセスおよび視覚化することが含まれる。特定の手技では、内視鏡などの軟性の管状の道具や器具が患者の体内に挿入される。場合によっては、診断および/または治療目的で識別された組織部位に対して、第2の器具が内視鏡に通されることもある。
【0003】
気管支鏡検査は、医師が気管支や細気管支などの患者の肺気道の内部状態を検査できる医療手技である。医療手技中に、気管支鏡として知られる薄くて柔軟な管状ツールを患者の口に挿入し、患者の喉から肺気道を経由して、後続の診断と治療のために識別された対象組織部位に向けて通してもよい。気管支鏡は、対象組織部位への経路を提供する内部管腔(「ワーキングチャネル」)を有し、カテーテルおよび種々の医療器具を、ワーキングチャネルを通して組織部位に挿入することができる。
【0004】
特定の医療手技では、手術具の挿入および/または操作を制御するために手術ロボットシステムが使用される。手術ロボットシステムは、少なくとも1つのロボットアームや、手技中に手術具の位置決め制御に使用するマニピュレータアセンブリなどのその他の器具位置決め装置を有する。
【発明の概要】
【0005】
ロボット対応医療システムは、腹腔鏡手技などの低侵襲手技や内視鏡手技などの非侵襲手技を含む種々の医療手技を行うために使用することができる。内視鏡手技においては、気管支鏡検査、尿管鏡検査、消化器検査などを実行するためにロボット対応医療システムを使用することができる。これらの手技においては、施術者および/またはコンピュータシステムによって、患者の管腔ネットワークを通って医療器具をナビゲートすることができる。管腔ネットワークには、複数の分岐を有する管腔(気管支ネットワークや腎臓部のネットワークなど)や1本の管腔(胃腸管など)が含まれる。ロボット対応医療システムは、管腔ネットワークを通って医療器具をガイドする(あるいはガイドを支援する)ナビゲーションシステムを有してもよい。
【0006】
本件開示の実施形態は、画像ベースの分岐検出およびマッピングのシステムおよび方法に関する。画像ベースの分岐検出およびマッピングは、管腔ネットワークにおけるナビゲーションを支援することができる。画像ベースの分岐検出は、画像処理装置によって取得された器具の画像内における、管腔ネットワークの1つ以上の分岐に関連する1つ以上の開口を識別することを含む。画像ベースの分岐マッピングは、検出された1つ以上の開口を、管腔ネットワークの対応する分岐にマッピングすることを含む。これらのシステムおよび方法を使用することで、管腔ネットワーク内の器具の位置を特定または推定することができる。本件開示のシステム、方法および装置には、それぞれいくつかの革新的な側面があり、いずれも本明細書に開示する所望の特徴を単独で担うものではない。
【0007】
したがって、第1の側面は、命令が記憶された非一時的なコンピュータ可読記憶媒体であって、前記命令が実行されると、装置のプロセッサに少なくとも、管腔ネットワークの
現在の分岐内に位置する器具の位置状態の推定を特定することと、前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、前記画像内において、前記管腔ネットワークの後続の分岐と現在の分岐とを接続する複数の開口を検出することと、前記検出された複数の開口の1つまたは複数の特徴と前記予想される後続の一連の分岐とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、を実行させる非一時的なコンピュータ可読記憶媒体に関する。
【0008】
また、第1の側面では、以下の1つまたは複数の特徴を任意に組み合わせてもよい。(a)前記更新された位置状態の推定は、前記位置状態の推定が正しい確率を含む。(b)前記確率は、前記検出された複数の開口の前記1つまたは複数の特徴と前記予想される後続の一連の分岐との比較に少なくとも部分的に基づいて特定される。(c)前記確率は、前記検出された複数の開口の前記1つまたは複数の特徴が前記予想される後続の一連の分岐と一致する度合いに部分的に基づいて特定される。(d)前記更新された位置状態の推定は、前記器具の移動先である後続の分岐の推定を含む。(e)前記命令が実行されると、前記装置の前記プロセッサに、前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定すること、を実行させる。(f)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(g)前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、前記確率は、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって特定される。(h)前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記命令が実行されると、前記装置の前記プロセッサに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を実行させる。(i)前記命令が実行されると、前記装置の前記プロセッサに、前記検出された開口の前記1つまたは複数の特徴を特定すること、を実行させる。(j)前記1つまたは複数の特徴は、開口の重心、開口の輪郭、2つの開口の重心を結ぶベクトルからなる群から選択される。(k)前記命令が実行されると、前記装置の前記プロセッサに、前記術前モデルから前記予想される後続の一連の分岐に関する情報を取得することであって、前記情報は、開口の重心と開口の輪郭と2つの開口の重心を結ぶベクトルとのうち少なくとも1つを含む、こと、を実行させる。(l)前記命令が実行されると、前記装置の前記プロセッサに、前記検出された開口のそれぞれに対して、前記検出された開口の1つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記1つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、を実行させ、前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の1つの分岐にマッピングする。(m)前記命令が実行されると、前記装置の前記プロセッサに、前記画像の画素強度値のヒストグラムを生成することと、前記ヒストグラムを解析して画像内の前記複数の開口を識別することと、によって、前記画像内の前記複数の開口を検出すること、を実行させる。(n)前記ヒストグラムを解析することは、前記ヒストグラム内の少なくとも2つのピークを識別することと、前記少なくとも2つのピークの間の中間点を識別することと、前記中間点の第1の側にある画素を開口として分類することと、を含む。
【0009】
第2の側面は、患者の管腔ネットワークにおけるナビゲーションを行うロボットシステムであって、器具であって、前記管腔ネットワークに挿入される長尺の本体と、前記長尺の本体の遠位部分に位置する画像処理装置と、を有する器具と、前記器具に取り付けられ
る器具位置決め装置であって、前記器具位置決め装置は、前記器具を前記管腔ネットワークを通って移動させる、器具位置決め装置と、実行可能な命令を記憶する少なくとも1つのコンピュータ可読メモリと、前記少なくとも1つのコンピュータ可読メモリと通信する1つまたは複数のプロセッサであって、前記命令を実行して、前記システムに少なくとも、管腔ネットワークの現在の分岐内に位置する器具の位置状態の推定を特定することと、前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、前記画像内において、前記管腔ネットワークの後続の分岐と現在の分岐とを接続する複数の開口を検出することと、前記検出された複数の開口の1つまたは複数の特徴と前記予想される後続の一連の分岐とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
を実行させる1つまたは複数のプロセッサと、を有することを特徴とするシステムに関する。
【0010】
また、第2の側面では、以下の1つまたは複数の特徴を任意に組み合わせてもよい。(a)前記器具は内視鏡を含む。(b)前記器具位置決め装置はロボットアームを含む。(c)前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークを含む。(d)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(e)前記確率は、前記検出された複数の開口の前記1つまたは複数の特徴と前記予想される後続の一連の分岐との比較に部分的に基づいて特定される。(f)前記確率は、前記検出された複数の開口の前記1つまたは複数の特徴が前記予想される後続の一連の分岐と一致する度合いに部分的に基づいて特定される。(g)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(h)前記命令が実行されると、前記1つまたは複数のプロセッサに、前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定すること、を実行させる。(i)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(j)前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記命令が実行されると、前記1つまたは複数のプロセッサに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を実行させる。(k)前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記命令が実行されると、前記1つまたは複数のプロセッサに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を実行させる。(l)前記命令が実行されると、前記1つまたは複数のプロセッサに、前記検出された開口の前記1つまたは複数の特徴を特定すること、を実行させる。(m)前記1つまたは複数の特徴は、開口の重心、開口の輪郭、2つの開口の重心を結ぶベクトルからなる群から選択される。(n)前記命令が実行されると、前記1つまたは複数のプロセッサに、前記術前モデルから前記予想される後続の一連の分岐に関する情報を取得することであって、前記情報は、開口の重心と開口の輪郭と2つの開口の重心を結ぶベクトルとのうち少なくとも1つを含む、こと、を実行させる。(o)前記命令が実行されると、前記1つまたは複数のプロセッサに、前記検出された開口のそれぞれに対して、前記検出された開口の1つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記1つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、を実行させ、前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の1つの分岐にマッピングする。(p)前記命令が実行されると、前記1つまたは複数のプロセッ
サに、前記画像の画素強度値のヒストグラムを生成することと、前記ヒストグラムを解析して画像内の前記複数の開口を識別することと、によって、前記画像内の前記複数の開口を検出すること、を実行させる。(q)前記ヒストグラムを解析することは、前記ヒストグラム内の少なくとも2つのピークを識別することと、前記少なくとも2つのピークの間の中間点を識別することと、前記中間点の第1の側にある画素を開口として分類することと、を含む。
【0011】
第3の側面は、管腔ネットワークにおけるナビゲーションを実行する方法であって、前記管腔ネットワークの現在の分岐に器具を挿入することと、前記器具の位置状態の推定を受信することと、前記初期状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、前記画像を解析して、後続の分岐と前記現在の分岐とを接続する複数の開口を検出することと、前記検出された複数の開口の特徴と前記予想される後続の一連の分岐とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、を含むことを特徴とする方法に関する。
【0012】
また、第3の側面では、以下の1つまたは複数の特徴を任意に組み合わせてもよい。(a)前記器具は内視鏡を含む。(b)前記器具位置決め装置はロボットアームを含む。(c)前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークを含む。(d)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(e)前記確率は、前記検出された複数の開口の前記1つまたは複数の特徴と前記予想される後続の一連の分岐との比較に部分的に基づいて特定される。(f)前記確率は、前記検出された複数の開口の前記1つまたは複数の特徴が前記予想される後続の一連の分岐と一致する度合いに部分的に基づいて特定される。(g)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(h)前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定すること、をさらに含む。(i)前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。(j)前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、前記方法はさらに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、前記確率を特定する、ことを含む。(k)前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記方法はさらに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を含む。(l)前記検出された開口の前記1つまたは複数の特徴を特定すること、を含む。(m)前記1つまたは複数の特徴は、開口の重心、開口の輪郭、2つの開口の重心を結ぶベクトルからなる群から選択される。(n)前記術前モデルから前記予想される後続の一連の分岐に関する情報を取得することであって、前記情報は、開口の重心と開口の輪郭と2つの開口の重心を結ぶベクトルとのうち少なくとも1つを含む、こと、を含む。(o)前記検出された複数の開口の前記1つまたは複数の特徴を、前記予想される後続の一連の分岐と比較することは、前記検出された開口のそれぞれに対して、前記検出された開口の1つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うこと、を含み、前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の1つの分岐にマッピングする。(p)前記画像内の前記複数の開口を検出することは、前記画像の画素強度値のヒストグラムを生成することと、前記ヒストグラムを解析して画像内の前記複数の開口を識別することと、を含む。(q)前記ヒス
トグラムを解析することは、前記ヒストグラム内の少なくとも2つのピークを識別することと、前記少なくとも2つのピークの間の中間点を識別することと、前記中間点の第1の側にある画素を開口として分類することと、を含む。
【0013】
第4の側面は、管腔ネットワークの分岐の開口を識別する方法であって、前記分岐内に位置する画像処理装置を用いて前記管腔ネットワークの前記分岐の内部の画像を取得することと、前記画像の画素強度値のヒストグラムを生成することと、前記画像において閾値未満の画素を開口を示すものとして識別することと、を含むことを特徴とする方法に関する。
【0014】
また、第4の側面では、以下の1つまたは複数の特徴を任意に組み合わせてもよい。(a)前記ヒストグラムに基づいて前記閾値を特定する。(b)前記閾値を特定することは、前記ヒストグラム内の少なくとも2つのピークを識別することと、前記少なくとも2つのピークの間の中間点を識別することと、前記閾値を前記中間点の前記強度値に等しい値に設定することと、を含む。(c)前記画像において前記識別された開口のそれぞれに対して、前記開口の重心を特定する。(d)前記画像において前記識別された開口のそれぞれに対して、前記開口の輪郭を特定する。(e)前記画像内の前記識別された開口の数と不良フレーム検出器の閾値とを比較することと、前記識別された開口の数が前記不良フレーム検出器の閾値を超えたことに応じて、前記分岐の前記内部の第2の画像を取得し、前記第2の画像を解析して、前記第2の画像内で開口を特定する、ことと、をさらに含む。(f)前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークである。
【図面の簡単な説明】
【0015】
本件開示の側面について、添付の図面および表と共に以下に説明するが、例示であって開示の側面を限定するものではなく、同様の構成要素には同様の名称を付す。
【0016】
図1】気管支鏡検査手技の診断および/または治療用に構成されたカートベースのロボットシステムの一実施形態を示す図である。
図2図1のロボットシステムの別の側面を示す図である。
図3】尿管鏡検査用に構成された図1のロボットシステムの一実施形態を示す図である。
図4】血管手技用に構成された図1のロボットシステムの一実施形態を示す図である。
図5】気管支鏡検査手技用に構成されたテーブルベースのロボットシステムの一実施形態を示す図である。
図6図5のロボットシステムの代替の図である。
図7】ロボットアームを収容するように構成されたシステムの一例を示す図である。
図8】尿管鏡検査用に構成されたテーブルベースのロボットシステムの一実施形態を示す図である。
図9】腹腔鏡検査用に構成されたテーブルベースのロボットシステムの一実施形態を示す図である。
図10】ピッチ調整または傾き調整された図5~9のテーブルベースのロボットシステムの一実施形態を示す図である。
図11図5~10のテーブルベースのロボットシステムのテーブルとカラムとの間のインタフェースの詳細図である。
図12】例示的な器具駆動部を示す図である。
図13】組になった器具駆動部を有する例示的な医療器具を示す図である。
図14】駆動ユニットの軸が器具の細長いシャフトの軸と平行である、器具駆動部および器具の代替の設計を示す図である。
図15】実施形態の一例における、図13や14の器具の位置など、図1~10のロボットシステム1つまたは複数の要素の位置を推定する位置決めシステムを示すブロック図である。
図16】管腔ネットワークのナビゲーションを行う器具の一例を示す図である。
図17】ロボット制御手術システムのコマンドコンソールの一例を示す図である。
図18】一実施形態の医療器具の遠位端を示す図である。
図19】画像ベースの分岐検出およびマッピングの方法の一例を示すフローチャートである。
図20】管腔ネットワークの分岐の内部の画像の一例を示す図である。
図21】画像ベースの分岐検出の方法の一例を示すフローチャートである。
図22】画素強度値のヒストグラムの一例を示す図である。
図23A】画像ベースの分岐検出を示す画像の一例を示す図である。
図23B】画像ベースの分岐検出を示す画像の一例を示す図である。
図24】画像ベースの分岐検出の方法の一例を示すフローチャートである。
図25】管腔ネットワークの簡易表示を示す図である。
図26】画像ベースの分岐マッピングの方法の一例を示すフローチャートである。
図27A】画像ベースの分岐マッピングの方法におけるステップの一例を示す図である。
図27B】画像ベースの分岐マッピングの方法におけるステップの一例を示す図である。
図27C】画像ベースの分岐マッピングの方法におけるステップの一例を示す図である。
図28】画像ベースの分岐予測の画像の一例を示す図である。
図29】画像ベースの分岐検出およびマッピングの方法の一例を示すフローチャートである。
【発明を実施するための形態】
【0017】
(1.はじめに)
本件開示の側面は、腹腔鏡検査などの低侵襲の手技や内視鏡検査などの非侵襲の手技を含む種々の医療手技を実行可能なロボット対応医療システムに組み込むことができる。内視鏡検査の手技においては、本システムは、気管支鏡検査、尿管鏡検査、消化器病検査などを実行することができる。
【0018】
本システムは、さまざまな手技を実行できることに加えて、術者を支援する強化された画像取得や誘導など、追加の利点を提供することができる。また、本システムは、扱いにくいアームの動きや位置などに対応する必要なく、人工工学による位置から手技を行うことが可能な機能を術者に提供することができる。さらに、本システムは、システムの1つまたは複数の器具を1人のユーザで制御可能な使いやすさが向上した手技を行うことが可能な機能を術者に提供することができる。
【0019】
以下に、例示目的の図面とともに種々の実施形態について説明する。開示の技術的思想のその他多数の実装が可能であり、さまざまな利点が開示の実装と共に得られる。また、ここには、参照用および多数の節の位置がわかるように見出しが含まれている。これらの見出しは、見出しが示す技術思想の範囲を制限するものではない。それぞれの技術思想は本明細書全体にわたって適用されてよい。
【0020】
(A.ロボットシステム-カート)
ロボット対応医療システムは、特定手技に応じてさまざまに構成することができる。図1は、気管支鏡検査の診断手技および/または治療樹技用に配置されたカートベースのロ
ボット対応システム10の一実施形態を示す。気管支検査時に、システム10は、気管支鏡検査用の手技に特化した気管支鏡を自然開口のアクセスポイント(この例ではテーブルに配置された患者の口など)に操作可能な内視鏡13などの医療器具を搬送して診断用の道具および/または治療用の道具を搬送するための、1つまたは複数のロボットアーム12を有するカート11を備える。図に示すように、カート11は、当該アクセスポイントにアクセスするために、患者の上半身に近い位置に配置されている。同様に、ロボットアーム12は、当該アクセスポイントに対して気管支鏡を配置するように作動可能である。図1に示す配置は、胃腸に関する(GI;gastro-intestinal)手技用の特別な内視鏡で
ある胃鏡を用いた胃腸に関する手技を行うときにも使用できる。図2は、カートの一例である実施形態をより詳細に示す。
【0021】
引き続き図1を参照すると、カート11が適切に位置決めされると、ロボットアーム12は操縦可能な内視鏡13を患者に、ロボットにより、手動により、またはそれらの組み合わせにより挿入することができる。図示のように、操縦可能な内視鏡13は内側リーダ部分および外部シース部分などの少なくとも2つの入れ子式部分を備えることができ、各部分は器具ドライバ28のセットから別個の器具ドライバに結合され、各器具ドライバは個々のロボットアームの遠位端に結合される。リーダ部分をシース部分と同軸に位置合わせすることを容易にする、器具ドライバ28のこの線形配置は、1つ以上のロボットアーム12を異なる角度および/または位置に操作することによって、空間内で再配置され得る「仮想レール」29を作成する。本明細書で説明する仮想レールは破線を使用して図示され、したがって、破線はシステムのいかなる物理的構造も示さない。仮想レール29に沿った器具ドライバ28の移動は外部シース部分に対して内側リーダ部分を入れ子式にし、または内視鏡13を患者から前進または後退させる。仮想レール29の角度は、臨床用途または医師の好みに基づいて、調整、移動、および旋回されてもよい。例えば、気管支鏡検査では、図示のような仮想レール29の角度および位置が内視鏡13を患者の口内に曲げることに起因する摩擦を最小限に抑えながら、内視鏡13への医師のアクセスを提供することの折衷案を表す。
【0022】
内視鏡13は、挿入後、ロボットシステムからの正確なコマンドを使用して、目標位置または手術部位に到達するまで、患者の気管および肺に向けられ得る。患者の肺ネットワークを通るナビゲーションを強化し、かつ/または所望の標的に到達するために、内視鏡13を操作して、外部シース部分から内側リーダ部分を入れ子式に延ばして、関節動作を強化し、曲げ半径を大きくすることができる。別個の器具ドライバ28の使用はまた、リーダ部分およびシース部分が、互いに独立して駆動されることを可能にする。
【0023】
例えば、内視鏡13は例えば、患者の肺内の病変または結節などの標的に生検針を送達するように指示されてもよい。針は病理学者によって解析されるべき組織サンプルを得るために、内視鏡の長さにわたるワーキングチャネルに沿って展開され得る。病理学的結果に応じて、追加のツールが追加の生検のために、内視鏡のワーキングチャネルの下方に配置されてもよい。悪性である結節を同定した後、内視鏡13は、潜在的に癌性の組織を切除するためのツールを内視鏡的に送達し得る。いくつかの例において、診断および治療手技は、別々の手続で送達される必要があり得る。これらの状況では、内視鏡13はまた、基準を送達して、対象結節の位置を「マーキング」するために使用され得る。他の例において、診断および治療手技は、同じ手順の間に送達され得る。
【0024】
システム10はまた、可動タワー30を含むことができ、このタワー30は、支持ケーブルを介してカート11に接続されて、カート11に対する制御、電子機器、流体工学、光学系、センサ、および/または電力のためのサポートを提供することができる。このような機能をタワー30内に配置することにより、より小さなフォームファクタのカート11が可能になり、これは、手術医師およびそのスタッフによって、より容易に調整および
/または再配置され得る。さらに、カート/テーブルと支持タワー30との間の機能の分割は手術室の混乱を低減し、臨床作業の流れを改善することを容易にする。カート11を患者の近くに配置することができるが、タワー30は手技中に邪魔にならないように離れた場所に収容することができる。
【0025】
上述のロボットシステムのサポートにおいて、タワー30はコンピュータプログラム命令を、例えば、永続的磁気記憶ドライブ、ソリッドステートドライブなどの非一時的コンピュータ可読記憶媒体内に記憶するコンピュータベースの制御システムの構成要素を含むことができる。これらの命令の実行は、実行がタワー30またはカート11内で行われるかどうかにかかわらず、システム全体またはそのサブシステムを制御することができる。例えば、コンピュータシステムのプロセッサによって実行される場合、命令はロボットシステムの構成要素に、関連するキャリッジおよびアームマウントを作動させ、ロボットアームを作動させ、医療器具を制御させることができる。例えば、制御信号の受信に応じて、ロボットアームのジョイント内のモータは、アームを特定の姿勢に位置決めすることができる。
【0026】
タワー30はまた、内視鏡13を通して展開され得るシステムに制御された潅注および吸引能力を提供するために、ポンプ、流量計、弁制御、および/または流体アクセスを含む。これらの構成要素は、タワー30のコンピュータシステムを使用して制御することもできる。いくつかの実施形態では、洗浄および吸引能力が別個のケーブルを介して内視鏡13に直接送達されてもよい。
【0027】
タワー30はカート11にフィルタされ保護された電力を供給するように設計された電圧およびサージプロテクタを含むことができ、それによって、カート11内に電力変圧器および他の補助電力部品を配置することが回避され、その結果、より小さく、より可動性の高いカート11が得られる。
【0028】
タワー30はまた、ロボットシステム10全体に展開されるセンサのための支持装置を含むことができる。例えば、タワー30はロボットシステム10全体にわたって光学センサまたはカメラから受信したデータを検出し、受信し、処理するための光電子機器を含むことができる。制御システムと組み合わせて、このような光電子機器を使用して、タワー30を含むシステム全体に配置された任意の数のコンソールに表示するためのリアルタイム画像を生成することができる。同様に、タワー30は配置された電磁(EM;Electromagnetic)センサから受信された信号を受信し、処理するための電子サブシステムも含む
ことができる。タワー30はまた、医療器具内または医療器具上の電磁センサによる検出のために電磁場発生器を収容し、位置決めするために使用されてもよい。
【0029】
タワー30は、システムの残りの部分で利用可能な他のコンソール、例えばカートの頂部に取り付けられたコンソールに加えて、コンソール31を含むこともできる。コンソール31は、ユーザインタフェースと、医師の操作者のためのタッチスクリーンなどの表示画面とを含むことができる。システム10内のコンソールは一般に、ロボット制御と、内視鏡13のナビゲーションおよび位置決め情報などの手術前およびリアルタイム情報との両方を提供するように設計される。コンソール31が医師が利用できる唯一のコンソールではない場合、看護師のような第二の操作者によって、患者の健康状態や活動状態とシステムの動作を監視し、ナビゲーションおよび位置決め情報などの手続固有のデータを提供するために使用することができる。他の実施形態では、コンソール30は、タワー30とは別の筐体内に格納されている。
【0030】
タワー30は、1つまたは複数のケーブルまたは接続部(図示せず)を介してカート11および内視鏡13に結合することができる。いくつかの実施形態では、タワー30から
のサポート機能が単一のケーブルを介してカート11に提供されてもよく、手術室を単純化し、混乱を解消する。他の実施形態では、特定の機能が別個のケーブル配線および接続で結合されてもよい。例えば、単一の電力ケーブルを介してカートに電力を供給することができるが、制御、光学、流体、および/またはナビゲーションのための支持体は別個のケーブルを介して提供することができる。
【0031】
図2は、図1に示されたカートベースのロボット使用可能システムからのカートの実施形態の詳細図を提供する。カート11は全体として、細長い支持構造14(しばしば「カラム」と呼ばれる)、カート基部15、およびカラム14の上端部にコンソール16を含む。カラム14は、1つまたは複数のロボットアーム12(図2には3つが示されている)の展開を支持するためのキャリッジ17(あるいは「アーム支持体」)などの1つまたは複数のキャリッジを含むことができる。キャリッジ17は、患者に対してより良好に位置決めするためにロボットアーム12の基部を調整するために垂直軸に沿って回転する個別に構成可能なアームマウントを含むことができる。キャリッジ17はまた、キャリッジ17がカラム14に沿って垂直に移動することを可能にするキャリッジインタフェース19を含む。
【0032】
キャリッジインタフェース19は、キャリッジ17の垂直方向の移動を案内するためにカラム14の両側に配置されたスロット20のようなスロットを介してカラム14に接続されている。スロット20はキャリッジをカート基部15に対して種々の垂直高さに位置決めし、保持するための垂直移動インタフェースを含む。キャリッジ17の垂直移動は、カート11が様々なテーブル高さ、患者サイズ、および医師の好みに合うようにロボットアーム12の到達範囲を調整することを可能にする。同様に、キャリッジ17上の個々に構成可能なアームマウントは、ロボットアーム12のロボットアームベース21が様々な構成で角度付けされることを可能にする。
【0033】
いくつかの実施形態では、スロット20がキャリッジ17が垂直に移動するときに、カラム14の内部チャンバおよび垂直移動インタフェース内への汚れおよび流体の進入を防止するために、スロット表面と面一であり、かつ平行であるスロットカバーで補足されてもよい。スロットカバーは、スロット20の縦上端部および底部の近くに配置されたバネスプールの対を通して展開されてもよい。カバーはキャリッジ17が垂直に上下に平行移動するときに、展開されてそれらのコイル状態から伸縮するまで、スプール内でコイル状に巻かれる。スプールのばね荷重はキャリッジ17がスプールに向かって移動するときにカバーをスプール内に引っ込める力を提供し、一方、キャリッジ17がスプールから離れるように移動するときにも緊密な捺印を維持する。カバーは例えば、キャリッジ17が移動するときにカバーの適切な伸縮を確実にするために、キャリッジインタフェース19内のブラケットを使用して、キャリッジ17に接続されてもよい。
【0034】
カラム14はユーザ入力、例えばコンソール16からの入力に応答して生成される制御信号に応答して機械的な方法でキャリッジ17を移動させるために、垂直に位置合わせされた親ねじを使用するように設計された、歯車およびモータなどの機構を内部に備えることができる。
【0035】
ロボットアーム12は一般に、一連のジョイント24によって接続された一連のリンク機構23によって分離されたロボットアーム基部21およびエンドエフェクタ22を備えることができ、各ジョイントは独立したアクチュエータを備え、各アクチュエータは独立して制御可能なモータを備える。各独立して制御可能なジョイントは、ロボットアームに利用可能な独立した自由度を表す。アーム12のそれぞれは7つのジョイントを有し、したがって、7つの自由度を提供する。多数のジョイントは多数の自由度をもたらし、「冗長である」自由度を可能にする。冗長な自由度は、ロボットアーム12が異なる結合位置
および関節角を使用して、空間内の特定の位置、向き、および軌道にそれぞれのエンドエフェクタ22を位置決めすることを可能にする。これにより、システムは医師が腕の関節を患者から離れた臨床的に有利な位置に移動させて、腕の衝突を回避して、より広いアクセス範囲を実現しながら、空間内の所望の位置から医療器具を位置決めしたり方向付けたりすることが可能になる。
【0036】
カート基部15は、床上のカラム14、キャリッジ17、およびアーム12の重量を釣り合わせる。したがって、カート基部15は、電子機器、モータ、電源などのより重い構成要素、ならびにカートの移動および/または固定のいずれかを可能にする構成要素を収容する。例えば、カート基部15は、手技の前にカートが部屋の周りを容易に移動することを可能にする、回転可能なホイール形状のキャスタ25を含む。適切な位置に到達した後、キャスタ25は、手続中にカート11を所定の位置に保持するためにホイールロックを使用して固定されてもよい。
【0037】
コンソール16はカラム14の垂直端部に配置されているので、ユーザ入力を受け取るためのユーザインタフェースと、医師ユーザに手術前および手術中の両方のデータを提供するための表示画面(または、例えば、タッチスクリーン26などの二目的用装置)との両方を可能にする。タッチスクリーン26上の潜在的な術前データは、術前計画、術前コンピュータ断層撮影(CT)スキャンから導出されたナビゲーションおよびマッピングデータ、および/または術前患者インタビューからの注を含むことができる。ディスプレイ上の手術中データは、器具から提供される光学情報、センサおよびセンサからの座標情報、ならびに呼吸、心拍数、および/または脈拍などの患者の活動統計を含むことができる。コンソール16は医師がキャリッジ17の反対側のカラム14の側からコンソールにアクセスすることができるように、配置され、傾斜されてもよい。この位置から、医師はカート11の背後からコンソール16を操作しながら、コンソール16、ロボットアーム12、および患者を見ることができる。図示のように、コンソール16はまた、カート11の操縦および安定化を補助するためのハンドル27を含む。
【0038】
図3は、尿管鏡検査のために配置されたロボット使用可能システム10の実施形態を示す。尿管鏡手技では、カート11が患者の尿道および尿管を横切るように設計された手技特有の内視鏡である尿管鏡32を患者の下腹部領域に送達するように配置されてもよい。尿管鏡検査では、尿管鏡32を患者の尿道と直接位置合わせして、領域内の繊細な解剖学的構造に対する摩擦および力を低減することが望ましい場合がある。図に示されるように、カート11はロボットアーム12が患者の尿道への直接的な線形アクセスのために尿管鏡32を位置決めすることを可能にするために、テーブルの足に位置合わせすることができる。テーブルの足から、ロボットアーム12は、尿管鏡32を仮想レール33に沿って尿道を通して患者の下腹部に直接挿入することができる。
【0039】
尿道への挿入後、気管支鏡検査におけるのと同様の制御手法を使用して、尿管鏡32は診断および/または治療用途のために、膀胱、尿管、および/または腎臓内にナビゲートされ得る。例えば、尿管鏡32は、尿管鏡32のワーキングチャネルの下に配置されたレーザまたは超音波砕石装置を用いて、尿管および腎臓に向けられて、腎結石の蓄積を破壊することができる。砕石術が完了した後、得られた結石断片は、尿管鏡32の下方に配置されたバスケットを用いて除去され得る。
【0040】
図4は、血管手技のために同様に配置されたロボット使用可能システムの実施形態を示す。血管手技では、システム10がカート11が操縦可能なカテーテルなどの医療器具34を患者の脚の大腿動脈内のアクセスポイントに送ることができるように構成することができる。大腿動脈はナビゲーションのためのより大きな直径と、患者の心臓への比較的遠回りで曲がりくねった経路との両方の特徴があり、このためナビゲーションを単純化でき
る。尿管鏡手技におけるように、カート11は、ロボットアーム12が患者の大腿/股関節領域における大腿動脈アクセスポイントへの直接的な線形アクセスを有する仮想レール35を提供することを可能にするように、患者の脚および下腹部に向かって配置され得る。動脈内への挿入後、医療器具34は、器具ドライバ28を移動させることによって方向付けられ、挿入されてもよい。あるいは、カートが例えば、肩および手首の近くの頸動脈および上腕動脈などの代替の血管アクセスポイントに到達するために、患者の上腹部の周りに配置されてもよい。
【0041】
(B.ロボットシステム-テーブル)
ロボット対応医療システムの実施形態はまた、患者のテーブルを組み込んでもよい。テーブルを組み込むことにより、カートを取り外すことによって手術室内の資本設備の量が減少し、患者へのアクセスがより大きくなる。図5は、気管支鏡検査手順のために配置されたそのようなロボット使用可能システムの実施形態を示す。システム36は、床の上にプラットフォーム38(「テーブル」または「ベッド」として示される)を支持するための支持構造または支柱37を含む。カートベースのシステムと同様に、システム36のロボットアーム39のエンドエフェクタは、図5の気管支鏡40などの細長い医療器具を、器具ドライバ42の直線的な位置合わせから形成された仮想レール41を通して、またはそれに沿って操作するように設計された器具ドライバ42を備える。実際には、X線透視画像を提供するためのCアームがテーブル38の周りにエミッタおよび検出器を配置することによって、患者の上腹部領域の上に配置され得る。
【0042】
図6は、説明のため患者および医療器具を除いたシステム36の代替図を示す。図示されているように、カラム37はシステム36内にリング形状として示されている1つ以上のキャリッジ43を含むことができ、このキャリッジを基に1つ以上のロボットアーム39を構成することができる。キャリッジ43はロボットアーム39が患者に到達するように配置され得る異なる視点を提供するために、カラム37の長さに沿って延びる垂直カラムインタフェース44に沿って移動してもよい。キャリッジ43は、カラム37内に配置された機械的モータを使用してカラム37の周りを回転して、ロボットアーム39がテーブル38の複数の側、例えば患者の両側にアクセスできるようにすることができる。複数のキャリッジを有する実施形態では、キャリッジがカラム上に個別に配置されてもよく、他のキャリッジとは独立して移動および/または回転してもよい。キャリッジ43はカラム37を取り囲む必要はなく、または円形である必要もないが、図示されるようなリング形状は構造的バランスを維持しながら、カラム37の周りのキャリッジ43の回転を容易にする。キャリッジ43の回転および移動により、システムは、内視鏡および腹腔鏡のような医療器具を患者の異なるアクセスポイントに位置合わせすることができる。他の実施形態(図示せず)では、システム36は、調節可能なアーム支持部を有する患者テーブルまたはベッドを備えてもよく、アーム支持部はテーブルまたはベッドに沿って延伸するバーやレールの形態として設けることができる。1つまたは複数のロボットアーム39(肘関節を有する肩部を介するなどによる)は、上記の調節可能なアーム支持部を垂直方向に調整して取り付けることができる。垂直方向の調整ができることで、ロボットアーム39は、患者テーブルまたは別途の下にコンパクトに収容でき、後で手技時に引き上げることができる。
【0043】
アーム39は、ロボットアーム39に追加の構成要素を提供するために個別に回転および/または入れ子式に延在することができる一連のジョイントを備える一組のアームマウント45を介してキャリッジに取り付けることができる。さらに、アームマウント45は、キャリッジ43が適切に回転されたときに、アームマウント45がテーブル38の同じ側(図6に示す)、テーブル38の反対側(図9に示す)、またはテーブル38の隣接する側(図示せず)のいずれかに配置されるように、キャリッジ43上に配置されてもよい。
【0044】
カラム37は構造的に、テーブル38を支持し、キャリッジを垂直方向に移動させるための経路を提供する。内部においては、カラム37がキャリッジの垂直移動を案内するためのリードスクリューと、リードスクリューに基づいて前記キャリッジの移動を機械化するためのモータとを備えることができる。カラム37はまた、キャリッジ43およびその上に取り付けられたロボットアーム39に電力および制御信号を伝達することができる。
【0045】
テーブル基部46は図2に示すカート11のカート基部15と同様の機能を果たし、テーブル/ベッド38、カラム37、キャリッジ43、およびロボットアーム39をバランスさせるためのより重い構成要素を収容する。テーブル基部46はまた、手続中の安定性を提供するために、硬性キャスタを組み込んでもよい。キャスタはテーブル基部46の下端から展開されて、基部46の両側で反対方向に延在し、システム36を移動させる必要があるときに後退することができる。
【0046】
引き続き図6を参照すると、システム36は、テーブルとタワーとの間でシステム36の機能を分割してテーブルのフォームファクタおよびバルクを低減するタワー(図示せず)を含むこともできる。上記の実施形態と同様に、タワーは、処理、計算、および制御能力、電力、流体工学、ならびに/または光学およびセンサ処理などの様々なサポート機能をテーブルに提供することができる。タワーはまた、医師のアクセスを改善し、手術室を煩雑にしないようにするために、患者から離れて配置されるように移動可能であってもよい。さらに、タワー内に部品を配置することにより、ロボットアームの潜在的な収納のためのテーブル基部内のより大きい収納スペースが実現する。タワーはまた、キーボードおよび/またはペンダントなどのユーザ入力のためのユーザインタフェースと、リアルタイム画像、ナビゲーション、および追跡情報などの術前および術中情報のための表示画面(またはタッチスクリーン)との両方を提供するコンソールを含むことができる。
【0047】
いくつかの実施形態では、テーブル基部が使用されていないときにロボットアームを収納し、格納することができる。図7は、テーブルベースのシステムの一実施形態においてロボットアームを収容するシステム47を示す。システム47では、キャリッジ48がロボットアーム50、アームマウント51、およびキャリッジ48を基部49内に収容するために、基部49内に垂直に移動させることができる。基地カバー52は、キャリッジ48、アームマウント51、およびアーム50を列53の近辺に展開するために移動されて開閉され、使用されていないときにそれらを保護するために閉じられてもよい。基部カバー52は、その開口の縁部に沿って膜54で封止されて、閉鎖時の汚れおよび流体の進入を防止することができる。
【0048】
図8は、尿管鏡検査手順のために構成されたロボット使用可能なテーブルベースのシステムの実施形態を示す。尿管鏡検査では、テーブル38が患者をカラム37およびテーブル基部46から外れた角度に位置決めするための旋回部分55を含むことができる。旋回部分55は旋回部分55の下端を支柱37から離して位置決めするために、旋回点(例えば、患者の頭部の下に位置する)の周りで回転または旋回してもよい。例えば、旋回部分55の旋回は、Cアーム(図示せず)がテーブル38の下のカラム(図示せず)と空間を競合することなく、患者の下腹部の上に配置されることを可能にする。キャリッジ35(図示せず)を支柱37の周りに回転させることによって、ロボットアーム39は、尿管鏡56を仮想レール57に沿って患者の鼠径部に直接挿入して尿道に到達させることができる。尿管鏡検査では、手技中に患者の脚の位置を支持し、患者の鼠径部への明確なアクセスを可能にするために、スターラップ58をテーブル38の旋回部分55に固定することもできる。
【0049】
腹腔鏡手技では、患者の腹壁の小さな切開を通して、最小侵襲性器具(1つ以上の切開
のサイズに適応するように細長い形状)が患者の解剖学的構造に挿入され得る。患者の腹腔を膨張させた後、しばしば腹腔鏡と呼ばれる器具は把持、切断、切除、縫合などの手術タスクを実行するように指示されてもよく、図9は腹腔鏡手技のために構成されたロボット使用可能なテーブルベースのシステムの実施形態を示す。図9に示されるように、システム36のキャリッジ43はテーブル38の両側にロボットアーム39の対を位置決めするように回転され、垂直に調整され、その結果、腹腔鏡59は患者の腹腔に到達するために患者の両側の最小切開部を通過するようにアームマウント45を使用して位置決めされ得る。
【0050】
腹腔鏡手技に適応するために、ロボット使用可能テーブルシステムは、プラットフォームを所望の角度に傾斜させることもできる。図10は、ピッチまたはチルト調整を有するロボット使用可能医療システムの実施形態を示す。図10に示すように、システム36は、テーブル38の傾斜に適応して、テーブルの一部分を床から他の部分よりも大きな距離に位置決めすることができる。さらに、アームマウント45はアーム39がテーブル38と同じ平面関係を維持するように、傾きに合わせて回転することができる。より急勾配の角度に適応するために、カラム37は、カラム37の垂直延長部がテーブル38が床に触れたり基部46と衝突したりしないようにする入れ子式部分60を含むこともできる。
【0051】
図11は、テーブル38とカラム37との間のインタフェースの詳細を示す。ピッチ回転機構61は、欄37に対するテーブル38のピッチ角を複数の自由度で変更するように構成されてもよい。ピッチ回転機構61はカラム・テーブル・インタフェースにおける直交軸1、2の位置決めによって可能にすることができ、各軸は、電気的なピッチ角コマンドに応答して各軸が別個のモータ3、4によって作動される。一方のねじ5に沿った回転は一方の軸1における傾斜調整を可能にし、他方のねじ6に沿った回転は、他方の軸2に沿った傾斜調整を可能にする。いくつかの実施形態では、ボールジョイントを用いて、複数の自由度でカラム37に対する相対的なテーブル38のピッチ角を変更することができる。
【0052】
例えば、ピッチ調整は下腹部手術のために、テーブルをトレンデレンブルグ位置に位置決めしようとするとき、すなわち、患者の下腹部を患者の下腹部よりも床から高い位置に位置決めしようとするとき、特に有用である。トレンデレンブルグ位置は患者の内部器官を重力によって患者の上腹部に向かってスライドさせ、腹腔鏡前立腺切除術などの下腹部手術手技を開始して実行するための最小侵襲性ツール(minimally invasive tool)のた
めに腹腔の空間を空ける。
【0053】
(C.器具ドライバとインタフェース)
システムのロボットアームのエンドエフェクタは、(1)医療器具を作動させるための電気機械的手段を組み込む器具ドライバ(あるいは「器具駆動機構」または「器具装置マニピュレータ(IDM;instrument device manipulator)」と呼ばれる)と、(2)モ
ータなどの任意の電気機械的構成要素を削除できる取り外し可能または取り外し可能な医療器具とを備える。この二分法は、医療手技に使用される医療器具を滅菌する必要性、およびそれらの複雑な機械的アセンブリおよび繊細な電子機器のために高価な資本設備を適切に滅菌することができないことが起因となりうる。したがって、医療器具は医師または医師のスタッフによる個々の滅菌または廃棄のために、器具ドライバ(したがってシステム)から取り外し、取り外し、および交換されるように設計されてもよい。対照的に、器具ドライバは、交換または滅菌される必要はなく、保護のためにドレープで覆われてもよい。
【0054】
図12は、例示的な器具ドライバを示す。ロボットアームの遠位端に配置された器具ドライバ62は駆動シャフト64を介して医療器具に制御されたトルクを提供するために、
平行軸に配置された1つ以上の駆動ユニット63を備える。各駆動ユニット63は器具と相互作用するための個々の駆動シャフト64と、モータシャフトの回転を所望のトルクに変換するためのギアヘッド65と、駆動トルクを生成するためのモータ66と、モータシャフトの速度を測定し、制御回路にフィードバックを提供するためのエンコーダ67と、制御信号を受信し、駆動ユニットを作動させるための制御回路68とを備える。各駆動ユニット63は独立して制御され、電動化されており、器具ドライバ62は、医療器具に複数(図12に示すように4つ)の独立した駆動出力を提供することができる。動作中、制御回路68は制御信号を受信し、モータ信号をモータ66に送信し、エンコーダ67によって測定された結果のモータ速度を所望の速度と比較し、モータ信号を変調して所望のトルクを生成する。
【0055】
無菌環境を必要とする手技では、ロボットシステムが器具ドライバと医療器具との間に位置する、無菌ドレープに接続された無菌アダプタなどの駆動インタフェースを組み込むことができる。無菌アダプタの主な目的は駆動シャフトと駆動入力との間の物理的分離、したがって無菌性を維持しながら、器具ドライバの駆動シャフトから器具の駆動入力に角運動を伝達することである。したがって、例示的な無菌アダプタは、器具ドライバの駆動シャフトおよび器具上の駆動入力と嵌合されることが意図される一連の回転入力および出力を備えてもよい。滅菌アダプタに接続された滅菌ドレープは透明または半透明プラスチックなどの薄い軟性材料からなり、器具ドライバ、ロボットアーム、およびカート(カートベースのシステム内)またはテーブル(テーブルベースのシステム内)などの資本設備を覆うように設計される。ドレープの使用は滅菌を必要としない領域(すなわち、非滅菌領域)に依然として配置されている間に、患者の近くに資本設備を配置することを可能にする。滅菌ドレープの反対側では、医療器具が滅菌を必要とする領域(すなわち、滅菌野)において患者と接触することができる。
【0056】
(D.医療器具)
図13は、組になった器具ドライバを有する例示的な医療器具を示す。ロボットシステムと共に使用するように設計された他の器具と同様に、医療器具70は、細長いシャフト71(または細長い本体)および器具基部72を備える。医師による手動操作向けの設計として「器具ハンドル」とも呼ばれる器具基部72は、全体として、ロボットアーム76の遠位端で器具ドライバ75上の駆動インタフェースを通って延びる駆動出力74と嵌合するように設計された、回転可能な駆動入力73、例えば、レセプタクル、プーリ、またはスプールを備えてもよい。物理的に接続され、ラッチされ、および/または結合されると、器具基部72の嵌合された駆動入力73は器具ドライバ75内の駆動出力74と回転軸を共有し、駆動出力74から駆動入力73へのトルクの伝達が可能になる。いくつかの実施形態では、駆動出力74が駆動入力73上のレセプタクルと嵌合するように設計されたスプラインを備えてもよい。
【0057】
細長いシャフト71は例えば、内視鏡検査におけるように、解剖学的な開口またはルーメン、または、例えば、腹腔鏡検査におけるように、最小侵襲性切開のいずれかを介して送られるように設計される。細長いシャフト66は軟性(例えば、内視鏡と同様の特性を有する)または硬性(例えば、腹腔鏡と同様の特性を有する)のいずれかであり得るか、または軟性部分および硬性部分の両方のカスタマイズされた組み合わせを含む。腹腔鏡検査用に設計される場合、硬性の細長いシャフトの遠位端は回転軸を有するUリンクと、器具ドライバ75の駆動出力74から受け取ったトルクに応じて駆動入力が回転するときにテンドンからの力に基づいて作動され得る、例えば、1つまたは複数の把持器などの手術用道具とから形成される接合手首を備えるエンドエフェクタに接続されてもよい。内視鏡検査用に設計される場合、可撓性の細長いシャフトの遠位端は、器具ドライバ75の駆動出力74から受け取られるトルクに基づいて関節動作および屈曲され得る、操縦可能または制御可能な屈曲部を含む。
【0058】
器具ドライバ75からのトルクは、シャフト71内のテンドンを使用して細長いシャフト71に伝達される。プルワイヤなどのこれらの個々のテンドンは、器具ハンドル72内の個々の駆動入力73に個々に固定することができる。ハンドル72から、テンドンは、細長いシャフト71内の1つ以上のプルルーメンに向けられ、細長いシャフト71の遠位部分に固定される。腹腔鏡検査では、これらのテンドンが手首、把持器、またはさみなどの遠位に取り付けられたエンドエフェクタに結合されてもよい。このような構成の下では、駆動入力73に及ぼされるトルクがテンドンに表面張力を伝達し、それによってエンドエフェクタを何らかの方法で作動させる。腹腔鏡検査では、テンドンは関節を軸の周りに回転させ、それによってエンドエフェクタを一指示または別の指示に移動させることができる。あるいはテンドンは細長いシャフト71の遠位端において、把持器の1つ以上の顎に接続され得、ここで、テンドンからの張力によって把持器が閉じる。
【0059】
内視鏡検査では、テンドンは接着剤、制御リング、または他の機械的固定を介して、細長いシャフト71に沿って(例えば、遠位端で)配置された屈曲または関節動作部に結合されてもよい。屈曲部の遠位端に固定して取り付けられると、駆動入力73に及ぼされるトルクがテンドンに伝達され、より柔軟性のある屈曲部(関節部または関節動作領域と呼ばれることもある)を屈曲または関節動作させる。非屈曲部に沿って、個々のテンドンを内視鏡シャフトの壁に沿って(または内側に)向ける個々のプルルーメンを螺旋状または螺旋状にして、プルワイヤの表面張力から生じる半径方向の力を釣り合わせることが効果的であり得る。スパイラルの角度および/またはそれらの間の間隔は特定の目的のために変更または設計されてもよく、スパイラルを緊密にすると荷重力下でのシャフト圧縮が小さくなり、一方、スパイラルを少なくすると荷重力下でのシャフト圧縮が大きくなるが限界曲げとなる。スペクトルの他端では、プルルーメンが細長いシャフト71の長手方向軸に平行に向けられて、所望の屈曲または関節動作可能な部分における制御された関節動作が可能となる。
【0060】
内視鏡検査では、細長いシャフト71がロボットシステム手続を補助するために、いくつかの構成要素を収容する。シャフトは、シャフト71の遠位端における手術領域に手術ツール、潅注、および/または吸引を展開するためのワーキングチャネルを備えてもよい。シャフト71はまた、ワイヤおよび/または光ファイバを収容して、光学カメラを含む遠位先端の光学アセンブリへ/から信号を伝達し得る。シャフト71はまた、光ファイバを収容して、発光ダイオードなどの近位に位置する光源からシャフトの遠位端に光を運ぶことができる。
【0061】
器具70の遠位端において、遠位先端はまた、診断および/または治療、潅注、および吸引のためのツールを手術部位に送達するためのワーキングチャネルの開口を備え得る。遠位先端はまた、内部解剖学的空間の画像を取得するために、ファイバースコープまたはデジタルカメラなどのカメラのためのポートを含んでもよい。関連して、遠位先端はまた、カメラを使用するときに解剖学的空間を照明するための光源のためのポートを含む。
【0062】
図13の例では駆動シャフト軸、したがって駆動入力軸は細長いシャフトの軸に直交する。しかしながら、この配置では、細長いシャフト71の回転機能が複雑になる。駆動入力73を静止状態に保ちながら、細長いシャフト71をその軸に沿って回転させると、テンドンが駆動入力73から延出して細長いシャフト71内のプルルーメンに入るときに、テンドンの望ましくない絡み合いが生じる。そのようなテンドンによって生じる絡み合いは、内視鏡手技時に可撓性の細長いシャフトの移動を予測することを目的とする任意の制御アルゴリズムの障害となり得る。
【0063】
図14は器具ドライバおよび器具の代替設計を示し、駆動ユニットの軸が器具の細長い
シャフトの軸に平行である。図示のように、円形の器具ドライバ80は、ロボットアーム82の端部に平行に位置合わせされた駆動出力81を有する4つの駆動ユニットを備える。駆動ユニットおよびそれぞれの駆動出力81は、アセンブリ83内の駆動ユニットのうちの1つによって駆動される器具ドライバ80の回転アセンブリ83内に収容される。回転駆動ユニットによって提供されるトルクに応じて、回転アセンブリ83は、回転アセンブリ83を器具ドライバの非回転部分84に接続する円形ベアリングに沿って回転する。電気接点を介して器具ドライバ80の非回転部分84から回転アセンブリ83に電力および制御信号を伝達することができ、この信号は、ブラシ付きスリップリング接続(図示せず)による回転によって維持することができる。他の実施形態では、回転アセンブリ83が非回転部分84に一体化され、したがって他の駆動ユニットと平行ではない別個の駆動ユニットに応答することができる。回転機構83は、器具ドライバ80が器具ドライバ軸85の周りに単一のユニットとして、駆動ユニットおよびそれぞれの駆動出力81を回転させることができる。
【0064】
上記に開示した実施形態と同様に、器具86は、細長いシャフト部分88と、器具ドライバ80内の駆動出力81を受けるように構成された複数の駆動入力89(レセプタクル、プーリ、およびスプールなど)を備える器具基部87(説明のために透明な外皮と共に示されている)とを備えることができる。先に開示された実施形態とは異なり、器具シャフト88は、図13の設計におけるように直交するのではなく、駆動入力89の軸に実質的に平行な軸を有する器具基部87の中心から延伸する。
【0065】
器具ドライバ80の回転アセンブリ83に結合されると、器具基部87および器具シャフト88を備える医療器具86は、器具ドライバ軸85の周りで回転アセンブリ83と組み合わせて回転する。器具シャフト88は器具基部87の中心に配置されているので、器具シャフト88は取り付けられたとき、器具ドライバ軸85と同軸である。したがって、回転アセンブリ83の回転は、器具シャフト88をそれ自体の前後軸の周りに回転させる。さらに、器具基部87が器具シャフト88と共に回転するとき、器具基部87の駆動入力89に接続されたテンドンは、回転中に絡み合わない。したがって、駆動出力81、駆動入力89、および器具シャフト88の軸の平行性は、任意の制御テンドンの絡み合いを発生させることなく、シャフトを回転させることができる。
【0066】
(E.ナビゲーションと制御)
従来の内視鏡検査には、X線透視法(例えば、Cアームを介して送達され得るよう)および他の形態の放射線ベースの画像化モダリティの使用が含まれ、操作者の医師に管腔内ガイダンスが提供される。一方、本件開示によって実現されるロボットシステムは、放射線に対する医師の曝露を低減し、手術室内の器具の数を減らすために、非放射線ベースのナビゲーションおよび位置決め手段を提供する。本明細書で使用されるように、用語「位置決め」は、基準座標系における物体の位置を特定および/または監視することを指すことができる。術前マッピング、コンピュータビジョン、リアルタイム電磁追跡、およびロボットコマンドデータなどの技術は放射線を用いない運用環境を達成するために、個別に、または組み合わせて使用されてもよい。放射線ベースの画像モダリティが依然として使用される他の場合には、術前マッピング、コンピュータビジョン、リアルタイム電磁追跡、およびロボットコマンドデータは放射線ベースの画像モダリティによってのみ得られる情報を改善するために、個別に、または組み合わせて使用されてもよい。
【0067】
図15は、例示的な実施形態による、器具の位置など、ロボットシステムの1つまたは複数の要素の位置を推定する位置決めシステム90を示すブロック図である。位置決めシステム90は、1つまたは複数の命令を実行するように構成された1つまたは複数の計算装置のセットとすることができる。計算装置は、上述の1つまたは複数の構成要素内のプロセッサ(または複数のプロセッサ)およびコンピュータ可読メモリによって具現化され
得る。限定ではなく例示として、計算装置は、図1に示すタワー30内や、図1~4に示すカート内や、図5~10に示すベッド内などに配置されてよい。
【0068】
図15に示すように、位置決めシステム90は、入力データ91~94を処理して医療器具の遠位先端の位置データ96を生成する位置決めモジュール95を含むことができる。位置データ96は、基準系に対する器具の遠位端の位置および/または向きを表すデータまたはロジックであってもよい。基準系は、患者の解剖学的構造、または電磁場発生器(電磁場発生器については以下の説明を参照)などの既知の物体に対する基準系とすることができる。
【0069】
ここで、さまざまな入力データ91~94についてより詳細に説明する。術前マッピングは、低線量CTスキャンの収集を使用することによって達成することができる。術前CTスキャンは2次元画像を生成し、各画像は、患者の内部解剖学的構造の破断図の「スライス」を表す。集合体で解析される場合、患者の肺ネットワークなどの患者の解剖学的構造の解剖学的空洞、空間、および構造のための画像ベースのモデルが生成され得る。中心線ジオメトリのような手法は、CT画像から決定され、近似されて、術前モデルデータ91と呼ばれる患者の解剖学的構造の3次元ボリュームを展開することができる。中心線ジオメトリの使用については、米国特許第14/523,760号に記載されており、その内容の全体を本願に援用する。また、ネットワークトポロジーモデルは、CT画像から導出されてもよく、気管支鏡検査に特に適している。
【0070】
いくつかの実施形態では、器具が視覚データ92を提供するためにカメラを装備することができる。位置決めモジュール95は1つまたは複数の視覚ベースの位置追跡を可能にするために、視覚データを処理することができる。例えば、手術前モデルデータは医療器具(例えば、内視鏡または内視鏡のワーキングチャネルを通る器具の前進)のコンピュータビジョンベースの追跡を可能にするために、ビジョンデータ92と共に使用されてもよい。例えば、手術前モデルデータ91を使用して、ロボットシステムは内視鏡の予想される移動経路に基づいてモデルから予想される内視鏡画像のライブラリを生成することができ、各画像はモデル内の位置にリンクされる。手術中に、このライブラリはカメラ(例えば、内視鏡の遠位端にあるカメラ)で取得されたリアルタイム画像を画像ライブラリ内の画像と比較して位置決めを補助するために、ロボットシステムによって参照されてもよい。
【0071】
他のコンピュータビジョンベースの追跡技術は、カメラ、したがって内視鏡の動きを特定するために特徴追跡を使用する。位置決めモジュール95のいくつかの特徴は解剖学的な管腔に対応する手術前モデルデータ91内の円形の幾何学的形状を識別し、それらの幾何学的形状の変化を追跡して、どの解剖学的な管腔が選択されたかや、カメラの相対的な回転および/または移動運動を特定することができる。トポロジーマップの使用によって、視覚ベースのアルゴリズムまたは方法をさらに強化することができる。
【0072】
別のコンピュータビジョンベースの技術であるオプティカルフローはカメラの動きを推測するために、ビジョンデータ92のビデオシーケンス内の画像画素の変位および移動を解析することができる。複数の反復にわたる複数のフレームの比較によって、カメラ(したがって、内視鏡)の移動および位置を特定することができる。
【0073】
位置決めモジュール95は、リアルタイム電磁追跡を使用して、手術前モデルによって表される患者の解剖学的構造に位置合わせすることができるグローバル座標系における内視鏡のリアルタイム位置を生成し得る。電磁追跡では医療器具(例えば、内視鏡ツール)の1つ以上の位置および向きに埋め込まれた1つ以上のセンサコイルを備える電磁センサ(トラッカ)は既知の位置に配置された1つ以上の静的電磁場発生器によって生成された
電磁場の変動を測定する。電磁センサによって検出された位置情報は、電磁データ記憶される。電磁場発生器(または送信機)は埋め込まれたセンサが検出し得る低強度磁場を生成するために、患者の近くに配置され得る。磁界は電磁センサコイルに小さな電流をガイドし、この電流は、電磁センサと電磁界発生器との間の距離および角度を特定するために解析され得る。これらの距離および向きは、座標系内の単一の位置を患者の解剖学的構造の手術前モデル内の位置と位置合わせさせる幾何学的変換を特定するために、患者の解剖学的構造(例えば、手術前モデル)に対して手術中に「位置合わせ」されてもよい。一旦位置合わせされると、医療器具の1つ以上の位置(例えば、内視鏡の遠位先端)に埋め込まれた電磁追跡装置は、患者の解剖学的構造を通る医療器具の進歩のリアルタイムの指示を提供し得る。
【0074】
ロボットコマンドおよび運動学データ94はまた、ロボットシステムのための位置決めデータ96を提供するために、位置決めモジュール95によって使用されてもよい、関節動作コマンドから生じる装置ピッチおよびヨーは、手術前較正中に特定され得る。手術中に、これらの較正計量値は器具の位置を推定するために、既知の挿入デプス情報と組み合わせて使用されてもよい。あるいは、これらの計算がネットワーク内の医療器具の位置を推定するために、電磁、視覚、および/またはトポロジーモデリングと組み合わせて解析されてもよい。
【0075】
図15に示すように、多数の他の入力データを位置決めモジュール95によって使用することができる。例えば、図15には示されていないが、形状感知ファイバを用いる器具は、位置決めモジュール95が器具の位置および形状を特定するために使用する形状データを提供することができる。
【0076】
位置決めモジュール95は、入力データ91~94を組み合わせて使用することができる。場合によっては、このような組み合わせは位置決めモジュール95が入力データ91~94のそれぞれから特定された位置に信頼性重みを割り当てる確率的アプローチを使用することができる。したがって、電磁データが信頼できない場合(電磁干渉がある場合のように)、電磁データによって特定される位置の信頼性は低下する可能性があり、位置決めモジュール95は、視覚データ92および/またはロボットコマンドおよび運動学データ94により依存する可能性がある。
【0077】
上記の通り、本明細書で説明するロボットシステムは、上記の技術のうちの1つまたは複数の組合せを組み込むように設計することができる。タワー、ベッドおよび/またはカートに基づくロボットシステムのコンピュータベースの制御システムはコンピュータプログラム命令を、例えば、永続的磁気記憶ドライブ、ソリッドステートドライブなどの非一時的コンピュータ可読記憶媒体内に記憶することができ、これは、実行時に、システムにセンサデータおよびユーザコマンドを受信および解析させ、システム全体の制御信号を生成させ、グローバル座標系内の器具の位置、解剖学的マップなどのナビゲーションおよび位置決めデータを表示させる。
【0078】
(2.管腔ネットワークのナビゲーション)
上述の様々なロボットシステムは、内視鏡および腹腔鏡処置などの様々な医療手技を実行するために使用することができる。特定の手技において、ロボット制御医療器具などの医療器具が、患者の体内に挿入される。患者の体内で、器具は、患者の管腔ネットワーク内に配置されてもよい。本明細書で使用されるように、管腔ネットワークという用語は、複数の管腔または分枝(例えば、肺または血管などの複数の分枝管腔)または単一の管腔または分枝(例えば、胃腸管内)を含むか否かにかかわらず、体内の任意の管腔構造を指す。手技中に、器具は、管腔ネットワークを通って、1つ以上の関心領域に移動(例えば、ナビゲート、ガイド、駆動など)されてよい。システムを通る器具の移動は、ロボット
システムを制御する医師に器具に関する位置情報を提供する、上記のナビゲーションシステムまたは位置特定システム90によって支援されてもよい。
【0079】
図16は、患者の例示的な管腔ネットワーク130を示す。図示の実施形態では、管腔ネットワーク130は、患者の肺の気道150(すなわち、管腔、枝)の気管支ネットワークである。図示された管腔ネットワーク130は、患者の肺内の気管支ネットワークであるが、本開示は、図示された例のみに限定されない。本明細書に記載されるロボットシステムおよび方法は、気管支ネットワーク、腎臓部のネットワーク、循環器ネットワーク(例えば、動脈および静脈)、胃腸管、尿路などの任意の種類の管腔ネットワークをナビゲートするために使用することができる。
【0080】
図に示すように、管腔ネットワーク130は、分岐構造に配置される複数の管腔150を含む。一般に、管腔ネットワーク130は、三次元構造を含む。説明の便宜上、図16は、二次元構造としての管腔ネットワーク130を表す。このことは、本開示を二次元管腔ネットワークに限定すると解釈するものではない。
【0081】
図16はまた、管腔ネットワーク130内に配置された医療器具の一例を示す。医療器具は、診断および/または治療のために、管腔ネットワーク130を通って関心領域(例えば、結節155)に向かってナビゲートされる。図示の例では、結節155は、気道150の周辺部に配置されるが、関心領域は、患者および手技に応じて、管腔ネットワーク130内の任意の場所に配置することができる。
【0082】
図示の例では、医療器具は内視鏡115を含む。内視鏡115は、シース120およびリーダ145を有し、いくつかの実施形態では、シース120およびリーダ145は、伸縮式に配置することができる。例えば、リーダ145は、シース120のワーキングチャネル内に摺動可能に配置することができる。シース120が第1の直径を有し、その遠位端が結節155の周囲のより小さい直径の気道150を通って位置決めすることができない場合もある。そこで、リーダ145は、シース120のワーキングチャネルから結節155までの残りの距離だけ伸長するように構成されてもよい。リーダ145は、器具、例えば、生検針、細胞診ブラシ、および/または組織サンプリング鉗子が、結節155の目標の組織部位に通され得るルーメンを有する。そのような実施形態では、シース120の遠位端およびリーダ145の遠位端の両方に、気道150内におけるそれぞれの位置を追跡するための電磁器具センサ(例えば、図18に示す電磁器具センサ305)を設けることができる。このようなシース120およびリーダ145の入れ子式の構成により、内視鏡115をより細径に設計でき、シース120を介して構造的な支持を提供しながら、内視鏡115の曲げ半径を改善することができる。
【0083】
他の実施形態では、入れ子式の構成を用いず、内視鏡115の全体の直径を周辺部に到達するのに十分小さくしてもよく、または、非可動のカテーテルを介して医療器具を展開するために周辺部(例えば、2.5~3cmの範囲)に接近するのに十分小さくしてもよい。内視鏡115を介して配置される医療器具は、電磁器具センサ(例えば、図18の電磁器具センサ305)を備えることができ、以下に説明する画像ベースの分岐検出およびマッピングナビゲーション技術を、これら医療器具に適用することができる。
【0084】
図示のように、結節155に到達するために、器具(例えば、内視鏡)は、管腔ネットワークの管腔または分岐150を通ってナビゲートまたはガイド作者(医師など)は、ロボットシステムを制御して、器具を結節155にナビゲートすることができる。操作者は、ロボットシステムを制御するための入力を提供することができる。
【0085】
図17は、本明細書で説明するロボットシステムのいくつかの実装形態で使用する例示
的なコマンドコンソール200を示す。操作者は、ロボットシステムを制御するための入力を提供して、例えば、コマンドコンソール200を介して、結節155などの関心領域に器具をナビゲートまたはガイドすることができる。コマンドコンソール200は、種々の構成により実現することができる。図示の例では、コマンドコンソール200は、コンソールベース201、ディスプレイ202(例えば、モニタ)、および1つ以上の制御モジュール(例えば、キーボード203およびジョイスティック204)を含む。ユーザ205(例えば、操作者や医師)は、コマンドコンソール200を使用して、人間工学的な位置から医療ロボットシステム(例えば、図1~15を参照して説明したシステム)を遠隔制御することができる。
【0086】
ディスプレイ202は、電子モニタ(例えば、LCDディスプレイ、LEDディスプレイ、タッチセンサ式ディスプレイ)、仮想現実表示デバイス(例えば、ゴーグルまたは眼鏡)、および/または他の表示装置を含む。いくつかの実施形態では、1つまたは複数のディスプレイ202は、例えば、位置特定システム90(例えば、図15)によって決定される器具に関する位置情報を表示する。いくつかの実施態様において、1つまたは複数のディスプレイ202は、患者の管腔ネットワーク130の術前モデルを表示する。位置情報は、術前モデル上に重畳表示することができる。ディスプレイ202はまた、管腔ネットワーク130内の器具上に配置されたカメラまたは他の感知装置から受信された画像情報を表示することができる。いくつかの実施形態では、手術または医療手技の状態の表示を支援するために、器具のモデルまたは表現が、術前モデルと共に表示される。
【0087】
いくつかの実施形態では、コンソールベース201は、中央処理ユニット(CPUまたはプロセッサ)、メモリユニット(コンピュータ可読メモリ)、データバス、および関連するデータ通信ポートを含み、これらは、例えば、患者の管腔ネットワーク内に配置された医療器具からの、カメラ画像および追跡センサデータなどの信号の解釈および処理を担う。
【0088】
コンソールベース201はまた、制御モジュール203、204を介してユーザ205によって提供されるコマンドおよび命令を処理することができる。図20に示されるキーボード203およびジョイスティック204に加えて、制御モジュールは、コンピュータマウス、トラックパッド、トラックボール、制御パッド、ハンドヘルド遠隔制御装置などの制御装置、および手のジェスチャおよび指のジェスチャを取得するセンサ(例えば、モーションセンサまたはカメラ)などの他の装置を含んでもよい。コントローラは、器具の動作(例えば、関節動作、駆動、水洗浄など)にマッピングされた一組のユーザ入力(例えば、ボタン、ジョイスティック、方向パッドなど)を含むことができる。コンソールベース200の制御モジュール203、204を使用して、ユーザ205は、管腔ネットワーク130を通って器具をナビゲートすることができる。
【0089】
図18は、例示的な医療器具300の遠位端の詳細を示す。図18の医療器具300は、図16の内視鏡115または操縦可能なカテーテル145を表す。医療器具300は、図1の内視鏡13、図3の尿管鏡32、図9の腹腔鏡59など、本開示全体にわたって説明される任意の医療器具を表す。図18において、器具300の遠位端は、電磁器具センサを形成する、撮像デバイス315、照明光源310、および電磁センサコイル305の端部を含む。遠位端はさらに、器具300のワーキングチャネル320への開口を有し、この開口を通って、生検針、細胞診ブラシ、鉗子などの手術器具が、器具シャフトに沿って挿入することができ、器具先端付近の領域へのアクセスを可能にする。
【0090】
器具300の遠位端に位置する電磁コイル305は、器具300が管腔ネットワーク内に位置する際に、電磁追跡システムと共に、器具300の遠位端の位置と方向を検出するために使用される。いくつかの実施形態では、コイル305は、異なる軸に沿って電磁場
に対する感応性を与えるように角度付けられ、本開示のナビゲーションシステムが、完全な6自由度(DoF)、すなわち、3つの位置DoFおよび3つの角度DoFを計測することができる。他の実施形態では、単一のコイル305のみが、その軸が器具シャフトに沿う状態で、遠位端上または遠位端内に配置されてもよい。このような構成の回転対称性の理由から、その軸周りを回転に対しては感応性がないために、このような実装では、5自由度のみが検出され得る。この代わりにあるいはこれに加えて、他の種類の位置センサが使用されてもよい。
【0091】
照明光源310は、解剖学的空間の一部を照明する光を提供する。各照明光源は、選択された波長または波長の範囲で光を放射するように構成された1つまたは複数の発光デバイスである。いくつかの例を挙げると、波長は、任意の適切な波長、例えば、可視スペクトル光、赤外線、X線(例えば、蛍光透視法用)であり得る。いくつかの実施形態では、照明光源310は、器具300の遠位端に位置する発光ダイオード(LED)を含む。いくつかの実施形態では、照明光源310は、遠隔光源、例えばX線発生器から遠位端を通って光を透過させるための、内視鏡の全長にわたって延伸する1つまたは複数の光ファイバを有する。遠位端が複数の照明光源310を含む場合は、各光源は、互いに同じ波長または異なる波長の光を放射するように構成することができる。
【0092】
画像処理装置315は、受光した光を表すエネルギーを電気信号に変換するように構成された任意の感光性基板または構造、例えば、電荷結合素子(CCD)または相補型金属酸化膜半導体(CMOS)イメージセンサを含む。画像処理装置315のいくつかの例は、内視鏡の遠位端300から内視鏡の近位端付近の接眼レンズおよび/またはイメージセンサに画像を表す光を伝送するように構成された、1つまたは複数の光ファイバ、例えば光ファイババンドルを含む。画像処理装置315は、さらに、種々の光学設計に必要な1つまたは複数のレンズおよび/または波長パスまたはカットオフフィルタを含む。照明光源310から放射される光は、画像処理装置315が患者の管腔ネットワークの内部の画像を取得することを可能にする。これらの画像は、個別のフレームまたは連続した一連のフレーム(例えば、ビデオ)として、コマンドコンソール200などのコンピュータシステムに送信することができる。上記あるいは以下の詳細な説明の通り、画像処理装置315によって取得された画像(例えば、図15の視覚データ92)は、管腔ネットワーク内の器具の位置(例えば、器具300の遠位端の位置)を特定または推定するために、ナビゲーションシステムまたは位置特定システム95に使用される。
【0093】
(3.ナビゲーション用の画像ベースの分岐検出およびマッピング)
本開示の実施形態は、画像ベースの分岐検出およびマッピングのためのシステムおよび技術に関する。本明細書で説明するように、画像ベースの分岐検出は、画像内で、管腔ネットワークの1つまたは複数の分岐に関連する1つまたは複数の開口を識別することを指す。例えば、画像ベースの分岐検出システムは、管腔ネットワーク内の器具上に配置された画像処理装置を使用して、管腔ネットワークの内部の画像を取得することができ、画像ベースの分岐検出システムは、管腔ネットワークの後続の分岐に関連する1つまたは複数の開口を検出するための解析を行うことができる。本明細書で説明するように、画像ベースの分岐マッピングは、検出された1つまたは複数の開口を管腔ネットワークの対応する分岐にマッピングすることを指す。例えば、画像ベースの分岐マッピングシステムは、管腔ネットワークの1つ以上の分岐のいずれの分岐が画像内の1つ以上の検出された開口に対応するかを識別するように構成されてもよい。これらのシステムおよび技術は、管腔ネットワーク内の器具の位置を特定または推定するために使用することができる。特定の実装形態では、これらのシステムおよび手法は、(例えば、図15を参照して説明したように)他の種々のナビゲーションおよび位置決めモダリティとともに使用することができる。
【0094】
(A.ナビゲーション用の画像ベースの分岐検出およびマッピングの概要)
管腔ネットワーク内をナビゲートする機能は、本明細書に説明するロボット制御手術システムの1つの特徴でもある。本明細書で説明するように、ナビゲーションは、管腔ネットワーク内の器具の位置決めや位置の特定を行うことを指す。特定された位置は、管腔ネットワーク内の1つ以上の特定の関心領域に器具をガイドするのを支援するために使用することができる。いくつかの実施形態では、ロボット制御手術システムは、手術中における器具のナビゲーションを提供するために、1つまたは複数の独立した感知モダリティを利用する。図15に示すように、独立した感知モダリティは、データ(例えば、電磁データ93)、視覚データ92、および/またはロボットコマンドおよび運動学データ94の位置を特定することができる。これらの独立した感知モダリティは、独立した位置推定を提供するように構成された推定モジュールを有する。また、独立した推定は、例えば、位置特定モジュール95を使用して、1つのナビゲーション出力として結合でき、システムで使用したり、ユーザに表示したりすることができる。画像ベースの分岐検出およびマッピングは、位置の独立した推定を提供する、視覚データ92に基づく、独立した感知モダリティを提供することができる。特に、いくつかの例では、画像ベースの分岐検出およびマッピングは、感知モダリティと、管腔ネットワークの管腔または分岐を推定する、状態/位置推定モジュールと組み合わせることができ、器具の画像処理装置は、画像処理装置によって取得された画像に基づく。いくつかの実施形態では、画像ベースの分岐検出およびマッピングによって提供される推定値は、単独で、または他の位置推定とともに使用されて、システムが使用したり、ユーザに表示したりすることが可能な、最終的な位置推定を特定することができる。
【0095】
いくつかの実施形態では、同じ感知モダリティに基づいて並列に動作する複数の状態推定モジュールが提供される。一例として、それぞれ複数の(例えば、3つの)異なる位置推定(すべて視覚データ92に基づく)を出力する異なる方法で、視覚データ92を処理する複数の(例えば、3つの)異なる状態推定モジュールが提供される。本開示は、視覚データ92に基づいて(例えば、単一の画像に基づいて)分岐の開口を検出し、検出された分岐の開口を管腔ネットワーク内の特定の解剖学的分岐にマッピングすることによって、器具の現在の位置を推定する、画像ベースの分岐検出およびマッピングモジュールという、モジュールに関する。以下でより詳細に説明するように、いくつかの実施形態では、画像ベースの分岐検出およびマッピングモジュールは、ナビゲーションまたは位置特定システム90(1つまたは複数の感知モダリティに基づく)によって決定される現在または以前の位置推定を使用して、検出された開口を管腔ネットワーク内の特定の解剖学的分岐にマッピングすることができる。言い換えれば、本明細書で説明する画像ベースの分岐検出およびマッピングシステムおよび方法は、器具が管腔ネットワーク内に位置する場合の、ナビゲーションモジュールまたは位置特定モジュール95に位置の推定を提供するように構成されてもよい。いくつかの実施形態では、本明細書で説明する画像ベースの分岐検出およびマッピングシステムおよび方法は、他の任意のモダリティとは独立していてもよい。いくつかの実施形態では、本明細書で説明する画像ベースの分岐検出およびマッピングシステムおよび方法は、複数の感知モダリティを使用して特定される以前の位置推定に基づいて、推定を提供してもよい。
【0096】
図19は、画像ベースの分岐検出およびマッピングのための例示的な方法400を示す。方法400は、本明細書で説明するように、種々のロボット制御手術システムに実装することができる。方法400は、画像内の分岐の開口を検出するステップ(ブロック402)と、検出された開口を管腔ネットワークの分岐にマッピングするステップ(ブロック404)の2つのステップまたはブロックを含む。
【0097】
ブロック402において、方法400は、画像内の分岐の開口を検出する。上記の通り、医療手技時に、器具は、管腔ネットワーク内に位置する(図16参照)。図18に示す
ように、器具は、器具上に配置された画像処理装置315(カメラなど)を有する。画像処理装置315は、管腔ネットワークの内部の画像を取得することができる。例えば、特定の瞬間に、画像処理装置315は、器具が現在位置する管腔ネットワークの特定の分岐の内部の画像を取得することができる。ブロック402において、方法400は、画像内の1つまたは複数の開口を検出するために画像を解析することができる。1つまたは複数の開口は、管腔ネットワークの1つまたは複数の後続の分岐を、器具が位置する現在の分岐に接続することができる。一般に、ブロック402は、画像が1つ以上の分岐の開口を含むか否かを特定するために画像を処理する画像解析を含む。一実施態様では、画像が1つまたは複数の分岐の開口を含むと特定される場合に、開口に関する種々の特徴が特定されてもよい。そのような特徴には、検出された1つまたは複数の分岐の開口の重心を識別すること、および/または検出された1つまたは複数の分岐の開口の形状または輪郭を識別することが含まれる。本明細書では、ブロック402(画像内の分岐の開口の検出)を、画像ベースの分岐検出と呼び、以下の3.B節でより詳細に説明する。
【0098】
ブロック404において、方法400は、1つまたは複数の検出された分の岐開口を管腔ネットワークの特定の分岐にマッピングする。一般に、ブロック404において、方法400は、管腔ネットワークのどの分岐が検出された開口と関連するかを特定する。特定の実施態様では、ブロック404は、(例えば、現在の位置推定および管腔ネットワークの術前モデルに基づいて)予想される後続の一連の分岐を特定することや、予想される後続の分岐の特徴を検出された分岐の開口にマッチングすることを含む。本明細書では、ブロック404(検出された開口を管腔ネットワークの分岐にマッピングすること)を、画像ベースの分岐マッピングと呼び、以下の3.C節でより詳細に説明する。
【0099】
検出された開口を管腔ネットワークの特定の分岐にマッピングすることによって、方法400は、器具の位置の推定を提供することができる。例えば、方法400を使用して、システムまたは器具は、器具を「見る」分岐を識別し、この情報を使用して管腔ネットワーク内における器具の位置を推定することができる。
【0100】
(B.画像ベースの分岐検出)
画像ベースの分岐検出は、管腔ネットワーク内に配置された器具の画像処理装置315によって取得された画像を解析して、画像内の1つまたは複数の分岐開口を検出することができる。例えば、画像ベースの分岐検出は、分岐の内部の画像を解析して、現在の分岐への管腔ネットワークの後続の分岐に接続された1つ以上の開口が画像内に存在するか否かを検出する。
【0101】
図20は、管腔ネットワークの分岐の内部の例示的な画像500を示す。図の例では、画像500は、肺の気道の内部の画像であるが、画像500は、任意の種類の管腔ネットワークを表す画像であってよい。2つの分岐の開口502が画像500内に存在する。分岐の開口502は、後続の分岐(例えば、後続の気道)を現在の分岐に接続する。
【0102】
画像ベースの分岐検出は、コンピュータシステムが分岐の開口502をコンピュータ処理によって認識することができる方法を含むことができる。場合によっては、画像500は、2つの区分の画素、すなわち、(1)管腔ネットワークの壁(例えば、組織)を表す画素と(2)開口を表す画素を含む。特定の実施形態によれば、画像ベースの分岐検出は、これら2区分の画素をシステム的に検出して、画像内の分岐の開口を識別および検出することができる。
【0103】
図21は、画像ベースの分岐検出のための例示的な方法600を示す。方法600は、ブロック602から開始し、管腔ネットワークの分岐の内部の画像が、分岐内に配置された撮像デバイスによって取得される。上記の通り、画像は、管腔ネットワーク内に位置す
る器具上の画像装置315によって取得したり、画像装置315から受信したりすることができる。
【0104】
ブロック604では、画像に対する画素強度値のヒストグラムが生成される。例えば、ブロック604は、各強度値における画素の数をプロットする。画素強度は、例えば、暗色と明色との間の範囲とすることができる。明暗のスケールは、例えば、0~1の範囲(0は完全に暗い(黒)を表し、1は完全に明るい(白色)を表す)、または0~256の範囲(0は完全に暗い(黒)を表し、1は完全に明るい(白色)を表す)として、数値的に表すことができる。他の尺度が採用されてもよい。本開示は、画素強度(輝度)に基づいてヒストグラムを生成する例について説明するが、ヒストグラムは、画像の他の特徴(色など)に基づいて生成することもできる。
【0105】
図22は、1つまたは複数の分岐の開口(例えば、図20の画像500)を含む画像の例示的なヒストグラム700を示す。図22では、画素強度が均等化され、0から256の間の数値スケールで表されている。ヒストグラムの均等化により、直線的なヒストグラムが得られる。図の棒線は、各強度値における画像内の画素の数を表す。図に示すように、ヒストグラム700は双峰分布である。すなわち、ヒストグラム700は、2つの異なるピーク702、704を有する。第1のピーク702は、管腔ネットワーク(例えば、組織)の壁を表す画素を示し、第2のピーク704は、画像内の開口を表す画素を示す。多くの場合、管腔ネットワークの分岐内のヒストグラムは、図のように2つのピークを含む双峰分布である。このようになる理由は、(管腔ネットワーク内などの)トンネルのような表示において、画素は、一般に、暗部(開口を表す)か、明部(分岐の壁を表す)かのいずれかであるためである。
【0106】
図21の方法600に戻ると、ブロック606において、閾値未満の画素は、画像において開口を示すものとして識別される。この代わりにあるいはこれに加えて、閾値を超えるまたは閾値未満の画素を、分岐の開口を示すものとして識別または分類されてもよい。この代わりにあるいはこれに加えて、閾値を超えるまたは閾値未満の画素を、管腔ネットワークの組織または壁を示すものとして識別または分類されてもよい。概してブロック606では、分岐の開口を表す画素と分岐の壁を表す画素との間で画像の画素を分ける閾値が決まる。画素を分岐の開口または分岐の壁のいずれを表すものとして分類または識別することにより、画像内の分岐の開口を検出することができる。
【0107】
図23Aおよび図23Bは、分岐の開口802がどのように検出されるかを示す例示的な画像800a、800bを示す。図23Aを参照すると、決定された閾値の画素が強調され、開口802を取り囲むプロファイル805を生成する。図23Bを参照すると、画素は、開口802を識別するために、閾値を超えるか閾値未満となるかで区別されている。例えば、閾値を超える画素は、白色で区分されて示されているが、閾値未満の画素は、黒色で区分されて示されている。図23Bの実施例では、黒色の画素は、開口802を表す。
【0108】
図24は、方法600(図21)のブロック606のいくつかの実施形態において実装されて、分岐の開口を示すものとして、閾値を超えるまたは閾値未満の画素を識別/分類することができる例示的なサブルーチンまたは方法900を示す。方法900は、4つのステップまたはブロックを含む。ブロック902において、ヒストグラムのピークが識別される。上述のように、概して管腔の内部の画像のヒストグラムは、2つの識別可能なピークを含む双峰分布である。例えば、図22のヒストグラム700において、第1のピーク702は60の強度値で生じ、第2のピーク702は180の強度値で生じる。
【0109】
ブロック904において、ピーク間の中間値が識別される。次に、図22の例を参照す
ると、ヒストグラム700のピーク702間の中間点704は、140の強度値で生じる。体系的に、中間点704は、ヒストグラム700を分割する(例えば、等しく)2つのピーク702の間の値を見つけることによって決定することができる。図24に戻ると、ブロック906において、閾値は、中間点704に等しい値になるように設定される。したがって、中間点704または閾値を超える任意の画素を組織であると特定でき、中間点704または閾値未満の任意の画素を開口であると特定できる。図23Aに示すように、開口802の輪郭805を示すために、閾値の画素を強調表示してもよい。
【0110】
最後に、ブロック906において、閾値を超えるまたは閾値未満の画素が識別されるか、または分岐の開口を示すものとして分類される。図23Bに示すように、閾値は、閾値を超える画素を最大強度(例えば、白色)に、閾値未満の画素を最小強度(例えば、黒)に割り当てることによって、明部領域および暗部領域に画像を区分するために使用できる。これにより、開口802を検出および可視化することができる。
【0111】
上述のように、画像ベースの分岐検出は、分岐の開口を検出するために画像を解析するように構成することができる。本明細書で説明する画像ベースの分岐検出方法は、本開示全体にわたって説明するロボット制御手術システムの種々の実施形態において使用することができる。いくつかの実施形態では、画像ベースの分岐検出は、管腔ネットワークの分岐の開口を識別するための方法を実施することを含む。この方法は、管腔ネットワークの分岐の内部の画像を、分岐内に配置された撮像デバイスで取得することを含む。画像は、管腔ネットワークの分岐内に配置された器具上の画像処理装置315を使用して取得されてもよい。またこの方法は、画像に対する画素強度値のヒストグラムを生成することを含む。概してヒストグラムは、組織(例えば、管腔ネットワークの壁)および分岐の開口を表すピークを伴う双峰分布である。本方法はまた、画像内の開口を示すものとして、閾値未満の画素を識別することを含む。
【0112】
いくつかの実施形態では、本方法はまた、ヒストグラムに基づいて閾値を決定することを含む。閾値は、ヒストグラムの2つのピーク間の中間点値であってもよい。例えば、閾値を決定するステップは、ヒストグラム内の少なくとも2つのピークを識別するステップと、少なくとも2つのピーク間の中間点を識別するステップと、閾値を中間点の強度値に等しく設定するステップとを含むことができる。他の実施形態では、閾値は、他の方法によって決定されてもよい。例えば、閾値は、記憶に格納された所定の値であってもよい。
【0113】
画像ベースの分岐検出方法は、種々の他の特徴を含むことができる。例えば、いくつかの実施形態では、画像ベースの分岐検出方法は、検出された分岐の開口の他の特徴を識別することを含む。例えば、画像ベースの分岐検出方法はまた、画像内の識別された開口のそれぞれについて、開口の重心を決定することを含む。別の例として、画像ベースの分岐検出方法はまた、画像内の識別された開口のそれぞれについて、開口のプロファイルを決定することを含む。プロファイルは、閾値における画素を識別することによって決定され得る。
【0114】
いくつかの実施形態において、画像ベースの分岐検出方法はまた、画像内の識別された開口の数を不良フレーム検出器の閾値と比較することを含む。いくつかの実施形態では、不良フレーム検出器の閾値は、3、4、5、6、またはそれ以上に設定される。画像ベースの分岐検出方法が、不良フレーム検出器値以上の開口数を検出した場合、この方法は、不良フレームまたはエラーを判定し、画像を破棄することができる。例えば、いくつかの例では、画像内の気泡または他の特徴は、開口として現れ、偽陽性を生成し得る。検出された開口の数が、不良フレーム検出器の閾値によって表される可能性のある開口の数を超える場合、本方法は、それが偽陽性(例えば、実際には開口ではない開口)を識別したことを決定することができる。このような場合、本方法は、現在の画像を破棄し、第2の画
像内の開口を再検出することができる。例えば、識別された開口の数が不良フレーム検出器閾値を超える場合、本方法は、さらに、分岐の内部の第2の画像を取得し、第2の画像を解析して、第2の画像内の開口を決定するステップを含んでもよい。
【0115】
(C.画像ベースの分岐マッピング)
画像ベースの分岐マッピングは、管腔ネットワークのどの分岐が検出された開口と関連しているかを決定または識別する。すなわち、画像ベースの分岐マッピングは、検出された分岐の開口において、管腔ネットワークのどの後続の分岐が現在の分岐に接続されているかを特定することができる。検出された開口を管腔ネットワークの分岐にマッピングすることによって、管腔ネットワーク内の器具の位置を決定することができる。さらに、機器の移動先の分岐を推定または予測することもできる。
【0116】
広義には、検出された開口の特徴を管腔ネットワークの分岐の特徴と比較することによって、検出された開口を管腔ネットワークの分岐にマッピングすることができる。検出された開口の特徴は、上述のように画像解析によって特定されてもよい。管腔ネットワークの分岐の特徴は、管腔ネットワークの術前モデルなどの管腔ネットワークのモデルから特定することができる。さらに、特定の実施形態では、検出された開口を管腔ネットワークの分岐にマッピングすることは、管腔ネットワーク内の器具の現在の位置推定に基づくことができる。現在の位置推定は、図15を参照して説明した感知モダリティに基づいて特定することができる。現在の位置推定に基づいて、検出された開口を管腔ネットワークの分岐にマッピングすることで、マッピングプロセスの効率、速度、および/または精度を向上させることができる。例えば、現在の位置推定値が与えられると、検出された開口の特徴を、予想される後続の分岐の特徴と比較することができる。これは、マッピングを実行し、マッピング速度を向上させるために必要な計算負荷を最小限にすることができる。
【0117】
図25は、管腔ネットワーク1000を簡略化して示す。管腔ネットワーク1000は、複数の分岐(例えば、管腔、セグメントなど)1002、1004、1006、1008、1010、1012、1014、1016を含む。管腔ネットワーク1000はまた、様々な分岐を互いに接続する分岐1020、1022、1024を有する。管腔ネットワーク1000は、肺の気管支ネットワークの一部を表し、分枝は気道を表す。管腔ネットワーク1000は、モデルによって表現することができる。モデルは術前に特定することができる。術前モデルデータ91(すなわち、術前モデルに関する情報)を格納することで、ナビゲーションおよび位置特定システム90(例えば、図15)が使用できる。一例として以下に説明するように、画像ベースの分岐マッピングは、検出された開口を管腔ネットワーク1000の分岐にマッピングするように構成することができる。
【0118】
図26は、画像ベースの分岐マッピングのための例示的な方法1100を示す。方法1100は、本明細書に記載されるロボット制御手術システムの様々な構成要素によって実施することができる。方法1100は、一例として、図25の管腔ネットワーク1000を例に説明するが、図の態様に限定されない。
【0119】
ブロック1102において、方法1100は、管腔ネットワーク1000内に配置された器具の位置状態の推定を受信または特定する。位置状態の推定には、器具が現在配置されている分岐を識別することが含まれてよい。位置状態の推定は、例えば、図15のナビゲーションおよび位置確認システム90によって特定することができる。位置状態の推定は、術前モデルデータ91、視覚データ92、電磁データ93(あるいは他の位置感知データ)、形状感知データ、および/またはロボットコマンドおよび運動学データ94などの様々なおよび/または複数の位置感知モダリティおよび情報に基づいて決定することができる。
【0120】
図25を参照すると、例えば、位置状態の推定には、器具が管腔ネットワーク1000の任意の分岐(例えば、分岐1002、分岐1004、分岐1006など)内に現在配置されていること示す指標が含まれる。
【0121】
また、位置状態の推定には、追加情報が含まれてもよい。追加情報としては、現在のセグメントの深さの決定または推定、および/または現在の器具の回転の決定または推定(例えば、器具の長手方向の軸周りの回転)を含む。いくつかの実施形態では、システムまたは方法は、複数の位置状態の推定を維持または生成することができ、位置状態の推定のそれぞれに確率を割り当てることができる。複数の位置状態の推定のうち、最も確率の高い位置状態の推定をユーザに提供することができる。例えば、システムまたは方法は、第1の位置状態の推定(例えば、第1の深さおよび回転角で、装置が第1の分岐1002内に位置決めされることを示す指標)および第2の位置状態推定値(例えば、第2の深さおよび回転角で、装置が第2の分岐1004内に位置決めされることを示す指標)を生成してもよい。システムは、各位置状態の推定に対する確率を特定することができる。例えば、システムは、器具の第1の位置状態の推定が正しい確率を60%、器具の第2の位置状態の推定が正しい確率を40%と特定する。ここで、第1の位置状態の推定の確率の方が高いことから、システムは、第1の位置状態の推定をユーザに提供したり、方法1100の1つまたは複数の追加ステップにおいて第1の位置状態の推定を使用したりすることができる。
【0122】
ブロック1104で、方法1100は、ブロック1102で特定された位置状態の推定に基づいて、予想される後続の一連の分岐を特定する。例えば、位置状態の推定が器具が分岐1002内にあることを示す場合、予想される後続の一連の分岐は、分岐1002、分岐1004、分岐1006に接続される分岐を含む。別の例として、位置状態の推定が、器具が分岐1004にあることを示す場合、予想される後続の一連の分岐は、分岐1008、分岐1010を含む。別の例として、位置状態の推定が器具が分岐1006にあることを示す場合、予想される後続の一連の分岐は、分岐1012、分岐1014、分岐1016を含む。後続の一連の分岐に関する情報は、術前モデルデータ91(例えば、図15)として記憶された術前モデルから得られる。
【0123】
後続の分岐の指標に加えて、予想される後続の一連の分岐に関する追加のデータを特定してもよい。例えば、予想される後続の分岐の開口の重心および/または後続の一連の分岐の開口の輪郭も術前モデルから特定することができる。
【0124】
ブロック1106において、方法1100は、器具回転に対して補正を実行してもよい。器具が管腔ネットワーク1000を移動するとき、器具は、回転(例えば、器具の長手方向の軸周りの回転)する場合がある。このような回転は、管腔ネットワークにおける移動を容易にするために命令された回転または意図しない回転である。器具の回転に関する情報は、例えば、ロボットコマンドおよび運動データ94、および/またはねじり剛性などの器具の物理的特性から特定することができる。いくつかの例では、以下のブロック1108で説明されるように、検出された開口の特徴を、予想される後続の一連の開口の特徴と比較するために、器具の回転を補正する必要がある場合がある。ブロック1106、1108、1110の一例を、図27A図27Cを参照しながら以下に説明する。
【0125】
ブロック1108において、方法1100は、ブロック1104で特定されるように、検出された開口の特徴を、検出された後続の一連の分岐の開口と比較する。一例では、検出された開口の重心を互いに結ぶベクトルを、予想される後続の一連の開口の重心を互いに結ぶベクトルと比較する。別の実施形態では、検出された各開口の形状または輪郭を、検出された後続の一連の開口の各開口の形状または輪郭と比較する。なお、他の特徴と比較してもよい。
【0126】
ブロック1110において、方法1100は、検出された開口を管腔ネットワーク1000の分岐にマッピングする。マッピングは、ブロック1108の比較に基づいてもよく、最も一致の度合いが高いマッチングを、検出された開口を管腔ネットワーク1000の分岐にマッピングするために使用する。
【0127】
例えば、図27Aは、2つの検出された開口を含む画像1202を示す。検出された各開口についての重心1204が識別され、重心1204を結ぶベクトルVが決定される。図27Bの左側のパネルでは、器具の現在の位置推定に基づいて、一組の予想される後続の分岐が特定されている。予想される後続の一連の分岐は、この例では、分岐2と分岐119を含む。分岐119を分岐2と接続するベクトルVが示されている。図27Bの右側のパネルに示されるように、ベクトルVを器具回転について補正してベクトルVを生成することができる。図示しないが、分岐2を分岐119と接続する第2のベクトルも特定され、補正することができる。この2番目のベクトルは、ベクトルVと同じ大きさであるが、逆向きである。次に、これらの2つのベクトルをベクトルVと比較することができる。いくつかの例では、これらのベクトルを比較することは、内積(ドット積)を取ることを含む。次に、最も一致の度合いが高い組(例えば、内積(ドット積)が1に最も近い組)を使用して、検出された開口を、予想される後続の一連の分岐にマッピングすることができる。図27Cに示すように、2つの検出された分岐は、分岐2および分岐119にマッピングされている。
【0128】
別の実施例として、画像ベースの分岐マッピングの方法は、以下を含むことができる。(1)画像内の検出された分岐の位置(例えば、XY座標)を識別すること。(2)器具が現在いずれの分岐に配置されているかの推定を特定または受信すること。(3)現在の分岐の推定を用いて、術前モデルに基づいて、推定された分岐に対して存在するすべての直接的な子(すなわち、現在の分岐に接続する分岐)ならびにそれらの位置(例えば、XY座標)の一覧を生成すること。(4)これらの子の変換された(例えば、回転が補正された)座標を、ステップ1で特定された位置にマッチングすることを繰り返し、各繰り返し(または一組の繰り返し)に対する(計量の)コストを算出すること。(5)最もコストが低いマッチングを用いて、これらの子を検出された分岐に割り当てること。
【0129】
(D.画像ベースの分岐予測)
特定の実装形態では、本開示のシステムおよび方法は、器具の現在の位置に基づいて、器具が次にいずれの気道に移動する確率が高いかを予測または推定することもできる。いくつかの実装形態では、本開示のシステムおよび方法は、検出およびマッピングされたそれぞれの分岐に器具が移動する確率の予測または推定を提供することができる。特定の例では、これは、検出およびマッピングされた分岐のうちのいずれが画像の中心に最も近いかを特定することで達成することができる。
【0130】
図28は、画像1300の中心と、検出およびマッピングされた2つの開口2、119の重心との間の距離dおよびd119を示す画像1300を示す。図に示すように、距離dは、距離d119よりも短くなる。これは、開口2の重心が画像の中心により近いためである。したがって、方法またはシステムは、器具が分岐2に移動する確率が高いという推定または予測を提供することができる。いくつかの例では、方法またはシステムは、器具が分岐2および分岐119に移動する確率を提供することができる。確率は、距離dおよびd119と比例関係にある。距離が短いことは、上記確率がより高いことと関連する。これは、距離が短いほど、器具が対応する開口と対向しているか、開口の方を向いていることを示すためである。
【0131】
これらの推定または確率は、位置特定モジュール95(例えば、図15)に提供され、
更新された位置データ96を提供するために使用されてもよい。したがって、いくつかの実施形態では、未来の位置状態の推定は、有利には、少なくとも部分的に、複数の分岐のうちいずれの分岐に器具が移動する確率が高いかに関する以前の位置状態の推定に基づいてもよい。システムは、画像の中心に最も近い開口に器具が移動する確率が最も高いと特定してもよい。これは、未来の位置状態の推定が、以前の位置状態の推定における確率に基づくことで、ナビゲーションが支援される。場合によっては、これは、有利には、位置を推定するために必要な計算負荷を低減することができる。いくつかの実施形態では、これは、位置状態の推定を特定する時間を有利に短縮できる。いくつかの実施形態では、これは、位置状態の推定の精度を向上させることができる。
【0132】
(E.画像ベースの分岐検出およびマッピングによるナビゲーション方法およびシステムの例)
図29は、上記の画像ベースの分岐検出およびマッピングを実施するための例示的な方法1400を示す。方法1400は、本開示全体にわたって説明する種々のロボット制御システムにおいて実施することができる。方法1400は、管腔ネットワークに挿入されるように構成された細長い本体を有する器具を含むロボットシステムで実施することができる。画像処理装置は、細長い本体上(例えば、細長い本体の遠位端上)に配置され得る。器具は、管腔ネットワークを通って器具を移動させるように構成された器具位置決め装置(例えば、ロボットアーム)に取り付けることができる。方法1400を採用するシステムは、プロセッサに方法1400を実行させる命令で構成されたプロセッサを含むことができる。方法1400は、例としてのみ提供され、画像ベースの分岐検出およびマッピングは、図29に示されるステップとは異なるステップを使用して実施することができる。
【0133】
ブロック1401において、方法1400は、管腔ネットワークの現在の分岐に器具を挿入する。ブロック1402において、方法1400は、器具についての位置状態の推定を受信する。いくつかの実施形態では、ブロック1402は、管腔ネットワークの現在の分岐内に配置された器具の位置状態の推定を特定し、位置状態の推定は、図15のナビゲーションシステムおよび位置特定システム90による種々の感知モダリティの1つまたは複数のモダリティに基づいて特定することができる。
【0134】
ブロック1404において、方法1400は、少なくとも部分的に、初期状態の推定および管腔ネットワークの術前モデルに基づいて、一組の予想される後続の分岐を特定する。
【0135】
ブロック1406では、方法1400は、器具上に配置された画像処理装置(例えば、画像処理装置315)によって現在の分岐の画像を撮像する。
【0136】
ブロック1408で、方法1400は、画像を解析して、管腔ネットワークの後続の分岐を現在の分岐に接続する開口を検出する。いくつかの実施形態では、画像内の複数の開口を検出することは、画像解析を実行することを含む。いくつかの実施形態に於いて、画像解析は、画像に関する画素強度値のヒストグラムを生成し、画像内の複数の開口を識別するためにヒストグラムを解析することを含む。いくつかの実施形態では、ヒストグラムを解析することは、ヒストグラム内の少なくとも2つのピークを識別することと、少なくとも2つのピークの間の中間点を識別することと、中間点の第1の側面上の画素を開口として分類することとを含む。
【0137】
いくつかの実施形態では、ブロック1408において、方法1400はまた、検出された開口の1つまたは複数の特徴を特定する。1つまたは複数の特徴は、開口の重心、開口の輪郭、および2つの開口の重心結ぶベクトルからなる群から選択することができる。
【0138】
ブロック1410において、方法1400は、検出された開口の特徴を、予想される後続の一連の分岐と比較して、複数の開口のそれぞれの開口を、予想される後続の分岐のうちの1つ分岐にマッピングする。いくつかの実施形態では、方法1400はまた、術前モデルから予想される後続の一連の分岐に関連する情報を取得することを含む。情報は、開口の重心、開口の輪郭、および2つの開口の重心を結ぶベクトルのうちの少なくとも1つを含む。いくつかの実施形態では、検出された複数の開口の特徴を、検出された開口のそれぞれについて、検出された開口の1つまたは複数の特徴を、予想される後続の一連の分岐に関連する情報に一致させることを繰り返すことを含む、予想される後続の一連の分岐と比較することができる。いくつかの実施形態では、最も一致の度合いが高い組が、検出された開口を予想される後続の分岐にマッピングするために使用される。
【0139】
ブロック1412において、方法1400は、少なくとも部分的に比較に基づいて、更新された位置状態の推定を提供する。いくつかの実施形態では、少なくとも部分的に比較に基づいて、ブロック1412は、更新された位置状態の推定を提供する。いくつかの実施形態では、更新された位置状態の推定は、位置状態の推定が正しい確率を含む。いくつかの実施形態では、確率は、検出された複数の開口の1つまたは複数の特徴と、予想される後続の一連の分岐との間の比較に部分的に基づいて決定される。いくつかの実施形態では、確率は、検出された複数の開口の1つまたは複数の特徴が、予想される後続の一連の分岐と一致する度合いに部分的に基づいて決定される。いくつかの実施形態では、更新された位置状態の推定は、器具が後続の分岐に移動する推定を含む。
【0140】
いくつかの実施形態では、方法1400は、複数の検出された開口のいずれの開口が画像の中心により近いかを特定することをさらに含む。いくつかの実施形態では、更新された位置状態の推定は、画像の中心により近いと判断される開口に器具が移動する確率を含む。
【0141】
いくつかの実施態様において、器具は内視鏡を含む。いくつかの実施形態では、管腔ネットワークは、肺の気管支ネットワーク、胃腸管、または腎臓部のネットワークを含むが、他の管腔ネットワークのナビゲーションも可能である。
【0142】
(3.システムの実装および用語)
本明細書に開示される実施形態は、ロボット制御医療器具のナビゲーションにおける画像ベースの分岐検出およびマッピングのためのシステム、方法、および装置を提供する。ここで説明する種々の実装により、管腔ネットワークのナビゲーションの向上が実現する。
【0143】
本明細書で使用される用語「結合する」、「結合する」、「結合される」、または単語対の他の変更は間接接続または直接接続のいずれかを示すことができ、例えば、第1の構成要素が第2の構成要素に「結合される」場合、第1の構成要素は、別の構成要素を介して第2の構成要素に間接的に接続されるか、または第2の構成要素に直接接続されることができることに留意されたい。
【0144】
本明細書で説明する特徴類似度計算、位置推定、およびロボット動作作動機能は、プロセッサ可読媒体またはコンピュータ可読媒体上に1つまたは複数の命令として格納することができる。用語「コンピュータ可読媒体」は、コンピュータまたはプロセッサによってアクセスされ得る任意の利用可能な媒体を指す。限定ではなく例として、そのような媒体は、RAM(ランダムアクセスメモリ)、ROM(リードオンリメモリ)、EEPROM(電気的消去可能プログラマブルリードオンリメモリ)、フラッシュメモリ、CD-ROM(コンパクトディスクリードオンリ)または他の光ディスクストレージ、磁気ディスク
ストレージまたは他の磁気ストレージデバイス、あるいは命令またはデータ構造の様式で所望のプログラムコードを格納するために使用され得、コンピュータによってアクセスされ得る任意の他の媒体を備えることができる。コンピュータ可読媒体は、有形かつ非一時的であり得ることに留意されたい。本明細書で使用されるように、用語「コード」は、計算装置またはプロセッサによって実行可能なソフトウェア、命令、コード、またはデータを指すことができる。
【0145】
本明細書で開示される方法は、説明される方法を達成するための1つまたは複数のステップまたはアクションを備える。方法のステップおよび/またはアクションは、代替形態の範囲から逸脱することなく、互いに交換することができる。言い換えれば、ステップまたはアクションの特定の命令が説明されている方法の適切な動作のために必要とされない限り、特定のステップおよび/またはアクションの命令および/または使用は、代替の範囲から逸脱することなく修正され得る。
【0146】
本明細書で使用される場合、用語「複数」は2つ以上を意味する。例えば、複数の構成要素は2つ以上の構成要素を示す。用語「特定すること」が多種多様なアクションを包含し、したがって、「特定すること」は計算すること、計算すること、処理すること、導出すること、調査すること、参照すること(例えば、テーブル、データベース、または別のデータ構造を参照すること)、確認することなどを含むことができ、「特定すること」は受信すること(例えば、情報を受信すること)、アクセスすること(例えば、メモリ内のデータにアクセスすること)などを含むことができる。また、「特定すること」は、解決すること、選択すること、選ぶこと、確立することなどを含むことができる。
【0147】
「に基づく」という語句は特に断らない限り、「のみに基づく」という意味ではない。言い換えれば、「に基づく」という語句は、「のみに基づく」および「少なくともに基づく」の両方を表す。
【0148】
開示された実施形態の上記の説明は、当業者が本件開示を実現または使用することを可能にするために提供される。これらの実装に対する様々な修正は当業者には容易に明らかであり、本明細書で定義される一般的な原理は、本件開示の範囲から逸脱することなく、他の実装に適用することができる。例えば、当業者は、工具構成要素を固定、取り付け、結合、または係合する等価な方法、特定の作動運動を生成するための等価な機構、および電気エネルギーを送達するための等価な機構などの、いくつかの対応する代替的および等価な構造的詳細を採用することができることが理解されるのであろう。したがって、本件開示は、本明細書に示される実装に限定されることを意図するものではなく、本明細書に開示される原理および新規な特徴と一致する最も広い範囲を与えられるべきである。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23A
図23B
図24
図25
図26
図27A
図27B
図27C
図28
図29