IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オリンパス株式会社の特許一覧 ▶ 独立行政法人国立がん研究センターの特許一覧

特許7535587医療システムおよび医療システムの作動方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-07
(45)【発行日】2024-08-16
(54)【発明の名称】医療システムおよび医療システムの作動方法
(51)【国際特許分類】
   A61B 1/00 20060101AFI20240808BHJP
【FI】
A61B1/00 620
【請求項の数】 9
(21)【出願番号】P 2022547429
(86)(22)【出願日】2021-07-26
(86)【国際出願番号】 JP2021027564
(87)【国際公開番号】W WO2022054428
(87)【国際公開日】2022-03-17
【審査請求日】2023-02-06
(31)【優先権主張番号】63/076,408
(32)【優先日】2020-09-10
(33)【優先権主張国・地域又は機関】US
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和2年度、国立研究開発法人日本医療研究開発機構、「先進的医療機器・システム等技術開発事業」「外科手術のデジタルトランスフォーメーション:情報支援内視鏡外科手術システムの開発」委託研究開発、産業技術力強化法第17条の適用を受ける特許出願
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(73)【特許権者】
【識別番号】510097747
【氏名又は名称】国立研究開発法人国立がん研究センター
(74)【代理人】
【識別番号】100118913
【弁理士】
【氏名又は名称】上田 邦生
(74)【代理人】
【識別番号】100142789
【弁理士】
【氏名又は名称】柳 順一郎
(74)【代理人】
【識別番号】100201466
【弁理士】
【氏名又は名称】竹内 邦彦
(72)【発明者】
【氏名】高山 裕行
(72)【発明者】
【氏名】佐々井 亮太
(72)【発明者】
【氏名】柳原 勝
(72)【発明者】
【氏名】水谷 千春
(72)【発明者】
【氏名】長谷川 寛
(72)【発明者】
【氏名】北口 大地
(72)【発明者】
【氏名】竹下 修由
(72)【発明者】
【氏名】小島 成浩
(72)【発明者】
【氏名】古澤 悠貴
(72)【発明者】
【氏名】杵淵 裕美
(72)【発明者】
【氏名】伊藤 雅昭
【審査官】後藤 昌夫
(56)【参考文献】
【文献】特開平09-038030(JP,A)
【文献】特開平09-266882(JP,A)
【文献】特開2007-222239(JP,A)
【文献】米国特許出願公開第2013/0331644(US,A1)
【文献】米国特許出願公開第2014/0005475(US,A1)
【文献】国際公開第2018/235255(WO,A1)
【文献】国際公開第2020/070883(WO,A1)
【文献】特開平05-284411(JP,A)
【文献】特開平07-023271(JP,A)
【文献】特開2006-229322(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00-1/32
(57)【特許請求の範囲】
【請求項1】
対象物を含む画像を取得する内視鏡と、
該内視鏡を移動させる移動装置と、
前記対象物の位置に基づいて前記移動装置を制御する制御装置と、を備え、
該制御装置は、
前記内視鏡を第1速度で前記対象物に追従させる第1制御モードおよび前記内視鏡を前記第1速度よりも遅い第2速度で前記対象物に追従させる第2制御モードで前記移動装置を制御可能であり、
前記対象物が前記内視鏡の視野内に設定された所定の3次元領域の外側に位置する場合、前記第1制御モードで前記移動装置を制御し、
前記対象物が前記所定の3次元領域の内側に位置する場合、前記第2制御モードで前記移動装置を制御する、医療システム。
【請求項2】
前記3次元領域は、前記内視鏡の光軸に直交する前記3次元領域の横断面が前記内視鏡の先端に近付く程小さくなる形状を有する、請求項1に記載の医療システム。
【請求項3】
前記内視鏡が、ステレオ画像を取得可能であり、
前記制御装置が、前記ステレオ画像を用いて前記対象物の3次元位置を算出する、請求項1に記載の医療システム。
【請求項4】
前記対象物が、処置具であり、
前記制御装置が、
前記処置具の種類を認識し、
前記処置具の前記種類に応じて、前記内視鏡の光軸に直交する前記3次元領域の横断面のサイズおよび形状の少なくとも一方を変更する、請求項1に記載の医療システム。
【請求項5】
前記制御装置は、前記画像の中心に前記対象物が向かうように前記移動装置を前記第1制御モードおよび前記第2制御モードで制御する、請求項1に記載の医療システム。
【請求項6】
前記制御装置は、前記対象物が前記3次元領域内に入るまで前記移動装置を前記第1制御モードで制御する、請求項1に記載の医療システム。
【請求項7】
前記制御装置が、
処置の種類を認識し、
前記処置の種類に応じて前記3次元領域のサイズおよび形状の少なくとも一方を変更する、請求項1に記載の医療システム。
【請求項8】
前記制御装置が、前記内視鏡の視野角に応じて、前記内視鏡の光軸に直交する前記3次元領域の横断面のサイズを変更する、請求項1に記載の医療システム。
【請求項9】
対象物を含む画像を取得する内視鏡移動させる移動装置を前記対象物の位置に基づいて制御する制御装置を備える医療システムの作動方法であって、
前記制御装置が、
前記対象物が前記内視鏡の視野内に設定された所定の3次元領域の外側に位置する場合、前記内視鏡を第1速度で前記対象物に追従させる第1制御モードで前記移動装置を制御し、
前記対象物が前記所定の3次元領域の内側に位置する場合、前記第1速度よりも遅い第2速度で前記対象物に追従させる第2制御モードで前記移動装置を制御する、医療システムの作動方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医療システムおよび制御方法に関するものであり、特に、対象物に内視鏡を追従させる機能を有する医療システムおよびその制御方法に関するものである。本願は、2020年09月10日に、アメリカ合衆国に仮出願された米国特許仮出願第63/076,408号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
従来、内視鏡が処置具のような対象物に追従することによって半自律的に内視鏡の視野が移動するシステムが提案されている(例えば、特許文献1参照。)。
術者にとって使い勝手の良い追従を実現するためには、内視鏡の過度な追従を抑制し視野の過度な移動を防ぐことが望ましい。すなわち、対象物の全ての動きに内視鏡が追従する場合、視野が不安定になり、術者がストレスを感じることがある。また、鈍的剥離等の処置の際には視野が静止していることが望ましく、視野の移動は処置の妨げとなり得る。
【0003】
特許文献1では、画像の中心領域の周囲に広がる許容領域が画像内に設定され、処置具が許容領域の外に出た場合に処置具が中心領域に戻るように内視鏡が追従し、処置具が中心領域に入った場合に追従が終了する。この構成によれば、処置具が許容領域および中心領域の内側に留まっている限りは処置具に対して内視鏡が追従しないので、視野の過度な移動を抑制することができる。
【先行技術文献】
【特許文献】
【0004】
【文献】米国特許出願公開第2002/0156345号明細書
【発明の概要】
【発明が解決しようとする課題】
【0005】
術者にとって使い勝手の良い追従を実現するためには、内視鏡の過度な追従の抑制に加えて、対象物を画像内の中央に捉えること、および、対象物を奥行方向の適切な距離に捉えること、の3つの条件を満たすことがさらに望ましい。
特許文献1の許容領域は、内視鏡画像に対して設定された2次元の領域である。すなわち、特許文献1は、内視鏡を画像の奥行方向も含む3次元方向に処置具に追従させることを考慮していない。したがって、良好な使い勝手を実現することが困難である。
【0006】
本発明は、上述した事情に鑑みてなされたものであって、使い勝手の良い対象物に対する内視鏡の追従を実現することができる医療システムおよび制御方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様は、対象物を含む画像を取得する内視鏡と、該内視鏡を移動させる移動装置と、前記対象物の位置に基づいて前記移動装置を制御する制御装置と、を備え、該制御装置は、前記内視鏡を第1速度で前記対象物に追従させる第1制御モードおよび前記内視鏡を前記第1速度よりも遅い第2速度で前記対象物に追従させる第2制御モードで前記移動装置を制御可能であり、前記対象物が前記内視鏡の視野内に設定された所定の3次元領域の外側に位置する場合、前記第1制御モードで前記移動装置を制御し、前記対象物が前記所定の3次元領域の内側に位置する場合、前記第2制御モードで前記移動装置を制御する、医療システムである。
【0008】
本発明の他の態様は、対象物を含む画像を取得する内視鏡移動させる移動装置を前記対象物の位置に基づいて制御する制御装置を備える医療システムの作動方法であって、前記制御装置が、前記対象物が前記内視鏡の視野内に設定された所定の3次元領域の外側に位置する場合、前記内視鏡を第1速度で前記対象物に追従させる第1制御モードで前記移動装置を制御し、前記対象物が前記所定の3次元領域の内側に位置する場合、前記第1速度よりも遅い第2速度で前記対象物に追従させる第2制御モードで前記移動装置を制御する、医療システムの作動方法である。
【発明の効果】
【0009】
本発明によれば、処置具の奥行方向の位置に関わらず処置具に対する内視鏡の過度な追従を抑制することができるという効果を奏する。
【図面の簡単な説明】
【0010】
図1】本発明の一実施形態に係る医療システムの外観図である。
図2図1の医療システムのブロック図である。
図3】内視鏡の視野内に設定される3次元の特定領域を示す図である。
図4A】特定領域の横断面の一例を示す内視鏡画像である。
図4B】特定領域の横断面の他の例を示す内視鏡画像である。
図4C】特定領域の横断面の他の例を示す内視鏡画像である。
図5図3の深さ位置X1,X2,X3における特定領域の内視鏡画像上のサイズを説明する図である。
図6】内視鏡の追従による内視鏡画像内での処置具の移動を説明する図である。
図7A】特定領域の算出方法の具体例を説明する図である。
図7B】特定領域の算出方法の具体例を説明する図である。
図7C】特定領域の算出方法の具体例を説明する図である。
図7D】特定領域の算出方法の具体例を説明する図である。
図8A図1の制御装置によって実行される制御方法のフローチャートである。
図8B図1の制御装置によって実行される制御方法の変形例のフローチャートである。
図9A】内視鏡の視野角に応じた特定領域のサイズの設定方法を説明する図である。
図9B】内視鏡の視野角に応じた特定領域のサイズの設定方法を説明する図である。
図10】内視鏡の追従による内視鏡画像内での処置具の移動の変形例を説明する図である。
図11】参考例における3次元の特定領域を示す図である。
【発明を実施するための形態】
【0011】
以下に、本発明の一実施形態に係る医療システムおよび制御方法について図面を参照して説明する。
図1に示されるように、本実施形態に係る医療システム10は、患者の体内に挿入される内視鏡1および処置具2と、内視鏡1を保持し内視鏡1を体内で移動させる移動装置3と、内視鏡1および移動装置3と接続され移動装置3を制御する制御装置4と、内視鏡画像を表示する表示装置5とを備える。
【0012】
内視鏡1は、例えば硬性鏡であり、撮像素子を有し内視鏡画像を取得する撮像部1a(図2参照。)を備える。内視鏡1は、処置具2の先端2aを含む内視鏡画像D(図5および図6参照。)を撮像部1aによって取得し、内視鏡画像Dを制御装置4に送信する。撮像部1aは、例えば、内視鏡1の先端部に設けられた3次元カメラであり、処置具2の先端2aの3次元位置の情報を含むステレオ画像を内視鏡画像Dとして取得する。
【0013】
移動装置3は、複数の関節3bを有するロボットアーム3aを備え、ロボットアーム3aの先端部において内視鏡1の基端部を保持する。一例において、ロボットアーム3aは、X軸に沿う前後の直線移動、Y軸回りの回転(ピッチ)およびZ軸回りの回転(ヨー)の3つの運動の自由度を有し、好ましくはX軸回りの回転(ロール)の運動の自由度をさらに有する。X軸は、内視鏡1の光軸Aと同一の直線上の軸であり、Y軸およびZ軸は、光軸Aと直交し内視鏡画像Dの横方向および縦方向に対応する方向にそれぞれ延びる軸である。
【0014】
図2に示されるように、制御装置4は、中央演算処理装置のような少なくとも1つのプロセッサ4aと、メモリ4bと、記憶部4cと、入力インタフェース4dと、出力インタフェース4eと、ネットワークインタフェース4fとを備える。
内視鏡1から送信された内視鏡画像Dは、入力インタフェース4dを経由して制御装置4に逐次入力され、出力インタフェース4eを経由して表示装置5に逐次出力され、表示装置5に表示される。術者は、表示装置5に表示される内視鏡画像Dを観察しながら体内に挿入された処置具2を操作し、処置具2によって体内の患部の処置を行う。
【0015】
記憶部4cは、ROM(read-only memory)またはハードディスク等の不揮発性の記録媒体であり、プロセッサ4aに処理を実行させるために必要なプログラムおよびデータを記憶している。制御装置4の後述の機能は、プログラムがメモリ4bに読み込まれプロセッサ4aによって実行されることによって、実現される。制御装置4の一部の機能は、専用の論理回路等によって実現されてもよい。
【0016】
制御装置4は、マニュアルモードおよび追従モードを有する。マニュアルモードは、術者等の操作者が内視鏡1を手動で操作するモードであり、追従モードは、制御装置4が処置具(対象物)2の先端2aに内視鏡1を自動的に追従させるモードである。
制御装置4は、操作者からの指示に基づいてマニュアルモードと追従モードとを切り替える。例えば、制御装置4は、人間の音声を認識することができる人工知能を備え、「マニュアルモード」の音声を認識したときにマニュアルモードへ切り替え、「追従モード」の音声を認識したときに追従モードへ切り替える。制御装置4は、内視鏡1に設けられたマニュアル操作スイッチ(図示略)のオンオフに従ってマニュアルモードと追従モードとを切り替えてもよい。
【0017】
マニュアルモードにおいて、例えば、術者等の操作者は、制御装置4に接続された操作装置(図示略)を操作することによって、ロボットアーム3aを遠隔操作することができる。
追従モードにおいて、制御装置4は、処置具2の先端2aの3次元位置に基づいて移動装置3を制御することによって、内視鏡画像Dの中心に向かって、かつ、内視鏡画像Dの所定の深さに向かって先端2aが移動するように、先端2aに内視鏡1を3次元的に追従させる。具体的には、制御装置4は、内視鏡画像D内の処置具2を認識し、内視鏡画像Dを用いて先端2aの3次元位置を算出する。次に、制御装置4は、内視鏡1の光軸Aが先端2aに向かって光軸Aに交差する方向に移動し、かつ、内視鏡1の先端が先端2aから所定の観察距離だけ離れた位置へ向かって光軸Aに沿う奥行方向に移動するように、各関節3bを動作させる。
【0018】
ここで、追従モードは、内視鏡1を第1速度で処置具2の先端2aに追従させる第1制御モードと、内視鏡1を第1速度よりも遅い第2速度で処置具2の先端2aに追従させる第2制御モードとを含む。図3に示されるように、制御装置4は、先端2aが所定の特定領域Bの外側に存在する場合に第1制御モードで移動装置3を制御し、先端2aが特定領域Bの内側に存在する場合に第2制御モードで移動装置3を制御する。したがって、先端2aが特定領域B内に配置されているとき、先端2aの移動に対する内視鏡1の追従の感度が低下し、先端2aに対する内視鏡1の過度な追従が抑制される。
【0019】
特定領域Bは、内視鏡1の視野F内に設定され、相互に直交するX方向、Y方向およびZ方向に寸法を有する所定の3次元領域である。X方向は、内視鏡1の光軸Aに平行な奥行方向である。Y方向およびZ方向は、光軸Aに直交する方向であり、内視鏡画像Dの横方向および縦方向にそれぞれ平行な方向である。
【0020】
特定領域Bは、内視鏡1の先端からX方向に離れた位置に配置され、X方向において視野Fの一部の範囲に設定される。また、特定領域Bは、光軸Aを含むと共に、横断面が内視鏡1の先端に近付く程小さくなる3次元形状を有する。したがって、内視鏡画像D上における特定領域Bは、内視鏡画像Dの中心を含む中央部分の領域である。図4Aから図4Cに示されるように、光軸Aに直交する特定領域Bの横断面の形状は、矩形、円形および楕円形のいずれであってもよく、多角形等の他の形状であってもよい。特定領域Bは、内視鏡画像Dに重畳表示されてもよく、非表示であってもよい。
【0021】
一例において、特定領域Bの横断面の形状は、内視鏡画像Dの形状と同一である。例えば、内視鏡画像Dが矩形である場合、特定領域Bの横断面も矩形である。内視鏡画像D上に表示される特定領域Bは内視鏡画像Dの観察を妨げる可能性があるので、特定領域Bは非表示であることが好ましい。特定領域Bが内視鏡画像Dと同一形状である場合、術者は、非表示である特定領域Bの位置を認識し易くなる。
【0022】
一般に、内視鏡1の視野Fは、内視鏡1の先端または先端の近傍に頂点を有する錐状である。特定領域Bは、内視鏡1の視野Fと共通の頂点を有する錐台状であることが好ましい。このような特定領域Bによれば、図5に示されるように、X方向の位置X1,X2,X3に関わらず、内視鏡画像D上における特定領域Bの見かけのサイズおよび位置は一定である。
【0023】
内視鏡画像D上での特定領域Bのサイズ(すなわち、視野Fの横断面に対する特定領域Bの横断面のサイズ)は、内視鏡画像Dのサイズの25%以上55%以下であることが好ましい。錐台状の特定領域Bの場合、特定領域Bの頂角βは、内視鏡1の視野角αの25%以上55%であることが好ましい。この構成によれば、処置具2の先端2aを内視鏡画像Dの中央に配置する中央配置と、先端2aに対する内視鏡1の過度な追従の抑制とを両立することができる。
【0024】
特定領域Bのサイズが内視鏡画像Dのサイズの25%未満である場合、先端2aの移動に対する内視鏡1の過度の追従を抑制する効果が不十分となり、視野Fの頻繁な移動を招き得る。特定領域Bのサイズが内視鏡画像Dのサイズの55%よりも大きい場合、先端2aが内視鏡画像Dの中心から離れた位置に配置されることが多くなり、先端2aの中央配置の実現が困難になり得る。
【0025】
図3から図5に示されるように、特定領域Bは、非追従領域B1および追従領域B2を含む。非追従領域B1は、光軸Aを含む特定領域Bの中央部分の領域である。追従領域B2は、非追従領域B1を囲む特定領域Bの外側部分の領域である。特定領域Bと同様に、非追従領域B1は、内視鏡1の先端に近付く程横断面が小さくなる3次元形状を有し、好ましくは錐台状である。
図6に示されるように、処置具2の先端2aが追従領域B2の外側に配置されているとき、制御装置4は、例えばロボットアーム3aをY軸回りおよびZ軸回りに回転させることによって、先端2aに内視鏡1を第1速度V1で追従させる。
【0026】
先端2aが非追従領域B1内に配置されているとき、制御装置4は、先端2aに内視鏡1を追従させず、内視鏡1の位置を維持する。具体的には、制御装置4は、各関節3bの角速度をゼロに制御する。したがって、非追従領域B1内での第2速度はゼロである。
先端2aが追従領域B2内に配置されているとき、制御装置4は、1つ前の制御サイクルにおける内視鏡1の動作を継続する。すなわち、1つ前の制御サイクルにおいて内視鏡1の位置を維持していた場合、制御装置4は、現在の制御サイクルにおいても内視鏡1の位置を維持する。一方、1つ前の制御サイクルにおいて内視鏡1を先端2aに追従させていた場合、制御装置4は、現在の制御サイクルにおいても内視鏡1を先端2aに追従させる。このときの追従速度は、ゼロよりも大きい第2速度V2である。
【0027】
上記の制御において、追従領域B2は、先端2aへの内視鏡1の追従の開始のトリガとして機能し、非追従領域B1は、先端2aへの内視鏡1の追従の終了のトリガとして機能する。すなわち、先端2aが、追従領域B2から外側の領域Cへ出たときに、先端2aに対する内視鏡1の追従が開始し、先端2aが、外側の領域Cから追従領域B2を経由して非追従領域B1へ入ったときに、先端2aに対する内視鏡1の追従が終了する。
【0028】
第1速度V1および第2速度V2はそれぞれ一定であり、内視鏡1の追従速度は2段階で変化してもよい。
あるいは、第1速度V1および第2速度V2は、内視鏡画像Dの中心から先端2aまでの距離に応じて変化してもよい。例えば、制御装置4は、内視鏡1の光軸Aから先端2aまでのY方向およびZ方向の距離を算出し、距離が大きい程、各速度V1,V2を速くしてもよい。この場合、内視鏡1の追従速度V1,V2が、外側領域Cから非追従領域B1まで連続的に低下してもよい。
【0029】
図7Aから図7Dは、特定領域Bの算出方法の具体例を説明している。
図7Aに示されるように、制御装置4は、処置具2の先端2aを通り光軸Aに垂直なYZ平面Pと光軸Aとの交点を基準点Eに設定する。次に、制御装置4は、基準点Eを中心とする直方体または球形の領域を特定領域Bとして定義する。
図7Bから図7Cは、特定領域Bの実サイズ[mm]の算出方法を説明している。
観察距離di(i=1,2,…)における内視鏡画像DのZ方向(縦方向)のサイズ(Z方向の視野Fのサイズ)Lmax_dz[mm]は、図7Cの幾何学的関係から下式で表される。α[deg]は、内視鏡1の視野角(半画角)である。
Lmax_dz=di*tanα
また、内視鏡画像DのZ方向のピクセルサイズLmax_dz_pixel[px]は、既知であり、例えば下式の通りである。
Lmax_dz_pixel=1080/2[pixel]
したがって、特定領域BのZ方向の実サイズL_dz[mm]は、特定領域BのZ方向のピクセルサイズ[px]を用いて下式から算出される。
L_dz=Lmax_dz*(dz/Lmax_dz_pixel)
【0030】
特定領域BのY方向の実サイズL_dy[mm]も、L_dzと同様の方法によって算出される。
特定領域BのX方向の実サイズL_dxも設定される。例えば、実サイズL_dxは、観察距離diによらずに一定値に設定されてもよい。あるいは、図7Dに示されるように、基準となる観察距離di(例えば、d1)における実サイズL_dxが予め設定され、その他の観察距離di(例えば、d2)におけるL_dxは、観察距離の変化に比例した値に設定されてもよい。
【0031】
次に、医療システム10の作用について説明する。
術者は、表示装置5に表示される内視鏡画像Dを観察しながら、体内に挿入された処置具2を操作することによって処置を行う。処置中、術者は、例えば音声によって、マニュアルモードから追従モードへ、または、追従モードからマニュアルモードへ切り替える。
図8Aに示されるように、ステップS1において追従モードに切り替えられたとき、制御装置4は、ステップS2~S8の制御方法を実行し、追従モードで移動装置3を制御する。
制御方法は、処置具2の先端2aの位置が特定領域B内であるか否かを判定するステップS2と、先端2aの位置が特定領域B外である場合、処置具2の先端2aが非追従領域B1内に到達するまで内視鏡1を処置具2に追従させるステップS3~S8とを含む。
【0032】
追従モードの開始後(ステップS1のYES)、制御装置4は、ステレオ画像である内視鏡画像Dを用いて先端2aの3次元位置を算出し、先端2aが所定の特定領域B内であるか否かを判定する(ステップS2)。先端2aが特定領域B内に位置する場合(ステップS2のYES)、制御装置4は、処置具2に内視鏡1を自動的に追従させる制御は実行せず、内視鏡1の位置を維持する。先端2aが特定領域Bの外側に位置する場合(ステップS2のNO)、制御装置4は、処置具2に対する内視鏡1の追従を開始する(ステップS3)。
【0033】
処置具2の追従において、制御装置4は、先端2aの位置に基づいて第1制御モードおよび第2制御モードのいずれかを選択する。図6に示されるように、追従開始時、先端2aは特定領域Bの外側に位置するので(ステップS4のNO)、制御装置4は、移動装置3を第1制御モードで制御することによって、内視鏡画像Dの中心に処置具2の先端2aが向かうように第1速度V1で内視鏡1を処置具2の先端2aに追従させる(ステップS5)。制御装置4は、先端2aが特定領域B内に入るまで、移動装置3を第1制御モードで制御する。
【0034】
先端2aが特定領域B内に入った後(ステップS4のYES)、制御装置4は、続いて第2制御モードで制御することによって、内視鏡画像Dの中心に処置具2の先端2aが向かうように第2速度V2で内視鏡1を処置具2の先端2aに追従させる。第2速度V2は第1速度V1よりも遅いので、先端2aの動きに対する内視鏡1の追従の応答性が低下する。すなわち、先端2aが外側の領域Cから特定領域Bに戻った後、処置具2の動きに内視鏡1が過度に追従することが抑制される。制御装置4は、先端2aが非追従領域B1内に入るまで、移動装置3を第2制御モードで制御する。
処置具2の先端2aが非追従領域B1内に入ったとき(ステップS6のYES)、制御装置4は、処置具2に対する内視鏡1の追従を終了する(ステップS8)。
追従モードが継続している間(ステップS9のNO)、制御装置4は、ステップS1~S8を繰り返す。
【0035】
ここで、術者にとって使い勝手の良い内視鏡1の追従を実現するためには、過度な追従を抑制すること、処置具2の先端2aを内視鏡画像Dの中央に捉えること、および、処置具2の先端2aをX方向の適切な距離に捉えること、の3つの条件を満たすように、内視鏡1を処置具2に3次元的に追従させることが望ましい。
本実施形態によれば、特定領域Bが視野F内に設定された3次元領域であるので、内視鏡1の先端と特定領域Bとの間のX方向の距離およびX方向の各位置における特定領域Bの横断面のサイズ等、上記の3つの条件を満たすように特定領域Bを適切に設計することができる。これにより、使い勝手の良い処置具2に対する内視鏡1の追従を実現することができる。
【0036】
また、特定領域Bは、横断面が内視鏡1の先端に近付く程小さくなる形状を有するので、X方向の位置の違いによる内視鏡画像D上での特定領域Bの見かけのサイズの違いが抑制され、好ましくは、X方向の位置に関わらず特定領域Bの見かけのサイズが一定である。これにより、先端2aのX方向の位置に関わらず、内視鏡1の過度な追従の抑制と先端2aの中央配置とを両立することができる。
【0037】
図11は、参考例としての特定領域B’を示している。図11に示されるように、内視鏡画像Dの画像平面上の2次元の領域をX方向に単に拡張することによって特定領域B’を形成した場合、特定領域B’は、内視鏡1の先端からX方向に延びる領域となる。したがって、先端2aをX方向の適切な距離に捉えるように内視鏡1を処置具2に追従させることができない。
また、特定領域B’の横断面のサイズが一定となるので、X方向の位置に応じて内視鏡画像D上で特定領域Bの見かけのサイズが異なり、処置具2に対する内視鏡1の過度な追従の抑制と先端2aの中央配置との両立が困難になる。具体的には、内視鏡1の先端からX方向に離れた位置X3では特定領域Bの見かけのサイズが小さくなるので、先端2aの中央配置は実現されるが、内視鏡1の過度な追従を抑制することができない。一方、内視鏡1の先端にX方向に近い位置X1では特定領域Bの見かけのサイズが大きくなるので、内視鏡1の過度な追従を抑制することはできるが、先端2aの中央配置を実現することが困難になる。
【0038】
上記実施形態において、先端2aが追従領域B2内に配置されているとき、制御装置4は、1つ前の制御サイクルにおける内視鏡1の動作を継続させることとしたが、これに代えて、常に内視鏡1をゼロよりも大きい第2速度V2で先端2aに追従させてもよい。すなわち、制御装置4は、先端2aが外側領域Cから追従領域B2に入った場合、および、先端2aが非追従領域B1から追従領域B2に入った場合のいずれにおいても、第2制御モードで移動装置3を制御してもよい。
この場合、図8Bに示されるように、制御装置4は、先端2aが非追従領域B1内であるか否かを判定し(ステップS2’)、先端2aが非追従領域B1から追従領域B2へ出たときに(ステップS2’のNO)、処置具2に対する内視鏡1の追従を開始する(ステップS3)。
【0039】
追従開始時、先端2aは追従領域B2内に位置するので(ステップS4のYESかつステップS6のNO)、制御装置4は、移動装置3を第2制御モードで制御することによって、内視鏡画像Dの中心に処置具2の先端2aが向かうように第2速度V2で内視鏡1を処置具2の先端2aに追従させる(ステップS7)。制御装置4は、先端2aが非追従領域B1内に入るまで、移動装置3を第2制御モードで制御する。前述のように、第2速度V2は第1速度V1よりも遅いので、先端2aが追従領域B2内を移動している間は、処置具2の動きに内視鏡1が過度に追従することが抑制される。
第2制御モードでの内視鏡1の追従に関わらず先端2aが特定領域Bの外側へ出た場合(ステップS4のNO)、制御装置4は、第2制御モードから第1制御モードへ切り替え(ステップS5)、先端2aが特定領域B内に戻るまで、移動装置3を第1制御モードで制御する。
【0040】
上記実施形態において、制御装置4は、図9Aおよび図9Bに示されるように、内視鏡1の視野角αに応じて、特定領域Bの横断面のサイズを変更してもよい。
例えば、記憶部4cに、各型式の内視鏡1の視野角αの値が記憶されている。制御装置4は、ロボットアーム3aに保持されている内視鏡1の型式を認識し、認識された型式の視野角αの値を記憶部4cから読み出し、特定領域Bの頂角βを視野角αの所定の比率に設定する。例えば、視野角αの値に25%~55%から選択される所定の比率kを乗算することによって、頂角βを算出する。これにより、視野角αに比例して特定領域Bの横断面のサイズが大きくなる。
この構成によれば、使用する内視鏡1の視野角αの差異に関わらず、視野Fの横断面に対する特定領域Bの横断面の面積比が一定となる。したがって、表示装置5に表示される内視鏡画像Dにおける特定領域Bの見かけのサイズを、内視鏡1の視野角αに関わらず同一にすることができる。
【0041】
上記実施形態において、特定領域Bが、処置具2に内視鏡1を追従させない非追従領域B1を含むこととしたが、これに代えて、図10に示されるように、特定領域Bが、非追従領域B1を含まなくてもよい。この変形例において、制御装置4は、処置具2の先端2aが内視鏡画像Dの中心に配置されるまで内視鏡1を第2速度V2で処置具2に追従させ、先端2aが内視鏡画像Dの中心に配置されたときに追従を終了する。
図6の場合、先端2aが、内視鏡画像Dの中心から離れた追従領域B2の端に到達したときに追従が終了する。これに対し、図10の場合、先端2aが内視鏡画像Dの中心に到達するまで内視鏡1が追従するので、内視鏡画像Dの中心に先端2aを配置した状態で処置を行うことができる。
【0042】
図10の変形例において、第2速度V2は、好ましくは第1速度V1の50%以下である。第2速度V2は、一定であってもよく、処置具2の先端2aが内視鏡画像Dの中心に近づくにつれて次第に低下してもよい。第2速度V2が第1速度V1の50%よりも速い場合、内視鏡1の過度の追従を抑制する効果を十分に得ることが難しい。
【0043】
上記実施形態において、特定領域Bの横断面の形状が変更可能であってもよい。例えば、横断面の形状が、図4Aから図4Cに示される四角、円および楕円の中から選択可能であり、各形状における横断面のサイズを決定するパラメータdy,dz,R,a,bが設定可能であってもよい。形状の選択およびパラメータの設定は、術者によって手動で行われてもよく、制御装置4によって自動で行われてもよい。
この構成によれば、特定領域Bの横断面の形状およびサイズを、術式、処置内容または術者の好み等に応じて設定することができる。
【0044】
一例において、先端2aが内視鏡画像Dの縦方向に頻繁に大きく移動する処置の場合、横断面を図4Cに示される縦長の楕円に設定することによって、視野Fが先端2aの縦方向の移動に過度に応答して縦方向に振動してしまうことを防ぎ、処置中の先端2aの縦方向の移動に関わらず視野Fを静止させることができる。
【0045】
制御装置4は、処置具2または処置の種類を認識し、特定領域Bの形状、X、YおよびZ方向のサイズ、ならびに位置の少なくとも1つを処置具2または処置の種類に応じて自動的に変更してもよい。さらに、制御装置4は、第1速度および第2速度を処置具2または処置の種類に応じて自動的に変更してもよい。例えば、制御装置4は、内視鏡画像Dに基づいて処置具2の種類を認識し、処置具2の種類から処置の種類を認識する。
特定領域Bの適切な形状、サイズおよび位置は、処置具2または処置の種類に応じて異なる。上記構成によれば、特定領域Bの形状、サイズおよび位置を、処置具2または処置の種類に適したものに自動的に設定することができる。
【0046】
一例において、処置具2の種類が把持鉗子である場合、内視鏡1の先端からより離れた位置に、X方向により大きい特定領域Bが設定される。例えば、内視鏡1の先端から90mm~190mmの範囲が特定領域Bに設定される。
他の例において、処置具2の種類がエネルギ処置具である場合、精緻な処置を行うために、内視鏡1の先端により近い位置に特定領域Bが設定される。例えば、内視鏡1の先端から60mm~90mmの範囲が特定領域Bに設定される。さらに、鈍的剥離操作中の視野Fの移動を防ぐために、特定領域Bの横断面のサイズを大きくしたり、第2速度を低下させたりしてもよい。
さらに他の例において、制御装置4が、処置中の先端2aの動きを学習し、処置中の先端2aの動作範囲が特定領域B内に含まれるように特定領域Bの形状およびサイズを変更してもよい。
【0047】
上記実施形態において、特定領域Bと外側の領域Cとの間の明確な境界が存在しなくてもよい。すなわち、制御装置4は、内視鏡画像Dの中心から先端2aまでの距離に応じて、追従速度を連続的に変化させてもよい。
例えば、制御装置4は、下式に基づいてY軸回りの回転の角速度VpおよびZ軸回りの回転の角速度Vyを算出し、ロボットアーム3aを算出された角速度Vp,Vyでそれぞれ回転させてもよい。pyは内視鏡画像Dの中心から先端2aまでのY方向の距離であり、pzは内視鏡画像Dの中心から先端2aまでのZ方向の距離であり、GyおよびGzは所定の比例係数である。
Vp=Gz*pz
Vy=Gy*py
【0048】
上記実施形態において、内視鏡1が、3次元のステレオ画像を内視鏡画像Dとして取得することとしたが、これに代えて、2次元の内視鏡画像Dを取得してもよい。この場合、例えば、内視鏡1の先端に設けられた距離センサ等の他の測距手段によって、処置具2の先端2aのX方向の位置を測定してもよい。
【0049】
上記実施形態において、内視鏡1の追従の対象物が処置具2であることとしたが、対象物はこれに限定されるものではなく、手術中に内視鏡画像D内に映る任意の物体であってもよい。例えば、対象物は、病変部、臓器、血管、マーカ、ガーゼ等の医用材料、または、処置具2以外の医療器具であってもよい。
【符号の説明】
【0050】
1 内視鏡
1a 撮像部
2 処置具(対象物)
3 移動装置
3a ロボットアーム
3b 関節
4 制御装置
5 表示装置
10 医療システム
A 光軸
B 特定領域(所定の3次元領域)
B1 非追従領域(特定領域)
B2 追従領域(特定領域)
C 外側の領域
D 内視鏡画像
F 視野
α 視野角
図1
図2
図3
図4A
図4B
図4C
図5
図6
図7A
図7B
図7C
図7D
図8A
図8B
図9A
図9B
図10
図11