(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-17
(45)【発行日】2024-07-25
(54)【発明の名称】制御装置
(51)【国際特許分類】
A61B 1/045 20060101AFI20240718BHJP
A61B 1/00 20060101ALI20240718BHJP
【FI】
A61B1/045 618
A61B1/00 655
A61B1/00 620
(21)【出願番号】P 2022547657
(86)(22)【出願日】2021-09-09
(86)【国際出願番号】 JP2021033205
(87)【国際公開番号】W WO2022054882
(87)【国際公開日】2022-03-17
【審査請求日】2023-02-03
(32)【優先日】2020-09-10
(33)【優先権主張国・地域又は機関】US
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和2年度、国立研究開発法人日本医療研究開発機構、「先進的医療機器・システム等技術開発事業」「外科手術のデジタルトランスフォーメーション:情報支援内視鏡外科手術システムの開発」委託研究開発、産業技術力強化法第17条の適用を受ける特許出願
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(73)【特許権者】
【識別番号】510097747
【氏名又は名称】国立研究開発法人国立がん研究センター
(74)【代理人】
【識別番号】100118913
【氏名又は名称】上田 邦生
(74)【代理人】
【識別番号】100142789
【氏名又は名称】柳 順一郎
(74)【代理人】
【識別番号】100201466
【氏名又は名称】竹内 邦彦
(72)【発明者】
【氏名】荻本 浩人
(72)【発明者】
【氏名】佐々井 亮太
(72)【発明者】
【氏名】柳原 勝
(72)【発明者】
【氏名】長谷川 寛
(72)【発明者】
【氏名】北口 大地
(72)【発明者】
【氏名】竹下 修由
(72)【発明者】
【氏名】小島 成浩
(72)【発明者】
【氏名】古澤 悠貴
(72)【発明者】
【氏名】杵淵 裕美
(72)【発明者】
【氏名】伊藤 雅昭
【審査官】北島 拓馬
(56)【参考文献】
【文献】国際公開第2019/116592(WO,A1)
【文献】国際公開第2018/235255(WO,A1)
【文献】国際公開第2018/179681(WO,A1)
【文献】特開2007-301378(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00 - 1/32
G02B 23/24 -23/26
(57)【特許請求の範囲】
【請求項1】
内視鏡の移動を制御し該内視鏡を処置具に追従させる制御装置であって、
プロセッサを備え、
該プロセッサが、
前記処置具の位置を含む位置情報を取得し、
シーン情報を取得し、該シーン情報は前記内視鏡によって観察される処置シーンと関連する情報であり、
前記シーン情報に基づいて目標点のオフセットパラメータを決定し、該オフセットパラメータは、前記内視鏡の視野内の所定の基準点に対する前記目標点の位置を決定するパラメータであり、
該オフセットパラメータに基づいて前記基準点に対する前記目標点の位置を設定し、
前記目標点の位置および前記処置具の前記位置に基づいて前記内視鏡の移動を制御することによって、前記処置具が前記目標点に配置されるように前記内視鏡を前記処置具に追従させる、制御装置。
【請求項2】
前記プロセッサが、
前記シーン情報として前記処置具の移動ベクトルを取得し、
該移動ベクトルに基づいて前記オフセットパラメータを決定する、請求項1に記載の制御装置。
【請求項3】
前記プロセッサが、前記移動ベクトルの方向に基づいて、前記処置具の移動方向において該処置具の前方の領域を前記視野の中心に配置する前記オフセットパラメータを決定する、請求項2に記載の制御装置。
【請求項4】
前記プロセッサが、
前記シーン情報に基づいて前記処置シーンを推定し、
推定された前記処置シーンに基づいて前記オフセットパラメータを決定する、請求項1に記載の制御装置。
【請求項5】
前記プロセッサが、
前記シーン情報として前記処置具の種類を取得し、
該処置具の種類に基づいて前記処置シーンを推定する、請求項4に記載の制御装置。
【請求項6】
前記処置シーンが剥離シーンであると推定された場合、
前記プロセッサが、前記処置具によって剥離される領域を前記視野の中心に配置する前記オフセットパラメータを決定する、請求項5に記載の制御装置。
【請求項7】
前記処置シーンが展開シーンであると推定された場合、
前記プロセッサが、前記処置具によって展開される領域を前記視野の中心に配置する前記オフセットパラメータを設定する、請求項5に記載の制御装置。
【請求項8】
前記プロセッサが、
前記シーン情報として前記処置具の作動状態を取得し、
該処置具の作動状態に基づいて前記処置シーンを推定する、請求項4に記載の制御装置。
【請求項9】
前記プロセッサが、
前記シーン情報として前記視野内の生体組織の解剖情報を取得し、
該解剖情報に基づいて前記処置シーンを推定する、請求項4に記載の制御装置。
【請求項10】
前記プロセッサが、前記処置具の3次元位置を含む前記位置情報を取得する、請求項1に記載の制御装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、制御装置、内視鏡システムおよび制御方法に関し、特に、内視鏡を処置具に追従させる制御を行う制御装置、内視鏡システムおよび制御方法に関するものである。
本出願は、2020年9月10日にアメリカ合衆国に仮出願された米国特許仮出願第63/076,408号の優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
腹腔鏡下手術において、術者は、モニタの画面に表示された内視鏡画像内の処置具を観察しながら処置具を操作する。処置具が内視鏡画像の端に位置したり内視鏡画像から外れたりする場合、術者のストレスが増大したり手術の継続が困難になったりするため、処置具を内視鏡画像の中心付近に位置させ続けることが重要である。そこで、内視鏡を処置具に追従させることによって処置具を内視鏡画像内の中心付近に配置し続ける装置が提案されている(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
術者が処置のために内視鏡画像の中心に捉えたい領域と、処置具との関係は、処置の内容に応じて異なる。したがって、特許文献1のように、処置具が内視鏡に対して固定された位置に配置されるように内視鏡を処置具に追従させる場合、術者が観察したい領域を内視鏡画像の中心に捉え続けることができない。
【0005】
例えば、
図22Aに示されるように、生体組織を左下から右上に向かって剥離する場合、術者は電気メス6の進行方向の前方の領域Cを観察したいにも関わらず、領域Cは内視鏡画像Bの右上端または外に配置される。
図22Bに示されるように、生体組織を2つの鉗子6を使用して展開する場合、術者は2つの鉗子6間の領域Cを観察したいにも関わらず、領域Cは内視鏡画像Bの左端または外に配置される。
【0006】
本発明は、上述した事情に鑑みてなされたものであって、処置具を処置シーンに応じて内視鏡画像内の適切な位置に配置することができる制御装置、内視鏡システムおよび制御方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様は、内視鏡の移動を制御し処置具に前記内視鏡を追従させる制御装置であって、プロセッサを備え、該プロセッサが、前記処置具の位置を含む位置情報を取得し、シーン情報を取得し、該シーン情報は前記内視鏡によって観察される処置シーンと関連する情報であり、前記シーン情報に基づいて目標点のオフセットパラメータを決定し、該オフセットパラメータは、前記内視鏡の視野内の所定の基準点に対する前記目標点の位置を決定するパラメータであり、該オフセットパラメータに基づいて前記基準点に対する前記目標点の位置を設定し、前記目標点の位置および前記処置具の前記位置に基づいて前記内視鏡の移動を制御することによって、前記処置具が前記目標点に配置されるように前記処置具に前記内視鏡を追従させる、制御装置である。
【0008】
本発明の参考例としての第1参考態様は、内視鏡と、該内視鏡を被検体内で移動させる移動装置と、該移動装置を制御し前記内視鏡を処置具に追従させる上記の制御装置と、を備える内視鏡システムである。
【0009】
本発明の参考例としての第2参考態様は、内視鏡の移動を制御し処置具に前記内視鏡を追従させる制御方法であって、前記処置具の位置を含む位置情報を取得する工程と、シーン情報を取得し、該シーン情報は前記内視鏡によって観察される処置シーンと関連する情報である、工程と、該シーン情報に基づいて目標点のオフセットパラメータを決定し、該オフセットパラメータは、前記内視鏡の視野内の所定の基準点に対する前記目標点の位置を決定するパラメータである、工程と、該オフセットパラメータに基づいて前記基準点に対する前記目標点の位置を設定する工程と、前記目標点の位置および前記処置具の前記位置に基づいて前記内視鏡の移動を制御することによって、前記処置具が前記目標点に配置されるように前記処置具に前記内視鏡を追従させる工程と、を含む、制御方法である。
【発明の効果】
【0010】
本発明によれば、処置具を処置シーンに応じて内視鏡画像内の適切な位置に配置することができるという効果を奏する。
【図面の簡単な説明】
【0011】
【
図1】第1実施形態に係る内視鏡システムの全体構成の外観図である。
【
図2A】
図1の内視鏡システムの全体構成を示すブロック図である。
【
図2B】
図1の内視鏡システムの制御装置の機能ブロック図である。
【
図3A】内視鏡の視野内に設定された基準点および目標点を説明する図である。
【
図3B】内視鏡画像内の基準点および目標点を説明する図である。
【
図4A】処置具の移動ベクトルを検出する方法の一例を説明する図である。
【
図4B】
図4Aの移動ベクトルから決定されるオフセットパラメータおよび目標点を説明する図である。
【
図5】処置具の移動ベクトルを検出する方法の他の例を説明する図である。
【
図7】第1実施形態に係る制御方法のフローチャートである。
【
図8】処置具の移動ベクトルとオフセットパラメータとの対応関係を表すパラメータテーブルの一例を示す図である。
【
図9】第1実施形態に係る制御方法の変形例のフローチャートである。
【
図10】第2実施形態に係る内視鏡システムの制御装置の機能ブロック図である。
【
図12】第2実施形態に係る制御方法のフローチャートである。
【
図13】第3実施形態に係る制御方法のフローチャートである。
【
図14A】剥離ラインと処置具の移動とを説明する内視鏡画像の一例である。
【
図14B】剥離ラインと処置具の移動とを説明する内視鏡画像の他の例である。
【
図15】第4実施形態に係る制御方法のフローチャートである。
【
図16】第5実施形態に係る制御方法のフローチャートである。
【
図17】第5実施形態に係る制御方法の変形例のフローチャートである。
【
図18A】内視鏡の位置および姿勢の一例を示す図である。
【
図18B】
図18Aの位置および姿勢における目標点の位置を示す内視鏡画像である。
【
図19A】内視鏡の位置および姿勢の他の例を示す図である。
【
図19B】
図19Aの位置および姿勢における目標点の位置を示す内視鏡画像である。
【
図20A】内視鏡の視野内に設定される2次元または3次元の目標点を説明する図である。
【
図20B】内視鏡画像内の2次元または3次元の目標点を説明する図である。
【
図21A】
図1の内視鏡システムの変形例の全体構成の外観図である。
【
図21B】
図1の内視鏡システムの他の変形例の全体構成の外観図である。
【
図22A】従来例の剥離シーンの内視鏡画像の一例である。
【
図22B】従来例の展開シーンの内視鏡画像の一例である。
【発明を実施するための形態】
【0012】
(第1実施形態)
本発明の第1実施形態に係る制御装置、内視鏡システムおよび制御方法について図面を参照して説明する。
図1に示されるように、本実施形態に係る内視鏡システム10は、内視鏡2および1以上の処置具6を被検体である患者Pの体内に挿入し、処置具6を内視鏡2によって観察しながら処置具6で処置対象部位を処置する手術に使用され、例えば、腹腔鏡下手術に使用される。
【0013】
図1および
図2Aに示されるように、内視鏡システム10は、内視鏡2と、内視鏡2を患者Pの体内で移動させる移動装置3と、内視鏡2と接続され内視鏡2によって取得された内視鏡画像を処理する内視鏡プロセッサ4と、移動装置3および内視鏡プロセッサ4と接続され移動装置3を制御する制御装置1と、内視鏡プロセッサ4と接続され内視鏡画像を表示する表示装置5とを備える。
【0014】
内視鏡2は、例えば硬性鏡であり、撮像素子を有し内視鏡画像Bを取得する撮像部2aを備える。撮像部2aは、例えば、内視鏡2の先端部に設けられた3次元カメラであり、処置具6の先端6aを含むステレオ画像を内視鏡画像B(例えば、
図3B参照。)として取得する。また、例えば、撮像部2aは、CCD(Charge Coupled Device)イメージセンサまたはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどのイメージセンサであり、所定領域から受光した光を光電変換により電気信号に変換することで、所定領域の画像を生成する。内視鏡画像Eであるステレオ画像は、視差を有する2つの画像を内視鏡プロセッサ4等によって画像処理することで生成される。
【0015】
内視鏡画像Bは、内視鏡2から内視鏡プロセッサ4に送信され、内視鏡プロセッサ4において必要な処理が施され、内視鏡プロセッサ4から表示装置5に送信され、表示装置5に表示される。術者は、表示装置5に表示される内視鏡画像Bを観察しながら体内に挿入された処置具6を操作する。表示装置5は、液晶ディスプレイ、有機ELディスプレイ等の任意のディスプレイである。表示装置5は、スピーカ等の音声装置を備えていてもよい。
【0016】
表示装置5以外に、ユーザによって使用され制御装置1および内視鏡プロセッサ4と通信ネットワークを通じて通信する端末が設けられ、端末に内視鏡画像Eが表示されてもよい。端末は、特に限定しないが、ノート型コンピュータ、ラップトップ型コンピュータ、タブレット型コンピュータまたはスマートフォンなどである。
【0017】
移動装置3は、内視鏡2の基端部に接続され内視鏡2の位置および姿勢を3次元的に制御するロボットアーム3a(電動スコープホルダを含む)を備える。
図1の移動装置3は、複数の関節3bを有するロボットアーム3aを備え、関節3bの動作によって、内視鏡2を3次元的に移動させ内視鏡2の位置および姿勢を3次元的に変更することができる。
【0018】
図2Aに示されるように、制御装置1は、中央演算処理装置のような少なくとも1つのプロセッサ1aと、メモリ1bと、記憶部1cと、ユーザインタフェース1dとを備える。制御装置1は、例えば、デスクトップ型コンピュータ、タブレット型コンピュータ、ラップトップ型コンピュータ、スマートフォンまたは携帯電話などでよい。
【0019】
プロセッサ1aは、シングルプロセッサ、マルチプロセッサまたはマルチコアプロセッサであってもよい。プロセッサ1aは、記憶部1cに格納されているプログラムを読み出して実行する。
メモリ1bは、例えば、ROM(read-only memory)、または、RAM(Random Access Memory)領域を含む半導体メモリである。メモリ1bも、後述する記憶部1cと同様に、プロセッサ1aの処理に必要なデータを記憶してもよい(すなわち、「記憶部」として動作してもよい。)。
【0020】
記憶部1cは、またはハードディスクまたはフラッシュメモリ等の半導体メモリを含む不揮発性の記録媒体であり、プロセッサ1aに処理を実行させるために必要なプログラムおよびデータを記憶している。プロセッサ1aがメモリ1bに読み込まれたプログラムに従って処理を実行することによって、後述の各部11,12,13,14の機能が実現される。制御装置1の一部の機能は、FPGA(Field Programmable Gate Array)、SoC(System-on-a-Chip)、ASIC(Application Specific Integrated Circuit)、およびPLD(Programmable Logic Device)など専用の論理回路やハードウェア等によって実現されてもよい。
【0021】
制御装置1は、マニュアルモードおよび追従モードを有し、術者等の操作者の指示に基づいて、例えば操作者の音声に基づいて、マニュアルモードと追従モードとを切り替える。
マニュアルモードは、操作者が内視鏡2を手動で操作するモードである。マニュアルモードにおいて、例えば、操作者は、制御装置1に接続された操作装置(図示略)を操作することによって、ロボットアーム3aまたは電動ホルダを遠隔操作することができる。
追従モードは、制御装置1が移動装置3を制御することによって内視鏡2を追従対象に設定された処置具6に自動的に追従させるモードである。
【0022】
図3Aおよび
図3Bに示されるように、追従モードにおいて、制御装置1は、処置具6の先端6aの3次元位置を取得し、先端6aの3次元位置と視野F内の目標点Tの3次元位置とに基づいて移動装置3を制御する。これにより、制御装置1は、内視鏡2の移動を制御し、目標点Tが先端6aに配置されるように処置具6に内視鏡2を追従させる。
図3Aおよび
図3Bにおいて、内視鏡2の光軸Aに平行な方向がX方向であり、光軸Aに直交し内視鏡画像Bの横方向に対応する方向がY方向であり、光軸Aに直交し内視鏡画像Bの縦方向に対応する方向がZ方向である。
【0023】
目標点Tは、内視鏡2の先端2bから光軸Aに平行な方向に所定の距離Dだけ離れた光軸A上の基準点Oに初期設定されている。制御装置1は、内視鏡2によって観察される処置シーンに応じて、目標点Tを基準点Oから視野F内の他の位置へ3次元的にオフセットさせる。したがって、内視鏡画像B内の先端6aの位置は、内視鏡画像Bの中心と、中心からオフセットした位置と、の間で処置シーンに応じて変化する。
【0024】
具体的には、
図2Bに示されるように、制御装置1は、位置情報を取得する位置情報取得部11と、シーン情報を取得するシーン情報取得部12と、シーン情報に基づいてオフセットパラメータを決定するオフセットパラメータ決定部13と、オフセットパラメータおよび位置情報に基づいて内視鏡2の位置および姿勢を制御する制御部14と、を備える。
【0025】
位置情報取得部11は、内視鏡画像B内に存在する物体の位置情報を内視鏡プロセッサ4から取得する。位置情報は、少なくとも処置具6の先端6aの3次元位置を含む。したがって、内視鏡プロセッサ4は、先端6aの3次元位置を含む位置情報を内視鏡画像Bから算出する処理を実行する。位置情報を算出する処理は、位置情報取得部11によって実行されてもよい。
【0026】
シーン情報は、内視鏡2によって観察される処置シーンと関連する情報である。処置具6の動きは、処置シーンに応じて異なる。例えば、処置具6によって生体組織を剥離する剥離シーンにおいて、術者は処置具6をゆっくり移動させる。シーン情報取得部12は、シーン情報として、処置具6の動きを表す処置具6の3次元の移動ベクトル(速度ベクトル)Vを取得する。
【0027】
例えば、シーン情報取得部12は、
図4Aに示されるように、内視鏡画像Bから移動ベクトルVを検出するか、または、
図5に示されるように、内視鏡2の移動から移動ベクトルVを検出する。シーン情報取得部12は、これら以外の任意の方法を使用して移動ベクトルVを取得してもよい。
【0028】
図4Aの方法おいて、移動ベクトルVは、異なる時刻における2枚以上の内視鏡画像Bから検出される。具体的には、移動ベクトルVは、下式から算出される。
V=P1-P2
P1は、時刻tにおける内視鏡画像B内の先端6aの3次元の位置ベクトル(x1,y1,z1)であり、P2は、時刻tからΔt後の時刻t+Δtにおける内視鏡画像B内の先端6aの3次元の位置ベクトル(x2,y2,z2)である。内視鏡画像Bは、内視鏡2から直接または内視鏡プロセッサ4を経由して、制御装置1に入力される。
【0029】
図5の方法において、移動ベクトルVは、処置具6に追従する内視鏡2の移動から検出される。すなわち、処置具6の先端6aと内視鏡2の先端2bとが所定の位置関係を維持するように内視鏡2は処置具6に追従するので、内視鏡2の先端2bの移動は処置具6の先端6aの移動と一定の関係にある。
【0030】
オフセットパラメータ決定部13は、移動ベクトルVに基づいてオフセットパラメータを決定する。オフセットパラメータは、基準点Oに対する目標点Tの位置を決定するパラメータであり、例えば、基準点Oに対する目標点Tのオフセット方向およびオフセット距離を表すパラメータである。
具体的には、
図6Aおよび
図6Bに示されるように、オフセットパラメータ決定部13は、移動ベクトルVの向きに基づいて、処置具6の移動方向において該処置具6の前方の領域Cを視野Fの中心に(すなわち、光軸A上に)配置するオフセットパラメータを決定する。
図6Aおよび
図6Bにおいて、矢印は処置具6の移動方向を表している。
【0031】
例えば、オフセットパラメータ決定部13は、所定の関数F(V)に移動ベクトルVを代入することによって、移動ベクトルVとは逆方向の3次元ベクトルをオフセットパラメータとして算出する。3次元ベクトルの大きさは、固定であってもよく、移動ベクトルVの大きさに基づいて決定されてもよい。
例えば、
図4Bに示されるように、F(V)=-k*Vであり、kは係数である。この場合、移動ベクトルVが大きい程、3次元ベクトルF(V)は大きくなり、基準点Oに対する目標点Tのオフセット距離が大きくなる。
【0032】
ここで、オフセットパラメータ決定部13は、移動ベクトルVの大きさ|V|、すなわち処置具6の速さが、所定の閾値α以下であるか否かを判断する。|V|が閾値α以下である場合、オフセットパラメータ決定部13は、オフセットパラメータを決定し、オフセットパラメータを制御部14に出力する。一方、|V|が閾値αよりも大きい場合、オフセットパラメータ決定部13は、オフセットパラメータの決定を行わない。
【0033】
制御部14は、オフセットパラメータから、処置具6の移動方向の前方の領域Cを視野Fの中心に配置するための目標点Tの3次元位置を算出する。例えば、制御部14は、基準点Oから、3次元ベクトル(-k*V)の方向に3次元ベクトル(-k*V)の大きさだけオフセットした位置を目標点Tの3次元位置として算出する。次に、制御部14は、算出された3次元位置に目標点Tを設定することによって、目標点Tを基準点Oからオフセットさせる。
また、制御部14は、位置情報取得部11から処置具6の先端6aの3次元位置の情報を受け取る。
【0034】
次に、制御部14は、目標点Tが先端6aの3次元位置に配置される内視鏡2の先端2bの位置および姿勢を算出する。次に、制御部14は、算出された位置および姿勢に先端2bを配置するための移動装置3の動作量(例えば、各関節3bの回転角度)を計算し、算出された動作量だけ移動装置3を動作させる。これにより、内視鏡2の先端2bが処置具6の先端6aに追従し、目標点Tが先端6aに向かって移動する。
【0035】
次に、制御装置1が実行する制御方法について説明する。
追従モードに切り替わると、制御装置1のプロセッサ1aは、
図7に示されるステップS1~S7を実行することによって、処置具6に内視鏡2を自動的に追従させる。
追従モードの開始時、制御部14は、目標点Tを、内視鏡2の視野Fの中心である基準点Oに初期設定する(ステップS1)。
【0036】
次に、位置情報取得部11は、処置具6の先端6aの3次元位置を含む位置情報を取得する(ステップS2)。
次に、制御部14は、先端6aが目標点Tに配置されるように処置具6の先端6aに内視鏡2の先端2bを追従させる(ステップS3)。具体的には、制御部14は、先端6aおよび目標点Tの3次元位置に基づいて移動装置3を制御し、視野F内の目標点Tが先端6aの位置に配置されるように内視鏡2を移動させる。
【0037】
処置具6に内視鏡2を追従させる制御と並行して、目標点Tの位置を調整するためのステップS4~S7の処理が実行される。
まず、シーン情報取得部12が、処置具6の移動ベクトルVを取得する(ステップS4)。
移動ベクトルの大きさ|V|が閾値αよりも大きい場合(ステップS5のNO)、ステップS6およびS7の処理は実行されず、制御部14は、目標点Tを基準点Oに維持する(ステップS1)。したがって、先端6aが内視鏡画像B内の中心に配置されるように、内視鏡2が処置具6に追従する。
【0038】
一方、移動ベクトルの大きさ|V|が閾値α以下である場合(ステップS5のYES)、オフセットパラメータ決定部13が、移動ベクトルVに基づいて、処置具6の移動方向の前方の領域Cを基準点Oに配置するオフセットパラメータを決定する(ステップS6)。次に、制御部14は、オフセットパラメータに基づいて、目標点Tを移動ベクトルVとは逆方向に基準点Oからオフセットした位置に設定する(ステップS7)。したがって、処置具6の先端6aが内視鏡画像Bの中心からオフセットした目標点Tに配置されるように、内視鏡2が処置具6に追従する。
【0039】
処置具6によって生体組織を剥離するとき、術者は処置具6をゆっくり移動させるので、処置具6の速さ|V|は低下する。したがって、
図6Aまたは
図6Bに示されるように、術者が処置具6による剥離を開始すると、目標点Tが視野Fの中心の基準点Oから処置具6の移動方向とは逆方向にオフセットし、それにより、先端6aが内視鏡画像Bの中心から剥離方向とは逆方向にオフセットし、これから剥離される領域Cが内視鏡画像B内の中心に配置される。剥離が終了し、処置具6の速さが閾値αよりも大きくなると、目標点Tは基準点Oに戻り、先端6aが内視鏡画像B内の中心に配置される。
【0040】
このように、処置具6の動きは処置シーンに応じて異なる。本実施形態によれば、処置具6の移動ベクトルに基づいて目標点Tを基準点Oから3次元的にオフセットさせることによって、内視鏡画像B内の処置具6の先端6aを現在の処置シーンに適した位置に配置することができる。
特に、移動ベクトルの大きさ|V|が閾値α以下になる剥離シーンの場合、先端6aが処置具6の移動方向とは逆方向に基準点Oからオフセットした位置に配置され、処置具6の移動方向の前方の領域C、すなわちこれから剥離される領域が、内視鏡画像Bの中心に配置される。したがって、術者は、剥離される領域Cを容易に観察することができる。
【0041】
本実施形態において、オフセットパラメータ決定部13が、関数F(V)を用いてオフセットパラメータを決定することとしたが、これに代えて、移動ベクトルVとオフセットパラメータとが相互に対応付けられたパラメータテーブルEを用いてオフセットパラメータを決定してもよい。
【0042】
図8は、パラメータテーブルEの例を示している。パラメータテーブルEには、移動ベクトルの大きさ|V|に応じて低速、中速および高速の3つの領域E1,E2,E3が設定され、領域E1,E2,E3毎にオフセット距離δ1,δ2,δ3が設定されている。例えば、領域E1のオフセット距離δ1と、領域E2のオフセット距離δ2と、領域E3のオフセット距離δ3との関係は、δ1<δ2<δ3である。
図8の場合、|V|は中速の領域E2に該当するので、移動ベクトルVとは逆方向にオフセット距離δ2だけ基準点Oからオフセットした位置が目標点Tとなる。
図9は、パラメータテーブルEを使用する場合の制御方法を示している。
図9に示されるように、ステップS5が省略され、|V|に関わらず、オフセットパラメータの決定が繰り返される。
【0043】
(第2実施形態)
次に、本発明の第2実施形態に係る制御装置、内視鏡システムおよびの制御方法について説明する。
本実施形態は、移動ベクトルVと処置具6の種類とに基づいてオフセットパラメータを決定する点において、第1実施形態と相違する。本実施形態において、第1実施形態と異なる構成について説明し、第1実施形態と共通する構成については同一の符号を付して説明を省略する。
【0044】
本実施形態に係る内視鏡システム10は、制御装置1、内視鏡2、移動装置3、内視鏡プロセッサ4および表示装置5を備える。
図10に示されるように、制御装置1は、位置情報取得部11、シーン情報取得部12、オフセットパラメータ決定部13および制御部14に加えて、シーン推定部15をさらに備える。シーン推定部15の機能は、他の部11,12,13,14と同様、プロセッサ1aによって実現される。
【0045】
シーン情報取得部12は、移動ベクトルVに加えて、追従対象に設定されている処置具6の種類をシーン情報として取得する。例えば、シーン情報取得部12は、人工知能による画像認識によって内視鏡画像B内の処置具6の種類を認識することで、内視鏡画像Bから処置具の種類を取得する。シーン情報取得部12は、操作者が制御装置1に入力する処置具6の種類に関する情報または処置具6に設けられている識別情報等に基づいて、処置具6の種類を取得してもよい。
【0046】
シーン推定部15は、処置具6の種類に基づいて、内視鏡2によって観察されている処置シーンを推定する。具体的には、処置具6の種類が把持鉗子等の展開デバイスである場合、シーン推定部15は、処置シーンが、処置具6を使用して生体組織を展開する展開シーンであると推定する。処置具6の種類が電気メス等の剥離デバイスである場合、シーン推定部15は、処置シーンが、処置具6を使用して生体組織を剥離する剥離シーンであると推定する。
【0047】
オフセットパラメータ決定部13は、移動ベクトルVおよび処置シーンに基づいてオフセットパラメータを決定する。
具体的には、処置シーンが剥離シーンである場合、
図6Aおよび
図6Bに示されるように、オフセットパラメータ決定部13は、処置具6によって剥離される領域C、すなわち処置具6の移動方向において該処置具6の前方の領域Cを視野Fの中心に配置するオフセットパラメータを決定する。
処置シーンが展開シーンである場合、
図11に示されるように、オフセットパラメータ決定部13は、処置具6によって展開される領域C、すなわち処置具6の移動方向において該処置具6の後方の領域Cを視野Fの中心に配置するオフセットパラメータを決定する。
【0048】
例えば、処置シーン毎に関数F(V)またはパラメータテーブルEが予め用意され記憶部1cに記憶されている。剥離シーンである場合、オフセットパラメータ決定部13は、剥離シーン用の関数F(V)またはパラメータテーブルEを選択し、選択した関数F(V)またはパラメータテーブルEを用いて、移動ベクトルVとは逆方向の3次元ベクトルをオフセットパラメータとして算出する。展開シーンである場合、オフセットパラメータ決定部13は、展開シーン用の関数F(V)またはパラメータテーブルEを選択し、選択した関数F(V)またはパラメータテーブルEを用いて、移動ベクトルVと同一方向の3次元ベクトルをオフセットパラメータとして算出する。
【0049】
次に、制御装置1が実行する制御方法について説明する。
追従モードに切り替わると、制御装置1のプロセッサ1aは、
図12に示されるステップS2~S12を実行することによって、追従対象である処置具6に内視鏡2を自動的に追従させる。
本実施形態において、シーン情報取得部12は、移動ベクトルVを取得し(ステップS4)、さらに、処置具6の種類を取得する(ステップS8)。
次に、シーン推定部15が、処置具6の種類に基づいて、内視鏡2によって観察されている処置シーンを推定する(ステップS9)。
【0050】
次に、オフセットパラメータ決定部13が、処置シーンおよび移動ベクトルVに基づいて、オフセットパラメータを決定する(ステップS10~S12)。
具体的には、展開シーンである場合(ステップS10の「展開シーン」)、オフセットパラメータ決定部13は、展開シーン用の関数F(V)またはパラメータテーブルEを用いてオフセットパラメータを算出する(ステップS11)。これにより、
図11に示されるように、目標点Tが視野Fの中心の基準点Oから処置具6の移動方向と同一方向にオフセットし、処置具6の先端6aが内視鏡画像Bの中心から展開方向と同一方向にオフセットし、処置具6によって展開される領域Cが内視鏡画像Bの中心に配置される。
【0051】
一方、剥離シーンである場合(ステップS10の「剥離シーン」)、オフセットパラメータ決定部13は、剥離シーン用の関数F(V)またはパラメータテーブルEを用いてオフセットパラメータを算出する(ステップS12)。これにより、
図6Aおよび
図6Bに示されるように、目標点Tが視野Fの中心から処置具6の移動方向とは逆方向にオフセットし、処置具6の先端6aが内視鏡画像Bの中心から剥離方向とは逆方向にオフセットし、処置具6によって剥離される領域Cが内視鏡画像Bの中心に配置される。
【0052】
手術中、内視鏡2によって様々な処置シーンが観察され得る。使用される処置具6の種類は、処置シーンに応じて異なる。本実施形態によれば、処置具6の種類に基づいて現在の処置シーンが推定され、移動ベクトルVおよび処置シーンに基づいて目標点Tが基準点Oから3次元的にオフセットさせられる。これにより、内視鏡画像B内の処置具6の先端6aを現在の処置シーンに適した位置に配置することができる。
具体的には、展開シーンのときには、処置具6によって展開された領域Cが内視鏡画像Bの中心に配置されるので、術者は、展開された領域Cを容易に観察することができる。剥離シーンのときには、処置具6によってこれから剥離される領域Cが内視鏡画像Bの中心に配置されるので、術者は、これから剥離される領域Cを容易に観察することができる。
【0053】
なお、シーン情報取得部12は、処置具6の種類に代えて、人工知能を利用して認識することができる他の任意の情報を処置シーンとして取得してもよい。
例えば、シーン情報取得部12は、既知の画像認識技術によって内視鏡画像B内の被検体の解剖学的特徴を認識し、当該解剖学的特徴の種類や、位置および向きなどの情報をシーン情報として取得し、シーン推定部15は、当該シーン情報に基づいて処置シーンを推定してもよい。
あるいは、シーン情報取得部12は、既知の画像認識技術によって内視鏡画像B内の被検体の出血の発生といったシーンの変化を検知し、検知した情報をシーン情報として取得し、シーン推定部15は、当該シーン情報に基づいて処置シーンを推定してもよい。
さらに、シーンの推定は上記の実施態様に限られるものではなく、シーン情報取得部12は、手術中に得られるいかなる情報をシーン情報として取得することができ、シーン推定部15は当該シーン情報に基づいて処置シーンを推定してもよい。
【0054】
(第3実施形態)
次に、本発明の第3実施形態に係る制御装置、内視鏡システムおよび制御方法について説明する。
本実施形態は、移動ベクトルVと処置具6の種類および作動状態とに基づいてオフセットパラメータを決定する点において、第1および第2実施形態と相違する。本実施形態において、第1および第2実施形態と異なる構成について説明し、第1および第2実施形態と共通する構成については同一の符号を付して説明を省略する。
【0055】
本実施形態に係る内視鏡システム10は、制御装置1、内視鏡2、移動装置3、内視鏡プロセッサ4および表示装置5を備える。
制御装置1は、第2実施形態と同様、位置情報取得部11、シーン情報取得部12、オフセットパラメータ決定部13、制御部14およびシーン推定部15を備える。
【0056】
シーン情報取得部12は、移動ベクトルVおよび処置具6の種類に加えて、追従対象である処置具6の作動状態をシーン情報として取得する。例えば、制御装置1は、処置具6を駆動する駆動装置(図示略)と接続されている。処置具6は、駆動装置から電力が供給されることによってアクティブになる。シーン情報取得部12は、処置具6がアクティブであるか、または非アクティブであるかを示す信号を駆動装置から受信する。
【0057】
シーン情報取得部12は、他の手段によって作動状態を取得してもよい。例えば、シーン情報取得部12は、内視鏡画像Bから処置具6の作動状態を取得してもよい。処置具6が電気メスである場合、アクティブな電気メス6の色は、非アクティブな時と比較して、高熱により変化する。したがって、処置具6がアクティブであるか、または非アクティブであるかを内視鏡画像Bから認識することができる。
【0058】
シーン推定部15は、第2実施形態と同様に、処置具6の種類に基づいて処置シーンを推定する。そして、処置シーンが剥離シーンであると推定された場合、シーン推定部15は、処置具6の作動状態に基づいて、さらに詳細な処置シーンを推定する。具体的には、処置具6がアクティブである場合、シーン推定部15は、処置具6がアクティブ中のシーン、すなわち処置具6によって生体組織を剥離している最中のシーンであると推定する。一方、処置具6が非アクティブである場合、シーン推定部15は、処置具6が非アクティブであるシーン、すなわち剥離シーン内の他のシーンであると推定する。
【0059】
オフセットパラメータ決定部13は、移動ベクトルVおよび処置シーンに基づいてオフセットパラメータを決定する。
例えば、第2実施形態と同様に、処置シーン毎に関数F(V)またはパラメータテーブルEが予め用意され記憶部1cに記憶されている。すなわち、展開シーン用の関数F(V)またはパラメータテーブルEと、剥離シーン(アクティブ)用の関数F(V)またはパラメータテーブルEと、剥離シーン(非アクティブ)用の関数F(V)またはパラメータテーブルEとが用意されている。オフセットパラメータ決定部13は、シーン推定部15によって推定された処置シーン用の関数F(V)またはパラメータテーブルEを選択し、選択した関数F(V)またはパラメータテーブルEを用いて、3次元ベクトルをオフセットパラメータとして算出する。
【0060】
次に、制御装置1が実行する制御方法について説明する。
追従モードに切り替わると、制御装置1のプロセッサ1aは、
図13に示されるステップS2~S16を実行することによって、追従対象である処置具6に内視鏡2を自動的に追従させる。
本実施形態において、シーン情報取得部12は、移動ベクトルVを取得し(ステップS4)、処置具6の種類を取得し(ステップS8)、さらに、処置具6の作動状態を取得する(ステップS13)。
【0061】
次に、シーン推定部15が、処置具6の種類に基づいて、内視鏡2によって観察されている処置シーンを推定する(ステップS9)。処置シーンが剥離シーンである場合(ステップS10の「剥離シーン」)、続いて、シーン推定部15は、処置具6の作動状態に基づいて、処置シーンが、剥離シーンの内、処置具6がアクティブ中のシーンであるか、または、非アクティブ中のシーンであるかを推定する(ステップS14)。
【0062】
次に、オフセットパラメータ決定部13が、処置シーンおよび移動ベクトルVに基づいて、オフセットパラメータを決定する(ステップS11,S15,S16)。
具体的には、展開シーンである場合(ステップS10の「展開シーン」)、第3実施形態と同様に、オフセットパラメータ決定部13は、展開シーン用の関数F(V)またはパラメータテーブルEを用いてオフセットパラメータを算出する(ステップS11)。
【0063】
剥離シーンの内、処置具6がアクティブ中のシーンである場合(ステップS14のYES)、オフセットパラメータ決定部13は、剥離シーン(アクティブ)用の関数F(V)またはパラメータテーブルEを用いてオフセットパラメータを算出する(ステップS15)。
剥離シーンの内、処置具6が非アクティブ中のシーンである場合(ステップS14のNO)、オフセットパラメータ決定部13は、剥離シーン(非アクティブ)用の関数F(V)またはパラメータテーブルEを用いてオフセットパラメータを算出する(ステップS16)。
【0064】
1つの種類の処置シーンの中に複数のシーンが存在し、同一の処置具6の使用中にシーンが変化することがある。例えば、剥離シーンには、非アクティブな電気メス6を移動させ生体組織に対して位置決めする剥離開始前のシーンと、アクティブな電気メス6をゆっくり移動させ生体組織を剥離する剥離中のシーンと、非アクティブな電気メス6を移動させ生体組織から遠ざける剥離終了後のシーンとが存在する。
本実施形態によれば、処置具6の種類および作動状態づいてさらに詳細な現在の処置シーンを推定することができ、内視鏡画像B内の処置具6の先端6aを現在の処置シーンにさらに適した位置に配置することができる。
【0065】
(第4実施形態)
次に、本発明の第4実施形態に係る制御装置、内視鏡システムおよび制御方法について説明する。
本実施形態は、移動ベクトルVと生体組織の解剖情報とに基づいてオフセットパラメータを決定する点において、第1から第3実施形態と相違する。本実施形態において、第1から第3実施形態と異なる構成について説明し、第1から第3実施形態と共通する構成については同一の符号を付して説明を省略する。
【0066】
本実施形態に係る内視鏡システム10は、制御装置1,内視鏡2、移動装置3、内視鏡プロセッサ4および表示装置5を備える。
制御装置1は、第2実施形態と同様、位置情報取得部11、シーン情報取得部12、オフセットパラメータ決定部13、制御部14およびシーン推定部15を備える。
【0067】
シーン情報取得部12は、移動ベクトルVに加えて、内視鏡画像B内の生体組織の解剖情報をシーン情報として取得する。解剖情報は、処置具6による処置に関連する生体組織の解剖構造の情報である。一例において、解剖情報の取得には、人工知能による画像認識技術が用いられる。例えば、
図14Aおよび
図14Bに示されるように、シーン情報取得部12は、内視鏡画像B内の臓器および血管等の配置を認識し、処置具6によって剥離すべき剥離ラインLを解剖情報として認識する。剥離ラインLを表すマーキングが生体組織の表面に施されている場合、シーン情報取得部12は、マーキングを認識してもよい。
【0068】
シーン推定部15は、移動ベクトルVと解剖情報とに基づいて、処置シーンを推定する。
具体的には、
図14Aに示されるように、処置具6によって生体組織を剥離するとき、術者は、処置具6を剥離ラインLに沿って移動させるので、処置具6の移動方向は剥離ラインLの長手方向と一致する。移動ベクトルVの方向が剥離ラインLの長手方向と一致する場合、シーン推定部15は、処置シーンが、処置具6を使用して生体組織を剥離する剥離シーンであると推定する。
【0069】
一方、
図14Bに示されるように、処置具6が剥離以外の動作を行っているとき、例えば、処置具6を剥離ラインLに交差する方向に移動させて剥離された部位を展開しているとき、処置具6の移動方向は剥離ラインLの長手方向と一致しない。移動ベクトルVの方向が剥離ラインLの長手方向と一致しない場合、シーン推定部15は、処置シーンが剥離シーン以外の他のシーンであると推定する。
移動ベクトルVの方向が剥離ラインLの長手方向と一致するか否かは、例えば、移動ベクトルVの方向と剥離ラインLの方向とが成す角度が所定値以下であるか否かによって判断される。
【0070】
オフセットパラメータ決定部13は、移動ベクトルVおよび処置シーンに基づいてオフセットパラメータを決定する。
具体的には、処置シーンが剥離シーンである場合、オフセットパラメータ決定部13は、処置具6の移動方向において該処置具6の前方の領域Cを視野Fの中心に配置するオフセットパラメータを決定する。
処置シーンが剥離シーン以外のシーンである場合、オフセットパラメータ決定部13は、目標点Tを基準点Oに配置するオフセットパラメータを決定する。
【0071】
次に、制御装置1が実行する制御方法について説明する。
追従モードに切り替わると、制御装置1のプロセッサ1aは、
図15に示されるステップS2~S18を実行することによって、追従対象である処置具6に内視鏡2を自動的に追従させる。
本実施形態において、シーン情報取得部12は、移動ベクトルVを取得し(ステップS4)、さらに、内視鏡画像B内の解剖情報を取得する(ステップS17)。
【0072】
次に、シーン推定部15が、移動ベクトルVおよび解剖情報に基づいて、内視鏡2によって観察されている処置シーンを推定する(ステップS9)。具体的には、移動ベクトルVの方向が剥離ラインLの長手方向と一致する場合、シーン推定部15は、処置シーンが剥離シーンであると推定する。一方、移動ベクトルVの方向が剥離ラインLの長手方向と一致しない場合、シーン推定部15は、処置シーンが他のシーンであると推定する。
【0073】
次に、オフセットパラメータ決定部13が、処置シーンおよび移動ベクトルVに基づいて、オフセットパラメータを決定する(ステップS10,S12,S18)。
具体的には、剥離シーンである場合(ステップS10の「剥離シーン」)、オフセットパラメータ決定部13は、剥離シーン用の関数F(V)またはパラメータテーブルEを用いてオフセットパラメータを算出する(ステップS12)。これにより、目標点Tが視野Fの中心から処置具6の移動方向とは逆方向にオフセットし(ステップS7)、処置具6の先端6aが内視鏡画像Bの中心から剥離方向とは逆方向にオフセットし、処置具6によって剥離される領域Cが内視鏡画像Bの中心に配置される。
一方、他のシーンである場合(ステップS10の「他のシーン」)、オフセットパラメータ決定部13は、目標点Tを基準点Oに配置するオフセットパラメータを決定する(ステップS18)。これにより、目標点Tが視野Fの中心に設定され、処置具6の先端6aが内視鏡画像Bの中心に配置される。
【0074】
このように、本実施形態によれば、内視鏡画像B内の解剖情報と、処置具6の動きを表す移動ベクトルVとに基づいて、現在の処置シーンを推定することができる。そして、処置シーンに基づいて、目標点Tを基準点Oからオフセットさせるか否かを判断することによって、内視鏡画像B内の処置具6の先端6aを現在の処置シーンに適した位置に配置することができる。
【0075】
具体的には、術者が剥離ラインLに沿って処置具6を移動させる剥離シーンのときには、処置具6によってこれから剥離される領域Cが内視鏡画像Bの中心に配置されるので、術者は、これから剥離される領域Cを容易に観察することができる。
剥離シーン以外の他のシーンのときには、目標点Tが基準点Oに設定され、処置具6の先端6aが内視鏡画像B内の中心に配置される。これにより、術者は、処置具6の先端6aを容易に観察することができる。
【0076】
本実施形態において、シーン情報として、第2実施形態の処置具6の種類をさらに使用してもよい。例えば、処置シーンが移動ベクトルVおよび解剖情報に基づいて他のシーンであると推定された場合、続いて、処置具6の種類に基づいて処置シーンが推定されてもよい。
また、本実施形態において、シーン情報として、第3実施形態の処置具6の種類および作動状態をさらに使用してもよい。例えば、処置シーンが移動ベクトルおよび解剖情報に基づいて他のシーンであると推定された場合、続いて、処置具6の種類および作動状態に基づいて処置シーンが推定されてもよい。
【0077】
(第5実施形態)
次に、本発明の第5実施形態に係る制御装置、内視鏡システムおよび制御方法について説明する。
本実施形態は、操作者の入力に基づいてオフセットパラメータを決定する点において、第1から第4実施形態と相違する。本実施形態において、第1から第4実施形態と異なる構成について説明し、第1から第4実施形態と共通する構成については同一の符号を付して説明を省略する。
【0078】
本実施形態に係る内視鏡システム10は、制御装置1、内視鏡2、移動装置3、内視鏡プロセッサ4および表示装置5を備える。
制御装置1は、第1実施形態と同様、位置情報取得部11、シーン情報取得部12、オフセットパラメータ決定部13および制御部14を備える。
ユーザインタフェース1dは、マウス、キーボードまたはタッチパネル等の任意の入力デバイスを有する。操作者は、処置具6の先端6aの位置をユーザインタフェース1dを使用して制御装置1に入力することができる。
【0079】
例えば、
図3Aに示されるように、先端6aの位置として、オフセット角φy,φzが入力される。オフセット角φyは、XY平面において、内視鏡2の先端2bと先端6aの位置とを結ぶ線分が光軸Aと成す角度であり、オフセット角φzは、XZ平面において、内視鏡2の先端2bと先端6aの位置とを結ぶ線分が光軸Aと成す角度である。オフセット角φyによって、X方向の各位置における、基準点Oから先端6aの位置までのY方向の距離δyが決まる。オフセット角φzによって、X方向の各位置における、基準点Oから先端6aの位置までのZ方向の距離δzが決まる。
【0080】
シーン情報取得部12は、シーン情報として、ユーザインタフェース1dを使用して入力された先端6aの位置を取得する。
オフセットパラメータ決定部13は、入力された先端6aの位置に基づいてオフセットパラメータを決定する。例えば、オフセットパラメータ決定部13は、距離Dとオフセット角φy,φzとによって決定される3次元位置(D,δy,δz)をオフセットパラメータとして算出する。
制御部14は、目標点Tを3次元位置(D,δy,δz)に設定する。したがって、操作者が入力した先端6aの位置が目標点Tに設定される。
【0081】
次に、制御装置1が実行する制御方法について説明する。
追従モードに切り替わると、制御装置1のプロセッサ1aは、
図16に示されるステップS1~S20を実行することによって、追従対象である処置具6に内視鏡2を自動的に追従させる。
【0082】
第1実施形態と同様に、ステップS1~S3が実行されることによって、処置具6の先端6aが視野F内の基準点Oに配置されるように処置具6の先端6aに内視鏡2の先端2bが追従する。
操作者は、処置シーンに応じて先端6aの位置を内視鏡画像B内の中心から他の位置へ移動させたいとき、所望の先端6aの位置をユーザインタフェース1dを使用して制御装置1に入力する。
【0083】
操作者によって先端6aの位置が制御装置1に入力されると(ステップS19のYES)、シーン情報取得部12が操作者によって入力された位置を取得し(ステップS20)、オフセットパラメータ決定部13が入力された位置に基づいてオフセットパラメータを決定し(ステップS6)、制御部14が、操作者が入力した位置に目標点Tを設定する(ステップS7)。これにより、内視鏡画像B内の処置具6の先端6aは、中心から、操作者によって指定された位置の目標点Tに移動する。
【0084】
このように、本実施形態によれば、操作者による処置具6の先端6aの位置の入力をトリガとして、目標点Tが入力された位置へオフセットする。これにより、操作者は、目標点Tを現在の処置シーンに適した任意の位置に任意のタイミングで設定することができ、内視鏡画像B内の先端6aを任意のタイミングで任意の位置へオフセットさせることができる。
【0085】
本実施形態において、
図17に示されるように、シーン情報取得部12は、目標点Tの調整開始を指示する入力を行ったときの処置具6の先端6aの位置をシーン情報として取得してもよい。
この場合、操作者は、内視鏡画像B内の所望の位置へ処置具6の先端6aを移動させ、調整開始の指示をユーザインタフェース1dを使用して制御装置1に入力する(ステップS21)。入力に応答し、シーン情報取得部12は、指示が入力された時点での先端6aの位置を取得する(ステップS22)。例えば、シーン情報取得部12は、指示が入力された時点での内視鏡画像Bを記憶し、内視鏡2の先端2bに対する処置具6の先端6aの3次元位置を内視鏡画像Bから算出する。
目標点Tの調整終了の指示が操作者によって入力されると(ステップS23のYES)、目標点Tの調整が終了し、目標点Tが基準点Oに戻る(ステップS1)。
【0086】
本実施形態において、シーン情報取得部12が、処置具6の先端6aの位置をシーン情報として取得することとしたが、これに代えて、内視鏡2の位置および姿勢をシーン情報として取得してもよい。例えば、シーン情報取得部12は、内視鏡2の現在の位置および姿勢の情報を移動装置3から取得する。
図18Aから
図19Bは、内視鏡2の位置および姿勢の例を示している。腹腔鏡下手術において、処置対象部位および処置の内容に応じて、すなわち処置シーンに応じて、内視鏡2の位置および姿勢は異なる。
図18Aおよび
図19Aにおいて、内視鏡2は体壁に形成された穴Hを経由して腹腔内に挿入され、穴Hの位置を支点として内視鏡2の位置および姿勢が変更される。内視鏡2の位置および姿勢は、例えば、支点を基準とし被検体Pに対して固定された座標系での位置および姿勢である。
【0087】
図18Aから
図19Bの変形例において、内視鏡2の位置および姿勢に応じた複数のオフセットパラメータが、予め設定されているか、または、手術中に術者等の操作者によって設定される。オフセットパラメータ決定部13は、内視鏡2の位置および姿勢に対応するオフセットパラメータを選択する。したがって、
図18Bおよび
図19Bに示されるように、内視鏡2の位置および姿勢に応じた位置に目標点Tが設定される。
この構成によれば、操作者による入力操作を必要とすることなく、シーン情報を取得することができる。
【0088】
上記各実施形態において、基準点Oに対して目標点Tを3次元方向にオフセットさせることとしたが、これに代えて、基準点Oに対して目標点Tを2次元方向または1次元方向にオフセットさせてもよい。
例えば、一変形例において、シーン情報取得部12が、光軸Aに垂直なYZ平面に沿う2次元の移動ベクトルVを検出し、オフセットパラメータ決定部13が、基準点Oに対して目標点TをYZ平面に平行な方向にオフセットさせるための2次元的なオフセットパラメータを決定してもよい。他の変形例において、シーン情報取得部12が、光軸Aに平行なZ方向における1次元の移動ベクトルVを検出し、オフセットパラメータ決定部13が、基準点Oに対して目標点TをX方向にのみオフセットさせるための1次元的なオフセットパラメータを決定してもよい。
【0089】
上記各実施形態において、基準点Oが、視野Fの光軸A上の点であることとしたが、基準点は、視野F内の任意の位置に設定するができ、光軸A外の点であってもよい。
上記各実施形態において、目標点Tが、視野F内の一点であることとしたが、これに代えて、2次元または3次元の領域であってもよい。この場合、制御装置1は、処置具6の先端6aが目標点Tの領域の外側に出たときに、処置具6に対する内視鏡2の追従を開始してもよい。
【0090】
例えば、
図20Aおよび
図20Bに示されるように、目標点Tは、X、YおよびZ方向において所定の寸法dx、dy、dzを有する直方体の領域である。第1から第4実施形態の場合、移動ベクトルVから算出された3次元位置を中心とする領域が目標点Tに設定される。第5実施形態の場合、操作者によって入力された位置を中心とする領域が目標点Tに設定される。
【0091】
上記各実施形態において、位置情報取得部11が、内視鏡画像Bから位置情報を取得することとしたが、これに代えて、他の手段を用いて位置情報を取得してもよい。
一変形例において、位置情報取得部11は、体外に配置される3次元位置測定装置から位置情報を取得してもよい。例えば、3次元位置測定装置は、内視鏡2に取り付けられた第1マーカの位置と、処置具6に取り付けられた第2マーカの位置とを測定し、測定された2つの位置から内視鏡2の先端2bに対する処置具6の先端6aの3次元位置を算出してもよい。
【0092】
他の変形例において、位置情報取得部11は、内視鏡2に取り付けられた3次元走査装置から位置情報を取得してもよい。3次元走査装置は、光または超音波を走査することによって、内視鏡2の視野F内の処置具6および生体組織の3次元位置を測定してもよい。
【0093】
他の変形例において、
図21Aおよび
図21Bに示されるように、位置情報取得部11は、内視鏡2を移動させる第1移動装置3および処置具6を移動させる第2移動装置31から、内視鏡2および処置具6の位置の情報をそれぞれ取得してもよい。第2移動装置31は、第1移動装置3と同様、ロボットアームまたは電動ホルダによって処置具6を保持し、制御装置101による制御に従って処置具6の位置および姿勢を3次元的に変更する。処置具6は、
図21Aに示されるように、ロボットアームの先端に接続されロボットアームと一体であってもよく、
図21Bに示されるように、ロボットアームとは別体でありロボットアームによって把持されていてもよい。
【0094】
上記各実施形態において、位置情報取得部11が、処置具6の3次元位置を含む位置情報を取得することとしたが、これに代えて、処置具6の2次元位置を含む位置情報を取得してもよい。
例えば、処置具6、目標点Tおよび基準点Oが、内視鏡画像Bの画像平面(YZ平面)上における2次元位置であり、制御部14が、目標点Tを基準点Oに対してY方向およびZ方向に2次元的にオフセットさせるとともに、処置具6に対して内視鏡2をY方向およびZ方向に2次元的に追従させてもよい。
【符号の説明】
【0095】
1 制御装置
2 内視鏡
3 移動装置
6 処置具
6a 先端
10 内視鏡システム
A 光軸
B 内視鏡画像
F 視野
L 剥離ライン(解剖情報)
T 目標点
O 基準点
P 患者、被検体
V 移動ベクトル(シーン情報)