(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-03
(45)【発行日】2024-09-11
(54)【発明の名称】手術システムおよび手術システムの制御方法
(51)【国際特許分類】
A61B 34/20 20160101AFI20240904BHJP
A61B 1/00 20060101ALI20240904BHJP
A61B 1/045 20060101ALI20240904BHJP
【FI】
A61B34/20
A61B1/00 655
A61B1/045 618
(21)【出願番号】P 2023500490
(86)(22)【出願日】2021-02-22
(86)【国際出願番号】 JP2021006642
(87)【国際公開番号】W WO2022176199
(87)【国際公開日】2022-08-25
【審査請求日】2023-06-13
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(74)【代理人】
【識別番号】100118913
【氏名又は名称】上田 邦生
(74)【代理人】
【識別番号】100142789
【氏名又は名称】柳 順一郎
(74)【代理人】
【識別番号】100201466
【氏名又は名称】竹内 邦彦
(72)【発明者】
【氏名】柳原 勝
(72)【発明者】
【氏名】佐々井 亮太
(72)【発明者】
【氏名】原口 雅史
【審査官】和田 将彦
(56)【参考文献】
【文献】国際公開第2018/159328(WO,A1)
【文献】米国特許出願公開第2008/0114334(US,A1)
【文献】特開2015-154803(JP,A)
【文献】国際公開第2018/159155(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 34/20 - 34/20
A61B 90/00
A61B 1/00
A61B 1/045
(57)【特許請求の範囲】
【請求項1】
処置対象を撮影する撮像装置と、
該撮像装置によって撮影された前記処置対象を表示する画面を有する表示装置と、
前記画面に表示される前記処置対象の表示範囲を制御する制御装置と、を備え、
該制御装置は、
前記撮像装置によって取得された前記処置対象の画像に基づいて前記処置対象の切離端部の位置を算出し、
前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させ
、
前記画面内での前記処置対象に付されたマーキングの向きを算出し、
該マーキングが前記画面内で所定の基準向きに配置される向きに前記処置対象の表示範囲を回転させる、手術システム。
【請求項2】
前記撮像装置を移動させる移動装置を備え、
前記制御装置は、
算出された前記切離端部の位置の前記所定の基準位置からの変化量を算出し、
前記移動装置を制御することによって前記変化量がゼロになる位置に前記撮像装置を移動させる、請求項1に記載の手術システム。
【請求項3】
前記制御装置が、前記処置対象の切離端部の位置の算出および前記表示範囲の移動の前に、前記画面内での前記切離端部の位置を事前に算出し、事前に算出された前記切離端部の位置を前記所定の基準位置に設定する、請求項1に記載の手術システム。
【請求項4】
前記制御装置が、前記所定の基準位置を、前記画面の中心から縦方向に±15%かつ/または横方向±15%の領域内の任意の位置に設定する、請求項1に記載の手術システム。
【請求項5】
前記制御装置が、前記マーキングの向きの算出の前に、前記画面内での前記マーキングの向きを事前に算出し、事前に算出された前記マーキングの向きを前記所定の基準向きに設定する、請求項
1に記載の手術システム。
【請求項6】
前記制御装置が、前記所定の基準向きを、前記マーキングの両端部の内、前記切離端部から遠い方の端部が前記画面の中心から縦方向に±15%または横方向に±15%の領域内に配置される向きに設定する、請求項
1に記載の手術システム。
【請求項7】
前記制御装置が、前
記マーキングと、前記処置対象の切離面のエッジとの交点の位置を、前記切離端部の位置として算出する、請求項1に記載の手術システム。
【請求項8】
前記制御装置が、前記画面内での前
記マーキングの両端部の内、前記処置対象の切離面の重心により近い端部の位置を、前記切離端部の位置として算出する、請求項1に記載の手術システム。
【請求項9】
前記制御装置が、前記処置対象の両側の切離面のエッジ同士の交点の位置を、前記切離端部の位置として算出する、請求項1に記載の手術システム。
【請求項10】
前記制御装置が、前記処置対象の表示範囲の広さを維持しながら前記処置対象の表示範囲を移動させる、請求項1に記載の手術システム。
【請求項11】
処置対象を撮影する撮像装置と、
該撮像装置によって撮影された前記処置対象を表示する画面を有する表示装置と、
前記画面に表示される前記処置対象の表示範囲を制御する制御装置と、を備え、
該制御装置は、
前記撮像装置によって取得された前記処置対象の画像に基づいて前記処置対象の切離端部の位置を算出し、
前記画像の処理によって
、前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させる
、手術システム。
【請求項12】
手術システムの制御装置によって実行される制御方法であって、前記手術システムが、処置対象を撮影する撮像装置と、該撮像装置によって撮影された前記処置対象を表示する画面を有する表示装置と、を備え、
前記撮像装置によって取得された前記処置対象の画像に基づいて前記処置対象の切離端部の位置を算出し、
前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させ
、
前記画面内での前記処置対象に付されたマーキングの向きを算出し、
該マーキングが前記画面内で所定の基準向きに配置される向きに前記処置対象の表示範囲を回転させる、手術システムの制御方法。
【請求項13】
前記手術システムが、前記撮像装置を移動させる移動装置を備え、
前記処置対象の表示範囲を移動させることは、
前記切離端部が前記画面内の所定の基準位置に配置される前記撮像装置の目標位置を算出し、
前記移動装置を制御することによって前記目標位置に前記撮像装置を移動させることを含む、請求項
12に記載の手術システムの制御方法。
【請求項14】
前記処置対象の切離端部の位置の算出および前記表示範囲の移動の前に、前記画面内での前記切離端部の位置を事前に算出し、事前に算出された前記切離端部の位置を前記所定の基準位置に設定することをさらに含む、請求項
12に記載の手術システムの制御方法。
【請求項15】
前記所定の基準位置を、前記画面の中心から縦方向に±15%かつ/または横方向±15%の領域内の任意の位置に設定することをさらに含む、請求項
12に記載の手術システムの制御方法。
【請求項16】
前記マーキングの向きの算出および前記表示範囲の回転の前に、前記画面内での前記マーキングの向きを事前に算出し、事前に算出された前記マーキングの向きを前記所定の基準向きに設定することをさらに含む、請求項
12に記載の手術システムの制御方法。
【請求項17】
前記所定の基準向きを、前記マーキングの両端部の内、前記切離端部から遠い方の端部が前記画面の中心から縦方向に±15%または横方向に±15%の領域内に配置される向きに設定する、請求項
12に記載の手術システムの制御方法。
【請求項18】
前
記マーキングと、前記処置対象の切離面のエッジとの交点の位置を、前記切離端部の位置として算出する、請求項
12に記載の手術システムの制御方法。
【請求項19】
前記画面内での前
記マーキングの両端部の内、前記処置対象の切離面の重心により近い端部の位置を、前記切離端部の位置として算出する、請求項
12に記載の手術システムの制御方法。
【請求項20】
前記処置対象の両側の切離面のエッジ同士の交点の位置を、前記切離端部の位置として算出する、請求項
12に記載の手術システムの制御方法。
【請求項21】
前記処置対象の表示範囲の広さを維持しながら前記処置対象の表示範囲を移動させる、請求項
12に記載の手術システムの制御方法。
【請求項22】
前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させることができない場合、前記所定の基準位置を更新する、請求項
12に記載の手術システムの制御方法。
【請求項23】
手術システムの制御装置によって実行される制御方法であって、前記手術システムが、処置対象を撮影する撮像装置と、該撮像装置によって撮影された前記処置対象を表示する画面を有する表示装置と、を備え、
前記撮像装置によって取得された前記処置対象の画像に基づいて前記処置対象の切離端部の位置を算出し、
前記画像の処理によって
、前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させる
、手術システムの制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、手術システムおよび手術システムの制御方法に関するものである。
【背景技術】
【0002】
従来、内視鏡をロボットによって移動させる手術用のシステムが知られている(例えば、特許文献1参照。)。心臓の血管等の解剖学的特徴が脂肪によって覆われている場合、または、解剖学的特徴が内視鏡の視野の外側に位置する場合、解剖学的特徴は内視鏡画像内に見えない。特許文献1には、術前画像内の解剖学的特徴に基づいて内視鏡のポーズを決定し、ロボットを制御して決定されたポーズに内視鏡を配置することで、解剖学的特徴を可視化する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
重力の影響や処置対象の柔らかさの影響等によって、処置対象の処置が進むにつれて処置対象が変形し、画面に表示される内視鏡画像内の処置対象の見え方が変化することがある。例えば、肝切除術において、肝臓の切離が進むにつれて画面上の切離線および切離端部の位置が変化する。また、S状結腸切除術において、筋膜の剥離が進むにつれて画面上の剥離線の位置が変化する。術者は内視鏡画像に基づいて処置具を操作するため、処置対象の見え方が変化すると処置し難くなることがある。
【0005】
本発明は、上述した事情に鑑みてなされたものであって、処置中の処置対象の変形に関わらず、処置対象を処置に適した状態で画面上に表示し続けることができる手術システムおよび手術システムの制御方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明は以下の手段を提供する。
本発明の一態様は、処置対象を撮影する撮像装置と、該撮像装置によって撮影された前記処置対象を表示する画面を有する表示装置と、前記画面に表示される前記処置対象の表示範囲を制御する制御装置と、を備え、該制御装置は、前記撮像装置によって取得された前記処置対象の画像に基づいて前記処置対象の切離端部の位置を算出し、前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させる、手術システムである。
【0007】
本態様によれば、患者の体内に挿入された撮像装置によって処置対象が撮影され、処置対象の映像が表示装置の画面に表示される。術者は、画面に表示される処置対象を見ながら、患者の体内に挿入した処置具によって処置対象を切離する。切離が進むにつれて処置対象が変形することによって、撮像装置に対する切離端部の位置が変化することがある。
【0008】
処置対象の切離中、制御装置によって、画像に基づき切離端部の位置が算出される。切離端部の位置が画面内の所定の基準位置からずれている場合、制御装置によって、切離端部が画面内の所定の基準位置に配置される位置に処置対象の表示範囲が移動させられる。すなわち、変化する切離端部の位置に追従して表示範囲が移動し、切離端部が画面内の所定の基準位置に配置され続ける。これにより、切離中の処置対象の変形に関わらず、処置位置を処置に適した状態で画面上に表示し続けることができる。
【0009】
上記態様において、前記撮像装置を移動させる移動装置を備え、前記制御装置は、算出された前記切離端部の位置の前記所定の基準位置からの変化量を算出し、前記移動装置を制御することによって前記変化量がゼロになる位置に前記撮像装置を移動させてもよい。
この構成によれば、処置対象の変形によって切離端部の位置が変化したとき、移動装置が撮像装置を移動させることによって、処置対象の表示範囲である撮像装置の視野が、切離端部が画面内の所定の基準位置に配置される位置に移動する。このように、変化する切離端部の位置に撮像装置の視野を自動的に追従させることによって、切離端部を画面内の所定の基準位置に表示し続けることができる。
【0010】
上記態様において、前記制御装置が、前記処置対象の切離端部の位置の算出および前記表示範囲の移動の前に、前記画面内での前記切離端部の位置を事前に算出し、事前に算出された前記切離端部の位置を前記所定の基準位置に設定してもよい。
この構成によれば、処置対象の変形による切離端部の位置の変化が生じる前に事前に算出された画面上の切離端部の位置が所定の基準位置に設定される。したがって、例えば、術者にとって処置対象を切離し易い位置に切離端部が配置されるように、所定の基準位置を設定することができる。
【0011】
上記態様において、前記制御装置が、前記所定の基準位置を、前記画面の中心から縦方向に±15%かつ/または横方向±15%の領域内の任意の位置に設定してもよい。
この構成によれば、画面の中心領域内に切離端部を表示し続けることができる。
【0012】
上記態様において、前記制御装置が、さらに、前記画面内での前記処置対象に付されたマーキングの向きを算出し、該マーキングが前記画面内で所定の基準向きに配置される向きに前記処置対象の表示範囲を回転させてもよい。
切離予定線を表すマーキングが処置対象に付されることがある。マーキングの向きも、切離端部の位置と同様、切離が進むにつれて変化することがある。上記構成によれば、処置対象の切離中、制御装置によって、画面内のマーキングの向きが算出される。マーキングの向きが画面の所定の基準向きからずれている場合、制御装置によって、マーキングが画面の所定の基準向きに配置される向きに表示範囲が回転させられる。すなわち、変化するマーキングの向き追従して表示範囲が回転し、マーキングが画面内で所定の基準向きに配置され続ける。これにより、切離中の処置対象の変形に関わらず、処置位置を処置により適した状態で画面上に表示し続けることができる。
【0013】
上記態様において、前記制御装置が、前記マーキングの向きの算出の前に、前記画面内での前記マーキングの向きを事前に算出し、事前に算出された前記マーキングの向きを前記所定の基準向きに設定してもよい。
この構成によれば、処置対象の変形によるマーキングの向きの変化が生じる前に事前に算出された画面上のマーキングの向きが所定の基準向きに設定される。したがって、例えば、術者にとって処置対象を切離し易い向きにマーキングが配置されるように、所定の基準向きを設定することができる。
【0014】
上記態様において、前記制御装置が、前記所定の基準向きを、前記マーキングの両端部の内、前記切離端部から遠い方の端部が前記画面の中心から縦方向に±15%または横方向に±15%の領域内に配置される向きに設定してもよい。
この構成によれば、画面の縦方向または横方向に略平行にマーキングを表示し続けることができる。
【0015】
上記態様において、前記制御装置が、前記処置対象の外面に付されたマーキングと、前記処置対象の切離面のエッジとの交点の位置を、前記切離端部の位置として算出してもよい。または、上記態様において、前記制御装置が、前記画面内での前記処置対象の外面に付されたマーキングの両端部の内、前記処置対象の切離面の重心により近い端部の位置を、前記切離端部の位置として算出してもよい。または、上記態様において、前記制御装置が、前記処置対象の両側の切離面のエッジ同士の交点の位置を、前記切離端部の位置として算出してもよい。
これらの構成によれば、簡単な画像処理と計算によって切離端部の位置を算出することができる。
【0016】
上記態様において、前記制御装置が、前記処置対象の表示範囲の広さを維持しながら前記処置対象の表示範囲を移動させもよい。
例えば、撮像装置の移動によって処置対象の表示範囲を移動させる場合、撮像装置と処置対象との間の距離が変化すると表示範囲の広さが変化する。上記構成によれば、このような不都合を解消し、一定の広さの処置対象の表示範囲を画面に表示し続けることができる。
【0017】
上記態様において、前記制御装置が、前記画像の処理によって前記処置対象の表示範囲を移動させてもよい。
この構成によれば、移動装置によって撮像装置を目標位置へ移動させることができない場合、画像の画像処理によって、切離端部の位置を画面の所定の基準位置に表示し続けることができる。あるいは、撮像装置を移動させることなく、画像処理のみで表示範囲の移動を実現することができる。
【0018】
上記態様において、前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させることができない場合、前記制御装置は、前記所定の基準位置を更新してもよい。
この構成によれば、撮像装置が移動できる範囲が制限されている場合等、撮像装置の移動および画像の画像処理によって、所定の基準位置への切離端部の移動を達成できないことがある。このような場合、所定の基準位置を更新する、すなわち画面内の別の位置を新しい所定の基準位置に設定することによって、画面内の新しい所定の基準位置に切離端部を表示し続けることができる。
【0019】
本発明の他の態様は、手術システムの制御装置によって実行される制御方法であって、前記手術システムが、処置対象を撮影する撮像装置と、該撮像装置によって撮影された前記処置対象を表示する画面を有する表示装置と、を備え、前記撮像装置によって取得された前記処置対象の画像に基づいて前記処置対象の切離端部の位置を算出し、前記切離端部が前記画面内の所定の基準位置に配置される位置に前記処置対象の表示範囲を移動させる、手術システムの制御方法である。
【発明の効果】
【0020】
本発明によれば、処置中の処置対象の変形に関わらず、処置対象を処置に適した状態で画面上に表示し続けることができるという効果を奏する。
【図面の簡単な説明】
【0021】
【
図1】本発明の一実施形態に係る手術システムの全体構成の外観図である。
【
図2】
図1の手術システムの制御装置の構成を示すブロック図である。
【
図3A】処置対象の切離の初期の状態を示す図である。
【
図3B】切離の進行に伴って処置対象が変形した状態を示す図である。
【
図3C】切離端部およびマーキングに対して適切な位置および向きに内視鏡を移動させた状態を示す図である。
【
図5A】
図1の手術システムの制御方法のフローチャートである。
【
図5B】
図5Aの特徴量算出ルーチンのフローチャートである。
【
図7】
図5Aの制御方法の変形例のフローチャートである。
【
図8】
図5Aの制御方法の変形例のフローチャートである。
【
図10A】切離端部の他の算出方法を説明する図である。
【
図10B】切離端部の他の算出方法を説明する図である。
【発明を実施するための形態】
【0022】
以下に、本発明の一実施形態に係る手術システムおよび手術システムの制御方法について図面を参照して説明する。
【0023】
[手術システム100の構成]
本実施形態に係る手術システム100は、腹腔鏡下手術での内視鏡1および処置具5による処置を支援するシステムである。手術システム100は、内視鏡1の自律制御機能を有し、特に、内視鏡1の移動によって手術シーン毎に視野を最適化する自律移動機能を有する。
図1に示されるように、手術システム100は、患者Pの体内の処置対象Aを撮影する撮像装置としての内視鏡1と、内視鏡1を移動させる移動装置2と、内視鏡1および移動装置2を制御する制御装置3と、内視鏡1によって撮影された処置対象Aを表示する表示装置4とを備える。なお、撮像装置は、内視鏡1に限らず、患者Pの体内の処置対象Aを撮影する任意の装置であってもよい。
【0024】
内視鏡1は硬性鏡であり、内視鏡1の先端部には、臓器または組織等の処置対象Aを撮影するためのレンズおよび撮像素子等の素子が設けられている。内視鏡1は、移動装置2の内部を通る信号線によって制御装置3と接続され、内視鏡1を制御するための制御信号を制御装置3から受信し、内視鏡画像のデータを制御装置3に送信する。
移動装置2は、少なくとも1つの屈曲関節2aを有する電動駆動のロボットアームであり、ロボットアーム2の先端部に内視鏡1の基端部が接続されている。
【0025】
表示装置4は、液晶ディスプレイ等の公知の表示装置であり、画面4aを有する。表示装置4は、制御装置3と接続され、制御装置3から入力された処置対象Aの内視鏡画像を画面4aに表示する。表示装置4は、ヘッドマウントディスプレイまたはプロジェクタであってもよい。
ロボットアーム2の関節2aの屈曲動作によって内視鏡1が移動し、それにより、内視鏡1の視野、すなわち画面4aに表示される処置対象Aの表示範囲が移動する。ロボットアーム2の動作は制御装置3によって制御される。
【0026】
図2に示されるように、制御装置3は、中央演算処理装置のような少なくとも1つのプロセッサ3aと、メモリ3bと、記憶部3cと、入力インタフェース3dと、出力インタフェース3eと、ネットワークインタフェース3fとを備える。
内視鏡1から送信された内視鏡画像は、入力インタフェース3dを経由して制御装置3に逐次入力され、出力インタフェース3eを経由して表示装置4に逐次出力される。これにより、画面4aに、内視鏡1によって撮影された処置対象Aの内視鏡画像が表示される。
【0027】
記憶部3cは、ROM(read-only memory)またはハードディスク等の不揮発性の記録媒体であり、プロセッサ3aに処理を実行させるために必要なプログラムおよびデータを記憶している。制御装置3の後述の機能は、プログラムがメモリ3bに読み込まれプロセッサ3aによって実行されることによって、実現される。制御装置3の一部の機能は、専用の論理回路等によって実現されてもよい。
【0028】
図3Aおよび
図3Bに示されるように、肝切除術のような処置対象Aを切離する手術において、重力Gの影響および処置対象Aの柔らかさの影響によって、切離を進めるにつれて処置対象Aの少なくとも一部が変形したり移動したりする。その結果、
図4Aおよび
図4Bに示されるように、画面4a内の処置対象Aの位置、向きおよび表示範囲の広さが次第に変化することがある。
図3Aから
図3Cは、処置対象Aである肝臓の実質を離断する肝切除を示している。
図3Aから
図3Cにおいて、重力Gは、紙面の上から下へ向かう方向である。
【0029】
制御装置3は、第1特徴量、第2特徴量および第3特徴量を算出する。第1特徴量は、画面4a内の処置対象Aの構図を表す量である。第2特徴量は、画面4a内での処置対象Aの向きを表す量である。第3特徴量は、画面4aに表示されている処置対象Aの表示範囲の広さ、すなわち内視鏡1の視野の広さを表す量である。
具体的には、制御装置3は、第1特徴量として、画面4a内での切離端部Bの位置を算出する。切離端部Bは、処置具5によって形成された切離線の先端部である。切離端部Bの位置は、画面4aに固定された画面座標系Σsでの切離端部Bの座標である。また、制御装置3は、第2特徴量として、画面4a内のマーキングCの向き(画面4aに沿う平面内でのマーキングCの回転角度)を算出する。マーキングCは、処置対象Aの切離前に処置対象Aの外面に付された切離予定線であり、例えば点線または実線である。マーキングCは、例えば、処置対象Aの外面を電気メスで焼灼することによって付される。そして、制御装置3は、第3特徴量として、内視鏡1の先端と切離端部Bとの間の距離を算出する。
各特徴量の具体的な算出方法については、後で詳述する。
【0030】
制御装置3は、逐次入力される内視鏡画像の中から1つの内視鏡画像を取り込み、取り込んだ内視鏡画像に基づいて前述した第1特徴量、第2特徴量および第3特徴量を算出する。次に、制御装置3は、算出された第1、第2および第3特徴量に基づいてロボットアーム2を制御することによって、各特徴量が所定の基準と同等となるように内視鏡1の視野を移動させる。これにより、画面4a上に所定の基準に従って処置対象Aが表示され続ける。
また、制御装置3は、特徴量の算出および内視鏡1の視野の移動に先立ち、内視鏡画像Dに基づいて所定の基準を設定する。所定の基準の設定方法については、後で詳述する。
【0031】
[手術システム100の制御方法]
次に、制御装置3によって実行される手術システム100の制御方法について説明する。
図5Aに示されるように、手術システム100の制御方法は、3つの特徴量の各々の基準を設定する基準設定ステップS1~S3と、内視鏡画像Dに基づいて3つの特徴量を算出する特徴量算出ステップS4,S5と、移動装置2の制御によって内視鏡1の視野を調整する視野調整ステップS6とを含む。
【0032】
基準設定ステップは、内視鏡画像Dを取り込むステップS1と、3つの特徴量を算出するステップS2と、各特徴量の基準を設定するステップS3とを含む。
ステップS1において、制御装置3は、逐次入力される内視鏡画像Dの中から1つの内視鏡画像Dを取り込む。このときに取り込まれる内視鏡画像Dは、
図4Aに示されるように、処置対象Aの変形による切離端部BおよびマーキングCの移動が生じる前の画像である。画像の取り込みは、例えば、作業者による制御装置3への入力に応答して実行される。
【0033】
次に、ステップS2において、取り込まれた内視鏡画像Dに基づき、3つの特徴量の各々が算出される。具体的には、ステップS2は、
図5Bに示されるように、内視鏡画像D内のマーキングCおよび切離面EのエッジFを認識するステップS21と、第1特徴量を算出するステップS22と、第2特徴量を算出するステップS23と、第3特徴量を算出するステップS24~S26とを含む。
【0034】
ステップS21において、
図6に示されるように、制御装置3は、内視鏡画像Dに画像処理を施すことによって、マーキングCと、切離面EのエッジFとを認識する。マーキングCおよび切離面Eは、処置対象Aの外面および周辺組織とは異なる色を有するので、制御装置3は、色に基づいてマーキングCおよび切離面Eを認識することができる。このとき、画像処理によって両側の切離面Eを相互に区別して認識することは難しく、両側の切離面Eは1つの面として認識される。したがって、エッジFは、単一の線として認識される。
【0035】
次に、ステップS22において、制御装置3は、画面4a内でのマーキングCとエッジFとの交点の位置を切離端部Bの位置として算出する。切離端部Bの位置は、画面座標系Σsでの座標として表わされる。
図6に示されるようにマーキングCが点線である場合、点同士を接続する実線を生成し、実線とエッジFとの交点の位置を算出してもよい。
また、閉環状のエッジFまたは複数本のエッジFが認識された場合、複数の交点の位置が算出され得る。この場合、マーキングCに最も近い交点の位置を切離端部Bの位置として採用してもよい。
【0036】
次に、ステップS23において、制御装置3は、画面4a内でのマーキングC上の任意の相異なる2点の位置を検出する。2点の位置は、画面座標系Σsでの座標として表される。次に、制御装置3は、2点を結ぶベクトルを画面4a内でのマーキングCの向きとして算出する。
ステップS22およびステップS23の順番は任意であり、ステップS23の後にステップS22が実行されてもよい。
【0037】
次に、ステップS24において、制御装置3は、内視鏡1を保持するロボットのベース座標系Σrでの内視鏡1の先端の位置を検出する。ベース座標系Σrは、ロボットアーム2の非可動部分(例えば、ロボットアーム2の基端部)に対して固定された座標系である。例えば、制御装置3は、ロボットアーム2の各関節2aに設けられた角度センサによって各関節2aの回転角度を取得し、回転角度に基づいて内視鏡1の先端の位置を検出する。内視鏡1の先端の位置は、ロボットのベース座標系Σrでの座標として表される。
【0038】
次に、ステップS25において、制御装置3は、ステップS22において算出された切離端部Bの位置を、ロボットのベース座標系Σrでの位置に変換する。また、制御装置3は、ステップS23において算出されたマーキングCの向きを、ロボットのベース座標系Σrでの向きに変換する。
次に、ステップS26において、制御装置3は、ステップS24およびS25において得られた内視鏡1の先端の位置と切離端部Bの位置との間の距離を算出し、算出された距離を記憶部3cに記憶させる。また、制御装置3は、ステップS25で変換された切離端部Bの位置とマーキングCの向きを記憶部3cに記憶させる。
【0039】
次に、ステップS3において、制御装置3は、記憶部3cに記憶された切離端部Bの位置を、第1特徴量の基準である所定の基準位置に設定する。また、制御装置3は、記憶部3cに記憶されたマーキングCの向きを、第2特徴量の基準である所定の基準向きに設定する。また、制御装置3は、記憶部3cに記憶された距離を、第3特徴量の基準である所定の基準距離に設定する。
【0040】
次に、特徴量算出ステップが行われる。特徴量算出ステップは、内視鏡画像Dを再度取り込むステップS4と、取り込まれた内視鏡画像Dに基づいて3つの特徴量を再度算出するステップS5と、を含む。
ステップS4において、制御装置3は、内視鏡画像Dを再び取り込む。このときに取り込まれる内視鏡画像Dは、
図4Bに示されるように、ステップS1において取り込まれた内視鏡画像Dから時間が経過した内視鏡画像であり、切離が進んだときの内視鏡画像である。
次に、ステップS5において、制御装置3は、再び取り込んだ内視鏡画像Dに基づいてステップS21~S26と同じ処理を行うことによって、3つの特徴量を算出する。
【0041】
次に、視野調整ステップS6において、制御装置3は、ステップS5において算出された3つの特徴量の各々を基準と比較し、基準からの各特徴量の変化量を算出する。次に、制御装置3は、各特徴量の変化量がゼロとなり各特徴量が基準と同等となる内視鏡1の目標位置および目標姿勢を算出する。すなわち、目標位置および目標姿勢は、切離端部Bが画面4a内の基準位置に配置され、マーキングCが画面4a内で基準向きに配置され、かつ、切離端部Bから内視鏡1の先端までの距離が基準距離と等しくなる、内視鏡1の位置および姿勢である。
【0042】
次に、制御装置3は、内視鏡1を目標位置および目標姿勢に移動させるための内視鏡1の移動量および移動方向を算出し、算出された移動量および移動方向を達成するためのロボットアーム2の動作量(具体的には各関節2aの回転量)を算出する。続いて、制御装置3は、算出された動作量だけロボットアーム2を動作させるための制御信号を生成し、制御信号をロボットアーム2に送信する。
【0043】
これにより、
図3Cに示されるように、ロボットアーム2は制御信号に応答して動作する。それによって、3つの特徴量の変化が相殺される目標位置および目標姿勢に腹腔内で内視鏡1が移動し、内視鏡1の視野が移動する。その結果、
図4Cに示されるように、画面4aに表示される処置対象Aの表示範囲が移動および回転し、切離端部Bが所定の基準位置に配置され、マーキングCが所定の基準向きに配置される。また、内視鏡1の先端から切離端部Bまでの距離が所定の基準距離に調整され、画面4aに表示される処置対象Aの表示範囲の広さが所定の広さに維持される。
【0044】
このように、本実施形態によれば、切離の進行に伴って肝臓等の処置対象Aが変形し特徴量が変化したとき、特徴量の変化が相殺される位置および方向に内視鏡1が自動的に移動する。つまり、切離端部BおよびマーキングCの移動に追従して内視鏡1の視野が自動的に移動する。これにより、マーキングCに沿って処置対象Aを切離している間、切離端部Bの位置、マーキングCの方向および視野の広さが、それぞれの基準に維持される。例えば、切離端部Bの位置は画面4aの中央に表示され続け、マーキングCは画面4aの縦方向に表示され続ける。
処置対象Aの切離中、術者は、画面4aに表示される内視鏡画像Dの処置対象Aに基づいて処置具5の位置および移動方向を制御する。本実施形態によれば、切離中の処置対象Aの変形に関わらず、処置対象Aを術者にとって処置し易い状態で画面4aに表示し続けることができる。
【0045】
内視鏡1が移動できる範囲が制限されている場合、3つの特徴量の各々が基準と同等となる目標位置および目標姿勢に内視鏡1を移動させることができないことがある。例えば、内視鏡1と周辺物体(例えば、周辺組織または他の器具)との干渉を防止する機能が手術システム100に搭載されている場合、内視鏡1と周辺物体との干渉が予測される位置には内視鏡1を移動させることができない。このような場合、制御装置3は、内視鏡画像Dの処理によって3つの特徴量の各々の基準からの変化量がゼロになる画像を作成し、作成された画像を表示装置4に出力して画面4aに表示させてもよい。これにより、内視鏡1を移動させたときと同様に、画面4aに表示される処置対象Aの表示範囲を移動および回転させることができる。
【0046】
具体的には、
図7に示されるように、ステップS5の後にステップS7~S10が追加されてもよい。
制御装置3は、ステップS7において、目標位置および目標姿勢に内視鏡1を移動させることができるか否かを判定する。目標位置および目標姿勢に内視鏡1を移動することができないと判断した場合(ステップS7のNO)、制御装置3は、ステップS8において、特徴量の変化がゼロの内視鏡画像Dを画像処理によって作成できるか否かを判定する。特徴量の変化がゼロになる内視鏡画像Dを画像処理によって作成できる場合(ステップS8のYES)、制御装置3は、ステップS9において、画像処理を行う。具体的には、制御装置3は、ステップS4において取り込まれた内視鏡画像Dにトリミング、拡大縮小および回転の処理を施すことによって、特徴量の変化量がゼロになる画像を作成する。
特徴量の変化がゼロになる画像を画像処理によって作成することができない場合(ステップS8のNO)、制御装置3は、ステップS10において、特徴量の基準を更新してもよい。例えば、制御装置3は、ステップS5において算出された特徴量を新たな基準に設定してもよい。
【0047】
上記実施形態において、ステップS4~S6の前に内視鏡画像Dに基づいて特徴量を事前に算出し、事前に算出された特徴量を基準に設定することとしたが、これに代えて、
図8に示されるように、基準が予め設定されていてもよい。
図9は、予め設定された第1特徴量および第2特徴量の基準の例を示している。
第1特徴量の基準である基準位置は、画面4a内の所定の一点または所定の一部分に設定される(ステップS11)。基準位置は、画面4aの中心点または中心領域であってもよい。
図9に示されるように、中心領域は、中心点から横方向に画面4aの横寸法の±15%の範囲内、かつ、縦方向に、画面4aの縦寸法の±15%の範囲内であることが好ましい。中心領域は、矩形に限定されず、例えば、画面4aの中心点を中心とする円形または楕円形の領域であってもよい。
【0048】
第2特徴量の基準である基準向きは、画面4a内のマーキングCの両端部の内、切離端部Bから遠い方の端部が、画面4aの中心点から横方向に±15%の範囲内(I-Iの範囲内)に配置される方向に設定される(ステップS12)。これにより、マーキングCは、画面4aの縦方向に平行または略平行な方向に維持される。マーキングCが画面4aの横方向に平行または略平行な方向に維持されるようにするために、基準向きは、マーキングCの遠い方の端部が、画面4aの中心点から縦方向に±15%の範囲内(II-IIの範囲内)に配置される方向に設定されてもよい。
第3特徴量の基準である基準距離は、上述したステップS21,S22,S24~S26,S3と同じ方法で設定される(ステップS13)。
【0049】
上記実施形態において、マーキングCと切離面EのエッジFとの交点を切離端部Bの位置として算出することとしたが、切離端部Bの位置の算出方法はこれに限定されるものではなく、他の方法で算出してもよい。
図10Aおよび
図10Bは、切離端部Bの算出方法の他の例を説明している。
【0050】
図10Aにおいて、制御装置3は、切離面Eの重心Hの位置を算出し、画面4a内でのマーキングCの両端部の内、重心Hに近い方の端部の位置を切離端部Bの位置として算出する。
図10Bにおいて、制御装置3は、一側の切離面EのエッジFと他側の切離面EのエッジFとの交点の位置を切離端部Bの位置として算出する。もしくは、制御装置3は、各側の切離面EのエッジFを直線近似し、2本の直線の交点の位置を切離端部Bの位置として算出してもよい。
切離面Eの上側のエッジFは上に凸の曲線であり、エッジFの頂点に切離端部Bが位置する。したがって、エッジFの頂点を検出することができる他の方法を用いてもよい。例えば、制御装置3は、エッジFを表す曲線の極大点を切離端部Bの位置として算出してもよい。
【0051】
上記実施形態において、マーキングCが処置対象に直接付される例を説明したが、マーキングCは、内視鏡画像Dに重畳して表示される仮想のマーキングであってもよい。すなわち、マーキングCは、内視鏡画像Dを画像処理することによって画面4aに表示されるマーキングであってもよい。マーキングCは、処置対象の情報に基づいて公知の技術によって形成され、内視鏡画像Dに重畳して画面4aに表示される。
【0052】
上記実施形態において、処置対象Aが肝臓であり、肝実質を離断する腹腔鏡下手術を例に説明したが、手術システム100が適用される処置対象Aおよび手術はこれに限定されるものではなく、他の処置対象および手術にも手術システム100を適用することができる。
例えば、S状結腸切除術において、S状結腸から筋膜を剥離するとき、腹腔内で剥離線が移動し得る。この場合、剥離の進捗に応じて剥離線に内視鏡1の視野を追従させ、剥離線が処置し易い位置、方向および距離に配置されるように内視鏡1を自律移動させることができる。
また、手術システム100は、腹腔鏡以外の種類の内視鏡を備え、腹腔鏡下手術以外の内視鏡下手術に適用されてもよい。
【0053】
上記実施形態において、画面4aに表示される処置対象Aの表示範囲を内視鏡1の移動によって移動および回転させることとしたが、これに代えて、画像処理のみで表示範囲を移動および回転させてもよい。
例えば、内視鏡1が広範囲の内視鏡画像Dを取得し、内視鏡画像Dの一部分が画面4aに表示される。この場合、内視鏡画像Dの内、画面4aに表示される部分を移動および回転させることによって、内視鏡1を移動させた場合と同じ作用効果を得ることができる。
【符号の説明】
【0054】
100 手術システム
1 内視鏡(撮像装置)
2 移動装置、ロボットアーム
3 制御装置
4 表示装置
4a 画面
5 処置具
A 処置対象
B 切離端部
C マーキング
D 内視鏡画像
G 重力