(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022120451
(43)【公開日】2022-08-18
(54)【発明の名称】手術システムおよび表示方法
(51)【国際特許分類】
A61B 34/20 20160101AFI20220810BHJP
【FI】
A61B34/20
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2021017355
(22)【出願日】2021-02-05
(71)【出願人】
【識別番号】504150450
【氏名又は名称】国立大学法人神戸大学
(71)【出願人】
【識別番号】514063179
【氏名又は名称】株式会社メディカロイド
(71)【出願人】
【識別番号】000000974
【氏名又は名称】川崎重工業株式会社
(74)【代理人】
【識別番号】100104433
【弁理士】
【氏名又は名称】宮園 博一
(74)【代理人】
【識別番号】100202728
【弁理士】
【氏名又は名称】三森 智裕
(72)【発明者】
【氏名】山口 雷藏
(72)【発明者】
【氏名】川端 英雄
(72)【発明者】
【氏名】森本 高貴
(57)【要約】
【課題】操作者が、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することが可能な手術システムを提供する。
【解決手段】この外科手術システム100(手術システム)では、画像処理装置8は、医療器具401および医療器具402の少なくともいずれかが内視鏡6の視野外に位置している場合に、患者Pの体を示すグラフィックPGとともに、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12および医療器具402の先端位置P22をグラフィカルユーザインターフェイスGに表示するように構成されている。
【選択図】
図20
【特許請求の範囲】
【請求項1】
手術部位を撮像する内視鏡、第1手術器具および第2手術器具を各々支持するための複数のマニピュレータと、
前記内視鏡によって撮像された画像を表示するための表示装置、前記第1手術器具を操作するための第1操作ハンドル、および、前記第2手術器具を操作するための第2操作ハンドルを含む遠隔操作装置と、
グラフィカルユーザインターフェイスを前記内視鏡によって撮像された画像上に重ねて前記表示装置に表示するように構成された制御装置と、を備え、
前記制御装置は、前記第1手術器具および前記第2手術器具の少なくともいずれかが前記内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、前記第1手術器具の第1挿入位置、前記第1手術器具の第1先端位置、前記第2手術器具の第2挿入位置および前記第2手術器具の第2先端位置を前記グラフィカルユーザインターフェイスに表示するように構成されている、手術システム。
【請求項2】
前記グラフィカルユーザインターフェイスは、前記グラフィックとともに、前記内視鏡の位置を表示する、請求項1に記載の手術システム。
【請求項3】
前記複数のマニピュレータは、交換用手術器具を支持する前記マニピュレータを含み、
前記グラフィカルユーザインターフェイスは、前記交換用手術器具が前記内視鏡の視野外に位置している場合に、前記グラフィックとともに、前記第1挿入位置、前記第1先端位置、前記第2挿入位置、前記第2先端位置、前記交換用手術器具の第3挿入位置、および、前記交換用手術器具の第3先端位置を表示する、請求項1または2に記載の手術システム。
【請求項4】
前記グラフィカルユーザインターフェイスは、前記内視鏡の視野外に位置している前記第1手術器具および前記第2手術器具の少なくともいずれかの先端位置の色を、前記内視鏡の視野内に位置している前記第1手術器具および前記第2手術器具の少なくともいずれかの先端位置の色とは異なる色で表示する、請求項1~3のいずれか1項に記載の手術システム。
【請求項5】
前記遠隔操作装置は、前記内視鏡を移動させるための指令を入力する内視鏡用入力装置を備え、
前記制御装置は、前記内視鏡を移動させるための指令が前記内視鏡用入力装置により入力された場合、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくともいずれかの有無を判定し、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくともいずれかがある場合に、前記第1挿入位置、前第1先端位置、前記第2挿入位置および前記第2先端位置を前記グラフィカルユーザインターフェイスに表示するように構成されている、請求項1~4のいずれか1項に記載の手術システム。
【請求項6】
前記内視鏡を移動させるための指令が前記内視鏡用入力装置により入力された場合、前記内視鏡は、前記第1操作ハンドルおよび前記第2操作ハンドルの両方を操作することによって移動するように構成されている、請求項5に記載の手術システム。
【請求項7】
前記制御装置は、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくともいずれかの有無を判定し、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくともいずれかがある場合に、前記第1挿入位置、前第1先端位置、前記第2挿入位置および前記第2先端位置を前記グラフィカルユーザインターフェイスに表示する制御を行うように構成されている、請求項1~4のいずれか1項に記載の手術システム。
【請求項8】
前記制御装置は、
前記内視鏡の移動を可能にする指令を受けた場合に、前記グラフィカルユーザインターフェイスにおいて、前記表示装置の画面の上下方向における中央、かつ、左右方向における中央に配置されるセンターエリアに前記内視鏡の水準器を表示するとともに、前記第1挿入位置、前記第1先端位置、前記第2挿入位置および前記第2先端位置を前記水準器の外側に表示するように構成されている、請求項1~7のいずれか1項に記載の手術システム。
【請求項9】
前記グラフィカルユーザインターフェイスにおいて、前記第1挿入位置および前記第2挿入位置は、第1の標識で表示され、前記第1先端位置および前記第2先端位置は、前記第1の標識とは異なる第2の標識で表示される、請求項1~8のいずれか1項に記載の手術システム。
【請求項10】
前記グラフィカルユーザインターフェイスにおいて、前記第1挿入位置と前記第1先端位置とを結ぶ第1矢印、および、前記第2挿入位置と前記第2先端位置とを結ぶ第2矢印がさらに表示される、請求項1~9のいずれか1項に記載の手術システム。
【請求項11】
前記複数のマニピュレータは、交換用手術器具を支持するためのマニピュレータを含み、
前記制御装置は、前記第1手術器具に関する情報を示す第1エリアと、前記交換用手術器具に関する情報を表示する第2エリアと、前記第2手術器具に関する情報を示す第3エリアと、前記内視鏡に関する情報を示す第4エリアと、を前記表示装置の画面の下方または上方の端部近傍領域に配置して前記グラフィカルユーザインターフェイスを表示するように構成されている、請求項1~10のいずれか1項に記載の手術システム。
【請求項12】
手術部位を撮像する内視鏡、第1手術器具および第2手術器具を各々支持するための複数のマニピュレータと、
前記内視鏡によって撮像された画像を表示するための表示装置、前記第1手術器具を操作するための第1操作ハンドル、および、前記第2手術器具を操作するための第2操作ハンドルを含む遠隔操作装置と、
鉗子位置を前記表示装置に表示するための指令の入力を行う表示用入力装置と、
グラフィカルユーザインターフェイスを前記内視鏡によって撮像された画像上に重ねて前記表示装置に表示するように構成された制御装置と、を備え、
前記制御装置は、前記表示用入力装置によって入力が行われた場合に、患者の体を示すグラフィックとともに、前記第1手術器具の第1挿入位置、前記第1手術器具の第1先端位置、前記第2手術器具の第2挿入位置および前記第2手術器具の第2先端位置を前記グラフィカルユーザインターフェイスに表示するように構成されている、手術システム。
【請求項13】
第1手術器具を支持するための第1マニピュレータと、
第2手術器具を支持するための第2マニピュレータと、
手術部位を撮像する内視鏡を支持するための第3マニピュレータと、
前記内視鏡によって撮像された画像を表示するための表示装置、前記第1手術器具を操作するための第1操作ハンドル、前記第2手術器具を操作するための第2操作ハンドル、および前記内視鏡の移動を前記第1操作ハンドルおよび前記第2操作ハンドルの操作によって実行させるための内視鏡ペダルを含む操作ペダルを備えた遠隔操作装置と、
グラフィカルユーザインターフェイスを前記内視鏡によって撮像された画像上に重ねて前記表示装置に表示するように構成された制御装置と、を備え、
前記制御装置は、前記第1手術器具および前記第2手術器具の少なくともいずれかが前記内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、前記第1手術器具の第1挿入位置、前記第1手術器具の第1先端位置、前記第2手術器具の第2挿入位置および前記第2手術器具の第2先端位置を前記グラフィカルユーザインターフェイスに表示するように構成されている、手術システム。
【請求項14】
手術部位を撮像するための内視鏡によって撮像された画像を取得するステップと、
グラフィカルユーザインターフェイスを生成し、前記グラフィカルユーザインターフェイスを前記内視鏡によって取り込まれた画像上に重ねて、表示装置に表示するステップと、
複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが前記内視鏡の視野外に位置していることを検出するステップと、
前記複数のマニピュレータに各々支持される前記第1手術器具および前記第2手術器具の少なくともいずれかが前記内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、前記第1手術器具の第1挿入位置、前記第1手術器具の第1先端位置、前記第2手術器具の第2挿入位置および前記第2手術器具の第2先端位置を前記グラフィカルユーザインターフェイスに表示するステップと、を備える、表示方法。
【請求項15】
鉗子位置に関する情報の表示をコンピュータに実行させるプログラムであって、
前記コンピュータに、
手術部位を撮像するための内視鏡によって撮像された画像を取得するステップと、
グラフィカルユーザインターフェイスを生成し、前記グラフィカルユーザインターフェイスを前記内視鏡によって取り込まれた画像上に重ねて、表示装置に表示するステップと、
複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが前記内視鏡の視野外に位置していることを検出するステップと、
前記複数のマニピュレータに各々支持される前記第1手術器具および前記第2手術器具の少なくともいずれかが前記内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、前記第1手術器具の第1挿入位置、前記第1手術器具の第1先端位置、前記第2手術器具の第2挿入位置および前記第2手術器具の第2先端位置を前記グラフィカルユーザインターフェイスに表示するステップと、を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、手術システムおよび表示方法に関し、特に、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて表示装置に表示する手術システムおよび表示方法に関する。
【背景技術】
【0002】
従来、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて表示するロボット手術システムが知られている(たとえば、特許文献1参照)。
【0003】
上記特許文献1のロボット手術システムでは、内視鏡は、モニタの表示領域に表示するための手術部位の画像を撮影する。また、このロボット手術システムでは、内視鏡によって撮影された画像(視野)に対するツールの現在の位置が決定される。内視鏡によって撮影された画像(視野)内にツールが映っている場合には、手術部位とともにツールがモニタに表示される。また、決定されたツールの現在の位置がモニタに表示される画像(視野)の外にある場合、ツールの現在の位置が、モニタの画面の表示領域の外側にある境界領域に記号として表示される。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、上記特許文献1に記載のロボット手術システムでは、モニタに表示される画像(視野)の外にあるツールの現在の位置が、モニタの画面の表示領域の外側にある境界領域に記号として表示されるので、操作者は、ツールがモニタに表示される画像(視野)の外に位置していること自体を認識することは可能である。その一方、モニタに表示される画像(視野)の外にあるツール(手術器具)の、患者の体に対する挿入位置と先端位置との関係を認識することはできなかった。また、操作者は、複数のツールのそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することもできなかった。
【0006】
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、操作者が、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することが可能な手術システムおよび表示方法を提供するものである。また、この発明の他の目的は、操作者が、複数の手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することが可能な手術システムおよび表示方法を提供するものである。
【課題を解決するための手段】
【0007】
この発明の第1の局面による手術システムは、手術部位を撮像する内視鏡、第1手術器具および第2手術器具を各々支持するための複数のマニピュレータと、内視鏡によって撮像された画像を表示するための表示装置、第1手術器具を操作するための第1操作ハンドル、および、第2手術器具を操作するための第2操作ハンドルを含む遠隔操作装置と、グラフィカルユーザインターフェイスを内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成された制御装置と、を備え、制御装置は、第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するように構成されている。
【0008】
この発明の第1の局面による手術システムでは、上記のように、制御装置は、第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するように構成されている。これにより、操作者は、グラフィカルユーザインターフェイスを視認することにより、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することができる。また、操作者は、第1および第2手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することができる。
【0009】
この発明の第2の局面による手術システムは、手術部位を撮像する内視鏡、第1手術器具および第2手術器具を各々支持するための複数のマニピュレータと、内視鏡によって撮像された画像を表示するための表示装置、第1手術器具を操作するための第1操作ハンドル、および、第2手術器具を操作するための第2操作ハンドルを含む遠隔操作装置と、鉗子位置を表示装置に表示するための指令の入力を行う表示用入力装置と、グラフィカルユーザインターフェイスを内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成された制御装置と、を備え、制御装置は、表示用入力装置によって入力が行われた場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するように構成されている。
【0010】
この発明の第2の局面による手術システムでは、上記のように、制御装置は、表示用入力装置によって入力が行われた場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するように構成されている。これにより、操作者は、第1および第2手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することができる。
【0011】
この発明の第3の局面による手術システムは、第1手術器具を支持するための第1マニピュレータと、第2手術器具を支持するための第2マニピュレータと、手術部位を撮像する内視鏡を支持するための第3マニピュレータと、内視鏡によって撮像された画像を表示するための表示装置、第1手術器具を操作するための第1操作ハンドル、第2手術器具を操作するための第2操作ハンドル、および内視鏡の移動を第1操作ハンドルおよび第2操作ハンドルの操作によって実行させるための内視鏡ペダルを含む操作ペダルを備えた遠隔操作装置と、グラフィカルユーザインターフェイスを内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成された制御装置と、を備え、制御装置は、第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するように構成されている。
【0012】
この発明の第3の局面による手術システムでは、上記のように、制御装置は、第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するように構成されている。これにより、操作者が、グラフィカルユーザインターフェイスを視認することにより、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することが可能な手術システムを提供することができる。また、操作者が、第1および第2手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することが可能な手術システムを提供することができる。
【0013】
この発明の第4の局面による表示方法は、手術部位を撮像するための内視鏡によって撮像された画像を取得するステップと、グラフィカルユーザインターフェイスを生成し、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて、表示装置に表示するステップと、複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置していることを検出するステップと、複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するステップと、を備える。
【0014】
この発明の第4の局面による表示方法では、上記のように、複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するステップを備える。これにより、操作者が、グラフィカルユーザインターフェイスを視認することにより、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することが可能な表示方法を提供することができる。また、操作者が、第1および第2手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することが可能な表示方法を提供することができる。
【0015】
この発明の第5の局面によるプログラムは、鉗子位置に関する情報の表示をコンピュータに実行させるプログラムであって、コンピュータに、手術部位を撮像するための内視鏡によって撮像された画像を取得するステップと、グラフィカルユーザインターフェイスを生成し、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて、表示装置に表示するステップと、複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置していることを検出するステップと、複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するステップと、を実行させる。
【0016】
この発明の第5の局面によるプログラムは、上記のように、複数のマニピュレータに各々支持される第1手術器具および第2手術器具の少なくともいずれかが内視鏡の視野外に位置している場合に、患者の体を示すグラフィックとともに、第1手術器具の第1挿入位置、第1手術器具の第1先端位置、第2手術器具の第2挿入位置および第2手術器具の第2先端位置をグラフィカルユーザインターフェイスに表示するステップを備える。これにより、操作者が、グラフィカルユーザインターフェイスを視認することにより、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することが可能なプログラムを提供することができる。また、操作者が、第1および第2手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することが可能なプログラムを提供することができる。
【発明の効果】
【0017】
本発明によれば、操作者が、内視鏡の視野外に位置している手術器具の、患者の体に対する挿入位置と先端位置との関係を認識することができる。また、操作者が、複数の手術器具のそれぞれについて、患者の体に対する挿入位置と先端位置との位置関係を認識することができる。
【図面の簡単な説明】
【0018】
【
図1】第1実施形態による外科手術システムの構成を示す図である。
【
図2】第1実施形態による医療用マニピュレータの構成を示す図である。
【
図3】第1実施形態による操作ハンドルの構成を示す図である。
【
図4】第1実施形態によるフットペダルの構成を示す図である。
【
図5】第1実施形態による医療用マニピュレータのアームの構成を示す図である。
【
図7】第1実施形態による医療用マニピュレータの操作部の構成を示す斜視図である。
【
図10】アームの並進移動を説明するための図である。
【
図11】アームの回転移動を説明するための図である。
【
図12】第1実施形態による医療用マニピュレータの制御部の構成を示すブロック図である。
【
図13】内視鏡によって取り込まれた画像、および、グラフィカルユーザインターフェイスを示す図である。
【
図14】グラフィカルユーザインターフェイスのエリアを示す図である。
【
図15】クラッチエリアの表示を説明するための図である。
【
図16】医療器具状態情報エリアの表示を説明するための図である。
【
図17】左ポップアップエリアの表示を説明するための図である。
【
図18】右ポップアップエリアの表示を説明するための図である。
【
図19】4つのアームと、アームに取り付けられている医療器具(内視鏡)を示す図である。
【
図20】医療器具の挿入位置と先端位置(医療器具の記号)を示す図である。
【
図21】医療器具の挿入位置と先端位置(色付きの丸)を示す図である。
【
図22】医療器具の挿入位置と先端位置(医療器具の記号および色付きの丸)を示す図である。
【
図23】医療器具の挿入位置と先端位置(色付きの丸と矢印)を示す図である。
【
図24】遠隔操作装置のタッチパネルの表示を説明するための図である。
【
図25】第1実施形態による表示方法を説明するためのフロー図である。
【
図26】第2実施形態による表示方法を説明するためのフロー図である。
【
図27】第3実施形態による外科手術システムの構成を示す図である。
【
図28】第3実施形態による表示方法を説明するためのフロー図である。
【
図29】変形例による医療器具の挿入位置と先端位置を示す図である。
【発明を実施するための形態】
【0019】
以下、本発明を具体化した実施形態を図面に基づいて説明する。
【0020】
[第1実施形態]
図1~
図24を参照して、第1実施形態による外科手術システム100の構成について説明する。外科手術システム100は、患者P側装置である医療用マニピュレータ1と、医療用マニピュレータ1を操作するための操作者側装置である遠隔操作装置2とを備えている。医療用マニピュレータ1は医療用台車3を備えており、移動可能に構成されている。遠隔操作装置2は、医療用マニピュレータ1から離間した位置に配置されており、医療用マニピュレータ1は、遠隔操作装置2により遠隔操作されるように構成されている。操作者(医師など)は、医療用マニピュレータ1に所望の動作を行わせるための指令を遠隔操作装置2に入力する。遠隔操作装置2は、入力された指令を医療用マニピュレータ1に送信する。医療用マニピュレータ1は、受信した指令に基づいて動作する。また、医療用マニピュレータ1は、滅菌された滅菌野である手術室内に配置されている。なお、外科手術システム100は、特許請求の範囲の「手術システム」の一例である。
【0021】
遠隔操作装置2は、たとえば、手術室の中または手術室の外に配置されている。遠隔操作装置2は、操作ハンドル21と、フットペダル22と、タッチパネル23と、モニタ24と、支持アーム25と、支持バー26とを含む。操作ハンドル21は、操作者(医師など)が指令を入力するための操作用のハンドルを構成する。なお、モニタ24は、特許請求の範囲の「表示装置」の一例である。
【0022】
操作ハンドル21は、医療器具4を操作するように構成されている。また、操作ハンドル21は、医療器具4に対する操作量を受け付ける。操作ハンドル21は、操作者(医師など)から見て、左側に配置され、操作者の左手により操作される操作ハンドル21Lと、右側に配置され、操作者の右手により操作される操作ハンドル21Rと、を含んでいる。なお、操作ハンドル21Lおよび操作ハンドル21Rは、それぞれ、特許請求の範囲の「第1操作ハンドル」および「第2操作ハンドル」の一例である。
【0023】
また、
図3に示すように、操作ハンドル21は、リンク部21a、リンク部21b、リンク部21c、および、操作者(医師など)が操作するリンク部21dを含む。リンク部21aは、A4軸周りに回動する。リンク部21aがA4軸周りに回動されることにより、後述するアーム部61がJT4軸周りに回動する。リンク部21bは、リンク部21aに対して、A5軸周りに回動する。リンク部21bがA5軸周りに回動されることにより、後述するアーム部61がJT5軸周りに回動する。リンク部21cは、リンク部21bに対して、A6軸周りに回動する。リンク部21cがA6軸周りに回動されることにより、アーム部61がJT6軸周りに回動する。リンク部21dは、リンク部21cに対して、A7軸周りに回動する。リンク部21dがA7軸周りに回動されることにより、アーム部61がJT7軸周りに回動する。なお、医療器具4は、特許請求の範囲の「手術器具」の一例である。
【0024】
また、操作ハンドル21は、操作ハンドル21によって受け付けられた操作量に対してアーム60(医療器具4)の移動量が変更(スケーリング)される。たとえば、移動量の倍率が1/2倍に設定されている場合、医療器具4は、操作ハンドル21の移動距離の1/2の移動距離を移動するよう制御される。これによって、精細な手術を精確に行うことができる。なお、アーム60は、特許請求の範囲の「マニピュレータ」の一例である。
【0025】
図4に示すように、フットペダル22は、医療器具4に関する機能を実行するように複数設けられている。また、複数のフットペダル22は、基台部28に配置されている。フットペダル22は、切替ペダル22aと、クラッチペダル22bと、カメラペダル22cと、切開ペダル22dと、凝固ペダル22eとを含んでいる。切替ペダル22aと、クラッチペダル22bと、カメラペダル22cと、切開ペダル22dと、凝固ペダル22eとは、操作者の足により操作される。また、切開ペダル22dは、右側のアーム60用の切開ペダル22dRと、左側のアーム60用の切開ペダル22dLとを含む。また、凝固ペダル22eは、右側のアーム60用の凝固ペダル22eRと、左側のアーム60用の凝固ペダル22eLとを含む。なお、フットペダル22は、特許請求の範囲の「操作ペダル」の一例である。また、カメラペダル22cは、特許請求の範囲の「内視鏡用入力装置」および「内視鏡ペダル」の一例である。
【0026】
切替ペダル22aは、操作ハンドル21で動作させるアーム60を切り替えるように構成されている。クラッチペダル22bは、アーム60と操作ハンドル21との操作接続を一時切断するクラッチ操作を実行するように構成されている。クラッチペダル22bが操作者によって踏み込まれている間、操作ハンドル21による操作が、アーム60に伝達されなくなる。
【0027】
また、第1実施形態では、カメラペダル22cは、内視鏡6を移動させるための指令を入力するために設けられている。具体的には、カメラペダル22cが操作者によって踏み込まれることにより、内視鏡6を移動させるための指令が入力される。また、内視鏡6の移動を可能にする指令がカメラペダル22cにより入力された場合(つまり、カメラペダル22cが操作者によって踏み込まれている間)、内視鏡6は、操作ハンドル21Rおよび操作ハンドル21Lの両方を操作することによって移動するように構成されている。
【0028】
また、切開ペダル22d(凝固ペダル22e)が操作者によって踏み込まれている間、図示しない電気手術装置が起動する。
【0029】
図1に示すように、モニタ24は、内視鏡6によって取り込まれた画像(
図13参照)を表示するためのスコープ型表示装置である。支持アーム25は、モニタ24の高さを操作者(医師など)の顔の高さに合わせるようにモニタ24を支持する。タッチパネル23は、支持バー26に配置されている。モニタ24近傍に設けられた図示しないセンサにより操作者の頭部を検知することにより医療用マニピュレータ1は遠隔操作装置2による操作が可能になる。操作者は、モニタ24により患部を視認しながら、操作ハンドル21およびフットペダル22を操作する。これにより、遠隔操作装置2に指令が入力される。遠隔操作装置2に入力された指令は、医療用マニピュレータ1に送信される。
【0030】
医療用台車3には、医療用マニピュレータ1の動作を制御する制御部31と、医療用マニピュレータ1の動作を制御するためのプログラムなどが記憶される記憶部32とが設けられている。そして、遠隔操作装置2に入力された指令に基づいて、医療用台車3の制御部31は、医療用マニピュレータ1の動作を制御する。
【0031】
また、医療用台車3には、入力装置33が設けられている。入力装置33は、主に施術前に手術の準備を行うために、ポジショナ40、アームベース50、および、複数のアーム60の移動や姿勢の変更の操作を受け付けるように構成されている。
【0032】
図1および
図2に示す医療用マニピュレータ1は、手術室内に配置されている。医療用マニピュレータ1は、医療用台車3と、ポジショナ40と、アームベース50と、複数のアーム60とを備えている。アームベース50は、ポジショナ40の先端に取り付けられている。アームベース50は、比較的長い棒形状(長尺形状)を有する。また、複数のアーム60は、各々のアーム60の基端部が、アームベース50に取り付けられている。複数のアーム60は、折り畳まれた姿勢(収納姿勢)をとることが可能に構成されている。アームベース50と、複数のアーム60とは、図示しない滅菌ドレープにより覆われて使用される。また、アーム60は、医療器具4を支持する。
【0033】
ポジショナ40は、たとえば、7軸多関節ロボットにより構成されている。また、ポジショナ40は、医療用台車3上に配置されている。ポジショナ40は、アームベース50を移動させる。具体的には、ポジショナ40は、アームベース50の位置を3次元に移動させるように構成されている。
【0034】
また、ポジショナ40は、ベース部41と、ベース部41に連結された複数のリンク部42とを含む。複数のリンク部42同士は、関節部43により連結されている。
【0035】
図1に示すように、複数のアーム60の各々の先端には、医療器具4が取り付けられている。医療器具4は、たとえば、取り換え可能なインストゥルメント、手術部位を撮像する(手術部位の画像を取り込むための)内視鏡6(
図8参照)などを含む。
【0036】
図5に示すように、インストゥルメントには、アーム60のホルダ71に設けられたサーボモータM2によって駆動される被駆動ユニット4aが設けられている。また、インストゥルメントの先端には、鉗子4bが設けられている。
【0037】
また、
図6に示すように、インストゥルメントは、エンドエフェクタ部材104aおよび104bの基端側を先端側でJT11軸周りに回転可能に支持する第1支持体4eと、第1支持体4eの基端側を先端側でJT10軸周りに回転可能に支持する第2支持体4fと、第2支持体4fの基端側に接続されるシャフト4cとを含む。被駆動ユニット4aと、シャフト4cと、第2支持体4fと、第1支持体4eと、鉗子4bとは、Z方向に沿って配置されている。JT11軸は、シャフト4cが延びる方向(Z方向)に対して直交する。また、JT10軸は、シャフト4cが延びる方向においてJT11軸と離間しかつシャフト4cが延びる方向およびJT11軸に対して直交する。
【0038】
第1支持体4eには、JT11軸の軸線周りに回転するように鉗子4bが取り付けられている。また、第2支持体4fは、第1支持体4eをJT10軸について回転可能に支持している。つまり、第2支持体4fにはJT10軸の軸線周りに回転するように第1支持体4eが取り付けられている。また、第1支持体4eの先端側(Z1方向側)の部分は、U字形状を有している。第1支持体4eのU字形状の先端側の部分のJT11軸の軸線における中央部にツールセンタポイント(TCP1、クレビス)が設定されている。
【0039】
また、医療器具4(鉗子4b)は、シャフト4cの回転軸(シャフト4cが延びる方向に沿った軸)としてのJT9軸と、鉗子4bの開閉軸としてのJT12軸とを備えている。なお、アーム60のホルダ71に設けられたサーボモータM2は、複数(たとえば、4個)設けられており、複数のサーボモータM2によって、被駆動ユニット4aの回転体が駆動される。これにより、J9軸~J12軸周りに、医療器具4が駆動される。
【0040】
また、
図8に示すように、内視鏡6のTCP2は、内視鏡6の先端に設定されている。
【0041】
次に、アーム60の構成について詳細に説明する。
【0042】
図5に示すように、アーム60は、アーム部61(ベース部62、リンク部63、関節部64)と、アーム部61の先端に設けられる並進移動機構部70とを含む。アーム60は、アーム60の基端(根元)側(アームベース50)に対して先端側を3次元に移動させるように構成されている。また、アーム部61は、7軸多関節ロボットアームから構成されている。なお、複数のアーム60は、互いに同様の構成を有する。
【0043】
図5に示すように、アーム60は、回転軸としてのJT1~JT7軸と、直動軸としてのJ8軸とを備えている。JT1~JT7軸は、アーム部61の関節部64の回転軸に対応する。また、JT7軸は、並進移動機構部70の基端側リンク部72に対応する。JT8軸は、並進移動機構部70の先端側リンク部73を基端側リンク部72に対してZ方向に沿って相対的に移動させる軸に対応する。すなわち、
図12に示すサーボモータM1は、アーム60のJT1~JT7軸に対応するように設けられている。また、サーボモータM3は、JT8軸に対応するように設けられている。
【0044】
並進移動機構部70は、アーム部61の先端側に設けられるとともに医療器具4が取り付けられている。また、並進移動機構部70は、医療器具4を患者Pに挿入する方向に並進移動させる。また、並進移動機構部70は、医療器具4をアーム部61に対して相対的に並進移動させるように構成されている。具体的には、並進移動機構部70には、医療器具4を保持するホルダ71が設けられている。ホルダ71には、サーボモータM2(
図12参照)が収容されている。
【0045】
また、
図7に示すように、医療用マニピュレータ1は、アーム60に取り付けられ、アーム60を操作する操作部80を備えている。操作部80は、イネーブルスイッチ81と、ジョイスティック82とスイッチ部83とを含む。イネーブルスイッチ81は、ジョイスティック82およびスイッチ部83によるアーム60の移動を許可または不許可とする。また、イネーブルスイッチ81は、操作者(看護師、助手など)が操作部80を把持して押下されることによりアーム60による医療器具4の移動を許可する状態となる。
【0046】
また、スイッチ部83は、医療器具4の長手方向に沿った医療器具4を患者Pに挿入する方向側に医療器具4を移動させるスイッチ部83aと、医療器具4を患者Pに挿入する方向と反対側に医療器具4を移動させるスイッチ部83bとを含む。スイッチ部83aとスイッチ部83bとは、共に、押しボタンスイッチから構成されている。
【0047】
また、
図7に示すように、操作部80は、アーム60に取り付けられた医療器具4の移動の支点(
図11参照)となるピボット位置PPを教示するピボットボタン85を含む。ピボットボタン85は、操作部80の面80bに、イネーブルスイッチ81に隣り合うように設けられている。そして、内視鏡6(
図8参照)またはピボット位置教示器具7(
図9)の先端が、患者Pの体表面Sに挿入されたトロカールTの挿入位置に対応する位置まで移動された状態で、ピボットボタン85が押下されることによりピボット位置PPが教示され、記憶部32に記憶される。なお、ピボット位置PPの教示において、ピボット位置PPは、1つの点(座標)として設定され、ピボット位置PPの教示は、医療器具4の方向を設定するものではない。
【0048】
また、
図1に示すように、複数のアーム60のうちの一つのアーム60(たとえば、アーム60c)には内視鏡6が取り付けられ、残りのアーム60(たとえば、アーム60a、60bおよび60d)には、内視鏡6以外の医療器具4が取り付けられる。具体的には、手術において、4つのアーム60のうちの1つのアーム60に内視鏡6が取り付けられ、3つのアーム60に内視鏡6以外の医療器具4(鉗子4bなど)が取り付けられる。そして、内視鏡6が取り付けられているアーム60に対して、内視鏡6が取り付けられた状態でピボット位置PPが教示される。また、内視鏡6以外の医療器具4が取り付けられるアーム60に対して、ピボット位置教示器具7が取り付けられた状態でピボット位置PPが教示される。なお、内視鏡6は、互いに隣り合うように配置されている4つのアーム60のうちの、中央に配置される2つのアーム60(アーム60bおよび60c)のうちのいずれかに取り付けられる。すなわち、ピボット位置PPは、複数のアーム60毎に個別に設定される。なお、内視鏡6が支持されるアーム60(たとえば、アーム60c)は、特許請求の範囲の「第3マニピュレータ」の一例である。
【0049】
また、
図7に示すように、操作部80の面80bには、アーム60の位置を最適化するためのアジャストメントボタン86が設けられている。内視鏡6が取り付けられたアーム60に対するピボット位置PPの教示後、アジャストメントボタン86が押下されることにより、他のアーム60(アームベース50)の位置が最適化される。
【0050】
また、
図7に示すように、操作部80は、アーム60に取り付けられた医療器具4を並進移動(
図10参照)させるモードと、回転移動(
図11参照)させるモードとを切り替えるモード切替ボタン84を含む。また、モード切替ボタン84の近傍には、モードインジケータ84aが設けられている。モードインジケータ84aは、切り替えられたモードを表示する。具体的には、モードインジケータ84aが点灯(回転移動モード)または消灯(並進移動モード)されることにより、現在のモード(並進移動モードまたは回転移動モード)が表示される。
【0051】
また、モードインジケータ84aは、ピボット位置PPが教示されたことを表示するピボット位置インジケータを兼ねている。
【0052】
図10に示すように、アーム60を並進移動させるモードでは、医療器具4の先端4dが、X-Y平面上において移動するように、アーム60が移動される。また、
図11に示すように、アーム60を回転移動させるモードでは、ピボット位置PPが教示されていない時は、鉗子4bを中心に回転移動し、ピボット位置PPが教示されている時は、ピボット位置PPを支点として医療器具4が回転移動するように、アーム60が移動される。なお、医療器具4のシャフト4cがトロカールTに挿入された状態で、医療器具4が回転移動される。
【0053】
また、
図12に示すように、アーム60には、アーム部61の複数の関節部64に対応するように、複数のサーボモータM1と、エンコーダE1と、減速機(図示せず)とが設けられている。エンコーダE1は、サーボモータM1の回転角を検出するように構成されている。減速機は、サーボモータM1の回転を減速させてトルクを増大させるように構成されている。
【0054】
また、
図12に示すように、並進移動機構部70には、医療器具4の被駆動ユニット4aに設けられた回転体を回転させるためのサーボモータM2と、医療器具4を並進移動させるためのサーボモータM3と、エンコーダE2およびエンコーダE3と、減速機(図示せず)とが設けられている。エンコーダE2およびエンコーダE3は、それぞれ、サーボモータM2およびサーボモータM3の回転角を検出するように構成されている。減速機は、サーボモータM2およびサーボモータM3の回転を減速させてトルクを増大させるように構成されている。
【0055】
また、ポジショナ40には、ポジショナ40の複数の関節部43に対応するように、複数のサーボモータM4と、エンコーダE4と、減速機(図示せず)とが設けられている。エンコーダE4は、サーボモータM4の回転角を検出するように構成されている。減速機は、サーボモータM4の回転を減速させてトルクを増大させるように構成されている。
【0056】
また、医療用台車3には、医療用台車3の複数の図示しない前輪の各々を駆動するサーボモータM5と、エンコーダE5と、図示しない減速機とブレーキが設けられている。減速機は、サーボモータM5の回転を減速させてトルクを増大させるように構成されている。また、医療用台車3のスロットル部34aには、ポテンショメータP1(
図1参照)が設けられており、スロットル部34aの捻りに応じてポテンショメータP1で検出した回転角に基づき、前輪のサーボモータM5は駆動される。また、医療用台車3の図示しない後輪は、双輪形式であり、操作ハンドル34の左右の回動に基づき、後輪は操舵される。また、医療用台車3の操作ハンドル34には、ポテンショメータP2(
図2参照)が設けられており、医療用台車3の後輪には、サーボモータM6とエンコーダE6と図示しない減速機が設けられている。減速機は、サーボモータM6の回転を減速させてトルクを増大させるように構成されている。操作ハンドル34の左右の回動に応じてポテンショメータP2で検出した回転角に基づき、サーボモータM6は駆動される。すなわち、操作ハンドル34の左右の回動による後輪の操舵は、サーボモータM6によりパワーアシストされるように構成されている。
【0057】
また、医療用台車3は、前輪が駆動されることにより、前後方向に移動する。また、医療用台車3の操作ハンドル34が回動されることにより、後輪が操舵されて、医療用台車3が左右方向に回動する。
【0058】
医療用台車3の制御部31は、指令に基づいて複数のアーム60の移動を制御するアーム制御部31aと、指令に基づいてポジショナ40の移動および医療用台車3の前輪(図示せず)の駆動を制御するポジショナ制御部31bとを含む。アーム制御部31aには、アーム60を駆動するためのサーボモータM1を制御するためのサーボ制御部C1が電気的に接続されている。また、サーボ制御部C1には、サーボモータM1の回転角を検出するためのエンコーダE1が電気的に接続されている。
【0059】
また、アーム制御部31aには、医療器具4を駆動するためのサーボモータM2を制御するためのサーボ制御部C2が電気的に接続されている。また、サーボ制御部C2には、サーボモータM2の回転角を検出するためのエンコーダE2が電気的に接続されている。また、アーム制御部31aには、並進移動機構部70を並進移動するためのサーボモータM3を制御するためのサーボ制御部C3が電気的に接続されている。また、サーボ制御部C3には、サーボモータM3の回転角を検出するためのエンコーダE3が電気的に接続されている。
【0060】
そして、遠隔操作装置2に入力された動作指令が、アーム制御部31aに入力される。アーム制御部31aは、入力された動作指令と、エンコーダE1(E2、E3)により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1(C2、C3)に出力する。サーボ制御部C1(C2、C3)は、アーム制御部31aから入力された位置指令と、エンコーダE1(E2、E3)により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1(M2、M3)に出力する。これにより、遠隔操作装置2に入力された動作指令に沿うように、アーム60が移動される。
【0061】
また、
図12に示すように、制御部31(アーム制御部31a)は、操作部80のジョイスティック82からの入力信号に基づいてアーム60を操作するように構成されている。具体的には、アーム制御部31aは、ジョイスティック82から入力された入力信号(動作指令)と、エンコーダE1により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1に出力する。サーボ制御部C1は、アーム制御部31aから入力された位置指令と、エンコーダE1により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1に出力する。これにより、ジョイスティック82に入力された動作指令に沿うように、アーム60が移動される。
【0062】
制御部31(アーム制御部31a)は、操作部80のスイッチ部83からの入力信号に基づいてアーム60を操作するように構成されている。具体的には、アーム制御部31aは、スイッチ部83から入力された入力信号(動作指令)と、エンコーダE1またはE3により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1またはC3に出力する。サーボ制御部C1またはC3は、アーム制御部31aから入力された位置指令と、エンコーダE1またはE3により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1またはM3に出力する。これにより、スイッチ部83に入力された動作指令に沿うように、アーム60が移動される。
【0063】
また、
図12に示すように、ポジショナ制御部31bには、ポジショナ40を移動するサーボモータM4を制御するためのサーボ制御部C4が電気的に接続されている。また、サーボ制御部C4には、サーボモータM4の回転角を検出するためのエンコーダE4が電気的に接続されている。また、ポジショナ制御部31bには、医療用台車3の前輪(図示せず)を駆動するサーボモータM5を制御するためのサーボ制御部C5が電気的に接続されている。また、サーボ制御部C5には、サーボモータM5の回転角を検出するためのエンコーダE5が電気的に接続されている。
【0064】
また、入力装置33から準備位置の設定などに関する動作指令が、ポジショナ制御部31bに入力される。ポジショナ制御部31bは、入力装置33から入力された動作指令と、エンコーダE4により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C4に出力する。サーボ制御部C4は、ポジショナ制御部31bから入力された位置指令と、エンコーダE4により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM4に出力する。これにより、入力装置33に入力された動作指令に沿うように、ポジショナ40が移動される。同様に、入力装置33からの動作指令に基づいて、ポジショナ制御部31bは、医療用台車3を移動させる。
【0065】
ここで、第1実施形態では、外科手術システム100は、画像処理装置8を備えている。画像処理装置8は、グラフィカルユーザインターフェイスG(
図14参照)を生成し、グラフィカルユーザインターフェイスGを内視鏡6によって取り込まれた画像(
図13参照)上に重ねて遠隔操作装置2のモニタ24に表示するように構成されている。画像処理装置8は、内視鏡6から画像を取り込むように構成されている。なお、画像処理装置8は、特許請求の範囲の「制御装置」および「コンピュータ」の一例である。また、グラフィカルユーザインターフェイスGは、クリックなどの入力操作が行われない記号なども含む広い概念である。
【0066】
図14に示すように、グラフィカルユーザインターフェイスGは、クラッチエリアG1を含む。
図15に示すように、クラッチエリアG1には、クラッチペダル22bの状態が示される。
図15(a)は、クラッチペダル22bが踏まれていない状態(OFF状態)を示している。
図15(b)は、操作者がクラッチペダル22bに足を置いている状態(ホバー状態)を示している。
図15(c)は、クラッチペダル22bが踏まれている状態(ON状態)を示している。
【0067】
図14に示すように、第1実施形態では、グラフィカルユーザインターフェイスGは、内視鏡6に関する情報を示すカメラエリアG2を含む。画像処理装置8は、カメラエリアG2を、モニタ24の画面grの端部e(上方の端部eu、左方の端部el、右方の端部er、下方の端部ed)のうちの、下方の端部ed(
図13参照)近傍の領域に配置してグラフィカルユーザインターフェイスGを表示するように構成されている。なお、カメラエリアG2は、特許請求の範囲の「第4エリア」の一例である。
【0068】
図14に示すように、グラフィカルユーザインターフェイスGは、ハンドエリアG3を含む。ハンドエリアG3は、各医療器具4の情報や、各アーム60の情報や、凝固ペダル22eおよび切開ペダル22dの状態の情報が表示される。ハンドエリアG3は、左手用の操作ハンドル21Lによって操作される医療器具4およびアーム60a(ハンドエリアG3の番号「4」)に関する情報を示すハンドエリアG3aと、交換用の医療器具4およびアーム60b(ハンドエリアG3の番号「3」)に関する情報を示すハンドエリアG3bと、左手用の操作ハンドル21Lによって操作される医療器具4およびアーム60d(ハンドエリアG3の番号「1」)に関する情報を示すハンドエリアG3cとを含む。画像処理装置8は、ハンドエリアG3を、モニタ24の画面grの下方の端部ed近傍の領域に配置してグラフィカルユーザインターフェイスGを表示するように構成されている。また、クラッチエリアG1も、画面grの下方の端部ed近傍の領域に表示される。なお、ハンドエリアG3a、G3bおよびG3cは、各々、特許請求の範囲の「第1エリア」、「第2エリア」および「第3エリア」の一例である。
【0069】
また、アーム60に関する情報は、アーム番号(「1」、「2」などのアーム番号)や交換用の医療器具4が取り付けられたアーム60の交換先として設定されている場合に表示される矢印のアイコンを含み、医療器具4に関する情報は医療器具4の名称を含み、凝固ペダル22eおよび切開ペダル22dの状態の情報は、クラッチペダル22bの操作の状態、切開ペダル22dの操作の状態、凝固ペダル22eの操作の状態を含む。
【0070】
また、
図13に示すように、操作対象となるアーム60のハンドエリア(ハンドエリアG3a、および、ハンドエリアG3c)は、濃い灰色で表示され、この中に白抜きの長円が示され、かつ、白抜きの長円の中にアーム60の番号(1および4)が表示される。また、操作対象でないアーム60のハンドエリア(ハンドエリアG3b)は、薄い灰色で表示され、かつ、さらに薄い灰色のアーム60の番号(3)が表示される。
【0071】
図14に示すように、グラフィカルユーザインターフェイスGは、ポップアップエリアである医療器具状態情報エリアG4を含む。医療器具状態情報エリアG4には、各アーム60に取り付けられた医療器具4の現在の使用回数/最大使用回数(
図16参照)が、ポップアップで表示される。なお、現在の使用回数が最大使用回数に等しくなると、現在の使用回数が赤字で表示される。また、各アーム60に取り付けられた医療器具4にエラーが生じた際にはエラー情報がポップアップで表示される。また、アーム60に医療器具4が取り付けられていない場合、医療器具状態情報エリアG4には何も表示されない。医療器具状態情報エリアG4は、モニタ24上において、クラッチエリアG1、カメラエリアG2、および、ハンドエリアG3の上方側の隣接した領域に表示される。
【0072】
図14に示すように、グラフィカルユーザインターフェイスGは、モニタ24の画面の上下方向における中央、かつ、左右方向における中央に配置される水準器エリアG5を含む。水準器エリアG5は、内視鏡6の角度情報が表示される。また、水準器エリアG5は、カメラペダル22cが踏み込まれている間のみ表示される。すなわち、画像処理装置8は、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示する。なお、水準器エリアG5は、特許請求の範囲の「センターエリア」の一例である。
【0073】
図14に示すように、グラフィカルユーザインターフェイスGは、左ポップアップエリアG6を含む。左ポップアップエリアG6は、フットペダル22に足が置かれているホバー状態のときに、
図17(a)~(c)に示すアイコンが表示される。
図17(a)は、凝固ペダル22eLと切開ペダル22dLに足が置かれているときに表示されるアイコンである。
図17(b)は、クラッチペダル22bに足が置かれているときに表示されるアイコンである。
図17(c)は、カメラペダル22cに足が置かれているときに表示されるアイコンである。左ポップアップエリアG6は、モニタ24上において、左側側部に表示される。
【0074】
図14に示すように、グラフィカルユーザインターフェイスGは、右ポップアップエリアG7を含む。右ポップアップエリアG7は、凝固ペダル22eRと切開ペダル22dRに足が置かれているときにアイコン(
図18)が表示される。右ポップアップエリアG7は、モニタ24上において、右側側部に表示される。
【0075】
また、
図14に示すように、グラフィカルユーザインターフェイスGは、アーム60の動作可能範囲と、アーム60の動作可能範囲のうち操作ハンドル21により操作可能な操作可能範囲と、を表示するエリアG8を含む。また、グラフィカルユーザインターフェイスGは、操作ハンドル21を操作可能範囲内に戻すため、および/または(第1実施形態では、「および」)アーム60を動作可能範囲内に戻すために必要な操作ハンドル21の操作方向を表示するエリアG9を含む。
【0076】
また、
図19に示すように、操作ハンドル21により操作可能なアーム60は、2つである。たとえば、操作ハンドル21Lによって、医療器具4(以下、医療器具401とする)を支持するための左アーム60L(例えば、アーム60a)が操作される。また、操作ハンドル21Rによって、医療器具4(以下、医療器具402とする)を支持するための右アーム60R(例えば、アーム60d)が操作される。そして、エリアG8(エリアG8L、エリアG8R)およびエリアG9(エリアG9L、エリアG9R)は、各々、左アーム60Lおよび右アーム60Rごとに別個に設けられている。なお、左アーム60L(アーム60a)は、特許請求の範囲の「第1マニピュレータ」の一例である。また、右アーム60R(アーム60d)は、特許請求の範囲の「第2マニピュレータ」の一例である。また、医療器具401および医療器具402は、特許請求の範囲の「第1手術器具」および「第2手術器具」の一例である。
【0077】
また、アーム60bは、交換用の医療器具4(以下、医療器具403とする)を支持する。なお、医療器具403は、特許請求の範囲の「交換用手術器具」の一例である。
【0078】
また、
図13および
図14に示す例では、アーム60a、60b、60cおよび60dのうち、アーム60a(ハンドエリアG3aの番号「4」)、アーム60b(ハンドエリアG3bの番号「3」)、および、アーム60d(ハンドエリアG3cの番号「1」)には、医療器具4(内視鏡6以外の鉗子4bなどの医療器具4)が取り付けられている。また、アーム60c(カメラエリアG2の番号「2」)には、内視鏡6が取り付けられている。アーム60a(ハンドエリアG3aの番号「4」)、および、アーム60d(ハンドエリアG3の番号「1」)が、操作ハンドル21により操作可能な状態(アクティブ)であり、ハンドエリアG3aおよびG3cは、濃い灰色で表示される。また、アーム60bは、操作ハンドル21により操作可能でない状態(非アクティブ)であり、ハンドエリアG3bは、薄い灰色で表示される。
【0079】
また、
図14に示すように、グラフィカルユーザインターフェイスGは、エラー通知エリアG15(G15a、G15b)を含む。エラー通知エリアG15aは、警告やエラーが発生したときに、警告やエラー情報を表示するためにポップアップで表示される。エラー通知エリアG15bは、エラー通知エリアG15aに表示されている警告やエラーに関する注記の詳細を表示するためにポップアップで表示される。
【0080】
図14に示すように、グラフィカルユーザインターフェイスGは、ステータスエリアG10を含む。ステータスエリアG10には、医療用マニピュレータ1の内蔵バッテリの残量、モニタ24の明るさ/コントラスト、ラップタイム、手術経過時間などの情報が表示される。
【0081】
ここで、第1実施形態では、
図20に示すように、画像処理装置8は、医療器具401、医療器具402および医療器具403の少なくともいずれかが内視鏡6の視野外に位置している場合に、患者Pの体を示すグラフィックPGとともに、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23をグラフィカルユーザインターフェイスGに表示するように構成されている。なお、挿入位置P11、挿入位置P12および挿入位置P13は、それぞれ、特許請求の範囲の「第1挿入位置」、「第2挿入位置」および「第3挿入位置」の一例である。また、先端位置P21、先端位置P22および先端位置P23は、それぞれ、特許請求の範囲の「第1先端位置」、「第2先端位置」および「第3先端位置」の一例である。
【0082】
図20では、たとえば、医療器具403が内視鏡6の視野外に位置しているとする。なお、医療器具401または医療器具402が内視鏡6の視野外に位置している場合でも、
図20と同様に、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23が表示される。すなわち、医療器具401、医療器具402および医療器具403のうちの少なくとも1つが内視鏡6の視野外に位置している場合、全ての医療器具4(401、402および403)の先端位置と挿入位置とが表示される。
【0083】
また、医療器具4の挿入位置とは、アーム60の各々に対して教示されたピボット位置PP(アーム60に取り付けられた医療器具4の移動の支点)である。また、医療器具4の先端位置は、医療器具4に内蔵されたメモリから読みだされた医療器具情報(医療器具4の長さなどの情報)と、医療器具4が取り付けられたアーム60の各関節部64(サーボモータM1、M2およびM3)毎に設置されたエンコーダE1、E2およびE3の情報とから求められる。
【0084】
なお、画像処理装置8は、医療器具4の位置を、アーム60の姿勢、位置に基づいて取得する。また、画像処理装置8は、内視鏡6の撮像方向を、アーム60の姿勢、位置に基づいて取得する。また、画像処理装置8は、内視鏡6のズーム状態に基づいて内視鏡6の画角(視野範囲)を取得する。画像処理装置8は、内視鏡6の画角(視野範囲)を、内視鏡6のメカ機構(レンズ等)として設定されている値を用いて取得する。そして、画像処理装置8は、内視鏡6の視野および、内視鏡6の姿勢、位置とアーム60の位置情報より、内視鏡6の視野に対する医療器具4の先端の座標を取得する。これにより、画像処理装置8は、医療器具4が内視鏡6の視野外に位置しているか否かを判定する。なお、内視鏡6の視野範囲よりもモニタ24の表示画面の大きさが小さい場合や内視鏡6で撮像した画像の一部を拡大してモニタ24の表示画面に表示する場合は、モニタ24の表示画面の大きさに基づいて医療器具4が内視鏡6の視野外(モニタ24の表示画面の外)に位置しているか否かを判定すればよい。
【0085】
また、第1実施形態では、グラフィカルユーザインターフェイスGは、患者Pの体を示すグラフィックPGとともに、内視鏡6の位置を表示する。内視鏡6の位置を表示するグラフィカルユーザインターフェイスGは、内視鏡6を模擬した記号MK2である。内視鏡6の記号MK2は、医療器具401、402および403の少なくともいずれかが内視鏡6の視野外に位置している場合に、モニタ24に表示される。
【0086】
また、画像処理装置8は、矩形形状の表示エリアG16に、患者Pの体(輪郭、胃など)を示すグラフィックPGを表示するグラフィカルユーザインターフェイスGをモニタ24に表示する。矩形形状の表示エリアG16は、内視鏡6の画像が透けないように表示されてもよいし、内視鏡6の画像が透けるように表示されてもよい。医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23は、矩形形状の表示エリアG16に表示される。また、内視鏡6の記号MK2は、矩形形状の表示エリアG16に表示される。また、矩形形状の表示エリアG16は、たとえば黒色で表示される(なお、
図20~
図23では、表示エリアG16をハッチングで表している)。
【0087】
そして、第1実施形態では、グラフィカルユーザインターフェイスGにおいて、医療器具4の挿入位置(挿入位置P11、挿入位置P12、および、挿入位置P13)は、白丸(〇)で表示される。なお、グラフィカルユーザインターフェイスGにおいて、医療器具4の挿入位置は、患者Pの体を示すグラフィックPGに対して実際に医療器具4が挿入される位置に対応するように表示される。なお、白丸(〇)は、特許請求の範囲の「第1の標識」の一例である。
【0088】
また、第1実施形態では、グラフィカルユーザインターフェイスGにおいて、医療器具4の先端位置は、医療器具4の挿入位置を表す白丸(〇)とは異なる、医療器具4の記号MK1で表示される。医療器具4の記号MK1は、たとえば、医療器具4の被駆動ユニット4a、鉗子4bおよびシャフト4cを模擬した記号MK1である。そして、記号MK1の先端側(鉗子4b側)によって、医療器具4の先端位置(先端位置P21、先端位置P22および先端位置P23)が表される。なお、グラフィカルユーザインターフェイスGにおいて、医療器具4の記号MK1の先端は、患者Pの体を示すグラフィックPGに対して実際に医療器具4の先端が配置される位置に対応するように表示される。また、医療器具4の記号MK1は、特許請求の範囲の「第2の標識」の一例である。
【0089】
また、
図21に示すように、グラフィカルユーザインターフェイスGにおいて、医療器具4の記号MK1の代わりに、医療器具4の先端位置(先端位置P21、先端位置P22および先端位置P23)を、白色ではない色付きの丸により表示するグラフィカルユーザインターフェイスGをモニタ24に表示してもよい。なお、色付きの丸は、特許請求の範囲の「第2の標識」の一例である。
【0090】
また、
図22に示すように、グラフィカルユーザインターフェイスGにおいて、医療器具4の記号MK1を表示するとともに、医療器具4の先端位置(先端位置P21、先端位置P22および先端位置P23)を、白色ではない色付きの丸により表示してもよい。
【0091】
また、第1実施形態では、
図23に示すように、グラフィカルユーザインターフェイスGにおいて、医療器具401の挿入位置P11と医療器具401の先端位置P21とを結ぶ矢印AR1、および、医療器具402の挿入位置P12と医療器具402の先端位置P22とを結ぶ矢印AR2を表示してもよい。同様に、グラフィカルユーザインターフェイスGにおいて、医療器具403の挿入位置P13と医療器具403の先端位置P23とを結ぶ矢印AR3を表示してもよい。なお、矢印AR1および矢印AR2は、それぞれ、特許請求の範囲の「第1矢印」および「第2矢印」の一例である。
【0092】
また、第1実施形態では、内視鏡6の視野外に位置している医療器具401および医療器具402(具体的には、医療器具401、医療器具402および医療器具403)の少なくともいずれかの先端位置の色を、内視鏡6の視野内に位置している医療器具401および医療器具402(具体的には、医療器具401、医療器具402および医療器具403)の少なくともいずれかの先端位置の色とは異なる色で表示するグラフィカルユーザインターフェイスGをモニタ24に表示するように構成されている。たとえば、内視鏡6の視野外に位置している先端位置の色を緑とし、内視鏡6の視野内に位置している先端位置の色を緑以外の色(赤など)とする。
図20では、例として、医療器具403が内視鏡6の視野外に位置しているとして、医療器具403の記号MK1の色(ハッチング)を、医療器具401および402の記号MK1の色(白)と異ならせている。また、
図21~
図23では、例として、医療器具403が内視鏡6の視野外に位置しているとして、医療器具403の先端位置P23の丸の色(ハッチング)を、医療器具401の先端位置P21の色(ハッチング)および医療器具402の先端位置P22の丸の色(ハッチング)と異ならせている。
【0093】
また、第1実施形態では、画像処理装置8は、内視鏡6を移動させるための指令がカメラペダル22cにより入力された場合、視野外に位置している医療器具401および医療器具402(具体的には、医療器具401、医療器具402および医療器具403)の少なくともいずれかの有無を判定する。そして、画像処理装置8は、視野外に位置している医療器具401および医療器具402(具体的には、医療器具401、医療器具402および医療器具403)の少なくともいずれかがある場合に、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23をグラフィカルユーザインターフェイスGに表示するように構成されている。なお、内視鏡6を移動させるための指令がカメラペダル22cにより入力された場合とは、カメラペダル22cが操作者によって踏み込まれている間を意味する。
【0094】
また、第1実施形態では、
図13に示すように、画像処理装置8は、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示する。そして、画像処理装置8は、グラフィカルユーザインターフェイスGにおいて、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23を、水準器LVの外側に表示するように構成されている。
【0095】
たとえば、矩形形状の表示エリアG16は、水準器LVの右側でかつ、右ポップアップエリアG7とハンドエリアG3cとの間に表示される。あるいは、矩形形状の表示エリアG16は、水準器LVと左ポップアップエリアG6との間に表示されてもよい。あるいは、矩形形状の表示エリアG16は、左ポップアップエリアG6の下方かつ、画面grの左側の端部elの近傍に表示されてもよい。
【0096】
また、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23は、表示される状態と、表示されない状態とを切り替え可能に構成されている。具体的には、
図24に示すように、遠隔操作装置2のタッチパネル23が操作されることにより、「鉗子位置表示」のボタンが表示される。そして、「鉗子位置表示」の「オン」が選択されると、操作者によりカメラペダル22cが踏み込まれた場合に、内視鏡6の視野外に位置している医療器具4(医療器具401、402および403の少なくともいずれか)が存在すると、医療器具4の挿入位置および先端位置が表示される。また、「鉗子位置表示」の「オフ」が選択されると、医療器具4の挿入位置および先端位置は表示されない。
【0097】
(表示方法)
次に、
図25を参照して、外科手術システム100におけるモニタ24へのグラフィカルユーザインターフェイスGの表示方法について説明する。なお、グラフィカルユーザインターフェイスGの生成は、画像処理装置8によって行われる。また、以下のステップを実行するプログラムPR(
図12参照)は、画像処理装置8の中に記憶されている。
【0098】
まず、ステップS1において、画像処理装置8は、手術部位の画像を取り込むための内視鏡6によって取り込まれた画像を取得する。また、画像処理装置8は、クラッチエリアG1、カメラエリアG2、ハンドエリアG3およびステータスエリアG10を含むグラフィカルユーザインターフェイスGを、内視鏡6によって撮像された画像上に重ねてモニタ24に表示する。
【0099】
次に、ステップS2において、画像処理装置8は、内視鏡6の移動を可能にする指令を受けたか否か(操作者によってカメラペダル22cが踏み込まれたか否か)を判定する。ステップS2においてyesの場合、ステップS3に進む。ステップS2においてnoの場合、ステップS1に戻る。
【0100】
次に、ステップS3において、画像処理装置8は、アーム60aに支持される医療器具401、アーム60bに支持される医療器具403、および、アーム60dに支持される医療器具402の少なくとも何れかが内視鏡6の視野外に位置しているか否かを判定する。ステップS3においてyesの場合(つまり、内視鏡6の移動を可能にする指令を受けた場合で、且つ、アーム60に支持される医療器具4が内視鏡6の視野外に位置している場合)、ステップS4に進む。ステップS3においてnoの場合、ステップS1に戻る。
【0101】
次に、ステップS4において、画像処理装置8は、患者Pの体を示すグラフィックPGとともに、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23をグラフィカルユーザインターフェイスGに表示する。
【0102】
上記のステップS1~S4の動作は、外科手術システム100の動作中、常に行われる。
【0103】
[第1実施形態の効果]
第1実施形態では、以下のような効果を得ることができる。
【0104】
第1実施形態では、上記のように、画像処理装置8は、医療器具401、医療器具402および医療器具403の少なくともいずれかが内視鏡6の視野外に位置している場合に、患者Pの体を示すグラフィックPGとともに、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23をグラフィカルユーザインターフェイスGに表示するように構成されている。これにより、操作者は、グラフィカルユーザインターフェイスGを視認することにより、内視鏡6の視野外に位置している医療器具4の、患者Pの体に対する挿入位置と先端位置との関係を認識することができる。また、操作者は、医療器具401~403のそれぞれについて、患者Pの体に対する挿入位置と先端位置との位置関係を認識することができる。
【0105】
また、第1実施形態では、上記のように、グラフィカルユーザインターフェイスGは、患者Pの体を示すグラフィックPGとともに、内視鏡6の位置を表示する。これにより、操作者は、グラフィカルユーザインターフェイスGを視認することにより、患者Pの体に対する内視鏡6の位置を認識することができる。
【0106】
また、第1実施形態では、上記のように、グラフィカルユーザインターフェイスGは、医療器具403が内視鏡6の視野外に位置している場合に、患者Pの体を示すグラフィックPGとともに、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、医療器具402の先端位置P22、医療器具403の挿入位置P13、および、医療器具403の先端位置P23を表示する。これにより、操作者は、グラフィカルユーザインターフェイスGを視認することにより、医療器具403が内視鏡6の視野外に位置している場合でも、内視鏡6の視野外に位置している医療器具403の、患者Pの体に対する挿入位置と先端位置との関係を認識することができる。
【0107】
また、第1実施形態では、上記のように、グラフィカルユーザインターフェイスGは、内視鏡6の視野外に位置している医療器具401、医療器具402および医療器具403の少なくともいずれかの先端位置の色を、内視鏡6の視野内に位置している医療器具401、医療器具402および医療器具403の少なくともいずれかの先端位置の色とは異なる色で表示する。これにより、操作者は、医療器具401、医療器具402および医療器具403の少なくともいずれかが内視鏡6の視野外に位置しているか否かを、先端位置の色に基づいて容易に認識することができる。
【0108】
また、第1実施形態では、上記のように、画像処理装置8は、内視鏡6を移動させるための指令がカメラペダル22cにより入力された場合、視野外に位置している医療器具401、医療器具402および医療器具403の少なくともいずれかの有無を判定し、視野外に位置している医療器具401、医療器具402および医療器具403の少なくともいずれかがある場合に、挿入位置P11、先端位置P21、挿入位置P12、先端位置P22、挿入位置P13、および、先端位置P23をグラフィカルユーザインターフェイスGに表示するように構成されている。これにより、操作者が内視鏡6を移動させようとする際に、視野外に位置している医療器具4の挿入位置および先端位置が表示されるので、視野外に位置している医療器具4を内視鏡6の視野内に映し出されるように容易に内視鏡6を移動させることができる。
【0109】
また、第1実施形態では、上記のように、内視鏡6を移動させるための指令がカメラペダル22cにより入力された場合、内視鏡6は、操作ハンドル21Lおよび操作ハンドル21Rの両方を操作することによって移動するように構成されている。これにより、操作者がカメラペダル22cを操作することにより、容易に、内視鏡6の移動を可能にすることができる。
【0110】
また、第1実施形態では、上記のように、画像処理装置8は、内視鏡6の移動を可能にする指令を受けた場合に、モニタ24の画面の上下方向における中央、かつ、左右方向における中央に配置される水準器エリアG5に内視鏡6の水準器LVを表示するとともに、グラフィカルユーザインターフェイスGにおいて、挿入位置P11、先端位置P21、挿入位置P12、先端位置P22、挿入位置P13および先端位置P23を、水準器LVの外側に表示するように構成されている。これにより、操作者が内視鏡6を操作するために内視鏡6の水準器LVを視認している最中に、挿入位置P11、先端位置P21、挿入位置P12、先端位置P22、挿入位置P13および先端位置P23が水準器LVとともに表示されるので、操作者は挿入位置P11、先端位置P21、挿入位置P12、先端位置P22、挿入位置P13および先端位置P23を容易に認識することができる。
【0111】
また、第1実施形態では、上記のように、グラフィカルユーザインターフェイスGにおいて、医療器具401の挿入位置P11、医療器具402の挿入位置P12、および、医療器具403の挿入位置P13は、白丸(〇)で表示され、医療器具401の先端位置P21、医療器具402の先端位置P22、および、医療器具403の先端位置P23は、医療器具4の挿入位置を表す白丸(〇)とは異なる、医療器具4の記号MK1で表示される。これにより、操作者は、白丸(〇)および医療器具4の記号MK1を視認することにより、容易に、医療器具4の挿入位置と、医療器具4の先端位置とを認識することができる。
【0112】
また、第1実施形態では、上記のように、グラフィカルユーザインターフェイスGにおいて、医療器具401の挿入位置P11と医療器具401の先端位置P21とを結ぶ矢印AR1、医療器具402の挿入位置P12と医療器具402の先端位置P22とを結ぶ矢印AR2、医療器具403の挿入位置P13と医療器具403の先端位置P23とを結ぶ矢印AR3がさらに表示される。これにより、操作者は、矢印AR1、矢印AR2および矢印AR3を視認することにより、医療器具4の挿入位置に対して、医療器具4の先端位置がどの方向を向いているのかを容易に認識することができる。
【0113】
また、第1実施形態では、上記のように、画像処理装置8は、医療器具401に関する情報を示すハンドエリアG3aと、医療器具403に関する情報を表示するハンドエリアG3bと、医療器具402に関する情報を示すハンドエリアG3cと、内視鏡6に関する情報を示すカメラエリアG2と、をモニタ24の画面grの下方の端部ed近傍領域に配置してグラフィカルユーザインターフェイスGに表示するように構成されている。これにより、グラフィカルユーザインターフェイスGが、ハンドエリアG3a、ハンドエリアG3b、ハンドエリアG3cおよびカメラエリアG2よりもモニタ24の画面中央側に寄せて表示されるので、グラフィカルユーザインターフェイスGの視認性を向上させることができる。
【0114】
[第2実施形態]
図26を参照して、第2実施形態の外科手術システム200の構成について説明する。なお、外科手術システム200は、特許請求の範囲の「手術システム」の一例である。
【0115】
第2実施形態では、画像処理装置8aは、視野外に位置している医療器具401、医療器具402、および、医療器具403の少なくともいずれかの有無を判定し、視野外に位置している医療器具401、医療器具402、および、医療器具403の少なくともいずれかがある場合に(自動的に)、挿入位置P11、先端位置P21、挿入位置P12、先端位置P22、挿入位置P13および先端位置P23をグラフィカルユーザインターフェイスGに表示する制御を行うように構成されている。なお、画像処理装置8aは、特許請求の範囲の「制御装置」の一例である。
【0116】
(表示方法)
第2実施形態によるグラフィカルユーザインターフェイスGの表示方法について説明する。
【0117】
まず、ステップS1は、上記第1実施形態と同様である。
【0118】
次に、ステップS11において、画像処理装置8aは、アーム60aに支持される医療器具401、アーム60bに支持される医療器具403、および、アーム60dに支持される医療器具402の少なくとも何れかが内視鏡6の視野外に位置しているか否かを判定する。ステップS11においてyesの場合、ステップS4に進む。ステップS11においてnoの場合、ステップS1に戻る。すなわち、内視鏡6の移動を可能にする指令を受けか否かにかかわらず、医療器具401、医療器具403、および、医療器具402の少なくとも何れかが内視鏡6の視野外に位置している場合、自動的にステップS4に進む。ステップS4は、上記第1実施形態と同様である。
【0119】
[第2実施形態の効果]
第2実施形態では、以下のような効果を得ることができる。
【0120】
第2実施形態では、上記のように、画像処理装置8aは、視野外に位置している医療器具401、医療器具402および医療器具403の少なくともいずれかの有無を判定し、視野外に位置している医療器具401、医療器具402および医療器具403の少なくともいずれかがある場合に、挿入位置P11、先端位置P21、挿入位置P12、先端位置P22、挿入位置P13および先端位置P23をグラフィカルユーザインターフェイスGに表示する制御を行うように構成されている。これにより、視野外に位置している医療器具4が有る場合に、操作者が操作することなく挿入位置および先端位置が自動的に表示されるので、挿入位置および先端位置を表示するための操作者の手間を省くことができる。
【0121】
[第3実施形態]
図27および
図28を参照して、第3実施形態の外科手術システム300の構成について説明する。なお、外科手術システム300は、特許請求の範囲の「手術システム」の一例である。
【0122】
第3実施形態では、
図27に示すように、外科手術システム300は、鉗子位置(先端位置および挿入位置)をモニタ24に表示するための指令の入力を行うスイッチSWを備えている。スイッチSWは、操作ハンドル21、フットペダル22が設けられる基台部28、および、タッチパネル23のうちの少なくともいずれか1つに設けられている。そして、画像処理装置8bは、鉗子位置(先端位置および挿入位置)をモニタ24に表示するための指令がスイッチSWにより入力された場合、鉗子位置(先端位置および挿入位置)をモニタ24に表示するように構成されている。なお、スイッチSWは、特許請求の範囲の「表示用入力装置」の一例である。また、画像処理装置8bは、特許請求の範囲の「制御装置」の一例である。
【0123】
(表示方法)
次に、
図28を参照して、外科手術システム300におけるモニタ24へのグラフィカルユーザインターフェイスGの表示方法について説明する。
【0124】
まず、ステップS1は、上記第1実施形態と同様である。
【0125】
次に、ステップS21において、画像処理装置8bは、鉗子位置(先端位置および挿入位置)を表示するための指令がスイッチSWにより入力されたか否かを判定する。ステップS21においてyesの場合、ステップS4に進む。ステップS21においてnoの場合、ステップS1に戻る。なお、ステップS4は、上記第1実施形態と同様である。
【0126】
[第3実施形態の効果]
第3実施形態では、以下のような効果を得ることができる。
【0127】
第3実施形態では、上記のように、画像処理装置8bは、鉗子位置(先端位置および挿入位置)を表示するための指令がスイッチSWにより入力された場合、鉗子位置をモニタ24に表示するように構成されている。これにより、操作者は、必要に応じて複数の医療器具4のそれぞれについて、患者Pの体に対する挿入位置と先端位置との位置関係を認識することができる。また、操作者が、必要に応じて鉗子位置を表示させることができるので、操作者にとって不必要な際に鉗子位置が表示されるのを抑制することができる。
【0128】
[変形例]
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内でのすべての変更(変形例)が含まれる。
【0129】
たとえば、上記第1~第3実施形態では、画像処理装置8(8a、8b)が内視鏡6からの画像を取り込むとともにグラフィカルユーザインターフェイスGを生成する例を示したが、本発明はこれに限られない。たとえば、医療用マニピュレータ1の制御部31が、グラフィカルユーザインターフェイスGを生成してもよいし、遠隔操作装置2の制御部(図示せず)が、グラフィカルユーザインターフェイスGを生成してもよい。また、内視鏡6からの画像を取り込む画像処理装置と、グラフィカルユーザインターフェイスGを生成し、内視鏡6の画像上に重ねる画像処理装置とが別個に設けられていてもよい。
【0130】
また、上記第1~第3実施形態では、医療用マニピュレータ1に、交換用の医療器具403が設けられる例を示したが、本発明はこれに限られない。たとえば、医療用マニピュレータ1に、交換用の医療器具403が設けられていなくてもよい。この場合、医療器具401および医療器具402の少なくともいずれかが内視鏡6の視野外に位置している場合に、医療器具401の挿入位置P11、医療器具401の先端位置P21、医療器具402の挿入位置P12、および、医療器具402の先端位置P22を表示するグラフィカルユーザインターフェイスGが、内視鏡6によって撮像された画像上に重ねてモニタ24に表示される。
【0131】
また、上記第1~第3実施形態では、内視鏡6の位置がグラフィカルユーザインターフェイスGに表示される例を示したが、本発明はこれに限られない。たとえば、
図29に示す変形例のように、内視鏡6の位置がグラフィカルユーザインターフェイスGに表示されなくてもよい。
【0132】
また、上記第1~第3実施形態では、内視鏡6の視野外に位置している医療器具4の先端位置の色を、内視鏡6の視野内に位置している医療器具4の先端位置の色と異ならせることにより、医療器具4が内視鏡6の視野外に位置しているか否かを区別する例を示したが、本発明はこれに限られない。たとえば、内視鏡6の視野外に位置している医療器具4の先端位置を示す記号を、内視鏡6の視野内に位置している医療器具4の先端位置を示す記号と異ならせることにより、医療器具4が内視鏡6の視野外に位置しているか否かを区別するようにしてもよい。
【0133】
また、上記第1~第3実施形態では、グラフィカルユーザインターフェイスGにおいて、医療器具4の挿入位置および先端位置が水準器LVの外側に表示される例を示したが、本発明はこれに限られない。たとえば、グラフィカルユーザインターフェイスGにおいて、医療器具4の挿入位置および先端位置を水準器LVの内側に表示してもよい。
【0134】
また、上記第1~第3実施形態では、カメラエリアG2と、ハンドエリアG3(ハンドエリアG3a、ハンドエリアG3bおよびハンドエリアG3c)とがモニタ24の画面grの下方の端部ed近傍の領域に表示される例を示したが、本発明はこれに限られない。たとえば、カメラエリアG2と、ハンドエリアG3(ハンドエリアG3a、ハンドエリアG3bおよびハンドエリアG3c)とがモニタ24の画面grの上方の端部eu近傍の領域に表示されてもよい。
【0135】
また、上記第1~第3実施形態では、アーム60が4つ設けられている例を示したが、本発明はこれに限られない。本発明では、アーム60の数は、少なくとも1つ以上設けられていれば他の任意の数であってもよい。
【0136】
また、上記第1~第3実施形態では、アーム部61およびポジショナ40が7軸多関節ロボットから構成されている例を示したが、本発明はこれに限られない。たとえば、アーム部61およびポジショナ40が7軸多関節ロボット以外の軸構成(例えば、6軸や8軸)の多関節ロボットなどから構成されていてもよい。
【0137】
また、上記第1~第3実施形態では、医療用マニピュレータ1が、医療用台車3と、ポジショナ40と、アームベース50とを備えている例を示したが、本発明はこれに限らない。たとえば、医療用台車3と、ポジショナ40と、アームベース50は必ずしも必要なく、医療用マニピュレータ1が、アーム60だけで構成されてもよい。
【0138】
本明細書で開示する要素の機能は、開示された機能を実行するよう構成またはプログラムされた汎用プロセッサ、専用プロセッサ、集積回路、ASIC(Application Specific Integrated Circuits)、従来の回路、および/または、それらの組み合わせ、を含む回路または処理回路を使用して実行できる。プロセッサは、トランジスタやその他の回路を含むため、処理回路または回路と見なされる。本開示において、回路、ユニット、または手段は、列挙された機能を実行するハードウェアであるか、または、列挙された機能を実行するようにプログラムされたハードウェアである。ハードウェアは、本明細書に開示されているハードウェアであってもよいし、あるいは、列挙された機能を実行するようにプログラムまたは構成されているその他の既知のハードウェアであってもよい。ハードウェアが回路の一種と考えられるプロセッサである場合、回路、手段、またはユニットはハードウェアとソフトウェアの組み合わせであり、ソフトウェアはハードウェアおよび/またはプロセッサの構成に使用される。
【符号の説明】
【0139】
2 遠隔操作装置
4 医療器具(手術器具)
6 内視鏡
8、8a、8b 画像処理装置(制御装置)
21L 操作ハンドル(第1操作ハンドル)
21R 操作ハンドル(第2操作ハンドル)
22 フットペダル(操作ペダル)
22c カメラペダル(内視鏡用入力装置、内視鏡ペダル)
24 モニタ(表示装置)
60 アーム(マニピュレータ)
60L 左アーム(第1マニピュレータ)
60R 右アーム(第2マニピュレータ)
60c アーム(第3マニピュレータ)
100、200、300 外科手術システム(手術システム)
401 医療器具(第1手術器具)
402 医療器具(第2手術器具)
403 医療器具(交換用手術器具)
AR1 矢印(第1矢印)
AR2 矢印(第2矢印)
gr 画像
G グラフィカルユーザインターフェイス
G2 カメラエリア(第4エリア)
G3a ハンドエリア(第1エリア)
G3b ハンドエリア(第2エリア)
G3c ハンドエリア(第3エリア)
G5 水準器エリア(センターエリア)
LV 水準器
P 患者
P11 挿入位置(第1挿入位置)
P12 挿入位置(第2挿入位置)
P13 挿入位置(第3挿入位置)
P21 先端位置(第1先端位置)
P22 先端位置(第2先端位置)
P23 先端位置(第3先端位置)
PR プログラム
SW スイッチ(表示用入力装置)