(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023172576
(43)【公開日】2023-12-06
(54)【発明の名称】手術システム、表示方法およびプログラム
(51)【国際特許分類】
A61B 34/35 20160101AFI20231129BHJP
【FI】
A61B34/35
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2022084483
(22)【出願日】2022-05-24
(71)【出願人】
【識別番号】514063179
【氏名又は名称】株式会社メディカロイド
(74)【代理人】
【識別番号】100104433
【弁理士】
【氏名又は名称】宮園 博一
(72)【発明者】
【氏名】高橋 毅
(72)【発明者】
【氏名】笹森 和弥
(57)【要約】
【課題】操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能な手術システムを提供する。
【解決手段】この外科手術システム100(手術システム)では、画像処理装置8bは、医療器具4が内視鏡6の視野外に位置している場合に、視野外に位置している医療器具4を示す標識MK1をグラフィカルユーザインタフェースGの表示部の画面の縁近傍を含まない内側に設定された標識表示領域に表示するように構成されているとともに、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の医療器具4が位置する領域に対応する方向を示す標識Mk1を表示するように構成されている。
【選択図】
図13
【特許請求の範囲】
【請求項1】
手術部位を撮像する内視鏡、および、複数の手術器具を各々支持するための複数のマニピュレータと、
前記内視鏡によって撮像された内視鏡画像を表示するための表示装置、および、前記複数の手術器具のうちの2つを各々操作するための2つの操作ハンドルを含む遠隔操作装置と、
前記内視鏡によって撮像された前記内視鏡画像にグラフィカルユーザインタフェースを重ねて前記表示装置の表示部に表示するように構成された制御装置と、を備え、
前記複数の手術器具のうち少なくとも1つの前記手術器具が前記内視鏡の視野外に位置している場合に、前記制御装置は、前記視野外に位置している前記手術器具を示す標識を前記グラフィカルユーザインタフェースの前記表示部の画面の縁近傍を含まない内側に設定された標識表示領域に表示するように構成されており、
前記制御装置は、縦の長さと横の長さとが等しくない矩形形状の前記表示部の形状に応じて前記視野外の領域を8分割したうちの前記視野外の前記手術器具が位置する領域に対応する方向を示す前記標識を表示するように構成されている、手術システム。
【請求項2】
前記表示部は、横の長さが縦の長さよりも大きく、
前記表示部の形状に応じて前記視野外の領域を8分割した領域は、上方向および下方向の領域の角度が、右方向、左方向、右上方向、左上方向、右下方向および左下方向の領域の角度よりも大きくなるように分割されている、請求項1に記載の手術システム。
【請求項3】
前記標識表示領域の外縁のアスペクト比は、前記表示部と同じアスペクト比である、請求項1に記載の手術システム。
【請求項4】
前記表示部は、横の長さが縦の長さよりも大きく、
前記制御装置は、前記視野外の領域を8分割した線により前記表示部の上辺、下辺、右辺および左辺を分割した各領域における線分の長さが、右方向、左方向、右上方向、左上方向、右下方向および左下方向の領域の線分の長さよりも、上方向および下方向の領域の線分の長さが大きくなるように、前記視野外の領域を8分割するように構成されている、請求項1に記載の手術システム。
【請求項5】
前記制御装置は、前記表示部の前記上辺の左から1/4の点と前記下辺の右から1/4の点とを結ぶ直線と、前記上辺の右から1/4の点と前記下辺の左から1/4の点とを結ぶ直線と、前記表示部の前記左辺の上から1/4の点と前記右辺の下から1/4の点とを結ぶ直線と、前記左辺の下から1/4の点と前記右辺の上から1/4の点とを結ぶ直線とにより、前記視野外の領域を8分割するように構成されている、請求項4に記載の手術システム。
【請求項6】
前記制御装置は、前記標識表示領域の8分割された各領域内の予め決められた位置に前記標識を表示するように構成されている、請求項1に記載の手術システム。
【請求項7】
前記標識表示領域は、前記グラフィカルユーザインタフェースのセンターエリアの外縁近傍領域であり、
前記センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、
前記上辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ上方の位置と、前記画面の上方の端部から前記画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、
前記左辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ左側の位置と、前記画面の左側の端部から前記画面の横方向の長さの1/10の長さ右側の位置との間に配置され、
前記右辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ右側の位置と、前記画面の右側の端部から前記画面の横方向の長さの1/10の長さ左側の位置との間に配置され、
前記下辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ下方の位置と、前記画面の下方の端部から前記画面の縦方向の長さの1/10の長さ上方の位置との間に配置される、請求項1に記載の手術システム。
【請求項8】
前記遠隔操作装置は、前記2つの操作ハンドルに前記内視鏡の移動を実行させるためのカメラペダルを含み、
前記制御装置は、前記カメラペダルが操作されている間、前記センターエリアに前記内視鏡の水準器を表示するように構成されている、請求項7に記載の手術システム。
【請求項9】
前記標識は、前記視野外に位置している前記手術器具を支持する前記マニピュレータを特定する番号を含む、請求項1に記載の手術システム。
【請求項10】
前記標識は、前記視野外に位置している前記手術器具が存在している方向を示す矢印をさらに含む、請求項1に記載の手術システム。
【請求項11】
前記標識は、表示される状態と、表示されない状態とを切り替え可能に構成されている、請求項1に記載の手術システム。
【請求項12】
操作者が所定の入力を行う入力装置をさらに備え、
前記制御装置は、前記入力装置による所定の入力に応答して、前記標識を前記標識表示領域に表示するように構成されている、請求項1に記載の手術システム。
【請求項13】
前記制御装置は、前記内視鏡の撮像範囲情報、および、前記複数のマニピュレータに各々支持される前記複数の手術器具の各々の先端の位置情報に基づいて、前記複数の手術器具が前記内視鏡の視野外に位置しているか否かを判定するように構成されている、請求項1に記載の手術システム。
【請求項14】
手術システムに設けられた制御装置によって実行される表示方法であって、
内視鏡によって撮像された内視鏡画像を取得するステップと、
前記複数の手術器具が前記内視鏡の視野外に位置しているか否かを判定するステップと、
前記複数の手術器具のうち少なくとも1つの前記手術器具が前記内視鏡の視野外に位置している場合に、前記視野外に位置している前記手術器具を示す標識を表示部の縁を含まない内側領域に設定された標識表示領域に表示するグラフィカルユーザインタフェースを前記内視鏡画像に重ねて表示装置の前記表示部に表示するステップと、を備え、
前記標識は、縦の長さと横の長さとが等しくない矩形形状の前記表示部の形状に応じて前記視野外の領域を8分割したうちの前記視野外の前記手術器具が位置する領域に対応する方向を示すように表示される、表示方法。
【請求項15】
前記視野外の領域は、前記表示部の上辺の左から1/4の点と下辺の右から1/4の点とを結ぶ直線と、前記上辺の右から1/4の点と前記下辺の左から1/4の点とを結ぶ直線と、前記表示部の左辺の上から1/4の点と右辺の下から1/4の点とを結ぶ直線と、前記左辺の下から1/4の点と前記右辺の上から1/4の点とを結ぶ直線とにより、8分割される、請求項13に記載の表示方法。
【請求項16】
手術器具に関する情報の表示をコンピュータに実行させるプログラムであって、
内視鏡によって撮像された内視鏡画像を取得するステップと、
複数の前記手術器具が前記内視鏡の視野外に位置しているか否かを判定するステップと、
前記複数の手術器具のうち少なくとも1つの前記手術器具が前記内視鏡の視野外に位置している場合に、前記視野外に位置している前記手術器具を示す標識を表示部の縁を含まない内側領域に設定された標識表示領域に表示するグラフィカルユーザインタフェースを前記画像に重ねて表示装置の前記表示部に表示するステップと、を前記コンピュータに実行させ、
前記標識は、縦の長さと横の長さとが等しくない矩形形状の前記表示部の形状に応じて前記視野外の領域を8分割したうちの前記視野外の前記手術器具が位置する領域に対応する方向を示すように表示される、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、手術システム、表示方法およびプログラムに関し、特に、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて表示装置に表示する手術システム、表示方法およびプログラムに関する。
【背景技術】
【0002】
従来、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて表示するロボット手術システムが知られている(たとえば、特許文献1参照)。
【0003】
上記特許文献1のロボット手術システムでは、内視鏡は、モニタの表示領域に表示するための手術部位の画像を撮影する。また、このロボット手術システムでは、内視鏡によって撮影された画像(視野)に対するツールの現在の位置が決定される。そして、決定されたツールの現在の位置がモニタに表示される画像(視野)の外にある場合、ツールの現在の位置が、モニタの画面の表示領域の外側にある境界領域に記号として表示される。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1に記載のようなロボット手術システムでは、手術中、操作者は、モニタの表示領域の中央近傍を集中して見ている。このため、上記特許文献1のように、視野外にあるツール(手術器具)の現在の位置を、モニタの画面の表示領域の外側にある境界領域に記号(標識)として表示しても、操作者が気づかない場合があるという問題点がある。また、操作者が気づいた場合には、視線を大きく動かす必要があるという問題点もある。
【0006】
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能な手術システムおよび表示方法を提供するものである。
【課題を解決するための手段】
【0007】
この発明の第1の局面による手術システムは、手術部位を撮像する内視鏡、および、複数の手術器具を各々支持するための複数のマニピュレータと、内視鏡によって撮像された内視鏡画像を表示するための表示装置、および、複数の手術器具のうちの2つを各々操作するための2つの操作ハンドルを含む遠隔操作装置と、内視鏡によって撮像された内視鏡画像にグラフィカルユーザインタフェースを重ねて表示装置の表示部に表示するように構成された制御装置と、を備え、複数の手術器具のうち少なくとも1つの手術器具が内視鏡の視野外に位置している場合に、制御装置は、視野外に位置している手術器具を示す標識をグラフィカルユーザインタフェースの表示部の画面の縁近傍を含まない内側に設定された標識表示領域に表示するように構成されており、制御装置は、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の手術器具が位置する領域に対応する方向を示す標識を表示するように構成されている。
【0008】
この発明の第1の局面による手術システムでは、上記のように、制御装置は、視野外に位置している手術器具を示す標識をグラフィカルユーザインタフェースの表示部の画面の縁近傍を含まない内側に設定された標識表示領域に表示するように構成されている。これにより、視野外に位置している手術器具を示す標識が、表示部の画面において端部近傍よりも比較的中央側に表示される。その結果、操作者は、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することができる。また、制御装置は、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の手術器具が位置する領域に対応する方向を示す標識を表示するように構成されている。これにより、縦の長さと横の長さとが等しくない矩形形状の表示部において、たとえば、画面の横の長さが縦の長さより長い横長の画面である場合、表示部の矩形形状の形状に応じて、長い辺(たとえば、上の辺および下の辺)の外側の視野外の領域を、短い辺(たとえば、右の辺および左の辺)の外側の視野外の領域よりも大きくすることができる。これにより、視野外の領域を等角度間隔(45度間隔)に8分割する場合と比べて、表示部の長い辺(たとえば、上の辺および下の辺)の角に近い位置の外側の領域に視野外の手術器具が位置する場合に、斜め上方向の領域または斜め下方向の領域に位置しているとされるのを抑制することができるので、操作者が視野外の領域にある手術器具の位置の方向を正確に認識しやすくすることができる。
【0009】
この発明の第2の局面による表示方法は、手術システムに設けられた制御装置によって実行される表示方法であって、内視鏡によって撮像された内視鏡画像を取得するステップと、複数の手術器具が内視鏡の視野外に位置しているか否かを判定するステップと、複数の手術器具のうち少なくとも1つの手術器具が内視鏡の視野外に位置している場合に、視野外に位置している手術器具を示す標識を表示部の縁を含まない内側領域に設定された標識表示領域に表示するグラフィカルユーザインタフェースを内視鏡画像に重ねて表示装置の表示部に表示するステップと、を備え、標識は、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の手術器具が位置する領域に対応する方向を示すように表示される。
【0010】
この発明の第2の局面による表示方法では、上記のように、複数の手術器具のうち少なくとも1つの手術器具が内視鏡の視野外に位置している場合に、視野外に位置している手術器具を示す標識を表示部の縁を含まない内側領域に設定された標識表示領域に表示するグラフィカルユーザインタフェースを内視鏡画像に重ねて表示装置の表示部に表示する。これにより、視野外に位置している手術器具を示す標識が、表示部の画面において端部近傍よりも比較的中央側に表示される。その結果、操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能な表示方法を提供することができる。また、標識は、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の手術器具が位置する領域に対応する方向を示すように表示される。これにより、縦の長さと横の長さとが等しくない矩形形状の表示部において、たとえば、横長の画面である場合、表示部の矩形形状の形状に応じて、長い辺(たとえば、上の辺および下の辺)の外側の視野外の領域を、短い辺(たとえば、右の辺および左の辺)の外側の視野外の領域よりも大きくすることができる。これにより、視野外の領域を等角度間隔(45度間隔)に8分割する場合と比べて、表示部の長い辺(たとえば、上の辺および下の辺)の角に近い位置の外側の領域に視野外の手術器具が位置する場合に、斜め上方向の領域または斜め下方向の領域に位置しているとされるのを抑制することができるので、操作者が視野外の領域にある手術器具の位置の方向を正確に認識しやすくすることが可能な表示方法を提供することができる。
【0011】
この発明の第3の局面によるプログラムは、手術器具に関する情報の表示をコンピュータに実行させるプログラムであって、内視鏡によって撮像された内視鏡画像を取得するステップと、複数の手術器具が内視鏡の視野外に位置しているか否かを判定するステップと、複数の手術器具のうち少なくとも1つの手術器具が内視鏡の視野外に位置している場合に、視野外に位置している手術器具を示す標識を表示部の縁を含まない内側領域に設定された標識表示領域に表示するグラフィカルユーザインタフェースを画像に重ねて表示装置の表示部に表示するステップと、をコンピュータに実行させ、標識は、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の手術器具が位置する領域に対応する方向を示すように表示される。
【0012】
この発明の第3の局面によるプログラムでは、上記のように、複数の手術器具のうち少なくとも1つの手術器具が内視鏡の視野外に位置している場合に、視野外に位置している手術器具を示す標識を表示部の縁を含まない内側領域に設定された標識表示領域に表示するグラフィカルユーザインタフェースを画像に重ねて表示装置の表示部に表示する。これにより、視野外に位置している手術器具を示す標識が、表示部の画面において端部近傍よりも比較的中央側に表示される。その結果、操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能なプログラムを提供することができる。また、標識は、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の手術器具が位置する領域に対応する方向を示すように表示される。これにより、縦の長さと横の長さとが等しくない矩形形状の表示部において、たとえば、横長の画面である場合、表示部の矩形形状の形状に応じて、長い辺(たとえば、上の辺および下の辺)の外側の視野外の領域を、短い辺(たとえば、右の辺および左の辺)の外側の視野外の領域よりも大きくすることができる。これにより、視野外の領域を等角度間隔(45度間隔)に8分割する場合と比べて、表示部の長い辺(たとえば、上の辺および下の辺)の角に近い位置の外側の領域に視野外の手術器具が位置する場合に、斜め上方向の領域または斜め下方向の領域に位置しているとされるのを抑制することができるので、操作者が視野外の領域にある手術器具の位置の方向を正確に認識しやすくすることが可能なプログラムを提供することができる。
【発明の効果】
【0013】
本発明によれば、操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することができる。
【図面の簡単な説明】
【0014】
【
図1】第1実施形態による外科手術システムの構成を示す図である。
【
図2】第1実施形態による医療用マニピュレータの構成を示す図である。
【
図3】第1実施形態による操作ハンドルの構成を示す図である。
【
図4】第1実施形態によるフットペダルの構成を示す図である。
【
図5】第1実施形態による医療用マニピュレータのアームの構成を示す図である。
【
図7】第1実施形態による医療用マニピュレータの操作部の構成を示す斜視図である。
【
図10】アームの並進移動を説明するための図である。
【
図11】アームの回転移動を説明するための図である。
【
図12】第1実施形態による医療用マニピュレータの制御部の構成を示すブロック図である。
【
図13】内視鏡によって取り込まれた画像、および、グラフィカルユーザインターフェイスを示す図である。
【
図14】グラフィカルユーザインターフェイスのエリアを示す図である。
【
図15】クラッチエリアの表示を説明するための図である。
【
図16】医療器具状態情報エリアの表示を説明するための図である。
【
図17】左ポップアップエリアの表示を説明するための図である。
【
図18】右ポップアップエリアの表示を説明するための図である。
【
図19】遠隔操作装置のタッチパネルの表示を説明するための図である。
【
図20】第1実施形態による標識を説明するための図である。
【
図21】第1実施形態による標識(操作対象)を説明するための図である。
【
図22】第1実施形態による標識(操作非対象)を説明するための図である。
【
図23】第1実施形態による中央側に寄せて配置される標識を説明するための図である。
【
図24】第1実施形態による表示方法を説明するためのフロー図である。
【
図25】第2実施形態による標識を説明するための図(1)である。
【
図26】第2実施形態による標識を説明するための図(2)である。
【
図27】第2実施形態による標識を説明するための図(3)である。
【
図28】第1変形例による標識を説明するための図である。
【
図29】第2変形例による標識を説明するための図である。
【発明を実施するための形態】
【0015】
以下、本発明を具体化した実施形態を図面に基づいて説明する。
【0016】
[第1実施形態]
図1~
図24を参照して、第1実施形態による外科手術システム100の構成について説明する。外科手術システム100は、患者P側装置である医療用マニピュレータ1と、医療用マニピュレータ1を操作するための操作者側装置である遠隔操作装置2とを備えている。医療用マニピュレータ1は医療用台車3を備えており、移動可能に構成されている。遠隔操作装置2は、医療用マニピュレータ1から離間した位置に配置されており、医療用マニピュレータ1は、遠隔操作装置2により遠隔操作されるように構成されている。操作者(医師など)は、医療用マニピュレータ1に所望の動作を行わせるための指令を遠隔操作装置2に入力する。遠隔操作装置2は、入力された指令を医療用マニピュレータ1に送信する。医療用マニピュレータ1は、受信した指令に基づいて動作する。また、医療用マニピュレータ1は、滅菌された滅菌野である手術室内に配置されている。なお、外科手術システム100は、特許請求の範囲の「手術システム」の一例である。
【0017】
遠隔操作装置2は、たとえば、手術室の中または手術室の外に配置されている。遠隔操作装置2は、操作ハンドル21と、フットペダル22と、タッチパネル23と、モニタ24と、支持アーム25と、支持バー26とを含む。操作ハンドル21は、操作者(医師など)が指令を入力するための操作用のハンドルを構成する。なお、モニタ24は、特許請求の範囲の「表示装置」の一例である。
【0018】
操作ハンドル21は、医療器具4を操作するように構成されている。また、操作ハンドル21は、医療器具4に対する操作量を受け付ける。操作ハンドル21は、操作者(医師など)から見て、左側に配置され、操作者の左手により操作される操作ハンドル21Lと、右側に配置され、操作者の右手により操作される操作ハンドル21Rと、を含んでいる。
【0019】
また、
図3に示すように、操作ハンドル21は、リンク部21a、リンク部21b、リンク部21c、操作者(医師など)が操作するリンク部21dとを含む。リンク部21aは、A4軸周りに回動する。リンク部21aがA4軸周りに回動されることにより、後述するアーム部61がJT4軸周りに回動する。リンク部21bは、リンク部21aに対して、A5軸周りに回動する。リンク部21bがA5軸周りに回動されることにより、後述するアーム部61がJT5軸周りに回動する。リンク部21cは、リンク部21bに対して、A6軸周りに回動する。リンク部21cがA6軸周りに回動されることにより、アーム部61がJT6軸周りに回動する。リンク部21dは、リンク部21cに対して、A7軸周りに回動する。リンク部21dがA7軸周りに回動されることにより、アーム部61がJT7軸周りに回動する。なお、医療器具4は、特許請求の範囲の「手術器具」の一例である。
【0020】
また、操作ハンドル21は、操作ハンドル21によって受け付けられた操作量に対してアーム60(医療器具4)の移動量が変更(スケーリング)される。たとえば、移動量の倍率が1/2倍に設定されている場合、医療器具4は、操作ハンドル21の移動距離の1/2の移動距離を移動するよう制御される。これによって、精細な手術を精確に行うことができる。なお、アーム60は、特許請求の範囲の「マニピュレータ」の一例である。
【0021】
図4に示すように、フットペダル22は、医療器具4に関する機能を実行するように複数設けられている。また、複数のフットペダル22は、基台部28に配置されている。フットペダル22は、切替ペダル22aと、クラッチペダル22bと、カメラペダル22cと、切開ペダル22dと、凝固ペダル22eとを含んでいる。切替ペダル22aと、クラッチペダル22bと、カメラペダル22cと、切開ペダル22dと、凝固ペダル22eとは、操作者の足により操作される。また、切開ペダル22dは、右側のアーム60用の切開ペダル22dRと、左側のアーム60用の切開ペダル22dLとを含む。また、凝固ペダル22eは、右側のアーム60用の凝固ペダル22eRと、左側のアーム60用の凝固ペダル22eLとを含む。なお、カメラペダル22cは、特許請求の範囲の「入力装置」の一例である。
【0022】
切替ペダル22aは、操作ハンドル21で動作させるアーム60を切り替えるように構成されている。第1実施形態では、クラッチペダル22bは、アーム60と操作ハンドル21との操作接続を一時切断するクラッチ操作を実行するように構成されている。クラッチペダル22bが操作者によって踏み込まれている間、操作ハンドル21による操作が、アーム60に伝達されなくなる。
【0023】
カメラペダル22cは、2つの操作ハンドル21に内視鏡6の移動を実行させるために操作される。具体的には、カメラペダル22cは、内視鏡6を移動させるための指令を入力するために設けられている。具体的には、カメラペダル22cが操作者によって踏み込まれることにより、内視鏡6を移動させるための指令が入力される。また、内視鏡6の移動を可能にする指令がカメラペダル22cにより入力された場合(つまり、カメラペダル22cが操作者によって踏み込まれている間)、内視鏡6は、操作ハンドル21Rおよび操作ハンドル21Lの両方を操作することによって移動するように構成されている。
【0024】
切開ペダル22d(凝固ペダル22e)が操作者によって踏み込まれている間、図示しない電気手術装置が起動する。
【0025】
図1に示すように、モニタ24は、内視鏡6によって撮像された内視鏡画像(
図13参照)を表示するためのスコープ型表示装置である。支持アーム25は、モニタ24の高さを操作者(医師など)の顔の高さに合わせるようにモニタ24を支持する。タッチパネル23は、支持バー26に配置されている。モニタ24近傍に設けられた図示しないセンサにより操作者の頭部を検知することにより医療用マニピュレータ1は遠隔操作装置2による操作が可能になる。操作者は、モニタ24により患部を視認しながら、操作ハンドル21およびフットペダル22を操作する。これにより、遠隔操作装置2に指令が入力される。遠隔操作装置2に入力された指令は、医療用マニピュレータ1に送信される。
【0026】
医療用台車3には、医療用マニピュレータ1の動作を制御する制御部31と、医療用マニピュレータ1の動作を制御するためのプログラムなどが記憶される記憶部32とが設けられている。そして、遠隔操作装置2に入力された指令に基づいて、医療用台車3の制御部31は、医療用マニピュレータ1の動作を制御する。
【0027】
また、医療用台車3には、入力装置33が設けられている。入力装置33は、主に施術前に手術の準備を行うために、ポジショナ40、アームベース50、および、複数のアーム60の移動や姿勢の変更の操作を受け付けるように構成されている。
【0028】
図1および
図2に示す医療用マニピュレータ1は、手術室内に配置されている。医療用マニピュレータ1は、医療用台車3と、ポジショナ40と、アームベース50と、複数のアーム60とを備えている。アームベース50は、ポジショナ40の先端に取り付けられている。アームベース50は、比較的長い棒形状(長尺形状)を有する。また、複数のアーム60は、各々のアーム60の根元部が、アームベース50に取り付けられている。複数のアーム60は、折り畳まれた姿勢(収納姿勢)をとることが可能に構成されている。アームベース50と、複数のアーム60とは、図示しない滅菌ドレープにより覆われて使用される。また、アーム60は、医療器具4を支持する。
【0029】
ポジショナ40は、たとえば、7軸多関節ロボットにより構成されている。また、ポジショナ40は、医療用台車3上に配置されている。ポジショナ40は、アームベース50を移動させる。具体的には、ポジショナ40は、アームベース50の位置を3次元に移動させるように構成されている。
【0030】
また、ポジショナ40は、ベース部41と、ベース部41に連結された複数のリンク部42とを含む。複数のリンク部42同士は、関節部43により連結されている。
【0031】
図1に示すように、複数のアーム60の各々の先端には、医療器具4が取り付けられている。医療器具4は、たとえば、取り換え可能なインストゥルメント、手術部位の画像を撮像するための内視鏡6(
図8参照)などを含む。
【0032】
また、外科手術システム100には、
図1に示すように、モニタカート8が設けられている。モニタカート8は、表示部8aが設けられている。表示部8aは、遠隔操作装置2のモニタ24とは別個に設けられている。また、モニタカート8には、画像処理装置8bが設けられている。モニタカート8の表示部8aには、遠隔操作装置2のモニタ24に表示される画像と同じ画像表示される。つまり、モニタ24に表示されて術者が見ている画像を、医療用マニピュレータ1および患者Pの周辺にいる作業者(看護師、助手など)がモニタカート8の表示部8aにより見ることが可能である。なお、表示部8aは、特許請求の範囲の「表示装置」の一例である。また、画像処理装置8bは、特許請求の範囲の「制御装置」の一例である。
【0033】
図5に示すように、インストゥルメントには、アーム60のホルダ71に設けられたサーボモータM2によって駆動される被駆動ユニット4aが設けられている。また、インストゥルメントの先端には、鉗子4bが設けられている。
【0034】
また、
図6に示すように、インストゥルメントは、エンドエフェクタ部材104aおよび104bの基端側を先端側でJT11軸周りに回転可能に支持する第1支持体4eと、第1支持体4eの基端側を先端側でJT10軸周りに回転可能に支持する第2支持体4fと、第2支持体4fの基端側に接続されるシャフト4cとを含む。被駆動ユニット4aと、シャフト4cと、第2支持体4fと、第1支持体4eと、鉗子4bとは、Z方向に沿って配置されている。JT11軸は、シャフト4cが延びる方向(Z方向)に対して直交する。また、JT10軸は、シャフト4cが延びる方向においてJT11軸と離間しかつシャフト4cが延びる方向およびJT11軸に対して直交する。
【0035】
第1支持体4eには、JT11軸の軸線周りに回転するように鉗子4bが取り付けられている。また、第2支持体4fは、第1支持体4eをJT10軸について回転可能に支持している。つまり、第2支持体4fにはJT10軸の軸線周りに回転するように第1支持体4eが取り付けられている。また、第1支持体4eの先端側(Z1方向側)の部分は、U字形状を有している。第1支持体4eのU字形状の先端側の部分のJT11軸の軸線における中央部にツールセンタポイント(TCP1、クレビス)が設定されている。
【0036】
また、医療器具4(鉗子4b)は、シャフト4cの回転軸(シャフト4cが延びる方向に沿った軸)としてのJT9軸と、鉗子4bの開閉軸としてのJT12軸とを備えている。なお、アーム60のホルダ71に設けられたサーボモータM2は、複数(たとえば、4個)設けられており、複数のサーボモータM2によって、被駆動ユニット4aの回転体が駆動される。これにより、J9軸~J12軸周りに、医療器具4が駆動される。
【0037】
また、
図8に示すように、内視鏡6のTCP2は、内視鏡6の先端に設定されている。
【0038】
次に、アーム60の構成について詳細に説明する。
【0039】
図5に示すように、アーム60は、アーム部61(ベース部62、リンク部63、関節部64)と、アーム部61の先端に設けられる並進移動機構部70とを含む。アーム60は、アーム60の根元側(アームベース50)に対して先端側を3次元に移動させるように構成されている。また、アーム部61は、7軸多関節ロボットアームから構成されている。なお、複数のアーム60は、互いに同様の構成を有する。
【0040】
図5に示すように、アーム60は、回転軸としてのJT1~JT7軸と、直動軸としてのJ8軸とを備えている。JT1~JT7軸は、アーム部61の関節部64の回転軸に対応する。また、JT7軸は、並進移動機構部70の基端側リンク部72に対応する。JT8軸は、並進移動機構部70の先端側リンク部73を基端側リンク部72に対してZ方向に沿って相対的に移動させる軸に対応する。すなわち、
図12に示すサーボモータM1は、アーム60のJT1~JT7軸に対応するように設けられている。また、サーボモータM3は、JT8軸に対応するように設けられている。
【0041】
並進移動機構部70は、アーム部61の先端側に設けられるとともに医療器具4が取り付けられている。また、並進移動機構部70は、医療器具4を患者Pに挿入する方向に並進移動させる。また、並進移動機構部70は、医療器具4をアーム部61に対して相対的に並進移動させるように構成されている。具体的には、並進移動機構部70には、医療器具4を保持するホルダ71が設けられている。ホルダ71には、サーボモータM2(
図12参照)が収容されている。
【0042】
また、
図7に示すように、医療用マニピュレータ1は、アーム60に取り付けられ、アーム60を操作する操作部80を備えている。操作部80は、イネーブルスイッチ81と、ジョイスティック82とスイッチ部83とを含む。イネーブルスイッチ81は、ジョイスティック82およびスイッチ部83によるアーム60の移動を許可または不許可とする。また、イネーブルスイッチ81は、操作者(看護師、助手など)が操作部80を把持して押下されることによりアーム60による医療器具4の移動を許可する状態となる。また、ジョイスティック82とスイッチ部83は、アーム60を操作するために用いられる。なお、イネーブルスイッチ81は、特許請求の範囲の「入力装置」の一例である。
【0043】
また、スイッチ部83は、医療器具4の長手方向に沿った医療器具4を患者Pに挿入する方向側に医療器具4を移動させるスイッチ部83aと、医療器具4を患者Pに挿入する方向と反対側に医療器具4を移動させるスイッチ部83bとを含む。スイッチ部83aとスイッチ部83bとは、共に、押しボタンスイッチから構成されている。
【0044】
また、
図7に示すように、操作部80は、アーム60に取り付けられた医療器具4の移動の支点(
図11参照)となるピボット位置PPを教示するピボットボタン85を含む。ピボットボタン85は、操作部80の面80bに、イネーブルスイッチ81に隣り合うように設けられている。そして、内視鏡6(
図8参照)またはピボット位置教示器具7(
図9)の先端が、患者Pの体表面Sに挿入されたトロカールTの挿入位置に対応する位置まで移動された状態で、ピボットボタン85が押下されることによりピボット位置PPが教示され、記憶部32に記憶される。なお、ピボット位置PPの教示において、ピボット位置PPは、1つの点(座標)として設定され、ピボット位置PPの教示は、医療器具4の方向を設定するものではない。
【0045】
また、
図1に示すように、複数のアーム60のうちの一つのアーム60(たとえば、アーム60c)には内視鏡6が取り付けられ、残りのアーム60(たとえば、アーム60a、60bおよび60d)には、内視鏡6以外の医療器具4が取り付けられる。具体的には、手術において、4つのアーム60のうちの1つのアーム60に内視鏡6が取り付けられ、3つのアーム60に内視鏡6以外の医療器具4(鉗子4bなど)が取り付けられる。そして、内視鏡6が取り付けられているアーム60に対して、内視鏡6が取り付けられた状態でピボット位置PPが教示される。また、内視鏡6以外の医療器具4が取り付けられるアーム60に対して、ピボット位置教示器具7が取り付けられた状態でピボット位置PPが教示される。なお、内視鏡6は、互いに隣り合うように配置されている4つのアーム60のうちの、中央に配置される2つのアーム60(アーム60bおよび60c)のうちのいずれかに取り付けられる。すなわち、ピボット位置PPは、複数のアーム60毎に個別に設定される。
【0046】
また、
図7に示すように、操作部80の面80bには、アーム60の位置を最適化するためのアジャストメントボタン86が設けられている。内視鏡6が取り付けられたアーム60に対するピボット位置PPの教示後、アジャストメントボタン86が押下されることにより、他のアーム60(アームベース50)の位置が最適化される。
【0047】
また、
図7に示すように、操作部80は、アーム60に取り付けられた医療器具4を並進移動(
図10参照)させるモードと、回転移動(
図11参照)させるモードとを切り替えるモード切替ボタン84を含む。また、モード切替ボタン84の近傍には、モードインジケータ84aが設けられている。モードインジケータ84aは、切り替えられたモードを表示する。具体的には、モードインジケータ84aが点灯(回転移動モード)または消灯(並進移動モード)されることにより、現在のモード(並進移動モードまたは回転移動モード)が表示される。
【0048】
また、モードインジケータ84aは、ピボット位置PPが教示されたことを表示するピボット位置インジケータを兼ねている。
【0049】
図10に示すように、アーム60を並進移動させるモードでは、医療器具4の先端4dが、X-Y平面上において移動するように、アーム60が移動される。また、
図11に示すように、アーム60を回転移動させるモードでは、ピボット位置PPが教示されていない時は、鉗子4bを中心に回転移動し、ピボット位置PPが教示されている時は、ピボット位置PPを支点として医療器具4が回転移動するように、アーム60が移動される。なお、医療器具4のシャフト4cがトロカールTに挿入された状態で、医療器具4が回転移動される。
【0050】
また、
図12に示すように、アーム60には、アーム部61の複数の関節部64に対応するように、複数のサーボモータM1と、エンコーダE1と、減速機(図示せず)とが設けられている。エンコーダE1は、サーボモータM1の回転角を検出するように構成されている。減速機は、サーボモータM1の回転を減速させてトルクを増大させるように構成されている。
【0051】
また、
図12に示すように、並進移動機構部70には、医療器具4の被駆動ユニット4aに設けられた回転体を回転させるためのサーボモータM2と、医療器具4を並進移動させるためのサーボモータM3と、エンコーダE2およびエンコーダE3と、減速機(図示せず)とが設けられている。エンコーダE2およびエンコーダE3は、それぞれ、サーボモータM2およびサーボモータM3の回転角を検出するように構成されている。減速機は、サーボモータM2およびサーボモータM3の回転を減速させてトルクを増大させるように構成されている。
【0052】
また、ポジショナ40には、ポジショナ40の複数の関節部43に対応するように、複数のサーボモータM4と、エンコーダE4と、減速機(図示せず)とが設けられている。エンコーダE4は、サーボモータM4の回転角を検出するように構成されている。減速機は、サーボモータM4の回転を減速させてトルクを増大させるように構成されている。
【0053】
また、医療用台車3には、医療用台車3の複数の図示しない前輪の各々を駆動するサーボモータM5と、エンコーダE5と、図示しない減速機とブレーキが設けられている。減速機は、サーボモータM5の回転を減速させてトルクを増大させるように構成されている。また、医療用台車3のスロットル部34aには、ポテンショメータP1(
図1参照)が設けられており、スロットル部34aの捻りに応じてポテンショメータP1で検出した回転角に基づき、前輪のサーボモータM5は駆動される。また、医療用台車3の図示しない後輪は、双輪形式であり、操作ハンドル34の左右の回動に基づき、後輪は操舵される。また、医療用台車3の操作ハンドル34には、ポテンショメータP2(
図2参照)が設けられており、医療用台車3の後輪には、サーボモータM6とエンコーダE6と図示しない減速機が設けられている。減速機は、サーボモータM6の回転を減速させてトルクを増大させるように構成されている。操作ハンドル34の左右の回動に応じてポテンショメータP2で検出した回転角に基づき、サーボモータM6は駆動される。すなわち、操作ハンドル34の左右の回動による後輪の操舵は、サーボモータM6によりパワーアシストされるように構成されている。
【0054】
また、医療用台車3は、前輪が駆動されることにより、前後方向に移動する。また、医療用台車3の操作ハンドル34が回動されることにより、後輪が操舵されて、医療用台車3が左右方向に回動する。
【0055】
医療用台車3の制御部31は、指令に基づいて複数のアーム60の移動を制御するアーム制御部31aと、指令に基づいてポジショナ40の移動および医療用台車3の前輪(図示せず)の駆動を制御するポジショナ制御部31bとを含む。アーム制御部31aには、アーム60を駆動するためのサーボモータM1を制御するためのサーボ制御部C1が電気的に接続されている。また、サーボ制御部C1には、サーボモータM1の回転角を検出するためのエンコーダE1が電気的に接続されている。
【0056】
また、アーム制御部31aには、医療器具4を駆動するためのサーボモータM2を制御するためのサーボ制御部C2が電気的に接続されている。また、サーボ制御部C2には、サーボモータM2の回転角を検出するためのエンコーダE2が電気的に接続されている。また、アーム制御部31aには、並進移動機構部70を並進移動するためのサーボモータM3を制御するためのサーボ制御部C3が電気的に接続されている。また、サーボ制御部C3には、サーボモータM3の回転角を検出するためのエンコーダE3が電気的に接続されている。
【0057】
そして、遠隔操作装置2に入力された動作指令が、アーム制御部31aに入力される。アーム制御部31aは、入力された動作指令と、エンコーダE1(E2、E3)により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1(C2、C3)に出力する。サーボ制御部C1(C2、C3)は、アーム制御部31aから入力された位置指令と、エンコーダE1(E2、E3)により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1(M2、M3)に出力する。これにより、遠隔操作装置2に入力された動作指令に沿うように、アーム60が移動される。
【0058】
また、
図12に示すように、制御部31(アーム制御部31a)は、操作部80のジョイスティック82からの入力信号に基づいてアーム60を操作するように構成されている。具体的には、アーム制御部31aは、ジョイスティック82から入力された入力信号(動作指令)と、エンコーダE1により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1に出力する。サーボ制御部C1は、アーム制御部31aから入力された位置指令と、エンコーダE1により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1に出力する。これにより、ジョイスティック82に入力された動作指令に沿うように、アーム60が移動される。
【0059】
制御部31(アーム制御部31a)は、操作部80のスイッチ部83からの入力信号に基づいてアーム60を操作するように構成されている。具体的には、アーム制御部31aは、スイッチ部83から入力された入力信号(動作指令)と、エンコーダE1またはE3により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1またはC3に出力する。サーボ制御部C1またはC3は、アーム制御部31aから入力された位置指令と、エンコーダE1またはE3により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1またはM3に出力する。これにより、スイッチ部83に入力された動作指令に沿うように、アーム60が移動される。
【0060】
また、
図12に示すように、ポジショナ制御部31bには、ポジショナ40を移動するサーボモータM4を制御するためのサーボ制御部C4が電気的に接続されている。また、サーボ制御部C4には、サーボモータM4の回転角を検出するためのエンコーダE4が電気的に接続されている。また、ポジショナ制御部31bには、医療用台車3の前輪(図示せず)を駆動するサーボモータM5を制御するためのサーボ制御部C5が電気的に接続されている。また、サーボ制御部C5には、サーボモータM5の回転角を検出するためのエンコーダE5が電気的に接続されている。
【0061】
また、入力装置33から準備位置の設定などに関する動作指令が、ポジショナ制御部31bに入力される。ポジショナ制御部31bは、入力装置33から入力された動作指令と、エンコーダE4により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C4に出力する。サーボ制御部C4は、ポジショナ制御部31bから入力された位置指令と、エンコーダE4により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM4に出力する。これにより、入力装置33に入力された動作指令に沿うように、ポジショナ40が移動される。同様に、入力装置33からの動作指令に基づいて、ポジショナ制御部31bは、医療用台車3を移動させる。
【0062】
外科手術システム100は、画像処理装置8bを備えている。画像処理装置8bは、所定のプログラムに基づいて処理を実行する。画像処理装置8bは、コンピュータにより構成されている。画像処理装置8bは、プログラムを実行するCPUなどの処理部と、プログラムが格納されたメモリなどの記憶部とを含んでいる。また、画像処理装置8bは、グラフィカルユーザインタフェースG(
図14参照)を生成し、グラフィカルユーザインタフェースGを内視鏡6によって撮影された内視鏡画像(
図13参照)に重ねて遠隔操作装置2のモニタ24に表示するように構成されている。また、画像処理装置8bは、グラフィカルユーザインタフェースGを内視鏡6によって撮影された内視鏡画像に重ねて表示部8aに表示するように構成されている。また、画像処理装置8bは、内視鏡6から画像を取り込んで画像処理を行うように構成されている。
【0063】
図14に示すように、グラフィカルユーザインタフェースGは、クラッチエリアG1を含む。
図15に示すように、クラッチエリアG1には、クラッチペダル22bの状態が示される。
図15(a)は、クラッチペダル22bが踏まれていない状態(OFF状態)を示している。
図15(b)は、操作者がクラッチペダル22bに足を置いている状態(ホバー状態)を示している。
図15(c)は、クラッチペダル22bが踏まれている状態(ON状態)を示している。
【0064】
図14に示すように、第1実施形態では、グラフィカルユーザインタフェースGは、内視鏡6に関する情報を示すカメラエリアG2を含む。カメラエリアG2は、モニタ24の画面grの下方の端部ed(
図13参照)近傍の領域に表示される。
【0065】
図14に示すように、グラフィカルユーザインタフェースGは、ハンドエリアG3を含む。ハンドエリアG3は、各医療器具4の情報や、各アーム60の情報や、凝固ペダル22eおよび切開ペダル22dの状態の情報が表示される。ハンドエリアG3は、左手用の操作ハンドル21Lによって操作される医療器具4およびアーム60a(ハンドエリアG3の番号「4」)に関する情報を示すハンドエリアG3aと、交換用の医療器具4およびアーム60b(ハンドエリアG3の番号「3」)に関する情報を示すハンドエリアG3bと、左手用の操作ハンドル21Lによって操作される医療器具4およびアーム60d(ハンドエリアG3の番号「1」)に関する情報を示すハンドエリアG3cとを含む。ハンドエリアG3は、モニタ24の画面grの下方の端部ed近傍の領域に表示される。また、クラッチエリアG1も、画面grの下方の端部ed近傍の領域に表示される。具体的には、
図14に示すように、クラッチエリアG1、カメラエリアG2およびハンドエリアG3は、画面grの下方の端部edと、端部edから画面grの縦方向の長さの1/10(L11)の長さ上方の位置との間に表示される。
【0066】
また、アーム60に関する情報は、アーム番号(「1」、「2」などのアーム番号)や交換用の医療器具4が取り付けられたアーム60の交換先として設定されている場合に表示される矢印のアイコンを含み、医療器具4に関する情報は医療器具4の名称を含み、凝固ペダル22eおよび切開ペダル22dの状態の情報は、クラッチペダル22bの操作の状態、切開ペダル22dの操作の状態、凝固ペダル22eの操作の状態を含む。
【0067】
また、
図13に示すように、操作対象となるアーム60のハンドエリア(ハンドエリアG3a、および、ハンドエリアG3c)は、濃い灰色で表示され、この中に白抜きの長円が示され、かつ、白抜きの長円の中にアーム60の番号(1および4)が表示される。また、操作対象でないアーム60のハンドエリア(ハンドエリアG3b)は、薄い灰色で表示され、かつ、さらに薄い灰色のアーム60の番号(3)が表示される。
【0068】
図14に示すように、グラフィカルユーザインタフェースGは、ポップアップエリアである医療器具状態情報エリアG4を含む。医療器具状態情報エリアG4には、各アーム60に取り付けられた医療器具4の現在の使用回数/最大使用回数(
図16参照)が、ポップアップで表示される。なお、現在の使用回数が最大使用回数に等しくなると、現在の使用回数が赤字で表示される。また、各アーム60に取り付けられた医療器具4にエラーが生じた際にはエラー情報がポップアップで表示される。また、アーム60に医療器具4が取り付けられていない場合、医療器具状態情報エリアG4には何も表示されない。医療器具状態情報エリアG4は、モニタ24上において、クラッチエリアG1、カメラエリアG2、および、ハンドエリアG3の上方側の隣接した領域に表示される。
【0069】
図14に示すように、グラフィカルユーザインタフェースGは、水準器エリアG5を含む。水準器エリアG5は、内視鏡6の角度情報が表示される。また、水準器エリアG5は、カメラペダル22cが踏み込まれている間のみ表示される。すなわち、画像処理装置8bは、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示する。なお、水準器エリアG5は、特許請求の範囲の「センターエリア」の一例である。
【0070】
図14に示すように、グラフィカルユーザインタフェースGは、左ポップアップエリアG6を含む。左ポップアップエリアG6は、フットペダル22に足が置かれているホバー状態のときに、
図17(a)~(c)に示すアイコンが表示される。
図17(a)は、凝固ペダル22eLと切開ペダル22dLに足が置かれているときに表示されるアイコンである。
図17(b)は、クラッチペダル22bに足が置かれているときに表示されるアイコンである。
図17(c)は、カメラペダル22cに足が置かれているときに表示されるアイコンである。左ポップアップエリアG6は、モニタ24上において、左側側部に表示される。
【0071】
図14に示すように、グラフィカルユーザインタフェースGは、右ポップアップエリアG7を含む。右ポップアップエリアG7は、凝固ペダル22eRと切開ペダル22dRに足が置かれているときにアイコン(
図18)が表示される。右ポップアップエリアG7は、モニタ24上において、右側側部に表示される。
【0072】
また、
図14に示すように、グラフィカルユーザインタフェースGは、アーム60の動作可能範囲と、アーム60の動作可能範囲のうち操作ハンドル21により操作可能な操作可能範囲と、を表示する第1エリアG8を含む。また、グラフィカルユーザインタフェースGは、操作ハンドル21を操作可能範囲内に戻すため、および/または(第1実施形態では、「および」)アーム60を動作可能範囲内に戻すために必要な操作ハンドル21の操作方向を表示する第2エリアG9を含む。
【0073】
また、操作ハンドル21により操作可能なアーム60は、2つである。たとえば、操作ハンドル21Lによって、医療器具4を支持するための左アーム60L(例えば、アーム60a、
図1参照)が操作される。また、操作ハンドル21Rによって、医療器具4を支持するための右アーム60R(例えば、アーム60d、
図1参照)が操作される。そして、第1エリアG8(第1エリアG8L、第1エリアG8R)および第2エリアG9(第2エリアG9L、第2エリアG9R)は、各々、左アーム60Lおよび右アーム60Rごとに別個に設けられている。
【0074】
また、
図14に示すように、グラフィカルユーザインタフェースGは、エラー通知エリアG15(G15a、G15b)を含む。エラー通知エリアG15aは、警告やエラーが発生したときに、警告やエラー情報を表示するためにポップアップで表示される。エラー通知エリアG15bは、エラー通知エリアG15aに表示されている警告やエラーに関する注記の詳細を表示するためにポップアップで表示される。
【0075】
図13に示される内視鏡6の視野外に位置している医療器具4を示す標識MK1や
図25に示される標識MK2は、表示される状態と、表示されない状態とを切り替え可能に構成されている。具体的には、
図19に示すように、遠隔操作装置2のタッチパネル23が操作されることにより、「視野外鉗子表示」のボタンが表示される。そして、「視野外鉗子表示」の「オン」が選択されて設定されると、操作者によりカメラペダル22cに入力操作が行われた場合に、内視鏡6の視野外に位置している医療器具4が存在すると標識MK1や標識MK2が表示される。また、「視野外鉗子表示」の「オフ」が選択されると、標識MK1や標識MK2が表示されない。これにより操作者の操作の熟練度や操作者のニーズによって「視野外鉗子表示」の表示設定を容易に切り替えることができる。
【0076】
図14に示すように、グラフィカルユーザインタフェースGは、ステータスエリアG10を含む。ステータスエリアG10には、医療用マニピュレータ1の内蔵バッテリの残量、モニタ24の明るさ/コントラスト、ラップタイム、手術経過時間などの情報が表示される。具体的には、
図14に示すように、ステータスエリアG10は、画面grの上方の端部euと、端部euから画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に表示される。
【0077】
ここで、第1実施形態では、
図13および
図14に示すように、画像処理装置8bは、複数の医療器具4のうち少なくとも1つの医療器具4が内視鏡6の視野外に位置している場合に、カメラペダル22cまたはイネーブルスイッチ81による入力に応答して、視野外に位置している医療器具4を示す標識MK1を、表示部の画面の縁近傍を含まないグラフィカルユーザインタフェースGの内側領域に表示する。また、画像処理装置8bは、グラフィカルユーザインタフェースGの水準器エリアG5の外縁近傍エリアG11内に標識MK1を表示するように構成されている。つまり、標識MK1(グラフィカルユーザインタフェースG)は、モニタ24の画面grの端部e近傍を含まずに中央部CN1を含む水準器エリアG5の外縁近傍エリアG11に表示される。なお、外縁近傍エリアG11とは、後述する水準器LVの外側且つ水準器LVの近傍に位置するエリアである。
【0078】
また、画像処理装置8bは、内視鏡6の移動を実行させるためにカメラペダル22cに対して行うカメラ移動操作の入力に応答して、標識MK1をグラフィカルユーザインタフェースGに表示するように構成されている。また、画像処理装置8bは、カメラ移動操作とは異なるカメラペダル22cに対する操作として、カメラペダル22cが所定時間以内に2回連続操作(ダブルクリック操作)される入力に応答して、標識MK1をグラフィカルユーザインタフェースGに表示するように構成されても良い。
【0079】
なお、画像処理装置8bは、カメラ移動操作とは異なるカメラペダル22cに対する操作を受け付けた場合は、操作ハンドル21Lおよび21Rによる操作により、医療器具4の操作を可能とする。つまり、カメラ移動操作とは異なるカメラペダル22cに対する操作が行われた場合は、操作ハンドル21Lおよび21Rにより、内視鏡6の移動操作はできない。
【0080】
また、画像処理装置8bは、アーム60に取り付けられたイネーブルスイッチ81が操作されることに応答して、標識MK1をグラフィカルユーザインタフェースGに表示するように構成されている。つまり、アーム60を移動させるために助手や看護師などの操作者がイネーブルスイッチ81を押下した場合に、標識MK1がグラフィカルユーザインタフェースGに表示される。
【0081】
標識MK1は、表示される状態と、表示されない状態とを切り替え可能に構成されている。具体的には、画像処理装置8bは、カメラペダル22cまたはイネーブルスイッチ81によって入力が行われた場合にのみ、標識MK1をグラフィカルユーザインタフェースGに表示するように構成されている。
【0082】
なお、画像処理装置8bは、内視鏡6の撮像範囲情報、および、複数のアーム60に各々支持される複数の医療器具4の各々の先端の位置情報に基づいて、複数の医療器具4が内視鏡6の視野外に位置しているか否かを判定するように構成されている。つまり、画像処理装置8bは、医療器具4の位置を、アーム60の姿勢、位置に基づいて取得する。また、画像処理装置8bは、内視鏡6の撮像方向を、アーム60の姿勢、位置に基づいて取得する。また、画像処理装置8bは、内視鏡6のズーム状態に基づいて内視鏡6の画角(視野範囲)を取得する。画像処理装置8bは、内視鏡6の画角(視野範囲)を、内視鏡6のメカ機構(レンズ等)として設定されている値を用いて取得する。そして、画像処理装置8bは、内視鏡6の視野および、内視鏡6の姿勢、位置とアーム60の位置情報より、内視鏡6の視野に対する医療器具4の先端の座標を取得する。これにより、画像処理装置8bは、医療器具4が内視鏡6の視野外に位置しているか否かを判定する。
【0083】
また、
図13および
図14に示す例では、アーム60a、60b、60cおよび60dのうち、アーム60a(ハンドエリアG3aの番号「4」)、アーム60b(ハンドエリアG3bの番号「3」)、および、アーム60d(ハンドエリアG3cの番号「1」)には、医療器具4(内視鏡6以外の鉗子4bなどの医療器具4)が取り付けられている。また、アーム60c(カメラエリアG2の番号「2」)には、内視鏡6が取り付けられている。アーム60a(ハンドエリアG3aの番号「4」)、および、アーム60d(ハンドエリアG3の番号「1」)が、操作ハンドル21により操作可能な状態(アクティブ)であり、ハンドエリアG3aおよびG3cは、濃い灰色で表示される。また、アーム60bは、操作ハンドル21により操作可能でない状態(非アクティブ)であり、ハンドエリアG3bは、薄い灰色で表示される。
【0084】
図13に示す例では、アーム60a(ハンドエリアG3aの番号「4」)、および、アーム60d(ハンドエリアG3cの番号「1」)に支持される医療器具4は、内視鏡6の視野内に位置している。一方、アーム60b(ハンドエリアG3bの番号「3」)に支持される医療器具4は、内視鏡6の視野外に位置している。
【0085】
そして、第1実施形態では、
図13に示すように、画像処理装置8bは、水準器エリアG5の外縁近傍エリアG11内の視野外の医療器具4が位置する方向に標識MK1を表示するように構成されている。つまり、グラフィカルユーザインタフェースGは、外縁近傍エリアG11で、且つ、水準器エリアG5の中央CN2に対して、視野外の医療器具4が位置する方向に対応するエリアG12(
図20参照)に、視野外の医療器具4を表示する標識MK1を配置して表示される。
図13では、標識MK1(「3」の文字)が、表示されている。
【0086】
また、
図20に示すように、視野外の医療器具4を表示する標識MK1が表示されるエリアG12は、外縁近傍エリアG11を水準器エリアG5の中央CN2から放射状に複数に分割したエリアG12のうちの1つのエリアG12である。第1実施形態では、外縁近傍エリアG11が、中央CN2から放射状に8個に分割されている。
図13では、標識MK1(「3」の文字)が、例として、左上方向の領域G12d(
図20参照)に表示されている。なお、
図20では、視野外に医療器具4が位置しているパターンの全てを表示している。
【0087】
また、第1実施形態では、
図20に示すように、画像処理装置8bは、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の医療器具4が位置する領域に対応する方向を示す標識MK1を表示するように構成されている。
【0088】
また、第1実施形態では、
図20に示すように、表示部は、横の長さが縦の長さよりも大きい。そして、表示部の形状に応じて視野外の領域を8分割した領域は、上方向の領域G12cおよび下方向の領域G12gの角度が、右方向の領域G12a、左方向の領域G12e、右上方向の領域G12b、左上方向の領域G12d、右下方向の領域G12hおよび左下方向の領域G12fの角度よりも大きくなるように分割されている。
【0089】
また、第1実施形態では、
図20に示すように、外縁近傍エリアG11の外縁のアスペクト比(縦横比)は、表示部と同じアスペクト比である。たとえば、外縁近傍エリアG11の外縁のアスペクト比および表示部のアスペクト比は、横の長さ:縦の長さ=16:9である。
【0090】
また、第1実施形態では、画像処理装置8bは、視野外の領域を8分割した線により表示部の上辺、下辺、右辺および左辺を分割した各領域における線分の長さが、右方向、左方向、右上方向、左上方向、右下方向および左下方向の領域の線分の長さよりも、上方向および下方向の領域の線分の長さが大きくなるように、視野外の領域を8分割するように構成されている。
【0091】
画像処理装置8bは、表示部の上辺の左から1/nの点と下辺の右から1/nの点とを結ぶ直線と、上辺の右から1/nの点と下辺の左から1/nの点とを結ぶ直線と、表示部の左辺の上から1/nの点と右辺の下から1/nの点とを結ぶ直線と、左辺の下から1/nの点と右辺の上から1/nの点とを結ぶ直線とにより、視野外の領域を8分割するように構成されている。nは、3より大きく8より小さい。たとえば、画像処理装置8bは、表示部の上辺の左から1/4の点と下辺の右から1/4の点とを結ぶ直線と、上辺の右から1/4の点と下辺の左から1/4の点とを結ぶ直線と、表示部の左辺の上から1/4の点と右辺の下から1/4の点とを結ぶ直線と、左辺の下から1/4の点と右辺の上から1/4の点とを結ぶ直線とにより、視野外の領域を8分割するように構成されている。
図20に示す例では、上辺および下辺の長さの1/4の長さがL1であり、右辺および左辺の長さの1/4の長さがL2である。
【0092】
たとえば、横の長さ:縦の長さ=16:9の画面の場合、上方向の領域G12cおよび下方向の領域G12gの角度θ1が、約41.6度であり、右方向の領域G12aおよび左方向の領域G12eの角度θ2が31.4度であり、右上方向の領域G12b、左上方向の領域G12d、右下方向の領域G12hおよび左下方向の領域G12fの角度が、約32.7度である。
【0093】
また、画像処理装置8bは、外縁近傍エリアG11の8分割された各領域内の予め決められた位置に標識MK1を表示するように構成されている。
【0094】
また、
図14に示すように、画像処理装置8bは、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示する。つまり、画像処理装置8bは、カメラペダル22cに対してカメラ移動操作が行われている間、グラフィカルユーザインタフェースGの水準器エリアG5に内視鏡6の水準器を表示する。そして、画像処理装置8bは、標識MK1を水準器エリアG5外の外縁近傍エリアG11に表示するためのグラフィカルユーザインタフェースGをモニタ24に表示する。水準器LVは、患者Pに対する内視鏡6の視野の傾きを表している。
【0095】
また、
図14に示すように、水準器エリアG5は、上辺部G5a、左辺部G5b、右辺部G5cおよび下辺部G5dを含む矩形領域(横方向に長い長方形形状)である。このように画面grの中央部を含む所定の大きさの水準器エリアG5の外縁近傍エリアG11に標識MK1を表示することにより操作者の視認性を向上させることができる。上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/10(L11)の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に配置されている。好ましくは、上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/8の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/8の長さ下方の位置との間に配置され、より好ましくは、上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/6の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/6の長さ下方の位置との間に配置される。
【0096】
また、上辺部G5aは、医療用マニピュレータ1の内蔵バッテリの残量などが表示されるステータスエリアG10の下方に配置されている。
【0097】
また、左辺部G5bは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/10(L12)の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/10(L12)の長さ右側の位置との間に配置される。好ましくは、左辺部G5bは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/8の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/8の長さ右側の位置との間に配置され、より好ましくは、左辺部G5bは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/6の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/6の長さ右側の位置との間に配置される。
【0098】
また、右辺部G5cは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/10(L12)の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/10(L12)の長さ左側の位置との間に配置される。好ましくは、右辺部G5cは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/8の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/8の長さ左側の位置との間に配置され、より好ましくは、右辺部G5cは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/6の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/6の長さ左側の位置との間に配置される。
【0099】
また、下辺部G5dは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/10(L11)の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/10(L11)の長さ上方の位置との間に配置されている。好ましくは、下辺部G5dは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/8の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/8の長さ上方の位置との間に配置され、より好ましくは、下辺部G5dは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/6の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/6の長さ上方の位置との間に配置される。
【0100】
水準器エリアG5の下辺部G5dは、ハンドエリアG3a、ハンドエリアG3b、ハンドエリアG3c、および、カメラエリアG2よりも上方に配置されている。さらに、水準器エリアG5の下辺部G5dは、医療器具状態情報エリアG4よりも上方に配置されている。
【0101】
なお、モニタ24の画面grの中央部CN1と、水準器エリアG5の中央CN2とは、略同じ位置である。
【0102】
また、視野外に位置している医療器具4を示す標識MK1は、水準器エリアG5と、医療器具状態情報エリアG4、左ポップアップエリアG6、右ポップアップエリアG7およびステータスエリアG10のうちの少なくとも1つ(第1実施形態では全て)と、の間に配置されている。なお、医療器具状態情報エリアG4は、医療器具4の状態を示す。左ポップアップエリアG6は、フットペダル22が操作されたとき(フットペダル22に足が置かれているホバー状態のときに)に表示される。右ポップアップエリアG7は、凝固ペダル22eRと切開ペダル22dRとが操作されたとき(操作者の足が置かれているとき)に表示される。ステータスエリアG10は、外科手術システム100の状態を示す。
【0103】
また、第1実施形態では、
図13に示すように、標識MK1は、視野外に位置している医療器具4を支持するアーム60を特定する番号を含む。
図13に示す例では、アーム60b(ハンドエリアG3の番号「3」)に支持される医療器具4が内視鏡6の視野外に位置していることを示す「3」の番号がMK1として表示されている。
【0104】
また、
図21および
図22に示すように、標識MK1は、視野外に位置している医療器具4が、操作対象である場合と操作対象でない場合とで異なる態様で表示される。具体的には、
図21に示すように、医療器具4が操作対象である場合、黒の四角の中に、白抜きの長円が示され、かつ、白抜きの長円の中にアーム60の番号(1~4のいずれか)が表示される。また、
図22に示すように、医療器具4が操作対象でない場合、黒の四角の中に、灰色のアーム60の番号(1~4のいずれか)が表示される。
【0105】
また、
図20に示すように、アーム60aに取り付けられた医療器具4、アーム60bに取り付けられた医療器具4、および、アーム60dに取り付けられた医療器具4のうちの複数が内視鏡6の視野外に位置している場合、アーム60a、アーム60b、および、アーム60dの配置位置の順に対応するように、内視鏡6の視野外に位置している医療器具4に対応する複数の標識MK1が表示される。アーム60a、アーム60b、および、アーム60dの配置位置の順とは、アームベース50に取り付けられている状態における、アーム60a、アーム60b、および、アーム60dの配置位置の順を意味する。
【0106】
また、
図20に示すように、アーム60aに取り付けられた医療器具4、アーム60bに取り付けられた医療器具4、および、アーム60dに取り付けられた医療器具4の全て(3つ)が内視鏡6の視野外に位置している場合、アーム60a、アーム60b、および、アーム60dの順に、アーム60aを表す標識MK1(「4」)、アーム60bを表す標識MK1(「3」)、および、アーム60dを表す標識MK1(「1」)が表示される。すなわち、ハンドエリアG3の並び順に、標識MK1(「4」、「3」、および、「1」)が表示される。
【0107】
また、
図23に示すように、アーム60aに取り付けられた医療器具4、アーム60bに取り付けられた医療器具4、および、アーム60dに取り付けられた医療器具4のうちの1つまたは2つが内視鏡6の視野外に位置している場合、内視鏡6の視野外に位置している医療器具4に対応する標識MK1は、モニタ24の画面grの中央側に寄せて配置される。つまり、アーム60aに取り付けられた医療器具4のみが視野の左側の外に位置している場合、アーム60aに取り付けられた医療器具4を示す標識MK1(「4」)は、3つの標識MK1(「4」、「3」および「1」)全てが表示される場合(
図20参照)の標識MK1(「4」)の位置よりも、画面grの中央側に寄せて配置される。
【0108】
同様に、アーム60aに取り付けられた医療器具4のみが視野の下側の外に位置している場合、アーム60aに取り付けられた医療器具4を示す標識MK1(「4」)は、3つの標識MK1(「4」、「3」および「1」)全てが表示される場合(
図20参照)の標識MK1(「4」)の位置よりも、画面grの中央側に寄せて配置される。アーム60aに取り付けられた医療器具4のみが視野の上側(斜め左上側、斜め左下側)の外に位置している場合も同様である。
【0109】
同様に、アーム60dに取り付けられた医療器具4のみが視野の右側の外に位置している場合、アーム60dに取り付けられた医療器具4を示す標識MK1(「1」)は、3つの標識MK1(「4」、「3」および「1」)全てが表示される場合(
図20参照)の標識MK1(「1」)の位置よりも、画面grの中央側に寄せて配置される。アーム60dに取り付けられた医療器具4のみが視野の斜め右上側および斜め右下側の外に位置している場合も同様である。
【0110】
(表示方法)
次に、
図24を参照して、外科手術システム100におけるモニタ24へのグラフィカルユーザインタフェースGの表示方法について説明する。なお、グラフィカルユーザインタフェースGの生成は、画像処理装置8bによって行われる。
【0111】
まず、ステップS1において、画像処理装置8bは、手術部位の画像を撮像するための内視鏡6によって撮像された内視鏡画像を取得する。
【0112】
次に、ステップS2において、画像処理装置8bは、カメラペダル22cまたはイネーブルスイッチ81による入力が行われたか否かを判定する。ステップS2においてyesの場合、ステップS3に進む。ステップS2においてnoの場合、ステップS1に戻る。
【0113】
次に、ステップS3において、画像処理装置8bは、アーム60aに支持される医療器具4、アーム60bに支持される医療器具4、および、アーム60dに支持される医療器具4の少なくとも何れかが内視鏡6の視野外に位置しているか否かを判定する。ステップS3においてyesの場合(つまり、内視鏡6の移動を可能にする指令を受けた場合で、且つ、アーム60に支持される医療器具4が内視鏡6の視野外に位置している場合)、ステップS4に進む。ステップS4においてnoの場合、ステップS1に戻る。
【0114】
次に、ステップS4において、画像処理装置8bは、視野外に位置している医療器具4を示す標識MK1をモニタ24の画面grの端部e近傍を含まずに中央部CN1を含む水準器エリアG5の外縁近傍エリアG11に表示するためのグラフィカルユーザインタフェースGを、内視鏡6によって撮像された内視鏡画像上に重ねてモニタ24に表示する。
【0115】
上記のステップS1~S4の動作は、外科手術システム100の動作中、常に行われる。
【0116】
[第1実施形態の効果]
第1実施形態では、以下のような効果を得ることができる。
【0117】
第1実施形態では、上記のように、画像処理装置8bは、視野外に位置している医療器具4を示す標識MK1をグラフィカルユーザインタフェースGの表示部の画面の縁近傍を含まない内側に設定された外縁近傍エリアG11に表示するように構成されている。これにより、視野外に位置している医療器具4を示す標識MK1が、表示部の画面において端部近傍よりも比較的中央側に表示される。その結果、操作者は、視線を大きく動かすことなく、視野外に位置する医療器具4を示す標識MK1を容易に視認することができる。また、画像処理装置8bは、縦の長さと横の長さとが等しくない矩形形状の表示部の形状に応じて視野外の領域を8分割したうちの視野外の医療器具4が位置する領域に対応する方向を示す標識MK1を表示するように構成されている。これにより、縦の長さと横の長さとが等しくない矩形形状の表示部において、表示部の矩形形状の形状に応じて、長い辺(上の辺および下の辺)の外側の視野外の領域を、短い辺(右の辺および左の辺)の外側の視野外の領域よりも大きくすることができる。これにより、視野外の領域を等角度間隔(45度間隔)に8分割する場合と比べて、表示部の長い辺(上の辺および下の辺)の角に近い位置の外側の領域に視野外の手術器具が位置する場合に、斜め上方向の領域または斜め下方向の領域に位置しているとされるのを抑制することができるので、操作者が視野外の領域にある医療器具4の位置の方向を正確に認識しやすくすることができる。
【0118】
また、第1実施形態では、上記のように、表示部は、横の長さが縦の長さよりも大きく、表示部の形状に応じて視野外の領域を8分割した領域は、上方向および下方向の領域の角度が、右方向、左方向、右上方向、左上方向、右下方向および左下方向の領域の角度よりも大きくなるように分割されている。これにより、上辺および下辺が右辺および左辺よりも長い横長の表示部において、上方向および下方向の領域を大きくすることができるので、上辺の上側の視野外の領域の大部分を上方向の領域とし、下辺の下側の視野外の領域の大部分を下方の領域にすることができる。これにより、表示部の形状に対する上方または下方と作業者が認識する方向と、上方または下方の視野外の領域にある医療器具4の方向とがずれるのを抑制することができる。
【0119】
また、第1実施形態では、上記のように、外縁近傍エリアG11の外縁のアスペクト比は、表示部と同じアスペクト比である。これにより、外縁近傍エリアG11における縦横の長さに対する方向と表示部における縦横の長さに対する方向とを等しくすることができるので、視野外の領域にある医療器具4の作業者が認識する方向が、標識MK1の方向とずれるのを抑制することができる。
【0120】
また、第1実施形態では、上記のように、表示部は、横の長さが縦の長さよりも大きく、画像処理装置8bは、視野外の領域を8分割した線により表示部の上辺、下辺、右辺および左辺を分割した各領域における線分の長さが、右方向、左方向、右上方向、左上方向、右下方向および左下方向の領域の線分の長さよりも、上方向および下方向の領域の線分の長さが大きくなるように、視野外の領域を8分割するように構成されている。これにより、上辺および下辺が右辺および左辺よりも長い横長の表示部において、上方向および下方向の領域を大きくすることができるので、上辺の上側の視野外の領域の大部分を上方向の領域とし、下辺の下側の視野外の領域の大部分を下方の領域にすることができる。これにより、表示部の形状に対する上方または下方と作業者が認識する方向と、上方または下方の視野外の領域にある医療器具4の方向とがずれるのを抑制することができる。
【0121】
また、第1実施形態では、上記のように、画像処理装置8bは、表示部の上辺の左から1/4の点と下辺の右から1/4の点とを結ぶ直線と、上辺の右から1/4の点と下辺の左から1/4の点とを結ぶ直線と、表示部の左辺の上から1/4の点と右辺の下から1/4の点とを結ぶ直線と、左辺の下から1/4の点と右辺の上から1/4の点とを結ぶ直線とにより、視野外の領域を8分割するように構成されている。これにより、視野外の領域を表示部の形状に合わせて容易に8分割することができる。
【0122】
また、第1実施形態では、上記のように、画像処理装置8bは、外縁近傍エリアG11の8分割された各領域内の予め決められた位置に標識MK1を表示するように構成されている。これにより、8分割の領域に合わせて8つの位置のいずれかに標識MK1を表示することができるので、視野外の領域にある医療器具4の方向に合わせて標識MK1の位置を連続的に変えて表示する場合に比べて、画像処理装置8bの処理負担を軽減させることができる。
【0123】
また、第1実施形態では、上記のように、外縁近傍エリアG11は、グラフィカルユーザインタフェースGの水準器エリアG5の外縁近傍領域であり、水準器エリアG5は、上辺部G5a、左辺部G5b、右辺部G5cおよび下辺部G5dを含む矩形領域であり、上辺部G5aは、画面grの中央部から画面grの縦方向の長さの1/10の長さ上方の位置と、画面grの上方の端部から画面grの縦方向の長さの1/10の長さ下方の位置との間に配置され、左辺部G5bは、画面grの中央部から画面grの横方向の長さの1/10の長さ左側の位置と、画面grの左側の端部から画面grの横方向の長さの1/10の長さ右側の位置との間に配置され、右辺部G5cは、画面grの中央部から画面grの横方向の長さの1/10の長さ右側の位置と、画面grの右側の端部から画面grの横方向の長さの1/10の長さ左側の位置との間に配置され、下辺部G5dは、画面grの中央部から画面grの縦方向の長さの1/10の長さ下方の位置と、画面grの下方の端部から画面grの縦方向の長さの1/10の長さ上方の位置との間に配置される。これにより、水準器エリアG5の外縁近傍エリアG11に表示される標識MK1が画面grの端部eよりも中央側に寄せて表示されるので、標識MK1が画面grの端部eに配置される場合と異なり、標識MK1の視認性を向上させることができる。
【0124】
また、第1実施形態では、上記のように、遠隔操作装置2は、2つの操作ハンドル21に内視鏡6の移動を実行させるためのカメラペダル22cを含み、画像処理装置8bは、カメラペダル22cが操作されている間、水準器エリアG5に内視鏡6の水準器LVを表示するように構成されている。これにより、内視鏡6を移動させる際に内視鏡6の水準器LVが表示されるので、操作者が水準器LVを視認しながら内視鏡6の移動を容易に行うことができる。
【0125】
また、第1実施形態では、上記のように、標識MK1は、視野外に位置している医療器具4を支持するアーム60を特定する番号を含む。これにより、操作者は、視野外に位置している医療器具4を、容易に特定して認識することができる。
【0126】
また、第1実施形態では、上記のように、標識MK1は、表示される状態と、表示されない状態とを切り替え可能に構成されている。これにより、操作者が視野外の領域にある医療器具4の方向を確認したい場合に標識を表示させることができる。また、操作者が視野外の領域にある医療器具4の方向の確認が不要な場合には標識を表示させないようにすることができるので、内視鏡画像を視認する操作者に標識が邪魔になるのを抑制することができる。
【0127】
また、第1実施形態では、上記のように、画像処理装置8bは、カメラペダル22cまたはイネーブルスイッチ81による入力に応答して、標識MK1を外縁近傍エリアG11に表示するように構成されている。これにより、カメラペダル22cまたはイネーブルスイッチ81に入力を行わない場合には、標識を表示しないようにすることができるので、操作者が見やすい位置に不要な標識MK1が表示されるのを抑制することができる。
【0128】
[第2実施形態]
図25~
図27を参照して、第2実施形態による外科手術システム200の構成について説明する。
【0129】
第2実施形態では、
図25および
図26に示すように、標識MK2は、視野外に位置している医療器具4が存在している方向を示す矢印MK2aを含む。具体的には、矢印MK2aの外側の近傍に視野外に位置している医療器具4を特定するための番号(たとえば、「4」)が表示される。なお、番号は、
図27に示す標識MK3のように、矢印MK2aの内側に表示されてもよい。また、矢印MK2aの内部は、画像が透けて視認可能なように、透明または半透明で表示される。また、操作対象となる医療器具4に対して、標識MK2の番号は、白色の円の中に黒色のアーム60の番号(「4」参照)が示される。また、操作対象とならない医療器具4に対して、標識MK2の番号は、黒色の円の中に灰色のアーム60の番号(「3」参照)が示される。なお、矢印MK2aは、平面的に示されている。
【0130】
[第2実施形態の効果]
第2実施形態では、以下のような効果を得ることができる。
【0131】
第2実施形態では、上記のように、標識MK2は、視野外に位置している医療器具4が存在している方向を示す矢印MK2aを含む。これにより、操作者は、視野外に位置している医療器具4の存在している方向を、直観的に認識することができる。
【0132】
[変形例]
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内でのすべての変更(変形例)が含まれる。
【0133】
たとえば、上記第1および第2実施形態では、画像処理装置8bが内視鏡6からの画像を取り込むとともにグラフィカルユーザインタフェースGを生成する例を示したが、本発明はこれに限られない。たとえば、医療用マニピュレータ1の制御部31が、グラフィカルユーザインタフェースGを生成してもよいし、遠隔操作装置2の制御部(図示せず)が、グラフィカルユーザインタフェースGを生成してもよい。また、内視鏡6からの画像を取り込んで画像処理を行う画像処理装置と、グラフィカルユーザインタフェースGを生成し、内視鏡6の画像上に重ねる画像処理装置とが別個に設けられていてもよい。
【0134】
また、上記第1および第2実施形態では、画像処理装置8bがカメラペダル22cまたはイネーブルスイッチ81による入力が行われたか否かを判定する例を示したが、本発明はこれに限られない。たとえば、制御部31が、カメラペダル22cまたはイネーブルスイッチ81による入力が行われたか否かを判定し、判定結果を画像処理装置8bに送信するようにしてもよい。
【0135】
また、上記第1および第2実施形態では、画像処理装置8bがアーム60aに支持される医療器具4、アーム60bに支持される医療器具4、および、アーム60dに支持される医療器具4の少なくとも何れかが内視鏡6の視野外に位置しているか否かを判定する例を示したが、本発明はこれに限られない。たとえば、制御部31が、医療器具が内視鏡の視野外に位置しているか否かの判定を行い、判定結果を画像処理装置8bに送信するようにしてもよい。
【0136】
また、上記第1および第2実施形態では、標識MK1が、水準器エリアG5の中央CN2に対して、視野外の医療器具4が位置する方向に対応するエリアG12に表示される例を示したが、本発明はこれに限られない。たとえば、標識MK1が、水準器エリアG5の外縁近傍エリアG11の固定された位置に表示されてもよい。
【0137】
また、上記第1および第2実施形態では、標識MK1が表示されるエリアG12が、外縁近傍エリアG11を水準器エリアG5の中央CN2から放射状に8個に分割したエリアG12のうちの1つのエリアG12である例を示したが、本発明はこれに限られない。たとえば、分割されるエリアG12の数は、8個以外の数でもよい。
【0138】
また、上記第1および第2実施形態では、カメラペダル22cが操作される入力に応答して、標識MK1をグラフィカルユーザインタフェースGに表示する例を示したが、本発明はこれに限られない。たとえば、カメラペダル22cが所定時間以内に2回以上連続操作される入力に応答して、標識MK1をグラフィカルユーザインタフェースGに表示してもよい。
【0139】
また、上記第1および第2実施形態では、複数のアーム60にイネーブルスイッチ81、ジョイスティック82およびスイッチ部83が設けられている構成の例を示したが、本発明はこれに限られない。たとえば、複数のアーム60のうち少なくとも1つにイネーブルスイッチ81、ジョイスティック82およびスイッチ部83が設けられていてもよい。
【0140】
また、上記第1および第2実施形態では、アーム60のイネーブルスイッチ81が操作されることに応答して、標識MK1をグラフィカルユーザインタフェースGに表示する例を示したが、本発明はこれに限られない。たとえば、アーム60の他のスイッチ(ジョイスティック82およびスイッチ部83)が操作されることに応答して、標識MK1をグラフィカルユーザインタフェースGに表示してもよい。
【0141】
また、上記第1および第2実施形態では、カメラペダル22cまたはイネーブルスイッチ81によって入力が行われた場合にのみ、標識MK1をグラフィカルユーザインタフェースGに表示する例を示したが、本発明はこれに限られない。たとえば、他の入力装置によって入力が行われた場合にも、標識MK1をグラフィカルユーザインタフェースGに表示してもよい。
【0142】
また、上記第1および第2実施形態では、標識MK1が、水準器エリアG5の外側に表示される例を示したが、本発明はこれに限られない。たとえば、標識MK1が、水準器エリアG5の内側に表示されてもよい。
【0143】
また、上記第1および第2実施形態では、水準器エリアG5が矩形領域である例を示したが、本発明はこれに限られない。たとえば、水準器エリアG5が、矩形以外の形状の領域(長円形状など)であってもよい。
【0144】
また、上記第1および第2実施形態では、カメラエリアG2と、ハンドエリアG3(ハンドエリアG3a、ハンドエリアG3bおよびハンドエリアG3c)とがモニタ24の画面grの下方の端部ed近傍の領域に表示される例を示したが、本発明はこれに限られない。たとえば、カメラエリアG2と、ハンドエリアG3(ハンドエリアG3a、ハンドエリアG3bおよびハンドエリアG3c)とがモニタ24の画面grの上方の端部eu近傍の領域に表示されてもよい。具体的には、カメラエリアG2およびハンドエリアG3は、画面grの上方の端部euと、上方の端部euから画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に表示すればよい。
【0145】
また、上記第1および第2実施形態では、複数の医療器具4が、内視鏡6の視野外に位置している場合、複数の医療器具4が各々支持されるアーム60の配置位置の順に複数の標識MK1が表示される例を示したが、本発明はこれに限られない。たとえば、複数の医療器具4が各々支持されるアーム60の配置位置の順と、複数の標識MK1が表示される順とが異なっていてもよい。
【0146】
また、上記第1および第2実施形態では、1つまたは2つの医療器具4が、内視鏡6の視野外に位置している場合、標識MK1が画面grの中央側に寄せて配置される例を示したが、本発明はこれに限られない。たとえば、複数の医療器具4の各々に対応する標識MK1が配置される位置が固定されていてもよい。
【0147】
また、上記第1および第2実施形態では、医療器具4が操作対象である場合と操作対象でない場合とで、標識MK1の表示の態様が異なる例を示したが、本発明はこれに限られない。たとえば、医療器具4が操作対象である場合と操作対象でない場合とで、標識MK1の表示の態様が同じであってもよい。
【0148】
また、上記第1および第2実施形態では、アーム60が4つ設けられている例を示したが、本発明はこれに限られない。本発明では、アーム60の数は、少なくとも1つ以上設けられていれば他の任意の数であってもよい。
【0149】
また、上記第1および第2実施形態では、アーム部61およびポジショナ40が7軸多関節ロボットから構成されている例を示したが、本発明はこれに限られない。たとえば、アーム部61およびポジショナ40が7軸多関節ロボット以外の軸構成(例えば、6軸や8軸)の多関節ロボットなどから構成されていてもよい。
【0150】
また、上記第1および第2実施形態では、医療用マニピュレータ1が、医療用台車3と、ポジショナ40と、アームベース50とを備えている例を示したが、本発明はこれに限らない。たとえば、医療用台車3と、ポジショナ40と、アームベース50は必ずしも必要なく、医療用マニピュレータ1が、アーム60だけで構成されてもよい。
【0151】
また、上記第1実施形態では、黒の四角の中にアーム60の番号(1~4のいずれか)が表示される例を示したが、本発明はこれに限らない。たとえば、
図28の標識MK4に示すように、黒の四角の外縁e1が他の色(赤など)で囲われていてもよい。また、
図29(a)の標識MK5に示すように、黒の四角が表示されずに、白抜きの長円の中にアーム60の番号のみが表示されるか(操作対象の場合)、または、
図29(b)の標識MK5に示すように、灰色のアーム60の番号のみが表示されてもよい(操作対象でない場合)。
【0152】
また、上記第2実施形態では、矢印MK2aが平面的に示されている例を示したが、本発明はこれに限らない。たとえば、矢印MK2aを立体的(3次元的)に示してもよい。これにより、内視鏡6の視野外に位置する医療器具4が、操作者に対して近い側に位置している場合と、操作者に対して遠い側に位置している場合とを区別する(操作者が認識する)ことができる。
【0153】
また、上記第1および第2実施形態では、本発明のセンターエリアとして水準器LVが表示される水準器エリアG5が適用される例を示したが、本発明はこれに限らない。本発明では、本発明のセンターエリアとして水準器LVが表示される水準器エリアG5以外のエリアを適用してもよい。
【0154】
本明細書で開示する要素の機能は、開示された機能を実行するよう構成またはプログラムされた汎用プロセッサ、専用プロセッサ、集積回路、ASIC(Application Specific Integrated Circuits)、従来の回路、および/または、それらの組み合わせ、を含む回路または処理回路を使用して実行できる。プロセッサは、トランジスタやその他の回路を含むため、処理回路または回路と見なされる。本開示において、回路、ユニット、または手段は、列挙された機能を実行するハードウェアであるか、または、列挙された機能を実行するようにプログラムされたハードウェアである。ハードウェアは、本明細書に開示されているハードウェアであってもよいし、あるいは、列挙された機能を実行するようにプログラムまたは構成されているその他の既知のハードウェアであってもよい。ハードウェアが回路の一種と考えられるプロセッサである場合、回路、手段、またはユニットはハードウェアとソフトウェアの組み合わせであり、ソフトウェアはハードウェアおよび/またはプロセッサの構成に使用される。
【符号の説明】
【0155】
2 遠隔操作装置
4 医療器具(手術器具)
6 内視鏡
8a 表示部(表示装置)
8b 画像処理装置(制御装置)
21、21L、21R 操作ハンドル
22c カメラペダル(入力装置)
24 モニタ(表示装置)
60 アーム(マニピュレータ)
81 イネーブルスイッチ(入力装置)
100 外科手術システム(手術システム)
G グラフィカルユーザインタフェース
G5 水準器エリア(センターエリア)
G5a 上辺部
G5b 左辺部
G5c 右辺部
G5d 下辺部
G11 外縁近傍エリア(標識表示領域、外縁近傍領域)
LV 水準器
MK1、MK2、MK3、MK4 MK5 標識