(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-13
(45)【発行日】2024-12-23
(54)【発明の名称】手術システムおよび表示方法
(51)【国際特許分類】
A61B 34/35 20160101AFI20241216BHJP
A61B 17/28 20060101ALI20241216BHJP
A61B 34/20 20160101ALI20241216BHJP
【FI】
A61B34/35
A61B17/28
A61B34/20
(21)【出願番号】P 2021011781
(22)【出願日】2021-01-28
【審査請求日】2023-12-26
(73)【特許権者】
【識別番号】514063179
【氏名又は名称】株式会社メディカロイド
(73)【特許権者】
【識別番号】000000974
【氏名又は名称】川崎重工業株式会社
(74)【代理人】
【識別番号】100104433
【氏名又は名称】宮園 博一
(74)【代理人】
【識別番号】100202728
【氏名又は名称】三森 智裕
(72)【発明者】
【氏名】川端 英雄
(72)【発明者】
【氏名】森本 高貴
【審査官】宮崎 敏長
(56)【参考文献】
【文献】特表2009-542362(JP,A)
【文献】特表2018-508301(JP,A)
【文献】特開2020-048708(JP,A)
【文献】米国特許出願公開第2018/0296280(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 17/28
A61B 34/20
A61B 34/30 - A61B 34/37
(57)【特許請求の範囲】
【請求項1】
手術部位の画像を撮像する内視鏡、第1手術器具および第2手術器具を各々支持するための複数のマニピュレータと、
前記内視鏡によって撮像された画像を表示するための表示装置、前記第1手術器具を操作するための第1操作ハンドル、および、前記第2手術器具を操作するための第2操作ハンドルを含む遠隔操作装置と、
制御装置と、を備え、
前記制御装置は、前記内視鏡の移動を可能にする指令を受けた場合で、且つ、前記第1手術器具および前記第2手術器具の少なくとも何れかが前記内視鏡の視野外に位置している場合に、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくとも何れかを示す標識を前記表示装置の画面
のセンターエリアの外
縁エリアに表示するためのグラフィカルユーザインターフェイスを、前記内視鏡によって撮像された前記画像上に重ねて前記表示装置に表示するように構成されて
おり、
前記センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、
前記上辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ上方の位置と、前記画面の上方の端部から前記画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、
前記左辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ左側の位置と、前記画面の左側の端部から前記画面の横方向の長さの1/10の長さ右側の位置との間に配置され、
前記右辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ右側の位置と、前記画面の右側の端部から前記画面の横方向の長さの1/10の長さ左側の位置との間に配置され、
前記下辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ下方の位置と、前記画面の下方の端部から前記画面の縦方向の長さの1/10の長さ上方の位置との間に配置される、手術システム。
【請求項2】
前記グラフィカルユーザインターフェイスは、前記センターエリアの前記外
縁エリアで、且つ、前記センターエリアの中央部に対して、視野外の前記第1手術器具および前記第2手術器具の少なくとも何れかが位置する方向に対応するエリアに、前記標識を配置して表示するように構成されている、請求項1に記載の手術システム。
【請求項3】
視野外の前記第1手術器具および前記第2手術器具の少なくとも何れかを表示する前記標識が表示されるエリアは、前記外
縁エリアを前記センターエリアの中央部から放射状に複数に分割したエリアのうちの1つのエリアである、請求項2に記載の手術システム。
【請求項4】
前記制御装置は、前記内視鏡の移動を可能にする指令を受けた場合に、前記センターエリアに前記内視鏡の水準器を表示するとともに、前記標識を前記水準器の外側に表示する前記グラフィカルユーザインターフェイスを前記表示装置に表示する、請求項1~3のいずれか1項に記載の手術システム。
【請求項5】
前記遠隔操作装置は、操作ペダルを備え、
前記グラフィカルユーザインターフェイスは、手術器具の状態情報を示す手術器具状態情報エリアと、前記操作ペダルが操作されたときに表示される操作ペダルエリアと、前記手術システムの状態を示す手術システムエリアとのうちの少なくとも1つをさらに含み、
前記標識は、前記センターエリアと、前記手術器具状態情報エリア、前記操作ペダルエリアおよび前記手術システムエリアのうちの少なくとも1つと、の間に配置されている、請求項1~4のいずれか1項に記載の手術システム。
【請求項6】
前記上辺部は、前記画面の中央部から前記画面の縦方向の長さの1/8の長さ上方の位置と、前記画面の上方の端部から前記画面の縦方向の長さの1/8の長さ下方の位置との間に配置され、
前記左辺部は、前記画面の中央部から前記画面の横方向の長さの1/8の長さ左側の位置と、前記画面の左側の端部から前記画面の横方向の長さの1/8の長さ右側の位置との間に配置され、
前記右辺部は、前記画面の中央部から前記画面の横方向の長さの1/8の長さ右側の位置と、前記画面の右側の端部から前記画面の横方向の長さの1/8の長さ左側の位置に配置され、
前記下辺部は、前記画面の中央部から前記画面の縦方向の長さの1/8の長さ下方の位置と、前記画面の下方の端部から前記画面の縦方向の長さの1/8の長さ上方の位置との間に配置される、請求項
1~5のいずれか1項に記載の手術システム。
【請求項7】
前記複数のマニピュレータは、交換用手術器具を支持するための前記マニピュレータを含み、
前記グラフィカルユーザインターフェイスは、前記第1手術器具に関する情報を示す第1エリアと、前記交換用手術器具に関する情報を表示する第2エリアと、前記第2手術器具に関する情報を示す第3エリアと、前記内視鏡に関する情報を示す第4エリアと、を前記画面の下方または上方の端
部領域に配置して表示する、請求項1~
6のいずれか1項に記載の手術システム。
【請求項8】
前記第1エリア、前記第2エリア、前記第3エリアおよび前記第4エリアは、前記画面の下方の端
部領域に配置して表示され
、
前記下辺部は、前記第1エリア、前記第2エリア、前記第3エリアおよび前記第4エリアよりも上方に配置されている、請求項
7に記載の手術システム。
【請求項9】
前記第1手術器具、前記交換用手術器具および前記第2手術器具のうちの複数が前記内視鏡の視野外に位置している場合、前記第1手術器具、前記交換用手術器具および前記第2手術器具の各々が設けられる前記マニピュレータの配置位置の順に対応するように、前記内視鏡の視野外に位置している手術器具に対応する複数の前記標識が表示される、請求項
7または
8に記載の手術システム。
【請求項10】
前記標識は、表示される状態と、表示されない状態とを切り替え可能に構成されている、請求項1~
9のいずれか1項に記載の手術システム。
【請求項11】
前記遠隔操作装置は、前記内視鏡を移動させるための指令を入力する入力部を備え、
前記内視鏡の移動を可能にする指令が前記入力部により入力された場合、前記内視鏡は、前記第1操作ハンドルおよび前記第2操作ハンドルの両方を操作することによって移動するように構成されている、請求項1~1
0のいずれか1項に記載の手術システム。
【請求項12】
前記標識は、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくとも何れかが、操作対象である場合と前記操作対象でない場合とで異なる態様で表示される、請求項1~1
1のいずれか1項に記載の手術システム。
【請求項13】
前記標識は、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくとも何れかを支持する前記マニピュレータを特定する番号を含む、請求項1~1
2のいずれか1項に記載の手術システム。
【請求項14】
前記標識は、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくとも何れかが存在している方向を示す矢印をさらに含む、請求項1~1
3のいずれか1項に記載の手術システム。
【請求項15】
第1手術器具を支持するための第1マニピュレータと、
第2手術器具を支持するための第2マニピュレータと、
手術部位の画像を撮像する内視鏡を支持するための第3マニピュレータと、
前記内視鏡によって撮像された画像を表示するための表示装置、前記第1手術器具を操作するための第1操作ハンドル、前記第2手術器具を操作するための第2操作ハンドル、および前記内視鏡の移動を前記第1操作ハンドルおよび前記第2操作ハンドルの操作によって実行させるための内視鏡ペダルを含む操作ペダルを備えた遠隔操作装置と、
制御装置と、を備え、
前記制御装置は、前記内視鏡ペダルが操作された場合で、且つ、前記第1手術器具および前記第2手術器具の少なくとも何れかが前記内視鏡の視野外に位置している場合に、視野外に位置している前記第1手術器具および前記第2手術器具の少なくとも何れかを示す標識を前記表示装置の画面
のセンターエリアの外
縁エリアに表示するためのグラフィカルユーザインターフェイスを、前記内視鏡によって撮像された前記画像上に重ねて前記表示装置に表示するように構成されて
おり、
前記センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、
前記上辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ上方の位置と、前記画面の上方の端部から前記画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、
前記左辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ左側の位置と、前記画面の左側の端部から前記画面の横方向の長さの1/10の長さ右側の位置との間に配置され、
前記右辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ右側の位置と、前記画面の右側の端部から前記画面の横方向の長さの1/10の長さ左側の位置との間に配置され、
前記下辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ下方の位置と、前記画面の下方の端部から前記画面の縦方向の長さの1/10の長さ上方の位置との間に配置される、手術システム。
【請求項16】
手術部位の画像を取り込むための内視鏡によって取り込まれた画像を取得するステップと、
グラフィカルユーザインターフェイスを生成し、前記グラフィカルユーザインターフェイスを前記内視鏡によって取り込まれた画像上に重ねて、表示装置に表示するステップとを備え、
前記グラフィカルユーザインターフェイスを表示するステップは、前記内視鏡の移動を可能にする指令を受けた場合で、且つ、第1マニピュレータに支持される第1手術器具および第2マニピュレータに支持される第2手術器具の少なくとも何れかが前記内視鏡の視野外に位置している場合に、前記視野外に位置している前記第1手術器具および前記第2手術器具の少なくとも何れかを示す標識を前記表示装置の画面
のセンターエリアの外
縁エリアに表示するための前記グラフィカルユーザインターフェイスを、前記内視鏡によって撮像された前記画像上に重ねて前記表示装置に表示するステップを含
み、
前記センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、
前記上辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ上方の位置と、前記画面の上方の端部から前記画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、
前記左辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ左側の位置と、前記画面の左側の端部から前記画面の横方向の長さの1/10の長さ右側の位置との間に配置され、
前記右辺部は、前記画面の中央部から前記画面の横方向の長さの1/10の長さ右側の位置と、前記画面の右側の端部から前記画面の横方向の長さの1/10の長さ左側の位置との間に配置され、
前記下辺部は、前記画面の中央部から前記画面の縦方向の長さの1/10の長さ下方の位置と、前記画面の下方の端部から前記画面の縦方向の長さの1/10の長さ上方の位置との間に配置される、表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、手術システムおよび表示方法に関し、特に、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて表示装置に表示する手術システムおよび表示方法に関する。
【背景技術】
【0002】
従来、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて表示するロボット手術システムが知られている(たとえば、特許文献1参照)。
【0003】
上記特許文献1のロボット手術システムでは、内視鏡は、モニタの表示領域に表示するための手術部位の画像を撮影する。また、このロボット手術システムでは、内視鏡によって撮影された画像(視野)に対するツールの現在の位置が決定される。そして、決定されたツールの現在の位置がモニタに表示される画像(視野)の外にある場合、ツールの現在の位置が、モニタの画面の表示領域の外側にある境界領域に記号として表示される。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1に記載のようなロボット手術システムでは、手術中、操作者は、モニタの表示領域の中央近傍を集中して見ている。このため、上記特許文献1のように、視野外にあるツール(手術器具)の現在の位置を、モニタの画面の表示領域の外側にある境界領域に記号(標識)として表示しても、操作者が気づかない場合があるという問題点がある。また、操作者が気づいた場合には、視線を大きく動かす必要があるという問題点がある。
【0006】
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能な手術システムおよび表示方法を提供するものである。
【課題を解決するための手段】
【0007】
この発明の第1の局面による手術システムは、手術部位の画像を撮像する内視鏡、第1手術器具および第2手術器具を各々支持するための複数のマニピュレータと、内視鏡によって撮像された画像を表示するための表示装置、第1手術器具を操作するための第1操作ハンドル、および、第2手術器具を操作するための第2操作ハンドルを含む遠隔操作装置と、制御装置と、を備え、制御装置は、内視鏡の移動を可能にする指令を受けた場合で、且つ、第1手術器具および第2手術器具の少なくとも何れかが内視鏡の視野外に位置している場合に、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識を表示装置の画面のセンターエリアの外縁エリアに表示するためのグラフィカルユーザインターフェイスを、内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成されており、センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、上辺部は、画面の中央部から画面の縦方向の長さの1/10の長さ上方の位置と、画面の上方の端部から画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、左辺部は、画面の中央部から画面の横方向の長さの1/10の長さ左側の位置と、画面の左側の端部から画面の横方向の長さの1/10の長さ右側の位置との間に配置され、右辺部は、画面の中央部から画面の横方向の長さの1/10の長さ右側の位置と、画面の右側の端部から画面の横方向の長さの1/10の長さ左側の位置との間に配置され、下辺部は、画面の中央部から画面の縦方向の長さの1/10の長さ下方の位置と、画面の下方の端部から画面の縦方向の長さの1/10の長さ上方の位置との間に配置される。
【0008】
この発明の第1の局面による手術システムでは、上記のように、制御装置は、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識を表示装置の画面のセンターエリアの外縁エリアに表示するためのグラフィカルユーザインターフェイスを、内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成されている。これにより、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識が、表示装置の画面において端部よりも比較的中央側に表示される。その結果、操作者は、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することができる。
【0009】
この発明の第2の局面による手術システムは、第1手術器具を支持するための第1マニピュレータと、第2手術器具を支持するための第2マニピュレータと、手術部位の画像を撮像する内視鏡を支持するための第3マニピュレータと、内視鏡によって撮像された画像を表示するための表示装置、第1手術器具を操作するための第1操作ハンドル、第2手術器具を操作するための第2操作ハンドル、および内視鏡の移動を第1操作ハンドルおよび第2操作ハンドルの操作によって実行させるための内視鏡ペダルを含む操作ペダルを備えた遠隔操作装置と、制御装置と、を備え、制御装置は、内視鏡ペダルが操作された場合で、且つ、第1手術器具および第2手術器具の少なくとも何れかが内視鏡の視野外に位置している場合に、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識を表示装置の画面のセンターエリアの外縁エリアに表示するためのグラフィカルユーザインターフェイスを、内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成されており、センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、上辺部は、画面の中央部から画面の縦方向の長さの1/10の長さ上方の位置と、画面の上方の端部から画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、左辺部は、画面の中央部から画面の横方向の長さの1/10の長さ左側の位置と、画面の左側の端部から画面の横方向の長さの1/10の長さ右側の位置との間に配置され、右辺部は、画面の中央部から画面の横方向の長さの1/10の長さ右側の位置と、画面の右側の端部から画面の横方向の長さの1/10の長さ左側の位置との間に配置され、下辺部は、画面の中央部から画面の縦方向の長さの1/10の長さ下方の位置と、画面の下方の端部から画面の縦方向の長さの1/10の長さ上方の位置との間に配置される。
【0010】
この発明の第2の局面による手術システムでは、上記のように、制御装置は、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識を表示装置の画面のセンターエリアの外縁エリアに表示するためのグラフィカルユーザインターフェイスを、内視鏡によって撮像された画像上に重ねて表示装置に表示するように構成されている。これにより、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識が、表示装置の画面において端部よりも比較的中央側に表示される。その結果、操作者は、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能な手術システムを提供することができる。
【0011】
この発明の第3の局面による表示方法は、手術部位の画像を取り込むための内視鏡によって取り込まれた画像を取得するステップと、グラフィカルユーザインターフェイスを生成し、グラフィカルユーザインターフェイスを内視鏡によって取り込まれた画像上に重ねて、表示装置に表示するステップとを備え、グラフィカルユーザインターフェイスを表示するステップは、内視鏡の移動を可能にする指令を受けた場合で、且つ、第1マニピュレータに支持される第1手術器具および第2マニピュレータに支持される第2手術器具の少なくとも何れかが内視鏡の視野外に位置している場合に、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識を表示装置の画面のセンターエリアの外縁エリアに表示するためのグラフィカルユーザインターフェイスを、内視鏡によって撮像された画像上に重ねて表示装置に表示するステップを含み、センターエリアは、上辺部、左辺部、右辺部および下辺部を含む矩形領域であり、上辺部は、画面の中央部から画面の縦方向の長さの1/10の長さ上方の位置と、画面の上方の端部から画面の縦方向の長さの1/10の長さ下方の位置との間に配置され、左辺部は、画面の中央部から画面の横方向の長さの1/10の長さ左側の位置と、画面の左側の端部から画面の横方向の長さの1/10の長さ右側の位置との間に配置され、右辺部は、画面の中央部から画面の横方向の長さの1/10の長さ右側の位置と、画面の右側の端部から画面の横方向の長さの1/10の長さ左側の位置との間に配置され、下辺部は、画面の中央部から画面の縦方向の長さの1/10の長さ下方の位置と、画面の下方の端部から画面の縦方向の長さの1/10の長さ上方の位置との間に配置される。
【0012】
この発明の第3の局面による表示方法では、上記のように、グラフィカルユーザインターフェイスを表示するステップは、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識を表示装置の画面のセンターエリアの外縁エリアに表示するためのグラフィカルユーザインターフェイスを、内視鏡によって撮像された画像上に重ねて表示装置に表示するステップを含む。これにより、視野外に位置している第1手術器具および第2手術器具の少なくとも何れかを示す標識が、表示装置の画面において端部よりも比較的中央側に表示される。その結果、操作者は、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することが可能な表示方法を提供することができる。
【発明の効果】
【0013】
本発明によれば、操作者が、視線を大きく動かすことなく、視野外に位置する手術器具を示す標識を容易に視認することができる。
【図面の簡単な説明】
【0014】
【
図1】第1実施形態による外科手術システムの構成を示す図である。
【
図2】第1実施形態による医療用マニピュレータの構成を示す図である。
【
図3】第1実施形態による操作ハンドルの構成を示す図である。
【
図4】第1実施形態によるフットペダルの構成を示す図である。
【
図5】第1実施形態による医療用マニピュレータのアームの構成を示す図である。
【
図7】第1実施形態による医療用マニピュレータの操作部の構成を示す斜視図である。
【
図10】アームの並進移動を説明するための図である。
【
図11】アームの回転移動を説明するための図である。
【
図12】第1実施形態による医療用マニピュレータの制御部の構成を示すブロック図である。
【
図13】内視鏡によって取り込まれた画像、および、グラフィカルユーザインターフェイスを示す図である。
【
図14】グラフィカルユーザインターフェイスのエリアを示す図である。
【
図15】クラッチエリアの表示を説明するための図である。
【
図16】医療器具状態情報エリアの表示を説明するための図である。
【
図17】左ポップアップエリアの表示を説明するための図である。
【
図18】右ポップアップエリアの表示を説明するための図である。
【
図19】遠隔操作装置のタッチパネルの表示を説明するための図である。
【
図20】第1実施形態による標識を説明するための図である。
【
図21】第1実施形態による標識(操作対象)を説明するための図である。
【
図22】第1実施形態による標識(操作非対象)を説明するための図である。
【
図23】第1実施形態による中央側に寄せて配置される標識を説明するための図である。
【
図24】第1実施形態による表示方法を説明するためのフロー図である。
【
図25】第2実施形態による標識を説明するための図(1)である。
【
図26】第2実施形態による標識を説明するための図(2)である。
【
図27】第2実施形態による標識を説明するための図(3)である。
【
図28】第1変形例による標識を説明するための図(1)である。
【
図29】第1変形例による標識を説明するための図(2)である。
【
図30】第2変形例による標識を説明するための図(1)である。
【
図31】第2変形例による標識を説明するための図(2)である。
【
図32】第3変形例による標識を説明するための図である。
【
図33】第4変形例による標識を説明するための図である。
【発明を実施するための形態】
【0015】
以下、本発明を具体化した実施形態を図面に基づいて説明する。
【0016】
[第1実施形態]
図1~
図24を参照して、第1実施形態による外科手術システム100の構成について説明する。外科手術システム100は、患者P側装置である医療用マニピュレータ1と、医療用マニピュレータ1を操作するための操作者側装置である遠隔操作装置2とを備えている。医療用マニピュレータ1は医療用台車3を備えており、移動可能に構成されている。遠隔操作装置2は、医療用マニピュレータ1から離間した位置に配置されており、医療用マニピュレータ1は、遠隔操作装置2により遠隔操作されるように構成されている。操作者(医師など)は、医療用マニピュレータ1に所望の動作を行わせるための指令を遠隔操作装置2に入力する。遠隔操作装置2は、入力された指令を医療用マニピュレータ1に送信する。医療用マニピュレータ1は、受信した指令に基づいて動作する。また、医療用マニピュレータ1は、滅菌された滅菌野である手術室内に配置されている。なお、外科手術システム100は、特許請求の範囲の「手術システム」の一例である。
【0017】
遠隔操作装置2は、たとえば、手術室の中または手術室の外に配置されている。遠隔操作装置2は、操作ハンドル21と、フットペダル22と、タッチパネル23と、モニタ24と、支持アーム25と、支持バー26とを含む。操作ハンドル21は、操作者(医師など)が指令を入力するための操作用のハンドルを構成する。なお、モニタ24は、特許請求の範囲の「表示装置」の一例である。
【0018】
操作ハンドル21は、医療器具4を操作するように構成されている。また、操作ハンドル21は、医療器具4に対する操作量を受け付ける。操作ハンドル21は、操作者(医師など)から見て、左側に配置され、操作者の左手により操作される操作ハンドル21Lと、右側に配置され、操作者の右手により操作される操作ハンドル21Rと、を含んでいる。なお、操作ハンドル21Lおよび操作ハンドル21Rは、それぞれ、特許請求の範囲の「第1操作ハンドル」および「第2操作ハンドル」の一例である。
【0019】
また、
図3に示すように、操作ハンドル21は、リンク部21a、リンク部21b、リンク部21c、操作者(医師など)が操作するリンク部21dとを含む。リンク部21aは、A4軸周りに回動する。リンク部21aがA4軸周りに回動されることにより、後述するアーム部61がJT4軸周りに回動する。リンク部21bは、リンク部21aに対して、A5軸周りに回動する。リンク部21bがA5軸周りに回動されることにより、後述するアーム部61がJT5軸周りに回動する。リンク部21cは、リンク部21bに対して、A6軸周りに回動する。リンク部21cがA6軸周りに回動されることにより、アーム部61がJT6軸周りに回動する。リンク部21dは、リンク部21cに対して、A7軸周りに回動する。リンク部21dがA7軸周りに回動されることにより、アーム部61がJT7軸周りに回動する。なお、医療器具4は、特許請求の範囲の「手術器具」、「第1手術器具」および「第2手術器具」の一例である。また、操作ハンドル21Lおよび操作ハンドル21Rは、それぞれ、特許請求の範囲の「第1操作ハンドル」および「第2操作ハンドル」の一例である。
【0020】
また、操作ハンドル21は、操作ハンドル21によって受け付けられた操作量に対してアーム60(医療器具4)の移動量が変更(スケーリング)される。たとえば、移動量の倍率が1/2倍に設定されている場合、医療器具4は、操作ハンドル21の移動距離の1/2の移動距離を移動するよう制御される。これによって、精細な手術を精確に行うことができる。なお、アーム60は、特許請求の範囲の「マニピュレータ」の一例である。
【0021】
図4に示すように、フットペダル22は、医療器具4に関する機能を実行するように複数設けられている。また、複数のフットペダル22は、基台部28に配置されている。フットペダル22は、切替ペダル22aと、クラッチペダル22bと、カメラペダル22cと、切開ペダル22dと、凝固ペダル22eとを含んでいる。切替ペダル22aと、クラッチペダル22bと、カメラペダル22cと、切開ペダル22dと、凝固ペダル22eとは、操作者の足により操作される。また、切開ペダル22dは、右側のアーム60用の切開ペダル22dRと、左側のアーム60用の切開ペダル22dLとを含む。また、凝固ペダル22eは、右側のアーム60用の凝固ペダル22eRと、左側のアーム60用の凝固ペダル22eLとを含む。なお、フットペダル22は、特許請求の範囲の「操作ペダル」の一例である。また、カメラペダル22cは、特許請求の範囲の「入力部」および「内視鏡ペダル」の一例である。
【0022】
切替ペダル22aは、操作ハンドル21で動作させるアーム60を切り替えるように構成されている。第1実施形態では、クラッチペダル22bは、アーム60と操作ハンドル21との操作接続を一時切断するクラッチ操作を実行するように構成されている。クラッチペダル22bが操作者によって踏み込まれている間、操作ハンドル21による操作が、アーム60に伝達されなくなる。
【0023】
また、第1実施形態では、カメラペダル22cは、内視鏡6を移動させるための指令を入力するために設けられている。具体的には、カメラペダル22cが操作者によって踏み込まれることにより、内視鏡6を移動させるための指令が入力される。また、内視鏡6の移動を可能にする指令がカメラペダル22cにより入力された場合(つまり、カメラペダル22cが操作者によって踏み込まれている間)、内視鏡6は、操作ハンドル21Rおよび操作ハンドル21Lの両方を操作することによって移動するように構成されている。
【0024】
また、切開ペダル22d(凝固ペダル22e)が操作者によって踏み込まれている間、図示しない電気手術装置が起動する。
【0025】
図1に示すように、モニタ24は、内視鏡6によって取り込まれた画像(
図13参照)を表示するためのスコープ型表示装置である。支持アーム25は、モニタ24の高さを操作者(医師など)の顔の高さに合わせるようにモニタ24を支持する。タッチパネル23は、支持バー26に配置されている。モニタ24近傍に設けられた図示しないセンサにより操作者の頭部を検知することにより医療用マニピュレータ1は遠隔操作装置2による操作が可能になる。操作者は、モニタ24により患部を視認しながら、操作ハンドル21およびフットペダル22を操作する。これにより、遠隔操作装置2に指令が入力される。遠隔操作装置2に入力された指令は、医療用マニピュレータ1に送信される。
【0026】
医療用台車3には、医療用マニピュレータ1の動作を制御する制御部31と、医療用マニピュレータ1の動作を制御するためのプログラムなどが記憶される記憶部32とが設けられている。そして、遠隔操作装置2に入力された指令に基づいて、医療用台車3の制御部31は、医療用マニピュレータ1の動作を制御する。
【0027】
また、医療用台車3には、入力装置33が設けられている。入力装置33は、主に施術前に手術の準備を行うために、ポジショナ40、アームベース50、および、複数のアーム60の移動や姿勢の変更の操作を受け付けるように構成されている。
【0028】
図1および
図2に示す医療用マニピュレータ1は、手術室内に配置されている。医療用マニピュレータ1は、医療用台車3と、ポジショナ40と、アームベース50と、複数のアーム60とを備えている。アームベース50は、ポジショナ40の先端に取り付けられている。アームベース50は、比較的長い棒形状(長尺形状)を有する。また、複数のアーム60は、各々のアーム60の根元部が、アームベース50に取り付けられている。複数のアーム60は、折り畳まれた姿勢(収納姿勢)をとることが可能に構成されている。アームベース50と、複数のアーム60とは、図示しない滅菌ドレープにより覆われて使用される。また、アーム60は、医療器具4を支持する。なお、医療器具4は、特許請求の範囲の「手術器具」の一例である。
【0029】
ポジショナ40は、たとえば、7軸多関節ロボットにより構成されている。また、ポジショナ40は、医療用台車3上に配置されている。ポジショナ40は、アームベース50を移動させる。具体的には、ポジショナ40は、アームベース50の位置を3次元に移動させるように構成されている。
【0030】
また、ポジショナ40は、ベース部41と、ベース部41に連結された複数のリンク部42とを含む。複数のリンク部42同士は、関節部43により連結されている。
【0031】
図1に示すように、複数のアーム60の各々の先端には、医療器具4が取り付けられている。医療器具4は、たとえば、取り換え可能なインストゥルメント、手術部位の画像を取り込むための内視鏡6(
図8参照)などを含む。
【0032】
図5に示すように、インストゥルメントには、アーム60のホルダ71に設けられたサーボモータM2によって駆動される被駆動ユニット4aが設けられている。また、インストゥルメントの先端には、鉗子4bが設けられている。
【0033】
また、
図6に示すように、インストゥルメントは、エンドエフェクタ部材104aおよび104bの基端側を先端側でJT11軸周りに回転可能に支持する第1支持体4eと、第1支持体4eの基端側を先端側でJT10軸周りに回転可能に支持する第2支持体4fと、第2支持体4fの基端側に接続されるシャフト4cとを含む。被駆動ユニット4aと、シャフト4cと、第2支持体4fと、第1支持体4eと、鉗子4bとは、Z方向に沿って配置されている。JT11軸は、シャフト4cが延びる方向(Z方向)に対して直交する。また、JT10軸は、シャフト4cが延びる方向においてJT11軸と離間しかつシャフト4cが延びる方向およびJT11軸に対して直交する。
【0034】
第1支持体4eには、JT11軸の軸線周りに回転するように鉗子4bが取り付けられている。また、第2支持体4fは、第1支持体4eをJT10軸について回転可能に支持している。つまり、第2支持体4fにはJT10軸の軸線周りに回転するように第1支持体4eが取り付けられている。また、第1支持体4eの先端側(Z1方向側)の部分は、U字形状を有している。第1支持体4eのU字形状の先端側の部分のJT11軸の軸線における中央部にツールセンタポイント(TCP1、クレビス)が設定されている。
【0035】
また、医療器具4(鉗子4b)は、シャフト4cの回転軸(シャフト4cが延びる方向に沿った軸)としてのJT9軸と、鉗子4bの開閉軸としてのJT12軸とを備えている。なお、アーム60のホルダ71に設けられたサーボモータM2は、複数(たとえば、4個)設けられており、複数のサーボモータM2によって、被駆動ユニット4aの回転体が駆動される。これにより、J9軸~J12軸周りに、医療器具4が駆動される。
【0036】
また、
図8に示すように、内視鏡6のTCP2は、内視鏡6の先端に設定されている。
【0037】
次に、アーム60の構成について詳細に説明する。
【0038】
図5に示すように、アーム60は、アーム部61(ベース部62、リンク部63、関節部64)と、アーム部61の先端に設けられる並進移動機構部70とを含む。アーム60は、アーム60の根元側(アームベース50)に対して先端側を3次元に移動させるように構成されている。また、アーム部61は、7軸多関節ロボットアームから構成されている。なお、複数のアーム60は、互いに同様の構成を有する。
【0039】
図5に示すように、アーム60は、回転軸としてのJT1~JT7軸と、直動軸としてのJ8軸とを備えている。JT1~JT7軸は、アーム部61の関節部64の回転軸に対応する。また、JT7軸は、並進移動機構部70の基端側リンク部72に対応する。JT8軸は、並進移動機構部70の先端側リンク部73を基端側リンク部72に対してZ方向に沿って相対的に移動させる軸に対応する。すなわち、
図12に示すサーボモータM1は、アーム60のJT1~JT7軸に対応するように設けられている。また、サーボモータM3は、JT8軸に対応するように設けられている。
【0040】
並進移動機構部70は、アーム部61の先端側に設けられるとともに医療器具4が取り付けられている。また、並進移動機構部70は、医療器具4を患者Pに挿入する方向に並進移動させる。また、並進移動機構部70は、医療器具4をアーム部61に対して相対的に並進移動させるように構成されている。具体的には、並進移動機構部70には、医療器具4を保持するホルダ71が設けられている。ホルダ71には、サーボモータM2(
図12参照)が収容されている。
【0041】
また、
図7に示すように、医療用マニピュレータ1は、アーム60に取り付けられ、アーム60を操作する操作部80を備えている。操作部80は、イネーブルスイッチ81と、ジョイスティック82とスイッチ部83とを含む。イネーブルスイッチ81は、ジョイスティック82およびスイッチ部83によるアーム60の移動を許可または不許可とする。また、イネーブルスイッチ81は、操作者(看護師、助手など)が操作部80を把持して押下されることによりアーム60による医療器具4の移動を許可する状態となる。
【0042】
また、スイッチ部83は、医療器具4の長手方向に沿った医療器具4を患者Pに挿入する方向側に医療器具4を移動させるスイッチ部83aと、医療器具4を患者Pに挿入する方向と反対側に医療器具4を移動させるスイッチ部83bとを含む。スイッチ部83aとスイッチ部83bとは、共に、押しボタンスイッチから構成されている。
【0043】
また、
図7に示すように、操作部80は、アーム60に取り付けられた医療器具4の移動の支点(
図11参照)となるピボット位置PPを教示するピボットボタン85を含む。ピボットボタン85は、操作部80の面80bに、イネーブルスイッチ81に隣り合うように設けられている。そして、内視鏡6(
図8参照)またはピボット位置教示器具7(
図9)の先端が、患者Pの体表面Sに挿入されたトロカールTの挿入位置に対応する位置まで移動された状態で、ピボットボタン85が押下されることによりピボット位置PPが教示され、記憶部32に記憶される。なお、ピボット位置PPの教示において、ピボット位置PPは、1つの点(座標)として設定され、ピボット位置PPの教示は、医療器具4の方向を設定するものではない。
【0044】
また、
図1に示すように、複数のアーム60のうちの一つのアーム60(たとえば、アーム60c)には内視鏡6が取り付けられ、残りのアーム60(たとえば、アーム60a、60bおよび60d)には、内視鏡6以外の医療器具4が取り付けられる。具体的には、手術において、4つのアーム60のうちの1つのアーム60に内視鏡6が取り付けられ、3つのアーム60に内視鏡6以外の医療器具4(鉗子4bなど)が取り付けられる。そして、内視鏡6が取り付けられているアーム60に対して、内視鏡6が取り付けられた状態でピボット位置PPが教示される。また、内視鏡6以外の医療器具4が取り付けられるアーム60に対して、ピボット位置教示器具7が取り付けられた状態でピボット位置PPが教示される。なお、内視鏡6は、互いに隣り合うように配置されている4つのアーム60のうちの、中央に配置される2つのアーム60(アーム60bおよび60c)のうちのいずれかに取り付けられる。すなわち、ピボット位置PPは、複数のアーム60毎に個別に設定される。なお、内視鏡6が支持されるアーム60(たとえば、アーム60c)は、特許請求の範囲の「第3マニピュレータ」の一例である。
【0045】
また、
図7に示すように、操作部80の面80bには、アーム60の位置を最適化するためのアジャストメントボタン86が設けられている。内視鏡6が取り付けられたアーム60に対するピボット位置PPの教示後、アジャストメントボタン86が押下されることにより、他のアーム60(アームベース50)の位置が最適化される。
【0046】
また、
図7に示すように、操作部80は、アーム60に取り付けられた医療器具4を並進移動(
図10参照)させるモードと、回転移動(
図11参照)させるモードとを切り替えるモード切替ボタン84を含む。また、モード切替ボタン84の近傍には、モードインジケータ84aが設けられている。モードインジケータ84aは、切り替えられたモードを表示する。具体的には、モードインジケータ84aが点灯(回転移動モード)または消灯(並進移動モード)されることにより、現在のモード(並進移動モードまたは回転移動モード)が表示される。
【0047】
また、モードインジケータ84aは、ピボット位置PPが教示されたことを表示するピボット位置インジケータを兼ねている。
【0048】
図10に示すように、アーム60を並進移動させるモードでは、医療器具4の先端4dが、X-Y平面上において移動するように、アーム60が移動される。また、
図11に示すように、アーム60を回転移動させるモードでは、ピボット位置PPが教示されていない時は、鉗子4bを中心に回転移動し、ピボット位置PPが教示されている時は、ピボット位置PPを支点として医療器具4が回転移動するように、アーム60が移動される。なお、医療器具4のシャフト4cがトロカールTに挿入された状態で、医療器具4が回転移動される。
【0049】
また、
図12に示すように、アーム60には、アーム部61の複数の関節部64に対応するように、複数のサーボモータM1と、エンコーダE1と、減速機(図示せず)とが設けられている。エンコーダE1は、サーボモータM1の回転角を検出するように構成されている。減速機は、サーボモータM1の回転を減速させてトルクを増大させるように構成されている。
【0050】
また、
図12に示すように、並進移動機構部70には、医療器具4の被駆動ユニット4aに設けられた回転体を回転させるためのサーボモータM2と、医療器具4を並進移動させるためのサーボモータM3と、エンコーダE2およびエンコーダE3と、減速機(図示せず)とが設けられている。エンコーダE2およびエンコーダE3は、それぞれ、サーボモータM2およびサーボモータM3の回転角を検出するように構成されている。減速機は、サーボモータM2およびサーボモータM3の回転を減速させてトルクを増大させるように構成されている。
【0051】
また、ポジショナ40には、ポジショナ40の複数の関節部43に対応するように、複数のサーボモータM4と、エンコーダE4と、減速機(図示せず)とが設けられている。エンコーダE4は、サーボモータM4の回転角を検出するように構成されている。減速機は、サーボモータM4の回転を減速させてトルクを増大させるように構成されている。
【0052】
また、医療用台車3には、医療用台車3の複数の図示しない前輪の各々を駆動するサーボモータM5と、エンコーダE5と、図示しない減速機とブレーキが設けられている。減速機は、サーボモータM5の回転を減速させてトルクを増大させるように構成されている。また、医療用台車3のスロットル部34aには、ポテンショメータP1(
図1参照)が設けられており、スロットル部34aの捻りに応じてポテンショメータP1で検出した回転角に基づき、前輪のサーボモータM5は駆動される。また、医療用台車3の図示しない後輪は、双輪形式であり、操作ハンドル34の左右の回動に基づき、後輪は操舵される。また、医療用台車3の操作ハンドル34には、ポテンショメータP2(
図2参照)が設けられており、医療用台車3の後輪には、サーボモータM6とエンコーダE6と図示しない減速機が設けられている。減速機は、サーボモータM6の回転を減速させてトルクを増大させるように構成されている。操作ハンドル34の左右の回動に応じてポテンショメータP2で検出した回転角に基づき、サーボモータM6は駆動される。すなわち、操作ハンドル34の左右の回動による後輪の操舵は、サーボモータM6によりパワーアシストされるように構成されている。
【0053】
また、医療用台車3は、前輪が駆動されることにより、前後方向に移動する。また、医療用台車3の操作ハンドル34が回動されることにより、後輪が操舵されて、医療用台車3が左右方向に回動する。
【0054】
医療用台車3の制御部31は、指令に基づいて複数のアーム60の移動を制御するアーム制御部31aと、指令に基づいてポジショナ40の移動および医療用台車3の前輪(図示せず)の駆動を制御するポジショナ制御部31bとを含む。アーム制御部31aには、アーム60を駆動するためのサーボモータM1を制御するためのサーボ制御部C1が電気的に接続されている。また、サーボ制御部C1には、サーボモータM1の回転角を検出するためのエンコーダE1が電気的に接続されている。
【0055】
また、アーム制御部31aには、医療器具4を駆動するためのサーボモータM2を制御するためのサーボ制御部C2が電気的に接続されている。また、サーボ制御部C2には、サーボモータM2の回転角を検出するためのエンコーダE2が電気的に接続されている。また、アーム制御部31aには、並進移動機構部70を並進移動するためのサーボモータM3を制御するためのサーボ制御部C3が電気的に接続されている。また、サーボ制御部C3には、サーボモータM3の回転角を検出するためのエンコーダE3が電気的に接続されている。
【0056】
そして、遠隔操作装置2に入力された動作指令が、アーム制御部31aに入力される。アーム制御部31aは、入力された動作指令と、エンコーダE1(E2、E3)により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1(C2、C3)に出力する。サーボ制御部C1(C2、C3)は、アーム制御部31aから入力された位置指令と、エンコーダE1(E2、E3)により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1(M2、M3)に出力する。これにより、遠隔操作装置2に入力された動作指令に沿うように、アーム60が移動される。
【0057】
また、
図12に示すように、制御部31(アーム制御部31a)は、操作部80のジョイスティック82からの入力信号に基づいてアーム60を操作するように構成されている。具体的には、アーム制御部31aは、ジョイスティック82から入力された入力信号(動作指令)と、エンコーダE1により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1に出力する。サーボ制御部C1は、アーム制御部31aから入力された位置指令と、エンコーダE1により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1に出力する。これにより、ジョイスティック82に入力された動作指令に沿うように、アーム60が移動される。
【0058】
制御部31(アーム制御部31a)は、操作部80のスイッチ部83からの入力信号に基づいてアーム60を操作するように構成されている。具体的には、アーム制御部31aは、スイッチ部83から入力された入力信号(動作指令)と、エンコーダE1またはE3により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C1またはC3に出力する。サーボ制御部C1またはC3は、アーム制御部31aから入力された位置指令と、エンコーダE1またはE3により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM1またはM3に出力する。これにより、スイッチ部83に入力された動作指令に沿うように、アーム60が移動される。
【0059】
また、
図12に示すように、ポジショナ制御部31bには、ポジショナ40を移動するサーボモータM4を制御するためのサーボ制御部C4が電気的に接続されている。また、サーボ制御部C4には、サーボモータM4の回転角を検出するためのエンコーダE4が電気的に接続されている。また、ポジショナ制御部31bには、医療用台車3の前輪(図示せず)を駆動するサーボモータM5を制御するためのサーボ制御部C5が電気的に接続されている。また、サーボ制御部C5には、サーボモータM5の回転角を検出するためのエンコーダE5が電気的に接続されている。
【0060】
また、入力装置33から準備位置の設定などに関する動作指令が、ポジショナ制御部31bに入力される。ポジショナ制御部31bは、入力装置33から入力された動作指令と、エンコーダE4により検出された回転角とに基づいて位置指令を生成するとともに、位置指令をサーボ制御部C4に出力する。サーボ制御部C4は、ポジショナ制御部31bから入力された位置指令と、エンコーダE4により検出された回転角とに基づいて、トルク指令を生成するとともに、トルク指令をサーボモータM4に出力する。これにより、入力装置33に入力された動作指令に沿うように、ポジショナ40が移動される。同様に、入力装置33からの動作指令に基づいて、ポジショナ制御部31bは、医療用台車3を移動させる。
【0061】
ここで、第1実施形態では、外科手術システム100は、画像処理装置8を備えている。画像処理装置8は、グラフィカルユーザインターフェイスG(
図14参照)を生成し、グラフィカルユーザインターフェイスGを内視鏡6によって取り込まれた画像(
図13参照)上に重ねて遠隔操作装置2のモニタ24に表示するように構成されている。画像処理装置8は、内視鏡6から画像を取り込むように構成されている。なお、画像処理装置8は、特許請求の範囲の「制御装置」の一例である。
【0062】
図14に示すように、グラフィカルユーザインターフェイスGは、クラッチエリアG1を含む。
図15に示すように、クラッチエリアG1には、クラッチペダル22bの状態が示される。
図15(a)は、クラッチペダル22bが踏まれていない状態(OFF状態)を示している。
図15(b)は、操作者がクラッチペダル22bに足を置いている状態(ホバー状態)を示している。
図15(c)は、クラッチペダル22bが踏まれている状態(ON状態)を示している。
【0063】
図14に示すように、第1実施形態では、グラフィカルユーザインターフェイスGは、内視鏡6に関する情報を示すカメラエリアG2を含む。カメラエリアG2は、モニタ24の画面grの下方の端部ed(
図13参照)近傍の領域に表示される。なお、カメラエリアG2は、特許請求の範囲の「第4エリア」の一例である。
【0064】
図14に示すように、グラフィカルユーザインターフェイスGは、ハンドエリアG3を含む。ハンドエリアG3は、各医療器具4の情報や、各アーム60の情報や、凝固ペダル22eおよび切開ペダル22dの状態の情報が表示される。ハンドエリアG3は、左手用の操作ハンドル21Lによって操作される医療器具4およびアーム60a(ハンドエリアG3の番号「4」)に関する情報を示すハンドエリアG3aと、交換用の医療器具4およびアーム60b(ハンドエリアG3の番号「3」)に関する情報を示すハンドエリアG3bと、左手用の操作ハンドル21Lによって操作される医療器具4およびアーム60d(ハンドエリアG3の番号「1」)に関する情報を示すハンドエリアG3cとを含む。ハンドエリアG3は、モニタ24の画面grの下方の端部ed近傍の領域に表示される。また、クラッチエリアG1も、画面grの下方の端部ed近傍の領域に表示される。具体的には、
図14に示すように、クラッチエリアG1、カメラエリアG2およびハンドエリアG3は、画面grの下方の端部edと、端部edから画面grの縦方向の長さの1/10(L11)の長さ上方の位置との間に表示される。なお、ハンドエリアG3a、G3bおよびG3cは、各々、特許請求の範囲の「第1エリア」、「第2エリア」および「第3エリア」の一例である。
【0065】
また、アーム60に関する情報は、アーム番号(「1」、「2」などのアーム番号)や交換用の医療器具4が取り付けられたアーム60の交換先として設定されている場合に表示される矢印のアイコンを含み、医療器具4に関する情報は医療器具4の名称を含み、凝固ペダル22eおよび切開ペダル22dの状態の情報は、クラッチペダル22bの操作の状態、切開ペダル22dの操作の状態、凝固ペダル22eの操作の状態を含む。
【0066】
また、
図13に示すように、操作対象となるアーム60のハンドエリア(ハンドエリアG3a、および、ハンドエリアG3c)は、濃い灰色で表示され、この中に白抜きの長円が示され、かつ、白抜きの長円の中にアーム60の番号(1および4)が表示される。また、操作対象でないアーム60のハンドエリア(ハンドエリアG3b)は、薄い灰色で表示され、かつ、さらに薄い灰色のアーム60の番号(3)が表示される。
【0067】
図14に示すように、グラフィカルユーザインターフェイスGは、ポップアップエリアである医療器具状態情報エリアG4を含む。医療器具状態情報エリアG4には、各アーム60に取り付けられた医療器具4の現在の使用回数/最大使用回数(
図16参照)が、ポップアップで表示される。なお、現在の使用回数が最大使用回数に等しくなると、現在の使用回数が赤字で表示される。また、各アーム60に取り付けられた医療器具4にエラーが生じた際にはエラー情報がポップアップで表示される。また、アーム60に医療器具4が取り付けられていない場合、医療器具状態情報エリアG4には何も表示されない。医療器具状態情報エリアG4は、モニタ24上において、クラッチエリアG1、カメラエリアG2、および、ハンドエリアG3の上方側の隣接した領域に表示される。なお、医療器具状態情報エリアG4は、特許請求の範囲の「手術器具状態情報エリア」の一例である。
【0068】
図14に示すように、グラフィカルユーザインターフェイスGは、水準器エリアG5を含む。水準器エリアG5は、内視鏡6の角度情報が表示される。また、水準器エリアG5は、カメラペダル22cが踏み込まれている間のみ表示される。すなわち、画像処理装置8は、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示する。なお、水準器エリアG5は、特許請求の範囲の「センターエリア」の一例である。
【0069】
図14に示すように、グラフィカルユーザインターフェイスGは、左ポップアップエリアG6を含む。左ポップアップエリアG6は、フットペダル22に足が置かれているホバー状態のときに、
図17(a)~(c)に示すアイコンが表示される。
図17(a)は、凝固ペダル22eLと切開ペダル22dLに足が置かれているときに表示されるアイコンである。
図17(b)は、クラッチペダル22bに足が置かれているときに表示されるアイコンである。
図17(c)は、カメラペダル22cに足が置かれているときに表示されるアイコンである。左ポップアップエリアG6は、モニタ24上において、左側側部に表示される。なお、左ポップアップエリアG6は、特許請求の範囲の「操作ペダルエリア」の一例である。
【0070】
図14に示すように、グラフィカルユーザインターフェイスGは、右ポップアップエリアG7を含む。右ポップアップエリアG7は、凝固ペダル22eRと切開ペダル22dRに足が置かれているときにアイコン(
図18)が表示される。右ポップアップエリアG7は、モニタ24上において、右側側部に表示される。なお、右ポップアップエリアG7は、特許請求の範囲の「操作ペダルエリア」の一例である。
【0071】
また、
図14に示すように、グラフィカルユーザインターフェイスGは、アーム60の動作可能範囲と、アーム60の動作可能範囲のうち操作ハンドル21により操作可能な操作可能範囲と、を表示する第1エリアG8を含む。また、グラフィカルユーザインターフェイスGは、操作ハンドル21を操作可能範囲内に戻すため、および/または(第1実施形態では、「および」)アーム60を動作可能範囲内に戻すために必要な操作ハンドル21の操作方向を表示する第2エリアG9を含む。
【0072】
また、操作ハンドル21により操作可能なアーム60は、2つである。たとえば、操作ハンドル21Lによって、医療器具4を支持するための左アーム60L(例えば、アーム60a、
図1参照)が操作される。また、操作ハンドル21Rによって、医療器具4を支持するための右アーム60R(例えば、アーム60d、
図1参照)が操作される。そして、第1エリアG8(第1エリアG8L、第1エリアG8R)および第2エリアG9(第2エリアG9L、第2エリアG9R)は、各々、左アーム60Lおよび右アーム60Rごとに別個に設けられている。なお、左アーム60Lおよび右アーム60Rは、それぞれ、特許請求の範囲の「第1マニピュレータ」および「第2マニピュレータ」の一例である。
【0073】
また、
図14に示すように、グラフィカルユーザインターフェイスGは、エラー通知エリアG15(G15a、G15b)を含む。エラー通知エリアG15aは、警告やエラーが発生したときに、警告やエラー情報を表示するためにポップアップで表示される。エラー通知エリアG15bは、エラー通知エリアG15aに表示されている警告やエラーに関する注記の詳細を表示するためにポップアップで表示される。
【0074】
また、第1実施形態では、
図13に示される内視鏡6の視野外に位置している医療器具4を示す標識MK1や
図25に示される標識MK2は、表示される状態と、表示されない状態とを切り替え可能に構成されている。具体的には、
図19に示すように、遠隔操作装置2のタッチパネル23が操作されることにより、「視野外鉗子表示」のボタンが表示される。そして、「視野外鉗子表示」の「オン」が選択されると、操作者によりカメラペダル22cが踏み込まれた場合に、内視鏡6の視野外に位置している医療器具4が存在すると標識MK1や標識MK2が表示される。また、「視野外鉗子表示」の「オフ」が選択されると、標識MK1や標識MK2が表示されない。これにより操作者の操作の熟練度や操作者のニーズによって「視野外鉗子表示」の表示設定を容易に切り替えることができる。
【0075】
図14に示すように、グラフィカルユーザインターフェイスGは、ステータスエリアG10を含む。ステータスエリアG10には、医療用マニピュレータ1の内蔵バッテリの残量、モニタ24の明るさ/コントラスト、ラップタイム、手術経過時間などの情報が表示される。具体的には、
図14に示すように、ステータスエリアG10は、画面grの上方の端部euと、端部euから画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に表示される。なお、ステータスエリアG10は、特許請求の範囲の「手術システムエリア」の一例である。
【0076】
ここで、第1実施形態では、
図13および
図14に示すように、画像処理装置8は、内視鏡6の視野外に位置している医療器具4を示す標識MK1を表示するためのグラフィカルユーザインターフェイスGを、内視鏡6によって撮像された画像上に重ねてモニタ24に表示する。この標識MK1(グラフィカルユーザインターフェイスG)は、画像処理装置8が内視鏡6の移動を可能にする指令を受けた場合(操作者によりカメラペダル22cが踏み込まれている場合)で、且つ、医療器具4の少なくとも何れか(アーム60a、60bおよび60dに各々取り付けられる医療器具4の少なくとも何れか)が、内視鏡6の視野外に位置している場合に表示される。また、この標識MK1(グラフィカルユーザインターフェイスG)は、モニタ24の画面grの端部e近傍を含まずに中央部CN1を含む水準器エリアG5の外縁近傍エリアG11に表示される。なお、外縁近傍エリアG11とは、後述する水準器LVの外側且つ水準器LVの近傍に位置するエリアである。
【0077】
なお、画像処理装置8は、医療器具4の位置を、アーム60の姿勢、位置に基づいて取得する。また、画像処理装置8は、内視鏡6の撮像方向を、アーム60の姿勢、位置に基づいて取得する。また、画像処理装置8は、内視鏡6のズーム状態に基づいて内視鏡6の画角(視野範囲)を取得する。画像処理装置8は、内視鏡6の画角(視野範囲)を、内視鏡6のメカ機構(レンズ等)として設定されている値を用いて取得する。そして、画像処理装置8は、内視鏡6の視野および、内視鏡6の姿勢、位置とアーム60の位置情報より、内視鏡6の視野に対する医療器具4の先端の座標を取得する。これにより、画像処理装置8は、医療器具4が内視鏡6の視野外に位置しているか否かを判定する。
【0078】
また、
図13および
図14に示す例では、アーム60a、60b、60cおよび60dのうち、アーム60a(ハンドエリアG3aの番号「4」)、アーム60b(ハンドエリアG3bの番号「3」)、および、アーム60d(ハンドエリアG3cの番号「1」)には、医療器具4(内視鏡6以外の鉗子4bなどの医療器具4)が取り付けられている。また、アーム60c(カメラエリアG2の番号「2」)には、内視鏡6が取り付けられている。アーム60a(ハンドエリアG3aの番号「4」)、および、アーム60d(ハンドエリアG3の番号「1」)が、操作ハンドル21により操作可能な状態(アクティブ)であり、ハンドエリアG3aおよびG3cは、濃い灰色で表示される。また、アーム60bは、操作ハンドル21により操作可能でない状態(非アクティブ)であり、ハンドエリアG3bは、薄い灰色で表示される。
【0079】
図13に示す例では、アーム60a(ハンドエリアG3aの番号「4」)、および、アーム60d(ハンドエリアG3cの番号「1」)に支持される医療器具4は、内視鏡6の視野内に位置している。一方、アーム60b(ハンドエリアG3bの番号「3」)に支持される医療器具4は、内視鏡6の視野外に位置している。
【0080】
そして、第1実施形態では、
図13に示すように、グラフィカルユーザインターフェイスGは、外縁近傍エリアG11で、且つ、水準器エリアG5の中央CN2に対して、視野外の医療器具4が位置する方向に対応するエリアG12(
図20参照)に、視野外の医療器具4を表示する標識MK1を配置して表示するように構成されている。
図13では、標識MK1(「3」の文字)が、表示されている。
【0081】
また、第1実施形態では、
図20に示すように、視野外の医療器具4を表示する標識MK1が表示されるエリアG12は、外縁近傍エリアG11を水準器エリアG5の中央CN2から放射状に複数に分割したエリアG12のうちの1つのエリアG12である。第1実施形態では、外縁近傍エリアG11が、中央CN2から放射状に8個に分割されている。8個のエリアG12a~G12hは、中央CN2に対して45度間隔で配置されている。
図13では、標識MK1(「3」の文字)が、例として、エリアG12d(
図20参照)に表示されている。なお、
図20では、視野外に医療器具4が位置しているパターンの全てを表示している。
【0082】
また、第1実施形態では、
図14に示すように、画像処理装置8は、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示する。そして、画像処理装置8は、標識MK1を水準器エリアG5外の外縁近傍エリアG11に表示するためのグラフィカルユーザインターフェイスGをモニタ24に表示する。水準器LVは、患者Pに対する内視鏡6の視野の傾きを表している。水準器LVは、カメラペダル22cが操作された場合(具体的には、踏み込まれた場合)に、画像処理装置8が内視鏡6の移動を可能にする指令を受けることにより表示される。
【0083】
また、第1実施形態では、
図14に示すように、水準器エリアG5は、上辺部G5a、左辺部G5b、右辺部G5cおよび下辺部G5dを含む矩形領域(横方向に長い長方形形状)である。このように画面grの中央部を含む所定の大きさの水準器エリアG5の外縁近傍エリアG11に標識MK1を表示することにより操作者の視認性を向上させることができる。上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/10(L11)の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に配置されている。好ましくは、上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/8の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/8の長さ下方の位置との間に配置され、より好ましくは、上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/6の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/6の長さ下方の位置との間に配置される。
【0084】
また、上辺部G5aは、医療用マニピュレータ1の内蔵バッテリの残量などが表示されるステータスエリアG10の下方に配置されている。
【0085】
また、左辺部G5bは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/10(L12)の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/10(L12)の長さ右側の位置との間に配置される。好ましくは、左辺部G5bは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/8の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/8の長さ右側の位置との間に配置され、より好ましくは、左辺部G5bは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/6の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/6の長さ右側の位置との間に配置される。
【0086】
また、右辺部G5cは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/10(L12)の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/10(L12)の長さ左側の位置との間に配置される。好ましくは、右辺部G5cは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/8の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/8の長さ左側の位置との間に配置され、より好ましくは、右辺部G5cは、モニタ24の画面grの中央部CN1から、画面grの横方向の長さの1/6の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/6の長さ左側の位置との間に配置される。
【0087】
また、下辺部G5dは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/10(L11)の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/10(L11)の長さ上方の位置との間に配置されている。好ましくは、下辺部G5dは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/8の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/8の長さ上方の位置との間に配置され、より好ましくは、下辺部G5dは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/6の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/6の長さ上方の位置との間に配置される。
【0088】
また、第1実施形態では、水準器エリアG5の下辺部G5dは、ハンドエリアG3a、ハンドエリアG3b、ハンドエリアG3c、および、カメラエリアG2よりも上方に配置されている。さらに、水準器エリアG5の下辺部G5dは、医療器具状態情報エリアG4よりも上方に配置されている。
【0089】
なお、モニタ24の画面grの中央部CN1と、水準器エリアG5の中央CN2とは、略同じ位置である。
【0090】
また、第1実施形態では、視野外に位置している医療器具4を示す標識MK1は、水準器エリアG5と、医療器具状態情報エリアG4、左ポップアップエリアG6、右ポップアップエリアG7およびステータスエリアG10のうちの少なくとも1つ(第1実施形態では全て)と、の間に配置されている。なお、医療器具状態情報エリアG4は、医療器具4の状態を示す。左ポップアップエリアG6は、フットペダル22が操作されたとき(フットペダル22に足が置かれているホバー状態のときに)に表示される。右ポップアップエリアG7は、凝固ペダル22eRと切開ペダル22dRとが操作されたとき(操作者の足が置かれているとき)に表示される。ステータスエリアG10は、外科手術システム100の状態を示す。
【0091】
第1実施形態では、
図13に示すように、標識MK1は、視野外に位置している医療器具4を支持するアーム60を特定する番号を含む。
図13に示す例では、アーム60b(ハンドエリアG3の番号「3」)に支持される医療器具4が内視鏡6の視野外に位置していることを示す「3」の番号がMK1として表示されている。
【0092】
また、第1実施形態では、
図21および
図22に示すように、標識MK1は、視野外に位置している医療器具4が、操作対象である場合と操作対象でない場合とで異なる態様で表示される。具体的には、
図21に示すように、医療器具4が操作対象である場合、黒の四角の中に、白抜きの長円が示され、かつ、白抜きの長円の中にアーム60の番号(1~4のいずれか)が表示される。また、
図22に示すように、医療器具4が操作対象でない場合、黒の四角の中に、灰色のアーム60の番号(1~4のいずれか)が表示される。
【0093】
また、第1実施形態では、
図20に示すように、アーム60aに取り付けられた医療器具4、アーム60bに取り付けられた医療器具4、および、アーム60dに取り付けられた医療器具4のうちの複数が内視鏡6の視野外に位置している場合、アーム60a、アーム60b、および、アーム60dの配置位置の順に対応するように、内視鏡6の視野外に位置している医療器具4に対応する複数の標識MK1が表示される。アーム60a、アーム60b、および、アーム60dの配置位置の順とは、アームベース50に取り付けられている状態における、アーム60a、アーム60b、および、アーム60dの配置位置の順を意味する。
【0094】
また、第1実施形態では、
図20に示すように、アーム60aに取り付けられた医療器具4、アーム60bに取り付けられた医療器具4、および、アーム60dに取り付けられた医療器具4の全て(3つ)が内視鏡6の視野外に位置している場合、アーム60a、アーム60b、および、アーム60dの順に、アーム60aを表す標識MK1(「4」)、アーム60bを表す標識MK1(「3」)、および、アーム60dを表す標識MK1(「1」)が表示される。すなわち、ハンドエリアG3の並び順に、標識MK1(「4」、「3」、および、「1」)が表示される。
【0095】
また、第1実施形態では、
図23に示すように、アーム60aに取り付けられた医療器具4、アーム60bに取り付けられた医療器具4、および、アーム60dに取り付けられた医療器具4のうちの1つまたは2つが内視鏡6の視野外に位置している場合、内視鏡6の視野外に位置している医療器具4に対応する標識MK1は、モニタ24の画面grの中央側に寄せて配置される。つまり、アーム60aに取り付けられた医療器具4のみが視野の左側の外に位置している場合、アーム60aに取り付けられた医療器具4を示す標識MK1(「4」)は、3つの標識MK1(「4」、「3」および「1」)全てが表示される場合(
図20参照)の標識MK1(「4」)の位置よりも、画面grの中央側に寄せて配置される。
【0096】
同様に、アーム60aに取り付けられた医療器具4のみが視野の下側の外に位置している場合、アーム60aに取り付けられた医療器具4を示す標識MK1(「4」)は、3つの標識MK1(「4」、「3」および「1」)全てが表示される場合(
図20参照)の標識MK1(「4」)の位置よりも、画面grの中央側に寄せて配置される。アーム60aに取り付けられた医療器具4のみが視野の上側(斜め左上側、斜め左下側)の外に位置している場合も同様である。
【0097】
同様に、アーム60dに取り付けられた医療器具4のみが視野の右側の外に位置している場合、アーム60dに取り付けられた医療器具4を示す標識MK1(「1」)は、3つの標識MK1(「4」、「3」および「1」)全てが表示される場合(
図20参照)の標識MK1(「1」)の位置よりも、画面grの中央側に寄せて配置される。アーム60dに取り付けられた医療器具4のみが視野の斜め右上側および斜め右下側の外に位置している場合も同様である。
【0098】
(表示方法)
次に、
図24を参照して、外科手術システム100におけるモニタ24へのグラフィカルユーザインターフェイスGの表示方法について説明する。なお、グラフィカルユーザインターフェイスGの生成は、画像処理装置8によって行われる。
【0099】
まず、ステップS1において、画像処理装置8は、手術部位の画像を取り込むための内視鏡6によって取り込まれた画像を取得する。
【0100】
次に、ステップS2において、画像処理装置8は、内視鏡6の移動を可能にする指令を受けたか否か(操作者によってカメラペダル22cが踏み込まれたか否か)を判定する。ステップS2においてyesの場合、ステップS3に進む。ステップS2においてnoの場合、ステップS1に戻る。
【0101】
次に、ステップS3において、画像処理装置8は、アーム60aに支持される医療器具4、アーム60bに支持される医療器具4、および、アーム60dに支持される医療器具4の少なくとも何れかが内視鏡6の視野外に位置しているか否かを判定する。ステップS3においてyesの場合(つまり、内視鏡6の移動を可能にする指令を受けた場合で、且つ、アーム60に支持される医療器具4が内視鏡6の視野外に位置している場合)、ステップS4に進む。ステップS4においてnoの場合、ステップS1に戻る。
【0102】
次に、ステップS4において、画像処理装置8は、視野外に位置している医療器具4を示す標識MK1をモニタ24の画面grの端部e近傍を含まずに中央部CN1を含む水準器エリアG5の外縁近傍エリアG11に表示するためのグラフィカルユーザインターフェイスGを、内視鏡6によって撮像された画像上に重ねてモニタ24に表示する。
【0103】
上記のステップS1~S4の動作は、外科手術システム100の動作中、常に行われる。
【0104】
[第1実施形態の効果]
第1実施形態では、以下のような効果を得ることができる。
【0105】
第1実施形態では、上記のように、画像処理装置8は、視野外に位置している医療器具4を示す標識MK1をモニタ24の画面grの端部e近傍を含まずに中央部CN1を含む水準器エリアG5の外縁近傍エリアG11に表示するためのグラフィカルユーザインターフェイスGを、内視鏡6によって撮像された画像上に重ねてモニタ24に表示するように構成されている。これにより、視野外に位置している医療器具4を示す標識MK1が、モニタ24の画面grにおいて端部e近傍よりも比較的中央側に表示される。その結果、操作者は、視線を大きく動かすことなく、視野外に位置する医療器具4を示す標識MK1を容易に視認することができる。
【0106】
また、第1実施形態では、上記のように、グラフィカルユーザインターフェイスGは、水準器エリアG5の外縁近傍エリアG11で、且つ、水準器エリアG5の中央CN2に対して、視野外の医療器具4が位置する方向に対応するエリアG12に、標識MK1を配置して表示するように構成されている。これにより、水準器エリアG5の中央CN2に対して、視野外の医療器具4が位置する方向に対応するように標識MK1が配置されるので、操作者は、視線を大きく動かすことなく、水準器エリアG5の中央CN2に対して、視野外の医療器具4が、どの方向に位置するのかを、容易に認識することができる。また、モニタ24の画面grにおける標識MK1の位置(水準器エリアG5の中央部CN1に対する位置)と、視野外の医療器具4の位置とが対応するので、視野外の医療器具4の位置(方向)を直感的に容易に認識することができる。
【0107】
また、第1実施形態では、上記のように、視野外の医療器具4を表示する標識MK1が表示されるエリアG12は、外縁近傍エリアG11を水準器エリアG5の中央CN2から放射状に複数に分割したエリアG12(G12a~G12h)のうちの1つのエリアG12である。これにより、複数のエリアG12が水準器エリアG5の中央CN2から放射状に設けられているので、複数のエリアG12がモニタ24の画面grの偏った1箇所の領域内に設けられている場合と異なり、視野外の医療器具4の位置をより直感的に認識しやすくすることができる。
【0108】
また、第1実施形態では、上記のように、画像処理装置8は、内視鏡6の移動を可能にする指令を受けた場合に、水準器エリアG5に内視鏡6の水準器LVを表示するとともに、標識MK1を水準器LVの外側に表示するためのグラフィカルユーザインターフェイスGをモニタ24に表示する。これにより、操作者が内視鏡6を操作するために内視鏡6の水準器LVを視認している最中に、視野外に位置する医療器具4を示す標識MK1が水準器LVとともに表示されるので、操作者は標識MK1をさらに容易に認識することができる。
【0109】
また、第1実施形態では、上記のように、視野外に位置している医療器具4を示す標識MK1は、水準器エリアG5と、医療器具状態情報エリアG4、左ポップアップエリアG6、右ポップアップエリアG7およびステータスエリアG10のうちの少なくとも1つ(第1実施形態では全て)と、の間に配置されている。これにより、標識MK1が、医療器具状態情報エリアG4、左ポップアップエリアG6、右ポップアップエリアG7およびステータスエリアG10のうちの少なくとも1つ(第1実施形態では全て)のうちの少なくとも1つよりも中央側に寄せて表示されるので、標識MK1が画面grの端部eに配置される場合と異なり、標識MK1の視認性を向上させることができる。
【0110】
また、第1実施形態では、上記のように、水準器エリアG5は、上辺部G5a、左辺部G5b、右辺部G5cおよび下辺部G5dを含む矩形領域であり、上辺部G5aは、モニタ24の画面grの中央部CN1よりも画面grの上方の端部euに近い位置に配置され、左辺部G5bは、モニタ24の画面grの中央部CN1よりも画面grの左側の端部elに近い位置に配置され、右辺部G5cは、モニタ24の画面grの中央部CN1よりも画面grの右側の端部erに近い位置に配置され、下辺部G5dは、モニタ24の画面grの中央部CN1よりも画面grの下方の端部edに近い位置に配置される。これにより、標識MK1は、水準器エリアG5の外縁近傍エリアG11に表示されるので、モニタ24の画面grの中央部CN1には標識MK1が表示されない。このため、標識MK1が、モニタ24の画面grの中央部CN1を視認する操作者の視認の妨げになるのを抑制することができる。
【0111】
また、第1実施形態では、上記のように、上辺部G5aは、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/10(L11)の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に配置され、左辺部G5bは、モニタ24の画面grの中央部CN1から画面grの横方向の長さの1/10の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/10(L12)の長さ右側の位置との間に配置され、右辺部G5cは、モニタ24の画面grの中央部CN1から画面grの横方向の長さの1/10の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/10(L12)の長さ左側の位置との間に配置され、下辺部G5dは、モニタ24の画面grの中央部CN1から画面grの縦方向の長さの1/10の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/10(L11)の長さ上方の位置との間に配置される。これにより、水準器エリアG5の外縁近傍エリアG11に表示される標識MK1が画面grの端部eよりも中央側に寄せて表示されるので、標識MK1が画面grの端部eに配置される場合と異なり、標識MK1の視認性を向上させることができる。
【0112】
また、上辺部G5aを、モニタ24の画面grの中央部CN1から、画面grの縦方向の長さの1/8の長さ上方の位置と、画面grの上方の端部euから、画面grの縦方向の長さの1/8の長さ下方の位置との間に配置し、左辺部G5bを、モニタ24の画面grの中央部CN1から画面grの横方向の長さの1/8の長さ左側の位置と、画面grの左側の端部elから、画面grの横方向の長さの1/8の長さ右側の位置との間に配置し、右辺部G5cを、モニタ24の画面grの中央部CN1から画面grの横方向の長さの1/8の長さ右側の位置と、画面grの右側の端部erから、画面grの横方向の長さの1/8の長さ左側の位置との間に配置し、下辺部G5dを、モニタ24の画面grの中央部CN1から画面grの縦方向の長さの1/8の長さ下方の位置と、画面grの下方の端部edから、画面grの縦方向の長さの1/8の長さ上方の位置との間に配置することにより、標識MK1の視認性をより向上させることができる。
【0113】
また、第1実施形態では、上記のように、複数のアーム60は、操作対象でない(交換用の)医療器具4を支持するためのアーム60bを含み、グラフィカルユーザインターフェイスGは、アーム60dに支持される医療器具4に関する情報を示すハンドエリアG3aと、アーム60bに支持される医療器具4に関する情報を表示するハンドエリアG3bと、アーム60aに支持される医療器具4に関する情報を表示するハンドエリアG3cと、内視鏡6に関する情報を示すカメラエリアG2と、をモニタ24の画面grの下方の端部ed近傍領域に配置して表示する。これにより、標識MK1が、ハンドエリアG3a、ハンドエリアG3b、ハンドエリアG3cおよびカメラエリアG2よりも画面grの中央寄りに表示されるので、標識MK1の視認性をさらに向上させることができる。
【0114】
また、第1実施形態では、上記のように、水準器エリアG5は、上辺部G5a、左辺部G5b、右辺部G5cおよび下辺部G5dを含む矩形領域であり、下辺部G5dは、ハンドエリアG3a、ハンドエリアG3b、ハンドエリアG3cおよびカメラエリアG2よりも上方に配置されている。これにより、水準器エリアG5の下辺部G5dが画面grの下方の端部edに配置される場合と比べて、標識MK1が上方に配置されるので、操作者の下方への視線の移動を抑制しながら、標識MK1を視認することができる。
【0115】
また、第1実施形態では、上記のように、アーム60a、60bおよび60dのうちの複数が内視鏡6の視野外に位置している場合、医療器具4の各々が設けられるアーム60a、60bおよび60dの配置位置の順に対応するように、内視鏡6の視野外に位置している医療器具4に対応する複数の標識MK1が表示される。これにより、操作者は、視野外に位置している医療器具4の配列の順を容易に認識することができる。
【0116】
また、第1実施形態では、上記のように、標識MK1は、表示される状態と、表示されない状態とを切り替え可能に構成されている。これにより、必要に応じて、標識MK1を表示される状態と、表示されない状態とに切り替えることができる。
【0117】
また、第1実施形態では、上記のように、複数の標識MK1は、医療器具4のうちの全てが内視鏡6の視野外に位置している場合でも、アーム60の配置位置の順に対応して並んで表示可能に構成されており、複数の医療器具4のうちの1つまたは2つが内視鏡6の視野外に位置している場合、内視鏡6の視野外に位置している医療器具4に対応する標識MK1は、モニタ24の画面grの中央側に寄せて配置される。これにより、標識MK1が中央側に寄せて配置されるので、標識MK1の視認性をより向上させることができる。
【0118】
また、第1実施形態では、上記のように、遠隔操作装置2は、内視鏡6を移動させるための指令を入力するカメラペダル22cを備え、内視鏡6の移動を可能にする指令がカメラペダル22cにより入力された場合、内視鏡6は、操作ハンドル21Lおよび操作ハンドル21Rの両方を操作することによって移動するように構成されている。これにより、操作者がカメラペダル22cを操作することにより、容易に、内視鏡6の移動を可能にすることができる。
【0119】
また、第1実施形態では、上記のように、標識MK1は、視野外に位置している医療器具4が、操作対象である場合と操作対象でない場合とで異なる態様で表示される。これにより、操作者は、視野外に位置している医療器具4が、操作対象であるか否かを容易に認識することができる。
【0120】
また、第1実施形態では、上記のように、標識MK1は、視野外に位置している医療器具4を支持するアーム60を特定する番号を含む。これにより、操作者は、視野外に位置している医療器具4を、容易に特定して認識することができる。
【0121】
[第2実施形態]
図25~
図27を参照して、第2実施形態による外科手術システム200の構成について説明する。
【0122】
第2実施形態では、
図25および
図26に示すように、標識MK2は、視野外に位置している医療器具4が存在している方向を示す矢印MK2aを含む。具体的には、矢印MK2aの外側の近傍に視野外に位置している医療器具4を特定するための番号(たとえば、「4」)が表示される。なお、番号は、
図27に示す標識MK3のように、矢印MK2aの内側に表示されてもよい。また、矢印MK2aの内部は、画像が透けて視認可能なように、透明または半透明で表示される。また、操作対象となる医療器具4に対して、標識MK2の番号は、白色の円の中に黒色のアーム60の番号(「4」参照)が示される。また、操作対象とならない医療器具4に対して、標識MK2の番号は、黒色の円の中に灰色のアーム60の番号(「3」参照)が示される。なお、矢印MK2aは、平面的に示されている。
【0123】
[第2実施形態の効果]
第2実施形態では、以下のような効果を得ることができる。
【0124】
第2実施形態では、上記のように、標識MK2は、視野外に位置している医療器具4が存在している方向を示す矢印MK2aを含む。これにより、操作者は、視野外に位置している医療器具4の存在している方向を、直観的に認識することができる。
【0125】
[変形例]
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内でのすべての変更(変形例)が含まれる。
【0126】
たとえば、上記第1および第2実施形態では、画像処理装置8が内視鏡6からの画像を取り込むとともにグラフィカルユーザインターフェイスGを生成する例を示したが、本発明はこれに限られない。たとえば、医療用マニピュレータ1の制御部31が、グラフィカルユーザインターフェイスGを生成してもよいし、遠隔操作装置2の制御部(図示せず)が、グラフィカルユーザインターフェイスGを生成してもよい。また、内視鏡6からの画像を取り込む画像処理装置と、グラフィカルユーザインターフェイスGを生成し、内視鏡6の画像上に重ねる画像処理装置とが別個に設けられていてもよい。
【0127】
また、上記第1および第2実施形態では、標識MK1が、水準器エリアG5の中央CN2に対して、視野外の医療器具4が位置する方向に対応するエリアG12に表示される例を示したが、本発明はこれに限られない。たとえば、標識MK1が、水準器エリアG5の外縁近傍エリアG11の固定された位置に表示されてもよい。
【0128】
また、上記第1および第2実施形態では、標識MK1が表示されるエリアG12が、外縁近傍エリアG11を水準器エリアG5の中央CN2から放射状に8個に分割したエリアG12のうちの1つのエリアG12である例を示したが、本発明はこれに限られない。たとえば、分割されるエリアG12の数は、8個以外の数でもよい。
【0129】
また、上記第1および第2実施形態では、標識MK1が、水準器エリアG5の外側に表示される例を示したが、本発明はこれに限られない。たとえば、標識MK1が、水準器エリアG5の内側に表示されてもよい。
【0130】
また、上記第1および第2実施形態では、水準器エリアG5が矩形領域である例を示したが、本発明はこれに限られない。たとえば、水準器エリアG5が、矩形以外の形状の領域(長円形状など)であってもよい。
【0131】
また、上記第1および第2実施形態では、カメラエリアG2と、ハンドエリアG3(ハンドエリアG3a、ハンドエリアG3bおよびハンドエリアG3c)とがモニタ24の画面grの下方の端部ed近傍の領域に表示される例を示したが、本発明はこれに限られない。たとえば、カメラエリアG2と、ハンドエリアG3(ハンドエリアG3a、ハンドエリアG3bおよびハンドエリアG3c)とがモニタ24の画面grの上方の端部eu近傍の領域に表示されてもよい。具体的には、カメラエリアG2およびハンドエリアG3は、画面grの上方の端部euと、上方の端部euから画面grの縦方向の長さの1/10(L11)の長さ下方の位置との間に表示すればよい。
【0132】
また、上記第1および第2実施形態では、複数の医療器具4が、内視鏡6の視野外に位置している場合、複数の医療器具4が各々支持されるアーム60の配置位置の順に複数の標識MK1が表示される例を示したが、本発明はこれに限られない。たとえば、複数の医療器具4が各々支持されるアーム60の配置位置の順と、複数の標識MK1が表示される順とが異なっていてもよい。
【0133】
また、上記第1および第2実施形態では、1つまたは2つの医療器具4が、内視鏡6の視野外に位置している場合、標識MK1が画面grの中央側に寄せて配置される例を示したが、本発明はこれに限られない。たとえば、複数の医療器具4の各々に対応する標識MK1が配置される位置が固定されていてもよい。
【0134】
また、上記第1および第2実施形態では、医療器具4が操作対象である場合と操作対象でない場合とで、標識MK1の表示の態様が異なる例を示したが、本発明はこれに限られない。たとえば、医療器具4が操作対象である場合と操作対象でない場合とで、標識MK1の表示の態様が同じであってもよい。
【0135】
また、上記第1および第2実施形態では、視野外に位置している医療器具4を示す標識MK1を水準器エリアG5の外縁近傍エリアG11に表示する例を示したが、本発明はこれに限られない。たとえば、
図28および
図29に示すように、水準器エリアG5の外縁近傍エリアG11に加えて、ハンドエリアG3a(ハンドエリアG3bおよびハンドエリアG3c)の内部(たとえば、左端)に8分割されたエリアG13を表示(
図29(a)参照)する。そして、視野外に位置している医療器具4に対応するエリアG13を白く塗りつぶす(
図29(b)参照)ことにより、視野外に位置している医療器具4を示してもよい。
【0136】
また、上記第1および第2実施形態では、視野外に位置している医療器具4を示す標識MK1を水準器エリアG5の外縁近傍エリアG11に表示する例を示したが、本発明はこれに限られない。たとえば、
図30および
図31に示すように、水準器エリアG5の外縁近傍エリアG11に加えて、ハンドエリアG3a(ハンドエリアG3bおよびハンドエリアG3c)の外縁部近傍を8分割したエリアG14を準備する。そして、視野外に位置している医療器具4に対応するエリアG14を白く塗りつぶすことにより、視野外に位置している医療器具4を示してもよい。
【0137】
また、上記第1および第2実施形態では、アーム60が4つ設けられている例を示したが、本発明はこれに限られない。本発明では、アーム60の数は、少なくとも1つ以上設けられていれば他の任意の数であってもよい。
【0138】
また、上記第1および第2実施形態では、アーム部61およびポジショナ40が7軸多関節ロボットから構成されている例を示したが、本発明はこれに限られない。たとえば、アーム部61およびポジショナ40が7軸多関節ロボット以外の軸構成(例えば、6軸や8軸)の多関節ロボットなどから構成されていてもよい。
【0139】
また、上記第1および第2実施形態では、医療用マニピュレータ1が、医療用台車3と、ポジショナ40と、アームベース50とを備えている例を示したが、本発明はこれに限らない。たとえば、医療用台車3と、ポジショナ40と、アームベース50は必ずしも必要なく、医療用マニピュレータ1が、アーム60だけで構成されてもよい。
【0140】
また、上記第1実施形態では、黒の四角の中にアーム60の番号(1~4のいずれか)が表示される例を示したが、本発明はこれに限らない。たとえば、
図32の標識MK4に示すように、黒の四角の外縁e1が他の色(赤など)で囲われていてもよい。また、
図33(a)の標識MK5に示すように、黒の四角が表示されずに、白抜きの長円の中にアーム60の番号のみが表示されるか(操作対象の場合)、または、
図33(b)の標識MK5に示すように、灰色のアーム60の番号のみが表示されてもよい(操作対象でない場合)。
【0141】
また、上記第2実施形態では、矢印MK2aが平面的に示されている例を示したが、本発明はこれに限らない。たとえば、矢印MK2aを立体的(3次元的)に示してもよい。これにより、内視鏡6の視野外に位置する医療器具4が、操作者に対して近い側に位置している場合と、操作者に対して遠い側に位置している場合とを区別する(操作者が認識する)ことができる。
【0142】
また、上記第1および第2実施形態では、本発明のセンターエリアとして水準器LVが表示される水準器エリアG5が適用される例を示したが、本発明はこれに限らない。本発明では、本発明のセンターエリアとして水準器LVが表示される水準器エリアG5以外のエリアを適用してもよい。
【0143】
本明細書で開示する要素の機能は、開示された機能を実行するよう構成またはプログラムされた汎用プロセッサ、専用プロセッサ、集積回路、ASIC(Application Specific Integrated Circuits)、従来の回路、および/または、それらの組み合わせ、を含む回路または処理回路を使用して実行できる。プロセッサは、トランジスタやその他の回路を含むため、処理回路または回路と見なされる。本開示において、回路、ユニット、または手段は、列挙された機能を実行するハードウェアであるか、または、列挙された機能を実行するようにプログラムされたハードウェアである。ハードウェアは、本明細書に開示されているハードウェアであってもよいし、あるいは、列挙された機能を実行するようにプログラムまたは構成されているその他の既知のハードウェアであってもよい。ハードウェアが回路の一種と考えられるプロセッサである場合、回路、手段、またはユニットはハードウェアとソフトウェアの組み合わせであり、ソフトウェアはハードウェアおよび/またはプロセッサの構成に使用される。
【符号の説明】
【0144】
2 遠隔操作装置
4 医療器具(第1手術器具、第2手術器具、交換用手術器具)
6 内視鏡
8 画像処理装置(制御装置)
21L 操作ハンドル(第1操作ハンドル)
21R 操作ハンドル(第2操作ハンドル)
22 フットペダル(操作ペダル)
22c カメラペダル(内視鏡ペダル、操作ペダル)
24 モニタ(表示装置)
60 アーム(マニピュレータ)
60L 左アーム(第1マニピュレータ)
60R 右アーム(第2マニピュレータ)
60c アーム(第3マニピュレータ)
100 外科手術システム(手術システム)
CN1 (画像の)中央部
CN2 (センターエリアの)中央部
e (画像の)端部
ed (下方の)端部
el (左側の)端部
er (右側の)端部
eu (上方の)端部
gr 画像
G グラフィカルユーザインターフェイス
G2 カメラエリア(第4エリア)
G3a ハンドエリア(第1エリア)
G3b ハンドエリア(第2エリア)
G3c ハンドエリア(第3エリア)
G4 医療器具状態情報エリア(手術器具状態情報エリア)
G5 水準器エリア(センターエリア)
G5a 上辺部
G5b 左辺部
G5c 右辺部
G5d 下辺部
G6 左ポップアップエリア(操作ペダルエリア)
G7 右ポップアップエリア(操作ペダルエリア)
G10 ステータスエリア(手術システムエリア)
G11 外縁近傍エリア
G12 (医療器具が位置する方向に対応する)エリア
LV 水準器
MK1、MK2、MK3、MK4 MK5 標識
MK2a 矢印