IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー・オリンパスメディカルソリューションズ株式会社の特許一覧

特許7579698医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム
<>
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図1
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図2
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図3
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図4
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図5
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図6
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図7
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図8
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図9
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図10
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図11
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図12
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図13
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図14
  • 特許-医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-30
(45)【発行日】2024-11-08
(54)【発明の名称】医療情報管理サーバ、手術トレーニング装置、画像送信方法およびプログラム
(51)【国際特許分類】
   G09B 9/00 20060101AFI20241031BHJP
   G09B 23/28 20060101ALI20241031BHJP
【FI】
G09B9/00 Z
G09B23/28
【請求項の数】 11
(21)【出願番号】P 2020215826
(22)【出願日】2020-12-24
(65)【公開番号】P2021152636
(43)【公開日】2021-09-30
【審査請求日】2023-10-17
(31)【優先権主張番号】P 2020048703
(32)【優先日】2020-03-19
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】313009556
【氏名又は名称】ソニー・オリンパスメディカルソリューションズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】市川 潔
【審査官】岸 智史
(56)【参考文献】
【文献】特開2002-006735(JP,A)
【文献】特開2006-006604(JP,A)
【文献】特開平11-197159(JP,A)
【文献】米国特許出願公開第2019/0286652(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G09B 1/00-9/56
G09B 17/00-19/26
(57)【特許請求の範囲】
【請求項1】
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部と、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する制御部と、
被検体の術中に撮像された術中動画データと、前記被検体に対して予めCT装置またはMRI装置によって撮像された2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記シミュレーションデータを生成する生成部と、
前記術中動画データと、前記2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記術中動画データに写る前記被検体の臓器および位置を推定する推論部と、
を備え
前記生成部は、
前記推論部の推定結果に基づいて、前記術中動画データおよび前記2次元画像データおよび3次元データの少なくとも一方の各々に含まれる臓器の位置合わせを行って前記シミュレーションデータを生成する、
医療情報管理サーバ。
【請求項2】
請求項に記載の医療情報管理サーバであって、
前記術中動画データは、
マルチスペクトル光源によってマルチスペクトル光が前記被検体に照射され、該被検体からの戻り光を受光することによって、少なくとも生体組織毎の反射周波数を含むスペクトル画像データを含み、
前記推論部は、
前記スペクトル画像データに含まれる前記生体組織毎の反射周波数を用いて少なくとも前記生体組織の種別および位置を推定する、
医療情報管理サーバ。
【請求項3】
請求項1に記載の医療情報管理サーバであって、
前記記録部は、
前記複数のシミュレーションデータに、前記複数のシミュレーションデータの各々を執刀した複数の術者に関する複数の術者情報をさらに対応付けて記録し、
前記制御部は、
前記クライアント側で前記複数の術者情報のいずれか1つが選択された場合、選択された前記術者情報に応じた前記複数のシミュレーションデータを前記クライアント側へ送信する、
医療情報管理サーバ。
【請求項4】
請求項1に記載の医療情報管理サーバであって、
前記記録部は、
前記複数のシミュレーションデータに、前記複数のシミュレーションデータの各々において使用された複数の医療器具に関する複数の医療器具情報をさらに対応付けて記録し、
前記制御部は、
前記シミュレーションデータを前記クライアント側へ送信する場合、該シミュレーションデータに対応付けられた前記医療器具情報を併せて前記クライアント側へ送信する、
医療情報管理サーバ。
【請求項5】
請求項に記載の医療情報管理サーバであって、
前記制御部は、
前記クライアント側で前記複数の医療器具情報のいずれか1つ以上が選択された場合、選択された前記医療器具情報を前記クライアント側へ送信する、
医療情報管理サーバ。
【請求項6】
請求項1に記載の医療情報管理サーバであって、
前記制御部は、
前記シミュレーションデータを前記クライアント側へ送信した場合、前記クライアント側を操作する操作者の識別情報に基づいて、前記操作者に対して課金を行う、
医療情報管理サーバ。
【請求項7】
請求項に記載の医療情報管理サーバであって、
前記制御部は、
前記識別情報に対応付けられたレベルに基づいて、前記クライアント側で選択可能な前記手術手技に関する手術手技情報を前記クライアント側へ送信する、
医療情報管理サーバ。
【請求項8】
請求項に記載の医療情報管理サーバであって、
前記制御部は、
前記識別情報に基づいて、前記操作者が前記シミュレーションデータを用いて仮想的にトレーニングを行った回数に対して点数を付与する、
医療情報管理サーバ。
【請求項9】
請求項に記載の医療情報管理サーバであって、
前記記録部は、
前記複数のシミュレーションデータの各々のレベルをさらに対応付けて記録する、
医療情報管理サーバ。
【請求項10】
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部を備える医療情報管理サーバが実行する画像送信方法であって、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する制御ステップと
被検体の術中に撮像された術中動画データと、前記被検体に対して予めCT装置またはMRI装置によって撮像された2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記シミュレーションデータを生成する生成ステップと、
前記術中動画データと、前記2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記術中動画データに写る前記被検体の臓器および位置を推定する推定ステップと、
を含み、
前記生成ステップは、
前記推定ステップの推定結果に基づいて、前記術中動画データおよび前記2次元画像データおよび3次元データの少なくとも一方の各々に含まれる臓器の位置合わせを行って前記シミュレーションデータを生成する、
画像送信方法。
【請求項11】
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部を備える医療情報管理サーバが実行するプログラムであって、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する制御ステップと
被検体の術中に撮像された術中動画データと、前記被検体に対して予めCT装置またはMRI装置によって撮像された2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記シミュレーションデータを生成する生成ステップと、
前記術中動画データと、前記2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記術中動画データに写る前記被検体の臓器および位置を推定する推定ステップと、
を実行させ、
前記生成ステップは、
前記推定ステップの推定結果に基づいて、前記術中動画データおよび前記2次元画像データおよび3次元データの少なくとも一方の各々に含まれる臓器の位置合わせを行って前記シミュレーションデータを生成する
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、シミュレーションデータを管理および配信する医療情報管理サーバ、手術トレーニング装置、手術トレーニングシステム、画像送信方法、表示方法およびプログラムに関する。
【背景技術】
【0002】
従来、手術トレーニング装置として、内視鏡の移動に伴う教材映像の見え方の練習時の表示に再現する技術が知られている(例えば特許文献1参照)。この技術では、教材用内視鏡による教材映像の撮像過程における教材用内視鏡の動き履歴を、内部に手術練習空間を提供する練習器内に挿入された練習用内視鏡に再現させ、かつ、教材映像と練習用内視鏡による撮像映像とを合成して表示させる。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2016-148765号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、医学生や研修医は、優れた術者になるため、実際の手術や症例に数多く立ち会ったうえ、様々な手術や経験を積まなければならなかった。しかしながら、上述した特許文献1では、1つの教材用内視鏡の動き履歴を練習用内視鏡によって再現しているに過ぎないため、様々な手術や症例に対応することができないうえ、同じ症例であっても医学生や研修医が術者や教授による手技をトレースしてみたり、別のアプローチによる手技を試みたりしたりすることができなかった。
【0005】
本開示は、上記に鑑みてなされたものであって、実手術に相当する経験を積むことができる医療情報管理サーバ、手術トレーニング装置、手術トレーニングシステム、画像送信方法、表示方法およびを提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本開示に係る医療情報管理サーバは、少なくとも複数の手術手技と、複数のシミュレーションデータと、を対応付けて記録する記録部と、クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する制御部と、を備える。
【0007】
また、本開示に係る手術トレーニング装置は、複数の手術手技に対応付けた複数のシミュレーションデータを記録する医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、1つ以上の医療器具と、前記医療器具に対する操作者による操作内容を検出する検出部と、前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる制御部と、を備え、前記制御部は、前記検出部が検出した前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御する。
【0008】
また、本開示に係る手術トレーニングシステムは、医療情報管理サーバと、ネットワークを経由して前記医療情報管理サーバと通信可能な手術トレーニング装置と、を備え、前記医療情報管理サーバは、少なくとも複数の手術手技と、複数のシミュレーションデータと、を対応付けて記録する記録部と、クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する第1の制御部と、を備え、前記手術トレーニング装置は、前記医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、被検体を模倣した模型に対して処置可能な1つ以上の医療器具と、前記医療器具に対する操作者による操作内容を検出する検出部と、前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる第2の制御部と、を備え、前記第2の制御部は、前記検出部が検出した前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御する。
【0009】
また、本開示に係る画像送信方法は、少なくとも複数の手術手技と、複数のシミュレーションデータと、を対応付けて記録する記録部を備える医療情報管理サーバが実行する画像送信方法であって、クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する。
【0010】
また、本開示に係る表示方法は、複数の手術手技に対応付けた複数のシミュレーションデータを記録する医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、被検体を模倣した模型に対して処置可能な1つ以上の医療器具と、を備える手術トレーニング装置が実行する表示方法であって、前記医療器具に対する操作者による操作内容を検出し、前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる、かつ、前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御する。
【0011】
また、本開示に係るプログラムは、少なくとも複数の手術手技と、複数のシミュレーションデータと、を対応付けて記録する記録部を備える医療情報管理サーバが実行するプログラムであって、クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信させる。
【0012】
また、本開示に係るプログラムは、複数の手術手技に対応付けた複数のシミュレーションデータを記録する医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、被検体を模倣した模型に対して処置可能な1つ以上の医療器具と、を備える手術トレーニング装置に実行させるプログラムであって、前記医療器具に対する操作者による操作内容を検出させ、前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる、かつ、前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御させる。
【発明の効果】
【0013】
本開示によれば、実手術に相当する経験を積むことができるという効果を奏する。
【図面の簡単な説明】
【0014】
図1図1は、一実施の形態に係る手術トレーニングシステムの概略構成を示す図である。
図2図2は、一実施の形態に係る手術トレーニング装置の要部の機能構成を示すブロック図である。
図3図3は、一実施の形態に係る医療情報管理サーバの機能構成を示すブロックである。
図4図4は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図5図5は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図6図6は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図7図7は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図8図8は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図9図9は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図10図10は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図11図11は、一実施の形態に係る表示装置が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
図12図12は、一実施の形態に係る医療情報管理サーバが実行する処理の概要を示すフローチャートである。
図13図13は、図12のシミュレーションデータ送信処理の概要を示すフローチャートである。
図14図14は、図12のシミュレーションデータ生成処理の概要を示すフローチャートである。
図15図15は、一実施の形態に係る手術トレーニング装置が実行する処理の概要を示すフローチャートである。
【発明を実施するための形態】
【0015】
本開示を実施するための形態を図面とともに詳細に説明する。なお、以下の実施の形態により本開示が限定されるものではない。また、以下の説明において、参照する各図は、本開示の内容を理解でき得る程度に形状、大きさ、および位置関係を概略的に示してあるに過ぎない。即ち、本開示は、各図で例示された形状、大きさ、および位置関係のみに限定されるものでない。さらに、図面の記載において、同一の部分には同一の符号を付して説明する。さらにまた、本開示に係る手術トレーニングシステムの一例として、腹腔鏡による内視鏡システムを用いた手術トレーニングシステムについて説明するが、手術用の顕微鏡システムを用いた手術トレーニングシステムであっても適用することができる。
【0016】
〔手術トレーニングシステムの概略構成〕
図1は、一実施の形態に係る手術トレーニングシステムの概略構成を示す図である。図1に示す手術トレーニングシステム1は、人や動物等の被検体を模倣した模型Oの腹部にトロッカーを用いて複数の穴を形成し、炭酸ガス等によって模型Oの腹部を膨らませた状態で、操作者U1(トレーニー(Trainee))が医療用撮像装置(硬性鏡等のビデオスコープ)、鉗子および電気メス等のエネルギーデバイスのいずれか1つ以上の医療器具を模型O内に挿入しながら観察および処置を行いながらが腹腔鏡手術のトレーニングを行うシステムである。なお、図1では、模型Oに対して穴を2カ所形成しているが、トレーニング内容、例えばトレーニングを行う症例、術式および手術手技に応じて適宜変更することができる。
【0017】
図1に示す手術トレーニングシステム1は、トロッカー10と、トロッカー20と、医療器具30と、医療器具40と、表示装置50と、制御装置60と、医療情報管理サーバ70と、複数の病院管理サーバ80と、を備える。なお、一実施の形態では、トロッカー10、トロッカー20、医療器具30、医療器具40、表示装置50および制御装置60が手術トレーニング装置2として機能する。
【0018】
トロッカー10,20は、筒状をなし、模型Oに対して挿入される。トロッカー10,20は、後述する医療器具30または医療器具40が挿入される。
【0019】
医療器具30は、トロッカー10を経由して模型O内に挿入される。医療器具30は、医者や研修医等の術者の操作に応じて観察対象に対して処置を模擬的に行う。また、医療器具30は、術者の操作内容を検出し、この検出結果を、伝送ケーブルを経由して術者の操作内容を制御装置60へ出力する。医療器具30は、例えば注射、鉗子、ナイフ、高周波スネア、処置具および高周波メスや電気メス等のエネルギーデバイスである。
【0020】
医療器具40は、トロッカー20を経由して模型O内に挿入される。医療器具40は、医者や研修医等の術者の操作に応じて観察対象に対して処置を模擬的に行う。また、医療器具40は、術者の操作内容を検出し、この検出結果を、伝送ケーブルを経由して術者の操作内容を制御装置60へ出力する。医療器具40は、例えば注射、鉗子、ナイフ、高周波スネア、処置具および高周波メスや電気メス等のエネルギーデバイスである。
【0021】
表示装置50は、制御装置60の制御のもと、制御装置60から入力された画像データに基づく2次元画像または3次元画像によって表示する。表示装置50は、例えば液晶ディスプレイや有機ELディスプレイ(Organic Electroluminescent Display)等および音声スピーカ等を用いて実現される。
【0022】
制御装置60は、手術トレーニング装置2の各部を制御する。制御装置60は、ネットワーク90を経由して医療情報管理サーバ70から入力されたシミュレーションデータに対して各種の画像処理を行って出力することによってシミュレーションデータに基づくシミュレーション動画を表示装置50に表示させる。制御装置60は、メモリと、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)およびFPGA(Field-Programmable Gate Array)等のハードウェアと、を備えるプロセッサを用いて実現される。ここで、シミュレーションデータとは、臓器を用いた3次元空間における手術シミュレーションを行うためのデータであって、臓器または医療器具に関するデータを含む。臓器および医療器具毎のシミュレーションデータは、例えば、以下のパラメータを含み、三次元空間上のポリゴンデータ等で規定される。
(1)位置(臓器の位置(座標情報))
(2)形状(臓器の形状、医療器具毎の形状)
さらに、臓器および医療器具毎のシミュレーションデータは、以下のパラメータ(3)~(7)を含んでいてもよい。
(3)質量密度
(4)剛性
(5)摩擦
(6)粘性
(7)触覚
また、シミュレーションデータは、医療器具または臓器の経時的な動きや変形に関する時系列変化の情報をさらに含むことができる。
【0023】
医療情報管理サーバ70は、ネットワーク90を経由して制御装置60から要求されたシミュレーションデータを送信する。また、医療情報管理サーバ70は、複数の患者の各々をCT(Computed Tomography)装置またはMRI(Magnetic Resonance Imaging)装置等によって取得した少なくとも臓器に関するデータを含む2次元画像データまたは3次元画像データを記録する。さらに、医療情報管理サーバ70は、医療用撮像装置によって被検体の術中に撮像された術中動画データと、CT装置またはMRI装置によって撮像された少なくとも臓器に関するデータを含む2次元画像データおよび3次元画像データの少なくとも一方とに基づくシミュレーション画像データ等を記録する。医療情報管理サーバ70は、CPU、GPU、やFPGA等のハードウェアを備えるプロセッサと、HDD(Hard Disk Drive)およびSSD(Solid State Drive)等を用いて実現される。
【0024】
複数の病院管理サーバ80は、ネットワーク90を経由して医療情報管理サーバ70において生成されるシミュレーションデータのための教材データを医療情報管理サーバ70へ送信する。ここで、教材データとは、複数の被検体(患者)の各々をCT装置またはMRI装置等によって取得した2次元画像データまたは3次元画像データと、医療用撮像装置(例えば内視鏡や硬性鏡等のビデオマイクロスコープ)によって複数の被検体(患者)の各々の術中に撮像された少なくとも臓器(例えば胃や腸等)を含む術中動画データと、複数の被検体の各々に関する被検体情報(患者情報)と、複数の被検体の各々を執刀した複数の執刀医(術者や病院名)と、複数の被検体の各々の手術手技に関する手技情報と、手術手技に用いられた複数の医療器具の各々に関する医療器具情報と、対応付けた動画ファイルである。複数の病院管理サーバ80は、CPU、GPU、やFPGA等のハードウェアを備えるプロセッサと、HDDおよびSSD等を用いて実現される。
【0025】
〔手術トレーニング装置の要部の機能構成〕
次に、手術トレーニング装置2の要部の機能構成について説明する。図2は、手術トレーニング装置2の要部の機能構成を示すブロック図である。
【0026】
〔医療器具の構成〕
まず、医療器具30の構成について説明する。医療器具30は、第1の検出部31と、第2の検出部32と、記録部33と、通信部34と、を備える。なお、医療器具40は、医療器具30と同様の構成のため、詳細な説明は省略する。
【0027】
第1の検出部31は、術者が把持する医療器具30のトロッカー10に対する抜き差し、例えば押し込み量または引き抜き量を検出し、この検出結果を通信部34へ出力する。第1の検出部31は、例えばジャイロセンサおよび加速度センサ等を用いて実現される。
【0028】
第2の検出部32は、術者が操作する医療器具30の開閉操作に伴う圧力値(押圧値)または速度を検出し、この検出結果を通信部34へ出力する。第2の検出部32は、圧力センサ、ジャイロセンサおよび加速度センサ等を用いて実現される。
【0029】
記録部33は、揮発性メモリや不揮発メモリを用いて実現され、医療器具30に関する医療器具情報を記録する。ここで、医療器具情報とは、医療器具30の機種名、形状、品番、医療器具の種別情報(例えば鉗子や電気メス等の種別)および製造年月日等である。記録部33は、医療器具情報を通信部34へ出力する。
【0030】
通信部34は、第1の通信部61と通信可能であり、第1の検出部31の検出結果、第2の検出部32の検出結果および記録部33が記録する医療器具情報を制御装置60へ送信する。通信部34は、通信モジュール等を用いて実現される。
【0031】
〔制御装置の構成〕
次に、制御装置60の構成について説明する。制御装置60は、第1の通信部61と、画像処理部62と、入力部63と、記録部64と、第2の通信部65と、制御部66と、を備える。
【0032】
第1の通信部61は、制御部66の制御のもと、医療器具30,40に各種の制御データを送信し、かつ、医療器具30,40、医療情報管理サーバ70から送信された各種のデータを画像処理部62または制御部66へ出力する。第1の通信部61は、例えばS/P変換回路および通信モジュール等を用いて実現される。また、第1の通信部61は、医療器具30,40に対して無線通信または光通信によって各種データを送信してもよい。
【0033】
画像処理部62は、制御部66の制御のもと、第1の通信部61を経由して医療情報管理サーバ70から入力されたシミュレーションデータ(ポリゴン動画データ)に基づくシミュレーション動画を表示させる。具体的には、画像処理部62は、被検体内の観察対象のシミュレーション画像(ポリゴンデータ動画データにグラフィック化を施したシミュレーション動画)を生成し、このシミュレーション動画を表示装置50へ出力することによってシミュレーション動画を表示させる。画像処理部62は、メモリと、GPU(Graphics Processing Unit)およびFPGA等のハードウェアを有するプロセッサを用いて実現される。
【0034】
入力部63は、ユーザからの操作の入力を受け付け、受け付けた操作内容に応じて信号を制御部66へ出力する。入力部63は、マウス、キーボード、タッチパネル、スイッチおよびボタン等を用いて実現される。
【0035】
記録部64は、手術トレーニング装置2に関する各種のデータを記録する。記録部64は、手術トレーニング装置2が実行する各種のプログラムを記録するプログラム記録部641を有する。記録部64は、RAM(Random Access Memory)、ROM(Read Only Memory)、HDD(Hard Disk Drive)およびSSD(Solid State Drive)等を用いて実現される。
【0036】
第2の通信部65は、制御部66の制御のもと、ネットワーク90を経由して医療情報管理サーバ70からシミュレーションデータを取得し、取得したシミュレーションデータを制御部66および画像処理部62へ出力する。第2の通信部65は、通信モジュール等を用いて実現される。
【0037】
制御部66は、制御装置60を構成する各部を制御する。制御部66は、第2の通信部65を経由して医療情報管理サーバ70から取得したシミュレーションデータに基づくシミュレーション動画上に医療器具に関する医療器具画像を表示装置50に表示させる。具体的には、制御部66は、第1の検出部31および第2の検出部32の各々が検出した医療器具30の操作内容に基づいて、表示装置50が表示する医療器具画像およびシミュレーション動画の表示態様を制御する。また、制御部66は、入力部63から表示装置50が表示するシミュレーション動画を停止する停止信号が入力された場合において、第1の検出部31および第2の検出部32の各々が検出した操作内容に基づいて、シミュレーション動画の視点を変更する。具体的には、制御部66は、シミュレーション動画の下層のレイヤーや現視点の視野領域から右マ周りに90度回転させた視点のシミュレーション動画を表示装置50に表示させる。制御部66は、メモリと、CPU等のハードウェアを有するプロセッサを用いて実現される。なお、一実施の形態では、制御部66が第2の制御部として機能する。
【0038】
〔医療情報管理サーバの構成〕
次に、医療情報管理サーバ70の構成について説明する。図3は、医療情報管理サーバ70の機能構成を示すブロックである。図3に示す医療情報管理サーバ70は、通信部71と、記録部72と、生成部73と、推論部74と、シミュレーションデータ記録部75と、画像データ記録部76と、ユーザデータ記録部77と、医療器具データ記録部78と、サーバ制御部79と、を備える。
【0039】
通信部71は、サーバ制御部79の制御のもと、ネットワーク90を経由して制御装置60(クライアント側)から要求があったシミュレーションデータを制御装置60へ送信する。通信部71は、通信モジュール等を用いて実現される。
【0040】
記録部72は、医療情報管理サーバ70に関する各種のデータを記録する。記録部72は、医療情報管理サーバ70が実行する各種のプログラムを記録するプログラム記録部721を有する。記録部72は、RAMおよびROM等を用いて実現される。
【0041】
生成部73は、サーバ制御部79の制御のもと、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された被検体の術中に撮像された術中動画データと、被検体に対して予めCT装置またはMRI装置によって撮像された2次元画像データおよび3次元データの少なくとも一方と、に基づいて、シミュレーションデータを生成し、このシミュレーションデータをシミュレーションデータ記録部75に記録する。また、生成部73は、後述する推論部74の推論結果に基づいて、術中動画データと、2次元画像データおよび3次元データの少なくとも一方との各々に含まれる臓器の位置合わせを行ってシミュレーションデータを生成する。さらに、生成部73は、後述する推論部74の推論結果に基づいて、術中動画データと、2次元画像データおよび3次元データの少なくとも一方との各々に含まれる臓器の向きおよびつぶれ具合等を反映したシミュレーションデータを生成する。生成部73は、メモリと、GPU等のハードウェアを有するプロセッサを用いて実現される。
【0042】
推論部74は、サーバ制御部79の制御のもと、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された術中動画データと、2次元画像データおよび3次元データの少なくとも一方と、に基づいて、術中動画データに写る被検体の臓器および位置を推定し、この推定結果を生成部73へ出力する。推論部74は、学習パラメータとして、術中動画データ、この術中動画データに写る臓器および位置、医療用撮像装置(ビデオスコープ)の先端から臓器までの距離を示す距離情報および術中動画データの特徴量、複数のシミュレーションデータ(例えばCT画像データおよびMRI画像データの少なくとも一方に基づくポリゴンデータ)等を学習パラメータ(教師データ)として、この学習パラメータをディープラーニング(Deep Learning)等によって機械学習され、出力パラメータとして術中動画データに写る被検体の観察対処の臓器および位置を推定した推定結果を出力する学習済みモデルを用いて実現される。ここで、機械学習としては、DNN(Deep Neural Network)、CNN(Convolutional Neural Network)およびRNN(Recurrent Neural Network)等が用いられる。また、推論部74は、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された術中動画データが光源装置によってマルチスペクトル光が照射されたマルチスペクトル画像データである場合、マルチスペクトル画像データに含まれる反射光周波数(各スペクトル毎)の違いを用いてマルチスペクトル画像データに写る被検体の観察対象の各部の生体組織種別(例えば胆嚢や膵臓等の臓器、血管、神経、リンパ、尿管および脂肪等)と、それらの位置(領域)と、を推定し、この推定結果を生成部73へ出力する。さらに、推論部74は、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された術中動画データに対応付けられた医療用撮像装置の位置、向き、被検体の挿入位置、被検体へ挿入された操作量(距離)と、に基づいて、医療用撮像装置の光学系の光軸(トロッカーの挿入方向)に対する基準としたときの術中動画データに写る臓器、血管および神経等の向き(方向)およびつぶれ具合等を推定し、この推定結果を生成部73へ出力する。推論部74は、メモリと、GPU等のハードウェアを有するプロセッサを用いて実現される。
【0043】
シミュレーションデータ記録部75は、複数の手術手技と、複数のシミュレーションデータと、を対応付けて記録する。具体的には、図4の表T1に示すように、シミュレーションデータ記録部75は、手術手技と、シミュレーションデータと、このシミュレーションデータを執刀した術者を識別する術者情報と、このシミュレーションデータに用いられた医療器具に関する医療器具情報と、このシミュレーションデータのレベルを示すレベル情報と、を対応付けて記録する。シミュレーションデータ記録部75は、HDDやSSD等を用いて実現される。
【0044】
画像データ記録部76は、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信されたCT装置によって撮像された2次元画像データまたはMRI検査によって撮像された3次元画像データと、病院名を示す病院識別情報、被検体に関する被検体情報(患者情報)と、を対応付けて記録する。ここで、被検体情報とは、被検体の氏名、病名、診察履歴、生体情報、担当医および執刀医等である。画像データ記録部76は、HDDおよびSSD等を用いて実現される。
【0045】
ユーザデータ記録部77は、ネットワーク90を経由して医療情報管理サーバ70において手術トレーニング装置2を用いてトレーニングを行った複数の操作者U1の各々に関する識別情報を記録する。具体的には、図5の表T2に示すように、ユーザデータ記録部77は、操作者U1を識別する識別情報として、ユーザIDと、操作者U1の手術トレーニングによるレベル(難易度)と、トレーニング内容と、対応付けて記録する。さらに、ユーザデータ記録部77は、ユーザIDに、トレーニングの回数、ユーザIDが所属する病院や学会、住所および銀行口座を対応付けて記録してもよい。ユーザデータ記録部77は、HDDおよびSSD等を用いて実現される。
【0046】
医療器具データ記録部78は、医療器具に関する医療器具情報を記録する。ここで、医療器具情報とは、医療器具の機種名、型番、アニメーションデータ、CADデータ(ポリゴンデータ)等である。
【0047】
サーバ制御部79は、医療情報管理サーバ70を構成する各部を制御する。サーバ制御部79は、メモリと、CPU等のハードウェアを有するプロセッサを用いて実現される。サーバ制御部79は、制御装置60(クライアント側)で複数の手術手技のいずれか1つが選択された場合、選択された手術手技に対応するシミュレーションデータを制御装置60(クライアント)側へ送信する。サーバ制御部79は、判定部791と、課金部792と、点数付与部793と、を有する。なお、一実施の形態では、サーバ制御部79が第1の制御部として機能する。
【0048】
判定部791は、制御装置60およびネットワーク90を経由して医療情報管理サーバ70にアクセスされた操作者U1の識別情報と、ユーザデータ記録部77が記録する識別情報とを判定し、この判定結果を課金部792および点数付与部793へ出力する。
【0049】
課金部792は、判定部791の判定結果に基づいて、ユーザデータ記録部77が記録するユーザIDに対応するユーザが登録した登録住所または所属病院に対して、制御装置60にダウンロードされたシミュレーションデータのレベルまたは回数に基づく料金を請求することによって課金を行う。
【0050】
点数付与部793は、判定部791の判定結果に基づいて、ユーザデータ記録部77が記録するユーザIDに、シミュレーション動画に対応付けられたレベル、またはシミュレーションデータでトレーニングを行った回数に応じた点数を付与する。
【0051】
〔トレーニング方法の概要〕
次に、手術トレーニングシステム1による手術トレーニング方法の概要について説明する。図6図11は、表示装置50が表示する手術トレーニングを行う際に表示する設定画面の一例を示す図である。
【0052】
まず、操作者U1は、制御装置60の入力部63を用いて医療情報管理サーバ70のブラウザへアクセスし、操作者U1を識別するための識別情報(ユーザIDおよびパスワード等)を入力する。この場合、医療情報管理サーバ70は、ブラウザにアクセスした制御装置60(クライアント側)にトレーニング画面データを制御装置60に送信する。これにより、図6に示すように、表示装置50は、制御装置60の制御のもと、トレーニング画面データに対応するトレーニング画面W1を表示する。トレーニング画面W1には、少なくとも、手術手技のレベルと、手術手技の手術対象(例えば直腸)と、ミッション(例えば腫瘍摘出および縫合)と、シミュレーションデータに対応するサムネイル画像SM1と、が含まれる。図6に示すように、操作者U1は、入力部63を用いてポインター等を操作し、所望のレベル、所望の手術対象を所定の各セルに設定する。この場合、制御装置60は、操作者U1によって設定された設定内容を医療情報管理サーバ70へ送信する。
【0053】
また、図7に示すように、医療情報管理サーバ70は、制御装置60から手術手技のリアリズム設定およびトレーニング中における各種のモードの設定を要求する要求信号が入力された場合、リアリズム設定およびパニックモード設定画面データを制御装置60に送信する。これにより、図7に示すように、表示装置50は、制御装置60の制御のもと、リアリズム設定およびパニックモード設定画面W2を表示する。リアリズム設定およびパニックモード設定画面W2には、少なくとも、出血スピードと、血圧低下スピードと、O2低下と、奇形臓帯・血管と、硬さ・もろさと、バイタルと、手術中のパニックの有無と、が含まれる。
【0054】
さらに、図8に示すように、医療情報管理サーバ70は、制御装置60から医療器具を選択する処理具選択およびセッティングを要求する要求信号が入力された場合、処理具選択およびセッティング設定画面データを制御装置60に送信する。これにより、図8に示すように、表示装置50は、制御装置60の制御のもと、処理具選択およびセッティング設定画面W3を表示する。処理具選択およびセッティング設定画面W3には、操作者U1が選択した手術手技に用いる複数の医療器具M1~M5(複数の処置具)が含まれる。例えば、処理具選択およびセッティング設定画面W3には、鉗子、電気メス、医療用撮像装置(硬性鏡)等が含まれる。操作者U1は、トレーニングで行う手術手技に用いる医療器具を選択する。さらに、操作者U1は、医療情報管理サーバ70に対して課金等を行うことによって選択することができる医療器具(選択アイテム)を増やすことができる。この場合、医療情報管理サーバ70は、操作者U1の識別情報に基づいて、選択された医療器具の数に応じた料金を請求する。
【0055】
また、図9に示すように、医療情報管理サーバ70は、制御装置60から手術手技または症例ベースを要求する要求信号が入力された場合、複数の手術手技または複数の症例の各々に対応する複数のシミュレーションデータのサムネイル画像を一覧表示した症例選択画面データを制御装置60へ送信する。これにより、図9に示すように、表示装置50は、制御装置60の制御のもと、症例選択画面W4を表示する。症例選択画面W4には、複数のシミュレーションデータの各々に対応するサムネイル画像P1~P5が含まれる。操作者U1は、所望のサムネイル画像を選択する。この場合、医療情報管理サーバ70は、制御装置60から入力された選択信号に応じたサムネイル画像のシミュレーションデータの執刀した術者(執刀医)に関する術者データを制御装置60へ送信する。これにより、図10に示すように、表示装置50は、制御装置60の制御のもと、指導教授等である術者に関する術者画面W5を表示する。術者画面W5には、術者(執刀医)の肖像、術者が執刀した症例、手術手技、手術トレーニングシステム1によるレベルおよびメッセージ等が含まれる。
【0056】
また、図11に示すように、医療情報管理サーバ70は、制御装置60から新規のアプローチのシミュレーションデータを要求する要求信号が入力された場合、規新のアプローチのシミュレーションデータ画面データを制御装置60へ送信する。これにより、図10に示すように、表示装置50は、制御装置60の制御のもと、規新のアプローチのシミュレーションデータ画面W6を表示する。シミュレーションデータ画面W6には、シミュレーション動画に対応するサムネイル画像SM2等が含まれる。
【0057】
このように、操作者U1は、制御装置60の入力部63を用いて医療情報管理サーバ70からレベルに応じた所望の手術症例のシミュレーションデータを制御装置60にダウンロードさせることによって、トレーニングを行うことができる。
【0058】
〔医療情報管理サーバの処理〕
次に、医療情報管理サーバ70が実行する処理について説明する。図12は、医療情報管理サーバ70が実行する処理の概要を示すフローチャートである。
【0059】
まず、サーバ制御部79は、クライアント側から要求があったか否かを判断する(ステップS1)。具体的には、サーバ制御部79は、ネットワーク90を経由して制御装置60(クライアント側)から各種のシミュレーションデータを要求する要求信号が入力されたか否かを判断する。サーバ制御部79によってクライアント側から要求があったと判断された場合(ステップS1:Yes)、医療情報管理サーバ70は、後述するステップS2へ移行する。これに対して、サーバ制御部79によってクライアント側から要求がなかったと判断された場合(ステップS1:No)、医療情報管理サーバ70は、後述するステップS4へ移行する。
【0060】
ステップS2において、医療情報管理サーバ70は、クライアント側へシミュレーションデータを送信するシミュレーションデータ送信処理を実行する。なお、シミュレーション動画送信処理の詳細は、後述する。
【0061】
続いて、サーバ制御部79は、クライアント側からのアクセスが終了したか否かを判断する(ステップS3)。サーバ制御部79によってクライアント側からのアクセスが終了したと判断された場合(ステップS3:Yes)、医療情報管理サーバ70は、本処理を終了する。これに対して、サーバ制御部79によってクライアント側からのアクセスが終了していないと判断された場合(ステップS3:No)、医療情報管理サーバ70は、上述したステップS1へ戻る。
【0062】
ステップS4において、サーバ制御部79は、ネットワーク90を経由して複数の病院管理サーバ80のいずれか1つから術中動画データと2次元画像データおよび3次元画像データを受信したか否かを判断する。サーバ制御部79によって複数の病院管理サーバ80のいずれか1つから術中動画データと2次元画像データおよび3次元画像データを受信したと判断された場合(ステップS4:Yes)、医療情報管理サーバ70は、後述するステップS5へ移行する。これに対して、サーバ制御部79によって複数の病院管理サーバ80のいずれか1つから術中動画データと2次元画像データおよび3次元画像データを受信していないと判断された場合(ステップS4:No)、医療情報管理サーバ70は、ステップS3へ移行する。
【0063】
ステップS5において、医療情報管理サーバは、術中動画データと、2次元画像データおよび3次元画像データのいずれか一方と、に基づいて、シミュレーションデータを生成するシミュレーションデータ生成処理を実行する。なお、シミュレーションデータ生成処理の詳細は、後述する。ステップS5の後、医療情報管理サーバ70は、ステップS3へ移行する。
【0064】
〔シミュレーションデータ送信処理の概要〕
次に、上述した図12のステップS2において説明したシミュレーションデータ送信処理の概要について説明する。図13は、シミュレーションデータ送信処理の概要を示すフローチャートである。
【0065】
図13に示すように、まず、サーバ制御部79は、ネットワーク90および通信部71を経由してアクセスされた制御装置60(クライアント側)から送信された操作者U1を識別する識別情報を取得する(ステップS101)。この場合、判定部791は、ユーザデータ記録部77が記録する識別情報と制御装置60から送信された操作者U1の識別情報とを判定する。
【0066】
続いて、判定部791は、制御装置60から手術トレーニングにおいてミッションを設定する設定信号が入力されたか否かを判断する(ステップS102)。判定部791によって制御装置60から手術トレーニングにおいてミッションを設定する設定信号が入力されたと判断された場合(ステップS102:Yes)、医療情報管理サーバ70は、後述するステップS103へ移行する。これに対して、判定部791によって制御装置60から手術トレーニングにおいてミッションを設定する設定信号が入力されていないと判断された場合(ステップS102:No)、医療情報管理サーバ70は、後述するステップS105へ移行する。
【0067】
ステップS103において、サーバ制御部79は、制御装置60から手術トレーニングにおいて設定されたミッションに対応するシミュレーションデータを通信部71に送信させる(ステップS103)。具体的には、サーバ制御部79は、シミュレーションデータ記録部75が記録する複数のシミュレーションデータの中から制御装置60から手術トレーニングにおいて設定されたミッションに対応するシミュレーションデータを取得し、取得したシミュレーションデータを通信部71に送信させる。これにより、操作者U1は、表示装置50が表示するシミュレーション動画を見ながら設定したミッションに応じたトレーニングを行うことができる。
【0068】
続いて、サーバ制御部79は、識別情報と、制御装置60にダウンロードされたシミュレーションデータのレベル等に基づいて、操作者U1に対して課金および識別情報に点数を付与する(ステップS104)。具体的には、課金部792は、判定部791によって判定されたユーザデータ記録部77が記録するユーザIDに一致するユーザが登録した登録住所または所属病院に対して、制御装置60にダウンロードされたシミュレーションデータのレベルまたは回数に基づく料金を請求することによって課金を行う。さらに、点数付与部793は、判定部791によって判定されたユーザデータ記録部77が記録するユーザIDに、シミュレーション動画に対応付けられたレベル、またはシミュレーションデータでトレーニングを行った回数に応じた点数を付与する。ステップS104の後、医療情報管理サーバ70は、図12のメインルーチンへ戻る。なお、課金部792による課金方法は、一例であり、シミュレーションデータのレベル以外にも、新たな医療器具の医療器具情報のダウンロード、新たな手術手技のシミュレーションデータのダウンロード、所定の執刀医によるシミュレーションデータのダウンロードに対して、課金することによって請求してもよい。
【0069】
ステップS105において、判定部791は、制御装置60から複数の手術手技症例から所望の手術手技症例を選択するための要求信号が入力されたか否かを判断する。判定部791によって制御装置60から複数の手術手技症例から所望の手術手技症例を選択するためおの要求信号が入力されたと判断された場合(ステップS105:Yes)、医療情報管理サーバ70は、後述するステップS106へ移行する。これに対して、判定部791によって制御装置60から複数の手術手技症例から所望の手術手技症例を選択するための要求信号が入力されていないと判断された場合(ステップS105:No)、医療情報管理サーバ70は、後述するステップS109へ移行する。
【0070】
ステップS106において、サーバ制御部79は、シミュレーションデータ記録部75が記録する複数のシミュレーションデータの各々に対応する複数の手術手技症例をまとめた手術手技症例情報を通信部71に送信させる。
【0071】
続いて、サーバ制御部79は、ネットワーク90および通信部71を経由して制御装置60から操作者U1が手術トレーニングにおいて使用する医療器具情報を制御装置60から取得する(ステップS107)。
【0072】
その後、サーバ制御部79は、シミュレーションデータ記録部75が記録する複数のシミュレーションデータの中から、操作者U1によって選択された手術手技症例および医療器具情報に基づいてシミュレーションデータを通信部71に送信させる(ステップS108)。これにより、操作者U1は、表示装置50において表示されるシミュレーション動画を見ながら医療器具30,40を用いた所望の手術手技症例の手術トレーニングを行うことができる。ステップS108の後、医療情報管理サーバ70は、ステップS104へ移行する。
【0073】
ステップS109において、判定部791は、制御装置60から複数の執刀医から所望の執刀医を選択するための要求信号が入力されたか否かを判断する。判定部791によって制御装置60から複数の執刀医から所望の執刀医を選択するための要求信号が入力されたと判断された場合(ステップS109:Yes)、医療情報管理サーバ70は、後述するステップS110へ移行する。これに対して、判定部791によって制御装置60から複数の執刀医から所望の執刀医を選択するための要求信号が入力されていないと判断された場合(ステップS109:No)、医療情報管理サーバ70は、ステップS104へ移行する。
【0074】
ステップS110において、サーバ制御部79は、シミュレーションデータ記録部75が記録する複数のシミュレーションデータの各々に対応する複数の執刀医をまとめた執刀医情報を通信部71に送信させる。
【0075】
続いて、サーバ制御部79は、ネットワーク90および通信部71を経由して制御装置60から操作者U1によって選択された執刀医情報を取得し(ステップS111)、シミュレーションデータ記録部75が記録する複数のシミュレーションデータの中から操作者U1によって選択された執刀医情報に基づいたシミュレーションデータを通信部71に送信させる(ステップS112)。これにより、操作者U1は、表示装置50において表示されるシミュレーション動画を見ながら執刀医による手術手技をトレースしたり、学習したりすることができる。ステップS112の後、医療情報管理サーバ70は、ステップS104へ移行する。
【0076】
〔シミュレーションデータ生成処理の概要〕
次に、上述した図12のステップS5において説明したシミュレーションデータ生成処理の概要について説明する。図14は、シミュレーションデータ生成処理の概要を示すフローチャートである。
【0077】
図14に示すように、まず、推論部74は、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された術中動画データと、少なくとも臓器に関するデータを含む2次元画像データおよび3次元データの少なくとも一方と、に基づいて、術中動画データに写る被検体の臓器および位置を推定する(ステップS201)。具体的には、推論部74は、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された術中動画データが光源装置によってマルチスペクトル光が照射されたマルチスペクトル画像データである場合、マルチスペクトル画像データに含まれる反射光周波数(各スペクトル毎)の違いを用いてマルチスペクトル画像データに写る被検体の観察対処の各部の生体組織の種別(例えば胆嚢や膵臓等の臓器、血管、神経、リンパ、尿管および脂肪等)と、それらの位置(領域)と、を推定し、この推定結果を生成部73へ出力する。また、推論部74は、ネットワーク90を経由して複数の病院管理サーバ80の各々から送信された術中動画データに対応付けられた医療用撮像装置の位置、向き、被検体の挿入位置、被検体へ挿入された操作量(距離)と、に基づいて、医療用撮像装置の光学系の光軸(トロッカーの挿入方向)に対する基準としたときの術中動画データに写る臓器、血管および神経等の向き(方向)およびつぶれ具合等を推定し、この推定結果を生成部73へ出力してもよい。
【0078】
続いて、生成部73は、推論部74の推論結果に基づいて、術中動画データと2次元画像データおよび3次元データの少なくとも一方との各々に含まれる臓器の位置合わせを行ってシミュレーションデータを生成する(ステップS202)。具体的には、生成部73は、推論部74の推論結果に基づいて、術中動画データと、2次元画像データおよび3次元データの少なくとも一方との各々に含まれる臓器の向き、臓器の位置、臓器の識別を行った後に、臓器の位置合わせを行いつつ、現在の視点で想定される臓器のつぶれ具合等を反映したシミュレーションデータを生成する。
【0079】
その後、サーバ制御部79は、術中動画データを格納する術中動画ファイルに含まれるメタデータ(ヘッダ情報)から術者情報を取得し(ステップS203)、かつ、術中動画データを格納する術中動画ファイルに含まれるメタデータ(ヘッダ情報)から医療器具情報を取得する(ステップS204)。
【0080】
続いて、サーバ制御部79は、生成部73が生成したシミュレーションデータと、術者情報と、医療器具情報と、を対応つけたシミュレーションファイルを生成してシミュレーションデータ記録部75に記録する(ステップS205)。ステップS205の後、医療情報管理サーバ70は、図12のメインルーチンへ戻る。
【0081】
〔手術トレーニング装置の処理〕
次に、手術トレーニング装置2が実行する処理について説明する。図15は、手術トレーニング装置2が実行する処理の概要を示すフローチャートである。
【0082】
まず、制御部66は、入力部63を経由して入力される操作者U1の識別情報を第2の通信部65に送信させる(ステップS301)。
【0083】
続いて、入力部63を経由して操作者U1がミッションモードを選択した場合(ステップS302:Yes)、制御部66は、手術トレーニングにおいて設定可能なミッション情報を表示装置50に表示させる(ステップS303)。
【0084】
その後、制御部66は、入力部63を用いて操作者U1が設定したミッション情報を第2の通信部65に送信させる(ステップS304)。
【0085】
続いて、制御部66は、医療情報管理サーバ70から送信された操作者U1に設定されたミッションに対応するシミュレーションデータに基づくシミュレーション動画を表示装置50に表示させる(ステップS305)。
【0086】
その後、制御部66は、入力部63からシミュレーション動画の再生を停止する停止信号が入力されたか否かを判断する(ステップS306)。制御部66によって入力部63からシミュレーション動画の再生を停止する停止信号が入力されたと判断された場合(ステップS306:Yes)、手術トレーニング装置2は、後述するステップS307へ移行する。これに対して、制御部66によって入力部63からシミュレーション動画の再生を停止する停止信号が入力されていないと判断された場合(ステップS306:No)、手術トレーニング装置2は、後述するステップS309へ移行する。
【0087】
ステップS307において、制御部66は、医療器具30,40の操作内容に基づいてシミュレーション動画の視点を制御する。具体的には、制御部66は、医療器具30,40の操作内容に基づいて、画像処理部62を制御することによって、シミュレーション動画の視点として、現在の表示レイヤーの画像より下層側の表示レイヤーの画像を生成させたり、現在の視点から右周りに90度視点を変更した状態で観察できる表示レイヤーの画像を生成させたりすることによって、表示装置50が表示するシミュレーション動画の視点を制御する。もちろん、制御部66は、医療器具30,40の操作内容に基づいて、画像処理部62を制御することによって、シミュレーション動画の視点変更以外にも、例えば拡大または縮小を行ってもよい。
【0088】
続いて、シミュレーション動画の再生が終了した場合(ステップS308:Yes)、手術トレーニング装置2は、本処理を終了する。これに対して、シミュレーション動画の再生が終了していない場合(ステップS308:No)、手術トレーニング装置2は、上述したステップS306へ移行する。
【0089】
ステップS309において、制御部66は、医療器具30,40の操作内容に基づいてシミュレーションデータに基づくシミュレーション動画の表示態様を制御する。具体的には、制御部66は、医療器具30,40の操作内容に基づいて、シミュレーション動画に写る医療器具30,40を操作者U1の操作内容に応じて動かすとともに、医療器具30,40による処置をシミュレーション動画に反映させる。ステップS309の後、手術トレーニング装置2は、ステップS308へ移行する。
【0090】
次に、ステップS302において、入力部63を経由して操作者U1がミッションモードを選択していない場合(ステップS302:No)について説明する。このとき、手術トレーニング装置2は、ステップS310へ移行する。
【0091】
続いて、入力部63を経由して操作者U1が手術手技症例モードを選択した場合(ステップS310:Yes)、手術トレーニング装置2は、後述するステップS311へ移行する。これに対して、入力部63を経由して操作者U1が手術手技症例モードを選択していない場合(ステップS310:No)、手術トレーニング装置2は、後述するステップS315へ移行する。
【0092】
ステップS311において、制御部66は、手術トレーニングにおいて選択可能な手術手技症例情報を表示装置50に表示させる。
【0093】
続いて、制御部66は、入力部63を用いて操作者U1が選択した手術手技症例情報を第2の通信部65に送信させる(ステップS312)。
【0094】
その後、制御部66は、医療器具30,40に関する医療器具情報を第2の通信部65に送信させる(ステップS313)。
【0095】
続いて、制御部66は、医療情報管理サーバ70から送信された操作者U1によって選択された手術手技症例に対応するシミュレーションデータに基づくシミュレーション動画を表示装置50に表示させる(ステップS314)。ステップS314の後、手術トレーニング装置2は、ステップS306へ移行する。
【0096】
ステップS315において、入力部63を経由して操作者U1が術者モードを選択した場合(ステップS315:Yes)、手術トレーニング装置2は、後述するステップS316へ移行する。
【0097】
ステップS316において、制御部66は、手術モードにおいて複数の術者を選択可能な術者情報を表示装置50に表示させる。
【0098】
続いて、入力部63を経由して操作者U1が選択した術者情報を第2の通信部65に送信させる(ステップS317)。
【0099】
その後、制御部66は、医療情報管理サーバ70から送信された操作者U1によって選択された術者情報するシミュレーションデータに基づくシミュレーション動画を表示装置50に表示させる(ステップS318)。ステップS318の後、手術トレーニング装置2は、ステップS306へ移行する。
【0100】
以上説明した一実施の形態によれば、サーバ制御部79が制御装置60(クライアント側)で複数の手術手技のいずれか1つが選択された場合、選択された手術手技に対応するシミュレーションデータを制御装置60へ送信するため、操作者U1が実手術に相当する経験を積むことができるので、操作者U1のラーニングカーブを向上させることができる。
【0101】
さらに、一実施の形態によれば、場所に問われることなく、空いた時間で手術手技のトレーニングを行うことができる。
【0102】
また、一実施の形態によれば、生成部73が病院管理サーバ80の各々から送信された医療用撮像装置によって被検体の術中に撮像された術中動画データと、被検体に対して予めCT装置またはMRI装置によって撮像された少なくとも臓器に関するデータを含む2次元画像データおよび3次元データの少なくとも一方と、に基づいて、シミュレーションデータを生成するため、複数の手術手技および複数の症例のシミュレーションデータを容易に集めることができる。
【0103】
また、一実施の形態によれば、生成部73が推論部74の推定結果に基づいて、術中動画データと、2次元画像データおよび3次元データの少なくとも一方との各々に含まれる臓器の位置合わせを行ってシミュレーションデータを生成するため、リアルなシミュレーションデータを生成することができる。
【0104】
また、一実施の形態によれば、シミュレーションデータ記録部75が複数のシミュレーションデータに、この複数のシミュレーションデータの各々を執刀した複数の術者に関する複数の術者情報を対応付けて記録しているため、操作者U1が所望の術者が行ったシミュレーションデータを選択してトレーニングを行うことができる。
【0105】
また、一実施の形態によれば、シミュレーションデータ記録部75が複数のシミュレーションデータに、この複数のシミュレーションデータの各々において使用された複数の医療器具に関する複数の医療器具情報をさらに対応付けて記録しているため、操作者U1が所望の医療器具を用いたシミュレーションデータを選択してトレーニングを行うことができる。
【0106】
また、一実施の形態によれば、サーバ制御部79が制御装置60(クライアント側)記複数の医療器具情報のいずれか1つ以上が選択された場合、選択された医療器具情報を制御装置60側へ送信するため、操作者U1が所望の医療器具を用いてシミュレーションデータでトレーニングを行うことができる。
【0107】
また、一実施の形態によれば、サーバ制御部79の課金部792がシミュレーションデータを制御装置60(クライアント側)へ送信した場合、クライアント側を操作する操作者U1の識別情報に基づいて、操作者U1に対して課金を行うため、利益を得ることができる。
【0108】
また、一実施の形態によれば、サーバ制御部79が制御装置60から送信された操作者U1の識別情報に対応付けられたレベルに基づいて、制御装置60で選択可能な手術手技に関する手術手技情報を制御装置60へ送信するため、操作者U1のレベルに適したシミュレーションデータを選択させることができる。
【0109】
また、一実施の形態によれば、サーバ制御部79が操作者U1の識別情報に基づいて、操作者U1がシミュレーションデータを用いて仮想的にトレーニングを行った回数に対して点数を付与するため、操作者U1による手技のレベル化を容易に把握することができる。
【0110】
また、一実施の形態によれば、シミュレーションデータ記録部75が複数のシミュレーションデータの各々のレベルをさらに対応付けて記録するため、操作者U1が自身のレベルに応じたシミュレーションデータを選択してトレーニングを行うことができる。
【0111】
また、一実施の形態によれば、制御部66が第1の検出部31および第2の検出部32の各々によって検出された操作者U1の操作内容に基づいて、表示装置50が表示する医療器具画像およびシミュレーション動画の表示態様を制御するため、直感的な操作を行うことができる。
【0112】
また、一実施の形態によれば、制御部66が入力部63から表示装置50によって表示されるシミュレーション動画を停止する停止信号が入力された場合において、第1の検出部31および第2の検出部32の各々によって検出された操作内容を検出したとき、この操作内容に基づいて、シミュレーション動画の視点を変更するため、操作者U1が所望する視点でシミュレーション動画を観察することができる。
【0113】
また、一実施の形態によれば、制御部66が医療情報管理サーバ70から送信された複数の手術手技の各々に関する複数の手術手技情報を表示装置50に表示させ、かつ、入力部63を経由して複数の手術手技情報のいずれか1つ以上が選択された場合、選択された手術手技情報に対応するシミュレーションデータを送信することを医療情報管理サーバ70へ要求するため、操作者U1が所望する症例に対応するシミュレーションデータを医療情報管理サーバ70から取得することができる。
【0114】
また、一実施の形態によれば、制御部66が操作者U1の識別情報を医療情報管理サーバ70へ送信するため、操作者U1に応じたシミュレーションデータを取得することができる。
【0115】
また、一実施の形態によれば、制御部66が操作者U1によって使用される医療器具30,40の各々に関する医療器具情報を医療情報管理サーバ70へ送信するため、操作者U1がトレーニングに使用する医療器具30,40に適したシミュレーションデータを取得することができる。
【0116】
なお、一実施の形態では、1人の操作者U1がトレーニングを行っているが、これに限定されることなく、複数の操作者U1が表示装置50によって表示される同じシミュレーション動画を見ながらトレーニングを行ってもよいし、複数の操作者U1が互いに異なる場所に設置された手術トレーニング装置を用いてトレーニングを行ってもよい。
【0117】
(その他の実施の形態)
上述した本開示の一実施の形態に係る手術トレーニングシステムに開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、上述した本開示の一実施の形態に係る手術トレーニングシステムに記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、上述した本開示の一実施の形態に係る医療用観察システムで説明した構成要素を適宜組み合わせてもよい。
【0118】
また、本開示の一実施の形態に係る手術トレーニングシステムでは、上述してきた「部」は、「手段」や「回路」などに読み替えることができる。例えば、制御部は、制御手段や制御回路に読み替えることができる。
【0119】
また、本開示の一実施の形態に係る手術トレーニングシステムに実行させるプログラムは、インストール可能な形式または実行可能な形式のファイルデータでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)、USB媒体、フラッシュメモリ等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
【0120】
また、本開示の一実施の形態に係る手術トレーニングシステムに実行させるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。
【0121】
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」等の表現を用いてステップ間の処理の前後関係を明示していたが、本発明を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。即ち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
【0122】
以上、本願の実施の形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、本開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本開示を実施することが可能である。
【0123】
なお、本技術は以下のような構成も取ることができる。
(付記1)
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部と、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する制御部と、
を備える、
医療情報管理サーバ。
(付記2)
(付記1)に記載の医療情報管理サーバであって、
被検体の術中に撮像された術中動画データと、前記被検体に対して予めCT装置またはMRI装置によって撮像された2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記シミュレーションデータを生成する生成部をさらに備える、
医療情報管理サーバ。
(付記3)
(付記2)に記載の医療情報管理サーバであって、
前記術中動画データと、前記2次元画像データおよび3次元データの少なくとも一方と、に基づいて、前記術中動画データに写る前記被検体の臓器および位置を推定する推論部をさらに備え、
前記生成部は、
前記推論部の推定結果に基づいて、前記術中動画データおよび前記2次元画像データおよび3次元データの少なくとも一方の各々に含まれる臓器の位置合わせを行って前記シミュレーションデータを生成する、
医療情報管理サーバ。
(付記4)
(付記3)に記載の医療情報管理サーバであって、
前記術中動画データは、
マルチスペクトル光源によってマルチスペクトル光が前記被検体に照射され、該被検体からの戻り光を受光することによって、少なくとも生体組織毎の反射周波数を含むスペクトル画像データを含み、
前記推論部は、
前記スペクトル画像データに含まれる前記生体組織毎の反射周波数を用いて少なくとも前記生体組織の種別および位置を推定する、
医療情報管理サーバ。
(付記5)
(付記1)~(付記4)のいずれか1つに記載の医療情報管理サーバであって、
前記記録部は、
前記複数のシミュレーションデータに、前記複数のシミュレーションデータの各々を執刀した複数の術者に関する複数の術者情報をさらに対応付けて記録し、
前記制御部は、
前記クライアント側で前記複数の術者情報のいずれか1つが選択された場合、選択された前記術者情報に応じた前記複数のシミュレーションデータを前記クライアント側へ送信する、
医療情報管理サーバ。
(付記6)
(付記1)~(付記5)のいずれか1つに記載の医療情報管理サーバであって、
前記記録部は、
前記複数のシミュレーションデータに、前記複数のシミュレーションデータの各々において使用された複数の医療器具に関する複数の医療器具情報をさらに対応付けて記録し、
前記制御部は、
前記シミュレーションデータを前記クライアント側へ送信する場合、該シミュレーションデータに対応付けられた前記医療器具情報を併せて前記クライアント側へ送信する、
医療情報管理サーバ。
(付記7)
(付記6)に記載の医療情報管理サーバであって、
前記制御部は、
前記クライアント側で前記複数の医療器具情報のいずれか1つ以上が選択された場合、選択された前記医療器具情報を前記クライアント側へ送信する、
医療情報管理サーバ。
(付記8)
(付記1)~(付記7)のいずれか1つに記載の医療情報管理サーバであって、
前記制御部は、
前記シミュレーションデータを前記クライアント側へ送信した場合、前記クライアント側を操作する操作者の識別情報に基づいて、前記操作者に対して課金を行う、
医療情報管理サーバ。
(付記9)
(付記8)に記載の医療情報管理サーバであって、
前記制御部は、
前記識別情報に対応付けられたレベルに基づいて、前記クライアント側で選択可能な前記手術手技に関する手術手技情報を前記クライアント側へ送信する、
医療情報管理サーバ。
(付記10)
(付記9)に記載の医療情報管理サーバであって、
前記制御部は、
前記識別情報に基づいて、前記操作者が前記シミュレーションデータを用いて仮想的にトレーニングを行った回数に対して点数を付与する、
医療情報管理サーバ。
(付記11)
(付記8)~(付記10)のいずれか1つに記載の医療情報管理サーバであって、
前記記録部は、
前記複数のシミュレーションデータの各々のレベルをさらに対応付けて記録する、
医療情報管理サーバ。
(付記12)
複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、
1つ以上の医療器具と、
前記医療器具に対する操作者による操作内容を検出する検出部と、
前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる制御部と、
を備え、
前記制御部は、前記検出部が検出した前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御する、
手術トレーニング装置。
(付記13)
(付記12)に記載の手術トレーニング装置であって、
前記制御部は、
前記表示部が表示する前記シミュレーション動画を停止する停止信号が入力された場合において、前記検出部が前記操作内容を検出したとき、前記操作内容に基づいて、前記シミュレーション動画の視点を変更する、
手術トレーニング装置。
(付記14)
(付記13)に記載の手術トレーニング装置であって、
前記制御部は、
前記表示部に前記複数の手術手技の各々に関する複数の手術手技情報を表示させ、かつ、前記複数の手術手技情報のいずれか1つ以上が選択された場合、選択された前記手術手技情報に対応する前記シミュレーションデータを送信することを前記医療情報管理サーバへ要求する、
手術トレーニング装置。
(付記15)
(付記14)に記載の手術トレーニング装置であって、
前記操作者の識別情報の入力を受け付ける入力部をさらに備え、
前記制御部は、
前記識別情報を前記医療情報管理サーバへ送信する、
手術トレーニング装置。
(付記16)
(付記12)~(付記15)のいずれか1つに記載の手術トレーニング装置であって、
前記制御部は、
前記医療器具に関する医療器具情報を前記医療情報管理サーバへ送信する、
手術トレーニング装置。
(付記17)
医療情報管理サーバと、
ネットワークを経由して前記医療情報管理サーバと通信可能な手術トレーニング装置と、
を備え、
前記医療情報管理サーバは、
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部と、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する第1の制御部と、
を備え、
前記手術トレーニング装置は、
前記医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、
被検体を模倣した模型に対して処置可能な1つ以上の医療器具と、
前記医療器具に対する操作者による操作内容を検出する検出部と、
前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる第2の制御部と、
を備え、
前記第2の制御部は、前記検出部が検出した前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御する、
手術トレーニングシステム。
(付記18)
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部を備える医療情報管理サーバが実行する画像送信方法であって、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信する、
画像送信方法。
(付記19)
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、被検体を模倣した模型に対して処置可能な1つ以上の医療器具と、を備える手術トレーニング装置が実行する表示方法であって、
前記医療器具に対する操作者による操作内容を検出し、
前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる、かつ、前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御する、
表示方法。
(付記20)
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する記録部を備える医療情報管理サーバが実行するプログラムであって、
クライアント側で前記複数の手術手技のいずれか1つが選択された場合、選択された前記手術手技に対応するシミュレーションデータを前記クライアント側へ送信させる、
プログラム。
(付記21)
少なくとも複数の手術手技と、少なくとも生体組織に関するデータを含む複数のシミュレーションデータと、を対応付けて記録する医療情報管理サーバから送信された前記シミュレーションデータに基づくシミュレーション動画を表示可能な表示部と、被検体を模倣した模型に対して処置可能な1つ以上の医療器具と、を備える手術トレーニング装置に実行させるプログラムであって、
前記医療器具に対する操作者による操作内容を検出させ、
前記シミュレーション動画上に前記医療器具に関する医療器具画像を前記表示部に表示させる、かつ、前記操作内容に基づいて、前記医療器具画像およびシミュレーション動画の表示態様を制御させる、
プログラム。
【符号の説明】
【0124】
1 手術トレーニングシステム
2 手術トレーニング装置
10,20 トロッカー
30,40 医療器具
31 第1の検出部
32 第2の検出部
33,64,72 記録部
34,71 通信部
50 表示装置
60 制御装置
61 1の通信部
62 画像処理部
63 入力部
65 第2の通信部
66 制御部
70 医療情報管理サーバ
71 通信部
73 生成部
74 推論部
75 シミュレーションデータ記録部
76 画像データ記録部
77 ユーザデータ記録部
78 医療器具データ記録部
79 サーバ制御部
80 病院管理サーバ
83 入力部
90 ネットワーク
641 プログラム記録部
721 プログラム記録部
791 判定部
792 課金部
793 点数付与部
模型
U1 操作者
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15