(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024037696
(43)【公開日】2024-03-19
(54)【発明の名称】評価装置、学習装置、評価システム、評価方法、学習方法及びプログラム
(51)【国際特許分類】
G09B 19/00 20060101AFI20240312BHJP
G09B 23/28 20060101ALI20240312BHJP
【FI】
G09B19/00 H
G09B23/28
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2023143090
(22)【出願日】2023-09-04
(31)【優先権主張番号】P 2022142274
(32)【優先日】2022-09-07
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】504157024
【氏名又は名称】国立大学法人東北大学
(71)【出願人】
【識別番号】519049352
【氏名又は名称】Blue Practice株式会社
(74)【代理人】
【識別番号】100141139
【弁理士】
【氏名又は名称】及川 周
(74)【代理人】
【識別番号】100145481
【弁理士】
【氏名又は名称】平野 昌邦
(74)【代理人】
【識別番号】100181722
【弁理士】
【氏名又は名称】春田 洋孝
(72)【発明者】
【氏名】芳賀 洋一
(72)【発明者】
【氏名】千葉 祐輝
(72)【発明者】
【氏名】鶴岡 典子
(72)【発明者】
【氏名】太田 信
(72)【発明者】
【氏名】田中 真美
(72)【発明者】
【氏名】奥山 武志
(72)【発明者】
【氏名】于 凱鴻
(72)【発明者】
【氏名】庄島 正明
(72)【発明者】
【氏名】鈴木 宏治
(72)【発明者】
【氏名】小助川 博之
【テーマコード(参考)】
2C032
【Fターム(参考)】
2C032CA06
(57)【要約】
【課題】医療機器を操作する術者の手技を向上させることが可能である評価装置、学習装置、評価システム、評価方法、学習方法及びプログラムを提供する。
【解決手段】評価装置は、対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と湾曲管との状態を表す対象機器状態データと、対象術者の手指の動作を表す対象術者動作データと、対象術者の手指の動作に応じて機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する通信部と、対象機器状態データと対象術者動作データと対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、対象術者の手指の動作を評価する評価部とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する通信部と、
前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価する評価部と
を備える評価装置。
【請求項2】
前記評価部は、前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとの相関に基づいて、前記対象術者の手指の動作を評価する、
請求項1に記載の評価装置。
【請求項3】
前記湾曲管の形状は、血管を模した形状である、
請求項1に記載の評価装置。
【請求項4】
前記器具は、トルクデバイスである、
請求項1に記載の評価装置。
【請求項5】
前記器具の表面は、色又は形状の異なる複数のマークを有する、
請求項4に記載の評価装置。
【請求項6】
前記通信部は、手本術者の手指の手本動作に応じて前記湾曲管の内腔を移動する前記機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における前記器具の状態を表す手本器具状態データとのうちの少なくとも一つを説明変数とし、所定の情報を目的変数として、前記説明変数及び前記目的変数に基づいて生成された学習済モデルを取得し、
前記評価部は、前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータを前記学習済モデルに入力し、前記学習済モデルから出力された前記所定の情報を提示する、
請求項1から請求項5のいずれか一項に記載の評価装置。
【請求項7】
手本術者の手指の手本動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得する通信部と、
説明変数及び目的変数に基づいて学習済モデルを生成する学習部と
を備える学習装置。
【請求項8】
湾曲管と、
対象術者の手指の動作に応じて前記湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する通信部と、
前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価する評価部と
を備える評価システム。
【請求項9】
評価装置が実行する評価方法であって、
対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得するステップと、
前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価するステップと
を含む評価方法。
【請求項10】
学習装置が実行する学習方法であって、
手本術者の手指の手本動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得するステップと、
説明変数及び目的変数に基づいて学習済モデルを生成するステップと
を含む学習方法。
【請求項11】
コンピュータに、
対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する手順と、
前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価する手順と
を実行させるためのプログラム。
【請求項12】
コンピュータに、
手本術者の手指の手本動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得する手順と、
説明変数及び目的変数に基づいて学習済モデルを生成する手順と
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、評価装置、学習装置、評価システム、評価方法、学習方法及びプログラムに関する。
【背景技術】
【0002】
カテーテル及びガイドワイヤを操作する術者の手技を、血管を模したモデル(血管モデル)を用いてトレーニングすることがある。また、血管モデルに搭載可能なセンサが開発されたことから、血管モデルの内壁にカテーテルが与える圧力等を精度よく計測することが可能となった。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
トレーニング中又はトレーニング後に術者の手技が評価される場合、術者の手技が単に評価されても、その術者の手技を向上させることができないという問題がある。
【0005】
上記事情に鑑み、本発明は、医療機器を操作する術者の手技を向上させることが可能である評価装置、学習装置、評価システム、評価方法、学習方法及びプログラムを提供することを目的としている。
【課題を解決するための手段】
【0006】
本発明の一態様は、対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する通信部と、前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価する評価部とを備える評価装置である。
【0007】
本発明の一態様は、手本術者の手指の手本動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得する通信部と、説明変数及び目的変数に基づいて学習済モデルを生成する学習部とを備える学習装置である。
【0008】
本発明の一態様は、湾曲管と、対象術者の手指の動作に応じて前記湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する通信部と、前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価する評価部とを備える評価システムである。
【0009】
本発明の一態様は、評価装置が実行する評価方法であって、対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得するステップと、前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価するステップとを含む評価方法である。
【0010】
本発明の一態様は、学習装置が実行する学習方法であって、手本術者の手指の手本動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得するステップと、説明変数及び目的変数に基づいて学習済モデルを生成するステップとを含む学習方法である。
【0011】
本発明の一態様は、コンピュータに、対象術者の手指の動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す対象機器状態データと、前記対象術者の手指の動作を表す対象術者動作データと、前記対象術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す対象器具状態データとのうちの少なくとも一つを取得する手順と、前記対象機器状態データと前記対象術者動作データと前記対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、前記対象術者の手指の動作を評価する手順とを実行させるためのプログラムである。
【0012】
本発明の一態様は、コンピュータに、手本術者の手指の手本動作に応じて湾曲管の内腔を移動する機器と前記湾曲管との状態を表す手本機器状態データと、前記手本術者の手指の手本動作を表す手本術者動作データと、前記手本術者の手指の動作に応じて前記機器を移動させる操作における器具の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得する手順と、説明変数及び目的変数に基づいて学習済モデルを生成する手順とを実行させるためのプログラムである。
【発明の効果】
【0013】
本発明により、医療機器を操作する術者の手技を向上させることが可能である。
【図面の簡単な説明】
【0014】
【
図1】第1実施形態における、評価システムの構成例を示す図である。
【
図2】第1実施形態における、評価システムの使用例を示す図である。
【
図3】第1実施形態における、ガイドワイヤに装着されたトルクデバイスを操作する手技の例を示す図である。
【
図4】第1実施形態における、検出点群の例を示す図である。
【
図5】第1実施形態における、評価装置の動作例を示すフローチャートである。
【
図6】第2実施形態における、評価システムの構成例を示す図である。
【
図7】第2実施形態における、指輪型センサ及び固定用治具の構成例を示す図である。
【
図8】第2実施形態における、指輪型センサ及び固定用治具の装着例を示す図である。
【
図9】第3実施形態における、評価システムの構成例を示す図である。
【
図10】第3実施形態における、学習装置の構成例を示す図である。
【
図11】第3実施形態における、評価システムの使用例を示す図である。
【
図12】第3実施形態における、画像処理の例を示す図である。
【
図13】第3実施形態における、学習処理の例を示す図である。
【
図14】第3実施形態における、評価処理の第1例を示す図である。
【
図15】第3実施形態における、評価処理の第2例を示す図である。
【
図16】第3実施形態における、画像の表示例を示す図である。
【
図17】第3実施形態における、学習装置の動作例を示すフローチャートである。
【
図18】第3実施形態における、評価処理の第1例を示すフローチャートである。
【
図19】第3実施形態における、評価処理の第2例を示すフローチャートである。
【
図20】第4実施形態における、評価システムの構成例を示す図である。
【
図21】第4実施形態における、評価システムの使用例を示す図である。
【
図22】第4実施形態における、血管内検査治療機器の持ち方の例を示す図である。
【
図23】第4実施形態における、回転方向及び回転角に応じたトルクデバイスの外観の第1例を示す図である。
【
図24】第4実施形態における、回転方向及び回転角に応じたトルクデバイスの外観の第2例を示す図である。
【
図25】第4実施形態における、回転方向及び回転角に応じたトルクデバイスの外観の第3例を示す図である。
【
図26】第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第1例を示す図である。
【
図27】第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第2例を示す図である。
【
図28】第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第3例を示す図である。
【
図29】第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第4例を示す図である。
【
図30】第4実施形態における、学習装置の動作例を示すフローチャートである。
【
図31】第4実施形態における、評価処理の第1例を示すフローチャートである。
【
図32】第4実施形態における、評価処理の第2例を示すフローチャートである。
【発明を実施するための形態】
【0015】
本発明の実施形態について、図面を参照して詳細に説明する。
(第1実施形態)
図1は、第1実施形態における、評価システム1aの構成例を示す図である。評価システム1aは、医療機器を操作する術者の手指動作(手技)を評価するシステムである。医療機器は、例えば、血管内の検査及び治療に用いられる機器(以下「血管内検査治療機器」という。)である。血管内検査治療機器は、ガイドワイヤと、カテーテルとを有する。血管内検査治療機器は、更に、塞栓用コイル、ステント及びバルーン等を有してもよい。血管内検査治療機器を操作する術者は、手指動作によって塞栓物質を扱ってもよい。すなわち、術者は、塞栓物質の注入操作を行ってもよい。評価システム1aは、手指動作の評価結果に基づいて、例えば、血管内検査治療機器を操作する術者の手指動作(手技)のトレーニングに用いられる。術者の手技の評価結果は、トレーニング中にリアルタイムで術者に提示されてもよいし、トレーニング後に術者に提示されてもよい。
【0016】
評価システム1aは、血管モデル2と、通信回線3と、評価装置4aとを備える。通信回線3は、特定の規格の通信回線に限定されない。通信回線3は、有線回線でもよいし、無線回線でもよい。通信回線3は、有線回線と無線回線との両方でもよい。すなわち、通信回線3の一部が有線回線で、通信回線3の残りの部分が無線回線でもよい。通信回線3の少なくとも一部が無線回線である場合、通信回線3は、例えば、無線回線を用いて通信する無線通信デバイスを備えてもよい。通信回線3の少なくとも一部が有線回線である場合、通信回線3は、例えば、有線回線を用いて通信するUSB(Universal Serial Bus)デバイス等の通信デバイスを備えてもよい。評価装置4aは、第1検出装置41と、手技評価装置42とを備える。手技評価装置42は、通信部421と、記憶部422と、評価部423とを備える。
【0017】
手技評価装置42の各機能部のうちの一部又は全部は、CPU(Central Processing Unit)等のプロセッサが、不揮発性の記録媒体(非一時的な記録媒体)を有する記憶部に記憶されたプログラムを実行することにより、ソフトウェアとして実現される。プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD-ROM(Compact Disc Read Only Memory)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク、ソリッド・ステート・ドライブ(Solid State Drive)等の記憶装置などの非一時的な記録媒体である。
【0018】
手技評価装置42の各機能部のうちの一部又は全部は、例えば、LSI(Large Scale Integrated circuit)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)又はFPGA(Field Programmable Gate Array)等を用いた電子回路(electronic circuit又はcircuitry)を含むハードウェアを用いて実現されてもよい。
【0019】
血管モデル2は、血管を模したモデルである。血管モデル2は、術者の近傍に配置されてもよいし、血管内検査治療機器の長さに応じた距離だけ術者から離れた位置に配置されてもよい。血管モデル2は、湾曲管21を備える。湾曲管21は、1箇所以上で単純に湾曲した管でもよいし、血管を模した形状となるように複雑に湾曲した管でもよい。血管を模した形状は、実際の患者の血管形状でもよい。湾曲管21は、分岐した管を備えてもよい。湾曲管21は、2次元状に設けられてもよいし、3次元状に設けられてもよい。
図1では、湾曲管21は、一例として2次元状に設けられている。湾曲管21の材質は、例えば、ポリビニールアルコール・ハイドロゲルである。
【0020】
評価システム1aの構成例の説明を続ける。第1検出装置41は、術者の身体に予め定められた検出点群(例えば、関節点群)に基づいて、術者の身体に対してモーショントラッキングを実行する装置である。第1検出装置41は、光学的計測を用いて、術者の身体の少なくとも一部を動画(時系列の静止画)で撮影する。第1検出装置41は、術者の身体を広角撮影してもよい。第1検出装置41は、検出点群の時系列の3次元座標データを、モーショントラッキングの結果として、通信回線3を介して通信部421に送信する。
【0021】
以下、術者の手指の動作に応じて湾曲管の内腔を少なくとも移動する血管内検査治療機器と、湾曲管との状態を表すデータを「機器状態データ」という。血管内検査治療機器(カテーテル、ガイドワイヤ及びバルーン)は、湾曲管の内腔を移動する際に、湾曲管の内腔において変形してもよい。血管内検査治療機器(ステント)は、湾曲管の内腔を移動するだけでなく、湾曲管の内腔に留置されてもよい。以下、術者の手指の動作(手技)を表すデータを「術者動作データ」という。術者動作データは、術者の手指に生じた力覚のデータを含んでもよい。手指に生じた力覚のデータは、手指に対して血管内検査治療機器から与えられた力の方向(例えば3軸又は6軸の方向)及び大きさを時系列で表す。手指に生じた力覚のデータは、例えば、術者の手指に装着された所定のセンサ(例えば、歪センサ、圧力センサ、トルクセンサ)の検出結果に基づいて定められる。手技が評価される対象の術者を「対象術者」という。対象術者の手指の動作に応じて湾曲管の内腔を移動する血管内検査治療機器と湾曲管との状態を表すデータを「対象機器状態データ」という。対象術者の手指の動作(手技)を表すデータを「対象術者動作データ」という。
【0022】
対象術者動作データ及び手本術者動作データの各形式は、特定の形式に限定されない。対象術者動作データ及び手本術者動作データの各形式は、例えば、時系列の3次元座標データの形式である。
【0023】
以下、手本となる手技を行う術者を「手本術者」という。手本術者の手指の動作(手本動作)に応じて湾曲管の内腔を移動する血管内検査治療機器と、湾曲管との状態を表すデータを「手本機器状態データ」という。手本術者の手指の手本動作(手技)を表すデータを「手本術者動作データ」という。
【0024】
対象機器状態データ及び手本機器状態データの各形式は、特定の形式に限定されない。対象機器状態データ及び手本機器状態データの各形式は、例えば、複数の画素値を含む画像の形式でもよいし、変位量、歪量又は応力分布を時系列で表す波形(時間波形)の形式でもよい。変位量、歪量又は応力分布は、血管内検査治療機器が湾曲管の内壁を押している力の測定結果に基づいて表現されてもよい。
【0025】
通信部421は、通信回線3を介して、第1検出装置41と通信する。例えば、通信部421は、検出点群の時系列の3次元座標データを、対象術者動作データとして、第1検出装置41から取得する。通信部421は、特定の規格の通信デバイスに限定されない。例えば、通信部421は、USBデバイス等の通信デバイス(通信モジュール)でもよいし、所定の無線通信規格に準拠した無線通信デバイスでもよい。
【0026】
記憶部422は、取得された対象術者動作データを記憶する。記憶部422は、手本術者動作データと各種プログラムとを、予め記憶する。各種プログラムは、例えば、3次元座標データに対する分析処理(分析アルゴリズム)のプログラムである。分析処理は、例えば、術者の手指動作と所定の手本データとの相関(例えば、一致度)を評価するプログラムでもよい。評価部423は、検出点群の時系列の3次元座標データ(対象術者動作データ)と、所定の手本データ(手本術者動作データ)との相関を評価する。
【0027】
次に、評価システム1aの使用例を説明する。
図2は、第1実施形態における、評価システム1aの使用例を示す図である。第1検出装置41は、術者の右手101及び左手102に対してモーショントラッキングを実行する。例えば、第1検出装置41は、光学的計測の手法を用いて、右手101の手指動作と左手102の手指動作とを3次元計測する。また、第1検出装置41は、光学的計測の手法を用いて、右手101の甲の角度と左手102の甲の角度とを3次元計測してもよい。光学的計測の手法は、特定の計測手法に限定されないが、例えば赤外線センサを用いる手法である。
【0028】
術者は、右手101及び左手102で、血管内検査治療機器201を操作する。術者は、右手101及び左手102で、血管内検査治療機器201を挿入するための穴を湾曲管21に空ける操作(パンクチャ)を行ってもよい。血管内検査治療機器201は、術者による操作によって、湾曲管21に挿入される。血管内検査治療機器201は、術者による操作に応じて、湾曲管21の内腔を少なくとも屈曲しながら移動する。術者は、例えば、血管内検査治療機器201のガイドワイヤを引き戻しながら、血管内検査治療機器201のカテーテルを湾曲管21に押し込む。術者は、カテーテル又はガイドワイヤの先端を回転(軸回転)させてもよい。なお、術者は、湾曲管21の内腔においてガイドワイヤがジャンプアップしないように、血管内検査治療機器201を操作する。
【0029】
図3は、第1実施形態における、ガイドワイヤに装着されたトルクデバイスを操作する手技の例を示す図である。術者は、ガイドワイヤの回転制御の精度が低下しないように、血管内検査治療機器201を操作する。ここで、術者は、血管内検査治療機器201のガイドワイヤを操作する際、操作性向上のために、血管内検査治療機器201のガイドワイヤにトルクデバイス(トルカー)を装着してもよい。術者は、例えば親指103と人差し指104でトルクデバイス105を回転(軸回転)させることによって、血管内検査治療機器201のガイドワイヤを回転させる。
【0030】
循環器領域であるか脳血管領域であるかを問わず、特定の形状に予め成型された先端を有するカテーテル(プリシェープされたカテーテル)を回転させる操作では、術者は、比較的大きな角度の回転操作(例えば、手の甲を回すような操作)を行う。これに対して、ガイドワイヤを回転(軸回転)させる操作では、術者は、比較的小さな角度の回転操作(例えば、ガイドワイヤを持つ人差し指の指先と親指の指先とを擦り合わせるような操作)を行う。なお、微小な角度だけカテーテルを回転させる場合には、術者は、カテーテルを持つ人差し指の指先と親指の指先とを擦り合わせるような操作を行うことがある。
【0031】
このため、人差し指と親指のみによる回転操作の計測と、手の甲の回転計測とが組み合わされることによって、カテーテル及びガイドワイヤの回転方向並びに回転角の推定精度が向上する。例えば、第1検出装置41は、術者の人差し指と親指の動作を3次元計測する。ここで、ガイドワイヤ又はカテーテルの回転軸を第1検出装置41が正面から見えるように、第1検出装置41の視点が移動される。第1検出装置41は、ガイドワイヤ又はカテーテルの回転軸を回転中心として、術者の人差し指と親指が同じ回転方向に円弧状に同期して移動した軌跡(3次元座標データの軌跡)に基づいて、ガイドワイヤ又はカテーテルの回転角を推定する。
【0032】
なお、人差し指(第二指)と親指(第一指)の組み合わせを回転操作に用いることは、一例である。例えば、中指(第三指)と親指(第一指)の組み合わせを回転操作に用いることでも同様に、ガイドワイヤを回転させることは可能である。この場合、第1検出装置41は、術者の中指と親指の動作を3次元計測する。
【0033】
図4は、第1実施形態における、検出点群の例を示す図である。予め定められた検出点群は、例えば、手の関節点群と、手の甲の中心点と、肘の関節点とである。ここで、検出点群の位置は、右手101と左手102とで対称になるように予め定められる。
図4では、検出点は、丸印で表現されている。
【0034】
手技評価装置42は、術者の手に予め定められた検出点群の時系列の3次元座標データを、対象術者動作データとして、第1検出装置41から取得する。手技評価装置42は、記憶部422に予め記憶された手本データ(例えば、指導医等による手技の手本動作の3次元座標データ)と、対象術者動作データとに基づいて、対象術者の手指の動作を評価する。例えば、手技評価装置42は、取得された術者動作データと所定の手本データとの差分に基づいて、対象術者の手指の動作を評価する。手技評価装置42は、取得された術者動作データと所定の手本データとの差分が小さいほど、対象術者の手指の動作を高く評価する。例えば、手技評価装置42は、取得された術者動作データと所定の手本データとの相関に基づいて、対象術者の手指の動作を評価する。手技評価装置42は、取得された術者動作データと所定の手本データとの相関が高いほど、対象術者の手指の動作を高く評価する。相関の評価方法(導出方法)は、特定の方法に限定されない。例えば、手技評価装置42は、対象術者動作データと手本データとの間のマハラノビス距離に基づいて相関を評価してもよい。
【0035】
次に、評価装置4aの動作例を説明する。
図5は、第1実施形態における、評価装置4aの動作例を示すフローチャートである。通信部421は、対象術者の術者動作データ(モーショントラッキングの結果)を、第1検出装置41から取得する(ステップS101)。評価部423は、取得された術者動作データと所定の手本データとに基づいて、対象術者の手指の動作を評価する。例えば、評価部423は、対象術者の手指の動作の評価として、取得された術者動作データと所定の手本データとの相関を評価する(ステップS102)。評価部423は、通信部421を用いて、情報処理装置等の所定装置(不図示)に動作の評価結果を出力する。例えば、評価部423は、通信部421を用いて、情報処理装置等の所定装置(不図示)に相関を出力する(ステップS103)。
【0036】
以上のように、通信部421は、対象術者の手指の動作を表す対象術者動作データを取得する。評価部423は、取得された対象術者動作データと所定の手本データ(例えば、指導医等による手技の手本動作の3次元座標データ)とに基づいて、対象術者の手指の動作を評価する。
【0037】
これによって、対象術者の手指の動作(評価対象の手技)と手本データ(手本の手技)とに基づいて対象術者の手指の動作が評価されるので、医療機器を操作する術者(対象術者)の手技を向上させることが可能である。手指の理想的な手技(手本データ)に基づいて、評価装置4aは対象術者の手技を正確に評価することが可能である。また、治療手技に関して、評価装置4aは手技評価を十分に行うことが可能である。治療手技とは、例えば、バルーンの位置合わせ及び膨張と、ステントの位置合わせ、拡張及び留置と、塞栓用コイルの挿入及び留置と、塞栓物質の注入などである。
【0038】
また、治療手技に関して、適切なトレーニングを十分に行うことが可能である。換言すれば、医療機器を操作する術者(対象術者)の手技を効率的にトレーニングすることが可能である。例えば、トレーニング期間の短縮化が可能である。対象術者は、トレーニングを受けることによって、自身の手技と熟練した術者(手本術者)の手技との違いを容易に理解することが可能である。対象術者は、評価に基づいて自身の手技を見直すことが可能である。指導医等の限られた医師(手本術者)にしかできないような術式(手本データ)が定量化されるので、技術習得者をトレーニングシステムによって増やすことが可能である。手術前に患者の血管モデルが精巧に製作された場合、対象術者は手術の練習(手術シミュレーション)を事前に行うことが可能である。患者の負担を軽減することが可能な手技パターンを、対象術者は評価結果に基づいて見つけることが可能である。
【0039】
評価システム1aによる評価結果は、例えば、医療機器の評価及び開発支援を行う開発者に提供されてもよい。開発者は、実際の血管を模したモデル(血管モデル)を用いて医療機器の試験を行うことが可能である。動物実験及び臨床試験の一部を、血管モデルを用いる試験で代替することが可能である。血管モデルを用いて医療機器の試験が十分に行われることで、動物実験と臨床試験でしか判らない問題点以外の問題点は判るので、医療機器の試験と改良を効率的に行うことが可能である。医療機器の開発コストを抑えることが可能である。また、医療機器の開発期間の短縮化が可能である。
【0040】
(第2実施形態)
第2実施形態では、画像(光学的計測)に基づくモーショントラッキングの結果を補助するためのセンサが術者の指に装着される点が、第1実施形態との差分である。第2実施形態では、第1実施形態との差分を中心に説明する。
【0041】
図6は、第2実施形態における、評価システム1bの構成例を示す図である。評価システム1bは、血管モデル2と、通信回線3と、評価装置4bとを備える。評価装置4bは、第1検出装置41と、手技評価装置42と、第2検出装置43とを備える。
【0042】
血管内検査治療機器201を術者が指で強く持っているか否か(摘まんでいるか否か)等については、画像に基づくモーショントラッキングの結果からだけでは判定が難しい。また、術者の手の関節角度が微小である場合、画像に基づくモーショントラッキングの結果からだけでは、微小な関節角度の推定が難しい。さらに、第1検出装置41の画角内で術者の手指が隠れることによって手指の画像が得られない場合、画像に基づくモーショントラッキングの結果からだけでは、術者の手の関節角度の推定が難しい。そこで第2実施形態では、画像に基づくモーショントラッキングの結果を補助又は補完するためのセンサ及び治具が、術者の指に装着される。第2検出装置43は、ファイバ・ブラッグ・グレーティング(FBG : Fiber Bragg Grating)センサを備える。
【0043】
図7は、第2実施形態における、指輪型センサ431及び固定用治具433の構成例を示す図である。指輪型センサ431は、歪センサ432を備える。指輪型センサ431には、指に装着するための穴(指を通すための穴)が設けられる。固定用治具433には、固定用治具433を指に装着するための第1切り欠き部と、FBGセンサの光ファイバを通すための第2切り欠き部とが設けられる。指輪型センサ431及び固定用治具433の材質は、例えば、シリコン樹脂である。
【0044】
図8は、第2実施形態における、指輪型センサ431及び固定用治具433の装着例を示す図である。指に装着された指輪型センサ431及び固定用治具433には、光ファイバを有するFBGセンサ435が配設される。第2検出装置43は、術者の指の関節角度に応じて曲げられた光ファイバに生じる回折格子の距離の変化に基づいて、術者の指の関節角度を検出する。第2検出装置43は、検出された手指動作に応じた信号を、手技評価装置42に出力する。
【0045】
以上のように、第2検出装置43は、術者の指の関節角度に応じて曲げられた光ファイバに生じる回折格子の距離の変化に基づいて、術者の指の関節角度を検出する。これによって、血管内検査治療機器等の医療機器を術者が指で強く持っているか否か等を判定することが可能となるので、医療機器を操作する術者(対象術者)の手技を効率的に向上させることが可能である。
【0046】
(第2実施形態の変形例)
術者の手指を含む所定範囲の実空間に、磁界が生成されてもよい。磁気センサ(不図示)が、術者の手指に取り付けられる。術者の手指に取り付けられた磁気センサは、磁界内の自センサの位置における磁気を、所定周期で検出する。磁気の時系列の検出結果は、術者の手指の動作(手指の時系列の位置及び傾き)を表す。このように、術者動作データは、磁界内の磁気センサの位置における磁気の検出結果に基づいて生成されてもよい。第2実施形態の変形例では、術者の手指のオクルージョン(occlusion)が発生しないので、術者動作データをより安定して生成することが可能である。
【0047】
(第3実施形態)
第3実施形態では、湾曲管21及び血管内検査治療機器201等の状態(例えば、湾曲管21の内壁の変位量)が検出される点が、第1実施形態及び第2実施形態との差分の一つである。第3実施形態では、第1実施形態及び第2実施形態との差分を中心に説明する。
【0048】
図9は、第3実施形態における、評価システム1cの構成例を示す図である。評価システム1cは、血管モデル2と、通信回線3と、評価装置4cと、N(Nは、1以上の整数)台のカメラ5と、表示装置6と、記憶装置7とを備える。血管モデル2は、湾曲管21と、センサシステム22とを備える。なお、センサシステム22は、血管内検査治療機器201にも備えられてよい。
【0049】
評価装置4cは、第1検出装置41と、手技評価装置42と、第3検出装置44とを備える。手技評価装置42は、通信部421と、記憶部422と、評価部423とを備える。第3検出装置44は、画像処理部441と、検出部442とを備える。
【0050】
センサシステム22は、複数の変位センサと、複数の歪センサとを備える。変位センサは、湾曲管21の外部から、例えば超音波を湾曲管21に照射する。変位センサは、湾曲管21の外壁と変位センサとの間を超音波が往復する時間を測定する。変位センサは、超音波の往復時間の測定結果を、第3検出装置44に出力する。歪センサは、湾曲管21の任意の位置に予め装着される。歪センサは、装着された位置における湾曲管21の歪に応じた信号を、第3検出装置44に出力する。
【0051】
複数のカメラ5のうちのカメラ5-1とカメラ5-2とカメラ5-3とは、血管モデル2を撮影する。ここで、湾曲管21に血管内検査治療機器201が挿入されている場合、湾曲管21の壁を透過した光によって、カメラ5-1とカメラ5-2とカメラ5-3とは血管内検査治療機器201と湾曲管21とを撮影することになる。カメラ5-1とカメラ5-2とカメラ5-3とは、例えば、可視光による光学画像を生成してもよいし、X線による血管造影画像(アンギオ(ANGIO)画像)を生成してもよい。
【0052】
カメラ5-1は、血管モデル2を俯瞰する位置から、血管モデル2の上面の動画を撮影する。動画における時系列の最初のフレームは、湾曲管に血管内検査治療機器が挿入されていない状態における血管モデルの静止画(以下「背景画像」という。)として、画像処理(例えば、背景差分処理、フレーム間差分処理)に使用されてもよい。カメラ5-2及びカメラ5-3は、血管モデル2の側面の動画を撮影する。カメラ5-1とカメラ5-2とカメラ5-3とは、例えば、光学系の光軸が互いに直交するように配置される。これにより、3次元形状の湾曲管を3次元的に観察することが可能である。複数のカメラ5のうちのカメラ5-4は、術者の右手101及び左手102を撮影する。
【0053】
表示装置6は、表示デバイスを備える。表示装置6は、通信部421から送信された画像データに基づいて、動画又は静止画を表示する。例えば、表示装置6は、術者の右手101及び左手102の動画と、湾曲管21の変位量及び歪量を表す時間波形データと、血管モデル2の動画と、画像処理された血管モデル2の動画又は静止画とを表示する。例えば、表示装置6は、取得された術者動作データと所定の手本データとの相関と、手技を案内するための案内情報(操作を助言するための文字列)とを表示してもよい。
【0054】
記憶装置7(クラウドサーバ)は、例えば、対象術者動作データ(インプット)と対象機器状態データ(アウトプット)との組み合わせ(データセット)を記憶(蓄積)してもよい。記憶装置7は、通信部421から送信された対象機器状態データと対象術者動作データと相関とを、トレーニング日時及び術者識別番号に対応付けて、データベース化して記憶してもよい。記憶装置7は、同一の術者について、手技の上達の過程を示すデータを時系列で記憶してもよい。記憶装置7は、同程度の習熟レベルに到達した複数の術者(相関が同程度である複数の術者)について、相関の結果の分布データ(度数分布データ)を記憶してもよい。記憶装置7は、血管内検査治療機器201の種別ごとに、湾曲管21における血管内検査治療機器201の走行パターンを記憶してもよい。記憶装置7(クラウドサーバ)は、例えば、手本術者動作データ(インプット)と手本機器状態データと(アウトプット)との組み合わせ(データセット)を記憶(蓄積)してもよい。
【0055】
画像処理部441は、カメラ5によって撮影された画像に対して、所定の画像処理を実行する。画像処理は、特定の画像処理に限定されないが、例えば背景差分処理である。背景差分処理によって、湾曲管21への血管内検査治療機器201の挿入量と、湾曲管21と血管内検査治療機器201との接触具合と、接触具合に応じた湾曲管21の変形とが、視覚的に分かり易くなる。画像処理は、例えば、血管内検査治療機器201及び湾曲管21の状態を背景差分画像に基づいて分析する処理でもよい。画像処理は、背景差分処理された画像に目盛り等の補助画像を追加する処理でもよい。画像処理は、コントラスト成分を調整(輪郭強調)する処理でもよい。
【0056】
検出部442は、血管内検査治療機器201と湾曲管21との状態を検出する。例えば、検出部442は、超音波の往復時間の測定結果(往復時間の変化)に基づいて、湾曲管21の壁の変位量を検出する。例えば、検出部442は、歪に応じた信号に基づいて、湾曲管21の歪量を検出する。検出部442は、検出結果として機器状態データを生成する。検出部442は、機器状態データを通信部421に送信する。
【0057】
なお、術者の手指が血管内検査治療機器201(ガイドワイヤ)を回転させても、血管内検査治療機器201の実際の回転タイミングは、手指の動作タイミングと比較して遅れることがある。このため、術者の手指の動作タイミング(術者動作データ)と、手指の動作による血管内検査治療機器201の実際の回転タイミング(機器状態データ)とが同期するように、検出部442は、術者動作データの時刻と機器状態データの時刻とのうちの少なくとも一方を補正してもよい。例えば、タイミングが遅れる時間が予め測定されている場合、検出部442は、遅れる時間(測定結果)をオフセット値として、術者動作データの時刻と機器状態データの時刻とのうちの少なくとも一方をオフセットしてもよい。
【0058】
図10は、第3実施形態における、学習装置8(機械学習装置)の構成例を示す図である。学習装置8は、通信部81と、記憶部82と、学習部83とを備える。機械学習の段階として、学習段階と、推定段階(評価段階)とがある。学習段階では、機械学習の手法を用いて、学習済モデルが生成される。推定段階では、学習段階において生成された学習済モデルを用いて、術者の手技が評価(推定)される。
【0059】
学習段階において、通信部81は、センサシステム22、第1検出装置41、第2検出装置43、第3検出装置44、カメラ5及び記憶装置7との通信を実行する。通信部81は、機器状態データと、手指の手本動作を表す術者動作データ(手本データ)とのうちの少なくとも一つを、説明変数(学習データ)として、例えば記憶装置7から取得する。通信部81は、術者に手技を案内(助言)するための案内情報を、目的変数(正解ラベル)として、例えば記憶装置7から取得する。
【0060】
通信部81は、学習段階において生成された学習済モデルを、推定段階の処理が評価部423によって実行される前に通信部421に送信する。通信部81は、学習段階において生成された学習済モデルを、推定段階の処理が評価部423によって実行される前に記憶装置7に送信してもよい。記憶部82は、学習済モデルの基になる学習モデル(学習前モデル)を、予め記憶する。学習部83は、機械学習の手法を用いて、学習モデルのパラメータを更新する。これによって、学習部83は、学習済モデルを生成する。例えば、学習部83は、教師あり学習の手法を用いて、教師データ(説明変数及び目的変数)に基づいて学習済モデルを生成する。
【0061】
図11は、第3実施形態における、評価システム1cの使用例を示す図である。センサシステム22の変位センサ221は、湾曲管21の外壁と変位センサ221との間を超音波が往復する時間を測定する。変位センサ221は、超音波の往復時間の測定結果を、第3検出装置44に出力する。センサシステム22の歪センサ222は、装着された位置における湾曲管21の歪に応じた信号を、第3検出装置44に出力する。
【0062】
カメラ5-1は、湾曲管21の上面の動画を、手技評価装置42に出力する。カメラ5-2及びカメラ5-3は、湾曲管21の側面の動画を、第3検出装置44に出力する。湾曲管21の動画には、湾曲管21の内腔を移動する血管内検査治療機器201の画像が含まれていてもよい。カメラ5-4は、術者の右手101及び左手102を撮影する。
【0063】
<学習段階>
学習段階において、術者は、手本術者(手本となる手技を行う術者)である。手本術者は、手本術者の右手101及び左手102で、血管内検査治療機器201を操作する。手本術者は、湾曲管21の壁の変位を最小としたままで、湾曲管21の内腔において血管内検査治療機器201を移動させる。第1検出装置41は、手本術者の右手101及び左手102に対してモーショントラッキングを実行する。第1検出装置41は、検出点群の時系列の3次元座標データを、手本術者動作データとして、学習装置8に送信する。
【0064】
第2検出装置43は、指輪型センサ431等に固定された光ファイバ内に生じた回折格子に基づいて、手本術者の右手101及び左手102の手指動作(手本動作)を検出する。第2検出装置43は、手本術者の手指動作に応じた信号を、手本術者動作データの補助データとして、学習装置8に送信する。
【0065】
第3検出装置44は、湾曲管21の動画における1枚以上の静止画に対する画像処理の結果に基づいて、湾曲管21の壁の変位量を検出する。第3検出装置44は、超音波の往復時間の測定結果に基づいて、湾曲管21の壁の変位量を検出してもよい。第3検出装置44は、湾曲管21の壁の変位量を、手本機器状態データの一つとして、学習装置8に送信する。
【0066】
第3検出装置44は、湾曲管21の動画における1枚以上の静止画に対する画像処理の結果に基づいて、湾曲管21の壁の歪量(応力分布)を検出してもよい。第3検出装置44は、湾曲管21の歪に応じた信号に基づいて、湾曲管21の壁の歪量を検出してもよい。第3検出装置44は、湾曲管21の壁の歪量を、手本機器状態データの一つとして、学習装置8に送信する。
【0067】
第3検出装置44は、血管内検査治療機器201の動画における1枚以上の静止画に対する画像処理の結果に基づいて、血管内検査治療機器201(デバイス)の先端位置、形状(例えば、屈曲角及び回転角)、及び、湾曲管21の内壁との接触状態を、時系列で検出してもよい。第3検出装置44は、時系列の先端位置に基づいて、血管内検査治療機器201の速度を導出してもよい。第3検出装置44は、血管内検査治療機器201の先端位置等を、手本機器状態データの一つとして、学習装置8に送信する。
【0068】
学習装置8は、手本機器状態データと手本術者動作データとのうちの少なくとも一方に対して機械学習の手法を用いて、学習済モデルを生成する。
【0069】
<推定段階>
推定段階において、術者は、対象術者(手技が評価される対象の術者)である。対象術者は、対象術者の右手101及び左手102で、血管内検査治療機器201を操作する。第1検出装置41は、対象術者の右手101及び左手102に対してモーショントラッキングを実行する。第1検出装置41は、検出点群の時系列の3次元座標データを、対象術者動作データとして、手技評価装置42に送信する。
【0070】
第2検出装置43は、指輪型センサ431等に固定された光ファイバの回折格子内に生じた変化に基づいて、対象術者の右手101及び左手102の手指動作を検出する。第2検出装置43は、対象術者の手指動作に応じた信号を、対象術者動作データの補助データとして、手技評価装置42に送信する。
【0071】
第3検出装置44は、湾曲管21の動画における1枚以上の静止画に対する画像処理の結果に基づいて、湾曲管21の壁の変位量を検出する。第3検出装置44は、超音波の往復時間の測定結果に基づいて、湾曲管21の壁の変位量を検出してもよい。第3検出装置44は、湾曲管21の壁の変位量を、対象機器状態データの一つとして、手技評価装置42に送信する。
【0072】
第3検出装置44は、湾曲管21の動画における1枚以上の静止画に対する画像処理の結果に基づいて、湾曲管21の壁の歪量(応力分布)を検出してもよい。第3検出装置44は、湾曲管21の歪に応じた信号に基づいて、湾曲管21の壁の歪量を検出してもよい。第3検出装置44は、湾曲管21の壁の歪量を、対象機器状態データの一つとして、手技評価装置42に送信する。
【0073】
第3検出装置44は、血管内検査治療機器201の動画における1枚以上の静止画に対する画像処理の結果に基づいて、血管内検査治療機器201(デバイス)の先端位置、形状(例えば、屈曲角及び回転角)、及び、湾曲管21の内壁との接触状態を、時系列で検出してもよい。第3検出装置44は、時系列の先端位置に基づいて、血管内検査治療機器201の速度を導出してもよい。第3検出装置44は、血管内検査治療機器201の先端位置等を、対象機器状態データの一つとして、手技評価装置42に送信する。
【0074】
手技評価装置42は、対象機器状態データと対象術者動作データとのうちの取得されたデータと、所定の手本データとに基づいて、対象術者の手指の動作を評価する。例えば、手技評価装置42は、対象術者の手指の動作の評価として、取得されたデータと所定の手本データとの相関を評価する。例えば、対象機器状態データのみが取得された場合、手技評価装置42は、対象機器状態データと手本機器状態データとの相関を評価する。例えば、対象術者動作データのみが取得された場合、手技評価装置42は、対象術者動作データと手本術者動作データとの相関を評価する。例えば、対象機器状態データ及び対象術者動作データの両方が取得された場合、手技評価装置42は、対象機器状態データと手本機器状態データとの相関と、対象術者動作データと手本術者動作データとの相関とを評価する。
【0075】
手技評価装置42は、評価結果等を表示装置6に表示させる。例えば、手技評価装置42は、相関を表示装置6に表示させる。例えば、手技評価装置42は、対象術者に手技を案内するための案内情報(操作を助言するための文字列)を、表示装置6に表示させてもよい。
【0076】
次に、評価装置4cの詳細を説明する。
図12は、第3実施形態における、画像処理の例を示す図である。画像処理部441は、背景画像300を取得する。背景画像300は、湾曲管21に血管内検査治療機器201が挿入されていない状態における血管モデル2の静止画である。画像処理部441は、評価時モデル画像301を取得する。評価時モデル画像301は、推定段階において撮影された血管モデル2の動画における、時系列の静止画のうちの任意の静止画である。
【0077】
画像処理部441は、画素単位で背景画像300を評価時モデル画像301から減算することによって、第1差分画像302を生成する。画像処理部441は、画素単位で評価時モデル画像301を背景画像300から減算することによって、第2差分画像303を生成する。画像処理部441は、画素単位で第1差分画像302と第2差分画像303を加算する。画像処理部441は、加算結果に対して所定の乗算処理を画素単位で実行することによって、背景差分画像304を生成する。画像処理部441は、背景差分画像304を表示装置6に表示させてもよい。
【0078】
図13は、第3実施形態における、学習処理の例を示す図である。学習段階において、学習部83は、カメラ5によって撮影された血管モデル2及び血管内検査治療機器201の時系列の静止画を、手本機器状態データとして取得する。学習部83は、第1検出装置41によって検出された手本術者の右手101及び左手102の時系列の手指動作(3次元座標データ)を、手本術者動作データとして取得する。また、学習部83は、手技を案内するための案内情報を、記憶部82から取得する。
【0079】
図13では、学習部83は、手本機器状態データ305と手本術者動作データ306とのうちの少なくとも一方を、説明変数(学習データ)として取得する。学習部83は、案内情報を目的変数(正解ラベル)として取得する。
図13では、一例として、手本機器状態データ305-1と、手本術者動作データ306-1と、案内情報307「ガイドワイヤを30度回転させる」とが対応付けられている。また、一例として、手本機器状態データ305-2と、手本術者動作データ306-2と、案内情報308「ガイドワイヤを引き戻しながらカテーテルを押し込む」とが対応付けられている。
【0080】
学習部83は、取得された説明変数(学習データ)を、学習モデルに入力する。学習部83は、学習モデルの出力と案内情報(正解ラベル)との間の誤差を導出する。学習部83は、誤差が小さくなるように、例えば誤差逆伝播法によって、学習モデルのパラメータを更新する。学習モデルのパラメータを更新することによって、学習部83は、学習済モデルを生成する。
【0081】
学習部83は、通信部81を用いて、学習済モデルを記憶装置7又は手技評価装置42に送信する。学習部83は、手本機器状態データ305と手本術者動作データ306とを、通信部81を用いて、記憶装置7及び手技評価装置42に送信してもよい。記憶装置7及び手技評価装置42は、手本機器状態データ305と手本術者動作データ306とを、所定の手本データとして取得する。
【0082】
図14は、第3実施形態における、評価処理の第1例を示す図である。横軸は、第1の機器状態データ(例えば、変位センサ221-1が示す変位量等の特徴量)を示す。縦軸は、第2の対象機器状態データ(例えば、変位センサ221-2が示す変位量等の特徴量)を示す。推定段階(評価段階)において、通信部421は、対象機器状態データを、時系列の評価対象データとして取得する。評価部423は、対象機器状態データ401と手本機器状態データ402との相関を評価する。このような評価処理は、統計手法を用いて実行(演算)されてもよいし、機械学習の手法を用いて実行(例えば、分類等)されてもよい。
【0083】
なお、横軸は、第1の術者動作データ(例えば、親指の3次元座標データ)を示してもよい。縦軸は、第2の術者動作データ(例えば、人差し指の3次元座標データ)を示してもよい。この場合、推定段階(評価段階)において、通信部421は、対象術者動作データを、時系列の評価対象データとして取得する。評価部423は、対象術者動作データと手本術者動作データとの相関を評価する。
【0084】
図15は、第3実施形態における、評価処理の第2例を示す図である。推定段階(評価段階)において、通信部421は、対象機器状態データ309と対象術者動作データ310とのうちの少なくとも一方を、時系列の評価対象データとして取得する。評価部423は、対象機器状態データ309と対象術者動作データ310とのうちの取得された評価対象データと、所定の手本データとの相関を評価する。
【0085】
図15では、手本機器状態データ305-1と対象機器状態データ309との間の相関(例えば、一致度又は相関性)が、一例として90%である。相関が90%と高いため、対象機器状態データ309が学習済モデルに入力されることは、手本機器状態データ305-1が学習済モデルに入力されることと同様である。したがって、対象機器状態データ309が学習済モデルに入力された場合には、入力された対象機器状態データ309との相関が高い手本機器状態データ305-1に対応付けられた案内情報307が、学習済モデルから出力される。
【0086】
図15では、手本術者動作データ306-1と対象術者動作データ310との間の相関は、一例として90%である。相関が90%と高いため、対象術者動作データ310が学習済モデルに入力されることは、手本術者動作データ306-1が学習済モデルに入力されることと同様である。したがって、対象術者動作データ310が学習済モデルに入力された場合には、入力された対象術者動作データ310との相関が高い手本術者動作データ306-1に対応付けられた案内情報307が、学習済モデルから出力される。
【0087】
評価部423は、対象機器状態データ309と対象術者動作データ310とのうちの取得されたデータを、学習済モデルに入力する。評価部423は、学習済モデルから出力された案内情報307を、表示装置6に表示させる。また、評価部423は、相関「90%」を表示装置6に表示させる。
【0088】
図16は、第3実施形態における、画像の表示例を示す図である。画像処理部441は、カメラ5によって撮影された術者の右手101及び左手102の動画を、表示装置6に表示させる。画像処理部441は、湾曲管21の変位量、歪量又は応力分布を時系列で表す波形を、表示装置6に表示させてもよい。画像処理部441は、カメラ5によって撮影された血管内検査治療機器201及び湾曲管21の動画を、表示装置6に表示させてもよい。画像処理部441は、画像処理された湾曲管21の画像(例えば、背景差分画像)を、表示装置6に表示させてもよい。画像処理された画像には、補助画像が追加されてもよい。補助画像は、例えば、目盛り画像、変位方向を示す矢印、寸法を表す画像である。画像処理された画像における任意の各位置に点がプロットされた場合、その各点間の距離を表す補助画像が、画像処理された画像に追加されてもよい。
【0089】
次に、学習装置8及び評価装置4cの各動作例を説明する。
図17は、第3実施形態における、学習装置8の動作例を示すフローチャートである。学習段階において、通信部81は、血管内検査治療機器201と湾曲管21との状態を表す機器状態データと、術者の手指の手本動作を表す術者動作データとのうちの少なくとも一つを、説明変数として取得する(ステップS201)。
【0090】
通信部81は、所定の情報(例えば、手技を案内するための案内情報)を、目的変数として取得する(ステップS202)。学習部83は、機械学習の手法を用いて、説明変数及び目的変数に基づいて学習済モデルを生成する(ステップS203)。学習部83は、通信部421又は記憶装置7に、学習済モデルを送信する(ステップS204)。
【0091】
図18は、第3実施形態における、評価処理の第1例を示すフローチャートである。通信部421は、機器状態データと術者動作データとのうちの少なくとも一つを取得する。ここで、通信部421は、術者動作データを第1検出装置41及び第2検出装置43から取得する。通信部421は、機器状態データを第3検出装置44から取得する(ステップS301)。
【0092】
評価部423は、機器状態データと術者動作データとのうちの取得されたデータと、所定の手本データとに基づいて、対象術者の手指の動作を評価する。例えば、評価部423は、対象術者の手指の動作の評価として、取得されたデータと所定の手本データとの相関を評価する。手本データは、例えば、手本となる手指動作と、血管内検査治療機器201の理想的な状態(例えば、形状)と、湾曲管21の理想的な状態とのうちの少なくとも一つである(ステップS302)。評価部423は、通信部421を用いて、情報処理装置等の所定装置(不図示)に動作の評価結果を出力する。例えば、評価部423は、通信部421を用いて、相関を表示装置6に出力する(ステップS303)。なお、評価部423は、機器状態データと術者動作データと相関とを、トレーニング日時及び術者識別番号に対応付けて、記憶装置7(クラウドサーバ)に記録してもよい。
【0093】
図19は、第3実施形態における、評価処理の第2例を示すフローチャートである。推定段階において、通信部421は、学習済モデルを通信部81又は記憶装置7から取得する。この学習済モデルは、機械学習の手法を用いて説明変数及び目的変数に基づいて生成されたモデルである。説明変数は、手本機器状態データと手本術者動作データとのうちの少なくとも一つである。目的変数は、所定の情報であり、例えば案内情報である(ステップS401)。
【0094】
評価部423は、対象機器状態データと対象術者動作データとのうちの取得されたデータを、学習済モデルに入力する(ステップS402)。評価部423は、学習済モデルから出力された情報を、例えば表示装置6に表示させることによって、術者に提示する。出力された情報は、例えば案内情報である。評価部423は、相関を表示装置6に表示させることによって、術者に相関を提示してもよい(ステップS403)。
【0095】
以上のように、通信部421は、対象術者の手指の動作に応じて湾曲管21の内腔を移動する血管内検査治療機器201と湾曲管21との状態を表す対象機器状態データと、対象術者の手指の動作を表す対象術者動作データとのうちの少なくとも一つを取得する。対象機器状態データは、血管内検査治療機器201の先端位置、形状(例えば、屈曲角及び回転角)、及び、湾曲管21の内壁との接触状態と、湾曲管21の変位量及び歪量とのうちの少なくとも一つを表すデータである。評価部423は、対象機器状態データと対象術者動作データとのうちの取得されたデータと、所定の手本データとに基づいて、対象術者の手指の動作を評価する。
【0096】
これによって、医療機器を操作する術者(対象術者)の手技を更に効率的に向上させることが可能である。また、手指の理想的な手技と医療機器の状態データとに基づいて、対象術者の手技を正確に評価することが可能である。
【0097】
また、通信部421は、例えば説明変数及び目的変数に基づく教師あり学習の手法を用いて生成された学習済モデルを、学習装置8又は記憶装置7から取得する。説明変数は、手本術者(例えば、指導医)の手指の手本動作に応じて湾曲管21の内腔を移動する血管内検査治療機器201と湾曲管21との状態を表す手本機器状態データと、手本術者の手指の手本動作を表す手本術者動作データとのうちの少なくとも一つである。目的変数は、所定の情報(例えば、動作の案内を表す文字列)である。評価部423は、対象機器状態データと対象術者動作データとのうちの取得されたデータを、学習済モデルに入力する。評価部423は、学習済モデルから出力された所定の情報(例えば、動作の案内を表す文字列)を、対象術者に提示する。
【0098】
記憶装置7は、血管内検査治療機器201を操作する対象術者及び手本術者の各手技の過程(流れ)データを記憶してもよい。手技の過程データ(時系列データ)におけるインプットは、術者動作データである。手技の過程データ(時系列データ)におけるアウトプットは、機器状態データである。
【0099】
術者動作データとして計測する項目(パラメータ)は、例えば、ガイドワイヤのみの押し引き量(正方向、負方向)と、カテーテルのみの押し引き量(正方向、負方向)と、ガイドワイヤのみの回転量(正方向、負方向)と、カテーテルのみの回転量(正方向、負方向)とである。
【0100】
術者動作データの計測周期は予め定められる。ガイドワイヤのみの押し引き量の計測結果に基づいて、時間当たりの押し引き量(移動速度)が導出されてもよい。カテーテルのみの押し引き量の計測結果に基づいて、時間当たりの押し引き量(移動速度)が導出されてもよい。ガイドワイヤのみの回転量の計測結果に基づいて、時間当たりの回転量(回転速度)が導出されてもよい。カテーテルのみの回転量の計測結果に基づいて、時間当たりの回転量(回転速度)が導出されてもよい。
【0101】
なお、第3検出装置44は、カメラ5-1によって撮影された光学画像に基づいて、ガイドワイヤ又はカテーテルのいずれが移動したのかを判定することが可能である。また、第1検出装置41は、術者の手指動作(モーショントラッキングの結果)に基づいて、ガイドワイヤ又はカテーテルのいずれが回転したのかを判定することが可能である。
【0102】
手本術者動作データ(手本データ)は、カテーテル及びガイドワイヤを操作する医療用ロボットに提供されてもよい。これによって、医療用ロボットは、手本となる手指動作を真似ることできる。すなわち、医療用ロボットは医療機器の理想的な動きを実行することができる。術者が医療用ロボットを操作する場合において、危険性の高い動作を術者が行う可能性がある場合には、評価システム1aは術者に対して注意又は警告を事前に与えることが可能である。また、評価システム1aは、最適な術式を評価結果に基づいて術者に提案することが可能である。
【0103】
(第4実施形態)
第4実施形態では、対象術者に操作されたトルクデバイス105の状態を表すデータと、手本術者に操作されたトルクデバイス105の状態を表すデータとの相関が評価される点が、第3実施形態との差分の一つである。第4実施形態では、第3実施形態との差分を中心に説明する。
【0104】
以下、術者の手指の動作(手技)に応じて機器を移動させる操作における器具の状態を表すデータを「器具状態データ」という。機器とは、例えば、血管内検査治療機器201である。器具とは、例えば、トルクデバイス105である。
【0105】
以下、対象術者の手指の動作に応じて機器を移動させる操作における器具状態データを「対象器具状態データ」という。また、手本術者の手指の動作に応じて機器を移動させる操作における器具状態データを「手本器具状態データ」という。
【0106】
図20は、第4実施形態における、評価システム1dの構成例を示す図である。評価システム1dは、血管モデル2と、通信回線3と、評価装置4dと、N(Nは、1以上の整数)台のカメラ5と、表示装置6と、記憶装置7とを備える。血管モデル2は、湾曲管21と、センサシステム22とを備える。なお、センサシステム22は、血管内検査治療機器201にも備えられてよい。
【0107】
評価装置4dは、第1検出装置41と、手技評価装置42と、第3検出装置44と、第4検出装置45とを備える。手技評価装置42は、通信部421と、記憶部422と、評価部423とを備える。第3検出装置44は、画像処理部441と、検出部442とを備える。第4検出装置45は、画像処理部451と、検出部452とを備える。
【0108】
図21は、第4実施形態における、評価システム1dの使用例を示す図である。第4実施形態では、カメラ5-4は、例えば術者の右手101及び左手102とトルクデバイス105とを俯瞰する位置から、右手101と左手102とトルクデバイス105とを、動画で撮影する。
【0109】
カメラ5-4は、術者の右手101と、術者の左手102と、トルクデバイス105とを同じフレームに撮影可能とする向きで配置される。カメラ5-4は、術者の右手101と、術者の左手102と、血管内検査治療機器201のガイドワイヤに装着されたトルクデバイス105とを、動画で撮影する。動画のフレームレートは、例えば、60fpsである。画像処理部451は、カメラ5-4によって撮影された動画(時系列の静止画)に対して、所定の画像処理を実行する。画像処理は、特定の画像処理に限定されないが、例えば、学習モデルを用いた画像認識処理である。
【0110】
検出部452は、トルクデバイス105の状態を検出する。例えば、検出部452は、画像処理部451による画像処理結果(画像認識結果)に基づいて、実空間においてトルクデバイス105が移動した距離(押し込み量及び引き戻し量)を検出する。検出部452は、検出結果として、対象器具状態データを生成する。検出部452は、対象器具状態データを通信部421に送信する。
【0111】
通信部421は、対象器具状態データを、時系列の評価対象データとして取得する。評価部423は、対象器具状態データと手本器具状態データとの相関を評価する。評価部423は、対象術者動作データと手本術者動作データとの相関を評価してもよい。評価部423は、対象機器状態データと手本機器状態データとの相関を評価してもよい。
【0112】
図22は、第4実施形態における、血管内検査治療機器201の持ち方の例を示す図である。血管内検査治療機器201は、ガイドワイヤ202と、カテーテル203とを有する。カテーテル203は、ハブ204を有する。ガイドワイヤ202の軸回転が容易となるように、ガイドワイヤ202にはトルクデバイス105が装着される。
【0113】
カテーテル203の内腔には、ガイドワイヤ202が挿入される。術者は、ガイドワイヤ202の移動(湾曲管21への押し込み、及び、湾曲管21からの引き戻し)と、ガイドワイヤ202の軸回転とを、トルクデバイス105を用いて操作する。トルクデバイス105の持ち方には、
図22の上段に例示された「順手持ち」と、
図22の下段に例示された「逆手持ち」とがある。これらの持ち方では、トルクデバイス105のキャップ(トルクデバイス105にガイドワイヤ202を固定するために締める機構)のオクルージョンは、術者の右手101及び左手102によって発生しない。そこで、画像処理部451は、トルクデバイス105のキャップを画像認識する。
【0114】
検出部452は、トルクデバイス105のキャップの状態を、画像認識結果に基づいて検出する。例えば、検出部452は、トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの位置及び大きさの変化を、画像認識結果に基づいて検出する。例えば、検出部452は、トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの回転方向及び回転角を、画像認識結果に基づいて検出する。
【0115】
検出部452は、トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの位置の変化に基づいて、ガイドワイヤ202のキャップが実空間において移動した距離(ガイドワイヤ202の押し込み量及び引き戻し量)を算出する。検出部452は、トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの位置の変化だけでなく、それらの時系列の静止画におけるキャップの大きさの変化に基づいて、ガイドワイヤ202のキャップが実空間において移動した距離を算出してもよい。また、検出部452は、トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの回転角(ガイドワイヤ202に対する軸回転の姿勢)の変化に基づいて、ガイドワイヤ202の回転量(軸回転量)を算出する。
【0116】
図23は、第4実施形態における、回転方向及び回転角に応じたトルクデバイス105の外観の第1例を示す図(正面図及び側面図)である。トルクデバイス105のキャップの表面には、複数のマーク106が予め配置される。
図23では、トルクデバイス105のキャップの表面には、マーク106-1と、マーク106-2と、マーク106-3とが、等間隔で配置される。マーク106の個数は任意でよいが、軸回転方向に等間隔で配置されたマーク106の個数が3個以上であれば、少なくとも1個以上のマーク106をカメラ5-4は常に撮影することができる。各マーク106の形状は、特定の形状に限定されないが、例えば直方体等の凸形状である。各マーク106の色は、異なっていてもよい。また、各マーク106の形状は、異なっていてもよい。
【0117】
ガイドワイヤ202に装着されたトルクデバイス105のキャップを術者が軸回転させることによって、トルクデバイス105のキャップの回転角が変化する。このため、カメラ5-4によって撮影された時系列の静止画において、トルクデバイス105の各マーク106の位置が変化する。検出部452は、時系列の静止画に対する画像処理結果(画像認識結果)に基づいて、トルクデバイス105のキャップの回転角及び回転方向を検出する。
【0118】
図24は、第4実施形態における、回転方向及び回転角に応じたトルクデバイス105の外観の第2例を示す図(正面図及び側面図)である。
図24では、トルクデバイス105のキャップの表面には、一例として6個のマーク106が、軸回転方向に等間隔で配置される。これによって、各マーク106が細い場合でも、トルクデバイス105のキャップの回転角及び回転方向を検出することが可能である。
【0119】
図25は、第4実施形態における、回転方向及び回転角に応じたトルクデバイス105の外観の第3例を示す図(正面図及び側面図)である。トルクデバイス105のキャップの表面には、異なる形状の複数のマークが、キャップの円周上に配置されてもよい。
図25では、一例として、3個のマーク106と3個のマーク107とが、キャップの表面に配置される。マーク107-1の形状は、一例として円形である。マーク107-2の形状は、一例として正三角形である。マーク107-3の形状は、一例として正方形である。各マーク107の色は、異なっていてもよい。
【0120】
図26は、第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置(基準点の位置)との位置関係の第1例を示す図である。画像処理部451は、トルクデバイス105のキャップについて、撮像された時系列の静止画における位置の変化を、画像認識によって検出する。画像処理部451は、検出されたトルクデバイス105のキャップの位置に、バウンディングボックス108を定めてもよい。カメラ5-4によって撮影された時系列の静止画(フレーム)には、基準点109が予め定められる。湾曲管21は基準点109よりも左側にあるので、
図26において湾曲管21は不図示である。
【0121】
検出部452は、時系列で連続する第1画像及び第2画像のそれぞれにおいて、基準点109からバウンディングボックス108までの距離を算出する。第1画像におけるバウンディングボックス108-1が第2画像ではバウンディングボックス108-2の位置に移動した場合、検出部452は、基準点109からバウンディングボックス108-1までの距離と、基準点109からバウンディングボックス108-2までの距離との差を、トルクデバイス105が装着されたガイドワイヤ202の押し込み量として算出する。
【0122】
第1画像におけるバウンディングボックス108-2が第2画像ではバウンディングボックス108-1の位置に移動した場合、検出部452は、基準点109からバウンディングボックス108-1までの距離と、基準点109からバウンディングボックス108-2までの距離との差を、トルクデバイス105が装着されたガイドワイヤ202の引き戻し量として算出する。
【0123】
図27は、第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第2例を示す図である。検出部452は、
図26を用いて例示した算出方法と同様の算出方法で、ガイドワイヤ202の押し込み量及び引き戻し量を算出する。ここで、検出部452は、トルクデバイス105のキャップの形状における傾斜の方向に基づいて、時系列の静止画におけるトルクデバイス105の向き(長手方向)の変化を検出してもよい。検出部452は、トルクデバイス105の向きに応じて、ガイドワイヤ202の押し込み量及び引き戻し量の算出結果を補正してもよい。
【0124】
図28は、第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第3例を示す図である。トルクデバイス105の寸法(形状)は、予め定められる。トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの大きさの変化は、カメラ5-4からトルクデバイス105までの距離(鉛直方向の距離)の変化を表す。検出部452は、
図26又は
図27を用いて例示した算出方法と同様の算出方法で、ガイドワイヤ202の押し込み量及び引き戻し量を算出する。ここで、検出部452は、トルクデバイス105のキャップが撮像された時系列の静止画におけるキャップの大きさに応じて、トルクデバイス105の3次元移動に応じたガイドワイヤ202の押し込み量及び引き戻し量の算出結果を補正してもよい。
【0125】
図29は、第4実施形態における、押し込み及び引き戻しに応じたトルクデバイス画像の位置と、基準位置との位置関係の第4例を示す図である。基準点109は、ハブ204の位置に定められてもよい。これによって、カメラ5-4の画角(撮影範囲)が変化した場合でも、ハブ204に定められた基準点109の位置に対してトルクデバイス105が移動した距離(押し込み量及び引き戻し量)を、検出部452は検出することが可能である。
【0126】
<学習段階>
学習段階において、術者は、手本術者(手本となる手技を行う術者)である。手本術者は、手本術者の右手101及び左手102で、トルクデバイス105を用いて血管内検査治療機器201を操作する。手本術者は、湾曲管21の壁の変位を最小としたままで、湾曲管21の内腔において血管内検査治療機器201を移動させる。第1検出装置41は、手本術者の右手101及び左手102に対してモーショントラッキングを実行する。第1検出装置41は、検出点群の時系列の3次元座標データを、手本術者動作データとして、学習装置8に送信する。
【0127】
第2検出装置43は、指輪型センサ431等に固定された光ファイバ内に生じた回折格子に基づいて、手本術者の右手101及び左手102の手指動作(手本動作)を検出する。第2検出装置43は、手本術者の手指動作に応じた信号を、手本術者動作データの補助データとして、学習装置8に送信する。
【0128】
第3検出装置44は、湾曲管21の動画における1枚以上の静止画に対する画像処理の結果に基づいて、湾曲管21の壁の変位量を検出する。第3検出装置44は、超音波の往復時間の測定結果に基づいて、湾曲管21の壁の変位量を検出してもよい。第3検出装置44は、湾曲管21の壁の変位量を、手本機器状態データの一つとして、学習装置8に送信する。
【0129】
第4検出装置45は、トルクデバイス105が撮影された動画(時系列の静止画)を、カメラ5-4から取得する。第4検出装置45は、トルクデバイス105の状態を、画像認識によって検出する。第4検出装置45は、ガイドワイヤ202の押し込み量及び引き戻し量を、手本器具状態データの一つとして、学習装置8に送信する。また、第4検出装置45は、ガイドワイヤ202の回転方向及び回転角(回転量)を、手本器具状態データの一つとして、学習装置8に送信する。
【0130】
学習装置8は、手本機器状態データと手本術者動作データと手本器具状態データとのうちの少なくとも一つに対して機械学習の手法を用いて、学習済モデルを生成する。
【0131】
<推定段階>
推定段階において、術者は、対象術者(手技が評価される対象の術者)である。対象術者は、対象術者の右手101及び左手102で、トルクデバイス105を用いて血管内検査治療機器201を操作する。第1検出装置41は、対象術者の右手101及び左手102に対してモーショントラッキングを実行する。第1検出装置41は、検出点群の時系列の3次元座標データを、対象術者動作データとして、手技評価装置42に送信する。
【0132】
第2検出装置43は、指輪型センサ431等に固定された光ファイバの回折格子内に生じた変化に基づいて、対象術者の右手101及び左手102の手指動作を検出する。第2検出装置43は、対象術者の手指動作に応じた信号を、対象術者動作データの補助データとして、手技評価装置42に送信する。
【0133】
第3検出装置44は、湾曲管21の動画における1枚以上の静止画に対する画像処理の結果に基づいて、湾曲管21の壁の変位量を検出する。第3検出装置44は、超音波の往復時間の測定結果に基づいて、湾曲管21の壁の変位量を検出してもよい。第3検出装置44は、湾曲管21の壁の変位量を、対象機器状態データの一つとして、手技評価装置42に送信する。
【0134】
第4検出装置45は、トルクデバイス105が撮影された動画(時系列の静止画)を、対象術者動作データとして、カメラ5-4から取得する。第4検出装置45は、トルクデバイス105の状態を、画像認識によって検出する。第4検出装置45は、ガイドワイヤ202の押し込み量及び引き戻し量を、対象器具状態データの一つとして、手技評価装置42に送信する。また、第4検出装置45は、ガイドワイヤ202の回転方向及び回転角(回転量)を、対象器具状態データの一つとして、手技評価装置42に送信する。
【0135】
手技評価装置42は、対象機器状態データと対象術者動作データと対象器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、対象術者の手指の動作を評価する。例えば、手技評価装置42は、対象術者の手指の動作の評価として、取得されたデータと所定の手本データとの相関を評価する。例えば、対象器具状態データのみが取得された場合、手技評価装置42は、対象器具状態データと手本機器状態データとの相関を評価する。例えば、対象術者動作データのみが取得された場合、手技評価装置42は、対象術者動作データと手本術者動作データとの相関を評価する。例えば、対象器具状態データ及び対象術者動作データの両方が取得された場合、手技評価装置42は、対象器具状態データと手本機器状態データとの相関と、対象術者動作データと手本術者動作データとの相関とを評価する。
【0136】
手技評価装置42は、評価結果等を表示装置6に表示させる。例えば、手技評価装置42は、相関(相関値)を表示装置6に表示させる。例えば、手技評価装置42は、対象術者に手技を案内するための案内情報(操作を助言するための文字列)を、表示装置6に表示させてもよい。
【0137】
次に、学習装置8及び評価装置4dの各動作例を説明する。
図30は、第4実施形態における、学習装置8の動作例を示すフローチャートである。学習段階において、通信部81は、血管内検査治療機器201と湾曲管21との状態を表す機器状態データと、術者の手指の手本動作を表す術者動作データと、トルクデバイス105の状態を表す機器状態データとのうちの少なくとも一つを、説明変数として取得する(ステップS501)。
【0138】
通信部81は、所定の情報(例えば、手技を案内するための案内情報)を、目的変数として取得する(ステップS502)。学習部83は、機械学習の手法を用いて、説明変数及び目的変数に基づいて学習済モデルを生成する(ステップS503)。学習部83は、通信部421又は記憶装置7に、学習済モデルを送信する(ステップS504)。
【0139】
図31は、第4実施形態における、評価処理の第1例を示すフローチャートである。通信部421は、機器状態データと術者動作データと器具状態データとのうちの少なくとも一つを取得する。ここで、通信部421は、術者動作データを第1検出装置41及び第2検出装置43から取得する。通信部421は、機器状態データを第3検出装置44から取得する。通信部421は、器具状態データを第4検出装置45から取得する(ステップS601)。
【0140】
評価部423は、機器状態データと術者動作データと器具状態データとのうちの取得されたデータと、所定の手本データとに基づいて、対象術者の手指の動作を評価する。例えば、評価部423は、対象術者の手指の動作の評価として、取得されたデータと所定の手本データとの相関を評価する。手本データは、例えば、手本となる手指動作と、血管内検査治療機器201の理想的な状態(例えば、理想的な形状)と、湾曲管21の理想的な状態(例えば、理想的な変位量)と、トルクデバイス105の理想的な状態(例えば、理想的な押し込み量及び引き戻し量、並びに、理想的な回転方向及び回転量)とのうちの少なくとも一つである(ステップS602)。
【0141】
評価部423は、通信部421を用いて、情報処理装置等の所定装置(不図示)に動作の評価結果を出力する。例えば、評価部423は、通信部421を用いて、相関を表示装置6に出力する(ステップS603)。なお、評価部423は、機器状態データと術者動作データと器具状態データと相関(相関値)とを、トレーニング日時及び術者識別番号に対応付けて、記憶装置7(クラウドサーバ)に記録してもよい。
【0142】
図32は、第4実施形態における、評価処理の第2例を示すフローチャートである。推定段階において、通信部421は、学習済モデルを通信部81又は記憶装置7から取得する。この学習済モデルは、機械学習の手法を用いて説明変数及び目的変数に基づいて生成されたモデルである。説明変数は、手本機器状態データと手本術者動作データと手本器具状態データとのうちの少なくとも一つである。目的変数は、所定の情報であり、例えば案内情報である(ステップS701)。
【0143】
評価部423は、対象機器状態データと対象術者動作データと対象器具状態データとのうちの取得されたデータを、学習済モデルに入力する(ステップS702)。評価部423は、学習済モデルから出力された情報を、例えば表示装置6に表示させることによって、術者に提示する。出力された情報は、例えば案内情報である。評価部423は、相関(相関値)を表示装置6に表示させることによって、術者に相関を提示してもよい(ステップS403)。
【0144】
以上のように、通信部421は、対象機器状態データと、対象術者動作データと、対象術者の手指の動作に応じて血管内検査治療機器201を移動させる操作におけるトルクデバイス105の状態を表す対象器具状態データとのうちの少なくとも一つを取得する。評価部423は、対象機器状態データと対象術者動作データと対象器具状態データとのうちの取得されたデータと、所定の手本データとの相関に基づいて、対象術者の手指の動作を評価する。
【0145】
これによって、医療機器を操作する術者(対象術者)の手技を更に効率的に向上させることが可能である。また、手指の理想的な手技と医療器具(例えば、トルクデバイス)の状態データとに基づいて、対象術者の手技を正確に評価することが可能である。
【0146】
学習段階では、通信部81は、手本機器状態データと、手本術者動作データと、手本術者の手指の動作に応じて血管内検査治療機器201を移動させる操作におけるトルクデバイス105の状態を表す手本器具状態データとのうちの少なくとも一つを、説明変数として取得し、所定の情報を目的変数として取得する。学習部83は、説明変数及び目的変数に基づいて学習済モデルを生成する。
【0147】
推定段階(評価段階)では、通信部421は、学習済モデルを取得する。この学習済モデルは、手本機器状態データと、手本術者動作データと、手本術者の手指の動作に応じて血管内検査治療機器201を移動させる操作におけるトルクデバイス105の状態を表す手本器具状態データとのうちの少なくとも一つを説明変数とし、所定の情報を目的変数として、説明変数及び目的変数に基づいて予め生成される。
評価部423は、対象機器状態データと対象術者動作データと対象器具状態データとのうちの取得されたデータを学習済モデルに入力し、学習済モデルから出力された所定の情報を提示する。
【0148】
各実施形態によって、医療機器(例えば、血管内検査治療機器(カテーテル、ガイドワイヤ、バルーン、ステント及び塞栓用コイル)、及び、塞栓物質)を操作する術者の手技を向上させることが可能である評価装置、学習装置、評価システム、評価方法、学習方法及びプログラムが提供された。また、新規に開発又は改良された医療機器の効果と、安全性の評価システムと、評価方法と、プログラムとが提供された。
【0149】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0150】
1a,1b,1c…評価システム、2…血管モデル、3…通信回線、4a,4b,4c…評価装置、5…カメラ、6…表示装置6…記憶装置、8…学習装置、21…湾曲管、22…センサシステム、41…第1検出装置、42…手技評価装置、43…第2検出装置、44…第3検出装置、45…第4検出装置、81…通信部、82…記憶部、83…学習部、101…右手、102…左手、103…親指、104…人差し指、105…トルクデバイス、106…マーク、107…マーク、108…バウンディングボックス、109…基準点、201…血管内検査治療機器、202…ガイドワイヤ、203…カテーテル、204…ハブ、221…変位センサ、222…歪センサ、300…背景画像、301…評価時モデル画像、302…第1差分画像、303…第2差分画像、304…背景差分画像、305…手本機器状態データ、306…手本術者動作データ、307…案内情報、308…案内情報、309…対象機器状態データ、310…対象術者動作データ、401…対象機器状態データ、402…手本機器状態データ、421…通信部、422…記憶部、423…評価部、431…指輪型センサ、432…歪センサ、433…固定用治具、434…チューブ、435…FBGセンサ、441…画像処理部、442…検出部、441…画像処理部、442…検出部、451…画像処理部、452…検出部