【文献】
上杉麗子 他,"柔軟シートを用いたハプティック・デバイスに関する研究",第21回日本ロボット学会学術講演会予稿集CD-ROM,2003年 9月20日,pp.1-4
(58)【調査した分野】(Int.Cl.,DB名)
粘弾性材料で形成された補助物体が装着可能であり、与えられた制御係数に応じて前記補助物体に対して作用を及ぼして前記補助物体の表面の粘弾性を変化させるアクチュエータと、
手術器具が装着可能であり、与えられた制御係数に応じて前記手術器具に対して前記補助物体からの反力に追加して反力を与える力覚提示デバイスと、
さまざまな手術対象物について実測された目標反力をデータベース化して保持し、前記データベースの中から選択された手術対象物の目標反力に対して前記補助物体の変位量に応じて前記力覚提示デバイスおよび前記アクチュエータの各制御係数を決定して、当該各制御係数で前記力覚提示デバイスおよび前記アクチュエータを制御する制御装置とを備えている
ことを特徴とする力覚提示システム。
【発明の概要】
【発明が解決しようとする課題】
【0006】
臓器や皮膚など手術対象物に対して切る(切開)、刺す(穿刺)、縫う(縫合)などの外科処置を施した場合、手術対象物に破壊現象が生じた瞬間にその手術対象物独特の反力応答が発生する。そのような反力応答はユーザに「刺さった感覚」や「切れた感覚」などとして知覚される。このような手術対象物の破壊現象による独特の反力応答は、その手術対象物を組成する組織の密度や粘弾性などのさまざまな要因によってさまざまに異なるため、有限要素モデルなどの複雑なモデルに基づく力覚提示デバイスを用いなければ仮想的に作り出すことは困難である。しかし、上述したように、これはモデル化が非常に複雑である上に力覚提示システムが非常に高価なものとなる。
【0007】
上記問題に鑑み、本発明は、簡単な反力モデルを実現する比較的安価な力覚提示デバイスを用いてリアリティの高い力覚提示を可能にする力覚提示システムを提供することを課題とする。
【課題を解決するための手段】
【0008】
本発明の一局面に従った力覚提示システムは、粘弾性材料で形成された補助物体が装着可能であり、与えられた制御係数に応じて前記補助物体に対して作用を及ぼして前記補助物体の表面の粘弾性を変化させるアクチュエータと、手術器具が装着可能であり、与えられた制御係数に応じて前記手術器具に対して前記補助物体からの反力に追加して反力を与える力覚提示デバイスと、さまざまな手術対象物について実測された目標反力をデータベース化して保持し、前記データベースの中から選択された手術対象物の目標反力に対して
前記補助物体の変位量に応じて前記力覚提示デバイスおよび前記アクチュエータの各制御係数を決定して、当該各制御係数で前記力覚提示デバイスおよび前記アクチュエータを制御する制御装置とを備えている。
【0009】
これによると、補助物体からの反力に力覚提示デバイスが生成する反力が重ね合わされてユーザに提示される。補助物体は手術対象物と同様の複雑な反力応答特性を有するため、力覚提示デバイスは手術対象物の反力と補助物体の反力との差分を提示しさえすればよく、比較的簡単な反力モデルでこれを実現することができる。さらに、手術対象物の目標反力に合わせて補助物体の表面の粘弾性が変えられることで補助物体の応答特性が変化するため、1種類の補助物体でさまざまな手術対象物を模擬することができる。
【0010】
前記補助物体は、ゴムシートで形成されていてもよく、また、前記アクチュエータは、前記補助物体を引き延ばす力を変化させることで前記補助物体の表面の粘弾性を変化させるものであってもよい。
【0011】
あるいは、前記補助物体は、手術対象物の形状を模した立体形状を有していてもよく、その内部は空洞であり、また、前記アクチュエータは、前記補助物体の内部の空気圧を変化させることで前記補助物体の表面の粘弾性を変化させるものであってもよい。
【0012】
上記の力覚提示システムは、前記手術器具による手術の仮想映像および/または効果音を提示する補助デバイスを備えており、前記制御装置は、前記補助デバイスを駆動して、前記力覚提示デバイスが提示する反力に合った前記仮想映像および/または前記効果音を提示させるものであってもよい。
【発明の効果】
【0013】
本発明によると、簡単な反力モデルを実現する比較的安価な力覚提示デバイスを用いてリアリティの高い力覚提示が可能となる。これにより、高いリアリティを有する手術トレーニングシステムを比較的安価に構築することができる。
【発明を実施するための形態】
【0015】
以下、図面を参照しながら本発明を実施するための形態について説明する。なお、本発明は、以下の実施形態に限定されるものではない。
【0016】
図1は、本発明の一実施形態に係る力覚提示システムの概略構成を示す。本実施形態に係る力覚提示システムは、力覚提示デバイス10、アクチュエータ20、表示デバイス30、音響デバイス40、および制御装置50を備えている。本実施形態に係る力覚提示システムは、ハプティックAR(Augmented Reality)の考えに基づき、補助物体100を用いて補助物体100からの反力に力覚提示デバイス10が生成する反力を重ね合わせてユーザに合成反力を提示するものである。
【0017】
まず、ハプティックARの原理について説明する。
図2は、ハプティックARの原理を模式的に示す。ハプティックARは、目標物体を模擬する補助物体(Base Object)を用いて補助物体からの反力f
baseに力覚提示デバイスが生成する反力f
deviceを付加することでより現実に近い反力f
device+f
baseをユーザに提示する。このように、ハプティックARでは、補助物体の助けを借りることで、簡単な反力モデルを実現する力覚提示デバイスを用いてリアリティの高い力覚提示が可能となる。
【0018】
図3は、目標物体の反力およびハプティックARに係る各種反力を示す。グラフの縦軸は反力(Force)、横軸は目標物体または補助物体表面に外力を印加したときの目標物体または補助物体表面の当該外力方向の変位(Displacement)を表す。
【0019】
目標物体の反力応答は非常に複雑であり、目標物体の反力f
targetは簡単な反力モデルM
targetでは表現しきれず、応答誤差E
targetが存在する。したがって、次式(1)が成り立つ。
【0020】
f
target=M
target+E
target … (1)
【0021】
一方、補助物体の反力応答もまた非常に複雑であり、補助物体の反力f
baseもまた簡単な反力モデルM
baseでは表現しきれず、応答誤差E
baseが存在する。したがって、次式(2)が成り立つ。
【0022】
f
base=M
base+E
base … (2)
【0023】
ハプティックARにおいて、ユーザに提示される反力f
ARは、補助物体の反力f
baseと力覚提示デバイスが生成する反力f
deviceと合成したものである。したがって、次式(3)が成り立つ。
【0024】
f
AR=f
device+f
base… (3)
【0025】
ハプティックARでは、力覚提示デバイスは目標物体と補助物体のモデル化成分の差のみを出力すればよい。すなわち、ハプティックARにおいて力覚提示デバイスが生成すべき反力f
deviceは次式(4)で表される。
【0026】
f
device=M
target−M
base … (4)
【0027】
したがって、式(1)から式(4)より、目標物体の反力f
targetとハプティックARによる反力f
ARとの応答誤差Eは次式(5)で表される。
【0028】
E=f
target−f
AR
=M
target+E
target−(f
device+f
base)
=M
target+E
target−(M
target−M
base+M
base+E
base)
=E
target−E
base … (5)
【0029】
式(5)から明らかなように、目標物体の応答誤差E
targetに近い応答誤差E
baseを有する補助物体を用いることで、目標物体の反力f
targetとハプティックARによる反力f
ARとの応答誤差Eをほぼゼロにすることができる。したがって、ハプティックARによると、最適な補助物体を選択することで、簡単な反力モデルを実現する力覚提示デバイスを用いてリアリティの高い力覚提示が可能となる。
【0030】
図4は、最適な補助物体を用いた場合とそうでない場合におけるハプティックARに係る各種反力を示す。
図4(a)は最適な補助物体を用いた場合のグラフであり、
図4(b)は最適でない補助物体を用いた場合のグラフである。各グラフの縦軸は反力(Force)、横軸は目標物体または補助物体表面に外力を印加したときの目標物体または補助物体表面の当該外力方向の変位(Displacement)を表す。
【0031】
最適な補助物体を用いた場合、
図4(a)に示すように、目標物体の反力f
targetの応答特性と補助物体の反力f
baseの応答特性とが概ね一致するため、力覚提示デバイスは簡単な反力モデルに基づく反力f
deviceを出力すれば足りる。しかし、最適でない補助物体を用いた場合、
図4(b)に示すように、目標物体の反力f
targetの応答特性と補助物体の反力f
baseの応答特性とが一致しないため、その応答特性のずれを補償するには、力覚提示デバイスの反力f
deviceに極めて複雑な応答特性が必要となる。しかし、そのような反力応答は簡単な反力モデルに基づく力覚提示デバイスでは出力することができない。そこで、本実施形態に係る力覚提示システムでは、補助物体を駆動することで補助物体の反力f
baseの応答特性を変化させて目標物体の反力f
targetの応答特性に一致させる。
【0032】
図5は、本実施形態に係る力覚提示システムの制御系を概念的に示す。制御装置50は、物体変形量xに応じて力覚提示デバイス10用の反力を反力モデルM
dev(x)に基づき決定する。目標反力は、臓器や皮膚などの手術対象物の反力応答を測定することで求められる。反力モデルM
dev(x)で目標反力を完全に表現することはできないが、制御装置50は、できるだけ目標反力に近い反力を反力モデルM
dev(x)により生成する。力覚提示デバイス10用の反力モデルM
dev(x)が決まると、力覚提示デバイス10の制御係数が決まる。力覚提示デバイス10は、制御装置50から与えられる反力モデルM
dev(x)に対応する制御係数で反力f
deviceを出力する。
【0033】
一方、力覚提示デバイス10用の反力モデルM
dev(x)で表現しきれない反力、すなわち、目標反力と反力モデルM
dev(x)との応答誤差は補助物体100の反力f
baseにより補償する。しかし、
図4(b)の例のように、目標反力と補助物体100の反力f
baseとで応答特性が一致しないことがある。そこで、アクチュエータ20を用いて補助物体100に作用を及ぼして目標反力と補助物体100の反力f
baseとの応答特性を一致させる。アクチュエータ20の制御のために、制御装置50は、物体変形量xに対して、アクチュエータ20の制御係数G(x)を決定する。アクチュエータ20は、制御装置50から与えられる制御係数G(x)で補助物体100を駆動する。
【0034】
上記のように力覚提示デバイス10とアクチュエータ20を制御することで、
図4(b)の例のような目標反力と補助物体の反力の応答特性が一致しない問題を解消して、簡単な反力モデルを実現する力覚提示デバイス10を用いてリアリティの高い力覚提示が可能となる。
【0035】
次に、
図1を参照しながら本実施形態に係る力覚提示システムの各構成要素について詳細に説明する。力覚提示デバイス10は、例えば、3自由度(X,Y,Z)の反力提示機能を有するロボットアーム型の力覚フィードバック装置で構成することができる。力覚提示デバイス10が依拠する反力モデルはバネモデルやフォークトモデルなどの簡単な反力モデルで十分である。したがって、比較的安価な力覚提示デバイス10が利用可能である。
【0036】
力覚提示デバイス10は図示しない複数のDCモータを備えており、これらDCモータをトルク制御することでX,Y,Zの各軸方向の反力を出力する。DCモータの制御に係る制御係数は制御装置50から与えられる。
【0037】
力覚提示デバイス10は複数のアームを有しており、その先端にスタイラスジンバル12が取り付けられている。スタイラスジンバル12はユーザが操作して前後・左右・上下(ピッチ・ロール・ヨー)に自在に動かすことができる。力覚提示デバイス10はスタイラスジンバル12の動きおよびそのX,Y,Z軸の各位置を検出できるようになっている。
【0038】
スタイラスジンバル12には手術器具101が装着可能となっている。スタイラスジンバル12に装着された手術器具101はスタイラスジンバル12と一体となって動く。これにより、力覚提示デバイス10が生成する反力はスタイラスジンバル12に装着された手術器具101に直接伝達される。
【0039】
なお、本実施形態に係る力覚提示システムでは、手術器具101として内視鏡下手術用の鉗子を装着しているが、これ以外にも開腹開胸手術用のメス、剪刀、持針器、鑷子などを装着することができる。
【0040】
アクチュエータ20には補助物体100が装着可能となっている。補助物体100は粘弾性材料で形成されている。補助物体100は臓器や皮膚などの手術対象物を模擬するものであり、手術器具101によって切る(切開)、刺す(穿刺)、縫う(縫合)などの外科処置を及ぼし得るようなものである。補助物体100として、硬度5〜10程度のゴム製(シリコーンゴムなど)のゴムシートなどを用いることができる。
【0041】
アクチュエータ20には4つのアーム22があり、シート状の補助物体100はその四隅が4つのアーム22にそれぞれ把持されてアクチュエータ20に装着されている。4つのアーム22がホームポジションにあるとき、補助物体100は所定の力で四方に引き延ばされ、補助物体100の表面に所定の粘弾性が生じるようになっている。
【0042】
アクチュエータ20は、4つのアーム22を駆動するための図示しないDCモータを備えている。アクチュエータ20は、当該DCモータをトルク制御して4つのアーム22による補助物体100の引張力を変化させる。これにより、補助物体100の表面の粘弾性が変化して補助物体100の反力応答が変化する。なお、DCモータの制御に係る制御係数は制御装置50から与えられる。
【0043】
図6は、補助物体100に破壊現象が生じないように補助物体100に針を押し当てたときの補助物体100の伸び率ごとの反力応答を示す。また、
図7は、補助物体100に破壊現象が生じるように補助物体100に針を押し当てたときの補助物体100の伸び率ごとの反力応答を示す。ここでいう破壊現象とは、補助物体100に押し当てた針が補助物体100を突き破ることを指し、外科処置の一つである穿刺を想定している。補助物体100の伸び率は、
図6(a)および
図7(a)では0%、
図6(b)および
図7(b)では20%、
図6(c)および
図7(c)では40%である。各グラフの縦軸は反力(force)、横軸は針の先端の変位(displacement)を表す。なお、反力は針を押し込む方向を正方向としているため負値で表される。また、針の先端が補助物体100の表面に触れるときの変位を0とする。
【0044】
図6からわかるように、補助物体100の反力の最大値は補助物体100の伸び率にかかわらずほぼ同値であるが、特に補助物体100の変位が小さい領域(概ね10mm未満)においては補助物体100の伸び率が大きい、すなわち、補助物体100をより強い力で引き延ばすほど、補助物体100の反力がより大きくなっている。したがって、補助物体100を引き延ばす力を変化させることで、補助物体100の表面の粘弾性、特に弾性をコントロールすることができる。
【0045】
一方、
図7からわかるように、補助物体100の反力が最大値まで達すると針が補助物体100を突き破り、すなわち、補助物体100に破壊現象が発生し、その瞬間に反力が一気に弱まる。補助物体100に破壊現象が発生する直前の最大反力および破壊現象の発生後に弱まった反力はそれぞれ補助物体100の伸び率にかかわらずほぼ同値であるが、補助物体100の伸び率の違いにより補助物体100に破壊現象が発生するときの変位が異なっている。伸び率が0%のときは概ね23mmの変位で、伸び率が20%のときは概ね14mmの変位で、伸び率が40%のときは概ね12mmの変位で、それぞれ補助物体100に破壊現象が発生している。したがって、補助物体100を引き延ばす力を変化させることで、補助物体100に破壊現象が生じるときの変位をコントロールすることができる。
【0046】
補助物体100として、ゴムシート以外に、例えば、粘弾性材料で形成され、手術対象物の形状を模した立体形状物を用いることもできる。
図8は、立体形状を有する補助物体100を模式的に示す。
図8の例の補助物体100は肝臓を模したものであり、その内部は空洞になっている。この補助物体100の内部に空気を送り込むことで、補助物体100の表面の粘弾性が変化して補助物体100の反力応答が変化する。
図8の例のような補助物体100を用いる場合、アクチュエータ20は、補助物体100に空気を送り込むための図示しないエアーコンプレッサを備えている。アクチュエータ20は、当該エアーコンプレッサを制御して補助物体100の内部の空気圧を変化させる。
【0047】
また、アクチュエータ20は、補助物体100を振動させたり、拍動させたりして補助物体100の反力応答を適宜変化させるようにしてもよい。
【0048】
図1に戻り、表示デバイス30および音響デバイス40は、ハプティックARを視聴覚的にサポートする補助デバイスである。表示デバイス30は、手術器具101による手術の仮想映像を表示する。仮想映像では、仮想手術器具301と仮想手術対象物302がコンピュータグラフィックス(CG)により表示される。仮想手術器具301は手術器具101の動きに連動して動く。また、仮想手術対象物302は手術器具101の操作による補助物体100の変形に応じて変形する。例えば、補助物体100に手術器具101の先端を突き刺したとき、表示デバイス30には仮想手術器具301の先端が仮想手術対象物302に突き刺さる映像が表示される。
【0049】
ただし、仮想映像において仮想手術器具301の先端が仮想手術対象物302に触れるタイミングは、手術器具101の先端が補助物体100に実際に触れる現実世界の事象ではなく、スタイラスジンバル12の動きおよびそのX,Y,Z軸の各位置から判断して手術器具101の先端が補助物体100に触れたと考えられる仮想世界の事象に合わせる。
【0050】
力覚提示デバイス10は仮想世界の事象に合わせて反力を提示するため、例えば、手術器具101の先端が補助物体100にまだ触れてもいないのに力覚提示デバイス10に反力が生じることがある。このように現実世界と仮想世界との間で齟齬が生じるとユーザが違和感を感じるおそれがある。そこで、表示デバイス30が、力覚提示デバイス10が提示する反力に合った仮想映像を表示することで、ユーザは、手術器具101の先端が補助物体100にまだ触れていないにもかかわらず、あたかも手術器具101の先端が補助物体100に触れたかのように錯覚する。このように、人間の視覚情報による錯覚を利用して現実世界と仮想世界との間で生じる齟齬による違和感を低減することができる。
【0051】
音響デバイス40は、手術器具101による手術の効果音を再生する。手術の効果音は、例えば、仮想手術器具301が仮想手術対象物302に触れたときの音、仮想手術器具301が仮想手術対象物302を切開、穿刺、縫合などするときの音などである。
【0052】
音響デバイス40もまた力覚提示デバイス10が提示する反力に合わせて効果音を再生する。特に重要なのは仮想手術器具301が仮想手術対象物302に触れたときの音である。上述したように、現実世界と仮想世界との間で齟齬が生じるとユーザが違和感を感じるおそれがある。そこで、音響デバイス40が、力覚提示デバイス10が提示する反力に合った効果音を再生することで、ユーザは、手術器具101の先端が補助物体100にまだ触れていないにもかかわらず、あたかも手術器具101の先端が補助物体100に触れたかのように錯覚する。このように、人間の聴覚情報による錯覚を利用して現実世界と仮想世界との間で生じる齟齬によるユーザの違和感を低減することができる。
【0053】
制御装置50は、力覚提示デバイス10、アクチュエータ20、表示デバイス30、および音響デバイス40と接続されており、これらを制御および駆動する。制御装置50は、力覚提示システム専用のハードウェアであってもよいし、あるいは力覚提示システム用のコンピュータプログラムを実行する汎用コンピュータであってもよい。
【0054】
制御装置50は、さまざまな手術対象物について実測された目標反力をデータベース化して保持している。ユーザは手術トレーニングを開始するにあたって、データベースの中から任意の手術対象物を選択することができるようになっている。ユーザによって手術対象物が選択されると、制御装置50は、当該選択された手術対象物の目標反力に対して力覚提示デバイス10およびアクチュエータ20の各制御係数を決定する。そして、制御装置50は、決定した各制御係数で力覚提示デバイス10およびアクチュエータ20を制御する。
【0055】
また、制御装置50は、力覚提示デバイス10からスタイラスジンバル12の動きおよびそのX,Y,Z軸の各位置情報を受ける。制御装置50は、当該情報から手術器具101の動き、特に手術器具101の先端の位置を計算し、当該計算結果に基づいて力覚提示デバイス10が提示する反力に合った仮想映像および効果音を生成する。こうして生成された仮想映像および効果音は表示デバイス30および音響デバイス30によって表示および再生される。
【0056】
以上のように、本実施形態によると、簡単な反力モデルを実現する比較的安価な力覚提示デバイス10を用いて、切る(切開)、刺す(穿刺)、縫う(縫合)などの外科処置についてリアリティの高い力覚提示が可能となる。また、1種類の補助物体100でさまざまな手術対象物の手術トレーニングが可能となる。
【0057】
なお、さまざまな特性を有する補助物体100を用意して、これら補助物体100をアクチュエータ20に適宜付け替えるようにすることで、手術トレーニング可能な手術対象物の選択幅をさらに広げることができる。