(58)【調査した分野】(Int.Cl.,DB名)
切断又は麻痺を含む障害が発生した障害肢に装着されたモーションセンサによる検出結果に基づいて、前記障害肢の前記モーションセンサが装着された部位の姿勢を推定する推定部と、
前記推定部による姿勢の推定結果を用いて前記障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置に表示する制御を行う場合に、前記仮想肢の先端に近づくに従って前記推定結果から定まる回動量よりも大きくして、前記仮想肢を前記表示装置に表示する制御を行う制御部と、
を備えた表示制御装置。
前記推定部は、前記障害肢に装着された筋電位センサにより検出された筋電位信号に基づいて、前記障害肢の首部及び指部の少なくとも一方として想定される想定部位の動作を更に推定し、
前記制御部は、前記表示装置に表示された前記仮想肢の前記想定部位に対応する部位が、前記推定部による動作の推定結果に対応する動作を行うように制御する
請求項1に記載の表示制御装置。
前記制御部は、前記第2動作モードが指定された場合、前記推定部による前記姿勢の推定結果の変化よりも動作角度を大きくして前記仮想肢を前記表示装置に表示する制御を行う
請求項3に記載の表示制御装置。
切断又は麻痺を含む障害が発生した障害肢に装着されたモーションセンサによる検出結果に基づいて、前記障害肢の前記モーションセンサが装着された部位の姿勢を推定し、
前記姿勢の推定結果を用いて前記障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置に表示する制御を行う場合に、前記仮想肢の先端に近づくに従って前記推定結果から定まる回動量よりも大きくして、前記仮想肢を前記表示装置に表示する制御を行う、
ことを含む処理をコンピュータに実行させる表示制御プログラム。
【発明を実施するための形態】
【0015】
以下、図面を参照して、本発明を実施するための形態例を詳細に説明する。
【0016】
まず、
図1〜
図3を参照して、本実施形態に係る支援システム10の構成を説明する。支援システム10は、切断肢を有する患者及び麻痺肢を有する患者等の被検者Hのリハビリテーションを支援するシステムである。なお、以下では、切断肢及び麻痺肢等の障害が発生した肢体を総称する場合は、「障害肢」という。
【0017】
図1に示すように、支援システム10は、モーションセンサ12、表示制御装置14、及び表示装置16を備える。モーションセンサ12及び表示装置16の各々と、表示制御装置14とは、無線通信により各種情報の送受信を行う。なお、モーションセンサ12及び表示装置16の各々と、表示制御装置14とは、有線通信により各種情報の送受信を行ってもよい。
【0018】
一例として
図2に示すように、本実施形態に係るモーションセンサ12は、バンド型のウェアラブルセンサであり、被検者Hのリハビリテーションの対象とされる障害肢に装着される。なお、
図1では、被検者Hが右腕の前腕の一部を切断により失い、被検者Hの右腕の前腕の残存部分に、モーションセンサ12が装着された例を示している。なお、モーションセンサ12は、例えば、被検者Hの上腕に装着されてもよい。また、被検者Hの足が切断されている場合、又は足に麻痺が生じている場合は、モーションセンサ12は、大腿又は下腿に装着される。また、例えば、被検者Hの両腕が障害肢である場合は、モーションセンサ12は、被検者Hの両腕に装着されてもよい。
【0019】
モーションセンサ12には、3軸加速度センサ及び角速度センサが内蔵される。そして、モーションセンサ12は、所定の時間間隔で3軸加速度センサ及び角速度センサの各々により検出された3軸方向の加速度及び角速度の各々を表示制御装置14に送信する。
【0020】
また、
図2に示すように、モーションセンサ12の内側の接触面には、周方向に沿って略均等な距離間隔をあけて複数(
図2の例では8個)の筋電位センサ18が設けられている。そして、モーションセンサ12は、所定の時間間隔で各筋電位センサ18により検出された筋電位信号を表示制御装置14に送信する。
【0021】
本実施形態に係る表示制御装置14は、モーションセンサ12から送信された3軸方向の加速度及び角速度の各々を受信する。また、表示制御装置14は、モーションセンサ12から送信された筋電位信号を受信する。そして、表示制御装置14は、後述する表示装置16に画像を表示する際のフレームレートに応じて、受信した3軸方向の加速度、角速度、及び筋電位信号に基づいて、障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置16に対してリアルタイムに表示する制御を行う。
【0022】
また、本実施形態に係る表示制御装置14では、動作モードとして、切断肢に対応する第1動作モードと、麻痺肢に対応する第2動作モードとの何れかが指定可能とされる。
【0023】
なお、本実施形態では、表示制御装置14として、ラップトップ・コンピュータ等の携帯型の情報処理装置を適用した場合について説明するが、これに限定されない。表示制御装置14として、デスクトップ・コンピュータ及びサーバ・コンピュータ等の据え置き型の情報処理装置を適用してもよい。
【0024】
本実施形態に係る表示装置16は、没入型の表示装置であり、被検者Hの頭部に装着するための装着部品と液晶ディスプレイ等の表示部とが一体化されて構成されたヘッドマウントディスプレイである。すなわち、表示装置16は、被検者Hの頭部に装着されて使用される。
【0025】
表示装置16は、表示制御装置14による制御によって、障害肢に対応する仮想肢を表示部に表示する。
図3に、表示装置16の表示部に障害肢に対応する仮想肢Kが表示された場合の表示画面の一例を示す。なお、
図3では、被検者Hの右腕が障害肢である場合の表示画面の一例を示している。
【0026】
また、表示装置16には、3軸加速度センサ及び角速度センサが内蔵されており、被検者Hの頭部の動きに応じて、表示装置16の表示部に表示される画像も被検者Hが目視している状況となるように切り替わる。すなわち、本実施形態に係る支援システム10は、VR技術を用いたシステムである。
【0027】
以上説明したように、本実施形態に係る支援システム10では、モーションセンサ12としてウェアラブルセンサを適用し、表示制御装置14として携帯型の情報処理装置を適用し、表示装置16としてヘッドマウントディスプレイを適用している。従って、病院等の専門の施設だけではなく、被検者Hの自宅等でも被検者Hがリハビリテーションを行うことができる。
【0028】
次に、
図4を参照して、本実施形態に係る表示制御装置14の電気系の要部構成を説明する。
図4に示すように、表示制御装置14は、CPU(Central Processing Unit)30、一時記憶領域としてのメモリ32、及び不揮発性の記憶部34を備える。また、表示制御装置14は、キーボード及びマウス等の入力装置36、及びネットワークに接続されるネットワークI/F(InterFace)38を備える。CPU30、メモリ32、記憶部34、入力装置36、及びネットワークI/F38は、バス40を介して互いに接続される。
【0029】
記憶部34は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、及びフラッシュメモリ等によって実現される。記憶媒体としての記憶部34には、表示制御プログラム50が記憶される。
【0030】
次に、
図5を参照して、本実施形態に係る表示制御装置14の機能的な構成を説明する。
図5に示すように、表示制御装置14は、受付部60、推定部62、及び制御部64を備える。また、記憶部34の所定の記憶領域には、特徴量情報70及び被検者情報72が記憶される。
【0031】
特徴量情報70には、モーションセンサ12が装着される四肢毎に、障害肢の首部及び指部として想定される想定部位の動作を推定するための情報が含まれる。障害肢の首部として想定される想定部位の動作としては、例えば、手首及び足首の屈曲及び伸展等が挙げられ、障害肢の指部として想定部位の動作としては、例えば、手の指及び足の指の開動作及び閉動作等が挙げられる。
【0032】
本実施形態では、例えば、健常な四肢を有する人の四肢にモーションセンサ12を装着させ、四肢の首部及び指部に様々な動作を行わせる。一方、表示制御装置14は、各動作に対応してモーションセンサ12の各筋電位センサ18から出力された筋電位信号を全波整流し、全波整流を経た信号に対してローパスフィルタを適用して得られた振幅を特徴量として得る。そして、表示制御装置14は、得られた特徴量と特徴量に対応する四肢の首部及び指部の動作とを対応付けて、特徴量情報70として記憶部34に記憶する。
【0033】
被検者情報72には、被検者Hを識別する識別情報に対応付けて、右腕、左腕、右足、及び左足等の被検者Hの障害肢を示す情報と、長さ及び太さ等の障害肢に対応する仮想肢の大きさを示す情報と、障害肢に対応する仮想肢の色を示す情報等が含まれる。
【0034】
受付部60は、表示制御装置14の操作者(以下、単に「操作者」という)により、入力装置36を介して入力された被検者Hの識別情報を受け付ける。また、受付部60は、モーションセンサ12から送信された3軸方向の加速度及び角速度の各々を、ネットワークI/F38を介して受け付ける。また、受付部60は、モーションセンサ12から送信された筋電位信号を、ネットワークI/F38を介して受け付ける。
【0035】
推定部62は、受付部60により受け付けられた3軸方向の加速度及び角速度を用いて、障害肢のモーションセンサ12が装着された部位の姿勢を推定する。本実施形態では、推定部62は、3軸方向の加速度及び角速度を用いて、上記姿勢として、障害肢のモーションセンサ12が装着された部位のピッチ角及びヨー角を推定する。また、推定部62は、3軸方向の加速度及び角速度を用いて、障害肢の長手方向に沿った軸に対する回動量として、障害肢の長手方向に沿った軸に対するロール角も推定する。
【0036】
また、推定部62は、受付部60により受け付けられた筋電位信号を用いて、障害肢の首部及び指部として想定される想定部位の動作を推定する。本実施形態では、推定部62は、受付部60により受け付けられた筋電位信号を全波整流し、全波整流を経た信号に対してローパスフィルタを適用して得られた振幅を特徴量として得る。そして、推定部62は、特徴量情報70を参照し、得られた特徴量に最も近い特徴量に対応付けられた四肢の首部及び指部の動作を取得することによって、上記想定部位の動作を推定する。なお、推定部62は、障害肢の首部及び指部の何れかとして想定される想定部位の動作を推定してもよい。
【0037】
なお、筋電位信号を用いて四肢の首部及び指部の動作を推定する技術としては、例えば、下記参考文献1及び参考文献2に開示されている技術を適用することができる。
[参考文献1]Kevin Englehart,Bernard Hudgins,“A Robust, Real-Time Control Scheme for Multifunction Myoelectric Control”,IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING,VOL.50,NO.7,JULY 2003
[参考文献2]T.Scott Saponas,Desney S.Tan,Dan Morris,Ravin Balakrishnan,Jim Turner,James A.Landay,“Enabling Always-Available Input with Muscle-Computer Interfaces” ,In Proceedings of 22nd Annual ACM Symposium on User Interface Software and Technology,pp.167-176,2009
【0038】
制御部64は、推定部62により推定された障害肢の姿勢と、障害肢の首部及び指部として想定される想定部位の動作とに基づき、障害肢に対応する仮想肢を表示装置16に表示する制御を行う(
図3参照)。この制御の際、制御部64は、被検者情報72を参照し、受付部60により受け付けられた被検者Hの識別情報に対応付けられた仮想肢の大きさ及び色に合わせて、仮想肢を表示装置16に表示する制御を行う。
【0039】
また、制御部64は、仮想肢を表示装置16に表示する制御を行う際、一例として
図6に示すように、例えば手首等の仮想肢の先端に近い部位ほど、推定部62により推定されたロール角を大きくして、仮想肢を表示装置16に表示する制御を行う。
【0040】
次に、
図7を参照して、本実施の形態に係る支援システム10の作用を説明する。CPU30が表示制御プログラム50を実行することにより、
図7に示す表示制御処理を実行する。
図7に示す表示制御処理は、例えば、操作者により入力装置36を介して、被検者Hの識別情報が入力され、かつ動作モードが指定された場合に実行される。なお、CPU30が表示制御プログラム50を実行することにより、
図5に示す受付部60、推定部62、及び制御部64として機能する。また、ここでは、操作者は、上記識別情報及び上記動作モードの入力を、表示装置16を被検者Hの頭部に装着し、モーションセンサ12を障害肢に装着した後に行うものとする。
【0041】
図7のステップS10で、受付部60は、操作者により、入力装置36を介して入力された被検者Hの識別情報を受け付ける。次のステップS12で、制御部64は、被検者情報72を参照し、ステップS10で受け付けられた被検者Hの識別情報に対応する障害肢を示す情報、仮想肢の大きさを示す情報、及び仮想肢の色を示す情報を取得する。そして、制御部64は、取得した障害肢を示す情報に対応する仮想肢を、取得した大きさを示す情報に応じた大きさ、及び取得した色を示す情報に応じた色に従い、表示装置16に表示する制御を行う。この制御の際、制御部64は、仮想肢を予め定められた初期位置に表示する制御を行う。本実施形態では、制御部64は、例えば、仮想肢を体の前方に向けて水平に伸ばした位置を初期位置として、仮想肢を表示装置16に表示する制御を行う。
【0042】
本実施形態では、第1動作モードが指定された場合、操作者が、入力装置36を介して仮想肢の長さ、太さ、及び色を変更することが可能とされている。操作者は、表示装置16に表示された仮想肢の長さ、太さ、及び色に対して被検者Hが違和感を覚えているかを被検者Hに確認する。そして、被検者Hが違和感を覚えている場合、操作者は、被検者Hに対する確認結果に従い、入力装置36を介して仮想肢の長さ、太さ、及び色を変更する。
【0043】
そこで、ステップS14で、受付部60は、操作者により入力装置36を介して指定された動作モードが第1動作モードであるか否かを判定する。この判定が肯定判定となった場合は、処理はステップS16に移行し、否定判定となった場合は、処理はステップS20に移行する。
【0044】
そして、ステップS16で、受付部60は、入力装置36を介して仮想肢の長さ、太さ、及び色の変更を受け付けたか否かを判定する。この判定が肯定判定となった場合は、処理はステップS18に移行し、否定判定となった場合は、処理はステップS20に移行する。
【0045】
ステップS18で、制御部64は、ステップS16で受け付けられた仮想肢の長さ、太さ、及び色に従い、仮想肢の長さ、太さ、及び色を変更して表示装置16に表示する制御を行う。
【0046】
一方、操作者は、被検者Hに対して、表示装置16に表示された仮想肢に合わせた位置に、障害肢を動かすように指示する。操作者は、被検者Hが障害肢を表示装置16に表示された仮想肢に合わせた位置に動かしたことを確認すると、障害肢の位置が確定したことを示す確定指示を、入力装置36を介して入力する。
【0047】
そこで、ステップS20で、受付部60は、入力装置36を介して確定指示を受け付けたか否かを判定する。この判定が否定判定となった場合は、処理はステップS14に戻り、肯定判定となった場合は、処理はステップS22に移行する。すなわち、ステップS20の判定が肯定判定となった時点での障害肢及び仮想肢の位置がホームポジションとなる。
【0048】
ステップS22で、受付部60は、モーションセンサ12から送信された3軸方向の加速度及び角速度の各々と、筋電位信号とを、ネットワークI/F38を介して受け付ける。次のステップS24で、推定部62は、前述したように、ステップS22で受け付けられた3軸方向の加速度及び角速度を用いて、障害肢のモーションセンサ12が装着された部位の姿勢を推定する。
【0049】
次のステップS26で、受付部60は、操作者により入力装置36を介して指定された動作モードが第1動作モードであるか否かを判定する。この判定が肯定判定となった場合は、処理はステップS28に移行し、否定判定となった場合は、処理はステップS32に移行する。
【0050】
ステップS28で、推定部62は、前述したように、特徴量情報70を参照し、ステップS22で受け付けられた筋電位信号を用いて、障害肢の首部及び指部として想定される想定部位の動作を推定する。次のステップS30で、制御部64は、ステップS24で推定された姿勢、及びステップS28で推定された動作に従い、障害肢に対応する仮想肢を表示装置16に表示する制御を行う。
【0051】
一方、ステップS32で、推定部62は、前述したように、特徴量情報70を参照し、ステップS22で受け付けられた筋電位信号を用いて、障害肢の首部及び指部として想定される想定部位の動作を推定する。この推定の際、推定部62は、ステップS22で受け付けられた筋電位信号の信号レベルを検出値よりも大きくして、上記想定部位の動作を推定する。なお、この場合の信号レベルを大きくする度合いとしては、例えば、支援システム10の実機を用いた実験等により、麻痺肢を有する被検者Hのリハビリテーションが効果的に行える度合いとして得られた値を適用することができる。また、この場合の信号レベルを大きくする度合いは、操作者によって入力されてもよい。
【0052】
次のステップS34で、制御部64は、ステップS24で推定された姿勢、及びステップS32で推定された動作に従い、障害肢に対応する仮想肢を表示装置16に表示する制御を行う。この制御の際、制御部64は、一例として
図8に示すように、ステップS24での姿勢の推定結果の変化よりも動作角度を大きくして、仮想肢を表示装置16に表示する制御を行う。なお、この場合の動作角度を大きくする度合いとしては、例えば、支援システム10の実機を用いた実験等により、麻痺肢を有する被検者Hのリハビリテーションが効果的に行える度合いとして得られた値を適用することができる。また、この場合の動作角度を大きくする度合いは、操作者によって入力されてもよい。
【0053】
ステップS36で、受付部60は、終了タイミングが到来したか否かを判定する。この判定が否定判定となった場合は、処理はステップS22に戻り、肯定判定となった場合は、本表示制御処理が終了する。すなわち、ステップS22からステップS36までの処理が予め定められたフレームレートに応じた時間間隔で繰り返し実行されることで、障害肢の動きに合わせて、表示装置16に表示される仮想肢がリアルタイムに更新される。なお、上記終了タイミングとしては、例えば、操作者により、入力装置36を介して表示制御処理を終了する指示が入力されたタイミングが挙げられる。
【0054】
ところで、本出願人は、切断肢を有する複数の患者(以下、「切断肢患者」という)に対するインタビューを行った結果、以下の知見を得た。この結果、本出願人は、腕をねじる姿勢、及び腕を組む姿勢等のリハビリテーションでは通常行わない姿勢で動作を行い、この動作に対応して仮想肢が表示装置に表示されることによって、身体保持感が高まり、幻肢痛が低減される、という知見を得た。すなわち、本出願人は、この場合、切断肢患者が切断肢を上下左右にのみ動かす等の動作によってリハビリテーションを行う場合に比較して、幻肢痛が低減される、という知見を得た。
【0055】
これに対し、本実施形態では、前述したように、仮想肢の先端に近い部位ほど、モーションセンサ12が装着された部位の姿勢の推定結果よりも、障害肢の長手方向に沿った軸に対する回動量を大きくして、仮想肢を表示装置に表示する制御を行っている。従って、本実施形態によれば、被検者の身体保持感を高めることができる。さらに、本実施形態によれば、被検者の運動主体感(Sense of Agency)も高めることができる。ここでいう運動主体感とは、自身が動作の主体であるという感覚を意味する。
【0056】
また、下記の参考文献3に、没入型の表示装置を用いることで、身体保持感及び運動主体感が向上するという実験結果が開示されている。これに対し、本実施形態では、表示装置16として、没入型の表示装置を適用している。従って、本実施形態によれば、身体保持感及び運動主体感を高めることができる。
[参考文献3]近藤,長嶺,大村,矢野,“没入型ヘッドマウントディスプレイの認知心理学実験への活用事例”,日本神経回路学会誌,vol.23,no.3,pp.87-97,2016
【0057】
また、本実施形態では、筋電位信号に基づく障害肢の首部及び指部として想定される想定部位の動作の推定結果に従い、仮想肢を表示装置16に表示している。従って、本実施形態によれば、身体保持感及び運動主体感をより高めることができる。
【0058】
また、本実施形態では、第1動作モードでは、仮想肢の長さを変更可能としている。これにより、切断肢を有する被検者Hが違和感を覚えない長さに仮想肢の長さを変更することができる。従って、本実施形態によれば、身体保持感を高めることができる。同様に、本実施形態では、第1動作モードでは、仮想肢の太さ及び色も変更可能としているため、身体保持感を高めることができる。
【0059】
また、本実施形態では、第2動作モードでは、筋電位信号の信号レベルを検出値よりも大きくして、障害肢の首部及び指部として想定される想定部位の動作を推定している。すなわち、麻痺肢を有する被検者Hが麻痺肢を随意的に動かしていることを感じやすくなる結果、被検者Hのリハビリテーションに対する意欲が高まる。この結果、麻痺肢の使用頻度が低下して麻痺が改善しない現象、所謂不使用の学習(Learned non-use)を抑制することができる。同様に、本実施形態では、第2動作モードでは、モーションセンサ12が装着された部位の姿勢の推定結果の変化よりも動作角度を大きくして仮想肢を表示装置に表示しているため、不使用の学習を抑制することができる。
【0060】
なお、上記実施形態では、表示装置16として、一体型のヘッドマウントディスプレイを適用した場合について説明したが、これに限定されない。例えば、表示装置16として、被検者Hの頭部に装着するための装着部品に、スマートフォン等の表示部を有する携帯端末を取り付ける組み立て型のヘッドマウントディスプレイを適用する形態としてもよい。
【0061】
また、上記実施形態では、表示装置16として、没入型の表示装置を適用した場合について説明したが、これに限定されない。例えば、表示装置16として、据え置き型の表示装置等の没入型以外の表示装置を適用する形態としてもよい。
【0062】
また、上記実施形態では、被検者Hの仮想肢の長さ、太さ、及び色が記憶部34に予め記憶されている場合について説明したが、これに限定されない。例えば、カメラ及びスマートフォン等の撮影装置により被検者Hを撮影し、撮影結果から仮想肢の長さ、太さ、及び色を導出する形態としてもよい。
【0063】
また、上記実施形態では、操作者が動作モードを入力する場合について説明したが、これに限定されない。例えば、撮影装置により被検者Hを撮影し、撮影結果から被検者Hが切断肢を有するか、又は麻痺肢を有するかを判定する。そして、判定結果に従い、第1動作モードで動作するか、又は第2動作モードで動作するかを決定する形態としてもよい。
【0064】
また、上記実施形態では、表示制御プログラム50が記憶部34に予め記憶(インストール)されている態様を説明したが、これに限定されない。表示制御プログラム50は、CD−ROM(Compact Disk Read Only Memory)、DVD−ROM(Digital Versatile Disk Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の記録媒体に記録された形態で提供されてもよい。また、表示制御プログラム50は、ネットワークを介して外部装置からダウンロードされる形態としてもよい。