(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-09-29
(45)【発行日】2022-10-07
(54)【発明の名称】リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラム
(51)【国際特許分類】
A61H 1/02 20060101AFI20220930BHJP
【FI】
A61H1/02 C
(21)【出願番号】P 2021172393
(22)【出願日】2021-10-21
(62)【分割の表示】P 2018193342の分割
【原出願日】2017-10-23
【審査請求日】2021-11-22
(73)【特許権者】
【識別番号】517147593
【氏名又は名称】株式会社mediVR
(74)【代理人】
【識別番号】100134430
【氏名又は名称】加藤 卓士
(72)【発明者】
【氏名】原 正彦
【審査官】山田 裕介
(56)【参考文献】
【文献】特許第6200615(JP,B2)
【文献】特開2015-228957(JP,A)
【文献】特開2015-058135(JP,A)
【文献】特開2009-018127(JP,A)
【文献】特表2002-516121(JP,A)
【文献】特開2011-182289(JP,A)
【文献】特開2007-058175(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61H 1/02
(57)【特許請求の範囲】
【請求項1】
ユーザの第1リハビリテーション動作を検出する動作検出手段と、
検出した前記第1リハビリテーション動作に応じて動くアバター画像と、前記第1リハビリテーション動作の目標を示す目標画像と、前記目標画像の視認性を向上させる視認補助画像と、を表示させる表示制御手段と、
前記アバター画像の位置と、前記目標画像が表わす目標位置とを比較して、前記ユーザのリハビリテーション能力を評価する評価手段と、
前記評価手段による評価結果に応じて、前記目標位置を更新する更新手段と、
を備えたリハビリテーション支援システム
であって、
前記表示制御手段は、前記ユーザの視力および前記評価手段による前記評価結果の少なくとも一方に応じて、前記視認補助画像の大きさを変更するリハビリテーション支援システム。
【請求項2】
前記表示制御手段は、前記視認補助画像の中心近傍に前記目標画像を表示させる請求項1に記載のリハビリテーション支援システム。
【請求項3】
前記表示制御手段は、前記目標画像を前記視認補助画像の前記中心近傍以外の位置に表示させる請求項2に記載のリハビリテーション支援システム。
【請求項4】
前記表示制御手段は、前記目標画像を前記視認補助画像よりも濃く表示させる請求項1に記載のリハビリテーション支援システム。
【請求項5】
前記表示制御手段は、前記目標画像と前記視認補助画像とを異なる色で表示させる請求項1乃至4のいずれか1項に記載のリハビリテーション支援システム。
【請求項6】
リハビリテーション支援システムの動作検出部が、ユーザの第1リハビリテーション動作を検出する動作検出ステップと、
前記リハビリテーション支援システムの表示制御部が、検出した前記第1リハビリテーション動作に応じて動くアバター画像と、前記第1リハビリテーション動作の目標を示す目標画像と、前記目標画像の視認性を向上させる視認補助画像と、を表示させる表示制御ステップと、
前記リハビリテーション支援システムの評価部が、前記アバター画像の位置と、前記目標画像が表わす目標位置とを比較して、前記ユーザのリハビリテーション能力を評価する評価ステップと、
前記リハビリテーション支援システムの更新部が、前記評価ステップにおける評価結果に応じて、前記目標位置を更新する更新ステップと、
を含むリハビリテーション支援方法
であって、
前記表示制御ステップは、前記ユーザの視力および前記評価ステップによる前記評価結果の少なくとも一方に応じて、前記視認補助画像の大きさを変更するリハビリテーション支援方法。
【請求項7】
ユーザの第1リハビリテーション動作を検出する動作検出ステップと、
検出した前記第1リハビリテーション動作に応じて動くアバター画像と、前記第1リハビリテーション動作の目標を示す目標画像と、前記目標画像の視認性を向上させる視認補助画像と、を表示させる表示制御ステップと、
前記アバター画像の位置と、前記目標画像が表わす目標位置とを比較して、前記ユーザのリハビリテーション能力を評価する評価ステップと、
前記評価ステップにおける評価結果に応じて、前記目標位置を更新する更新ステップと、
をコンピュータに実行させるリハビリテーション支援プログラム
であって、
前記表示制御ステップは、前記ユーザの視力および前記評価ステップによる前記評価結果の少なくとも一方に応じて、前記視認補助画像の大きさを変更するリハビリテーション支援プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラムに関する。
【背景技術】
【0002】
上記技術分野において、特許文献1には、脳卒中等による片麻痺患者に対して行なわれるリハビリテーションを支援するシステムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記文献に記載の技術では、視認性の観点から認知機能の低い患者に対して大きな目標を提示させた場合に運動距離と目標距離との乖離が大きくなるという問題があった。
【0005】
本発明の目的は、上述の課題を解決する技術を提供することにある。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明に係るリハビリテーション支援システムは、
ユーザの第1リハビリテーション動作を検出する動作検出手段と、
検出した前記第1リハビリテーション動作に応じて動くアバター画像と、前記第1リハビリテーション動作の目標を示す目標画像と、前記目標画像の視認性を向上させる視認補助画像と、を表示させる表示制御手段と、
前記アバター画像の位置と、前記目標画像が表わす目標位置とを比較して、前記ユーザのリハビリテーション能力を評価する評価手段と、
前記評価手段による評価結果に応じて、前記目標位置を更新する更新手段と、
を備えたリハビリテーション支援システムであって、
前記表示制御手段は、前記ユーザの視力および前記評価手段による前記評価結果の少なくとも一方に応じて、前記視認補助画像の大きさを変更する。
【0007】
上記目的を達成するため、本発明に係るリハビリテーション支援方法は、
リハビリテーション支援システムの動作検出部が、ユーザの第1リハビリテーション動作を検出する動作検出ステップと、
前記リハビリテーション支援システムの表示制御部が、検出した前記第1リハビリテーション動作に応じて動くアバター画像と、前記第1リハビリテーション動作の目標を示す目標画像と、前記目標画像の視認性を向上させる視認補助画像と、を表示させる表示制御ステップと、
前記リハビリテーション支援システムの評価部が、前記アバター画像の位置と、前記目標画像が表わす目標位置とを比較して、前記ユーザのリハビリテーション能力を評価する評価ステップと、
前記リハビリテーション支援システムの更新部が、前記評価ステップにおける評価結果に応じて、前記目標位置を更新する更新ステップと、
を含むリハビリテーション支援方法であって、
前記表示制御ステップは、前記ユーザの視力および前記評価ステップによる前記評価結果の少なくとも一方に応じて、前記視認補助画像のきさを変更する。
【0008】
上記目的を達成するため、本発明に係るリハビリテーション支援プログラムは、
ユーザの第1リハビリテーション動作を検出する動作検出ステップと、
検出した前記第1リハビリテーション動作に応じて動くアバター画像と、前記第1リハビリテーション動作の目標を示す目標画像と、前記目標画像の視認性を向上させる視認補助画像と、を表示させる表示制御ステップと、
前記アバター画像の位置と、前記目標画像が表わす目標位置とを比較して、前記ユーザのリハビリテーション能力を評価する評価ステップと、
前記評価ステップにおける評価結果に応じて、前記目標位置を更新する更新ステップと、
をコンピュータに実行させるリハビリテーション支援プログラムであって、
前記表示制御ステップは、前記ユーザの視力および前記評価ステップによる前記評価結果の少なくとも一方に応じて、前記視認補助画像の大きさを変更する。
【発明の効果】
【0009】
本発明によれば、リハビリテーションとして設定した目標距離と実際にユーザが運動する運動距離との乖離を抑制することができる。
【図面の簡単な説明】
【0010】
【
図1】本発明の第1実施形態に係る目標物認識性向上システムの構成を示すブロック図である。
【
図2】前提技術1に係る目標物認識性向上システムの構成を示すブロック図である。
【
図3】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図4】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図5】前提技術1に係る目標物認識性向上システムの処理の流れを示すフローチャートである。
【
図6】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図7】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図8】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図9】前提技術1に係る目標物認識性向上システムの他の構成を示す図である。
【
図10】前提技術1に係る目標物認識性向上システムのデータベースの構成を示す図である。
【
図11】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図12】前提技術1に係る目標物認識性向上システムの表示画面例を示す図である。
【
図13A】前提技術2に係る目標物認識性向上システムの動作の概略を説明する図である。
【
図13B】前提技術2に係る目標物認識性向上システムの動作の概略を説明する図である。
【
図13C】本発明の第2実施形態に係る目標物認識性向上システムの動作の概略を説明する図である。
【
図13D】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像の配置位置を説明する図である。
【
図13E】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像の他の例を説明する図である。
【
図13F】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
【
図13G】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
【
図13H】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
【
図13I】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
【
図13J】本発明の第2実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
【
図14】本発明の第2実施形態に係る目標物認識性向上システムの構成を説明するブロック図である。
【
図15A】本発明の第2実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する患者テーブルの一例を説明する図である。
【
図15B】本発明の第2実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する表示パラメータテーブルの一例を説明する図である。
【
図15C】本発明の第2実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する画像テーブルの一例を説明する図である。
【
図16】本発明の第2実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバのハードウェア構成を説明するブロック図である。
【
図17A】本発明の第2実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの処理手順を説明するフローチャートである。
【
図17B】本発明の第2実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの視認補助画像表示の処理手順を説明するフローチャートである。
【
図18】本発明の第3実施形態に係る目標物認識性向上システムの構成を説明するブロック図である。
【
図19】本発明の第3実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する音テーブルの一例を説明する図である。
【
図20】本発明の第3実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバのハードウェア構成を説明する図である。
【
図21A】本発明の第3実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの処理手順を説明するフローチャートである。
【
図21B】本発明の第3実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの音出力制御の処理手順を説明するフローチャートである。
【発明を実施するための形態】
【0011】
以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明記載する。ただし、以下の実施の形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
【0012】
[第1実施形態]
本発明の第1実施形態としての目標物認識性向上システム100について、
図1を用いて説明する。情報処理システム100は、ユーザ110に対して行われるリハビリテーションを支援するシステムである。
【0013】
図1に示すように、目標物認識性向上システム100は、動作検出部101、表示制御部102、評価部103および更新部104を含む。
【0014】
動作検出部101は、ユーザ110の第1リハビリテーション動作を検出する。表示制御部102は、検出した第1リハビリテーション動作に応じて動くアバター画像と、第1リハビリテーション動作の目標を示す目標画像と、目標画像の視認性を向上させる少なくとも1つの視認補助画像と、を表示させる。評価部103は、第1リハビリテーション動作と、目標画像が表わす目標位置とを比較して、ユーザ110のリハビリテーション能力を評価する。更新部104は、評価手段による評価結果に応じて、目標位置を更新する。
【0015】
本実施形態によれば、リハビリテーションとして設定した目標距離と実際にユーザが運動する運動距離との乖離を抑制することができる。
【0016】
[前提技術1]
次に前提技術1に係るリハビリテーション支援システム200について、
図2を用いて説明する。
図2は、本実施形態に係るリハビリテーション支援システムの構成を説明するための図である。
【0017】
図2に示すように、リハビリテーション支援システム200は、リハビリテーション支援サーバ210と、2つのベースステーション231、232と、ヘッドマウントディスプレイ233と、2つのコントローラ234、235とを備える。なお、ヘッドマウントディスプレイ233としては、非透過タイプでも、ビデオシースルータイプでも、オプティカルシースルータイプでも構わない。
【0018】
また、リハビリテーション支援サーバ210は、動作検出部211と表示制御部212と評価部213と更新部214と音声入出力部215と、目標データベース216および背景画像+質問/回答データベース217を備える。
【0019】
動作検出部211は、ユーザ220が手に持つコントローラ234、235の位置およびヘッドマウントディスプレイ233の位置をベースステーション231、232を介して取得し、その位置の変化によりユーザ220のリハビリテーション動作を検出する。
【0020】
表示制御部212は、検出したリハビリテーション動作に応じて動くアバター画像と、リハビリテーション動作の目標を示す目標画像と、をヘッドマウントディスプレイ233に表示させる。
図3は、ヘッドマウントディスプレイ233に表示された画面301におけるアバター画像311、312の一例を示す図である。アバター画像311、312は、背景画像313に重畳表示される。この例ではアバター画像311、312は、コントローラ234、235と同じ形状をしており、コントローラ234、235の動きに合わせて画面301中を動く。また、ヘッドマウントディスプレイ233の位置や向きに応じて背景画像313は変化する。アバター画像311、312に表示されている通り、コントローラ234、235にはボタンが用意されており、各種設定操作など可能に構成されている。背景画像313として、ここでは、実際の風景を撮像して得た風景映像(例えばニューヨークの町並みを撮影した動画)を表示する。風景映像としては、リハビリ施設の周囲の道路の映像を用いても良く、異国を散歩している気分にさせたり、身近な場所を散歩している気分にさせたりすることができる。風景映像を重畳することで、患者を楽しませつつ、情報量が多い中でのトレーニングを実現することができる。
【0021】
また、表示制御部212は、例えば、
図4に示すように、ヘッドマウントディスプレイ233の画面401~403において、背景画像313に重畳して、オブジェクト411を表示する。オブジェクト411は、ユーザ220の頭上方向から下方に向けて降下してきているように表示位置および大きさを徐々に変えて表示する。ユーザ220は、コントローラ234、235を動かして、画面中のアバター画像311を、オブジェクト411に近づける。アバター画像311がオブジェクト411にぶつかると、オブジェクト411は消滅する。
【0022】
評価部213は、動作検出部211が検出したリハビリテーション動作と、表示制御部212によって表示された目標画像が表わす目標位置とを比較して、ユーザのリハビリテーション能力を評価する。具体的には、動作検出部211が検出したリハビリテーション動作に対応して移動したアバター画像311と目標画像としてのオブジェクト411とが重なったか否かを、3次元仮想空間中の位置の比較により決定する。結果的に、これらが重なれば、一つのリハビリテーション動作をクリアしたものと評価し、ポイントを加算する。オブジェクト411の奥行き方向の位置については様々な段階(例えば3段階)のものが用意され、それぞれ、異なるポイント(遠いオブジェクトには高いポイント、近いオブジェクトには低いポイント)が設定される。
【0023】
更新部214は、積算されたポイントに応じて、目標課題を更新する。例えば、課題達成率(目標達成数/課題数)などを用いて目標課題を更新してもよい。
【0024】
図5は、リハビリテーション支援サーバ210における処理の流れを示すフローチャートである。ステップS501において、キャリブレーション処理として、リハビリテーション動作の目標をユーザに合わせて初期化する。具体的には、各患者に最初にキャリブレーションとして行動可能範囲の作業を行ってもらい、それを初期値に設定した上で目標をユーザに合わせて初期化する。
【0025】
また、目標データベース216を参照して、ユーザの属性情報(例えば、運動選手なのか、パーキンソン病なのかなど)に応じた目標に設定する。例えば、怪我をしたスポーツ選手の場合には、怪我が悪化しない程度の初期値を設定し、パーキンソン病に罹患したユーザの場合には、病状の進行を緩やかにする程度の運動を初期値として設定する。さらに、各患者に最初に行動可能範囲の作業を行ってもらい、それを初期値に設定した上で目標をユーザに合わせて初期化する。
【0026】
次に、ステップS503において、動作検出部211で検出したコントローラ234、235の位置に応じて、アバター画像311、312を表示する。さらに、ステップS505において、設定された課題に応じた位置およびスピードでオブジェクト411を表示する。
【0027】
ステップS507において、アバター画像311、312の動きと、オブジェクト411の動きを比較して、課題をクリアしたか判定する。課題がクリアされていない場合には、そのままステップS505に戻って、課題の難易度を変えることなく次のオブジェクトを表示する。
【0028】
課題がクリアされた場合にはステップS509に進み、累積ポイントや課題達成確率等を算出する。さらにステップS511に進み、累積ポイントや課題達成確率等を閾値Tと比較し、累積ポイントや課題達成確率等が所定の閾値Tを超えた場合にはステップS513に進んで課題の運動強度を更新する。累積ポイントや課題達成確率等が閾値Tに達しなかった場合にはステップS505に戻って、課題の難易度を変えることなく次のオブジェクトを表示する。
【0029】
例えば、近距離の達成度が80%(または10回等の回数でも可)を超えた場合、中距離のオブジェクトの表示頻度を高くする。中距離のオブジェクトの達成度が80%(または10回等の回数でも可)を超えた場合、遠距離のオブジェクトの表示頻度を高くする。
【0030】
ここでの課題の更新についても、ユーザの属性(怪我をしたスポーツ選手なのか、パーキンソン病患者なのかなど)に応じて変更する。課題の更新方法としては、背景画像を切り替えるといった方法も考えられる。
【0031】
課題を更新した後、ステップS515に進み、ユーザの疲労度を算出して、閾値Nと比較する。疲労度が所定の閾値を超えれば、「停止条件」として処理を終了する。例えば、(疲労度=1-最も近位のオブジェクトの回収率)と算出できる。あるいは(疲労度=1/目の動き)と算出してもよい。明らかに集中していない(全くオブジェクトを探していない、首を振らない等)場合には、それ以上リハビリテーションを継続しても意味がないので休憩することになる。さらには、腕を伸ばすときのスピードが落ちるのを検出(加速度)して、疲労度を算出してもよい。
【0032】
また、例えば、累積ポイントが所定の閾値を超えれば、
図6の文字画像601に示すように、2つのコントローラ234、235のうち、左右いずれのコントローラでオブジェクト411にタッチすべきか(ここでは右)を指示する。これにより、文字を認識する認知機能が必要になる上に、動作の難易度も上がり、より高い運動機能が必要になる。つまり、認知機能と運動機能のデュアルタスク(Dual Task:二重課題)が要求される。
【0033】
なお、
図6では、文字で指示を行なっているが、本発明はこれに限定されるものではなく、矢印や色、あるいは声で指示を行なってもよい。このように、本実施形態では、リハビリテーション動作の評価に応じて、その負荷を更新する。
【0034】
(デュアルタスクについて)
健常者は、普段の日常で「話をしながら歩く」など2つ以上のことを同時に行っている。この様な「2つのことを同時に行う能力」は加齢とともに衰えてくる。例えば「歩行中に話しかけられると、足を止めてしまう」などといったことが起こる。高齢者が転倒する原因は、「運動機能が低下していること」だけではなく、この様な「2つのことを同時に行う能力の低下」が関与していると考えられる。実際に、リハビリテーションにより十分に運動機能が回復したと判断されても、帰宅後に転倒してしまう高齢者は大勢いる。これは、リハビリテーション動作に集中できる環境・条件を整えた状態でリハビリテーションを行なっていることが一つの要因である。つまり、生活環境では、そのように動作に集中できない要因、例えば見晴らしが悪い、障害物が存在する、会話に意識が向いている、といった条件下での動作であることが多いからである。
【0035】
そこで、注意を分散させるようなリハビリテーションを行なうことが重要と考えられ、具体的にデュアルタスクを与えてトレーニングすることが望ましい。このようなデュアルタスクトレーニングは、高齢者の転倒のみならず、認知症の予防にも有効なプログラムである。
【0036】
デュアルタスクトレーニングには、認知課題と運動課題を組み合わせたトレーニングの他、2種類の運動課題を組み合わせたトレーニングも含まれる。
【0037】
認知課題+運動課題としては、100から1ずつ引き算をしながら歩くなどのトレーニングが、運動課題+運動課題としては、コップに入った水を溢さないように歩くなどのトレーニングが挙げられる。
【0038】
評価部213は、単純な歩行に比べてデュアルタスク歩行検査で歩行速度が20%程度遅延するような場合は、転倒リスクが高いと評価し、デュアルタスクを繰り返すように表示制御部212に通知する。
【0039】
なお、「比較的移動能力が高い人」の方がよりデュアルタスクが有効となりやすい。例えば、屋内移動でも杖が手放せない高齢者となると、デュアルタスク能力よりもバランス能力(筋力・平衡感覚など)の強化のほうが、優先順位が高くなる。大まかな判断としては、要支援者はデュアルタスク能力が重要、要介護者はデュアルタスク能力以外のバランス能力が重要と表現できる。キャリブレーションの時系列変化を表示し、自分の運動範囲の改善を視覚的に表示する。
【0040】
(ユーザ属性による設定変更)
通常の改善が見込める患者(骨折等の整形外科的疾患が対象で完全な改善が前提)に対しては、最もハードなリハビリテーション動作を設定し、改善を早める。
【0041】
個々に応じて改善の程度が異なる患者(脳梗塞等では病変部位によって異なる形の麻痺が生じている患者)に対しては、ある程度まで課題の負荷を向上させるがあるレベルでその負荷の向上をストップする。
【0042】
パーキンソン病等、原則的に機能が低下していく患者の場合は、常に現在の運動可能な状態の評価を定期的に評価することが有用である。
【0043】
(他のデュアルタスクトレーニング例)
図7は、他のデュアルタスクトレーニング用の画像例を示す図である。オブジェクトにハズレ(爆弾)を仕込むことにより、認知機能を要求する。または、
図8に示すように、背景画面に質問画像(ここでは例としてかけ算)を重畳表示し、答えが表示されたオブジェクトの取得のみを評価してもよい。背景画面にグー・チョキ・パーのいずれかを表示し、それに勝つマークが表示されたオブジェクトの回収を要求してもよい。
【0044】
さらには、単にオブジェクトに数字を表示させ、数字の大きいオブジェクトの取得のみを評価してもよい。その他、背景画像313内に信号を表示させ、赤信号の時にオブジェクトを取ると評価部213は、ポイントをマイナスにしてもよい。
【0045】
本実施形態によれば、リハビリテーション動作の達成度(達成確率など)に応じて課題を更新するので、リハビリテーションの進み具合に応じた負荷をユーザに与えることができる。また、背景画像313を表示することにより、患者が楽しめるだけではなく、周囲に意識を向ける状況の中でリハビリテーションを行なわせることができ、現実世界に戻った際により安全な生活を実現できる。
【0046】
図9は、他のデュアルタスクトレーニング例を示す図である。音声入出力部215は、
図9のように、背景画像に関する質問音声をヘッドホン901に対して出力し、ヘッドマウントディスプレイ233に設けられたマイク902を介して、質問に対する回答を取得する。評価部213は、音声情報として取得した回答に対して、音声認識処理を施して、あらかじめ用意された回答と比較し、その比較結果に応じて、ユーザのリハビリテーション能力を評価する。
【0047】
図10は、背景画像・質問/回答データベース217の内容の一例を示す図である。背景動画に対して、質問音声と解答とポイントとが、対応付けられて記憶されている。
【0048】
ユーザの反応として、デュアルタスクではオブジェクトの回収率が下がるという結果が予想される。デュアルタスクを表示してもオブジェクトの回収達成率が異ならない、という結果をゴールとして期待する。シングルタスク(single task)時とデュアルタスク時とで、オブジェクトの回収率、またはオブジェクトへのリーチ率を比較し、一定の範囲に入るまで繰り返しトレーニングを行なう。
【0049】
以上は運動機能と認知機能を同時に要求するデュアルタスクトレーニングだが、本発明はこれに限定されるものではなく、2つの運動機能を同時に要求するデュアルタスクトレーニングでもよい。
【0050】
例えば、
図11に示すように、飛んでくる物体1111をよけながらオブジェクト411を拾うことを要求してもよい。ヘッドマウントディスプレイ233に設けられたセンサの位置を検出することにより、物体1111をうまくよけたか否かを判定できる。2つのリハビリテーション動作の両方の達成ポイント(例えば達成率など)に基づいて、評価および課題の更新を行なえばよい。
【0051】
また、例えば、
図12の画像1201に示すように、コントローラ234、235の動作に応じて動くアバター画像として、水の入ったコップ画像1211、1212を表示し、これらのコップ画像1211、1212を移動させて、オブジェクト411を回収してもよい。ただし、画像1202に示すようにコップ画像1221を傾けて水がこぼれた場合には、コップ画像1222でオブジェクト411を回収してもポイントを得ることはできない。画像1203のように、コップ画像1231、1232内の水をこぼすことなくオブジェクト411を回収したときのみ、ポイントを加算する。
【0052】
他にも、オブジェクトを回収する側のアバター画像とは逆側のアバター画像を常に指定された場所に触れさせることを要求するといったことが考えられる。コントローラ234、235にもうけられたボタンのうち、指定されたボタンを所定回数押しながらオブジェクトを回収することを要求してもよい。また、ユーザの足の動きを取得するセンサを設けた場合には、指定した足の動きを要求してもよい。
【0053】
[第2実施形態]
次に本発明の第2実施形態に係る目標物認識性向上システムについて、
図13A乃至
図17Bを用いて説明する。
図13Aは、本実施形態に係る目標物認識性向上システムの前提技術2の動作の概略を説明する図である。
図13Bは、本実施形態に係る目標物認識性向上システムの前提技術2の動作の概略を説明する図である。本実施形態に係る目標物認識性向上システムは、上記前提技術1と比べると、目標画像の認識性(例えば、視認性)を向上させる視認補助画像を表示する点で異なる。その他の構成および動作は、前提技術1と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
【0054】
前提技術2においては、アバター画像1320の移動距離、すなわち、ユーザ220の運動距離1312は、基準1310とアバター画像1320のセンサ(アバター画像1320のヘッド部分)との間の距離により計測する。そして、ユーザ220が腕などを動かさなければならない距離である目標距離1311は、基準1310と目標画像としてのオブジェクト1330の基準線1331との間の距離に基づいて決定される。そして、ユーザ220は、リハビリテーション運動として、アバター画像1320を移動させてオブジェクト1330に近づける。
【0055】
しかしながら、
図13Bに示したように、アバター画像1320が、オブジェクト1330の頂点1332に触れると、システムは、ユーザ220のリハビリテーション動作の一つが終了したと判断し、次の目標として新たなオブジェクト1330を表示する。
【0056】
システムの提供者側としては、リハビリテーション運動として、ユーザ220が腕を伸ばしきった時にオブジェクト1330にアバター画像1320が接触するようにしたい。しかしながら、オブジェクト1330の大きさが大きい(頂点と基準線1331との距離が大きい)と、オブジェクト1330の端にアバター画像1320が触れただけで、オブジェクト1330に接触したと判定される。そのため、ユーザ220は、当初想定していた距離だけ腕を動かすことができないため、期待されるリハビリテーションの効果を得ることが困難となる。
【0057】
また、ユーザ220としても、腕を伸ばし切らないうちにオブジェクト1330にタッチすることができるので、リハビリテーション運動による達成感や満足感を十分に得ることができず、リハビリテーションに対する意欲が低下することもある。
【0058】
この場合、実際にアバター画像1320が動いた距離である運動距離1312は、ユーザ220が本来動かさなければならない距離である目標距離1311に対して、乖離している。そのため、ユーザ220は、リハビリテーション開始前に設定した運動距離1312の運動をしていないこととなり、リハビリテーションにより得られる効果も期待した効果よりも減少してしまう。
【0059】
例えば、オブジェクト1330の一辺の長さを20.0cm、アバター画像1320のセンサ部(アバター画像1320のヘッド部分)の直径1321を5.0cmとする。この場合、ユーザ220が、オブジェクト1330の基準線1331ではなく頂点1332にアバター画像1320を接触させると、目標距離1311と運動距離1312との間に10.0cm程度の誤差が生じる。
【0060】
そのため、ユーザ220は、リハビリテーション開始前に想定していた運動距離1312の分だけアバター画像1320を動かしていないので、ユーザ220が本来享受できたはずであるリハビリテーションの効果が減少してしまう。
【0061】
ユーザ220が腕を伸ばし切った時にオブジェクト1330に触れられるように、オブジェクト1330を小さくすると、ユーザ220は、画面内でオブジェクト1330の位置を視認し難くなる。オブジェクト1330を視認することができなければ、リハビリテーションが成立しない。
【0062】
したがって、アバター画像1320のセンサ部(反応部分)をアバター画像1320のヘッド部分よりも小さな領域とする。これにより、目標距離1311と運動距離との間の乖離(誤差)をより小さくすることができる。
【0063】
図13Cは、本実施形態に係る目標物認識性向上システムの動作の概略を説明する図である。そこで、本実施形態においては、想定した目標距離1311とアバター画像1320による運動距離1312との間に乖離が生じないように、オブジェクト1330の中心部のグラデーションを濃くして反応部分とする。そして、オブジェクト1330の反応部分の周囲の部分のグラデーションを薄くする。つまり、
図13Aおよび
図13Bに示したオブジェクト1330の大きさを小さくし、その周りをオブジェクト1330よりも大きい視認補助画像1333で囲むようにする。すなわち、オブジェクト1330と視認補助画像1333とが重畳して表示されるようにしている。
【0064】
ユーザ220から見れば、オブジェクト1330の大きさを小さくすると、オブジェクト1330が見難くなる(視認性が低下する)が、視認性の低下を補うために、小さくなったオブジェクト1330の周囲に視認補助画像1333を配置する。
【0065】
例えば、オブジェクト1330の一辺の長さを5.0cm、視認補助画像1333の一辺の長さを20.0cm、アバター画像1320のセンサ部1322の直径を2.0cmとする。そうすると、目標距離1311と運動距離1312との誤差(乖離)は、2.0cm前後まで低下する。
【0066】
これにより、オブジェクト1330および視認補助画像1333のグラデーションの違いと大きさの違いとによるオブジェクト1330の視認性の低下を防止しつつ、目標距離1311と運動距離1312との乖離(誤差)を小さくすることができる。また、副次的な効果として、オブジェクト1330にアバター画像1320を接触させた時の体験度が上昇する。すなわち、ユーザ220にとって、オブジェクト1330に接触した時の感覚が鮮明になり、リハビリテーションの目標を達成できたことの喜びも上昇する。
【0067】
図13Dは、本実施形態に係る目標物認識性向上システムにおける視認補助画像の配置位置を説明する図である。
図13Cにおいては、目標画像としてのオブジェクト1330は、視認補助画像1333に包含されるように表示され、さらに、視認補助画像1333の中心近傍に配置されていた。
【0068】
しかしながら、
図13Dに示したように、オブジェクト1330は、視認補助画像1333の手前の下辺付近に配置してもよい。つまり、ユーザ220から見て手前側にオブジェクト1330を配置してもよい。このように、オブジェクト1330は、視認補助画像1333の中に入っているように表示されていれば、視認補助画像1333のどの位置に配置されてもよい。このように、オブジェクト1330の大きさを小さくして、目標距離1311と運動距離1312との乖離を小さくすると、オブジェクト1330の視認性が低下する。そのため、オブジェクト1330の視認性を向上させるために、オブジェクト1330の周囲にオブジェクト1330よりも大きな視認補助画像1333を表示させることにより、オブジェクト1330の視認性の低下を補う。なお、オブジェクト1330の視認性を向上させるための視認補助画像1333は、ここに示したような、立方体のオブジェクト1330の倍率を拡大した立方体には限定されない。
【0069】
次に、
図13E乃至
図13Iを用いて視認補助画像1333の他の形状について説明する。
図13Eは、本実施形態に係る目標物認識性向上システムにおける視認補助画像の他の例を説明する図である。
図13Fは、本実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
図13Gは、本実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
図13Hは、本実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
図13Iは、本実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。
【0070】
図13Eに示したように、視認補助画像1340は、例えば、オブジェクト1330の存在位置を示す矢印形状であってもよい。そして、オブジェクト1330は、矢印形状の視認補助画像1340の中に内包されていない。つまり、目標画像としてのオブジェクト1330と視認補助画像1340とが重畳して表示されているのではなく、視認補助画像1340は、オブジェクト1330の外側に配置される。このように、矢印形状の視認補助画像1340とすれば、ユーザ220は、矢印の先端部分の先に、オブジェクト1330が存在することを容易に認識することができる。
【0071】
図13Fに示したように、視認補助画像1350は、ユーザ220の注意を引くような形状であってもよい。なお、ユーザ220の注意を引くような形状は、
図13Fに示した形状には限定されず、例えば、星形形状や十字形形状、多角形形状などであってもよい。また、縦線1351と横線1352とを合わせて表示し、縦線1351および横線1352の中心にオブジェクト1330が配置されていることを示してもよい。
【0072】
図13Gに示したように、視認補助画像1360は、アバター画像1320のセンサ部1322からオブジェクト1330に向かって伸びる一点鎖線であってもよい。なお、視認補助画像1360は、一点鎖線には限定されず、例えば、直線や二点鎖線、点線などであってもよい。
【0073】
そして、ユーザ220は、視認補助画像1360の一点鎖線をガイドラインとして、この一点鎖線に沿って視線を動かせばオブジェクト1330を視認して、オブジェクト1330の存在位置を認識することができる。さらに、この一点鎖線に沿ってアバター画像1320を動かせば、オブジェクト1330にアバター画像1320をタッチさせることができる。なお、視認補助画像1370と合わせて視認補助画像1333を表示すれば、オブジェクト1330の視認性がさらに向上する。
【0074】
図13Hに示したように、視認補助画像1370は、複数の矢印がセンサ部1322からオブジェクト1330に向かって一直線上に配置されたものであってもよい。そして、ユーザ220は、この複数の矢印をガイドラインとして、この複数の矢印に沿って視線を動かせばオブジェクト1330を視認して、オブジェクト1330の存在位置を認識することができる。さらに、この複数の矢印に沿ってアバター画像1320を動かせば、オブジェクト1330にアバター画像1320をタッチさせることができる。なお、視認補助画像1370と合わせて立方体の視認補助画像1333を表示すれば、オブジェクト1330の視認性がさらに向上する。
【0075】
図13Iに示したように、複数の球形の視認補助画像1380が、オブジェクト1330の上下左右の位置に配置されている。すなわち、
図13Iにおいては、4個の視認補助画像1380の中心にオブジェクト1330が配置されるように、複数の球形の視認補助画像1380がオブジェクト1330の周囲に配置されている。なお、視認補助画像1380の形状は、球形には限定されず、例えば、三角形形状や矩形形状、多角形形状、星形形状などであってもよい。
【0076】
図13Jは、本実施形態に係る目標物認識性向上システムにおける視認補助画像のさらに他の例を説明する図である。目標物認識性向上サーバは、例えば、ユーザ220のリハビリテーションの進み具合に合わせて、表示部1402に表示する視認補助画像1333の大きさを変更してもよい。例えば、目標物認識性向上サーバは、リハビリテーションの初期には、大きめの視認補助画像1333を表示させる。そして、ユーザ220のリハビリテーションが進んだ状態では、リハビリテーションの進行具合に合わせて視認補助画像1333の大きさを小さくしてもよい。
【0077】
また、目標物認識性向上サーバは、ユーザ220のリハビリテーションの進行具合に合わせるのではなく、例えば、ユーザ220の視力に合わせて視認補助画像1333の大きさを変更してもよい。つまり、目標物認識性向上サーバは、視力の悪いユーザ220であれば、大きめの視認補助画像1333を表示させ、比較的視力のよいユーザ220であれば、小さめの視認補助画像1333を表示させてもよい。このように、目標物認識性向上サーバは、ユーザ220の視力に応じた大きさの視認補助画像を表示させてもよい。
【0078】
また、例えば、目標物認識性向上サーバは、ユーザ220が認知症であった場合、認知症の進行具合や認知機能に合わせた大きさの視認補助画像1333を表示させてもよい。なお、視認補助画像1333の大きさは、目標物認識性向上サーバが自動的に変更しても、目標物認識性向上システムを操作する医師などのオペレータが手動で変更して、ユーザ220が変更してもよい。
【0079】
図14は、本実施形態に係る目標物認識性向上システムの構成を説明するブロック図である。目標物認識性向上システム1400は、目標物認識性向上サーバ1401と表示部1402とを有する。なお、目標物認識性向上システム1400に含まれる要素はこれらには限定されない。目標物認識性向上サーバ1401は、動作検出部1411、表示制御部1412、評価部1413および更新部1414を有する。
【0080】
動作検出部1411は、ユーザ220が手に持っているコントローラの位置や、ユーザ220が装着しているヘッドマウントディスプレイなどの位置を取得し、取得した位置の変化に基づいて、ユーザ220の動き(リハビリテーション動作)を検出する。
【0081】
表示制御部1412は、検出したリハビリテーション動作に応じて動くアバター画像1320と、リハビリテーション動作の目標を示す目標画像と、目標画像の視認性を向上させる少なくとも1つの視認補助画像1333と、を表示部1402などに表示させる。
【0082】
表示制御部1412は、目標画像と視認補助画像1333とを重畳して表示させる。例えば、目標画像の大きさを視認補助画像1333の大きさよりも小さくし、目標画像が視認補助画像1333の中に包含されているように表示させる。
【0083】
表示制御部1412は、目標画像を、例えば、視認補助画像1333の中心近傍に表示させてもよい。また、表示制御部1412は、目標画像を視認補助画像1333の中心近傍ではなく、視認補助画像1333の中に包含され、さらにアバター画像1320に近い側、つまり、ユーザ220から見て手前側に表示させてもよい。
【0084】
表示制御部1412は、オブジェクト1330と視認補助画像1333とを識別可能に表示させてもよい。具体的には、例えば、オブジェクト1330のグラデーションを視認補助画像1333のグラデーションよりも濃く表示させる。これにより、ユーザ220は、オブジェクト1330が濃く表示されているので、薄く表示されている視認補助画像1333とのコントラストに差が生じ、オブジェクト1330を確実に認識することができる。なお、オブジェクト1330および視認補助画像1333へのグラデーションの付け方は、ここに示した方法には限定されない。例えば、視力の弱いユーザ220であっても、オブジェクト1330と視認補助画像1333とを確実に識別できるグラデーションの付け方であってもよい。
【0085】
また、表示制御部1412は、オブジェクト1330と視認補助画像1333とを識別可能に表示させるために、オブジェクト1330と視認補助画像1333とを異なる色で表示する。表示制御部1412は、例えば、オブジェクト1330を濃色系の色で着色し、視認補助画像1333を淡色系の色で着色するが、着色する色の組み合わせ(パターン)はこれには限定されない。例えば、色覚異常(色盲)のユーザ220であっても、オブジェクト1330と視認補助画像1333とを確実に識別できる色の組み合わせで着色してもよい。また、表示制御部1412は、弱視や視野狭窄、色覚異常など様々なタイプのユーザ220に対応可能な着色をしてもよい。なお、オブジェクト1330と視認補助画像1333とに着色する色は、ユーザ220が選択してもよいし、医師などのオペレータが選択してもよい。
【0086】
なお、ここでは、オブジェクト1330および視認補助画像1333のグラデーションや色などについて説明をしたが、他の視認補助画像1340,1350,1360,1370,1380についても同様にグラデーションや色を変化させてもよい。
【0087】
さらに、表示制御部1412は、ユーザ220の視力および評価部1413による評価結果の少なくとも一方に応じて、視認補助画像1333の表示の変更を制御する。例えば、表示制御部1412は、ユーザ220の視力やユーザ220のリハビリテーションの進行具合、ユーザ220の認知症の進行具合などに応じて、視認補助画像1333の大きさを変更する。
【0088】
評価部1413は、動作検出部1411が検出したリハビリテーション動作と、表示制御部1412によって表示された目標画像としてのオブジェクト1330が表す目標位置と、と比較して、ユーザ220のリハビリテーション能力を評価する。
【0089】
更新部1414は、評価部1413による評価結果に応じて、オブジェクト1330により表される目標位置を更新する。
【0090】
表示部1402は、表示制御部1412の制御に従い、目標画像や視認性補助画像などを表示する。表示部1402は、ヘッドマウントディスプレイやディプレイ、スクリーンなどであるが、これらには限定されない。
【0091】
図15Aは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する患者テーブルの一例を説明する図である。患者テーブル1501は、患者ID(Identifier)1511に関連付けて、属性情報1512、リハビリ対象1513、現在のレベル1514およびリハビリメニュー15115を記憶する。患者ID1511は、患者を識別するための識別子である。属性情報1512は、年齢や性別などの患者の属性を示す情報である。リハビリ対象1513は、その患者が身体のどの部位がリハビリテーションを受ける対象となっているかを示すデータであり、例えば、腕や脚などの身体の部位を表すデータである。
【0092】
現在のレベル1514は、患者の現在のリハビリテーションのレベルを示すデータである。すなわち、患者のリハビリテーションの進行具合などを示すデータである。リハビリテーションの初期段階から最終段階までを複数のランク、例えば、Aランク、Bランクなどに分けたデータである。なお、リハビリテーションのレベルの分け方は、これには限定されない。リハビリメニュー1515は、患者が受けるべきリハビリテーションのメニューに関する情報である。
【0093】
次に、
図15Bは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する表示パラメータテーブルの一例を説明する図である。表示パラメータテーブル1502は、リハビリメニュー1515に関連付けて、目標画像ID1521、視認補助画像ID1522および表示パラメータ1523を記憶する。
【0094】
目標画像ID1521は、表示部1402に表示させるオブジェクト1330を識別する識別子である。視認補助画像IDは、表示部1402に表示させる視認補助画像1333,1340,1350,1360,1370,1380を識別する識別子である。表示パラメータ1523は、オブジェクト1330や視認補助画像1333,1340,1350,1360,1370,1380を表示部1402に表示させるために必要なパラメータである。表示パラメータ1523には、例えば、位置や倍率などの情報が含まれるが、表示パラメータ1523に含まれる情報はこれらには限定されない。
【0095】
そして、
図15Cは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する画像テーブルの一例を説明する図である。画像テーブル1503は、画像種別1531に関連付けて画像データ1532、表示位置1533および倍率1534を記憶する。なお、画像テーブル1503に記憶される項目は、これらには限定されない。
【0096】
画像種別1531は、表示すべき画像が、目標画像なのか視認補助画像なのかなどを区別する情報である。画像データ1532は、表示部1402に表示されるオブジェクト1330や視認補助画像1333などの画像データであり、様々な画像ファイルフォーマットの画像データが含まれる。表示位置1533は、表示部1402内のどの位置に表示すべきかを表すデータであり、例えば、(X座標位置,Y座標位置,Z座標位置)の組のデータなどである。倍率1534は、オブジェクト1330や視認補助画像1333などを表示部1402において、どのような大きさで表示するかを決定するためのデータである。
【0097】
そして、目標物認識性向上サーバ1401は、これらのテーブル1501,1502,1503を参照して視認補助画像1333,1340,1350,1360,1370,1380を表示部1402に表示させる。
【0098】
図16は、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバのハードウェア構成を説明するブロック図である。CPU(Central Processing Unit)1610は演算制御用のプロセッサであり、プログラムを実行することで
図14の目標物認識性向上サーバ1401の機能構成部を実現する。ROM(Read Only Memory)1620は、初期データおよびプログラムなどの固定データおよびその他のプログラムを記憶する。また、ネットワークインタフェース1630は、ネットワークを介して他の装置などと通信する。なお、CPU1610は1つに限定されず、複数のCPUであっても、あるいは画像処理用のGPU(Graphics Processing Unit)を含んでもよい。また、ネットワークインタフェース1630は、CPU1610とは独立したCPUを有して、RAM(Random Access Memory)1640の領域に送受信データを書き込みあるいは読み出しするのが望ましい。また、RAM1640とストレージ1650との間でデータを転送するDMAC(Direct Memory Access Controller)を設けるのが望ましい(図示なし)。さらに、入出力インタフェース1660は、CPU1610とは独立したCPUを有して、RAM1640の領域に入出力データを書き込みあるいは読み出しするのが望ましい。したがって、CPU1610は、RAM1640にデータが受信あるいは転送されたことを認識してデータを処理する。また、CPU1610は、処理結果をRAM640に準備し、後の送信あるいは転送はネットワークインタフェース1630やDMAC、あるいは入出力インタフェース1660に任せる。
【0099】
RAM1640は、CPU1610が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM1640には、本実施形態の実現に必要なデータを記憶する領域が確保されている。患者データ1641は、目標物認識性向上システムを利用してリハビリテーションを受ける患者に関するデータである。画像データ1642は、表示部1402に表示される目標画像としてのオブジェクト1330や視認補助画像1333などのデータである。表示位置1643は、オブジェクト1330や視認補助画像1333を表示部1402のどの位置に表示するかを示すデータである。倍率1644は、オブジェクト1330や視認補助画像1333などの画像を表示部1402において、どの程度の大きさで表示するかを示すデータである。そして、これらのデータは、例えば、患者テーブル1501、表示パラメータテーブル1502および画像テーブル1503から読み出される。
【0100】
入出力データ1645は、入出力インタフェース1660を介して入出力されるデータである。送受信データ1646は、ネットワークインタフェース1630を介して送受信されるデータである。また、RAM1640は、各種アプリケーションモジュールを実行するためのアプリケーション実行領域1647を有する。
【0101】
ストレージ1650には、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。ストレージ1650は、患者テーブル1501、表示パラメータテーブル1502および画像テーブル1503を格納する。患者テーブル1501は、
図15Aに示した、患者ID1511と属性情報1512などとの関係を管理するテーブルである。表示パラメータテーブル1502は、
図15Bに示した、リハビリメニュー1515と表示パラメータ1523などとの関係を管理するテーブルである。画像テーブル1503は、
図15Cに示した、画像種別1531と画像データ1532などとの関係を管理するテーブルである。
【0102】
ストレージ1650は、さらに、動作検出モジュール1651、表示制御モジュール1652、評価モジュール1653および更新モジュール1654を格納する。
【0103】
動作検出モジュール1651は、ユーザ220のリハビリテーション動作を検出するモジュールである。表示制御モジュール1652は、アバター画像1320と、目標画像としてのオブジェクト1330と、オブジェクト1330の視認性を向上させる視認補助画像1333などを表示部1402に表示させるモジュールである。評価モジュール1653は、ユーザ220のリハビリテーション能力を評価するモジュールである。更新モジュール1654は、評価結果に応じて、目標画像が表す目標位置を更新するモジュールである。これらのモジュール1651~1654は、CPU1610によりRAM1640のアプリケーション実行領域1647に読み出され、実行される。制御プログラム1655は、目標物認識性向上サーバ1401の全体を制御するためのプログラムである。
【0104】
入出力インタフェース1660は、入出力機器との入出力データをインタフェースする。入出力インタフェース1660には、表示部1661、操作部1662、が接続される。また、入出力インタフェース1660には、さらに、記憶媒体1664が接続されてもよい。さらに、音声出力部であるスピーカ1663や、音声入力部であるマイク、あるいは、GPS(Global Positioning System)位置判定部が接続されてもよい。なお、
図16に示したRAM1640やストレージ1650には、目標物認識性向上サーバ1401が有する汎用の機能や他の実現可能な機能に関するプログラムやデータは図示されていない。
【0105】
図17Aは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの処理手順を説明するフローチャートである。
図17Bは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの視認補助画像表示の処理手順を説明するフローチャートである。これらのフローチャートは、CPU1610がRAM1640を使用して実行し、
図14の目標物認識性向上サーバ1401の機能構成部を実現する。
【0106】
ステップS1701において、目標物認識性向上サーバ1401は、視認補助画像を表示部1402などに表示させる。
【0107】
ステップS1721において、目標物認識性向上サーバ1401は、目標物認識性向上システム1400を利用してリハビリテーションを受ける患者の属性やどのようなリハビリテーションメニューを受けるかなどの、患者情報を取得する。
【0108】
ステップS1723において、目標物認識性向上サーバ1401は、表示部1402に表示すべき視認補助画像1333などを表示部1402に表示するために必要な表示パラメータを取得する。取得する表示パラメータは、例えば、視認補助画像1333などの位置や倍率などの関するパラメータである。
【0109】
ステップS1725において、目標物認識性向上サーバ1401は、視認補助画像1333の画像データを取得する。ステップS1727において、目標物認識性向上サーバ1401は、表示部1402に視認補助画像1333などを表示する。
【0110】
ステップS1729において、目標物認識性向上サーバ1401は、視認補助画像1333などの表示の変更が必要か否かを判断する。表示変更が必要でない場合(ステップS1729のNO)、目標物認識性向上サーバ1401は、処理を終了する。表示変更が必要な場合(ステップS1729のYES)、目標物認識性向上サーバ1401は、次のステップへと進む。
【0111】
ステップS1731において、目標物認識性向上サーバ1401は、ユーザ220の視力やユーザ220のリハビリテーション能力の評価結果に応じて、視認補助画像1333の大きさを変更する。
【0112】
本実施形態によれば、目標距離と運動距離との乖離を小さくするために、目標画像の大きさを小さくしても、目標画像の視認性を維持しつつ、目標距離と運動距離とを近づけて、リハビリテーションの効果を増大させることができる。また、ユーザは、目標画像にタッチした時の感覚が鮮明となるので、ユーザは目標達成の満足感を経験することができる。
【0113】
[第3実施形態]
次に本発明の第3実施形態に係る目標物認識性向上システムについて、
図18乃至
図21を用いて説明する。
図18は、本実施形態に係る目標物認識性向上システムの構成を説明するブロック図である。本実施形態に係る目標物認識性向上システムは、上記前提技術1および第2実施形態と比べると、音出力部を有する点で異なる。その他の構成および動作は、前提技術1および第2実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
【0114】
目標物認識性向上システム1800は、目標物認識性向上サーバ1801および音出力部1802を備える。目標物認識性向上サーバ1801は、音出力制御部1811を有する。音出力制御部1811は、目標画像としてのオブジェクト1330とアバター画像1320との位置関係に応じて、音の出力を制御する。音出力制御部1811が出力を制御した音は、音出力部1802から出力される。
【0115】
音出力制御部1811は、例えば、オブジェクト1330が、上方から下方へ向かって降下している場合、オブジェクト1330とアバター画像1320との間の距離、つまり、位置関係に基づいて、音を出力する。
【0116】
オブジェクト1330とアバター画像1320との間の距離が縮まるにつれて、つまり、オブジェクト1330がアバター画像1320に近づくにつれて、出力される音を高い周波数の音としてもよい。また、同様に、オブジェクト1330とアバター画像1320との間の距離が離れるにつれて、つまり、オブジェクト1330がアバター画像1320から遠ざかるにつれて、出力される音を低い周波数の音としてもよい。すなわち、ドップラー効果のように、オブジェクト1330(音源)とアバター画像1320(ユーザ220(観測者))との距離に応じて、音(波)の周波数が異なって観測されるような音響効果を表現してもよい。なお、出力される音の周波数を変更する代わりに、オブジェクト1330とアバター画像1320との間の距離に応じて、出力される音の音量を大小してもよい。
【0117】
また、音出力制御部1811から音を出力することにより、ユーザ220に対して、オブジェクト1330の位置を教示してもよい。つまり、ユーザ220の聴覚を利用して、オブジェクト1330の位置を教示する。
【0118】
例えば、ユーザ220が、目標物認識性向上システム1800を利用する際に、ヘッドフォンを装着している場合を考える。目標画像としてのオブジェクト1330が、アバター画像1320(ユーザ220)の右側にある場合には、目標物認識性向上サーバ1801は、右耳側のヘッドフォンから音を出す。同様に、オブジェクト1330がアバター画像1320(ユーザ220)の左側にある場合には、左耳側のヘッドフォンから音を出す。これにより、ユーザ220は、音の方向からオブジェクト1330がユーザ220の右側にあるのか、左側にあるのかを判断することができる。さらに、オブジェクト1330がアバター画像1320(ユーザ220)の正面にある場合には、両方のヘッドフォンから音を出す。
【0119】
また、以上の説明では、ユーザ220の視覚や聴覚などを利用してオブジェクト1330の位置を教示したが、視覚や聴覚以外の他の五感、味覚、触覚、嗅覚などを利用してユーザ220にオブジェクト1330の位置を教示してもよい。
【0120】
例えば、ユーザ220の舌にセンサを置き、オブジェクト1330の位置に応じた味覚をユーザ220が感じるようにしてもよい。または、ユーザ220が手に持っているコントローラや、ユーザ220が装着しているヘッドフォン、ヘッドマウントディスプレイなどを振動させてもよい。つまり、ユーザ220の触覚を利用してオブジェクト1330の位置を教示してもよい。
【0121】
図19は、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの有する音テーブルの一例を説明する図である。音テーブル1901は、画像種別1531に関連付けて音データ1911を記憶する。そして、目標物認識性向上サーバ1801は、音テーブル1901を参照して、出力する音を制御する。
【0122】
図20は、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバのハードウェア構成を説明する図である。RAM2040は、CPU1610が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM2040には、本実施形態の実現に必要なデータを記憶する領域が確保されている。音データ2041は、出力される音に関するデータである。そして、このデータは、例えば、音テーブル1901から読み出される。
【0123】
ストレージ2050には、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。ストレージ2050は、音テーブル1901を格納する。音テーブル1901は、
図19に示した、画像種別1531と音データ1911との関係を管理するテーブルである。
【0124】
ストレージ2050は、さらに、音出力制御モジュール2051を格納する。音出力制御モジュール2051は、目標画像としてのオブジェクト1330とアバター画像1320との位置関係に応じて、音の出力を制御するモジュールである。このモジュール2051は、CPU1610によりRAM2040のアプリケーション実行領域1647に読み出され、実行される。なお、
図20に示したRAM2040やストレージ2050には、目標物認識性向上サーバ1801が有する汎用の機能や他の実現可能な機能に関するプログラムやデータは図示されていない。
【0125】
図21Aは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの処理手順を説明するフローチャートである。
図21Bは、本実施形態に係る目標物認識性向上システムに含まれる目標物認識性向上サーバの音出力制御の処理手順を説明するフローチャートである。これらのフローチャートは、CPU1610がRAM2040を使用して実行し、
図18の目標物認識性向上サーバ1801の機能構成部を実現する。
【0126】
ステップS2101において、目標物認識性向上サーバ1801は、音の出力を制御する。ステップS2121において、目標物認識性向上目標物認識性向上サーバ1801は、アバター画像1320の位置を取得する。ステップS2123において、目標物認識性向上サーバ1801は、オブジェクト1330の位置を取得する。ステップS2125において、目標物認識性向上サーバ1801は、アバター画像1320とオブジェクト1330との位置関係を判定する。ステップS2127において、目標物認識性向上サーバ1801は、判定した位置関係に応じて、音の出力を制御する。
【0127】
本実施形態によれば、ユーザの視覚の他に聴覚を利用してリハビリテーションを実行するので、ユーザがより容易にオブジェクトを視認でき、リハビリテーションにより得られる効果をさらに高めることができる。また、ユーザは、視覚のみならず聴覚によってもオブジェクトの位置を把握することができる。また、音を出力するので、視力の弱いユーザであっても、本実施形態によるリハビリテーションを受けることができる。
【0128】
[他の実施形態]
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステムまたは装置も、本発明の範疇に含まれる。
【0129】
また、本発明は、複数の機器から構成されるシステムに適用されてもよいし、単体の装置に適用されてもよい。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。特に、少なくとも、上述した実施形態に含まれる処理ステップをコンピュータに実行させるプログラムを格納した非一時的コンピュータ可読媒体(non-transitory computer readable medium)は本発明の範疇に含まれる。