IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧 ▶ エムスリー株式会社の特許一覧

特開2023-115876リハビリテーション支援システム、情報処理方法およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023115876
(43)【公開日】2023-08-21
(54)【発明の名称】リハビリテーション支援システム、情報処理方法およびプログラム
(51)【国際特許分類】
   G16H 30/40 20180101AFI20230814BHJP
【FI】
G16H30/40
【審査請求】未請求
【請求項の数】47
【出願形態】OL
(21)【出願番号】P 2022071101
(22)【出願日】2022-04-22
(31)【優先権主張番号】P 2022018204
(32)【優先日】2022-02-08
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(71)【出願人】
【識別番号】501138622
【氏名又は名称】エムスリー株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】石村 悠二
(72)【発明者】
【氏名】唐沢 彰太
(72)【発明者】
【氏名】福田 俊樹
(72)【発明者】
【氏名】唐沢 綾香
(72)【発明者】
【氏名】山田 江里
【テーマコード(参考)】
5L099
【Fターム(参考)】
5L099AA26
(57)【要約】
【課題】的確な動作分析に基づいてリハビリテーションを支援することが可能なリハビリテーション支援システム、情報処理方法およびプログラムを提案する。
【解決手段】リハビリテーション支援システムは、姿勢情報抽出部、ステートマシンおよび動作分析部を有する。姿勢情報抽出部は、リハビリテーション対象者のトレーニングまたは評価運動の動画データからリハビリテーション対象者の姿勢情報を抽出する。ステートマシンは、リハビリテーション対象者の姿勢情報に基づいて、トレーニングまたは評価運動におけるリハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出する。動作分析部は、フェーズごとに姿勢情報を分析し、一連の動作の評価結果を示す分析情報を生成する。
【選択図】図11
【特許請求の範囲】
【請求項1】
リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出する姿勢情報抽出部と、
前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出するステートマシンと、
前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する動作分析部と、
を有するリハビリテーション支援システム。
【請求項2】
前記動作分析部は、前記リハビリテーション対象者の障害情報に基づいて前記フェーズごとに前記姿勢情報を分析することにより前記分析情報を生成する、
請求項1に記載のリハビリテーション支援システム。
【請求項3】
前記動画データから、前記フェーズごとに、前記フェーズに応じた特定シーンを示す1以上の特定のフレーム画像を抽出するシーン抽出部を有し、
前記姿勢情報抽出部は、前記1以上の特定のフレーム画像からフレーム画像ごとに前記リハビリテーション対象者の姿勢情報を抽出する、
請求項1に記載のリハビリテーション支援システム。
【請求項4】
前記シーン抽出部は、前記特定シーンよりも前のフレーム画像群の姿勢解析結果に基づいて前記特定シーンへの切り替わりを検出し、前記特定シーンへの切り替わりに応じて取得した、前記フレーム画像群よりも高解像度の1以上のフレーム画像を前記1以上の特定のフレーム画像として抽出する、
請求項3に記載のリハビリテーション支援システム。
【請求項5】
前記シーン抽出部は、前記リハビリテーション対象者と、前記トレーニングまたは前記評価運動に用いられる特定のオブジェクトと、が所定の位置関係にあるときの前記リハビリテーション対象者の動作、または、前記リハビリテーション対象者と前記特定のオブジェクトとの位置関係の変化に基づいて、前記特定シーンへの切り替わりを検出する、
請求項4に記載のリハビリテーション支援システム。
【請求項6】
前記シーン抽出部は、前記姿勢情報抽出部で用いられる分析モデルよりも姿勢の推定精度が低い分析モデルを用いて前記リハビリテーション対象者の姿勢情報を抽出し、抽出された前記姿勢情報から推定される前記リハビリテーション対象者の姿勢の変化に基づいて前記特定シーンへの切り替わりを検出する、
請求項4に記載のリハビリテーション支援システム。
【請求項7】
前記リハビリテーション対象者の障害情報、および、前記トレーニングまたは前記評価運動の種類に基づいて、前記動画データを取得する際の前記リハビリテーション対象者の撮影方向を決定する撮影条件決定部を有する、
請求項1に記載のリハビリテーション支援システム。
【請求項8】
前記ステートマシンは、複数の方向から取得される前記姿勢情報によって死角となる情報を補いながら、前記一連の動作に含まれる複数のフェーズを検出する、
請求項7に記載のリハビリテーション支援システム。
【請求項9】
前記リハビリテーション対象者が立ち上がり動作についてのリハビリテーションを行う場合、前記撮影条件決定部は、前記リハビリテーション対象者の正面方向および側面方向を前記撮影方向として決定する、
請求項8に記載のリハビリテーション支援システム。
【請求項10】
前記ステートマシンは、臀部と座面との位置関係、腰の角度の変化、重心点の移動速度の変化、および、腰の高さの変化に基づいて、複数のフェーズを検出する、
請求項9に記載のリハビリテーション支援システム。
【請求項11】
前記ステートマシンは、前記臀部が椅子の座面から離れる直前の状態を第1フェーズとして検出する、
請求項10に記載のリハビリテーション支援システム。
【請求項12】
前記ステートマシンは、前記重心点が両足の踝の間にあり、かつ、前記第1フェーズの直後に最も前記腰が曲がった状態を第2フェーズとして検出する、
請求項11に記載のリハビリテーション支援システム。
【請求項13】
前記ステートマシンは、前記第2フェーズの直後に前記重心点の高さ方向の移動速度が最大に達した状態を第3フェーズとして検出する、
請求項12に記載のリハビリテーション支援システム。
【請求項14】
前記ステートマシンは、前記第3フェーズの直後に前記腰の高さが最高点に達し、その後、前記腰の高さが低変動基準を満たす範囲で変動して停止した状態を第4フェーズとして検出する、
請求項13に記載のリハビリテーション支援システム。
【請求項15】
前記動作分析部は、前記側面方向から見た両肩の肩関節の位置ずれに基づいて回旋を検出する、
請求項9に記載のリハビリテーション支援システム。
【請求項16】
前記フェーズごとに前記リハビリテーション対象者の動きを一時停止し、前記分析情報を前記フェーズにおける前記リハビリテーション対象者の静止画像とともに表示する出力部を有する、
請求項1に記載のリハビリテーション支援システム。
【請求項17】
前記出力部は、前記分析情報として、健常者の動作との比較を示す情報を表示する、
請求項16に記載のリハビリテーション支援システム。
【請求項18】
前記出力部は、前記分析情報として、前記リハビリテーション対象者の骨格情報と前記比較の基準となる基準骨格情報とを表示する、
請求項17に記載のリハビリテーション支援システム。
【請求項19】
前記出力部は、前記リハビリテーション対象者の骨格情報および前記基準骨格情報として、前記フェーズにおいて分析されるべき前記リハビリテーション対象者の部位に対応した骨格の情報を選択的に表示する、
請求項18に記載のリハビリテーション支援システム。
【請求項20】
前記出力部は、前記リハビリテーション対象者の骨格情報と前記基準骨格情報との間に許容基準を超える差分が生じたタイミングで、前記リハビリテーション対象者の骨格情報および前記基準骨格情報を表示する、
請求項18に記載のリハビリテーション支援システム。
【請求項21】
前記出力部は、前記リハビリテーション対象者の骨格情報と前記基準骨格情報とが許容基準を超えて相違する部分の前記リハビリテーション対象者の骨格をハイライト表示する、
請求項18に記載のリハビリテーション支援システム。
【請求項22】
前記出力部は、前記分析情報として、前記リハビリテーション対象者の動作を前記健常者の動作に近づけるための指針を示す情報を表示する、
請求項17に記載のリハビリテーション支援システム。
【請求項23】
前記出力部は、前記分析情報として、過去の前記リハビリテーション対象者の動作との比較を示す情報を表示する、
請求項16に記載のリハビリテーション支援システム。
【請求項24】
前記出力部は、前記分析情報として、現在の前記リハビリテーション対象者の骨格情報と前記比較の基準となる過去の前記リハビリテーション対象者の骨格情報とを表示する、
請求項23に記載のリハビリテーション支援システム。
【請求項25】
前記出力部は、現在の前記リハビリテーション対象者の骨格情報と健常者の動作を示す基準骨格情報との間に許容基準を超える差分が生じたタイミングで、現在の前記リハビリテーション対象者の骨格情報および過去の前記リハビリテーション対象者の骨格情報を表示する、
請求項24に記載のリハビリテーション支援システム。
【請求項26】
前記出力部は、現在の前記リハビリテーション対象者の骨格情報と前記基準骨格情報とが許容基準を超えて相違する部分の前記リハビリテーション対象者の骨格をハイライト表示する、
請求項25に記載のリハビリテーション支援システム。
【請求項27】
前記分析情報は、過去から現在までの採点項目ごとの各フェーズの採点結果の推移を示す情報を含む、
請求項1に記載のリハビリテーション支援システム。
【請求項28】
前記分析情報に基づいて前記リハビリテーション対象者への介入情報を生成する介入情報生成部を有する、
請求項1に記載のリハビリテーション支援システム。
【請求項29】
前記介入情報は、前記リハビリテーション対象者に動作の改善を促すための判断材料となる判断情報、または、前記リハビリテーション対象者のトレーニングプランを含む、
請求項28に記載のリハビリテーション支援システム。
【請求項30】
前記介入情報生成部は、前記分析情報から前記リハビリテーション対象者の1以上の症状を抽出し、症状ごとに決められた優先度、および、個々の症状の重さに基づいて前記トレーニングプランを決定する、
請求項29に記載のリハビリテーション支援システム。
【請求項31】
前記介入情報生成部は、現在の前記リハビリテーション対象者のレベルを認証する認証情報を生成する、
請求項28に記載のリハビリテーション支援システム。
【請求項32】
前記介入情報は、前記認証情報に基づく保険に関する提言を含む、
請求項31に記載のリハビリテーション支援システム。
【請求項33】
前記介入情報は、前記認証情報に基づく薬効についての評価情報を含む、
請求項31に記載のリハビリテーション支援システム。
【請求項34】
前記ステートマシンは、指標データベースに記憶されたフェーズごとの判定方法に基づいて前記複数のフェーズを検出する、
請求項1に記載のリハビリテーション支援システム。
【請求項35】
前記動作分析部は、前記指標データベースに記憶されたフェーズごとの採点項目および採点基準に基づいて、前記フェーズごとに前記リハビリテーション対象者の動作を分析する、
請求項34に記載のリハビリテーション支援システム。
【請求項36】
前記指標データベースは、判定項目ごとの、動画の撮影条件、フェーズの定義、分析対象となる特定シーン、採点項目および採点基準のうちの1以上の情報を、動作分析の指標として記憶する、
請求項34に記載のリハビリテーション支援システム。
【請求項37】
前記判定項目は、動作分析の対象となる運動の種類と関連付けられている、
請求項36に記載のリハビリテーション支援システム。
【請求項38】
前記動作分析部は、前記一連の動作の評価結果を、前記リハビリテーション対象者に介入する介入者が保有する端末またはサーバに送信する、
請求項1に記載のリハビリテーション支援システム。
【請求項39】
リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出し、
前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出し、
前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する、
ことを有する、コンピュータにより実行される情報処理方法。
【請求項40】
リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出し、
前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出し、
前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する、
ことをコンピュータに実現させるプログラム。
【請求項41】
前記動作分析部は、1以上の評価観点に基づいて各フェーズの評価項目を評価し、各評価観点での評価結果に基づいて前記リハビリテーション対象者の症状分類を行う、
請求項1に記載のリハビリテーション支援システム。
【請求項42】
前記1以上の評価観点は、判定項目となる動作が適切に行われたと判定されるために合格基準を満たすことが必須となる1以上のメイン観点を含み、
前記動作分析部は、各フェーズの評価項目に対する評価をメイン観点に基づくものから行い、前記合格基準を満たさないメイン観点が検出された場合には、前記判定項目となる動作が適切に行われていないと判定し、残りの評価観点に基づく評価を停止する、
請求項41に記載のリハビリテーション支援システム。
【請求項43】
前記評価観点に対応する特定のフェーズごとに前記リハビリテーション対象者の動きを一時停止し、前記分析情報を前記特定のフェーズにおける前記リハビリテーション対象者の静止画像とともに表示する出力部を有する、
請求項41に記載のリハビリテーション支援システム。
【請求項44】
前記指標データベースは、障害情報と前記判定項目とを紐づけて記憶し、
前記動作分析部は、前記リハビリテーション対象者の障害情報に紐づけられた前記判定項目の動作を分析する、
請求項36に記載のリハビリテーション支援システム。
【請求項45】
前記撮影条件決定部は、カメラに写る前記リハビリテーション対象者の状態が撮影開始条件を満たしたことに応答して前記リハビリテーション対象者の動作の記録を開始する、
請求項7に記載のリハビリテーション支援システム。
【請求項46】
前記撮影条件決定部は、前記撮影開始条件が満たされるまで前記カメラの映像を表示装置に表示し、前記撮影開始条件が満たされて前記動作の記録が開始されると前記カメラの映像の前記表示装置への表示を停止する、
請求項45に記載のリハビリテーション支援システム。
【請求項47】
前記撮影条件決定部は、前記撮影開始条件が満たされたことを前記リハビリテーション対象者に通知した後、前記動作の記録を開始する、
請求項46に記載のリハビリテーション支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、リハビリテーション支援システム、情報処理方法およびプログラムに関する。
【背景技術】
【0002】
リハビリテーションは医療・介護保険で十分にカバーされていない。そのため、姿勢推定技術を用いて気軽かつ手ごろにリハビリテーションの支援を行う手法が提案されている。姿勢推定技術は、ターゲットとなる人物または物の画像から複数のキーポイント(ターゲットが人間であれば、肩・肘・手首・腰・膝・足首などを示す複数の特徴点)を抽出し、キーポイント同士の相対位置に基づいてターゲットの姿勢を推定する技術である。姿勢推定技術は、スポーツにおける学習支援、ヘルスケア、自動運転および危険予知などの広範な分野で応用が期待されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4166087号公報
【特許文献2】特許第4594157号公報
【特許文献3】特許第5547968号公報
【特許文献4】特許第6045139号公報
【特許文献5】特開2021-049319号公報
【特許文献6】特開2020-141806号公報
【特許文献7】特許第6447609号公報
【特許文献8】特許第6289165号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ターゲットの動画を用いて動作分析を行う場合、一連の動作をポイントとなるフェーズごとに分析することが望ましい。ターゲットの一連の動作は、複数の特徴的な動作(フェーズ)の組み合わせとして捉えることができる。フェーズごとに分析を行えば、一連の動作を的確に分析することができる。従来の手法では、フェーズによる動作の分類は行われていない。そのため、一連の動作を全体にわたって的確に評価することができない。
【0005】
そこで、本開示では、的確な動作分析に基づいてリハビリテーションを支援することが可能なリハビリテーション支援システム、情報処理方法およびプログラムを提案する。
【課題を解決するための手段】
【0006】
本開示によれば、リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出する姿勢情報抽出部と、前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出するステートマシンと、前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する動作分析部と、を有するリハビリテーション支援システムが提供される。また、本開示によれば、前記リハビリテーション支援システムの情報処理がコンピュータにより実行される情報処理方法、ならびに、前記リハビリテーション支援システムの情報処理をコンピュータに実現させるプログラムが提供される。
【図面の簡単な説明】
【0007】
図1】リハビリテーションを行う在宅患者向けのリハビリテーション支援サービスの一例を示す図である。
図2】リハビリテーション支援システムの機能構成の一例を示すブロック図である。
図3】動作分析の指標の一例を示す図である。
図4】動作分析の指標の一例を示す図である。
図5】動作分析処理の概略を示すフローチャートである。
図6】動画取得処理の一例を示すフローチャートである。
図7】前処理の具体例を説明する図である。
図8】前処理の具体例を説明する図である。
図9】前処理の具体例を説明する図である。
図10】分析・評価処理の一例を示すフローチャートである。
図11】分析・介入処理に関わる機能構成の一例を示す図である。
図12】立ち上がり動作におけるランドマークを示す図である。
図13】動作分析の一例を示す図である。
図14】動作分析の一例を示す図である。
図15】第2フェーズの検出処理の一例を示す図である。
図16】第3フェーズの検出方法の一例を示す図である。
図17】分析情報の一例を示す図である。
図18】システム構成のバリエーションを示す図である。
図19】症状分類の具体的手法を示す図である。
図20】動作分析処理の変形例を示す図である。
図21】問診データの入力を行うためのUIの一例を示す図である。
図22】問診データの入力を行うためのUIの一例を示す図である。
図23】問診データの入力を行うためのUIの一例を示す図である。
図24】動作チェックのUIの一例を示す図である。
図25】動作チェックのUIの一例を示す図である。
図26】動作チェックのUIの一例を示す図である。
図27】撮影の準備を行うためのUIの一例を示す図である。
図28】撮影の準備を行うためのUIの一例を示す図である。
図29】撮影の準備を行うためのUIの一例を示す図である。
図30】撮影の準備を行うためのUIの一例を示す図である。
図31】AIチェックにおける評価結果の表示例を示す図である。
図32】AIチェックにおける評価結果の表示例を示す図である。
【発明を実施するための形態】
【0008】
以下に、本開示の実施形態について図面に基づいて詳細に説明する。以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
【0009】
なお、説明は以下の順序で行われる。
[1.リハビリテーション支援サービスの概要]
[2.リハビリテーション支援システムの構成]
[3.情報処理方法]
[3-1.動作分析処理の概略]
[3-2.動画取得処理]
[3-3.分析・評価処理]
[4.分析・介入処理に関わる機能構成]
[5.動作分析の具体例]
[5-1.立ち上がり動作におけるランドマーク]
[5-2.立ち上がり動作の分析]
[5-3.分析情報]
[6.システム構成のバリエーション]
[7.効果]
[8.症状分類の具体的手法]
[9.動作分析処理の変形例]
[10.UIの具体例]
【0010】
[1.リハビリテーション支援サービスの概要]
図1は、リハビリテーションを行う在宅患者向けのリハビリテーション支援サービスの一例を示す図である。
【0011】
リハビリテーション支援サービスは、医療機関や自宅、職場等において行われるリハビリテーションを支援するサービスである。ここで、「リハビリテーション」とは、障害、慢性疾患、老年病など、治療期間が長期にわたる患者の潜在能力を高めて、生活機能ひいては、社会的機能を回復、促進するための技術や方法を指す。また、リハビリテーションの対象となる者をリハビリテーション対象者TGと表記する。リハビリテーション対象者TGは、例えば、病人やけが人、高齢者、障害者等である。
【0012】
リハビリテーション支援サービスは、リハビリテーション対象者TGが行うリハビリテーション用のトレーニングまたは評価運動の動画データに基づいてリハビリテーションの進捗状況を把握し、適切な介入情報VIを提示する。リハビリテーションの手法としては、運動療法、物理療法、日常生活動作練習および装具療法などがあるが、本開示では運動療法によってリハビリテーションを行う例が説明される。運動療法では、立つ、座る、歩くなどの運動の障害が、関節可動域訓練、基本動作訓練、筋力増強訓練などを行うことにより改善される。
【0013】
リハビリテーション支援サービスは、図1に示すようなリハビリテーション支援システム1により実施される。リハビリテーション支援システム1は、クライアント端末100、動作分析サーバ200、医療関係者端末300、家族端末400、および、サービス提供者サーバ500を有する。クライアント端末100、動作分析サーバ200、医療関係者端末300、家族端末400およびサービス提供者サーバ500は、ネットワークNW(図11参照)を介して接続されている。
【0014】
クライアント端末100は、スマートフォン、タブレット端末、ノートパソコンおよびデスクトップパソコンなどの情報端末である。クライアント端末100は、リハビリテーション対象者TGの動作分析を依頼したクライアントによって保有される。通常、クライアントは、リハビリテーション対象者TGの家族FMかリハビリテーション対象者TG自身であるが、本開示では、リハビリテーション対象者TG自身がクライアントである例が説明される。クライアント端末100は、リハビリテーション対象者TGがリハビリテーションのためのトレーニングまたは評価運動を行う様子を映した動画データMDを動作分析サーバ200に送信する。
【0015】
動作分析サーバ200は、動画データMDに基づいてリハビリテーション対象者TGの動作を分析する。リハビリテーション対象者TGの一連の動作は、時間軸に沿って並ぶ複数の特徴的な動作の組み合わせとして捉えられる。動作分析サーバ200は、個々の特徴的な動作をフェーズとして抽出する。フェーズどうしの境界は所定の指標に基づいて定義される。動作分析サーバ200は、所定の指標に基づいてフェーズごとに動作分析を行うことで、一連の動作を評価する。
【0016】
動作分析サーバ200は、評価結果を示す分析情報MAIを生成し、クライアント端末100に送信する。動作分析サーバ200は、生成された分析情報MAIを医療関係者端末300および家族端末400に送信することもできる。リハビリテーション対象者TG、医療関係者DTおよび家族FMは、送信された分析情報MAIに基づいてリハビリテーション対象者TGの健康状態を把握することができる。
【0017】
分析情報MAIは、健常者あるいは医学標準との比較におけるリハビリテーション対象者TGの運動能力、障害の重さおよび障害の特徴に関する評価結果を含む。分析情報MAIは、過去のリハビリテーション対象者TGの運動能力との比較に基づくリハビリテーションの効果に関する評価結果を含むこともできる。医師、理学療法士、薬剤師および健康アドバイザなどの医療関係者DTは、医療関係者端末300で受信した分析情報MAIに基づいてリハビリテーション対象者TGの診断を行う。医療関係者DTは、診断結果を示す診断情報DGを医療関係者端末300を介して動作分析サーバ200に送信する。動作分析サーバ200は、診断情報DGを分析情報MAIとともにサービス提供者サーバ500に送信する。
【0018】
サービス提供者サーバ500は、分析情報MAIおよび/または診断情報DGに基づいて、物販データベースからリハビリテーション対象者TGの健康状態に応じた装具、杖、マットなどの物販情報PSIを抽出し、動作分析サーバ200に送信する。動作分析サーバ200は、分析情報MAI、診断情報DGおよび物販情報PSIに基づいて、リハビリテーション対象者TGへの介入情報VIを生成し、クライアント端末100に送信する。介入情報VIは、リハビリテーション対象者TGの診断結果、運動機能の認証、リハビリテーション対象者TGの機能回復を手助けするための各種提案、および、物販情報PSIを含む。
【0019】
[2.リハビリテーション支援システムの構成]
図2は、リハビリテーション支援システム1の機能構成の一例を示すブロック図である。
【0020】
クライアント端末100は、センサ部110、入力デバイス120および表示装置170を有する。センサ部110は、リハビリテーション対象者TGの症状分析に利用可能なバイタルデータおよび運動データを収集する。運動データは、リハビリテーションのためのトレーニングまたは評価運動を行っている最中のリハビリテーション対象者TGの映像を記録した動画データMDを含む。入力デバイス120は、問診データCDを入力可能な各種入力機器を含む。表示装置170は、リハビリテーション対象者TGの動作分析によって得られた各種判定結果(分析情報MAI)および介入情報VIを表示する。
【0021】
例えば、センサ部110は、心拍センサ、VO2MAX(最大酸素摂取量)センサ、歩数計、筋力計、ゴニオメータ、カメラ160、GPS(Global Positioning System)、加速度センサおよびジャイロセンサを含むことができる。入力デバイス120は、タッチパネル、キーボード、マウス、アイトラッキング装置および音声入力装置を含むことができる。表示装置170は、LCD(Liquid Crystal Display)またはOLED(Organic Light Emitting Diode)を含む。センサ部110、入力デバイス120および表示装置170は一つのデバイス内に一体的に設けられてもよいし、それぞれ独立した装置として設けられてもよい。
【0022】
クライアント端末100は、リハビリテーション対象者TGのバイタルデータ、運動データおよび問診データCDを動作分析サーバ200に送信する。動作分析サーバ200は、クライアント端末100から取得した各種データに基づいてリハビリテーション対象者TGの健康状態を分析する。
【0023】
問診データCDは、問診表に基づいて入力される。問診データCDは、例えば、氏名、年齢、性別、体重、病名および服用中の薬などの一次情報と、一次情報に関連した二次情報と、を含む。二次情報には、気になる症状、痛み、症状の発症時間、麻痺部位、介護状況、装具の有無、および、直近の生活活動範囲などの情報が含まれる。問診データCDは、リハビリテーション対象者TGによって手動で入力されてもよいし、電子カルテなどの医療機関の保有する情報から抽出されてもよい。心拍数などのバイタル情報や生活活動範囲などの位置情報は、センサ部110の計測データから取得されてもよい。
【0024】
クライアント端末100は、ネットワークを介して医療情報データベースからリハビリテーション対象者TGのカルテ情報、投薬情報およびゲノム情報などを取得することができる。また、クライアント端末100は、健康情報を記録した健康情報データベースからリハビリテーション対象者TGの食事、睡眠および体重などの生活習慣に関する情報を取得することができる。クライアント端末100は、医療情報データベースおよび健康情報データベースから取得した各種情報を問診データCDに含めることができる。
【0025】
動作分析サーバ200は、健康情報算出部210、評価部220、介入情報生成部230および記憶装置290を有する。
【0026】
健康情報算出部210は、センサデータおよび問診データCDに基づいてリハビリテーション対象者TGの健康情報を算出する。健康情報は、リハビリテーション対象者TGの障害情報、バイタル情報、機能情報(歩行能力、筋力および関節の可動域などの身体機能に関する情報)およびリハビリテーションの状況など、リハビリテーション対象者TGの健康状態を示す各種情報を含む。
【0027】
例えば、健康情報算出部210は、センサデータ解析部211、特徴量抽出部212および問診データ解析部213を含む。センサデータ解析部211は、心拍センサ、VO2MAX(最大酸素摂取量)センサ、歩数計、筋力計、ゴニオメータおよび加速度センサのセンシング結果に基づいて、リハビリテーション対象者TGのバイタル情報と運動能力とのうちの少なくとも一方を検出する。センサデータ解析部211は、リハビリテーション対象者TGがリハビリテーションを行う様子を映した動画データMDを解析して、リハビリテーション対象者TGの姿勢情報HPI(図8参照)を抽出する。
【0028】
特徴量抽出部212は、姿勢情報HPIから、指標データベース295に記憶されている指標に基づいて特徴量を抽出する。指標データベース295には、患者の持つ障害(疾患、機能障害、行動障害)ごとに動作分析を行うための指標が記憶されている。
【0029】
図3および図4は、動作分析の指標の一例を示す図である。
【0030】
指標には、動作分析を行うための種々の情報が含まれる。指標には、動作分析に必要な作業および処理の基準となる様々な要素が含まれる。個々の障害には、動作分析の対象となる1以上の判定項目が紐づけられている。記憶装置290(指標データベース295)には、判定項目ごとに、動画の撮影条件、特徴量の定義情報および動作分析アルゴリズムALが、動作分析を行うための指標として記憶されている。動作分析アルゴリズムALは、フェーズ情報、各フェーズの評価方法、および、症状分類の定義などに関する情報を含んでもよい。各フェーズの評価方法には、各フェーズの評価項目および採点基準などの情報が含まれることが望ましい。
【0031】
例えば、図4には、立ち上がり動作およびスクワット動作などに関する指標の一例が示されている。指標データベース295には、撮影条件情報として動画の撮影方向が規定されている。動作分析アルゴリズムALは、フェーズ情報として、例えば、フェーズの定義およびフェーズの境界の検出方法などの情報を含む。動作分析アルゴリズムALは、フェーズの評価方法として、例えば、フェーズごとの評価項目、採点基準およびロールモデル(手本となる健常者などの動作)などの情報を含む。図3および図4に示される情報は、動作分析の指標の一例であって、動作分析の指標はこれに限られない。
【0032】
日常生活動作(ADL)に支障がある患者については、FIM(Functional Independence Measure)およびBI(Barthel Index)などの評価方法に応じた指標が用いられる。FIMおよびBIには、移動や移乗などの複数の評価項目が存在する。これらの評価は身体の動きについては言及しておらず、あくまでできたかできていないか、あるいは、生活の中でしているかしていないかで評価が行われる。これに対して本手法では、日常生活動作の基盤となる起き上がり、立ち上がり、歩行および階段昇降などの動作ならびにそれらの動作を構成する運動(以下、基本動作という)が評価の対象となる。そのため、身体の動き方自体を評価することができる。指標データベース295には、個々の基本動作が判定項目として定義されている。動画データMDは判定項目ごとに取得され、動作分析も判定項目ごとに行われる。
【0033】
図2に戻って、問診データ解析部213は、問診データCDからリハビリテーション対象者TGの障害情報を抽出する。障害情報は、リハビリテーション対象者TGの障害の種類および障害の重さの情報を含む。リハビリテーション対象者の疾患が脳血管障害である場合には、麻痺側の情報も障害情報に含まれる。障害情報は、動作分析において考慮され得る。障害の種類や重さが異なれば、同じ動作が検出された場合でも、その動作に対して異なる解釈がされる可能性があるからである。例えば、麻痺側の情報は、動画の撮影方向を決定する際に用いられる。動画の撮影は、麻痺側の動作が詳細に記録できるような方法で行われる。
【0034】
問診データ解析部213は、問診データCDに基づいて、リハビリテーション対象者TGに運動をさせることが適切か否かを判定する。リハビリテーション対象者TGに運動をさせることが不可能、または、適切でないと判定された場合には、問診データ解析部213は、リハビリテーションの中止または医師への確認を促すアラートをクライアント端末100に通知する。問診データ解析部213は、クライアント端末100にアラートを通知する代わりに、医療関係者端末300に問い合わせを行ってもよい。
【0035】
評価部220は、特徴量抽出部212で抽出された特徴量と指標データベース295に記憶された動作分析アルゴリズムALとに基づいて、リハビリテーション対象者TGの動作を分析する。例えば、評価部220は、動作分析アルゴリズムALに基づいて、動画データMDに記録されたリハビリテーション対象者TGの一連の動作を複数のフェーズに分類する。評価部220は、リハビリテーション対象者TGの障害情報を考慮してフェーズごとに動作を分析する。フェーズの境界の検出方法および各フェーズの動作の評価方法は、動作分析アルゴリズムALに定義されている。評価部220は、一連の動作の評価結果を示す分析情報MAIを生成する。
【0036】
介入情報生成部230は、分析情報MAIに基づいてリハビリテーション対象者TGへの介入情報VIを生成する。介入情報VIは、リハビリテーション対象者TGに動作の改善を促すための判断材料となる情報(判断情報)、または、リハビリテーション対象者TGのトレーニングプランを含む。判断情報には、例えば、リハビリテーションや糖尿病などの点数、あるいは、バイタル情報などが含まれる。リハビリテーション等の点数と物販情報PSIとを紐づけることで、リハビリテーション対象者TGに適した商品の検索が容易となる。客観的な判断情報は、プロモーションやマーケティングにも利用できる。
【0037】
介入情報生成部230は、分析情報MAIからリハビリテーション対象者TGの1以上の症状を抽出し、症状ごとに決められた優先度、および、個々の症状の重さに基づいてトレーニングプランを決定することができる。介入情報生成部230は、分析情報MAI以外にも、問診データなどの情報を参考にしてトレーニングプランを決定することもできる。症状には、健常者と比較したリハビリテーション対象者TG特有の動作から推測される障害の重さ、筋力の低下および関節の可動域の減少などが含まれる。複数の症状が検出された場合には、例えば、最も優先度の高い症状に基づくトレーニングプランが提示される。
【0038】
症状の優先度および症状ごとのトレーニングプランは、疾患別ソリューションデータベース294に記憶されている。疾患別ソリューションデータベース294は、症状ごとに1以上のトレーニングプランが紐づけられている。介入情報生成部230は、リハビリテーションの点数の推移および症状の改善の進捗に基づいて、症状に紐づけられた他のトレーニングプランを提示することができる。
【0039】
介入情報生成部230は、分析情報MAIに基づいて、現在のリハビリテーション対象者TGの運動能力のレベルを判定する。レベルの情報は、類似の障害を持つ他の患者との比較や、症状改善の認定処理などに用いられる。例えば、介入情報生成部230は、現在のリハビリテーション対象者TGのレベルを認証する認証情報を生成する。リハビリテーション対象者TGは、認証情報に基づいて、保険料低減に対する貢献度合いを計算し、返還金の計算などをすることができる。介入情報VIは、認証情報に基づく保険に関する提言を含むことができる。介入情報VIは、認証情報に基づく薬効およびリハビリテーション支援サービスについての評価情報を含むこともできる。
【0040】
記憶装置290には、個人情報データベース291、匿名化センシング情報データベース292、介入情報データベース293、疾患別ソリューションデータベース294および指標データベース295を有する。
【0041】
個人情報データベース291は、リハビリテーション対象者TGの年齢、身長、体重、食事、睡眠、歩行情報、筋力情報、可動域情報などのリハビリテーション対象者TG個人に関する情報を記憶する。図2の例では、個人情報がデータベースとして動作分析サーバ200上で記憶される構成となっている。しかし、リハビリテーション対象者TGの個人情報は、リハビリテーション対象者TGの保有するクライアント端末100に記憶されてもよい。
【0042】
匿名化センシング情報データベース292は、健康情報算出部210により用いられるリハビリテーション対象者TGの過去のセンシングデータを記憶する。過去のセンシングデータは、匿名化データとして、年齢や性別、疾患等の匿名加工情報に紐づけて記憶される。
【0043】
介入情報データベース293は、介入情報生成部230により生成された介入情報VIを、リハビリテーション対象者TGの健康情報に対応付けて記憶する。
【0044】
疾患別ソリューションデータベース294は、介入情報生成部230により用いられる、フレイル、パーキンソン、心疾患、脳梗塞などの脳血管疾患、および副作用予防などの疾患別のソリューションを記憶する。例えば、疾患毎にアドバイスや教育コンテンツ、リハビリテーション・運動プログラムなどのコンテンツが格納されている。各コンテンツは評価結果や診断結果に紐づいて記憶されていてもよい。これにより、リハビリテーション対象者TGの状態に応じた適切なアドバイスやコンテンツが提供される。
【0045】
指標データベース295には、評価部220で使用される指標が記憶されている。指標データベース295は、特徴量の定義情報、および、特徴量を用いた動作分析アルゴリズムALを動作分析の指標として含む。動作分析アルゴリズムALは、特定の閾値に基づくものでもよいし、機械学習が実施された学習モデルに基づくものでもよい。
【0046】
医療関係者端末300は、スマートフォン、タブレット端末、ノートパソコンおよびデスクトップパソコンなどの情報端末である。医療関係者端末300は、評価部310と、診断およびレセプト情報データベース390を有する。医療関係者端末300は、動作分析サーバ200から送信されてくるリハビリテーション対象者TGの健康情報、分析情報MAIおよび症状に関する情報などを受信し、表示する。
【0047】
評価部310は、医師などが入力する情報、動作分析サーバ200により受信されたリハビリテーション対象者TGの健康情報や分析情報MAIと、診断およびレセプト情報データベース390に記憶されている情報に基づいて、現在のリハビリテーション対象者TGの健康状態を診断し、その診断結果や、診断結果に応じたアドバイスを、動作分析サーバ200に送信する。診断結果や診断結果に応じたアドバイスは、動作分析サーバ200を介さず、リハビリテーション対象者TGの保有するクライアント端末100に直接送信されてもよい。
【0048】
診断およびレセプト情報データベース390には、リハビリテーション対象者TGが過去に診断された診断情報、薬情報、通信情報、ゲノム情報およびレセプト情報などが記憶されている。
【0049】
医療関係者端末300にはリハビリテーション対象者TGの健康情報や評価結果などが送信されるので、リハビリテーション対象者TGの主治医は、リハビリテーション対象者TGと遠く離れたところに住んでいても、リハビリテーション対象者TGの健康状態や行動変容がわかる。これにより、医師は、現在のリハビリテーション対象者TGの健康状態を遠隔で診断し、その診断結果を提供することができる。
【0050】
家族端末400は、スマートフォン、タブレット端末、ノートパソコンおよびデスクトップパソコンなどの情報端末である。家族端末400は、動作分析サーバ200から送信されてくるリハビリテーション対象者TGの健康情報や分析情報MAIなどを受信し、表示する。これにより、リハビリテーション対象者TGの家族FMは、リハビリテーション対象者TGと遠く離れたところに住んでいても、リハビリテーション対象者TGの健康状態や行動変容を知ることができる。
【0051】
サービス提供者サーバ500は、物販データベース591を有する。物販データベース591は、各健康情報や分析情報MAIに適する健康食品などの物販情報PSIを記憶している。サービス提供者サーバ500は、動作分析サーバ200から送信されてくるリハビリテーション対象者TGの健康情報、分析情報MAIおよび症状に関する情報などを受信する。サービス提供者サーバ500は、受信したリハビリテーション対象者TGの健康情報、分析情報MAIおよび症状に関する情報に応じた物販情報PSIを物販データベース591から検索する。サービス提供者サーバ500は、検索した物販情報PSIを動作分析サーバ200に送信する。
【0052】
サービス提供者サーバ500にはリハビリテーション対象者TGの健康情報や分析情報MAIなどが送信されるので、サービス提供者は、リハビリテーション対象者TGの健康状態や行動変容に基づいて、お勧めの健康食品などの物販情報PSIをリハビリテーション対象者TGに提供することができる。医療関係者端末300およびサービス提供者サーバ500が受信したリハビリテーション対象者TGの健康情報、分析情報MAIおよび症状に関する情報は匿名化されることが望ましい。
【0053】
図2の例では、動作分析サーバ200において、健康情報が算出され、分析情報MAIや介入情報VIが提供される。しかし、健康情報を算出するサーバと、動作の評価を行い、分析情報MAIや介入情報VIを提供するサーバは別々に構成されてもよい。また、サービス提供者サーバ500は、動作分析サーバ200と異なるサーバとして説明されたが、動作分析サーバ200とサービス提供者サーバ500とは一体化されてもよい。
【0054】
また、図2の例では、動作分析サーバ200が各種データベースを備える例が説明された。しかし、各種データベースを備えるデータベースサーバが別途設けられてもよい。さらに、記憶装置290内の各データベースは、動作分析サーバ200とは異なるサーバで管理されてもよい。
【0055】
[3.情報処理方法]
[3-1.動作分析処理の概略]
図5は、動作分析処理の概略を示すフローチャートである。
【0056】
クライアント端末100は、センサ部110および入力デバイス120からセンサデータおよび問診データCDを取得する(ステップS1)。クライアント端末100は、取得したセンサデータを動作分析サーバ200に送信する(ステップS2)。この際、クライアント端末100は問診データCDも動作分析サーバ200に送信することが望ましい。
【0057】
問診データ解析部213は、問診データCDからリハビリテーション対象者TGの障害情報を抽出する(ステップS3)。センサデータ解析部211は、センサデータからリハビリテーション対象者TGの身体機能に関する機能情報、および、リハビリテーションのためのトレーニングまたは評価運動を行っている最中のリハビリテーション対象者TGの姿勢情報HPIを抽出する(ステップS4)。なお、リハビリテーション対象者TGの姿勢情報HPIのみに基づいて動作分析が行われる場合には、問診データCDから障害情報を抽出する処理(ステップS3)、および、センサデータから機能情報を抽出する処理(ステップS4)は不要である。
【0058】
特徴量抽出部212は、指標データベース295から、項目に応じた動作分析の指標(特徴量の定義情報、動作分析アルゴリズムAL)を抽出する。特徴量抽出部212は、特徴量の定義情報に基づいて、姿勢情報HPIから特徴量を抽出する(ステップS5)。特徴量の定義情報が障害情報に紐づけて指標データベース295に規定されている場合には、指標の抽出に際して、特徴量抽出部212はリハビリテーション対象者TGの障害情報もあわせて参照することが望ましい。
【0059】
評価部220は、抽出された特徴量のデータを動作分析アルゴリズムALに当てはめて、リハビリテーション対象者TGの動作を分析する。動作分析は、動作のフェーズごとに行われる。評価部220は、動作分析アルゴリズムALに基づいて、リハビリテーション対象者TGの一例の動作を複数のフェーズに分類する。評価部220は、指標(評価項目と評価基準)に基づいて、フェーズごとに姿勢情報HPI(特徴量のデータ)を分析する。評価部220は、フェーズごとの動作の分析結果に基づいてリハビリテーション対象者TGの一連の動作を評価し、評価結果を示す分析情報MAIを生成する(ステップS6)。障害の大きさや運動機能などを考慮した詳細な評価を行う場合には、評価部220は、リハビリテーション対象者TGの障害情報および/または機能情報を考慮してリハビリテーション対象者TGの一連の動作を評価することもできる。
【0060】
介入情報生成部230は、医療関係者端末300およびサービス提供者サーバ500から、分析情報MAIに関連する診断情報DGおよび物販情報PSIを取得する。介入情報生成部230は、分析情報MAI、診断情報DG、症状に関する情報および物販情報PSIに基づいて、リハビリテーション対象者TGに介入するための介入情報VIを生成する(ステップS7)。
【0061】
介入情報生成部230は、生成された介入情報VIをクライアント端末100に送信する(ステップS8)。クライアント端末100は、介入情報VIを表示装置170に表示し、リハビリテーションの状況をリハビリテーション対象者TGに認識させる(ステップS9)。これにより、リハビリテーション対象者TGの行動の変化が促される。
【0062】
[3-2.動画取得処理]
図6は、動画取得処理の一例を示すフローチャートである。
【0063】
<ステップSA1:身分認識>
クライアント端末100は、動作分析の対象となる人物(リハビリテーション対象者TG)を認識する。リハビリテーション対象者TGはカメラ160の撮影視野の中央にいる人物として認識されてもよいし、アカウント情報、顔認証または指紋認証などによりリハビリテーション対象者TGの認証がおこなわれてもよい。
【0064】
<ステップSA2:撮影準備>
クライアント端末100は、問診データCDに基づいてリハビリテーションの可否を判定する。クライアント端末100は、リハビリテーションが可能と判定した場合には、撮影の準備として、判定項目や撮影条件を決定する。
【0065】
判定項目は、リハビリテーション対象者TGまたはトレーナの選択により選択される。トレーニングプランに分析対象となるトレーニング項目が設定されている場合には、設定されたトレーニング項目が判定項目として決定されてもよい。本開示では、判定項目は、例えばユーザ入力情報(リハビリテーション対象者TGの選択)または問診データCDに基づいて決定される。
【0066】
クライアント端末100は、問診データCDに基づいて、リハビリテーション対象者TGの持つ障害を特定する。クライアント端末100は、指標データベース295から、リハビリテーション対象者TGの障害に紐づけられた1以上の判定項目を抽出する。判定項目が1つしか存在しない場合には、その1つの判定項目が動作分析の対象として決定される。判定項目が複数存在する場合には、ユーザ入力情報に基づいて選択された1つの判定項目が動作分析の対象として決定される。判定項目は、医師や理学療法士により指定されることも可能である。
【0067】
クライアント端末100は、指標データベース295から、判定項目と紐づけられた撮影条件を抽出し、音声や映像を用いてリハビリテーション対象者TGに通知する。撮影条件には、リハビリテーション対象者TGとカメラ160との位置関係や画角内のリハビリテーション対象者TGの位置(例えば、両肩の座標、骨格の中心線の位置)などについての基準が含まれる。クライアント端末100は、カメラ160の撮影位置が上述の基準を満たさないと判定した場合には、音声や映像を用いてリハビリテーション対象者TGに通知する。
【0068】
撮影位置が上述の基準を満たすか否かの判定は、動作分析サーバ200などの他の分析機器によって行われてもよい。判定の一部(例えば姿勢推定のみ)がクライアント端末100によって行われ、残りが他の分析機器によって行われてもよい。また、ToFセンサなどを用いてリハビリテーション対象者TGとカメラ160との位置関係が検出される場合には、検出された位置関係に基づいて、カメラ160の映像を上述の基準が満たされるように補正してもよい。
【0069】
クライアント端末100は、ジャイロセンサなどを用いて自身の水平度を検知し、水平から傾いている場合にはリハビリテーション対象者TGに通知することができる。リハビリテーション対象者TGの動作を分析する場合には、リハビリテーション対象者TGの姿勢が鉛直方向からどの方向にどの程度傾いているかを正確に検知する必要がある。そのため、撮影前の準備として、リハビリテーション対象者TGにクライアント端末100の水平度を調整してもらう。
【0070】
クライアント端末100は、画像解析によりリハビリテーション対象者TGを背景から精度よく分離できないと判定した場合には、リハビリテーション対象者TGに通知することができる。洋服の色と背景(例えば壁)の色が同じである場合、あるいは、髪の毛の色と背景(例えば暗い廊下)の色とが同じである場合には、画像解析によってリハビリテーション対象者TGを背景から精度よく分離することができない。リハビリテーション対象者TGの背景に別の人物が存在する場合にも、リハビリテーション対象者TGと別の人物とを分離して解析することができない。リハビリテーション対象者TGを背景から分離できないと、リハビリテーション対象者TGの姿勢情報HPIを精度よく抽出することができない。そのため、リハビリテーション対象者TGに通知して、撮影位置や照明の状態を調整してもらう。
【0071】
<ステップSA3:動画取得>
撮影条件が適正化されたら、クライアント端末100は動画の撮影を実施する。クライアント端末100は、動画を撮影する前に、アセスメント用動画を撮影してもよい。アセスメント用動画は、リハビリテーション対象者TGの症状を分析するために取得される、立ち上がり、歩行、階段の上り下り、および、起き上がりなどの基本動作を映した動画を意味する。アセスメント用動画は、問診データCDとともに、リハビリテーション対象者TGの症状を分析するための判断材料として用いられる。
【0072】
なお、アセスメント用動画の分析結果に基づいて1以上の追加試験用動画が撮影されてもよい。追加試験用動画は、上述した基本動作よりも細かい動作、あるいは補助分析用の他の動作を映した動画を意味する。追加試験用動画は、問診データCDとともに、リハビリテーション対象者TGの症状を分析するための判断材料として用いることができる。
【0073】
動画の撮影開始および撮影終了の指示は、音声によって入力することができる。あるいは、動作の開始時と終了時のポーズを画像解析によって検知し、これらのポーズが検知されたときに自動的に動画の撮影開始と撮影終了の処理が行われるようにしてもよい。
【0074】
<ステップSA4:動作分析のための前処理>
動画が撮影されたら、クライアント端末100は、必要に応じて、動作分析サーバ200で動作分析を行うための前処理を行う。
【0075】
動画データMDを用いてリハビリテーション対象者TGの動作を分析する場合、実際に分析が必要なフレーム画像の数はそれほど多くない(例えば、1フェーズあたり1枚以上10枚以下)。動画データMDに含まれる全てのフレーム画像を高性能な動作分析サーバ200で解析すると、解析コストが大きくなる。そのため、クライアント端末100は、動作分析の前処理として、フェーズの動作を示す重要なフレーム画像が含まれていると予想される特定の動作シーン(以下、特定シーンと記載する)を抽出する。特定シーンは、各フェーズに対応して抽出される。クライアント端末100は、特定シーンのフレーム画像のみを動作分析サーバ200に送信する。
【0076】
例えば、クライアント端末100は、低画質モード(例えば、1フレームあたり368画素×368画素の解像度)で取得した動画データMDを解析して、特定シーンの受信タイミングを予測する。クライアント端末100は、予測されたタイミングに合わせて、動画データMDの取得モードを低画質モードから高画質モード(例えば、1フレームあたり640画素×480画素の解像度)に切り替え、高画質のフレーム画像を動作分析サーバ200に送信する。クライアント端末100は、特定シーン以外のシーンのフレーム画像は低画質のまま動作分析サーバ200に送信する。
【0077】
抽出すべき特定シーンの特徴は、動作分析アルゴリズムALに規定されている。特定シーンは、リハビリテーション対象者TGの輪郭情報、姿勢情報LPI(図7参照)、および、リハビリテーション対象者TGが使用する特定のオブジェクトOBとリハビリテーション対象者TGとの位置関係などに基づいて検出される。特定のオブジェクトOBは、例えば立ち上がり動作であれば椅子であり、歩行動作であれば杖であり、入浴動作であれば浴槽である。例えば、立ち上がり動作については、座面と臀部との位置関係、腰の曲がり具合、および、体の重心の移動方向の変化などに基づく特定シーンの抽出方法が動作分析アルゴリズムALに規定されている。
【0078】
特定シーンを検出するだけであれば、低性能なクライアント端末100でも高速に実施できる。特定シーンに含まれるフレーム画像のみが動作分析の対象となるため、動作分析サーバ200による解析コストが抑えられる。
【0079】
<<前処理のフロー>>
図7ないし図9は、前処理の具体例を説明する図である。以下、図9のフローを図7および図8を参照しながら説明する。
【0080】
クライアント端末100は、リハビリテーション対象者TGの動画を撮影する(ステップSD1)。動画データMDは時系列的に並ぶ複数のフレーム画像FIによって構成される。動画には、分析の対象となる特定シーンと、特定シーンの前後のシーンと、が含まれる。
【0081】
クライアント端末100は、動画データMDから特定シーンを示す1以上のフレーム画像FI(特定のフレーム画像SFI)を抽出する(ステップSD2)。特定シーンの判定は、例えば、リハビリテーション対象者TGの動作に基づいて行われる。リハビリテーション対象者TGの動作は、例えば、低精度低計算量の第1分析モデル143(図11参照)を用いて動画データMDの全フレーム画像FIから抽出されたリハビリテーション対象者TGの姿勢情報LPI(第1分析モデル143による低精度姿勢推定結果を示す情報)に基づいて推定される。
【0082】
以上により、高精度姿勢推定の対象を抽出するための前処理が完了する。抽出されたフレーム画像は、動作分析サーバ200による動作分析の対象となる。
【0083】
例えば、動作分析サーバ200は、抽出された1以上の特定のフレーム画像SFIからフレーム画像SFIごとにリハビリテーション対象者TGの姿勢情報HPIを抽出する(ステップSD3)。リハビリテーション対象者TGの姿勢情報HPIは、例えば、高精度高計算量の第2分析モデル297(図11参照)を用いて1以上の特定のフレーム画像SFIのみから抽出される。
【0084】
動作分析サーバ200は、抽出された1以上の姿勢情報HPI(第2分析モデル297による高精度姿勢推定結果を示す情報)の中から、各フェーズの動作タイミングを示す姿勢情報HPIを抽出する。これにより、一連の動作に含まれる複数のフェーズが検出される。動作分析サーバ200は、各フェーズの動作タイミングを示す姿勢情報HPIを用いて、フェーズごとにリハビリテーション対象者TGの動作を分析する(ステップSD4)。
【0085】
クライアント端末100は、動作分析サーバ200から分析情報MAIを受信し、リハビリテーション対象者TGに通知する(ステップSD5)。
【0086】
なお、図7ないし図9の例では、低精度姿勢推定がクライアント端末100で行われ、高精度姿勢推定が動作分析サーバ200で行われたが、姿勢推定の分担はこれに限られない。例えば、クライアント端末100で全ての姿勢推定(低精度姿勢推定および高精度姿勢推定)が行われてもよいし、動作分析サーバ200で全ての姿勢推定が行われてもよい。いずれの場合でも、特定シーンの迅速な検出、および、高精度姿勢推定における計三個ストの低減という優れた効果が得られる。
【0087】
[3-3.分析・評価処理]
図10は、分析・評価処理の一例を示すフローチャートである。
【0088】
<ステップSB1:姿勢推定>
動作分析サーバ200には、クライアント端末100から、複数の特定シーンの映像が動画データMDから抽出されて送信される。動作分析サーバ200は、各特定シーンの姿勢分析を行う。姿勢分析は、公知の姿勢推定技術を用いて行われる。例えば、動作分析サーバ200は、ディープラーニングの手法を用いて、リハビリテーション対象者TGの画像から複数のキーポイントKP(肩・肘・手首・腰・膝・足首などを示す複数の特徴点:図12参照)を抽出する。動作分析サーバ200は、抽出されたキーポイントKPどうしの相対位置に基づいてリハビリテーション対象者TGの姿勢を推定する。
【0089】
動作分析サーバ200は、特定シーンに含まれる個々のフレーム画像からリハビリテーション対象者TGの姿勢情報HPIを抽出する。姿勢情報HPIは、各キーポイントKPの位置(座標)およびキーポイントKPどうしの位置関係(関節の角度など)を示す情報を意味する。動作分析サーバ200は、クライアント端末100よりも高性能な情報処理装置である。そのため、クライアント端末100で姿勢分析を行うよりも高精度な姿勢情報HPIが抽出される。高精度な姿勢情報HPIを用いることで、動作分析の精度も高まる。
【0090】
<ステップSB2:フェーズ分析>
動作分析アルゴリズムALには、各フェーズの姿勢をどのように定義すべきかについての定義情報が規定されている。姿勢の定義は、例えば、キーポイントKPどうしの位置関係、および、特定のキーポイントKPの移動の態様(移動方向、移動速度、移動速度の変化の様子など)などに基づいて行われる。リハビリテーション対象者TGが使用する特定のオブジェクトOB(椅子、杖、浴槽など)との位置関係に基づいて、姿勢の定義が行われてもよい。
【0091】
1つのフェーズには、複数の姿勢が定義されてもよい。複数の姿勢を分析対象とすることで、同一フェーズ内で生じる姿勢の推移を分析することができる。
【0092】
例えば、壁から少し離れたところに壁を背にして立っている状態で、壁に寄り掛かった後に壁から跳ね上がるというようなリハビリテーショントレーニングがある。一連の動作には、壁に寄りかかるフェーズと、壁から跳ね上がるフェーズという2つのフェーズが含まれる。壁から跳ね上がるフェーズでは、肩から跳ね上がるのが正しい動きとなる。臍から跳ね上がるのは誤った動作であるが、フェーズの終了時点(跳ね上がった直後)だけ見ても、肩から跳ね上がったか臍から跳ね上がったかがわからない。しかし、跳ね上がり期間中の姿勢の推移を分析すれば、正しい動作が行われたかどうかをチェックすることができる。
【0093】
跳ね上がりの姿勢は、例えば、首の付け根、股関節中心部および撮影側の膝の位置によって算出される腰の角度を用いて分析することができる。壁から跳ね上がっている期間(フェーズ)の複数または全てのフレーム画像SFIを解析することで、跳ね上がりのフェーズの開始から終了までの姿勢の推移を詳細に分析することができる。
【0094】
動作分析サーバ200は、特定シーンに含まれる1以上のフレーム画像SFIの中から、定義情報に規定された1以上のフレーム画像SFIを抽出する。これにより、定義情報に規定された、同一フェーズ内に紐づく1以上の姿勢が検出される。姿勢の判別手法としては、閾値に基づく判別手法を用いてもよいし、ディープラーニングなどの機械学習に基づく判別手法を用いてもよい。
【0095】
<ステップSB3:評価>
<<項目分け>>
動作分析アルゴリズムALには、フェーズごとに、1以上の評価項目が規定されている。個々の評価項目および採点基準は、理学療法士などの医療関係者DTによって設定される。標準的な評価項目および採点基準が知られている場合には、公知の評価項目および採点基準がそのまま流用されてもよい。採点基準は、健常者データベースに集められた教師データに基づいて機械学習されてもよいし、統計学的な処理に基づいて算出されてもよいし、これらの組み合わせに基づいて算出されてもよい。採点基準として用いられる分析時の閾値は、学習結果または統計処理などに基づいて自動的に算出することができる。例えば、リハビリテーション対象者TGの臀部が座面から離れるときには、リハビリテーション対象者TGの足の角度が分析の対象となる。この足の角度は健常者のデータから算出することができる。
【0096】
<<採点>>
動作分析サーバ200は、フェーズの動作を示すフレーム画像SFIから姿勢情報HPIを抽出する。動作分析サーバ200は、抽出された姿勢情報HPIを評価項目ごとに採点する。採点は、個々の姿勢情報HPIについて行われてもよいし、複数のフレームにまたがる平均的な姿勢情報HPIについて行われてもよい。採点方法としては、閾値に基づく採点手法を用いてもよいし、ディープラーニングなどの機械学習に基づく採点手法を用いてもよい。採点のタイミングは、リアルタイムでもよいし、動画撮影後でもよい。
【0097】
<ステップSB5:症状分類>
全フェーズの分析が完了したら(ステップSB4:Yes)、動作分析サーバ200は、各フェーズの採点結果に基づいて、リハビリテーション対象者TGの動作の特徴を検出する。動作分析サーバ200は、動作の特徴に基づいてリハビリテーション対象者TGの症状を分類する。分類手法としては、閾値に基づく分類手法を用いてもよいし、ディープラーニングなどの機械学習に基づく分類手法を用いてもよい。症状の分類項目は、理学療法士などの医療関係者DTによって設定される。症状の分類項目の一例としては、回旋の方向(麻痺側、非麻痺側)などが挙げられる。動作分析アルゴリズムALには、例えば、150以上の分類項目が規定されている。症状分類の結果、複数の症状が検出される可能性がある。この場合には、動作分析サーバ200は全ての症状を出力してもよいし、個々の症状を重要度に基づいて順位付けし、上位の症状のみを出力してもよい。
【0098】
なお、症状の分類ができない場合、あるいは、より詳細な分類を行いたい場合には、追加試験を行うことができる。動作分析サーバ200は、追加試験用の動作を記録した動画データに基づいて再度症状の分類を行う。図10の例では、全フェーズの分析が完了した後に症状分類が行われるが、症状の検出はフェーズごとに行われてもよい。フェーズごとの症状を全フェーズの分析完了後に総合評価し、最終的な症状評価を行うこともできる。
【0099】
<<比較>>
動作分析サーバ200は、各評価項目の採点結果および症状の分類結果に基づいて、リハビリテーション対象者TGの一連の動作を評価する。動作分析サーバ200は、リハビリテーション対象者TGの評価結果を他者(健常者、他の患者)の評価結果または過去のリハビリテーション対象者TGの評価結果と比較し、比較結果をリハビリテーション対象者TGに通知することができる。
【0100】
比較方法としては、比較の対象となる複数の骨格画像をオーバーレイ表示または並列表示するなどの方法が挙げられる。この際、骨格画像のサイズは一致させることが好ましい。例えば、動作分析サーバ200は、比較対象となる人物の骨格画像をリハビリテーション対象者TGの骨格の大きさに合わせて拡大または縮小する。この際、動作分析サーバ200は、リハビリテーション対象者TGの骨格の動きを比較対象となる人物の骨格の動きと同期させることが好ましい。同一フェーズを示すリハビリテーション対象者TGの映像のフレーム数が比較対象となる人物の映像のフレーム数と異なる場合には、必要なフレームを補間することが好ましい。これにより、比較が行いやすくなる。
【0101】
<<レポート>>
動作分析サーバ200は、一連の動作の評価結果を示す分析情報MAIを生成し、リハビリテーション対象者TG、家族FMおよび医療関係者DTなどにレポートを行う。分析情報MAIには、例えば、リハビリテーション対象者TGの現在の症状(採点結果、症状の分類結果)、症状の推移、アドバイス、および、推奨されるトレーニングプランなど、リハビリテーションを支援するための各種情報が含まれる。レポートのタイミングは、任意に設定することができる。症状の種類、重さおよびリハビリテーションの期間などに応じて、一日ごと、一週間ごと、あるいは、一か月ごとなどと設定することができる。
【0102】
[4.分析・介入処理に関わる機能構成]
図11は、分析・介入処理に関わる機能構成の一例を示す図である。
【0103】
<クライアント端末>
クライアント端末100は、処理装置130、記憶装置140とおよび通信装置150を有する。処理装置130は、動画取得部131、撮影条件決定部132、シーン抽出部133および出力部134を有する。
【0104】
動画取得部131は、カメラ160で撮影されたリハビリテーション対象者TGの動画データMDを取得する。動画には、各フェーズに対応した複数の特定シーンが含まれる。
【0105】
シーン抽出部133は、動画取得部131から動画データMDを取得する。シーン抽出部133は、動画データMDからフェーズごとに特定シーンを示す1以上のフレーム画像SFIを抽出する。抽出されるフレーム画像SFIの数は、例えば、1以上10以下である。例えば、シーン抽出部133は、リハビリテーション対象者TGの動作に基づいて特定シーンを判定する。シーン抽出部133は、リハビリテーション対象者TGの動作の特徴をシーン情報142と照合して特定シーンの判定を行う。
【0106】
例えば、シーン抽出部133は、特定シーンよりも前のフレーム画像群の姿勢解析結果に基づいて特定シーンへの切り替わりを検出する。シーン抽出部133は、特定シーンへの切り替わりに応じて取得した、フレーム画像群よりも高解像度の1以上のフレーム画像FIを、特定シーンを示す1以上の特定のフレーム画像SFIとして抽出する。
【0107】
シーン情報142には、各フェーズに対応した複数の特定シーンと、それぞれの特定シーンを判定するための判定条件と、が関連付けて規定されている。特定シーンの定義情報および特定シーンの判定方法は、動作分析アルゴリズムALに規定されている。クライアント端末100は、指標データベース295から、特定シーンの定義情報および特定シーンの判定方法を抽出し、記憶装置140にシーン情報142として記憶する。
【0108】
シーン抽出部133は、例えば、機械学習によって得られた第1分析モデル143を用いてリハビリテーション対象者TGの姿勢情報LPIを抽出する。第1分析モデル143は、例えば、動作分析サーバ200で姿勢情報HPIを抽出する際に用いられる分析モデル(第2分析モデル297)よりも姿勢の推定精度が低い分析モデルである。シーン抽出部133は、抽出された姿勢情報LPIから推定されるリハビリテーション対象者TGの姿勢の変化に基づいて、特定シーンへの切り替わりを検出する。
【0109】
動画データMDは、時系列で生じる複数の特定シーンを含む一連の動作の情報を含む。シーン抽出部133は、どの特定シーンが生じているかを、動作の流れの中で、前後の文脈を考慮しながら、それぞれ個別の観点で判定する。
【0110】
例えば、立ち上がり動作は、両足が床につく位置で椅子やベッドに座った状態から真っ直ぐに立った姿勢へと移行する動作として定義される。立ち上がり動作は、(i)座った姿勢から臀部が座面から浮くまでの動作(第1フェーズ)、(ii)臀部が座面から浮いてから足に体の重心を移動するまでの動作(第2フェーズ)、(iii)十分に足に重心が移動した状態(前方へ重心が移動しきった状態)から足を伸ばしながら上方へ重心を移動するまでの動作(第3フェーズ)、および、(iv)最終的に立った状態(第4フェーズ)に分類される。各フェーズに対応した特定シーンは、特定シーンごとに想定される体の動きに基づいて判定される。
【0111】
判定を容易にするために、シーン抽出部133は、例えば、リハビリテーション対象者TGと、リハビリテーションのためのトレーニングまたは評価運動に用いられる特定のオブジェクトOB(立ち上がり動作の場合は椅子など)と、が所定の位置関係にあるときのリハビリテーション対象者TGの動作、または、リハビリテーション対象者TGと特定のオブジェクトOBとの位置関係の変化に基づいて、特定シーンへの切り替わりを検出する。この構成では、骨格同士の相対的な位置関係のみに基づいて特定シーンを判定する場合よりも、精度よく特定シーンが判定される。
【0112】
姿勢の推定精度は、分析モデルに用いられるニューラルネットワークの規模によって変化する。規模の大きいニューラルネットワークを用いた場合には、画像データから多くのキーポイントKPが抽出され、リハビリテーション対象者TGの様々な動作が精度よく推定される。オクルージョン等による情報の欠落があっても、リハビリテーション対象者TGのキーポイントKPは精度よく抽出される。ニューラルネットワークの規模を大きくする方法としては、特徴マップ(チャンネル)を増やす方法と層(レイヤ)を深くする方法とがある。いずれの方法でも、畳み込み演算の処理量が増加し、計算速度が低下する。姿勢の推定精度と計算速度とはトレードオフの関係にある。
【0113】
シーン抽出部133は、例えば、ニューラルネットワークの規模が小さい低精度低計算量の第1分析モデル143を用いて、動画データMDを構成する全てのフレーム画像FIからリハビリテーション対象者TGの姿勢情報LPIを抽出する。リハビリテーション対象者TGの特定シーンを判定するだけであれば、リハビリテーション対象者TGの大まかな動作が把握できればよい。オクルージョン等による情報の欠落があっても、姿勢の大まかな変化によって動作の特徴は把握される。よって、低精度低計算量の第1分析モデル143を用いても、リハビリテーション対象者TGの動作シーンを判定することができる。第1分析モデル143を用いた場合には、フレーム画像FIごとの畳み込み演算の処理量が小さいため、動画データMDが大きくても迅速な処理が可能である。
【0114】
特定シーンを示す1以上のフレーム画像SFIのデータは通信装置150を介して動作分析サーバ200に送信される。動作分析サーバ200は、受信した1以上のフレーム画像SFIを用いて、特定シーンに対応するフェーズの動作分析を行う。出力部134は、動作分析に基づく評価結果(分析情報MAI)を通信装置150を介して動作分析サーバ200から受信する。出力部134は、受信した分析情報MAIをリハビリテーション対象者TGに通知する。通知は、例えば、文字、図表および音声の組み合わせによって行われる。
【0115】
撮影条件決定部132は、リハビリテーション対象者TGの障害情報、および、リハビリテーションのためのトレーニングまたは評価運動の種類(判定項目)に基づいて、動画データMDを取得する際のリハビリテーション対象者TGの撮影方向を決定する。指標データベース295には、判定項目ごとに、撮影を行うべき1以上の撮影方向が規定されている。撮影方向は、ポイントなる動作の把握のしやすさという観点から決められる。例えば、分析対象となる動作の特徴に基づいて、リハビリテーション対象者TGの正面方向(前額面に垂直な方向)、側面方向(矢状面に垂直な方向)、あるいは、正面方向と側面方向の両方、などのように撮影方向が決定される。
【0116】
撮影条件決定部132は、指標データベース295に規定された撮影方向をリハビリテーション対象者TGに通知する。例えば、リハビリテーション対象者TGが立ち上がり動作についてのリハビリテーションを行う場合、撮影条件決定部132は、リハビリテーション対象者TGの正面方向および側面方向を撮影方向として決定する。障害情報に麻痺側の情報が含まれる場合には、撮影条件決定部132は、麻痺側の動作が詳細に記録できるような撮影方向を決定する。
【0117】
記憶装置140は、例えば、撮影条件情報141、シーン情報142、第1分析モデル143およびプログラム144を記憶する。撮影条件情報141は、動作分析アルゴリズムALに規定された撮影条件に関する情報を含む。クライアント端末100は、指標データベース295から、撮影条件に関する情報を抽出し、記憶装置140に撮影条件情報141として記憶する。なお、撮影条件情報141およびシーン情報142は、指標データベース295からダウンロードされてもよいし、最初からクライアント端末100にインストールされていてもよい。
【0118】
プログラム144は、クライアント端末100の情報処理をコンピュータに実行させるプログラムである。処理装置130は、プログラム144にしたがって各種の処理を行う。記憶装置140は、処理装置130の処理結果を一時的に記憶する作業領域として利用されてもよい。記憶装置140は、例えば、半導体記憶媒体および磁気記憶媒体などの任意の非一過的な記憶媒体を含む。記憶装置140は、例えば、光ディスク、光磁気ディスクまたはフラッシュメモリを含んで構成される。プログラム144は、例えば、コンピュータにより読み取り可能な非一過的な記憶媒体に記憶されている。
【0119】
処理装置130は、例えば、プロセッサとメモリとで構成されるコンピュータである。処理装置130のメモリには、RAM(Random Access Memory)およびROM(Read Only Memory)が含まれる。処理装置130は、プログラム144を実行することにより、動画取得部131、撮影条件決定部132、シーン抽出部133および出力部134として機能する。
【0120】
<動作分析サーバ>
動作分析サーバ200は、処理装置250、記憶装置290および通信装置260を有する。処理装置250は、姿勢情報抽出部214、ステートマシン221および動作分析部222を有する。姿勢情報抽出部214は、センサデータ解析部211に含まれる。ステートマシン221および動作分析部222は、評価部220に含まれる。
【0121】
姿勢情報抽出部214は、クライアント端末100から送信された特定シーンを示す1以上のフレーム画像SFIを通信装置260を介して取得する。姿勢情報抽出部214は、機械学習によって得られた第2分析モデル297を用いて、特定シーンを示す1以上のフレーム画像SFIからフレーム画像SFIごとにリハビリテーション対象者TGの姿勢情報HPIを抽出する。
【0122】
第2分析モデル297は、シーン抽出部133で特定シーンを判定する際に用いる分析モデル(第1分析モデル143)よりも姿勢の推定精度が高い分析モデルである。姿勢情報抽出部214は、例えば、ニューラルネットワークの規模が大きい高精度高計算量の第2分析モデル297を用いて特定の1以上のフレーム画像SFIからリハビリテーション対象者TGの姿勢情報HPIを抽出する。姿勢情報抽出部214による姿勢推定処理の対象となるのは、動画データMDを構成する複数のフレーム画像FIから選択された特定の1以上のフレーム画像SFIのみである。そのため、フレーム画像SFIごとの畳み込み演算の処理量が大きくても迅速な処理が可能である。
【0123】
ステートマシン221は、リハビリテーション対象者TGの姿勢情報HPIに基づいて、リハビリテーション対象者TGの一連の動作に含まれる複数のフェーズを検出する。例えば、ステートマシン221は、リハビリテーション対象者TGの姿勢情報HPIに含まれる特徴をフェーズ情報298と照合する。フェーズ情報298には、分析の対象となる複数のフェーズと、それぞれのフェーズを判定するための判定条件と、が関連付けて規定されている。フェーズの定義情報およびフェーズの判定方法(フェーズの境界の検出方法)は、動作分析アルゴリズムALに規定されている。図11では、動作分析アルゴリズムALに規定された、フェーズに関する種々の情報(フェーズごとの定義情報および判定方法など)をフェーズ情報298として示している。
【0124】
ステートマシン221は、姿勢情報抽出部214で抽出された1以上の姿勢情報HPIの中から、照合結果に応じた1以上の姿勢情報HPIを抽出する。照合結果に基づいて抽出された1以上の姿勢情報HPIは、それぞれフェーズ情報298に規定されたフェーズにおけるリハビリテーション対象者TGの姿勢を示す。この処理により、一連の動作に含まれる複数のフェーズが検出される。
【0125】
リハビリテーション対象者TGの動作が複数の方向から撮影される場合、ステートマシン221は、複数の方向から取得される姿勢情報HPIに基づいて、一連の動作に含まれる複数のフェーズを検出する。これにより、死角となる情報を補いながら複数のフェーズが検出される。
【0126】
動作分析部222は、姿勢情報抽出部214で抽出された特定シーンにおけるリハビリテーション対象者TGの姿勢情報HPI(特定シーンに含まれる1以上のフレーム画像SFIからフレーム画像SFIごとに抽出された姿勢情報)を取得する。動作分析部222は、特定シーンに含まれる1以上のフレーム画像SFIから、ステートマシン221で検出されたフェーズを示す1以上のフレーム画像SFIを分析対象として抽出する。
【0127】
動作分析部222は、ステートマシン221から取得したフェーズの検出結果に基づいて、フェーズごとに、分析対象となる1以上のフレーム画像SFIを抽出する。動作分析部222は、リハビリテーション対象者TGの障害情報に基づいて、フェーズごとに、分析対象となる姿勢情報HPIを分析し、一連の動作の評価結果を示す分析情報MAIを生成する。動作分析の方法(採点項目の定義、採点方法など)は、動作分析アルゴリズムALに規定されている。動作分析部222は、指標データベース295から取得した動作分析アルゴリズムALに基づいて動作分析を行う。
【0128】
例えば、動作分析部222は、フェーズごとに設定された1以上の採点項目に基づいて各フェーズの動作を採点し、各フェーズの採点結果に基づいて分析情報MAIを生成する。動作分析部222は、分析情報MAIを通信装置260を介してクライアント端末100、医療関係者端末300、家族端末400およびサービス提供者サーバ500に送信する。
【0129】
記憶装置290は、ロールモデル情報296、第2分析モデル297、フェーズ情報298およびプログラム299を記憶する。ロールモデル情報296およびフェーズ情報298は、動作分析アルゴリズムALの一部として指標データベース295に規定されている。プログラム299は、動作分析サーバ200の情報処理をコンピュータに実行させるプログラムである。処理装置250は、記憶装置290に記憶されているプログラム299にしたがって各種の処理を行う。記憶装置290は、処理装置250の処理結果を一時的に記憶する作業領域として利用されてもよい。記憶装置290は、例えば、半導体記憶媒体および磁気記憶媒体などの任意の非一過的な記憶媒体を含む。記憶装置290は、例えば、光ディスク、光磁気ディスクまたはフラッシュメモリを含んで構成される。プログラム299は、例えば、コンピュータにより読み取り可能な非一過的な記憶媒体に記憶されている。
【0130】
処理装置250は、例えば、プロセッサとメモリとで構成されるコンピュータである。処理装置250のメモリには、RAMおよびROMが含まれる。処理装置250は、プログラム299を実行することにより、センサデータ解析部211、評価部220、姿勢情報抽出部214、ステートマシン221および動作分析部222として機能する。
【0131】
<サービス提供者サーバ>
サービス提供者サーバ500は、処理装置510、記憶装置590および通信装置520を有する。処理装置510は、情報取得部511および物販情報生成部512を有する。情報取得部511は、分析情報MAIを通信装置520を介して取得する。物販情報生成部512は、情報取得部511から取得した分析情報MAIに基づいて、リハビリテーション対象者TGのリハビリテーションの状況に適した製品群の情報を物販データベース591から抽出する。物販情報生成部512は、抽出された物品群の情報に基づいて物販情報PSIを生成し、通信装置520を介して動作分析サーバ200に送信する。動作分析サーバ200は、分析情報MAIおよび物販情報PSIなどを用いて介入情報VIを生成し、クライアント端末100に送信する。
【0132】
記憶装置590は、物販データベース591およびプログラム592を記憶する。プログラム592は、処理装置510の情報処理をコンピュータに実行させるプログラムである。処理装置510は、プログラム592を実行することにより、情報取得部511および物販情報生成部512として機能する。記憶装置590および処理装置510の構成は、動作分析サーバ200の記憶装置290および処理装置250と同様である。
【0133】
[5.動作分析の具体例]
以下、図12ないし図16を用いて動作分析の具体例を説明する。ここでは、一例として、立ち上がり動作を分析する例が説明される。
【0134】
[5-1.立ち上がり動作におけるランドマーク]
図12は、立ち上がり動作におけるランドマークを示す図である。
【0135】
立ち上がり動作では、リハビリテーション対象者TGの正面方向と側面方向の2つの方向で撮影が行われる。リハビリテーション対象者TGの動作を複数の視点から撮影することで、前後方向および左右方向の姿勢のゆがみや脳血管疾患などに基づく回旋などの状況が分析される。
【0136】
側面方向から見たリハビリテーション対象者TGのランドマークはキーポイントKP-S1~KP-S5である。キーポイントKP-S1は、耳の位置を示すキーポイントKPである。キーポイントKP-S2は、肩の位置を示すキーポイントKPである。キーポイントKP-S3は、股関節の位置を示すキーポイントKPである。キーポイントKP-S4は、膝の位置を示すキーポイントKPである。キーポイントKP-S5は、踝の位置を示すキーポイントKPである。
【0137】
正面方向から見たリハビリテーション対象者TGのランドマークはキーポイントKP-F1~KP-F9である。キーポイントKP-F1は、鼻の位置を示すキーポイントKPである。キーポイントKP-F2は、右肩の位置を示すキーポイントKPである。キーポイントKP-F3は、左肩の位置を示すキーポイントKPである。キーポイントKP-F4は、右側の骨盤の位置を示すキーポイントKPである。キーポイントKP-F5は、左側の骨盤の位置を示すキーポイントKPである。キーポイントKP-F6は、右膝の位置を示すキーポイントKPである。キーポイントKP-F7は、左膝の位置を示すキーポイントKPである。キーポイントKP-F8は、右足首の位置を示すキーポイントKPである。キーポイントKP-F9は、左足首の位置を示すキーポイントKPである。
【0138】
[5-2.立ち上がり動作の分析]
図13および図14は、動作分析の一例を示す図である。動作のフェーズは、上側から下側に向けて進行する。図13および図14において、左側の列は、手本となる特定人物RM(例えば健常者)の動作を示す。中央の列は、リハビリテーション対象者TGの動作を示す。右側の列は、特定人物RMの動作とリハビリテーション対象者TGの動作との比較結果を示す。比較結果は、分析情報MAIとして提示される。
【0139】
指標データベース295には、立ち上がり動作を評価するための指標が記憶されている。指標には、動作分析に必要な作業および処理の基準となる様々な要素が含まれる。例えば、立ち上がり動作の動画を撮影するための撮影条件、姿勢情報HPIから抽出すべき特徴量の定義情報、および、姿勢情報HPIに基づいて動作分析を行う際の手順(動作分析アルゴリズムAL)などが、立ち上がり動作を評価するための指標として挙げられる。動作分析サーバ200は、指標データベース295に記憶された立ち上がり動作の指標に基づいてリハビリテーション対象者TGの動作を分析する。
【0140】
例えば、立ち上がり動作では、姿勢情報HPIに含まれる各キーポイントKPの位置関係(キーポイントKPどうしの距離、関節の角度など)、あるいは、特定のキーポイントKPの高さのピーク値、所定時間内の高さの平均値、および、所定時間内の位置の変化の態様などが特徴量として抽出される。
【0141】
特徴量に基づいて一連の動作が4つのフェーズに分類される。例えば、ステートマシン221は、リハビリテーション対象者TGの臀部と座面との位置関係、リハビリテーション対象者TGの腰の角度の変化、リハビリテーション対象者TGの重心点の移動速度の変化、および、腰の高さの変化に基づいて、複数のフェーズを検出する。
【0142】
ステートマシン221は、臀部が椅子の座面から離れる直前の状態を第1フェーズとして検出する。ステートマシン221は、重心点が両足の踝の間にあり、かつ、第1フェーズの直後に最も腰が曲がった状態を第2フェーズとして検出する。ステートマシン221は、第2フェーズの直後に重心点の高さ方向の移動速度が最大に達した状態を第3フェーズとして検出する。ステートマシン221は、第3フェーズの直後に腰の高さが最高点に達し、その後、腰の高さが低変動基準を満たす範囲で変動して停止した状態を第4フェーズとして検出する。
【0143】
図15は、第2フェーズの検出処理の一例を示す図である。縦軸は、肩(右肩、左肩)と腰との鉛直方向の距離(mm)を示す。横軸は、時間(秒)を示す。
【0144】
前述のように、第2フェーズは、第1フェーズの直後に最も腰が曲がった状態として定義される。図15の例では、腰の曲がり具合が、肩と腰の距離に基づいて判定される。肩と腰の距離が最も小さくなる矢印の時刻の動作が第2フェーズとして算出される。図15の例では、右肩と左肩とで距離の大きさが異なる。動作分析部222は、側面方向から見た両肩の肩関節の位置ずれに基づいて回旋を検出する。回旋が生じた場合でも、腰との距離が最も短くなる時刻は、右肩と左肩で同じである。
【0145】
図16は、第3フェーズの検出方法の一例を示す図である。縦軸は、体の重心点の鉛直方向の移動速度(mm/秒)を示す。横軸は、時間(秒)を示す。
【0146】
第3フェーズは、第2フェーズの直後に重心点の高さ方向の移動速度が最大に達した状態として定義される。図16の例では、移動速度を微分して得られる加速度の情報が移動速度とともに表示されている。加速度がゼロになる矢印の時刻の動作が第3フェーズとして算出される。
【0147】
なお、上述の例では、立ち上がり動作が第1フェーズ、第2フェーズ、第3フェーズおよび第4フェーズの順に進行することが想定されている。しかし、障害の大きさによっては、この順に動作が進行しない可能性もある。例えば、第2フェーズの動作が行われた後に、第3フェーズの動作に移行せずに第1フェーズの動作に戻ってしまうような事態も考えられる。そのため、ステートマシン221のフェーズ検出アルゴリズムとしては、フェーズが逆方向に進行してしまうような事態を考慮したアルゴリズムが採用されてもよい。
【0148】
[5-3.分析情報]
図17は、分析情報MAIの一例を示す図である。
【0149】
動作分析部222は、フェーズごとの分析結果に基づいて分析情報MAIを生成する。出力部134は、分析情報MAIを分析対象となったリハビリテーションの映像(動画データMDの映像)とともに表示装置170に表示する。例えば、出力部134は、フェーズごとにリハビリテーション対象者TGの動きを一時停止し、分析情報MAIをフェーズにおけるリハビリテーション対象者TGの静止画像IMとともに表示する。
【0150】
出力部134は、例えば、分析情報MAIとして、第1分析情報MAI1および第2分析情報MAI2を通知する。第1分析情報MAI1は、フェーズごとに、リハビリテーション対象者TGの動作と、動作の手本となる特定人物RM(例えば健常者)の動作と、の比較を示す情報を含む。第2分析情報MAI2は、リハビリテーション対象者TGの動作を特定人物RMの動作に近づけるための指針を示す情報を含む。
【0151】
特定人物RMの動作の情報は、ロールモデル情報296として記憶装置290に記憶されている。動作分析アルゴリズムALには、動作分析を行う上で比較の対象となる動作の情報が規定されている。図11では、動作分析アルゴリズムALに規定された比較対象に関する情報(特定人物RMの動作の情報など)をロールモデル情報296として示している。分析情報MAIは、過去から現在までの採点項目ごとの各フェーズの採点結果の推移を示す情報を含んでもよい。
【0152】
第1分析情報MAI1は、例えば、各フェーズにおける、リハビリテーション対象者TGの骨格情報SIと、比較の基準となる基準骨格情報RSI(特定人物RMの骨格情報)と、を含む。基準骨格情報RSIは、例えば、各フェーズにおける特定人物RMの骨格情報を、リハビリテーション対象者TGと特定人物RMとの体格差に基づいて修正した骨格情報を用いて生成される。各フェーズにおける基準骨格情報RSIは、ロールモデル情報296に含まれている。
【0153】
基準骨格情報RSIの縮尺は、例えば、次のように設定される。まず、特定人物RMとリハビリテーション対象者TGの体格を比較するのに適した1以上の骨が定義される。例えば、図17の例では、背骨と足の骨が比較の基準として定義されている。動作分析部222は、例えば、特定人物RMとリハビリテーション対象者TGのそれぞれについて、姿勢が揃うタイミングにおける背骨と足の骨の長さを検出する。動作分析部222は、背骨と足の骨の長さの和の比を特定人物RMとリハビリテーション対象者TGの体の大きさの比として算出し、この比に基づいて特定人物RMの骨格の縮尺を変更する。
【0154】
図17の例では、スクワットにおける膝関節の屈曲動作に対応するフェーズが示されている。出力部134は、リハビリテーション対象者TGの骨格情報SIおよび基準骨格情報RSIとして、フェーズにおいて分析されるべきリハビリテーション対象者TGの部位に対応した骨格の情報を選択的に表示する。図17の例では、肩、腰、膝および踝の骨格の情報が選択的に表示されている。表示画面の下側には動作についてのコメントが表示され、リハビリテーション対象者TGの腰の位置には、特定人物RMの腰の位置に向けた矢印が表示されている。コメントおよび矢印は第2分析情報MAI2として提示されている。
【0155】
基準骨格情報RSIは、スクワットの一連の動作の期間中、常に、リハビリテーション対象者TGの動きに連動させて表示されてもよい。しかし、特定人物RMとの比較を明確にするために、特定人物RMの動作との間に乖離が生じたタイミングで基準骨格情報RSIを表示することもできる。例えば、出力部134は、リハビリテーション対象者TGの骨格情報SIと基準骨格情報RSIとの間に許容基準を超える差分が生じたタイミングで、リハビリテーション対象者TGの骨格情報SIおよび基準骨格情報RSIを表示する。出力部134は、リハビリテーション対象者TGの骨格情報SIと基準骨格情報RSIとが許容基準を超えて相違する部分のリハビリテーション対象者TGの骨格をハイライト表示する。
【0156】
一連の動作に要する時間は特定人物RMとリハビリテーション対象者TGとで異なる。そのため、比較を行うのに効果的なタイミングがフェーズとして定義され、定義されたフェーズが一致するように基準骨格情報RSIがリハビリテーション対象者TGに重畳される。これにより、特定人物RMとの比較が容易になり、リハビリテーション対象者TGがどのように動作すべきかが理解しやすくなる。
【0157】
図17には、スクワットの分析情報MAIが示されているが、立ち上がり動作についても同様の分析情報MAIを表示することができる。図13および図14の右側の列には、各フェーズにおける、骨格情報SIと基準骨格情報RSIとの比較結果が示されている。出力部134は、図13および図14の右側の列に示すような比較結果の情報を動画に重畳して表示させることができる。
【0158】
分析情報MAIは、各フェーズの動作タイミングを示すフレーム画像に重畳して表示される。表示装置170は、各フェーズの動作タイミングにおいて分析動画データAMDの再生を一時停止する。そして、表示装置170は、分析情報MAIを各フェーズのフレーム画像に重畳させた静止画像IMを表示する。複数のフェーズが設定されている場合には、フェーズごとに分析動画データAMDの再生が一時停止され、対応するフェーズの分析情報MAIが通知される。なお、動画データMDの再生は、リハビリテーション対象者TGの姿勢を確認しやすいように、スローモーションで行われてもよい。この際、スローモーション再生は、最初のフェーズから最後のフェーズまでの区間についてのみ適用され、その区間の前後の映像については通常の再生速度で再生されてもよい。
【0159】
上述の例では、第1分析情報MAI1は、他者との比較を示す情報として提示される。しかし、第1分析情報MAI1は、過去のリハビリテーション対象者TGの動作との比較を示す情報を含んでもよい。例えば、第1分析情報MAI1は、現在のリハビリテーション対象者TGの骨格情報SIと、比較の基準となる過去のリハビリテーション対象者TGの骨格情報SIと、を含むことができる。
【0160】
例えば、出力部134は、現在のリハビリテーション対象者TGの骨格情報SIと特定の人物RMの動作を示す基準骨格情報RSIとの間に許容基準を超える差分が生じたタイミングで、現在のリハビリテーション対象者TGの骨格情報SIおよび過去のリハビリテーション対象者TGの骨格情報SIを表示する。出力部134は、現在のリハビリテーション対象者TGの骨格情報SIと基準骨格情報RSIとが許容基準を超えて相違する部分のリハビリテーション対象者TGの骨格をハイライト表示する。
【0161】
上述の例では、出力部134が動画データMDの再生画面に分析情報MAIを重畳して表示する例が説明された。しかし、分析情報MAIの通知手法はこれに限られない。例えば、クライアント端末100が分析情報MAIを組み込んだ新たな動画データ(修正動画データ)を生成し、生成された修正動画データを表示装置170で再生してもよい。例えば、修正動画データの各フェーズを示すフレーム画像には、分析情報MAIが書きこまれている。修正動画データでは、フェーズごとにリハビリテーション対象者TGの動きが停止され、分析情報MAIを含むリハビリテーション対象者TGの静止画像IMが所定時間だけ表示された後、次のフェーズに向けて続きの映像が再開されるように表示が調整される。
【0162】
修正動画データは、動作分析部222によって生成されてもよい。動作分析部222は、生成された修正動画データを分析情報MAIとともに、または、分析情報MAIの代わりに、クライアント端末100、医療関係者端末300、家族端末400およびサービス提供者サーバ500に送信することができる。
【0163】
上述の例では、立ち上がり動作の分析が行われたが、ジャンプやスクワットなどの他のリハビリテーションの動作についても同様の分析が可能である。ただし、ジャンプやスクワットの評価には、ジャンプやスクワットに対応した独自の指標(ジャンプやスクワットの動画を撮影するための撮影条件、姿勢情報HPIから抽出すべき特徴量の定義情報、および、姿勢情報HPIに基づいて動作分析を行う際の手順など)が用いられる。すなわち、ジャンプやスクワットの動作については、立ち上がり動作とは異なる基準でフェーズの分類および動作分析が行われる。撮影条件も立ち上がり動作とは異なる。例えば、ジャンプやスクワットの撮影は、リハビリテーション対象者TGの正面方向のみから行われる。
【0164】
なお、ToF(Time Of Flight)センサなどを用いてリハビリテーション対象者TGの3次元座標情報が取得できる場合には、1つの動画データMDから正面方向および側面方向のリハビリテーション対象者TGの姿勢情報HPIが抽出できる。このような場合には、正面方向と側面方向の映像を別々に撮影する必要はない。
【0165】
[6.システム構成のバリエーション]
図18は、システム構成のバリエーションを示す図である。
【0166】
図18の上段側のリハビリテーション支援システム1Aは、図2と同様に、センサ部110がクライアント端末100に内蔵された構成を有する。図18の下段側のリハビリテーション支援システム1Bでは、センサ部110はクライアント端末100から独立したデバイスとして設けられる。センサ部110の一部がクライアント端末100の内臓センサとして構成され、内蔵センサ以外のセンサがクライアント端末100から独立した外部センサとして構成されてもよい。外部センサで検出されたセンサデータは、いったんクライアント端末100に蓄積されてから動作分析サーバ200に送信される。外部センサで検出されたセンサデータは、クライアント端末100を経由せずに直接動作分析サーバ200に送信されてもよい。
【0167】
なお、上述した例では、サービス提供者が保有するデバイスがサーバ(サービス提供者サーバ500)である例が示された。しかし、サービス提供者が保有するデバイスは、必ずしもサーバである必要はなく、スマートフォン、タブレット端末、ノートパソコンおよびデスクトップパソコンなどの情報端末でもよい。
【0168】
[7.効果]
リハビリテーション支援システム1は、姿勢情報抽出部214、ステートマシン221および動作分析部222を有する。姿勢情報抽出部214は、リハビリテーション対象者TGのトレーニングまたは評価運動の動画データMDからリハビリテーション対象者TGの姿勢情報HPIを抽出する。ステートマシン221は、リハビリテーション対象者TGの姿勢情報HPIに基づいて、トレーニングまたは評価運動におけるリハビリテーション対象者TGの一連の動作に含まれる複数のフェーズを検出する。動作分析部222は、フェーズごとに姿勢情報HPIを分析し、一連の動作の評価結果を示す分析情報MAIを生成する。本開示の情報処理方法は、リハビリテーション支援システム1の処理がコンピュータにより実行される。本開示のプログラムは、リハビリテーション支援システム1の処理をコンピュータに実現させる。
【0169】
この構成によれば、リハビリテーション対象者TGの一連の動作が、ポイントとなるフェーズごとに分析される。そのため、一連の動作が全体にわたって的確に評価される。よって、効果的なリハビリテーションの支援が行われる。
【0170】
動作分析部222は、リハビリテーション対象者TGの障害情報に基づいてフェーズごとに姿勢情報HPIを分析することにより分析情報MAIを生成する。
【0171】
この構成によれば、分析は障害情報を考慮して行われる。そのため、同じ動作であっても疾患ごとに異なる意味づけが行われる。フェーズごとに障害情報を加味した分析結果が得られるため、一連の動作が全体にわたって的確に評価される。
【0172】
リハビリテーション支援システム1はシーン抽出部133を有する。シーン抽出部133は、動画データMDから、フェーズごとに、フェーズに応じた特定シーンを示す1以上の特定のフレーム画像SFIを抽出する。姿勢情報抽出部214は、抽出された1以上の特定のフレーム画像SFIからフレーム画像SFIごとにリハビリテーション対象者TGの姿勢情報HPIを抽出する。
【0173】
この構成によれば、分析が必要な特定シーンのフレーム画像FI(特定のフレーム画像SFI)のみから姿勢情報HPIが抽出される。リハビリテーション対象者TGの動画を撮影する場合、特定シーンが確実に動画データMDに含まれるように、特定シーンの前後の動作まで撮影される場合が多い。特定シーンの前後の動画データMDは、動作分析に寄与しない。動作分析に寄与しないデータ領域の画像処理を省略することで、動作分析に必要な時間およびコストが軽減される。
【0174】
シーン抽出部133は、特定シーンよりも前のフレーム画像群の姿勢解析結果に基づいて特定シーンへの切り替わりを検出する。シーン抽出部133は、特定シーンへの切り替わりに応じて取得した、フレーム画像群よりも高解像度の1以上のフレーム画像FIを1以上の特定のフレーム画像SFIとして抽出する。
【0175】
この構成によれば、低画質モードで取得された動画データMDに基づいて特定シーンの受信タイミングが予測される。予測されたタイミングに合わせて、動画データMDの取得モードが低画質モードから高画質モードに切り替わる。リハビリテーション対象者TGの姿勢情報HPIは、高画質モードで取得された動画データMDから抽出される。そのため、特定シーンの特定を低い処理負荷で行いつつ、分析対象となる姿勢情報HPIを高精度に抽出することができる。
【0176】
シーン抽出部133は、リハビリテーション対象者TGと、リハビリテーションのためのトレーニングまたは評価運動に用いられる特定のオブジェクトOBと、が所定の位置関係にあるときのリハビリテーション対象者TGの動作、または、リハビリテーション対象者TGと特定のオブジェクトOBとの位置関係の変化に基づいて、特定シーンへの切り替わりを検出する。
【0177】
この構成によれば、骨格同士の相対的な位置関係のみに基づいて特定シーンを検出する場合よりも、精度よく特定シーンが検出される。
【0178】
シーン抽出部133は、姿勢情報抽出部214で用いられる分析モデル(第2分析モデル297)よりも姿勢の推定精度が低い分析モデル(第1分析モデル143)を用いてリハビリテーション対象者TGの姿勢情報LPIを抽出する。シーン抽出部133は、抽出された姿勢情報LPIから推定されるリハビリテーション対象者TGの姿勢の変化に基づいて特定シーンへの切り替わりを検出する。
【0179】
この構成によれば、簡易的な第1分析モデル143を用いてリハビリテーション対象者TGの動作が迅速かつ低コストで推定される。特定シーンを検出するだけであれば、精度のよい動作分析は必要とされない。特定シーンの判定に用いる第1分析モデル143と詳細な動作分析を行う際の第2分析モデル297の姿勢推定精度を異ならせることにより、低コストで効率のよい動作分析が行われる。
【0180】
リハビリテーション支援システム1は、撮影条件決定部132を有する。撮影条件決定部132は、リハビリテーション対象者TGの障害情報、および、リハビリテーションのためのトレーニングまたは評価運動の種類に基づいて、動画データMDを取得する際のリハビリテーション対象者TGの撮影方向を決定する。
【0181】
この構成によれば、動作分析に適した動画データMDが容易に得られる。
【0182】
ステートマシン221は、複数の方向から取得される姿勢情報HPIによって死角となる情報を補いながら、一連の動作に含まれる複数のフェーズを検出する。
【0183】
この構成によれば、オクルージョン等による情報の欠落が生じにくい。そのため、精度のよい動作分析が行われる。
【0184】
リハビリテーション対象者TGが立ち上がり動作についてのリハビリテーションを行う場合、撮影条件決定部は、リハビリテーション対象者TGの正面方向および側面方向を撮影方向として決定する。
【0185】
この構成によれば、立ち上がり動作におけるリハビリテーション対象者TGの姿勢が、死角を有することなく撮影される。
【0186】
ステートマシン221は、臀部と座面との位置関係、腰の角度の変化、重心点の移動速度の変化、および、腰の高さの変化に基づいて、複数のフェーズを検出する。
【0187】
この構成によれば、立ち上がり動作の特徴を適切に反映した複数のフェーズが検出される。
【0188】
ステートマシン221は、臀部が椅子の座面から離れる直前の状態を第1フェーズとして検出する。
【0189】
この構成によれば、臀部が座面から離れる直前の特徴的な動作が第1フェーズとして検出される。
【0190】
ステートマシン221は、重心点が両足の踝の間にあり、かつ、第1フェーズの直後に最も腰が曲がった状態を第2フェーズとして検出する。
【0191】
この構成によれば、臀部を浮かせて重心を足に移動させるときの特徴的な動作が第2フェーズとして検出される。
【0192】
ステートマシン221は、第2フェーズの直後に重心点の高さ方向の移動速度が最大に達した状態を第3フェーズとして検出する。
【0193】
この構成によれば、脚を伸ばしながら状態を起こすときの特徴的な動作が第3フェーズとして検出される。
【0194】
ステートマシン221は、第3フェーズの直後に腰の高さが最高点に達し、その後、腰の高さが低変動基準を満たす範囲で変動して停止した状態を第4フェーズとして検出する。
【0195】
この構成によれば、脚と背中がまっすぐ伸びたときの特徴的な動作が第4フェーズとして検出される。
【0196】
動作分析部222は、側面方向から見た両肩の肩関節の位置ずれに基づいて回旋を検出する。
【0197】
この構成によれば、脳血管障害における麻痺側が把握される。
【0198】
リハビリテーション支援システム1は、出力部134を有する。出力部134は、フェーズごとにリハビリテーション対象者TGの動きを一時停止し、分析情報MAIをフェーズにおけるリハビリテーション対象者TGの静止画像IMとともに表示する。
【0199】
この構成によれば、分析結果は動画の再生シーンとリンクした態様で提供される。そのため、着目すべきリハビリテーション対象者TGの動作およびその分析結果が効率よく把握される。
【0200】
出力部134は、分析情報MAIとして、健常者の動作との比較を示す情報を表示する。
【0201】
この構成によれば、リハビリテーション対象者TGがどのような動作を行っているのかが、健常者の動作との比較に基づいて容易に把握される。
【0202】
出力部134は、分析情報MAIとして、リハビリテーション対象者TGの骨格情報SIと比較の基準となる基準骨格情報RSIとを表示する。
【0203】
この構成によれば、リハビリテーション対象者TGの動作と健常者の動作との差が把握しやすくなる。
【0204】
出力部134は、リハビリテーション対象者TGの骨格情報SIおよび基準骨格情報RSIとして、フェーズにおいて分析されるべきリハビリテーション対象者TGの部位に対応した骨格の情報を選択的に表示する。
【0205】
この構成によれば、着目すべき骨格の情報が容易に把握される。
【0206】
出力部134は、リハビリテーション対象者TGの骨格情報SIと基準骨格情報RSIとの間に許容基準を超える差分が生じたタイミングで、リハビリテーション対象者TGの骨格情報SIおよび基準骨格情報RSIを表示する。
【0207】
この構成によれば、健常者の動作と乖離している動作のフェーズが容易に把握される。
【0208】
出力部134は、リハビリテーション対象者TGの骨格情報SIと基準骨格情報RSIとが許容基準を超えて相違する部分のリハビリテーション対象者TGの骨格をハイライト表示する。
【0209】
この構成によれば、健常者の動作との間に乖離が生じている部分の骨格が容易に把握される。
【0210】
出力部134は、分析情報MAIとして、リハビリテーション対象者TGの動作を健常者の動作に近づけるための指針を示す情報を表示する。
【0211】
この構成によれば、指針に基づいてリハビリテーション対象者TGに動作の改善を促すことができる。
【0212】
出力部134は、分析情報MAIとして、過去のリハビリテーション対象者TGの動作との比較を示す情報を含む。
【0213】
この構成によれば、動作の改善の状況が容易に把握される。
【0214】
出力部134は、分析情報MAIとして、現在のリハビリテーション対象者TGの骨格情報SIと比較の基準となる過去のリハビリテーション対象者TGの骨格情報SIとを含む。
【0215】
この構成によれば、改善すべき動作の部位が容易に把握される。
【0216】
出力部134は、現在のリハビリテーション対象者TGの骨格情報SIと健常者の動作を示す基準骨格情報RSIとの間に許容基準を超える差分が生じたタイミングで、現在のリハビリテーション対象者TGの骨格情報SIおよび過去のリハビリテーション対象者TGの骨格情報SIを表示する。
【0217】
この構成によれば、健常者の動作との間に乖離が生じるタイミングが容易に把握される。
【0218】
出力部134は、現在のリハビリテーション対象者TGの骨格情報SIと基準骨格情報RSIとが許容基準を超えて相違する部分のリハビリテーション対象者TGの骨格をハイライト表示する。
【0219】
この構成によれば、改善すべき動作の部位が容易に把握される。
【0220】
分析情報MAIは、過去から現在までの採点項目ごとの各フェーズの採点結果の推移を示す情報を含む。
【0221】
この構成によれば、動作の改善の状況が容易に把握される。
【0222】
リハビリテーション支援システム1は、介入情報生成部230を有する。介入情報生成部230は、分析情報MAIに基づいてリハビリテーション対象者TGへの介入情報VIを生成する。
【0223】
この構成によれば、リハビリテーション対象者TGのリハビリテーションに積極的に関与することができる。
【0224】
介入情報VIは、リハビリテーション対象者TGに動作の改善を促すための判断材料となる判断情報、または、リハビリテーション対象者TGのトレーニングプランを含む。
【0225】
この構成によれば、動作を改善するための指針をリハビリテーション対象者TGに提示することができる。
【0226】
介入情報生成部230は、分析情報MAIからリハビリテーション対象者TGの1以上の症状を抽出し、症状ごとに決められた優先度、および、個々の症状の重さに基づいてトレーニングプランを決定する。
【0227】
この構成によれば、重要度の高い情報に基づいて適切なトレーニングプランが提示される。
【0228】
介入情報生成部230は、現在のリハビリテーション対象者TGのレベルを認証する認証情報を生成する。
【0229】
この構成によれば、認証情報に基づいてリハビリテーション対象者TGのレベルが客観的に把握される。
【0230】
介入情報VIは、認証情報に基づく保険に関する提言を含む。
【0231】
この構成によれば、保険プランなどの見直しをリハビリテーション対象者TGに促すことができる。
【0232】
介入情報VIは、認証情報に基づく薬効についての評価情報を含む。
【0233】
この構成によれば、処方薬などの見直しをリハビリテーション対象者TGや医師に促すことができる。
【0234】
ステートマシン221は、指標データベース295に記憶されたフェーズごとの判定方法に基づいて複数のフェーズを検出する。動作分析部222は、指標データベース295に記憶されたフェーズごとの採点項目および採点基準に基づいて、フェーズごとにリハビリテーション対象者TGの動作を分析する。指標データベース295は、判定項目ごとの、動画の撮影条件、フェーズの定義、分析対象となる特定シーン、採点項目および採点基準のうちの1以上の情報を、動作分析の指標として記憶する。判定項目は、動作分析の対象となる運動の種類と関連付けられている。動作分析部222は、一連の動作の評価結果を、リハビリテーション対象者TGに介入する介入者(医療関係者DT、家族FM、サービス提供者など)が保有する端末またはサーバに送信する。この構成によれば、的確な分析および介入が可能となる。
【0235】
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
【0236】
[8.症状分類の具体的手法]
以下、上述した実施形態の具体例および変形例について説明する。図19は、症状分類の具体的手法を示す図である。
【0237】
前述のように、動作分析サーバ200は、各フェーズの姿勢情報HPIの分析結果に基づいてリハビリテーション対象者TGの動作を評価する。動作分析サーバ200は、全フェーズの分析が完了したら、各フェーズの採点結果に基づいて、リハビリテーション対象者TGの動作の特徴を検出する。動作分析サーバ200は、動作の特徴に基づいてリハビリテーション対象者TGの症状を分類する(図10参照)。
【0238】
図19では、各フェーズの採点結果に基づいて検出される動作の特徴が「評価観点」という用語で表現されている。評価観点とは、各フェーズの評価項目を評価するための規準を意味する。各フェーズには達成すべき目標(規準)が設定されており、目標が達成されたか否かのふるい分けの基準が評価観点となる。動作分析部222は、1以上の評価観点に基づいて各フェーズの評価項目を評価する。動作分析部222は、各評価観点での評価結果に基づいてリハビリテーション対象者TGの症状分類を行う。
【0239】
評価観点において設定される動作の目標は任意である。例えば、図19には、日常生活を行う上での基盤となる動作(生活基盤動作)の例として、「起き上がり」、「座位」、「立ち上がり」、「立位」、「歩行」および「階段」が示されている。それぞれの生活基盤動作には、1以上の要素動作(ステップ)が基本動作(判定項目)として含まれる。指標データベース295には、要素動作ごとに1以上の評価観点が規定されている。
【0240】
例えば、「起き上がり」には、「身体の向きをかえる」、「仰向けの状態で脚を動かす」、「腕で上半身を支える」および「手で上半身を支える」という4つの要素動作が含まれる。
【0241】
「身体の向きをかえる」には、「身体を横に向けることができたか」、「横向きになった際に肩が引けていないか」、「横向きになった際に腰が引けていないか」および「上半身や下半身が伸びきっていないか」という4つの評価観点が設定されている。
【0242】
「仰向けの状態で脚を動かす」には、「両脚をベッドから下ろせたか」、「上半身が仰け反っていないか」および「両脚を揃えて下ろすことができているか」という3つの評価観点が設定されている。
【0243】
「腕で上半身を支える」には、「肘をついて上半身を起こすことができたか」、「手すりを使わずにできたか」および「身体がのけ反らずに行えたか」という3つの評価観点が設定されている。
【0244】
「手で上半身を支える」には、「手をついて上半身を起こせたか」および「身体がのけ反らずに行えたか」という2つの評価観点が設定されている。
【0245】
「起き上がり」以外の生活基盤動作についても、要素動作ごとに1以上の評価観点が設定されている。生活基盤動作に含まれる要素動作の数および内容は、生活基盤動作ごとに独立に設定される。例えば、「歩行」には、8つの要素動作が含まれる。各要素動作における評価観点の数および内容も動作の内容に応じて独立に設定される。
【0246】
各要素動作には、1以上のフェーズが含まれる。各フェーズには、1以上の評価項目が設定されている。評価項目は、例えば、リハビリテーション対象者TGの動作が設定された目標(例えば、手本となる特定人物RMの骨格の配置)からどれだけずれているかである。ずれがどれだけ許容されるかは、閾値などを用いて設定されてもよいし、機械学習の結果を用いて決定されてもよい。
【0247】
評価項目の結果は、それ単独では動作の特徴を表しにくい。複数の評価項目の結果を組み合わせることで、症状に応じた動作の特徴が表れやすくなる。そのため、複数の評価項目の組み合わせによって把握される動作の特徴が評価観点として規定される。評価観点が示す規準は、評価項目が示す規準よりも人間の理解に近い。そのため、人間が理解しやすい評価結果が得られる。
【0248】
評価項目の組み合わせが異なれば、把握される動作の特徴も異なる。図19の例では、1つの判定項目に対して、評価項目の組み合わせが異なる複数の評価観点が規定されている。動作分析部222は、複数の評価観点に基づいて総合的な動作の特徴を評価する。動作分析部222は、総合的な動作の特徴に基づいて症状分類を行う。
【0249】
図19の例では、「フェーズ2」および「フェーズ4」の各評価項目の評価結果に基づいて「観点1」の評価が行われる。図19中の「〇」は、リハビリテーション対象者TGの動作が評価観点に関して合格基準を満たしていることを意味する。合格基準を満たすか否かは、達成された評価項目の組み合わせによって決まる。例えば、「フェーズ2」の「評価項目1」および「評価項目2」と「フェーズ4」の「評価項目1」とが達成される場合に「観点1」が合格基準を満たすといった取り決めが可能である。合格基準を満たすための評価項目の組み合わせは医療関係者DTまたはシステム設計者により事前に設計される。
【0250】
1つの要素動作に割り当てられる1以上の評価観点には、1以上のメイン観点が含まれる。メイン観点とは、判定項目となる動作が適切に行われたと判定されるために合格基準を満たすことが必須となる評価観点を意味する。合格基準を満たさないメイン観点が1つでも存在すれば、判定項目となる動作は全体として適切に行われたと認められない。メイン観点以外の評価観点はサブ観点に分類される。サブ観点は、判定項目となる動作の達成度、動作の良さおよび動作の適切さを算出または評価するために使用される評価観点である。
【0251】
動作分析部222は、各フェーズの評価項目に対する評価をメイン観点に基づくものから行う。動作分析部222は、合格基準を満たさないメイン観点が検出された場合には、判定項目となる動作が適切に行われていないと判定し、残りの評価観点に基づく評価を停止することができる。この構成によれば、不要な評価処理が省略されるため、処理負荷が低減される。
【0252】
介入情報生成部230は、合格基準を満たす評価観点の組み合わせ、または、合格基準を満たしていない評価観点の組み合わせに基づいてトレーニングプランを決定する。図19の例では、トレーニングプランとして、3つのトレーニングプログラムが示されている。指標データベース295には、合格基準を満たす評価観点の組み合わせ、または、合格基準を満たしていない評価観点の組み合わせと、実施すべきトレーニングプログラムとの対応関係が規定されている。
【0253】
リハビリテーション支援システム1を用いた動作チェックは、いつでも行うことができる。リハビリテーション対象者TGは、介入情報VIを参考にしながら毎日トレーニングと評価を繰り返すことで、専門職の人間がいなくてもリハビリテーション対象者TG自身で効果的なトレーニングを積み重ねることができる。前回のトレーニングから一定の期間が過ぎると、リハビリテーション対象者TGの症状および生活環境などが変わっている可能性がある。そのため、一定期間後に動作チェックが行われた場合には、リハビリテーション対象者TGに問診データCDの再提示を義務付け、判定項目の再設定を行うことができる。
【0254】
[9.動作分析処理の変形例]
図20は、図5に示した動作分析処理の変形例を示す図である。
【0255】
図5の例では、判定項目となる動作の種類は問診データCDによらずに決定されている。しかし、指標データベース295には、障害ごとに1以上の判定項目が紐づけられている。そのため、問診データCDから障害情報を抽出し、抽出された障害情報に基づいて判定項目を決定することも考えられる。図20はこのような例を示している。
【0256】
まず、クライアント端末100は、入力デバイス120から問診データCDを取得する(ステップS11)。クライアント端末100は、取得した問診データCDを動作分析サーバ200に送信する(ステップS12)。問診データ解析部213は、問診データCDからリハビリテーション対象者TGの障害情報を抽出する(ステップS13)。問診データ解析部213は、指標データベース295から、障害情報に紐づけられた1以上の判定項目を抽出する(ステップS14)。
【0257】
問診データ解析部213は、抽出された1以上の判定項目から、リハビリテーション対象者TGが実施すべき1以上の判定項目を選択する。判定項目の選択は任意である。抽出された1以上の判定項目が全て選択されてもよいし、抽出された1以上の判定項目のうち一部のみが選択されてもよい。クライアント端末100は、選択された1以上の判定項目を1つずつ指定してリハビリテーション対象者TGに実施を促す。
【0258】
リハビリテーション対象者TGは、クライアント端末100が指定する判定項目の動作を行う。クライアント端末100は、センサ部110を用いて、リハビリテーション対象者TGが行う動作をセンシングし、センサデータ(動作の映像)を動作分析サーバ200に送信する(ステップS15)。センサデータの分析処理および介入情報の生成処理(ステップS16~S21)は図5に示すもの(ステップS4~S9)と同じである。
【0259】
上述の例では、指標データベース295は、障害情報と判定項目とを紐づけて記憶する。動作分析部222は、リハビリテーション対象者TGの障害情報に紐づけられた判定項目の動作を分析する。この構成によれば、障害に応じた適切な動作分析が行われる。
【0260】
[10.UIの具体例]
以下、UI(User Interface)の具体例を説明する。出力部134は、情報の入力や手順の指示などを行うための各種UIを表示装置170を介してリハビリテーション対象者TGに提示する。図21ないし図23は、問診データCDの入力を行うためのUIの一例を示す図である。
【0261】
まず、クライアント端末100は、表示装置170に患者の一次情報の入力欄を表示する。リハビリテーション対象者TG(患者)は、一次情報として、例えば、氏名、年齢、性別、体重、病名および服用中の薬などの情報を入力する(図21参照)。
【0262】
一次情報の入力が完了したら、クライアント端末100は、表示装置170に患者の二次情報の入力欄を表示する。リハビリテーション対象者TGは、二次情報として、例えば、気になる症状、痛み、症状の発症時間、麻痺部位、介護状況、装具の有無、および、直近の生活活動範囲などの情報などの情報を入力する(図22および図23参照)。
【0263】
図24ないし図26は、動作チェックのUIの一例を示す図である。
【0264】
問診データCDの入力が完了したら、クライアント端末100は、問診データCDからリハビリテーション対象者TGの障害情報を抽出する。クライアント端末100は、指標データベース295から、障害情報に紐づけられた1以上の判定項目を抽出する。クライアント端末100は、抽出された1以上の判定項目をリハビリテーション対象者TGに提示し、全ての判定項目を順番に実施することを促す。
【0265】
図24の例では、問診データCDから抽出された障害情報に基づいて、「起き上がり」、「立ち上がり」、「歩行」および「階段昇降」の4つの生活基盤動作と、「座る」および「立つ」の2つの基本姿勢が判定項目として抽出されている。UIは、リハビリテーション対象者TGに対して、「起き上がり」、「立ち上がり」、「歩行」および「階段昇降」をこの順番で実施するように促す。UIには、生活基盤動作ごとに、生活基盤動作に含まれる要素動作の数および実施済みの要素動作の数が表示されている。
【0266】
動作チェックには、自己評価によるチェックとAIを用いたチェック(AIチェック)がある。図25は、自己評価による歩行動作のチェックの一例を示す図である。
【0267】
歩行動作には、8つの要素動作が含まれる。リハビリテーション対象者TGは、要素動作ごとに、チェック対象となる基本動作(判定項目)の実施、および、実施動作に対する自己評価を行う。図26の例では、リハビリテーション対象者TGが基本動作を実施する前に、手本となる特定人物RM(例えば健常者)の映像が表示される。特定人物RMとなる健常者には、理学療法士やトレーナなどが含まれる。リハビリテーション対象者TGは、映像を見ながら特定人物RMの動作をまねる。UIには、要素動作に対して定義された1以上の評価観点が表示される。リハビリテーション対象者TGは、各評価観点に基づいて自己の動作を評価する。
【0268】
図25の例では、「歩く前の重心移動のチェック」について、「右脚へ重心移動ができたか」および「左脚へ重心移動ができたか」という2つの評価観点が表示されている。「脚を一歩前に出した姿勢のバランスチェック」について、「右脚を一歩前に出した姿勢を保つことができたか」および「左脚を一歩前に出した姿勢を保つことができたか」という2つの評価観点が表示されている。「脚を一歩前に出した姿勢のバランスチェック」については、さらに、「上半身は垂直に保てているか」および「支え脚がまっすぐに伸びているか」という2つの評価観点が続けて表示される。
【0269】
「歩く前の重心移動のチェック」では、「右脚へ重心移動ができたか」および「左脚へ重心移動ができたか」は、いずれもメイン観点である。「脚を一歩前に出した姿勢のバランスチェック」では、「右脚を一歩前に出した姿勢を保つことができたか」および「左脚を一歩前に出した姿勢を保つことができたか」がメイン観点であり、「上半身は垂直に保てているか」および「支え脚がまっすぐに伸びているか」はサブ観点である。
【0270】
リハビリテーション対象者TGは、評価観点に関して自己の動作が合格基準を満たす場合に、チェックボタンにチェックを行う。1つでも合格基準を満たさないメイン観点が存在する場合には、判定項目となる動作が適切に行われていないと判定され、残りの評価観点に基づく評価は行われない。そのため、全てのメイン観点に対してチェックが行われなければ、サブ観点に関するUIは表示されない。
【0271】
図26は、AIによる歩行動作のチェックの一例を示す図である。
【0272】
AIチェックとは、前述した動作分析部222による動作チェックを意味する。リハビリテーション対象者TGは、特定人物RMの映像の再生が終了した後、自己評価によるチェックを行うか、AIチェックを行うかを選択することができる。AIチェックが選択された場合には、図6および図10のフローにしたがって、リハビリテーション対象者TGの撮影および動作分析が行われる。
【0273】
図27ないし図30は、撮影の準備を行うためのUIの一例を示す図である。
【0274】
出力部134は、動作分析に適した動画を得るために、画像および音声を用いて、撮影環境を整えるための手順を提示する。リハビリテーション対象者TGは、提示された手順にしたがって、撮影を行う場所の照明状態を調整したり、背景に不要なものが映り込まないように部屋を整理したりする(図27参照)。
【0275】
撮影はカメラ160(クライアント端末100)を三脚に設置して行われる。出力部134は、カメラ160が適切な位置および姿勢で撮影を行えるように、三脚の位置およびカメラ160の姿勢についてリハビリテーション対象者TGに指示を行う(図28および図29参照)。
【0276】
図29には、表示装置170に表示された水準器を用いてカメラ160の水平度を調節する様子が示されている。動作分析を行う場合には、リハビリテーション対象者TGの姿勢が鉛直方向からどの方向にどの程度傾いているかを正確に検知する必要がある。そのため、撮影前の準備として水平度の調整を行うことが望ましい。水平度の調整が完了したら、出力部134は、撮影条件決定部132で決定された撮影方向を通知する。
【0277】
撮影は、リハビリテーション対象者TGから離れた位置で行われる。そのため、必要な通知は映像(テキスト情報を含む)と音声とを組み合わせて行われる。クライアント端末100上で直接操作を行うことは難しいため、必要な操作は音声やジェスチャに基づいて行われる。例えば、撮影の開始および終了の処理は、カメラ160の映像から撮影開始条件および撮影終了条件となるトリガ(ジェスチャや撮影開始位置への移動など)を検出したことに応答して行われる。
【0278】
例えば、撮影条件決定部132は、カメラ160に写るリハビリテーション対象者TGの状態が撮影開始条件を満たしたことに応答してリハビリテーション対象者TGの動作の記録を開始する。撮影条件決定部132は、撮影開始条件が満たされるまでカメラ160の映像を表示装置170に表示し、撮影開始条件が満たされて動作の記録が開始されるとカメラ160の映像の表示装置170への表示を停止する。撮影条件決定部132は、撮影開始条件が満たされたことをリハビリテーション対象者TGに通知した後、動作の記録を開始する。
【0279】
図30の例では、撮影開始位置POSがサークルで示されている。撮影の準備が完了したら、リハビリテーション対象者TGは、表示装置170に映るカメラの映像を見ながら、映像内に示された撮影開始位置POSに移動する。
【0280】
リハビリテーション対象者TGの両足がサークル内に収まっており、且つ、リハビリテーション対象者TGの全身がカメラ160の画角に入っている状態(撮影待機状態)が検出されると、画面を縁取るフレーム部FMの色が変わる。撮影待機状態が所定時間だけ継続すると、フレーム部FMが点滅を開始する。さらに撮影待機状態が続くと、音声による撮影開始の通知が行われ、撮影が自動的に開始する。撮影開始後は、リハビリテーション対象者TGが動作に集中できるように、表示装置170は消灯される(全面黒表示)。
【0281】
図31および図32は、AIチェックにおける評価結果の表示例を示す図である。
【0282】
出力部134は、評価観点ごとに評価結果を提示する。動作の評価は、手本となる特定人物RMとの比較に基づいて行われる。図32の例では、ポイントとなるフェーズの映像を比較しながら動作の評価が行われる。リハビリテーション対象者TGと特定人物RMの映像は、同一画面上に並べて表示されてもよいし、画面切り替えによって択一的に表示されてもよい。
【0283】
例えば、出力部134は、評価観点に対応する特定のフェーズごとにリハビリテーション対象者TGの動きを一時停止し、分析情報MAIを特定のフェーズにおけるリハビリテーション対象者TGの静止画像とともに表示する。出力部134は、分析情報MAIとして、リハビリテーション対象者TGの骨格情報SIと比較の基準となる特定人物RMの基準骨格情報RSIとを表示する。出力部134は、リハビリテーション対象者TGの骨格情報SIおよび基準骨格情報RSIとして、特定のフェーズにおいて分析されるべきリハビリテーション対象者TGの部位に対応した骨格の情報を選択的に表示する。
【0284】
[付記]
なお、本技術は以下のような構成も採ることができる。
(1)
リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出する姿勢情報抽出部と、
前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出するステートマシンと、
前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する動作分析部と、
を有するリハビリテーション支援システム。
(2)
前記動作分析部は、前記リハビリテーション対象者の障害情報に基づいて前記フェーズごとに前記姿勢情報を分析することにより前記分析情報を生成する、
上記(1)に記載のリハビリテーション支援システム。
(3)
前記動画データから、前記フェーズごとに、前記フェーズに応じた特定シーンを示す1以上の特定のフレーム画像を抽出するシーン抽出部を有し、
前記姿勢情報抽出部は、前記1以上の特定のフレーム画像からフレーム画像ごとに前記リハビリテーション対象者の姿勢情報を抽出する、
上記(1)または(2)に記載のリハビリテーション支援システム。
(4)
前記シーン抽出部は、前記特定シーンよりも前のフレーム画像群の姿勢解析結果に基づいて前記特定シーンへの切り替わりを検出し、前記特定シーンへの切り替わりに応じて取得した、前記フレーム画像群よりも高解像度の1以上のフレーム画像を前記1以上の特定のフレーム画像として抽出する、
上記(3)に記載のリハビリテーション支援システム。
(5)
前記シーン抽出部は、前記リハビリテーション対象者と、前記トレーニングまたは前記評価運動に用いられる特定のオブジェクトと、が所定の位置関係にあるときの前記リハビリテーション対象者の動作、または、前記リハビリテーション対象者と前記特定のオブジェクトとの位置関係の変化に基づいて、前記特定シーンへの切り替わりを検出する、
上記(4)に記載のリハビリテーション支援システム。
(6)
前記シーン抽出部は、前記姿勢情報抽出部で用いられる分析モデルよりも姿勢の推定精度が低い分析モデルを用いて前記リハビリテーション対象者の姿勢情報を抽出し、抽出された前記姿勢情報から推定される前記リハビリテーション対象者の姿勢の変化に基づいて前記特定シーンへの切り替わりを検出する、
上記(4)または(5)に記載のリハビリテーション支援システム。
(7)
前記リハビリテーション対象者の障害情報、および、前記トレーニングまたは前記評価運動の種類に基づいて、前記動画データを取得する際の前記リハビリテーション対象者の撮影方向を決定する撮影条件決定部を有する、
上記(1)ないし(6)のいずれか1つに記載のリハビリテーション支援システム。
(8)
前記ステートマシンは、複数の方向から取得される前記姿勢情報によって死角となる情報を補いながら、前記一連の動作に含まれる複数のフェーズを検出する、
上記(7)に記載のリハビリテーション支援システム。
(9)
前記リハビリテーション対象者が立ち上がり動作についてのリハビリテーションを行う場合、前記撮影条件決定部は、前記リハビリテーション対象者の正面方向および側面方向を前記撮影方向として決定する、
上記(8)に記載のリハビリテーション支援システム。
(10)
前記ステートマシンは、臀部と座面との位置関係、腰の角度の変化、重心点の移動速度の変化、および、腰の高さの変化に基づいて、複数のフェーズを検出する、
上記(9)に記載のリハビリテーション支援システム。
(11)
前記ステートマシンは、前記臀部が椅子の座面から離れる直前の状態を第1フェーズとして検出する、
上記(10)に記載のリハビリテーション支援システム。
(12)
前記ステートマシンは、前記重心点が両足の踝の間にあり、かつ、前記第1フェーズの直後に最も前記腰が曲がった状態を第2フェーズとして検出する、
上記(11)に記載のリハビリテーション支援システム。
(13)
前記ステートマシンは、前記第2フェーズの直後に前記重心点の高さ方向の移動速度が最大に達した状態を第3フェーズとして検出する、
上記(12)に記載のリハビリテーション支援システム。
(14)
前記ステートマシンは、前記第3フェーズの直後に前記腰の高さが最高点に達し、その後、前記腰の高さが低変動基準を満たす範囲で変動して停止した状態を第4フェーズとして検出する、
上記(13)に記載のリハビリテーション支援システム。
(15)
前記動作分析部は、前記側面方向から見た両肩の肩関節の位置ずれに基づいて回旋を検出する、
上記(9)ないし(14)のいずれか1つに記載のリハビリテーション支援システム。
(16)
前記フェーズごとに前記リハビリテーション対象者の動きを一時停止し、前記分析情報を前記フェーズにおける前記リハビリテーション対象者の静止画像とともに表示する出力部を有する、
上記(1)ないし(15)のいずれか1つに記載のリハビリテーション支援システム。
(17)
前記出力部は、前記分析情報として、健常者の動作との比較を示す情報を表示する、
上記(16)に記載のリハビリテーション支援システム。
(18)
前記出力部は、前記分析情報として、前記リハビリテーション対象者の骨格情報と前記比較の基準となる基準骨格情報とを表示する、
上記(17)に記載のリハビリテーション支援システム。
(19)
前記出力部は、前記リハビリテーション対象者の骨格情報および前記基準骨格情報として、前記フェーズにおいて分析されるべき前記リハビリテーション対象者の部位に対応した骨格の情報を選択的に表示する、
上記(18)に記載のリハビリテーション支援システム。
(20)
前記出力部は、前記リハビリテーション対象者の骨格情報と前記基準骨格情報との間に許容基準を超える差分が生じたタイミングで、前記リハビリテーション対象者の骨格情報および前記基準骨格情報を表示する、
上記(18)または(19)に記載のリハビリテーション支援システム。
(21)
前記出力部は、前記リハビリテーション対象者の骨格情報と前記基準骨格情報とが許容基準を超えて相違する部分の前記リハビリテーション対象者の骨格をハイライト表示する、
上記(18)ないし(20)のいずれか1つに記載のリハビリテーション支援システム。
(22)
前記出力部は、前記分析情報として、前記リハビリテーション対象者の動作を前記健常者の動作に近づけるための指針を示す情報を表示する、
上記(17)ないし(21)のいずれか1つに記載のリハビリテーション支援システム。
(23)
前記出力部は、前記分析情報として、過去の前記リハビリテーション対象者の動作との比較を示す情報を表示する、
上記(16)ないし(22)のいずれか1つに記載のリハビリテーション支援システム。
(24)
前記出力部は、前記分析情報として、現在の前記リハビリテーション対象者の骨格情報と前記比較の基準となる過去の前記リハビリテーション対象者の骨格情報とを含む、
上記(23)に記載のリハビリテーション支援システム。
(25)
前記出力部は、現在の前記リハビリテーション対象者の骨格情報と健常者の動作を示す基準骨格情報との間に許容基準を超える差分が生じたタイミングで、現在の前記リハビリテーション対象者の骨格情報および過去の前記リハビリテーション対象者の骨格情報を表示する、
上記(24)に記載のリハビリテーション支援システム。
(26)
前記出力部は、現在の前記リハビリテーション対象者の骨格情報と前記基準骨格情報とが許容基準を超えて相違する部分の前記リハビリテーション対象者の骨格をハイライト表示する、
上記(25)に記載のリハビリテーション支援システム。
(27)
前記分析情報は、過去から現在までの採点項目ごとの各フェーズの採点結果の推移を示す情報を含む、
上記(1)ないし(26)のいずれか1つに記載のリハビリテーション支援システム。
(28)
前記分析情報に基づいて前記リハビリテーション対象者への介入情報を生成する介入情報生成部を有する、
上記(1)ないし(27)のいずれか1つに記載のリハビリテーション支援システム。
(29)
前記介入情報は、前記リハビリテーション対象者に動作の改善を促すための判断材料となる判断情報、または、前記リハビリテーション対象者のトレーニングプランを含む、
上記(28)に記載のリハビリテーション支援システム。
(30)
前記介入情報生成部は、前記分析情報から前記リハビリテーション対象者の1以上の症状を抽出し、症状ごとに決められた優先度、および、個々の症状の重さに基づいて前記トレーニングプランを決定する、
上記(29)に記載のリハビリテーション支援システム。
(31)
前記介入情報生成部は、現在の前記リハビリテーション対象者のレベルを認証する認証情報を生成する、
上記(28)ないし(30)のいずれか1つに記載のリハビリテーション支援システム。
(32)
前記介入情報は、前記認証情報に基づく保険に関する提言を含む、
上記(31)に記載のリハビリテーション支援システム。
(33)
前記介入情報は、前記認証情報に基づく薬効についての評価情報を含む、
上記(31)または(32)に記載のリハビリテーション支援システム。
(34)
前記ステートマシンは、指標データベースに記憶されたフェーズごとの判定方法に基づいて前記複数のフェーズを検出する、
上記(1)ないし(33)のいずれか1つに記載のリハビリテーション支援システム。
(35)
前記動作分析部は、前記指標データベースに記憶されたフェーズごとの採点項目および採点基準に基づいて、前記フェーズごとに前記リハビリテーション対象者の動作を分析する、
上記(34)に記載のリハビリテーション支援システム。
(36)
前記指標データベースは、判定項目ごとの、動画の撮影条件、フェーズの定義、分析対象となる特定シーン、採点項目および採点基準のうちの1以上の情報を、動作分析の指標として記憶する、
上記(34)または(35)に記載のリハビリテーション支援システム。
(37)
前記判定項目は、動作分析の対象となる運動の種類と関連付けられている、
上記(36)に記載のリハビリテーション支援システム。
(38)
前記動作分析部は、前記一連の動作の評価結果を、前記リハビリテーション対象者に介入する介入者が保有する端末またはサーバに送信する、
上記(1)ないし(37)のいずれか1つに記載のリハビリテーション支援システム。
(39)
リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出し、
前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出し、
前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する、
ことを有する、コンピュータにより実行される情報処理方法。
(40)
リハビリテーション対象者のトレーニングまたは評価運動の動画データから前記リハビリテーション対象者の姿勢情報を抽出し、
前記リハビリテーション対象者の姿勢情報に基づいて、前記トレーニングまたは前記評価運動における前記リハビリテーション対象者の一連の動作に含まれる複数のフェーズを検出し、
前記フェーズごとに前記姿勢情報を分析し、前記一連の動作の評価結果を示す分析情報を生成する、
ことをコンピュータに実現させるプログラム。
(41)
前記動作分析部は、1以上の評価観点に基づいて各フェーズの評価項目を評価し、各評価観点での評価結果に基づいて前記リハビリテーション対象者の症状分類を行う、
上記(1)に記載のリハビリテーション支援システム。
(42)
前記1以上の評価観点は、判定項目となる動作が適切に行われたと判定されるために合格基準を満たすことが必須となる1以上のメイン観点を含み、
前記動作分析部は、各フェーズの評価項目に対する評価をメイン観点に基づくものから行い、前記合格基準を満たさないメイン観点が検出された場合には、前記判定項目となる動作が適切に行われていないと判定し、残りの評価観点に基づく評価を停止する、
上記(41)に記載のリハビリテーション支援システム。
(43)
前記評価観点に対応する特定のフェーズごとに前記リハビリテーション対象者の動きを一時停止し、前記分析情報を前記特定のフェーズにおける前記リハビリテーション対象者の静止画像とともに表示する出力部を有する、
上記(41)に記載のリハビリテーション支援システム。
(44)
前記指標データベースは、障害情報と前記判定項目とを紐づけて記憶し、
前記動作分析部は、前記リハビリテーション対象者の障害情報に紐づけられた前記判定項目の動作を分析する、
上記(36)に記載のリハビリテーション支援システム。
(45)
前記撮影条件決定部は、カメラに写る前記リハビリテーション対象者の状態が撮影開始条件を満たしたことに応答して前記リハビリテーション対象者の動作の記録を開始する、
上記(7)に記載のリハビリテーション支援システム。
(46)
前記撮影条件決定部は、前記撮影開始条件が満たされるまで前記カメラの映像を表示装置に表示し、前記撮影開始条件が満たされて前記動作の記録が開始されると前記カメラの映像の前記表示装置への表示を停止する、
上記(45)に記載のリハビリテーション支援システム。
(47)
前記撮影条件決定部は、前記撮影開始条件が満たされたことを前記リハビリテーション対象者に通知した後、前記動作の記録を開始する、
上記(46)に記載のリハビリテーション支援システム。
【符号の説明】
【0285】
1、1A,1B リハビリテーション支援システム
132 撮影条件決定部
133 シーン抽出部
134 出力部
143 第1分析モデル
160 カメラ
170 表示装置
214 姿勢情報抽出部
221 ステートマシン
222 動作分析部
230 介入情報生成部
297 第2分析モデル
FI,SFI フレーム画像
IM 静止画像
LPI,HPI 姿勢情報
MAI 分析情報
MD 動画データ
OB オブジェクト
RSI 基準骨格情報
SI 骨格情報
TG リハビリテーション対象者
VI 介入情報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32