(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023181709
(43)【公開日】2023-12-25
(54)【発明の名称】関節角度測定システム
(51)【国際特許分類】
G06T 7/70 20170101AFI20231218BHJP
G06T 7/00 20170101ALI20231218BHJP
A61B 5/11 20060101ALI20231218BHJP
【FI】
G06T7/70 Z
G06T7/00 660Z
A61B5/11 230
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2022094987
(22)【出願日】2022-06-13
(71)【出願人】
【識別番号】522018675
【氏名又は名称】クロスメッド株式会社
(74)【代理人】
【識別番号】100137338
【弁理士】
【氏名又は名称】辻田 朋子
(74)【代理人】
【識別番号】100224719
【弁理士】
【氏名又は名称】長谷川 隆治
(72)【発明者】
【氏名】藤井 眞澄
【テーマコード(参考)】
4C038
5L096
【Fターム(参考)】
4C038VA04
4C038VA05
4C038VB11
4C038VB14
4C038VC05
5L096AA02
5L096AA06
5L096AA09
5L096BA06
5L096CA04
5L096DA01
5L096DA02
5L096FA32
5L096FA62
5L096FA67
5L096FA69
(57)【要約】
【課題】 本発明は、関節角度測定システム、関節角度測定方法、関節角度測定プログラムに関する。
【解決手段】 関節角度測定システム1は、対象者の正面側より複数の関節を含めて撮影された動画データを受け付ける受信部と、動画データから関節角度を解析処理する解析処理部と、記憶部と、を備える。
前記解析処理部は、前記動画データから複数の静止画データを作成処理し、前記静止画データを画像解析して、関節ごとの3次元座標を推定処理し、前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
対象者の関節角度を測定するための関節角度測定システムであって、
当該関節角度測定システムは、前記対象者の正面側より複数の関節を含めて撮影された動画データを受け付ける受信部と、前記動画データから前記関節角度を解析処理する解析処理部と、記憶部と、を備え、
前記解析処理部は、前記動画データから複数の静止画データを作成処理し、
前記静止画データを画像解析して、関節ごとの3次元座標を推定処理し、
前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納する、
関節角度測定システム。
【請求項2】
前記解析処理部は、複数の前記静止画データに含まれる前記3次元座標におけるX方向の値、Y方向の値、Z方向の値、から前記関節角度の測定に利用する3次元座標を統計処理する、
請求項1に記載の関節角度測定システム。
【請求項3】
前記関節角度測定システムは、更に表示処理部を備え、
前記表示処理部は、前記関節角度と、測定に利用された前記3次元座標と、を並べて表示処理し、その表示処理の結果を送信する、
請求項1または請求項2に記載の関節角度測定システム。
【請求項4】
前記表示処理部は、前記動画データの時間変化に対応させて前記解析処理の結果による関節角度の時間変化を表示処理し、その表示処理の結果を送信する、
請求項3に記載の関節角度測定システム。
【請求項5】
前記解析処理部は、複数の前記静止画データの中からそれぞれ選択した前記3次元座標におけるX方向の値の中央値、Y方向の値の中央値、Z方向の値の中央値、を前記3次元座標として統計処理する、
請求項1または請求項2に記載の関節角度測定システム。
【請求項6】
前記受信部は、床面に仰向け姿勢を維持する前記対象者を、前記床面から30度~60度の撮影角度を有して頭側よりから撮影された動画データを受け付ける、
請求項5に記載の関節角度測定システム。
【請求項7】
前記解析処理部は、少なくともと前記対象者の股関節における外転、内転、伸展、屈曲のいずれかの関節角度を解析処理する、
請求項6に記載の関節角度測定システム。
【請求項8】
ユーザの関節角度を測定するための関節角度測定システムが実行する関節角度測定方法であって、
前記関節角度測定システムは、対象者の正面側より複数の関節を含めて撮影された動画データを受け付ける受信部と、前記動画データから前記関節角度を解析処理する解析処理部と、記憶部と、を備え、
前記解析処理部が、前記動画データから複数の静止画データを作成処理するステップと、
前記解析処理部が、前記静止画データを画像解析して、関節ごとの3次元座標を推定処理するステップと、
前記解析処理部が、前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納するステップと、を含む、
関節角度測定方法。
【請求項9】
ユーザの関節角度を測定するための関節角度測定プログラムであって、
コンピュータを、受信部と、解析処理部と、記憶部と、として機能させ、
前記受信部は、対象者の正面側より複数の関節を含めて撮影された動画データを受け付け、
前記解析処理部は、前記動画データから複数の静止画データを作成処理し、
前記静止画データを画像解析して、関節ごとの3次元座標を推定処理し、
前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納する、
関節角度測定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、関節角度測定システム、関節角度測定方法、及び関節角度測定プログラムに関する。
【背景技術】
【0002】
医療やヘルスケアの分野では、対象者の身体(特定部位)において最大に動かせる関節の角度(関節角度)を測定することがある。この関節角度を把握することで、医療従事者などは例えば関節痛の症状やリハビリ内容等を検討することができる。
【0003】
ところで、昨今では人間の動作を3Dモデルなどで再現するための様々な工夫が行われている。そして、これらの技術は、コンピュータグラフィックスやアニメーションなどに加えて、上記医療やヘルスケアなどへの応用も期待されている。
【0004】
例えば特許文献1には、関節位置記憶部と、動作面角度算出部と、角度関数化部と、角度関数記憶部と、合成部と、を備えることで、関節角において関節が動作する方向を表す動作面角度を導入し、正確な曲げ角度を算出することができる画像処理装置が開示されている。
【0005】
また、特許文献2には、各関節の所定時間ごとの変化(基本動作データ)を保持する基本動作データ格納部と、選択された特定関節の補正位置を算出する補正位置算出部と、算出された補正位置と特定関節の位置とを一致させるように、基本動作データに基づく位置を初期位置として、各関節の角度を変更(補正)する位置補正部と、を備えた動作生成装置が開示されている。本動作生成装置によれば、人間などの多関節構造体の動作をリアルに表現(画像データを生成)することができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平7-02341号公報
【特許文献2】特開平10-340354号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1や特許文献2の技術は、あくまでもコンピュータの3Dモデルに関する技術であるため、これらの技術をそのまま利用しても、例えば患者を撮影した動画などを用いて簡単に患者の関節角度を測定することはできない。
【0008】
また、これらの技術を実際の医療分野で利用するためには高度な精度が要求される。つまり、動画データから対象者の関節角度を測定するために、特許文献1や特許文献2の技術をそのまま利用することができず、まだまだ改良の余地がある。
【0009】
本発明は、上記従来技術の課題に鑑みて行われたものであって、その目的は、人間の関節角度を効果的に測定できる新規な技術を提供することにある。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本発明は、対象者の関節角度を測定するための関節角度測定システムであって、
当該関節角度測定システムは、前記対象者の正面側より複数の関節を含めて撮影された動画データを受け付ける受信部と、前記動画データから前記関節角度を解析処理する解析処理部と、記憶部と、を備え、
前記解析処理部は、前記動画データから複数の静止画データを作成処理し、
前記静止画データを画像解析して、関節ごとの3次元座標を推定処理し、
前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納する。
【0011】
また、本発明は、ユーザの関節角度を測定するための関節角度測定システムが実行する関節角度測定方法であって、
前記関節角度測定システムは、対象者の正面側より複数の関節を含めて撮影された動画データを受け付ける受信部と、前記動画データから前記関節角度を解析処理する解析処理部と、記憶部と、を備え、
前記解析処理部が、前記動画データから複数の静止画データを作成処理するステップと、
前記解析処理部が、前記静止画データを画像解析して、関節ごとの3次元座標を推定処理するステップと、
前記解析処理部が、前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納するステップと、を含む。
【0012】
また、本発明は、ユーザの関節角度を測定するための関節角度測定プログラムであって、
コンピュータを、受信部と、解析処理部と、記憶部と、として機能させ、
前記受信部は、対象者の正面側より複数の関節を含めて撮影された動画データを受け付け、
前記解析処理部は、前記動画データから複数の静止画データを作成処理し、
前記静止画データを画像解析して、関節ごとの3次元座標を推定処理し、
前記3次元座標を用いて前記関節角度を解析処理し、その解析処理の結果を前記記憶部へ格納する。
【0013】
このような構成とすることで、誰でも簡単に対象者の関節角度を測定することができる。
【0014】
本発明の好ましい形態では、前記解析処理部は、複数の前記静止画データに含まれる前記3次元座標におけるX方向の値、Y方向の値、Z方向の値、から前記関節角度の測定に利用する3次元座標を統計処理する。
【0015】
前記関節角度測定システムは、更に表示処理部を備え、
前記表示処理部は、前記関節角度と、測定に利用された前記3次元座標と、を並べて表示処理し、その表示処理の結果を送信する。
【0016】
本発明の好ましい形態では、前記表示処理部は、前記動画データの時間変化に対応させて前記解析処理の結果による関節角度の時間変化を表示処理し、その表示処理の結果を送信する。
【0017】
このような構成にすることで、測定対象部位と関節角度の関係を分かりやすく表示でき、誰でも一目で関節角度を容易に把握することができる。
【0018】
本発明の好ましい形態では、前記解析処理部は、複数の前記静止画データの中からそれぞれ選択した前記3次元座標におけるX方向の値の中央値、Y方向の値の中央値、Z方向の値の中央値、を前記3次元座標として統計処理する。
【0019】
本発明の好ましい形態では、前記受信部は、床面に仰向け姿勢を維持する前記対象者を、前記床面から30度~60度の撮影角度を有して頭測より撮影された動画データを受け付ける。
【0020】
このような構成にすることで、精度良く関節角度を算出することができる。
【0021】
本発明の好ましい形態では、前記解析処理部は、少なくともと前記対象者の股関節における外転、内転、伸展、屈曲のいずれかの関節角度を解析処理する。
【発明の効果】
【0022】
本発明によれば、所定の段階的な解析処理等を実行することで、関節角度測定システムに係る新規な技術を提供することができる。
【図面の簡単な説明】
【0023】
【
図1】本発明の一実施形態に係るシステム構成のブロック図を示す。
【
図2】本発明の一実施形態に係る情報処理装置及び端末のハードウェア構成の一例の概略図を示す。
【
図3】本発明の一実施形態に係る関節角度測定システムの概略イメージ図を示す。
【
図4】本発明の一実施形態に係る関節角度測定システムにおける処理手順のフローチャートを示す。
【
図5】本発明の一実施形態に係る関節角度測定システムにおけるデータテーブル(各情報)の一例を示す。
【
図6】本発明の一実施形態に係る端末に表示される表示画面の一例を示す。
【
図7】本発明の一実施形態に係る端末に表示される表示画面の一例を示す。
【発明を実施するための形態】
【0024】
以下、添付図面を参照して、更に詳細に説明する。図面には好ましい実施形態が示されている。しかし、多くの異なる形態で実施されることが可能であり、本明細書に記載される実施形態に限定されない。
【0025】
例えば、本実施形態では関節角度測定システムの構成、動作等について説明するが、実行される方法、装置、コンピュータプログラム等によっても、同様の作用効果を奏することができる。本実施形態におけるプログラムは、コンピュータが読み取り可能な非一過性の記録媒体として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、クライアント端末でその機能を実施するために外部のコンピュータにおいて当該プログラムを起動させてもよい(いわゆるクラウドコンピューティング)。
【0026】
また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらハードウェア資源によって具体的に実現され得るソフトウェアの情報処理とを合わせたものも含み得る。本実施形態において「情報」とは、例えば電圧・電流を表す信号値の物理的な値、0又は1で構成される2進数のビット集合体としての信号値の高低、又は量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行され得る。
【0027】
広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)及びメモリ(Memory)等を適宜組み合わせることによって実現される回路である。即ち、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等を含むものである。
【0028】
<システム構成>
図1は、一実施形態のシステム構成を示すブロック図である。
図1に示すように、関節角度測定システム1は、情報処理装置10及びデータベースDBを備える。関節角度測定システム1は、ネットワークNWを介して複数の端末2(
図1では符号2(a)~2(d))と通信可能に構成されている。
【0029】
情報処理装置10は、サーバとして動作し、端末2は関節角度を測定する対象者(ユーザともいう)が使用する端末である。
【0030】
ネットワークNWは、本実施形態では、IP(Internet Protocol)ネットワークであるが、通信プロトコルの種類に制限はなく、更に、ネットワークの種類、規模にも制限はない。
【0031】
なお、情報処理装置10として、汎用のサーバ向けのコンピュータやパーソナルコンピュータ等を利用することが可能である。また、後述の機能構成要素を複数のコンピュータに実現させ、関節角度測定システム1を構成することも可能である。
【0032】
端末2として、スマートフォンやタブレット端末、パーソナルコンピュータ、ウェアラブルデバイス等を利用することができる。端末2は、ユーザ用の関節角度測定アプリプログラムを記憶し、このアプリプログラムはユーザにおいて関節角度に関する情報を閲覧したり、あるいは関節角度を測定するために必要な情報を情報処理装置10に送信するための機能を有して構成される。
【0033】
なお、端末2はユーザ用の関節角度測定アプリプログラムを有していない構成にすることもできる。この場合、端末2はウェブブラウザ等を利用して各情報を閲覧や入力等することができる。また、端末2は、ウェブブラウザ等を利用して閲覧のみを行うようにしてもよい。
【0034】
<ハードウェア構成>
図2(a)は、情報処理装置10のハードウェア構成の一例を示す図である。情報処理装置10は、ハードウェア構成として、制御部11と、記憶部12と、通信部13と、を備える。
【0035】
制御部11は、CPU等の1又は2以上のプロセッサを含み、本発明に係る関節角度測定プログラム、OSやブラウザソフト、その他のアプリケーションを実行することで、情報処理装置10の動作処理全体を制御する。
【0036】
記憶部12は、HDD、SSD、ROM、RAM等であって、本発明に係る関節角度測定プログラム及び、制御部11がプログラムに基づき処理を実行する際に利用するデータ等を記憶する。制御部11が、記憶部12に記憶されている関節角度測定プログラムに基づき、処理を実行することによって、後述する機能構成が実現される。
【0037】
通信部13は、ネットワークNWとの通信制御を実行して、情報処理装置10を動作させるために必要な入力や、動作結果に係る出力を行う。
【0038】
図2(b)は端末90(
図1における端末2)のハードウェア構成の一例を示す図である。端末90は、ハードウェア構成として、制御部91と、記憶部92と、通信部93と、入力部94と、出力部95と、を備える。
【0039】
端末90の制御部91は、CPU等の1以上のプロセッサを含み、端末90の動作処理全体を制御する。端末90の記憶部92は、HDD、SSD、ROM、RAM等であって、上述のユーザ用の関節角度測定アプリプログラム並びに、制御部91がプログラムに基づき処理を実行する際に利用するデータ等を記憶する。
【0040】
端末90の通信部93は、ネットワークとの通信を制御する。端末90の入力部94は、タッチパネル、マウス及びキーボード等であって、ユーザによる操作要求を制御部91に入力する。端末90の出力部95は、ディスプレイ等であって、制御部91の処理の結果等を表示する。
【0041】
<機能構成>
図2(a)に示すように、情報処理装置10は、機能構成として、受信部101、解析処理部102、表示処理部103、を備える。これらは、ソフトウェア(記憶部12に記憶されている)による情報処理が、ハードウェア(制御部11等)によって具体的に実現されたものである。
【0042】
受信部101は、ユーザ(測定の対象者)からの情報を受け付ける。本実施形態では、対象者の正面側より複数の関節を含めて撮影された動画データを端末2から受け付ける。
【0043】
解析処理部102は、受信部101が受け付けた動画データからユーザの関節角度を解析処理する。本実施形態における解析処理部102は、動画データから複数の静止画データを作成処理し、静止画データを画像解析して、関節ごとの3次元座標を推定処理し、3次元座標を用いて関節角度を解析処理し、その解析処理の結果を記憶部12へ格納する。
【0044】
表示処理部103は、解析処理部102で解析処理された結果を表示処理する。本実施形態では、関節角度と、測定に利用された3次元座標と、を並べて表示処理する。更に表示処理部103は、動画データの時間変化に対応させて解析処理の結果による関節角度の時間変化を表示処理し、その表示処理の結果を例えば端末2へ送信する。
【0045】
<データベースDB>
図1のデータベースDBは、受信部101が端末2から受け付けた関節角度の測定依頼に関する測定依頼情報(ユーザIDや動画データなどを含んだ情報)、静止画データに関する情報、測定対象の関節角度を算出するための情報、などを格納する。これらの一部又は全部は、記憶部12等に格納されてもよいし、これらの一部が別のデータベース等に格納されてもよい。
【0046】
以下、
図3~7を参照して、関節角度測定システムの説明及び各機能構成要素による処理内容について説明する。
【0047】
<関節角度測定システムの概要>
図3には、本発明の一実施形態に係る関節角度測定システムの概略イメージ図を示す。詳細は後述するが、
図3(a)に示すように本実施形態に係る関節角度測定システムは、ユーザによって撮影された動画データから、ユーザが希望する関節角度を解析処理し、その結果(関節角度の数値など)をユーザの端末に表示するものである。
【0048】
具体的には、
図3(b)に示すように対象者の特定部分(例えば各関節)を3次元座標として数値化し、この数値化された3次元座標を利用して関節角度を解析処理し、その結果を表示する。本実施形態では、対象者の身体座標系における3次元座標を用いて関節角度を解析処理する。なお、
図3(b)では、対象者の右手が位置する方向を右方向、左手が位置する方向を左方向、頭が位置する方向を上方向、両足が位置する方向を下方向、奥行きの方向(例えば対象者の正面側から背面側への方向)を奥行き方向として表現している。この身体座標系は、
図3(b)に示すように対象者における腰の中心位置を原点(3次元座標(0,0,0))とし、左右方向をX方向、X方向に対して垂直な上下方向をY方向、奥行き方向をZ方向としている。
【0049】
図3(b)では、説明を分かりやすくするために人間の骨格のみを表現しているが、実際には撮影された動画データ(または後述する静止画データ)に対して3次元座標を解析処理する。
【0050】
本実施形態における関節角度測定システムは、例えば、股関節における外転、内転、伸展、屈曲などの角度を測定することで、関節痛の治療や適切なリハビリテーションなどに役立てることができる。その他、人工関節置換後の患者に対し、本関節角度測定システムを利用して継続的なリハビリテーションを提供することができる。当然のことながら、本実施形態における関節角度測定システムは股関節における外転、内転、伸展、屈曲などに関わらず、身体の各関節における関節角度を測定することができる。
【0051】
なお、本実施形態における関節角度とは、上記の外転等の他、ユーザ(対象者)の身体において各関節が最大に可動する範囲(最大角度、関節可動域)、後述する動画データまたは静止画データに実際に表示されているユーザの測定対象部位における角度、及び、これらと同等の角度を意味するものである。
【0052】
<ユーザからの測定依頼>
図4は、一実施形態に係る関節角度測定システムの処理手順を示すフローチャートである。
図4のS201において、情報処理装置10の受信部101は、ユーザの端末2から動画データを受け付ける。本実施形態では、少なくとも動画データが含まれた関節角度の測定依頼に関する情報(測定依頼情報)を受け付ける。
【0053】
この測定依頼情報は、
図5(a)に示すようにユーザに関するユーザID、股関節や肘関節などの測定対象の部位に関する情報(ユーザが測定を希望する部位の依頼情報)、動画データ(または動画データの保存先、ファイル名)、フレームレート、解析前や解析中のステータス、などの情報を含んで管理IDによって管理されている。
【0054】
ここで、動画データについて説明する。動画データは、ユーザ(対象者)の正面側より複数の関節を含めて撮影されて得られるものである。本実施形態における動画データは、ユーザが床面に仰向け姿勢となり、このユーザを顔方向(頭側)から床面に対して30度~60度、好ましくは40度~50度(より好ましくは45度)の撮影角度で撮影される(頭方向の斜め上から撮影される)。つまり、受信部101は、床面に仰向け姿勢を維持するユーザ(対象者)を床面から30度~60度の撮影角度を有して顔方向から撮影された動画データを受け付ける。
【0055】
動画データは、ユーザの顔、両肩、両腰を1つの映像に収まるように撮影されることが好ましい。例えば動画データは、対象者の頭測より目、口及び複数の関節を含めて撮影された動画データであることが好ましい。また、動画データは、左右均等に撮影され、被写体としての人物(ユーザ)が撮影枠の4/5以内に移るように撮影されていることが好ましい。本実施形態では、このように撮影された動画データを利用することで、正確な3次元座標(骨格推定とも呼ぶ)を得ることができる。
【0056】
<関節角度の解析処理>
S202において、情報処理装置10の解析処理部102は、受信部101が受け付けた動画データから複数の静止画データを作成処理する。この静止画データは、動画データを構成するフレームである。例えば1秒間の動画データが10フレーム(10枚の静止画データ)で構成されている場合、この動画データは10fps(frames per second)として表現される。本実施形態では、解析処理部102によって作成処理された静止画データ(フレーム)を情報処理装置10の記憶部12へ格納する。
【0057】
S203において、解析処理部102は、作成処理した静止画データを画像解析し、各関節位置の3次元座標を推定処理する。例えば、推定処理では、2枚の静止画データについて、被写体(対象者)の静止画データ内における位置の差(移動した座標の差分)を画像解析することで推定値を得ることができる。
図5(b)に示すように、静止画データごとにフレームNoが割り振られ、このフレームNoごとに各関節(
図3(b)を参照)に対して3次元座標が数値化される。本明細書では、この3次元座標として表現される各関節(及び測定に必要な身体の部位)のことを測定点とも呼ぶ。
【0058】
本実施形態では解析処理部102は、2次元の静止画データにおいて、横方向をX座標として算出し、縦方向をY座標として算出し、奥行き方向を機械学習による推定値としてZ座標として算出する。例えば、静止画データ(あるいは動画データ)を入力することで、静止画データ中の人物の関節点を推定する既知の姿勢推定モデルを利用して、各関節点の3次元座標を求めることができる。また、静止画データから撮影時のピントのズレ(各ピクセルの色の違いなど)を画像解析等により識別し、その解析結果を利用して奥行き方向のZ座標を推定することもできる。なお、解析処理部102による推定処理はこれらの方法に限られず、他の方法によりX座標、Y座標、及びZ座標の数値を得ることもできる。解析処理部102が、推定処理として、別のコンピュータに対して静止画データを送信すると共に、3次元座標の推定要求を行い、3次元座標を受け取ることで、静止画データの各関節点における3次元座標が推定されてもよい。
【0059】
本実施形態では、解析処理部102が座標1から座標33(ユーザの33ヵ所の関節等)に対する3次元座標(X,Y,Z)を数値化(推定処理)している。例えば
図5(b)における座標1は右腰における3次元座標(X1,Y1,Z1)であり、座標2は左腰における3次元座標(X2,Y2,Z2)であり、座標3は右膝における3次元座標(X3,Y3,Z3)である(
図3(b)を参照)。
【0060】
なお、
図3(b)は、あくまでも概略イメージであるため座標1から座標33を表現しているわけではないが、座標1~3は概略
図3(b)に示されるイメージのように理解できる。また、本実施形態では座標1から座標33の測定点を利用して関節角度を算出しているが、測定点の数は33点に限定されるものではない。
【0061】
また、本実施形態では動画データの撮影時における座標(例えば、動画データを正面から視認した場合、左端付近を座標(0,0,0)にするなど)に対して、
図3(b)に示すように解析処理部102は対象者における腰の中心位置(中心点)を3次元座標(0,0,0)とする座標変換処理(例えばカメラ座標系から身体座標系への変換処理)を行っている。本実施形態では、例えば右腰における座標1及び左腰における座標2から3次元座標(0,0,0)の位置を決定することができる。
【0062】
そしてS204において、情報処理装置10の解析処理部102は、複数の静止画データにおいてそれぞれ対応する3次元座標(例えば複数の静止画データにおける座標1の数値群)を統計処理し、測定に利用する補正3次元座標を取得する。具体的に解析処理部102は、複数の静止画データに含まれる3次元座標におけるX方向の値、Y方向の値、Z方向の値、から関節角度の測定に利用する3次元座標を統計処理する。
【0063】
更に解析処理部102は、複数の静止画データから3次元座標の各座標X,Y,Zについて中央値を算出処理する。解析処理部102は、動画データのフレームレートに応じて3~13コマの静止画データ(それぞれの3次元座標)から中央値を統計処理する。この統計処理では、複数の静止画データの中から、X方向、Y方向、Z方向のそれぞれの座標ごとに値が選択される。
【0064】
本実施形態では、
図5(a)に示すように管理IDが10001の動画データは30fpsのフレームレート(1秒間の動画が30枚の静止画データで構成されているもの)であり、この場合、
図5(c)に示すように、5コマ(例えばフレームNo.0001~0005)のフレーム(静止画データ)によって中央値を統計処理している。
【0065】
この中央値は、複数の静止画データの中から、X方向、Y方向、Z方向のそれぞれの座標ごとに値が選択される。例えば
図5(c)では、フレームNo.0001~0005における座標1(右腰)の中央値は、X方向ではX0001、すなわちフレームNo.0001の数値が選択され、Y方向もフレームNo.0001の数値が採用されている一方、Z方向はフレームNo.0004の数値が選択されている。
【0066】
また、フレームNo.0001~0005における座標2(左腰)の中央値は、X方向ではX0003、すなわちフレームNo.0003の数値が選択され、Y方向ではフレームNo.0005の数値が選択され、Z方向ではフレームNo.0004の数値が選択されている。本実施形態では、複数の静止画データによる中央値を各3次元座標のX方向、Y方向、Z方向のそれぞれの値とし、対象者の関節角度を測定する。
【0067】
なお、本明細書における統計処理による中央値(移動中央値)は、フレームNoごとの座標における数値を順番に並べた場合(大きい順または小さい順に並べた場合)、その順位が中央にある値、またはこれと類似する考え方により算出された値を意味する。例えば3次元座標の移動中央値として、明らかに外れた値を除外し(例えば数値を順番に並べた場合の最小値、最大値等を除外し)、順番に並べた際に中央付近にある複数の値の平均値とすることもできる。
【0068】
実際には、動画データから3次元座標を算出(推定)すると、トラッキングエラー(数値が大きく異なる座標など)が多数混在してしまい、精度の良い関節角度の測定が実現できなくなってしまう。
【0069】
そこで本実施形態では、3次元座標におけるX方向、Y方向、Z方向の数値を移動中央値とすることで、例えば一瞬のトラッキングエラーの影響も受けず、正しい関節角度を測定することができる。このように3次元座標の値を移動中央値とすることで、精度の良い関節角度の測定を実現することができる。
【0070】
S205において、中央値による3次元座標を利用して関節角度を算出処理する。具体的には
図5(d)に示すように解析処理部102は、測定対象ごとに、特定の3点の測定点(3次元座標)を利用して関節角度を算出処理している。
【0071】
例えば、フレームNo.0001~0005の静止画データから得られた中央値による座標1、座標2、座標3を利用して関節角度を算出することもできるし、あるいは、フレームNo.0001~0005の静止画データから得られた座標1及び座標3と、フレームNo.0011~0015の静止画データから得られた座標3と、を利用して関節角度を算出することもできる。この場合、座標1(右腰)を基準として座標3(右膝)が可動した範囲の角度(可動域)を関節角度として算出することできる。
【0072】
このように異なるフレームNoから算出された座標を利用することで、股関節における外転などの関節角度を算出することができる。解析処理部102は、外積や内積などを利用したベクトル演算により関節角度を算出し、または画像解析等により最大可動域(または最小可動域)となる測定点を推定して関節角度を算出することもできる。
【0073】
なお、必ずしも推定処理によって得られた3つの各測定点の3次元座標を用いて、関節角度を算出する必要はない。例えば、ある測定点を通る直線を算出し、その直線に対する角度を算出することで、すなわち2つの測定点によって関節角度を得ることもできる。
【0074】
<関節角度の表示>
S206において、情報処理装置10の表示処理部103は、解析処理部102で得られた関節角度を表示処理する。本実施形態における表示処理部103は、解析処理102で解析処理された関節角度(例えば股関節における外転の角度など)と、測定に利用された3次元座標(または測定対象の部位)と、を同一画面に並べて表示処理し、その表示処理の結果を端末2へ送信する。
【0075】
具体的には
図6において端末2の表示画面W10に示すように、静止画データとして表示される対象者の測定対象部位と共に、その測定対象部位の近傍に関節角度を表示する。
図6では、解析処理の結果として、右肘の曲げ角度が関節角度××度として表示され、右膝の曲げ角度が関節角度〇〇度として表示され、左腰と太ももとの関節角度が△△度として表示されている。
【0076】
このように関節角度と静止画データにおける測定対象部位(または測定に利用した3次元座標)を同一画面に並べて表示処理することで、誰でも一目で関節角度を容易に把握することができる。
【0077】
なお、
図6では、人間の骨格のみを表現しているが、実際に撮影された動画データ、静止画データと共に関節角度を表示しても良いし、あるいは、解析処理の結果として関節角度の最大値や最小値のみを数値として表示することもできる。
【0078】
また、
図7に示すように、表示処理部103は、動画データの時間変化に対応させて解析処理の結果による関節角度の時間変化を表示処理し、その表示処理の結果を端末2へ送信することもできる。
図7では、説明を分かりやすくするために人間の骨格のみを表現しているが、
図6と同様に、動画データと共に関節角度が表現されている。
【0079】
図7(a)では端末2の表示画面W20に示すように再生時間4秒の時点における右肘の曲げ角度は××度である一方、
図7(b)では表示画面W30に示すように再生時間10秒の時点における右肘の曲げ角度が□□度に変化している、すなわち、動画データの時間変化に応じた関節角度の変化が表示されている。
【0080】
本実施形態では、例えば5秒から30秒ごとに関節角度の変化を表示することができる。つまり、表示処理部103は、5秒から30秒ごとに関節角度の数値を切り替えて表示処理を行うことができる。このような表示処理をすることで、動画データにおいて時間変化に応じて変化する関節角度も簡単に把握することができる。
【0081】
以上のように本発明に係る関節角度測定システムによれば、解析処理部102による段階的な処理を実行すると共に表示処理部103によって特定の表示処理をすることで、人間の関節角度を簡単且つ精度良く測定でき、その結果、医療分野でも利用することが可能となる。
【0082】
また、本実施形態では主に医療分野等へ利用するための関節角度の測定について説明したが、当然のことながら当該関節角度測定システムを医療分野以外の別の分野や、例えばスポーツや運動などの他の分野で利用する場合も本発明と同様の効果を得ることができる。
【符号の説明】
【0083】
1 関節角度測定システム
2 端末
10 情報処理装置
11 制御部
12 記憶部
13 通信部
90 端末(端末2)
91 制御部
92 記憶部
93 通信部
94 入力部
95 出力部
101 受信部
102 解析処理部
103 表示処理部
NW ネットワーク