(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2022-03-25
(45)【発行日】2022-04-04
(54)【発明の名称】端末装置、情報処理方法、情報処理システム、及びプログラム
(51)【国際特許分類】
A61B 5/11 20060101AFI20220328BHJP
【FI】
A61B5/11
A61B5/11 ZDM
(21)【出願番号】P 2021148073
(22)【出願日】2021-09-10
【審査請求日】2021-09-10
【早期審査対象出願】
(73)【特許権者】
【識別番号】517255566
【氏名又は名称】株式会社エクサウィザーズ
(74)【代理人】
【識別番号】110000338
【氏名又は名称】特許業務法人HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】黒木 孝志
【審査官】北島 拓馬
(56)【参考文献】
【文献】国際公開第2021/132426(WO,A1)
【文献】特開2021-026527(JP,A)
【文献】特開2017-064120(JP,A)
【文献】米国特許出願公開第2019/0251341(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/00 - 5/398
A63B 1/00 -26/00
A63B 69/00 -69/40
A63B 71/00 -71/16
G06T 7/00 - 7/90
(57)【特許請求の範囲】
【請求項1】
被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示する表示部と、
前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズム
であって、前記動画像から
骨格を抽出する1又は複数の第2のアルゴリズムが抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出する導出部と、
を備える端末装置。
【請求項2】
前記1又は複数の第2のアルゴリズムによる骨格抽出処理は、前記第1のアルゴリズムによる骨格抽出処理よりも精度が高い
請求項1に記載の端末装置。
【請求項3】
前記表示部は、
前記第1のアルゴリズムを用いて抽出した骨格の確からしさを示す確度情報を取得し、
取得した確度情報に応じて、前記対象者に重畳する骨格の表示態様を変更する
請求項1又は2に記載の端末装置。
【請求項4】
前記表示部は、前記確度情報が示す確度が所定の値より低い場合、確度が高くなるように被写体を撮影することを促す表示を行う
請求項3に記載の端末装置。
【請求項5】
前記第1のアルゴリズムと、前記1又は複数の第2のアルゴリズムとを用いて骨格抽出処理を実行する骨格抽出部を更に備える
請求項1~4の何れか1項に記載の端末装置。
【請求項6】
前記骨格抽出部は、複数の第2のアルゴリズム候補から、前記1又は複数の第2のアルゴリズムを選択し、選択した1又は複数の第2のアルゴリズムを用いて前記対象者の骨格を抽出する
請求項5に記載の端末装置。
【請求項7】
前記骨格抽出部は、前記第1のアルゴリズムを用いて抽出した前記対象者の骨格を参照して、前記1又は複数の第2のアルゴリズムを選択する
請求項5に記載の端末装置。
【請求項8】
前記導出部は、前記1又は複数の第2のアルゴリズムを用いて抽出した、歩行中の前記対象者の骨格を参照し、前記対象者の歩行に関するパラメータを導出する
請求項1~7の何れか1項に記載の端末装置。
【請求項9】
被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示するステップと、
前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズム
であって、前記動画像から
骨格を抽出する1又は複数の第2のアルゴリズムが抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出するステップと、
を含む情報処理方法。
【請求項10】
端末装置と情報処理装置とを含む情報処理システムであって、
前記端末装置は、
被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示する表示部と、
前記動画像を前記情報処理装置に出力する出力部と、
を備え、
前記情報処理装置は、
前記端末装置から前記動画像を取得する取得部と、
前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズム
であって、前記動画像から
骨格を抽出する1又は複数の第2のアルゴリズムが抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出する導出部と、
を備える情報処理システム。
【請求項11】
請求項1に記載
の上記表示部及び上記導出部としてコンピュータを機能させ
るプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、端末装置、情報処理方法、情報処理システム、及びプログラムに関する。
【背景技術】
【0002】
歩行している対象者を含む動画像から、対象者の歩容を解析する技術において、解析の精度を高くすることを目的とした技術が知られている。特許文献1には、撮影時における撮影装置の内部状況である撮影状況を示す情報を含む状況情報を取得し、撮影画像に状況情報を表す状況画像を含めた合成画像を出力する端末が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、歩容解析することによって、対象者の歩行を評価する技術も知られている。当該技術では、撮影している動画像が歩容解析に適しているか否かをユーザに通知するため、抽出した対象者の骨格を対象者に重畳し、表示することが知られている。ここで、撮影中に歩容解析のための骨格抽出を行うと、骨格抽出する処理の速さが要求されるため、骨格抽出の精度が低くなり、対象者の歩行を適切に評価できなくなる。一方、骨格抽出を撮影後に行うと、被写体を撮影するユーザに対して、歩容解析のために適切な動画像が撮影できているか否かを通知できないという問題がある。
【0005】
本発明の一態様は、対象者を撮影するユーザに適切な動画像が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することを目的とする。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本発明の一態様に係る端末装置は、被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示する表示部と、前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズムを用いて前記動画像から抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出する導出部と、を備える端末装置。
【発明の効果】
【0007】
本発明の一態様によれば、対象者を撮影するユーザに適切な動画像が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の実施形態1に係る端末装置の構成例を示すブロック図である。
【
図2】本発明の実施形態1に係る端末装置による処理の流れを示すシーケンス図である。
【
図3】本発明の実施形態1に係る表示部が表示パネルに表示する動画像の一例を示す図である。
【
図4】本発明の実施形態1に係る表示部が表示パネルに表示する動画像の他の例を示す図である。
【
図5】本発明の実施形態1に係る表示部が表示パネルに表示する動画像のさらに他の例を示す図である。
【
図6】本発明の実施形態1に係る表示部が表示パネルに表示する動画像のさらに他の例を示す図である。
【
図7】本発明の実施形態1に係る表示部が表示パネルに表示する動画像のさらに他の例を示す図である。
【
図8】本発明の実施形態2に係る情報処理システムの概要を示す模式図である。
【
図9】本発明の実施形態2に係る情報処理システムに含まれる端末装置及び情報処理装置の構成例を示すブロック図である。
【
図10】本発明の実施形態2に係る情報処理システムにおける処理の流れを示すシーケンス図である。
【
図11】端末装置及び情報処理装置として用いられるコンピュータの物理的構成を例示したブロック図である。
【
図12】実施例1における推定値と実測値との関係を示すグラフである。
【
図13】実施例2における推定値と実測値との関係を示すグラフである。
【発明を実施するための形態】
【0009】
〔実施形態1〕
以下、本発明の一実施形態について説明する。
【0010】
(端末装置1の概要)
図1を参照して、本実施形態に係る端末装置1の構成例について説明する。
図1は、本実施形態に係る端末装置1の構成例を示すブロック図である。
【0011】
本実施形態に係る端末装置1は、被写体として対象者を含む動画像を撮影し、当該動画像を参照し、以下の処理を行う。
・対象者の骨格を抽出し、抽出した対象者の骨格を、動画像における対象者に重畳して表示する
・対象者の動作に関するパラメータを導出する
・導出したパラメータの確度を示す確度情報を導出する
ここで、上記対象者の例として被介護者が挙げられるが、これは本実施形態を限定するものではない。また、端末装置1のユーザとして、上記被介護者を介護する介護職員が挙げられるが、これは本実施形態を限定するものではない。
【0012】
(端末装置1の構成)
端末装置1は、
図1に示すように、制御部10、表示パネル12、撮像部13、及び記憶部14を備えている。
【0013】
表示パネル12は、後述する制御部10から供給されるデータを表示するディスプレイである。一例として、表示パネル12は、対象者の骨格を当該対象者に重畳した動画像を表示する。
【0014】
撮像部13は、動画像を撮像可能なカメラである。一例として、撮像部13は、当該撮像部13の画角に対象者が含まれるよう、ユーザによって向けられる。そして撮像部13は、対象者が所定の動作(歩行、及び腕上げなど)を実行している様子を撮像し、被写体として当該対象者を含む動画像を生成する。撮像部13は、撮像によって得られた動画像を後述する制御部10に供給する。
【0015】
記憶部14は、後述する制御部10が参照する各種のデータが格納されている。一例として、記憶部14には、撮像部13によって撮像された動画像、及び後述する対象者の骨格を示す骨格情報などが格納されている。
【0016】
(制御部10)
制御部10は、端末装置1の各構成要素を制御する。一例として、制御部10は、撮像部13によって撮像された動画像を取得したり、表示パネル12に表示する動画像データを供給したりする。
【0017】
また、制御部10は、
図1に示すように、取得部15、骨格抽出部16、パラメータ導出部17(導出部)、確度導出部18、及び表示部19としても機能する。
【0018】
取得部15は、撮像部13によって撮像された動画像を取得する。取得部15は、取得した動画像を、記憶部14に格納する。
【0019】
骨格抽出部16は、第1のアルゴリズムと、1又は複数の第2のアルゴリズムとを用いて、被写体として対象者を含む動画像から対象者の骨格を抽出する骨格抽出処理を実行する。
【0020】
ここで、第1のアルゴリズム及び第2のアルゴリズムは、対象者の骨格を抽出するアルゴリズムである。第1のアルゴリズムによって抽出された対象者の骨格は、当該骨格を示す第1の骨格情報として後述する表示部19によってリアルタイムに参照される。そのため、第1のアルゴリズムは、後述する第2のアルゴリズムよりも骨格抽出処理が速いアルゴリズムであることが好ましい。より具体的には、第1のアルゴリズムは、映像のリフレッシュレート(30fpsまたは60fps)より速いことが好ましい。また、第1のアルゴリズムは、抽出した骨格の確からしさを示す第1の確度情報を生成する。第1の確度情報は、後述する表示部19によって参照される。
【0021】
第2のアルゴリズムによって抽出された対象者の骨格抽出処理の結果は、当該骨格を示す第2の骨格情報として後述するパラメータ導出部17によって参照される。詳細は後述するものの、1又は複数の第2のアルゴリズムによる骨格抽出処理は、第1のアルゴリズムによる骨格抽出処理よりも精度が高いことが好ましい。
【0022】
また、骨格抽出部16は、複数のアルゴリズム候補から、1又は複数の第2のアルゴリズムを選択し、選択した1又は複数の第2のアルゴリズムを用いて対象者の骨格を抽出する構成であってもよい。例えば、骨格抽出部16は、第1のアルゴリズムを用いて抽出した対象者の骨格を参照して、1又は複数の第2のアルゴリズムを選択してもよい。骨格抽出部16が1又は複数の第2のアルゴリズムを選択する処理の具体例については、後述する。
【0023】
また、骨格抽出部16は、第1のアルゴリズム及び第2のアルゴリズムの少なくとも何れかを用いた骨格抽出の際に、動画像に含まれるフレームのうち、骨格抽出に失敗したフレームを示すエラー情報を生成する。
【0024】
骨格抽出に失敗したフレームとは、第1のアルゴリズム又は第2のアルゴリズムを用いた骨格抽出の際に、骨格が抽出されなかったフレーム、又は適切に骨格が抽出されていないと考えられるフレームである。具体的な例として、
・骨格抽出処理が完了しなかったため、骨格抽出処理の戻り値を取得できなかったフレーム
・骨格抽出処理は完了したが、骨格抽出処理の戻り値が、所定の範囲外の値(外れ値)になっていたフレーム
が挙げられるが、これらに限定されない。
【0025】
エラー情報の例として、
・骨格抽出を失敗したフレームの数を示す情報
・骨格抽出を失敗したフレームの時間的な位置(骨格抽出を失敗したフレームが撮影された日時、又は動画像撮影開始からの経過時間など)を示す情報
・骨格抽出に失敗したフレームにおいて、骨格抽出できなかった部位を示す情報
などが挙げられるが、これらに限定されない。
【0026】
パラメータ導出部17は、骨格抽出部16が実行した骨格抽出処理の結果を参照して、対象者の身体の動作に関するパラメータを導出する。より具体的には、パラメータ導出部17は、骨格抽出部16が第2のアルゴリズムを用いて動画像から抽出した対象者の骨格を示す第2の骨格情報を参照し、対象者の身体の動作に関するパラメータを導出する。対象者の身体の動作に関するパラメータとは、対象者が動作を行った際に、当該動作をどの程度実行できたかを示すパラメータである。対象者の身体の動作に関するパラメータの例として、対象者が歩く、腕を上げる、及び立ち上がるといった動作を行った際の
・動作を行う速度
・動作を行うリズム
・動作を行う際の身体のふらつき
・動作の左右差
などが挙げられるが、これらに限定されない。パラメータ導出部17がパラメータを導出する処理の具体例については、後述する。
【0027】
確度導出部18は、パラメータ導出部17が導出したパラメータの確度を示す第2の確度情報を、動画像に含まれる複数フレームのうち、骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。より具体的には、確度導出部18は、パラメータ導出部17が導出したパラメータの確度を示す第2の確度情報を、骨格抽出部16が生成したエラー情報を参照して導出する。パラメータの確度とは、当該パラメータの確かさの度合いであり、当該パラメータの確度が高い程、パラメータの信頼度が高いことを示す。確度導出部18が第2の確度情報を導出する処理の具体例については、後述する。
【0028】
表示部19は、表示パネル12に表示する動画像データを生成する。具体的には、表示部19は、骨格抽出部16が生成した第1の骨格情報を参照し、第1の骨格情報が示す骨格を、取得部15が取得した動画像における対象者に重畳して、表示パネル12に表示する。また、表示部19は、確度導出部18が導出した第2の確度情報を参照し、第2の確度情報が示す確度を表示パネル12に表示する。
【0029】
(端末装置1による処理)
端末装置1による処理について、
図2を用いて説明する。
図2は、本実施形態に係る端末装置1による処理の流れを示すシーケンス図である。
【0030】
(ステップS12)
ステップS12において、取得部15は、撮像部13を介して、被写体として対象者を含む動画像の取得を開始する。例えば、取得部15は、端末装置1のユーザからの操作を受け付ける操作受付部(不図示)から、撮影を開始する旨を示す情報を取得すると、撮像部13を介して動画像の取得を開始する。
【0031】
(ステップS13)
ステップS13において、骨格抽出部16は、ステップS12において取得部15が取得した動画像から、第1のアルゴリズムを用いて対象者の骨格を抽出する。骨格抽出部16は、抽出した骨格を示す第1の骨格情報を、表示部19に供給する。また、ステップS13において、骨格抽出部16は、抽出した骨格の確からしさを示す第1の確度情報及び骨格抽出に失敗したフレームを示すエラー情報を生成してもよい。この場合、骨格抽出部16は、第1の確度情報を表示部19に供給し、エラー情報を確度導出部18に供給する。
【0032】
(ステップS14)
ステップS14において、表示部19は、ステップS13において骨格抽出部16が供給した第1の骨格情報が示す骨格を動画像における対象者に重畳した動画像を示す動画像データを表示パネル12に供給する。表示パネル12は、取得した動画像データが示す動画像を表示する。
【0033】
(表示部19が表示する動画像の例1)
表示部19が表示パネル12に表示する動画像の一例について、
図3を用いて説明する。
図3は、本実施形態に係る表示部19が表示パネル12に表示する動画像の一例を示す図である。
【0034】
表示部19は、第1の骨格情報が示す骨格のうち、関節を対象者に重畳して表示パネル12に表示する。例えば、
図3に示すように、表示部19は、関節を示す点JT1、点JT2、及び点JT3等を対象者TPに重畳して表示パネル12に表示する。また、表示部19は、隣接する関節(例えば、
図3における点JT1、点JT2)を線で結び、対象者TPに重畳して表示パネル12に表示する。換言すると、表示部19は、第1のアルゴリズムを用いた骨格抽出において、抽出されなかった骨格は表示パネル12に表示しない。当該構成により、端末装置1は、対象者を撮影しているユーザに対して、撮影している動画像が対象者の骨格抽出に適した動画像であるかどうかを通知することができる。
【0035】
ここで、撮影している動画像に含まれる対象者TPの骨格が抽出されているか否かをユーザに通知するためには、骨格抽出の処理が速い方が好ましい。そのため、上述したように、第1の骨格情報が示す骨格を抽出する第1のアルゴリズムは、第2のアルゴリズムよりも抽出処理が速いアルゴリズムであることが好ましい。この構成により、端末装置1は、撮影中のユーザに対して、撮影している動画像が対象者の骨格抽出に適した動画像であるかどうかを通知することができる。
【0036】
(表示部19が表示する動画像の例2)
骨格抽出部16が第1の確度情報を表示部19に供給した場合、表示部19は、第1の確度情報を取得し、取得した第1の確度情報に応じて、対象者に重畳する骨格の表示態様を変更する構成であってもよい。本構成において表示部19が表示パネル12に表示する動画像の一例について、
図4を用いて説明する。
図4は、本実施形態に係る表示部19が表示パネル12に表示する動画像の他の例を示す図である。
【0037】
図4に示すように、表示部19は、上述した
図3と同様、関節を示す点JT2、点JT3、及び点JT4等を対象者TPに重畳して表示パネル12に表示する。ここで、対象者TPの左膝における第1の確度情報が示す確度が所定の値より低い場合、表示部19は、
図4に示すように、左膝を示す点JT4の態様を、他の関節を示す表示の態様(形が丸)とは異なる態様(形が三角)に変更し、表示する。当該構成により、端末装置1は、撮影中のユーザに対して、撮影している動画像における対象者の骨格のうち、何れの骨格を確度高く抽出できているかを通知することができる。
【0038】
表示部19が表示態様を異ならせる構成は、形を異ならせる構成以外にも、例えば、
・第1の確度情報に応じて骨格を示す表示の色を異ならせる
・第1の確度情報に応じて骨格を示す表示の色の濃淡を異ならせる
・第1の確度情報に応じて骨格を示す表示の大きさを異ならせる
などが挙げられるが、これらに限定されない。
【0039】
(表示部19が表示する動画像の例3)
骨格抽出部16が第1の確度情報を表示部19に供給した場合、表示部19は、第1の確度情報が示す確度が所定の値より低い場合、確度が高くなるように被写体を撮影することを促す表示を行う構成であってもよい。本構成において表示部19が表示パネル12に表示する動画像の一例について、
図5を用いて説明する。
図5は、本実施形態に係る表示部19が表示パネル12に表示する動画像のさらに他の例を示す図である。
【0040】
例えば、動画像に含まれる対象者が小さいため、第1の確度情報が示す確度が全て又は一部の骨格において低い場合、
図5に示すように、表示部19は、確度が高くなるように被写体を撮影することを促す表示DP1を表示する。表示DP1は、「対象者がもう少し大きく映るように撮影してください」というテキストが含まれている。当該構成により、端末装置1は、撮影中のユーザに対して、どのように撮影すれば対象者の骨格抽出の確度を高くできるのかを通知することができる。
【0041】
確度が高くなるように被写体を撮影することを促す表示の例として、
・動画像に含まれる対象者が小さいため、第1の確度情報が示す確度が全ての骨格において低い場合、「画角を狭くしてください」と表示する
・動画像に含まれる対象者が左側に寄っているため、対象者の左側の骨格における第1の確度情報が示す確度が低い場合、「もう少し左側を撮影してください」と表示する
などが挙げられるが、これらに限定されない。
【0042】
また、表示部19は、確度が高くなるように被写体を撮影することを促す表示を、骨格抽出部16が抽出した部位の数が、所定の数よりも小さい場合に表示する構成であってもよい。より具体的には、表示部19は、骨格抽出部16が供給した第1の骨格情報が示す部位を参照し、当該部位の数が、所定の数よりも小さい場合、確度が高くなるように被写体を撮影することを促す表示を行ってもよい。
【0043】
再び
図2を参照し、端末装置1による処理のステップS15以降について説明する。
【0044】
(ステップS15)
ステップS15において、取得部15は、撮像部13を介した動画像の取得を終了する。例えば、取得部15は、端末装置1のユーザからの操作を受け付ける操作受付部(不図示)から、撮影を終了する旨を示す情報を取得すると、撮像部13を介しての動画像の取得を終了する。
【0045】
(ステップS16)
ステップS16において、骨格抽出部16は、ステップS12~ステップS15において取得部15が取得した動画像から、第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズムを用いて対象者の骨格を抽出する。ステップS16において、骨格抽出部16は、複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択し、選択した1又は複数の第2のアルゴリズムを用いて対象者の骨格を抽出してもよい。また、ステップS13において骨格抽出部16がエラー情報を生成していない場合、ステップS16において、骨格抽出部16はエラー情報を生成してもよい。
【0046】
(骨格抽出部16による第2のアルゴリズム選択処理例)
骨格抽出部16による第2のアルゴリズム選択処理例について、以下に説明する。
【0047】
骨格抽出部16が複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択する構成では、複数のアルゴリズム候補は、それぞれ、抽出する部位、抽出の精度、及び抽出の速度といった特性が異なっていてもよい。この場合、骨格抽出部16は、第1のアルゴリズムを用いて抽出した対象者の骨格を参照して、特性に応じたアルゴリズムを選択してもよい。
【0048】
一例として、複数のアルゴリズム候補がそれぞれ抽出する骨格の部位が異なる場合、骨格抽出部16は、抽出する骨格の部位に応じて、複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択する。この場合、骨格抽出部16は、第1のアルゴリズムによって抽出された対象者の骨格を参照し、第1のアルゴリズムにおいて抽出された骨格の部位を抽出することができるアルゴリズムを、複数のアルゴリズム候補から選択する。例えば、第1のアルゴリズムによって対象者の脚部が抽出された場合、骨格抽出部16は、脚部を抽出することができるアルゴリズムを複数のアルゴリズム候補から選択する。
【0049】
さらに、骨格抽出部16は、期間に応じて複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択してもよい。例えば、ある期間において第1のアルゴリズムによって対象者の脚部が抽出され、当該ある期間とは異なる期間において第1のアルゴリズムによって対象者の腕部が抽出された場合、骨格抽出部16は、ある期間においては脚部を抽出することができるアルゴリズムを複数のアルゴリズム候補から選択し、異なる期間においては腕部を抽出することができるアルゴリズムを複数のアルゴリズム候補から選択する。
【0050】
また、骨格抽出部16は、ユーザからの指示を参照し、複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択してもよい。例えば、歩く速度が加速する期間と、歩く速度が減速する期間とが動画像に含まれる場合、ユーザは、歩く速度が加速する期間と、歩く速度が減速する期間とのそれぞれに、加速期間であることを示すアノテーションと減速期間であることを示すアノテーションを当該動画像に付加する。骨格抽出部16は、当該アノテーションを参照し、歩く速度が加速する期間においては、歩く速度が加速する動きに適した1又は複数の第2のアルゴリズムを選択し、歩く速度が減速する期間において、歩く速度が減速する動きに適した1又は複数の第2のアルゴリズムを選択する構成であってもよい。または、骨格抽出部16は、期間及び部位に対して、何れの1又は複数の第2のアルゴリズムを選択するか、ユーザから直接指示される構成であってもよい。
【0051】
このように、骨格抽出部16が第2のアルゴリズムを選択することにより、高い精度で対象者の骨格を抽出することができる。
【0052】
(ステップS17)
ステップS17において、パラメータ導出部17は、ステップS16において抽出された対象者の骨格を参照し、対象者の身体の動作に関するパラメータを導出する。
【0053】
(パラメータ導出部17によるパラメータ導出処理例)
パラメータ導出部17によるパラメータ導出処理例について、以下に説明する。
【0054】
例えば、パラメータ導出部17は、第2のアルゴリズムを用いて抽出した、歩行中の対象者の骨格を参照し、対象者の歩行に関するパラメータを導出する。より具体的には、骨格抽出部16から取得した第2の骨格情報が対象者の右脚及び左脚が抽出されたことを示し、右脚及び左脚が、対象者が歩行していることを示す場合、パラメータ導出部17は、対象者が歩行する速度を算出する。パラメータ導出部17は、算出された速度に応じて、パラメータを導出する。例えば、対象者が歩行する速度が所定の値より大きい場合、パラメータ導出部17は、歩行を行う速度のパラメータを、速度が速いことを示すパラメータに設定する。一方、対象者が歩行する速度が所定の値より小さい場合、パラメータ導出部17は、歩行を行う速度のパラメータを、速度が遅いことを示すパラメータに設定する。
【0055】
他の例として、第2の骨格情報が対象者の右脚及び左脚が抽出されたことを示し、右脚及び左脚が、対象者が歩行していることを示す場合、パラメータ導出部17は、対象者の右脚と左脚とがそれぞれ動く速度を算出する。パラメータ導出部17は、算出された速度に応じて、パラメータを導出する。例えば、対象者の右脚が動く速度と、対象者の左脚の動く速度との差が所定の値より小さい場合、パラメータ導出部17は、左右差のパラメータを、左右差がないことを示すパラメータに設定する。一方、対象者の右脚が動く速度と、対象者の左脚の動く速度との差が所定の値より大きい場合、パラメータ導出部17は、左右差のパラメータを、左右差があることを示すパラメータに設定する。
【0056】
このように、端末装置1は、第2のアルゴリズムが抽出した骨格を示す第2の骨格情報を参照して、対象者の身体の動作に関するパラメータを導出する。すなわち、第2のアルゴリズムが抽出した骨格は、対象者の身体の動作に関するパラメータの導出に用いられるため、上述したように、第2のアルゴリズムの骨格抽出処理は、第1のアルゴリズムによる骨格抽出処理よりも精度が高いことが好ましい。この構成により、端末装置1は、第1のアルゴリズムが抽出した骨格を示す第1の骨格情報ではなく、第2のアルゴリズムが抽出した骨格を示す第2の骨格情報を参照することにより、対象者の身体の動作に関するパラメータの精度を高くすることができる。
【0057】
(ステップS18)
ステップS18において、確度導出部18は、骨格抽出部16が生成したエラー情報を参照し、ステップS17において導出されたパラメータの確度を示す第2の確度情報を、動画像に含まれる複数フレームのうち、骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。
【0058】
(確度導出部18による確度導出処理例)
確度導出部18による確度導出処理例について、以下に説明する。
【0059】
確度導出部18は、骨格抽出部16が生成したエラー情報を参照することにより、骨格抽出処理による骨格抽出が失敗したフレームを特定し、特定したフレームに応じて第2の確度情報を導出する。
【0060】
一例として、エラー情報が骨格抽出処理による骨格抽出が失敗したフレームの数を示す場合、確度導出部18は、骨格抽出処理による骨格抽出が失敗したフレームの数に応じて第2の確度情報を導出する。例えば、骨格抽出処理による骨格抽出が失敗したフレームの数が所定の値よりも多い場合、確度導出部18は、第2の確度情報として、確度が低いことを示す第2の確度情報を導出する。一方、骨格抽出処理による骨格抽出が失敗したフレームの数が所定の値よりも少ない場合、確度導出部18は、第2の確度情報として、確度が高いことを示す第2の確度情報を導出する。当該構成により、端末装置1は、骨格抽出処理による骨格抽出が失敗したフレームの数が多い場合は、パラメータの確度が低いことをユーザに通知することができる。
【0061】
他の例として、エラー情報が骨格抽出処理による骨格抽出が失敗したフレームの時間的な位置を示す場合、確度導出部18は、骨格抽出処理による骨格抽出が失敗したフレームの時間的な位置に応じて第2の確度情報を導出する。例えば、骨格抽出処理による骨格抽出が失敗したフレームの時間的な位置が、対象者が動作する期間に含まれている場合(例えば、対象者の歩行動画であれば、対象者が歩行している期間に含まれている場合)、確度導出部18は、第2の確度情報として、確度が低いことを示す第2の確度情報を導出する。一方、骨格抽出処理による骨格抽出が失敗したフレームの時間的な位置が、対象者が動作する期間に含まれていない場合(例えば、対象者の歩行動画であれば、対象者が歩行する前(又は歩行した後)の期間に含まれている場合)、確度導出部18は、第2の確度情報として、確度が高いことを示す第2の確度情報を導出する。当該構成により、端末装置1は、対象者が動作している期間に骨格抽出が失敗した場合、パラメータの確度が低いことをユーザに通知することができる。
【0062】
さらに他の例として、エラー情報が骨格抽出処理による骨格抽出に失敗したフレームにおいて、骨格が抽出されなかった部位を示す場合、確度導出部18は、骨格抽出処理による骨格抽出に失敗したフレームにおいて、骨格が抽出されなかった部位に応じて第2の確度情報を導出する。例えば、骨格抽出処理による骨格抽出に失敗したフレームにおいて、骨格が抽出されたかった部位が、対象者の動作をするために不可欠な部位(例えば、対象者の歩行動画であれば、対象者の脚部)であった場合、確度導出部18は、第2の確度情報として、確度が低いことを示す第2の確度情報を導出する。一方、骨格抽出処理による骨格抽出に失敗したフレームにおいて、骨格が抽出されたかった部位が、対象者の動作をするために不可欠ではない部位(例えば、対象者の歩行動画であれば、対象者の頸部)であった場合、確度導出部18は、第2の確度情報として、確度が高いことを示す第2の確度情報を導出する。当該構成により、端末装置1は、対象者の動作に不可欠な部位の骨格抽出に失敗した場合、パラメータの確度が低いことをユーザに通知することができる。
【0063】
再び
図2を参照し、端末装置1による処理のステップS19について説明する。
【0064】
(ステップS19)
ステップS19において、表示部19は、ステップS17においてパラメータ導出部17が導出したパラメータと、ステップS19において確度導出部18が導出した第2の確度情報が示す確度を含む動画像データを表示パネル12に供給する。表示パネル12は、取得した動画像データが示す動画像を表示する。
【0065】
(表示部19が表示する動画像の例4)
表示部19が表示パネル12に表示する動画像の一例について、
図6を用いて説明する。
図6は、本実施形態に係る表示部19が表示パネル12に表示する動画像のさらに他の例を示す図である。
【0066】
図6に示すように、表示部19は、パラメータ導出部17が導出したパラメータPM1と、確度導出部18が導出した第2の確度情報が示す確度AC1を含む動画像を表示パネル12に表示する。また、表示部19は、評価項目毎のパラメータPM2も含む動画像を表示パネル12に表示してもよい。当該構成により、端末装置1は、表示されているパラメータPM1の確度をユーザに通知することができる。
【0067】
また、表示部19は、第2の確度情報が示す確度を、評価項目毎に表示する構成であってもよい。当該構成では、確度導出部18は、評価項目毎に第2の確度情報を導出する。例えば、対象者が歩く動作と、対象者が立ち止まって腕を上げる動作とが動画像に含まれている場合、対象者が歩く動作を行っている期間において、骨格抽出処理による骨格抽出が失敗したフレームの数が所定の数より多い場合、確度導出部18は、対象者が歩く動作において評価される評価項目「速度」の確度が低くなるように第2の確度情報を導出する。
【0068】
(表示部19が表示する動画像の例5)
表示部19は、確度導出部18が導出した第2の確度情報が示す確度に応じて、確度を表示する態様を変更する構成であってもよい。本構成において表示部19が表示パネル12に表示する動画像の一例について、
図7を用いて説明する。
図7は、本実施形態に係る表示部19が表示パネル12に表示する動画像のさらに他の例を示す図である。
【0069】
図7に示すように、表示部19は、第2の確度情報が示す確度が所定の値より低い場合、再度、動画像を撮影するよう促すメッセージDP2を含む画像を表示パネル12に表示する。この構成により、端末装置1は、確度の高いパラメータを導出するためには、再度の動画像の撮影が必要であることをユーザに通知することができる。
【0070】
また、
図7に示すように、表示部19は、動画像を撮影するよう促すメッセージDP2に加えて、パラメータ導出部17が導出したパラメータPM3、評価項目毎のパラメータPM4、及び確度導出部18が導出した第2の確度情報が示す確度を表示してもよい。
【0071】
図7に示す動画像の他に、表示部19は、第2の確度情報が示す確度が所定の値より高いか低いかに応じて、以下のように表示する態様を変更する構成であってもよい。
・第2の確度情報が示す確度のテキストの色を変更する
・第2の確度情報が示す確度のテキストの大きさを変更する
・第2の確度情報が示す確度が所定の値より高い場合、再度の動画像の撮影が不要であることをユーザに通知する(例えば、「測定が適切に完了しました」というテキストを表示する)
ただし、これらは本実施形態を限定するものではない。
【0072】
このように、端末装置1は、被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した対象者の骨格を、動画像における前記対象者に重畳して表示し、1又は複数の第2のアルゴリズムを用いて動画像から抽出した対象者の骨格を参照し、対象者の身体の動作に関するパラメータを導出する。そのため、端末装置1は、第1のアルゴリズムを用いて抽出した対象者の骨格を、対象者に重畳して表示しつつ、第2のアルゴリズムを用いて抽出した対象者の骨格を参照して対象者の身体の動作に関するパラメータを導出するので、対象者を撮影するユーザに適切な動画が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【0073】
また、端末装置1は、被写体として対象者を含む動画像から対象者の骨格を抽出する骨格抽出処理を実行し、骨格抽出処理の結果を参照して、対象者の身体の動作に関するパラメータを導出し、当該パラメータの確度を示す確度情報を、動画像に含まれる複数のフレームのうち、骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。そのため、端末装置1は、骨格抽出処理による骨格抽出が失敗したフレームに応じてパラメータの確度を導出するので、パラメータの信頼度をユーザに通知することができる。
【0074】
〔実施形態2〕
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。
【0075】
(情報処理システム100)
図8を参照し、本実施形態に係る情報処理システム100の概要について説明する。
図8は、本実施形態に係る情報処理システム100の概要を示す模式図である。
図8に示すように、情報処理システム100は、端末装置1A及び情報処理装置3を含んで構成される。
【0076】
図8に示すように、端末装置1A及び情報処理装置3は、ネットワークNを介して互いに通信可能に接続されている。ここで、端末装置1Aの例として、スマートフォン、PC(Personal Computer)、及びタブレットが挙げられ、情報処理装置3の例としてサーバが挙げられるが、これらは本実施形態を限定するものではない。
【0077】
また、ネットワークNの具体的構成は本実施形態を限定するものではないが、一例として、無線LAN(Local Area Network)、有線LAN、WAN(Wide Area Network)、公衆回線網、モバイルデータ通信網、又は、これらのネットワークの組み合わせを用いることができる。
【0078】
本実施形態に係る情報処理システム100において、端末装置1Aは、端末装置1Aのユーザが対象者を撮像した動画像から抽出した対象者の骨格を、動画像における対象者に重畳して表示する。そして、情報処理装置3は、端末装置1Aから動画像を取得し、動画像から抽出した対象者の骨格を参照し、対象者の身体の動作に関するパラメータを導出する。また、情報処理装置3は、導出したパラメータの確度を示す確度情報を、骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。
【0079】
本実施形態においても、実施形態1と同様に、上記対象者の例として被介護者が挙げられるが、これは本実施形態を限定するものではない。また、端末装置1Aのユーザとして、上記被介護者を介護する介護職員が挙げられるが、これは本実施形態を限定するものではない。
【0080】
(端末装置1A)
図9を参照して、本実施形態に係る端末装置1Aの構成例について説明する。
図9は、本実施形態に係る情報処理システム100に含まれる端末装置1A及び情報処理装置3の構成例を示すブロック図である。
図9に示すように、端末装置1Aは、実施形態1における端末装置1における制御部10に替えて制御部10Aを備え、通信部11をさらに備えている。
【0081】
通信部11は、ネットワークNを介した通信を行うための通信モジュールである。通信部11は、制御部10Aから取得したデータを、ネットワークNを介して情報処理装置3に出力したり、ネットワークNを介して情報処理装置3から取得したデータを、制御部10Aに供給したりする。
【0082】
(制御部10A)
制御部10Aは、端末装置1Aの各構成要素を制御する。また、制御部10Aは、取得部15、骨格抽出部16、表示部19、及び出力部20としても機能する。表示部19の機能は、実施形態1における表示部19と同じであるため、説明を省略する。
【0083】
取得部15は、実施形態1における取得部15の機能に加えて、通信部11を介して情報処理装置3からデータを取得する。取得部15が取得するデータの例として、パラメータ及び第2の確度情報が挙げられるが、これらに限定されない。
【0084】
骨格抽出部16は、第1のアルゴリズムを用いて、被写体として対象者を含む動画像から対象者の骨格を抽出する骨格抽出処理を実行する。第1のアルゴリズムによって抽出された対象者の骨格は、当該骨格を示す第1の骨格情報として後述する表示部19によってリアルタイムに参照される。また、第1のアルゴリズムは、抽出した骨格の確からしさを示す第1の確度情報を生成する。第1の確度情報は、後述する表示部19によって参照される。実施形態1と同様に、第1のアルゴリズムは、第2のアルゴリズムよりも骨格抽出処理が速いアルゴリズムであることが好ましい。
【0085】
また、骨格抽出部16は、第1のアルゴリズムを用いた骨格抽出の際に、動画像に含まれるフレームのうち、骨格抽出に失敗したフレームを示すエラー情報を生成してもよい。エラー情報については、実施形態1において説明した通りである。
【0086】
出力部20は、通信部11を介して情報処理装置3にデータを出力する。出力部20が出力するデータの例として、動画像及びエラー情報が挙げられるが、これらに限定されない。
【0087】
(情報処理装置3)
図9に示すように、情報処理装置3は、制御部30、通信部31、及び記憶部34を備えている。
【0088】
通信部31は、ネットワークNを介した通信を行うための通信モジュールである。通信部31は、制御部30から取得したデータを、ネットワークNを介して端末装置1に出力したり、ネットワークNを介して端末装置1Aから取得したデータを、制御部30に供給したりする。
【0089】
記憶部34は、後述する制御部30が参照する各種のデータが格納されている。一例として、記憶部34には、端末装置1Aから取得した動画像、導出されたパラメータなどが格納されている。
【0090】
(制御部30)
制御部30は、情報処理装置3の各構成要素を制御する。一例として、制御部30は、通信部31を介して端末装置1Aから出力された動画像を取得したり、通信部31を介して生成したデータを出力したりする。
【0091】
また、制御部30は、
図9に示すように、取得部35、骨格抽出部36、パラメータ導出部37、確度導出部38、及び出力部40としても機能する。
【0092】
取得部35は、通信部31を介して端末装置1Aからデータを取得する。取得部35が取得するデータの例として、動画像が挙げられるが、これに限定されない。
【0093】
骨格抽出部36は、取得部35が取得した動画像から、第2のアルゴリズムを用いて、対象者の骨格を抽出する骨格抽出処理を実行する。第2のアルゴリズムによって抽出された対象者の骨格の結果は、当該骨格を示す第2の骨格情報として後述するパラメータ導出部37によって参照される。
【0094】
また、骨格抽出部36は、第2のアルゴリズムを用いた骨格抽出の際に、動画像に含まれるフレームのうち、骨格抽出に失敗したフレームを示すエラー情報を生成してもよい。
【0095】
パラメータ導出部37は、上述したパラメータ導出部17と同様、骨格抽出部36が実行した骨格抽出処理の結果を参照して、対象者の身体の動作に関するパラメータを導出する。対象者の身体の動作に関するパラメータについては、実施形態1において説明した通りである。
【0096】
確度導出部38は、上述した確度導出部18と同様、パラメータ導出部37が導出したパラメータの確度を示す第2の確度情報を、動画像に含まれる複数フレームのうち、骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。
【0097】
出力部40は、通信部31を介して端末装置1Aにデータを出力する。出力部40が出力するデータの例として、パラメータ及び第2の確度情報が挙げられるが、これらに限定されない。
【0098】
(情報処理システム100における処理)
情報処理システム100における処理について、
図10を用いて説明する。
図4は、本実施形態に係る情報処理システム100における処理の流れを示すシーケンス図である。
【0099】
(ステップS12~ステップS15)
端末装置1Aが動画像の取得を開始し、動画像の取得を終了するまでのステップS12~ステップS15の処理は、上述した処理と同じであるため、説明を省略する。
【0100】
(ステップS20)
ステップS20において、端末装置1Aの出力部20は、通信部11を介して、動画像を情報処理装置3に出力する。ここで、骨格抽出部16が第1の確度情報及びエラー情報の少なくとも何れかを生成している場合、出力部20は、動画像と共に、生成された第1の確度情報及びエラー情報の少なくとも何れかを出力してもよい。また、出力部20は、後述するパラメータ導出部37によるパラメータ導出処理のために、撮像部13のカメラパラメータ及び動画像の画像サイズなども出力してよい。
【0101】
(ステップS21)
ステップS21において、情報処理装置3の取得部35は、通信部31を介して、端末装置1Aから動画像を取得する。
【0102】
(ステップS22)
ステップS22において、骨格抽出部36は、取得部35が取得した動画像から、第2のアルゴリズムを用いて、対象者の骨格を抽出する骨格抽出処理を実行する。より具体的には、骨格抽出部36は、1又は複数の第2のアルゴリズムを用いて、動画像から対象者の骨格を抽出し、抽出した骨格を示す第2の骨格情報を生成する。また、骨格抽出部36は、端末装置1Aから第1の確度情報が出力されている場合、第1の確度情報を参照して、複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択し、選択した1又は複数の第2のアルゴリズムを用いて対象者の骨格を抽出する構成であってもよい。複数のアルゴリズム候補から1又は複数の第2のアルゴリズムを選択する処理の詳細は、上述した通りである。また、ステップS22において骨格抽出部36は、エラー情報を生成してもよい。
【0103】
(ステップS23)
ステップS23において、パラメータ導出部37は、ステップS22において実行された骨格抽出処理の結果を参照して、対象者の身体の動作に関するパラメータを導出する。より具体的には、パラメータ導出部37は、骨格抽出部36が生成した第2の骨格情報を参照し、対象者の身体の動作に関するパラメータを導出する。パラメータ導出部37がパラメータを導出する処理の詳細については、上述した通りである。
【0104】
(ステップS24)
ステップS24において、確度導出部38は、ステップS23において導出されたパラメータの確度を示す第2の確度情報を、動画像に含まれる複数のフレームのうち、前記骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。より具体的には、確度導出部38は、ステップS20において端末装置1Aから出力されたエラー情報及びステップS22において生成されたエラー情報の少なくとも何れかを参照し、第2の確度情報を導出する。確度導出部38が第2の確度情報を導出する処理の詳細については、上述した通りである。
【0105】
(ステップS25)
ステップS25において、出力部40は、ステップS23において導出されたパラメータと、ステップS24において導出された第2の確度情報とを、通信部31を介して端末装置1Aに出力する。
【0106】
(ステップS26)
ステップS26において、端末装置1Aの取得部15は、通信部11を介して、情報処理装置3から出力されたパラメータ及び第2の確度情報を取得する。
【0107】
(ステップS27)
ステップS27において、表示部19は、ステップS26において取得部15が取得したパラメータ及び第2の確度情報を含む動画像を、表示パネル12に表示する。ステップS27において表示部19が表示する画像の例として、上述した
図6及び
図7の画像が挙げられる。
【0108】
このように、情報処理システム100における端末装置1Aは、被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した対象者の骨格を、動画像における前記対象者に重畳して表示する。また、情報処理装置3は、被写体として対象者を含む動画像を取得し、取得した動画像から第2のアルゴリズムを用いて抽出した骨格を参照し、対象者の身体の動作に関するパラメータを導出する。そのため、情報処理システム100では、対象者を撮影するユーザに適切な動画が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【0109】
また、情報処理システム100における情報処理装置3は、被写体として対象者を含む動画像から対象者の骨格を抽出する骨格抽出処理を実行し、骨格抽出処理の結果を参照して、対象者の身体の動作に関するパラメータを導出する。また、情報処理装置3は、導出したパラメータの確度を示す確度情報を、動画像に含まれる複数のフレームのうち、骨格抽出処理による骨格抽出が失敗したフレームに応じて導出する。そのため、情報処理装置3は、骨格抽出処理による骨格抽出が失敗したフレームに応じてパラメータの確度を導出するので、パラメータの信頼度をユーザに通知することができる。
【0110】
(端末装置1Aの物理的構成)
図11は、端末装置1A(1)及び情報処理装置3として用いられるコンピュータの物理的構成を例示したブロック図である。端末装置1Aは、
図11に示すように、バス110と、プロセッサ101と、主メモリ102と、補助メモリ103と、通信インタフェース104と、カメラ105、表示パネル106とを備えたコンピュータによって構成可能である。プロセッサ101、主メモリ102、補助メモリ103、通信インタフェース104、カメラ105、及び表示パネル106は、バス110を介して互いに接続されている。
【0111】
プロセッサ101としては、例えば、CPU(Central Processing Unit)、マイクロプロセッサ、デジタルシグナルプロセッサ、マイクロコントローラ、またはこれらの組み合わせ等が用いられる。
【0112】
主メモリ102としては、例えば、半導体RAM(random access memory)等が用いられる。
【0113】
補助メモリ103としては、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、またはこれらの組み合わせ等が用いられる。補助メモリ103には、上述した端末装置1Aの動作をプロセッサ101に実行させるためのプログラムが格納されている。プロセッサ101は、補助メモリ103に格納されたプログラムを主メモリ102上に展開し、展開したプログラムに含まれる各命令を実行する。
【0114】
通信インタフェース104は、ネットワークNに接続するインタフェースである。
【0115】
カメラ105は、撮像部13を実現するハードウェア要素の一例である。
【0116】
表示パネル106は、表示パネル12を実現するハードウェア要素の一例である。
【0117】
この例で、プロセッサ101は制御部10Aを実現するハードウェア要素の一例である。また、主メモリ102及び補助メモリ103は、記憶部14を実現するハードウェア要素の一例である。また、通信インタフェース104は、通信部11を実現するハードウェア要素の一例である。
【0118】
(情報処理装置3の物理的構成)
情報処理装置3は、
図11に示すように、バス310と、プロセッサ301と、主メモリ302と、補助メモリ303と、通信インタフェース304とを備えたコンピュータによって構成可能である。プロセッサ301、主メモリ302、補助メモリ303、及び通信インタフェース104は、バス110を介して互いに接続されている。
【0119】
この例で、プロセッサ301は制御部30を実現するハードウェア要素の一例である。また、主メモリ302及び補助メモリ303は、記憶部34を実現するハードウェア要素の一例である。また、通信インタフェース304は、通信部31を実現するハードウェア要素の一例である。
【0120】
〔ソフトウェアによる実現例〕
端末装置1、1A、及び情報処理装置3(以下、総称して「装置」と呼ぶ)の機能は、当該装置としてコンピュータを機能させるためのプログラムであって、当該装置の各制御ブロック(特に制御部10、10A、及び30に含まれる各部)としてコンピュータを機能させるためのプログラムにより実現することができる。
【0121】
この場合、上記装置は、上記プログラムを実行するためのハードウェアとして、少なくとも1つの制御装置(例えばプロセッサ)と少なくとも1つの記憶装置(例えばメモリ)を有するコンピュータを備えている。この制御装置と記憶装置により上記プログラムを実行することにより、上記各実施形態で説明した各機能が実現される。
【0122】
上記プログラムは、一時的ではなく、コンピュータ読み取り可能な、1または複数の記録媒体に記録されていてもよい。この記録媒体は、上記装置が備えていてもよいし、備えていなくてもよい。後者の場合、上記プログラムは、有線または無線の任意の伝送媒体を介して上記装置に供給されてもよい。
【0123】
また、上記各制御ブロックの機能の一部または全部は、論理回路により実現することも可能である。例えば、上記各制御ブロックとして機能する論理回路が形成された集積回路も本発明の範疇に含まれる。この他にも、例えば量子コンピュータにより上記各制御ブロックの機能を実現することも可能である。
【0124】
また、上記各実施形態で説明した各処理は、AI(Artificial Intelligence:人工知能)に実行させてもよい。この場合、AIは上記制御装置で動作するものであってもよいし、他の装置(例えばエッジコンピュータまたはクラウドサーバ等)で動作するものであってもよい。
【実施例1】
【0125】
本発明の一実施例について以下に説明する。
【0126】
三次元動作分析装置を用いて測定した対象者の歩行速度の実測値と、対象者が歩行する動画像から歩容解析AIを用いて推定した歩行速度の推定値と、の関係を示すグラフを、
図12に示す。
図12は、実施例1における推定値と実測値との関係を示すグラフである。
【0127】
図12における〇、△、及び×はそれぞれ、以下の動画像を示している。
△:動画像の開始から動作が始まるまで、または動作が終了してから動画像が終了するまでの期間において、骨格抽出に失敗したフレームがある動画像
×:動作中の動画像において骨格抽出に失敗したフレームがある動画像
〇:骨格抽出に失敗したフレームがなかった動画像
図12に示すように、動作中の動画像において骨格抽出に失敗したフレームがある場合、歩行速度の推定値は信頼度が低い(実測値に対する推定値のずれが大きい)ことが分かった。一方、動画像の開始から動作が始まるまで、または動作が終了してから動画像が終了するまでの期間において、骨格抽出に失敗したフレームがある場合、及び骨格抽出に失敗したフレームがなかった場合、歩行速度の推定値は信頼度が高い(実測値に対する推定値のずれが小さい)ことが分かった。
【実施例2】
【0128】
本発明の他の実施例について以下に説明する。
【0129】
三次元動作分析装置を用いて測定した頭部のふらつきの実測値と、対象者が歩行する動画像から歩容解析AIを用いて推定した頭部のふらつきの推定値と、の関係を示すグラフを、
図13に示す。
図13は、実施例2における推定値と実測値との関係を示すグラフである。
【0130】
図13における〇、△、及び×もそれぞれ、以下の動画像を示している。
△:動画像の開始から動作が始まるまで、または動作が終了してから動画像が終了するまでの期間において、骨格抽出に失敗したフレームがある動画像
×:動作中の動画像において骨格抽出に失敗したフレームがある動画像
〇:骨格抽出に失敗したフレームがなかった動画像
図13に示すように、動作中の動画像において骨格抽出に失敗したフレームがある場合、頭部のふらつきの推定値は信頼度が低い(実測値に対する推定値のずれが大きい)ことが分かった。一方、動画像の開始から動作が始まるまで、または動作が終了してから動画像が終了するまでの期間において、骨格抽出に失敗したフレームがある場合、及び骨格抽出に失敗したフレームがなかった場合、頭部のふらつきの推定値は信頼度が高い(実測値に対する推定値のずれが小さい)ことが分かった。
【0131】
[まとめ]
各実施形態の一態様に係る端末装置は被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示する表示部と、前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズムを用いて前記動画像から抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出する導出部と、を備える。
【0132】
上記構成によれば、対象者を撮影するユーザに適切な動画が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【0133】
各実施形態の一態様に係る端末装置において、前記1又は複数の第2のアルゴリズムによる骨格抽出処理は、前記第1のアルゴリズムによる骨格抽出処理よりも精度が高いことが好ましい。
【0134】
上記構成によれば、対象者の身体の動作をより精度高く評価することができる。
【0135】
各実施形態の一態様に係る端末装置において、前記表示部は、前記第1のアルゴリズムを用いて抽出した骨格の確からしさを示す確度情報を取得し、取得した確度情報に応じて、前記対象者に重畳する骨格の表示態様を変更することが好ましい。
【0136】
上記構成によれば、ユーザに対して、撮影している動画像における対象者の骨格のうち、何れの骨格を確度高く抽出できているかを通知することができる。
【0137】
各実施形態の一態様に係る端末装置において、前記表示部は、前記確度情報が示す確度が所定の値より低い場合、確度が高くなるように被写体を撮影することを促す表示を行うことが好ましい。
【0138】
上記構成によれば、ユーザに対して、どのように撮影すれば対象者の骨格抽出の確度を高くできるのかを通知することができる。
【0139】
各実施形態の一態様に係る端末装置は、前記第1のアルゴリズムと、前記1又は複数の第2のアルゴリズムとを用いて骨格抽出処理を実行する骨格抽出部を更に備えることが好ましい。
【0140】
上記構成によれば、骨格抽出処理を実行することができる。
【0141】
各実施形態の一態様に係る端末装置において、前記骨格抽出部は、複数の第2のアルゴリズム候補から、前記1又は複数の第2のアルゴリズムを選択し、選択した1又は複数の第2のアルゴリズムを用いて前記対象者の骨格を抽出することが好ましい。
【0142】
上記構成によれば、より高い精度で対象者の骨格を抽出することができる。
【0143】
各実施形態の一態様に係る端末装置において、前記骨格抽出部は、前記第1のアルゴリズムを用いて抽出した前記対象者の骨格を参照して、前記1又は複数の第2のアルゴリズムを選択することが好ましい。
【0144】
上記構成によれば、より高い精度で対象者の骨格を抽出することができる。
【0145】
各実施形態の一態様に係る端末装置において、前記導出部は、前記1又は複数の第2のアルゴリズムを用いて抽出した、歩行中の前記対象者の骨格を参照し、前記対象者の歩行に関するパラメータを導出することが好ましい。
【0146】
上記構成によれば、歩行中の対象者の歩行に関するパラメータを導出することができる。
【0147】
各実施形態の一態様に係る情報処理方法は、被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示するステップと、前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズムを用いて前記動画像から抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出するステップと、を含む。
【0148】
上記構成によれば、対象者を撮影するユーザに適切な動画が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【0149】
各実施形態の一態様に係る情報処理システムは、端末装置と情報処理装置とを含む情報処理システムであって、前記端末装置は、被写体として対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を、前記動画像における前記対象者に重畳して表示する表示部と、前記動画像を前記情報処理装置に出力する出力部と、を備え、前記情報処理装置は、前記端末装置から前記動画像を取得する取得部と、前記第1のアルゴリズムとは異なる1又は複数の第2のアルゴリズムを用いて前記動画像から抽出した前記対象者の骨格を参照し、前記対象者の身体の動作に関するパラメータを導出する導出部と、を備える。
【0150】
上記構成によれば、対象者を撮影するユーザに適切な動画が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【0151】
各実施形態の一態様に係るプログラムは、上述した端末装置としてコンピュータを機能させるためのプログラムであって、上記表示部及び上記導出部としてコンピュータを機能させる。
【0152】
上記構成によれば、対象者を撮影するユーザに適切な動画が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価することができる。
【0153】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【符号の説明】
【0154】
1、1A 端末装置
3 情報処理装置
10、10A、30 制御部
11、31 通信部
12 表示パネル
13 撮像部
14、34 記憶部
15、35 取得部
16、36 骨格抽出部
17、37 パラメータ導出部
18、38 確度導出部
19 表示部
20、40 出力部
100 情報処理システム
【要約】
【課題】対象者を撮影するユーザに適切な動画像が撮影できているか否かを通知しつつ、対象者の身体の動作を精度高く評価する。
【解決手段】端末装置(1)は、対象者を含む動画像から第1のアルゴリズムを用いて抽出した前記対象者の骨格を対象者に重畳して表示する表示部(19)と、第2のアルゴリズムを用いて抽出した対象者の骨格を参照し、対象者の身体の動作に関するパラメータを導出する導出部(17)と、を備える。
【選択図】
図1