(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-28
(45)【発行日】2024-11-06
(54)【発明の名称】算出装置
(51)【国際特許分類】
G06T 7/00 20170101AFI20241029BHJP
G06T 7/20 20170101ALI20241029BHJP
【FI】
G06T7/00 660B
G06T7/20 300
(21)【出願番号】P 2023510576
(86)(22)【出願日】2022-02-04
(86)【国際出願番号】 JP2022004471
(87)【国際公開番号】W WO2022209287
(87)【国際公開日】2022-10-06
【審査請求日】2023-09-13
(31)【優先権主張番号】P 2021055313
(32)【優先日】2021-03-29
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000232092
【氏名又は名称】NECソリューションイノベータ株式会社
(74)【代理人】
【識別番号】100124811
【氏名又は名称】馬場 資博
(74)【代理人】
【識別番号】100088959
【氏名又は名称】境 廣巳
(74)【代理人】
【識別番号】100097157
【氏名又は名称】桂木 雄二
(74)【代理人】
【識別番号】100187724
【氏名又は名称】唐鎌 睦
(72)【発明者】
【氏名】寺島 宏紀
(72)【発明者】
【氏名】永井 克幸
【審査官】松浦 功
(56)【参考文献】
【文献】国際公開第2020/261404(WO,A1)
【文献】国際公開第2018/131630(WO,A1)
【文献】国際公開第2017/170832(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00 - 7/90
A61B 5/107
G06T 1/00
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
画像データに基づいて、当該画像データ内の人物の高さを算出する高さ算出部と、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する曲がり算出部と、
を有する
算出装置。
【請求項2】
前記曲がり算出部は、前記手間長さを前記高さで割ることで前記指標値を算出する
請求項1に記載の算出装置。
【請求項3】
前記画像データに基づいて当該画像データ内の人物の前記手間長さを算出する手間長さ算出部を有し、
前記曲がり算出部は、前記手間長さ算出部が算出した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記指標値を算出する
請求項
1に記載の算出装置。
【請求項4】
前記手間長さ算出部は、前記画像データに基づいて認識される前記画像データ内の人物の各部位の座標を示す情報に基づいて前記手間長さを算出する
請求項3に記載の算出装置。
【請求項5】
前記曲がり算出部は、前記手間長さ算出部が算出した前記手間長さのうち所定の基準で選択した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記指標値を算出する
請求項
3に記載の算出装置。
【請求項6】
前記曲がり算出部は、予め記憶装置に格納された前記手間長さを取得し、取得した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記指標値を算出する
請求項
1に記載の算出装置。
【請求項7】
前記曲がり算出部は、前記画像データ内の人物の足が地面に接地したタイミングを示す接地タイミング情報を取得し、前記接地タイミング情報に基づいて特定される前記画像データに基づいて算出された前記高さに基づいて、前記指標値を算出する
請求項
1に記載の算出装置。
【請求項8】
前記高さ算出部は、前記画像データに基づいて認識される前記画像データ内の人物の各部位の座標を示す情報に基づいて前記高さを算出する
請求項
1に記載の算出装置。
【請求項9】
情報処理装置が、
画像データに基づいて、当該画像データ内の人物の高さを算出し、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する
算出方法。
【請求項10】
情報処理装置に、
画像データに基づいて、当該画像データ内の人物の高さを算出し、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する
処理を実現するためのプログラ
ム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、算出装置、算出方法、記録媒体に関する。
【背景技術】
【0002】
データに基づいてユーザの歩行分析を行うことが知られている。
【0003】
人物の歩行分析について記載された文献として、例えば、特許文献1がある。特許文献1には、デプスセンサから2種類の画像データを取得するデータ取得部と、データ取得部が取得した画像データに基づいて骨格情報を作成する骨格情報作成部と、骨格情報作成部が作成した骨格情報を補正する補正処理部と、補正後の骨格情報を用いてユーザの歩行を分析する分析処理部と、を有する歩行分析装置が記載されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
歩行分析を行う際に算出したい指標の一例として腰の曲がりがある。しかしながら、例えば、特許文献1に記載されているようなデプスセンサを用いずに画像データに基づく分析を行う場合、奥行き方向の情報を取得することが出来ないため、腰の曲がりに応じた指標値を算出することが難しかった。
【0006】
そこで、本発明の目的は、画像データに基づいて腰の曲がりに応じた指標値を算出することが難しい、という課題を解決する判定装置、判定方法、記録媒体を提供することにある。
【課題を解決するための手段】
【0007】
かかる目的を達成するため本開示の一形態である算出装置は、
画像データに基づいて、当該画像データ内の人物の高さを算出する高さ算出部と、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する曲がり算出部と、
を有する
という構成をとる。
【0008】
また、本開示の他の形態である算出方法は、
情報処理装置が、
画像データに基づいて、当該画像データ内の人物の高さを算出し、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する
という構成をとる。
【0009】
また、本開示の他の形態である記録媒体は、
情報処理装置に、
画像データに基づいて、当該画像データ内の人物の高さを算出し、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する
処理を実現するためのプログラムを記録した、コンピュータが読み取り可能な記録媒体である。
【発明の効果】
【0010】
上述したような各構成によると、画像データに基づいて腰の曲がりに応じた指標値を算出することが可能となる。
【図面の簡単な説明】
【0011】
【
図1】本開示の第1の実施形態における判定システムの構成例を示す図である。
【
図2】判定システムにおいて取得する画像データの一例を説明するための図である。
【
図3】
図1で示す判定装置の構成例を示すブロック図である。
【
図6】接地判断部による判断例を説明するための図である。
【
図7】接地タイミング判定部による判定例を説明するための図である。
【
図8】接地判断部による処理の一例を示すフローチャートである。
【
図9】接地タイミング判定部による処理の一例を示すフローチャートである。
【
図10】本開示の第2の実施形態における算出システムの構成例を示す図である。
【
図11】
図10で示す算出装置の構成例を示すブロック図である。
【
図13】算出装置の動作例を示すフローチャートである。
【
図14】本開示の第3の実施形態における算出システムの構成例を示す図である。
【
図15】
図14で示す算出装置の構成例を示すブロック図である。
【
図19】算出装置の動作例を示すフローチャートである。
【
図20】本開示の第4の実施形態における算出装置のハードウェア構成例を示す図である。
【
図21】算出装置の構成例を示すブロック図である。
【
図22】算出装置の他の構成例を示すブロック図である。
【発明を実施するための形態】
【0012】
[第1の実施形態]
本開示の第1の実施形態について、
図1から
図9までを参照して説明する。
図1は、判定システム100の構成例を示す図である。
図2は、判定システム100において取得する画像データの一例を説明するための図である。
図3は、判定装置300の構成例を示すブロック図である。
図4は、骨格情報323の一例を示す図である。
図5は、接地判断情報324の一例を示す図である。
図6は、接地判断部333による判断例を説明するための図である。
図7は、接地タイミング判定部334による判定例を説明するための図である。
図8は、接地判断部333による処理の一例を示すフローチャートである。
図9は、接地タイミング判定部334による処理の一例を示すフローチャートである。
【0013】
本開示の第1の実施形態においては、スマートフォン200などの撮像装置を用いて取得した画像データに基づいて、歩行する人物の足が接地したタイミングを判定する判定システム100について説明する。判定システム100では、画面の奥側から手前側に向かって人物が歩く様子を示す時系列の画像データを取得する。後述するように、判定システム100は、複数の画像データそれぞれから骨格の位置を認識する。そして、判定システム100は、認識した位置の変化具合に基づいて、足が接地したタイミングを判定する。
【0014】
なお、判定システム100が判定した接地のタイミングは、例えば、足が床についたタイミングでの各関節の角度やつま先が床から上がっているかなどの指標、ピッチ、ストライド、一歩行周期などの様々な歩行分析を行う際に活用することが出来る。判定システム100が判定した接地のタイミングは、上記例示した以外に活用されてもよい。
【0015】
図1は、判定システム100の構成例を示している。
図1を参照すると、判定システム100は、例えば、スマートフォン200と、判定装置300と、を有している。
図1で示すように、スマートフォン200と判定装置300とは、例えば、無線、または、有線により、互いに通信可能なよう接続されている。
【0016】
スマートフォン200は、人物が歩く様子を撮影する撮像装置として機能する。スマートフォン200は、画像データを取得するカメラ機能、画面表示を行うタッチパネル、GPSセンサや加速度センサなどの各種センサ、などの一般的な機能を有するスマートフォンであって構わない。
【0017】
本実施形態の場合、
図2で示すように、スマートフォン200は、画面奥から手前など人物が手前奥方向に歩く様子を撮影する。換言すると、スマートフォン200は、人物が手前奥方向に歩く様子を示す時系列の画像データを取得する。また、スマートフォン200は、取得した画像データを判定装置300へと送信する。スマートフォン200は、画像データを取得した日時を示す情報などを画像データに対応付けて、対応づけたデータを判定装置300へと送信してもよい。
【0018】
判定装置300は、スマートフォン200が取得した画像データに基づいて、歩行する人物の足が地面に接地したタイミングを判定する情報処理装置である。例えば、判定装置300は、サーバ装置などである。判定装置300は、1台の情報処理装置であってもよいし、例えば、クラウド上などで実現されてもよい。
【0019】
図3は、判定装置300の構成例を示している。
図3を参照すると、判定装置300は、主な構成要素として、例えば、通信I/F部310と、記憶部320と、演算処理部330と、を有している。
【0020】
通信I/F部310は、データ通信回路からなる。通信I/F部310は、通信回線を介して接続された外部装置やスマートフォン200などとの間でデータ通信を行う。
【0021】
記憶部320は、ハードディスクやメモリなどの記憶装置である。記憶部320は、演算処理部330における各種処理に必要な処理情報やプログラム326を記憶する。プログラム326は、演算処理部330に読み込まれて実行されることにより各種処理部を実現する。プログラム326は、通信I/F部310などのデータ入出力機能を介して外部装置や記録媒体から予め読み込まれ、記憶部320に保存されている。記憶部320で記憶される主な情報としては、例えば、学習済みモデル321、画像情報322、骨格情報323、接地判断情報324、接地タイミング情報325などがある。
【0022】
学習済みモデル321は、骨格認識部332が骨格認識を行う際に用いる、学習済みのモデルである。学習済みモデル321は、例えば、外部装置などにおいて、骨格座標が入った画像データなどの教師データを用いた機械学習を行うことにより予め生成されており、通信I/F部310などを介して外部装置などから取得され、記憶部320に格納されている。学習済みモデル321は、既知の方法を用いて生成されたものであってよい。学習済みモデル321は、追加の教師データを用いた再学習処理などにより更新されても構わない。
【0023】
画像情報322は、スマートフォン200が有するカメラが取得した時系列の画像データを含んでいる。画像情報322は、画像取得部331が画像データを取得することなどにより生成・更新される。
【0024】
例えば、画像情報322では、画像データを識別するための識別情報と、画像データと、が対応付けられている。画像情報322は、画像データをスマートフォン200が取得した日時を示す情報など上記例示した以外の情報を含んでもよい。
【0025】
骨格情報323は、骨格認識部332により認識された人物の各部位の座標を示す情報を含んでいる。骨格情報323は、例えば、時系列の各画像データについての各部位の座標を示す情報を含んでいる。例えば、骨格情報323は、骨格認識部332による処理の結果として生成・更新される。
【0026】
図4は、骨格情報323の一例を示している。
図4を参照すると、骨格情報323では、例えば、識別情報と、各部位の位置情報と、が対応づけられている。ここで、識別情報は、骨格情報を認識する際に用いた画像データを示す情報などである。識別情報は、画像情報322における画像データを識別するための識別情報に対応するものであってよい。また、各部位の位置情報は、骨盤の位置など、画像データ中における各部位の座標を示す情報を含んでいる。
【0027】
なお、各部位の位置情報に含まれる部位は、学習済みモデル321に応じたものである。例えば、
図4では、骨盤、背骨中央、……、右膝、左膝、……、右足首、左足首、……
が例示されている。各部位の位置情報には、例えば、右肩、……、左ひじ、……、など、30か所程度の部位を含むことが出来る(例示した以外でも構わない)。本実施形態の場合、各部位の位置情報には、少なくとも右足首と左足首の座標を示す情報が含まれている。各部位の位置情報に含まれる部位は、
図4などで例示した以外であってもよい。
【0028】
接地判断情報324は、接地判断部333による判断の結果を示す情報を含んでいる。例えば、接地判断情報324は、接地判断部333による判断の結果として生成・更新される。
【0029】
図5は、接地判断情報324の一例を示している。
図5で示すように、例えば、接地判断情報324では、識別情報と接地判断結果とが対応付けられている。ここで、識別情報は、接地判断を行った画像データを示す情報などである。識別情報は、画像情報322における画像データを識別するための識別情報に対応するものであってよい。また、接地判断結果は、接地判断の結果を示している。例えば、接地判断結果は、左足が接地していると判断した結果を示す「左足」、右足が接地していると判断した結果を示す「右足」、接地判断から除外すると判断した旨を示す「―」などが含まれる。接地判断結果は、上記例示した以外を示してもよい。
【0030】
接地タイミング情報325は、接地タイミング判定部334による判定の結果を示す情報を含んでいる。例えば、接地タイミング情報325は、接地タイミング判定部334による判定の結果として生成・更新される。
【0031】
例えば、接地タイミング情報325は、足が接地したタイミングを示す情報を含んでいる。ここで、足が接地したタイミングを示す情報とは、例えば、接地したと判定した画像データを示す識別情報、接地したと判定した画像データの取得日時を示す情報、などのうちの少なくとも1つである。接地タイミング情報325は、例えば、接地した足を示す情報と、足が接地したタイミングを示す情報と、を対応付けたものなどであってもよい。
【0032】
演算処理部330は、CPUなどの演算装置とその周辺回路を有する。演算処理部330は、記憶部320からプログラム326を読み込んで実行することにより、上記ハードウェアとプログラム326とを協働させて各種処理部を実現する。演算処理部330で実現される主な処理部としては、例えば、画像取得部331と、骨格認識部332と、接地判断部333と、接地タイミング判定部334と、出力部335と、などがある。
【0033】
画像取得部331は、通信I/F部310を介して、スマートフォン200から当該スマートフォン200が取得した画像データを取得する。例えば、画像取得部331は、スマートフォン200から時系列の画像データを取得する。また、画像取得部331は、取得した画像データを画像情報322として記憶部320に格納する。
【0034】
骨格認識部332は、学習済みモデル321を用いて、画像データ中において歩行姿勢測定の対象となる人物の骨格を認識する。例えば、骨格認識部332は、時系列の各画像データについて骨格を認識する。骨格認識部332は、時系列の画像データから所定の条件に基づいて抽出した画像データについて骨格の認識を行うよう構成してもよい。例えば、骨格認識部332は、背骨上部、右肩、左肩、右ひじ、左ひじ、右手首、左手首、右手、左手、……、などの各部位を認識する。また、骨格認識部332は、認識した各部位の画面データにおける座標を算出する。そして、骨格認識部332は、認識・算出した結果を、画像データを識別するための識別情報などと対応付けて、骨格情報323として記憶部320に格納する。このように、骨格認識部332は、画像データ中における人物の各部位が存在する位置を示す情報を取得する。
【0035】
なお、骨格認識部332が認識する部位は、学習済みモデル321(学習済みモデル321を学習する際に用いられた教師データ)に応じたものとなる。そのため、骨格認識部332は、学習済みモデル321に応じて、上記例示した以外の部位を認識しても構わない。
【0036】
接地判断部333は、骨格情報323が示す人物の骨格に基づいて、接地している足を判断する。例えば、接地判断部333は、骨格情報323に含まれる右足首や左足首の座標の変化具合に基づいて、歩行している人物について右足と左足のうちのいずれの足を接地しているかを判断する。例えば、接地判断部333は、骨格情報323を参照して足首の座標など位置を示す情報を取得する。そして、接地判断部333は、足首の座標の変化具合が所定の条件を満たす場合に、当該条件を満たす足首を有する足が接地していると判断する。また、接地判断部333は、判断の結果を示す情報を接地判断情報324として記憶部320に格納する。
【0037】
図6は、右足首と左足首のY座標(画像データの上下方向の座標)の変化の一例を示している。例えば、
図6は、X軸が時間に応じた値を示しており、Y軸が画像データにおける上下方向の座標(Y座標)を示している。例えば、
図6の場合、Y軸の値が大きいほど、右足首や左足首が画像データの下方側に位置していること(つまり、右足首や左足首が画面の手前側に位置していること)を示している。
【0038】
一般に、人物が歩行する場合、右足と左足のうちの一方が地面についたままで他方が前方へと進む、右足と左足の両方が接地、右足と左足のうちの他方が地面についたままで一方が前方へと進む、右足と左足の両方が接地、という運動を交互に繰り返す。つまり、本実施形態の場合、右足首のY座標が一定かつ左足首のY座標が増える、右足首のY座標と左足首のY座標が一定、左足首のY座標が一定かつ右足首のY座標が増える、右足首のY座標と左足首のY座標が一定、という状態を繰り返すことが想定される。
【0039】
そこで、接地判断部333は、右足首と左足首のY座標の変化具合に基づいて、いずれの足が接地しているか判断する。換言すると、接地判断部333は、足首のY座標が一定であると評価できる場合に、当該足首を有する足が接地していると判断する。具体的には、例えば、接地判断部333は、判断対象となる画像データにおける足首のY座標と時系列の画像データにおいて判断対象よりも1つ前の画像データにおける足首のY座標とを比較する。そして、1つ前の画像データにおける足首のY座標からの変位(変化量)が所定値以下である場合に、接地判断部333は、Y座標が一定であるとして当該Y座標が一定な足首を有する足が接地していると判断する。なお、接地判断部333は、上記例示した以外の方法によりY座標が一定であると判断してもよい。また、Y座標が一定であると接地判断部333が判断する変位の範囲は任意に設定してよい。
【0040】
また、接地判断部333は、足首のY座標に基づいて、接地していると判断した足ではない方の足が動き出したと判断される場合に、接地判断から除外する旨の判断を行うよう構成してもよい。例えば、一般に歩行の場合、右足が接地した後、左足が動き出す。接地判断部333は、右足首のY座標が一定となった後、左足首のY座標が増え始めたタイミングで、接地判断から除外する旨の判断を行ってよい。具体的には、例えば、接地判断部333は、右足首のY座標が一定となった後、時系列の画像データにおいて1つ前の画像データからの左足首のY座標の変位が1つ前の画像データからの右足首のY座標の変位を超えた場合に、左足が動き出したと判断して接地判断から除外することが出来る。
【0041】
また、一般に、人物が歩行する際、新たに接地する足は既に接地している足よりも前方に進む。つまり、本実施形態の場合、新たに接地する足の足首のY座標は既に接地している足の足首のY座標よりも大きくなっている。そのため、接地判断部333は、右足首と左足首のうちのY座標が大きい足首のみに着目して接地しているか否かの判断を行うよう構成してもよい。
【0042】
また、接地判断部333は、接地判断を行う際、足首の座標の他に膝の座標も参照するように構成してよい。例えば、接地判断部333は、膝の座標変化が所定の条件を満たす場合に、接地判断から除外する旨の判断を行うよう構成してもよい。具体的には、例えば、接地判断部333は、接地しているか否か判断する対象となる足について、時系列の画像データにおいて1つ前の画像データからの膝のY座標の変位が0以下である場合、接地判断から除外する旨の判断を行うよう構成してもよい。
【0043】
例えば、以上のように、接地判断部333は、足首のY座標の変化具合に基づいて接地判断を行う。なお、接地判断部333は、つま先部分のY座標を用いるなど、上記例示した以外の骨格の変化具合に基づいて接地判断を行うよう構成してもよい。
【0044】
接地タイミング判定部334は、骨格情報323が示す人物の骨格に基づいて判断される足の設置状況に基づいて足が地面に接地したタイミングを判定する。例えば、接地タイミング判定部334は、接地判断情報324が示す接地する足の変化に基づいて、足が地面に接地したタイミングを判定する。そして、接地タイミング判定部334は、判定した結果を接地タイミング情報325として記憶部320に格納する。
【0045】
例えば、接地タイミング判定部334は、接地判断結果が示す接地している足が別の足に切り替わるタイミングで足が地面に接地したと判定する。例えば、
図7を参照すると、識別情報「124」「125」において「左足」が接地しており、識別情報「126」「127」において接地判断から除外されている。その後、識別情報「128」で「右足」が接地していると判断されている。つまり、
図7の場合、識別情報「128」のタイミングで接地している足が左足から右足へと切り替わっている。そこで、接地タイミング判定部334は、識別情報「128」のタイミングで右足が接地したと判定する。
【0046】
出力部335は、接地タイミング情報325や接地判断情報324などを出力する。例えば、出力部335は、外部装置やスマートフォン200などに対して、上記各情報のうちの少なくとも1つを出力することが出来る。
【0047】
以上が、判定装置300の構成例である。続いて、
図8、
図9を参照して、判定装置300の動作について説明する。
【0048】
まずは、
図8を参照して、接地判断部333の動作例について説明する。
図8を参照すると、接地判断部333は、判断対象となる画像データにおける膝のY座標と時系列の画像データにおいて判断対象よりも1つ前の画像データにおける膝のY座標とを比較する(ステップS101)。1つ前の画像データにおける膝のY座標からの変位が0を超えている場合(ステップS101、Yes)、接地判断部333は、足首の変位が条件を満たすか否か確認する(ステップS102)。
【0049】
足首の変位が条件を満たす場合(ステップS102、Yes)、接地判断部333は、条件を満たす足が接地していると判断する(ステップS103)。一方、膝のY座標の変位が0以下である場合(ステップS101、No)や足首の変位が条件を満たさない場合(ステップS102、No)、接地判断部333は、条件を満たさない足は接地していないと判断する。
【0050】
以上が、接地判断部333の動作例である。なお、接地判断部333は、例えば、足首のY座標の変化具合に基づいてY座標が一定であると評価できる場合であって、接地していると判断した足ではない方の足が動き出したと判断されない場合や膝の座標変化が条件を満たす場合などに、足首の変位が条件を満たすと判断することが出来る。また、接地判断部333は、足首のY座標に着目する足首を特定して、特定した足首に対して上述した確認を行うよう構成してもよい。
【0051】
続いて、
図9を参照して、接地タイミング判定部334の動作例について説明する。
図9を参照すると、接地タイミング判定部334は、接地タイミング情報325を参照して接地判断結果が示す接地している足が変わったか否か確認する(ステップS201)。
【0052】
足が変わった場合(ステップS201、Yes)、接地タイミング判定部334は、当該変わったタイミングが接地のタイミングであると判定する(ステップS202)。一方、判断結果が示す接地している足が変わっていなかった場合(ステップS201)、接地タイミング判定部334は、上記判定を行わない。
【0053】
以上が、接地タイミング判定部334の処理例である。
【0054】
このように、判定装置300は、骨格認識部332と接地判断部333と接地タイミング判定部334とを有している。このような構成によると、接地タイミング判定部334は、骨格認識部332により認識された骨格の座標を用いた、接地判断部333による接地する足の判断結果に基づいて、足が接地するタイミングを判定することが出来る。つまり、上記構成によると、画像データに基づいて足が接地したタイミングを把握することが可能となる。
【0055】
なお、判定装置300は、骨格認識を行う外部装置による骨格認識の結果に基づいて接地タイミングの判定を行うよう構成してもよい。このように構成する場合、判定装置300は、骨格認識部332としての機能を持たなくてもよい。
【0056】
[第2の実施形態]
次に、本開示の第2の実施形態について、
図10から
図13までを参照して説明する。
図10は、算出システム400の構成例を示す図である。
図11は、算出装置500の構成例を示すブロック図である。
図12は、手間長さと高さの一例を示す図である。
図13は、算出装置500の動作例を示すフローチャートである。
【0057】
本開示の第2の実施形態においては、スマートフォン200などの撮像装置を用いて取得した画像データに基づいて、画像データ内の人物の腰の曲がりを示す指標値を算出する算出システム400について説明する。算出システム400では、第1の実施形態と同様に、画面の奥側から手前側に向かって人物が歩く様子を示す画像データを取得して、画像データから骨格の位置を認識する。そして、算出システム400は、認識した結果に基づいて腰の曲がりを示す指標値を算出する。
【0058】
後述するように、本実施形態で説明する算出システム400では、左右の手間に存在する各部位を結ぶ骨格長の画像内距離の総和である手間長さと、頭から足先までの間の画像内距離である高さと、を取得する。そして、算出システム400は、取得した手間長さと高さとに基づいて腰の曲がりを示す指標値を算出する。手間長さと高さをどちらも身長と仮定した場合、腰を曲げるほど高さが変わる一方で手間長さは腰を曲げても変わらない。また、一般的に、両手を左右に広げたときの長さが身長に相当する。算出システム400は、上記を利用することで腰の曲がりを示す指標値を算出する。なお、手間長さと身長の比率は、年齢や身長などによって変わってくることが知られている。そのため、算出システム400は、年齢、身長、性別、などの人物の属性に応じて、手間長さに所定の補正値を加えたうえで、補正した手間長さと高さとに基づいて腰の曲がりを示す指標値を算出するよう構成してもよい。
【0059】
なお、本実施形態で説明する算出システム400は、第1の実施形態で説明した判定システム100としての機能を有することが出来る。つまり、算出システム400は、接地タイミングの判定を行うための構成を有していてもよい。
【0060】
図10は、算出システム400の構成例を示している。
図10を参照すると、算出システム400は、例えば、スマートフォン200と、算出装置500と、を有している。
図10で示すように、スマートフォン200と算出装置500とは、例えば、無線、または、有線により、互いに通信可能なよう接続されている。
【0061】
スマートフォン200の構成は、第1の実施形態と同様である。そのため、スマートフォン200についての説明は省略する。
【0062】
算出装置500は、スマートフォン200が取得した画像データに基づいて、腰の曲がりを示す指標値を算出する情報処理装置である。例えば、算出装置500は、サーバ装置などである。算出装置500は、1台の情報処理装置であってもよいし、例えば、クラウド上などで実現されてもよい。
【0063】
図11は、算出装置500の構成例を示している。
図11を参照すると、算出装置500は、主な構成要素として、例えば、通信I/F部510と、記憶部520と、演算処理部530と、を有している。
【0064】
通信I/F部510は、データ通信回路からなる。通信I/F部510は、通信回線を介して接続された外部装置やスマートフォン200などとの間でデータ通信を行う。
【0065】
記憶部520は、ハードディスクやメモリなどの記憶装置である。記憶部520は、演算処理部530における各種処理に必要な処理情報やプログラム527を記憶する。プログラム527は、演算処理部530に読み込まれて実行されることにより各種処理部を実現する。プログラム527は、通信I/F部510などのデータ入出力機能を介して外部装置や記録媒体から予め読み込まれ、記憶部520に保存されている。記憶部520で記憶される主な情報としては、例えば、学習済みモデル521、画像情報522、骨格情報523、手間長さ情報524、高さ情報525、腰の曲がり値情報526などがある。
【0066】
学習済みモデル521、画像情報522、骨格情報523は、第1の実施形態で説明した学習済みモデル321、画像情報322、骨格情報323と同様の情報である。
【0067】
手間長さ情報524は、手のひら、手首、ひじ、肩など左右の手の間に存在する部位間を結んだ骨格長の画像内距離の総和である手間長さを示している。手間長さ情報524は、例えば、手間長さが最も長くなるように手を下方に延ばした状態で取得した画像データなどに基づいて予め算出されており、通信I/F部510などを介して外部装置などから取得され、記憶部520に格納されている。手間長さ情報524は、手間長さ算出部533による算出処理の結果として生成・更新されてもよい。
【0068】
例えば、手間長さ情報524は、手間長さを示す情報を含んでいる。手間長さ情報524は、時系列の画像データごとに取得した手間長さを示す情報を含んでもよい。例えば、手間長さ情報524は、手間長さを算出する際に用いた画像データを示す識別情報と、手間長さを示す情報と、を対応付けたものなどであってよい。
【0069】
高さ情報525は、頭(額)と足先(例えば、左右のうち低い方)とを結んだ画像内距離である、画像データ内における人物の高さを示している。高さ情報525は、例えば、高さ算出部534による算出処理の結果として生成・更新される。
【0070】
例えば、高さ情報525は、時系列の画像データごとに取得した高さを示す情報を含んでいる。高さ情報525は、高さを算出する際に用いた画像データを示す識別情報と、高さを示す情報と、を対応付けたものなどであってよい。また、高さ情報525は、所定の条件を満たす画像データを示す識別情報と、高さを示す情報と、を対応付けたものなどであってもよい。
【0071】
腰の曲がり値情報526は、腰の曲がりを示す指標値である腰の曲がり値を示している。腰の曲がり値情報526は、例えば、曲がり算出部535による算出処理の結果として生成・更新される。
【0072】
例えば、腰の曲がり値情報526は、腰の曲がり値を示す情報を含んでいる。また、腰の曲がり値情報526は、時系列の画像データごとに取得した腰の曲がり値を示す情報を含んでもよい。腰の曲がり値情報526は、腰の曲がり値を算出する際に用いた画像データを示す識別情報と、腰の曲がり値を示す情報と、を対応付けたものなどであってよい。また、腰の曲がり値情報526は、所定の条件を満たす画像データを示す識別情報と、腰の曲がり値を示す情報と、を対応付けたものなどであってもよい。
【0073】
演算処理部530は、CPUなどの演算装置とその周辺回路を有する。演算処理部530は、記憶部520からプログラム527を読み込んで実行することにより、上記ハードウェアとプログラム527とを協働させて各種処理部を実現する。演算処理部530で実現される主な処理部としては、例えば、画像取得部531と、骨格認識部532と、手間長さ算出部533と、高さ算出部534と、曲がり算出部535と、出力部536と、などがある。
【0074】
画像取得部531、骨格認識部532は、第1の実施形態で説明した画像取得部331、骨格認識部332と同様の処理を行うことが出来る。
【0075】
手間長さ算出部533は、骨格情報523に基づいて、左右の手間を結ぶ骨格長の画像内距離の総和である手間長さを算出する。そして、手間長さ算出部533は、算出した手間長さを手間長さ情報524として記憶部520に格納する。
【0076】
例えば、
図12は、手間長さの一例を示している。
図12を参照すると、手間長さ算出部533は、骨格情報523を参照することで、手のひら、手首、ひじ、肩など左右の手の間に存在する各部位の位置を示す情報を取得する。そして、手間長さ算出部533は、上記取得した情報に基づいて、隣接する部位を直線で結んだ際の各部位間の距離の総和を算出する。例えば、以上のように、手間長さ算出部533は、左右の手の間に存在する各部位の位置に基づいて、手間長さを算出する。
【0077】
手間長さ算出部533は、上記のような手間長さの算出処理を時系列の各画像データに対して行うことが出来る。つまり、手間長さ算出部533は、画像データごとに当該画像データにおける手間長さを算出するよう構成してよい。手間長さ算出部533は、時系列の画像データから任意の条件で抽出した画像データにおける手間長さを算出するよう構成してもよい。
【0078】
なお、手間長さ算出部533は、上記例示した以外の部位を用いて手間長さを算出してもよい。また、手間長さを示す情報は、事前に算出して取得しておくことが出来る。手間長さを示す情報を事前に取得しておく場合、算出装置500は、手間長さ算出部533を有さなくてもよい。
【0079】
高さ算出部534は、骨格情報523に基づいて、頭から足先までの画像内距離である高さを算出する。そして、高さ算出部534は、算出した高さを高さ情報525として記憶部520に格納する。
【0080】
例えば、
図12は、高さの一例を示している。
図12を参照すると、高さ算出部534は、骨格情報523を参照することで、最も高い部位である額と左右の足先の位置を示す情報を取得する。そして、高さ算出部534は、上記取得した情報に基づいて、額と左右の足先のうちの低い方とを直線で結んだ距離を算出する。または、高さ算出部534は、上記取得した情報に基づいて、額と左右の足先のうちの低い方とのY軸方向(
図12の上下方向)の差を算出する。例えば、以上のように、高さ算出部534は、頭と足の位置に基づいて、高さを算出する。
【0081】
高さ算出部534は、手間長さ算出部533と同様に、上記のような高さの算出処理を時系列の各画像データに対して行うことが出来る。つまり、高さ算出部534は、画像データごとに当該画像データにおける高さを算出するよう構成してよい。高さ算出部534は、時系列の画像データから任意の条件で抽出した画像データにおける高さを算出するよう構成してもよい。
【0082】
なお、高さ算出部534は、上記例示した以外の部位を用いて高さを算出してもよい。例えば、高さ算出部534は、首と足首間など間に腰を含む部位間の長さなどを高さとして算出してもよい。
【0083】
曲がり算出部535は、手間長さ情報524が示す手間長さと高さ情報525が示す高さとに基づいて、腰の曲がりを示す指標値である腰の曲がり値を算出する。そして、曲がり算出部535は、算出した腰の曲がり値を腰の曲がり値情報526として記憶部520に格納する。
【0084】
例えば、曲がり算出部535は、手間長さを高さで割ることで腰の曲がり値を算出する。つまり、曲がり算出部535は、(手間長さ)/(高さ)を計算することで、腰の曲がり値を算出する。例えば、曲がり算出部535は、画像データごとに算出された手間長さと高さとを用いて腰の曲がり値を算出することが出来る。
【0085】
なお、手間長さは、歩いている際に手をふることなどにより短くなることが想定される。そのため、曲がり算出部535は、手間長さ情報524に含まれる手間長さのうち最も長い手間長さを用いるなど、手間長さ情報524から所定の基準で選択した手間長さを用いて腰の曲がり値を算出してもよい。換言すると、曲がり算出部535が腰の曲がり値を算出する際に用いる手間長さは、手間長さ情報524に含まれる手間長さのうち所定の基準で選択される手間長さであってよい。選択の基準は、最も長いものを用いるなど任意に設定してよい。また、手間長さ情報524には、予め取得された手間長さ1つのみが含まれることがある。そのため、曲がり算出部535が腰の曲がり値を算出する際に用いる手間長さは、例えば、一定値であってもよい。
【0086】
また、曲がり算出部535は、第1の実施形態で説明した接地タイミングの判定結果を用いて、腰の曲がり値の算出対象になる画像データなどを特定してもよい。例えば、曲がり算出部535は、接地タイミングと判定した画像データに基づいて取得した高さを用いて腰の曲がり値を算出するよう構成してよい。曲がり算出部535は、接地タイミングと判定した画像データから所定フレーム分の画像データに基づいて取得した高さを用いて腰の曲がり値を算出するよう構成してもよい。このように、接地タイミングの判定結果に基づいて特定される画像データに基づいて(高さに基づいて)腰の曲がり値を算出するよう構成することで、他の人との比較対象になる指標としてより適切な腰の曲がり値を算出することが出来る。なお、曲がり算出部535は、時系列の各画像データについて腰の曲がり値を算出するとともに、算出した腰の曲がり値の平均値などを算出するよう構成してもよい。
【0087】
出力部536は、手間長さ情報524、高さ情報525、腰の曲がり値情報526などを出力する。例えば、出力部536は、外部装置やスマートフォン200などに対して、上記各情報のうちの少なくとも1つを出力することが出来る。
【0088】
以上が、算出装置500の構成例である。続いて、
図13を参照して、算出装置500の動作例について説明する。
【0089】
図13を参照すると、曲がり算出部535は、手間長さ情報524が示す手間長さと高さ情報525が示す高さとを取得する(ステップS301)。
【0090】
曲がり算出部535は、手間長さと高さとに基づいて腰の曲がりを示す指標値である腰の曲がり値を算出する(ステップS302)。例えば、曲がり算出部535は、手間長さを高さで割ることで腰の曲がり値を算出する。
【0091】
以上が、算出装置500の動作例である。
【0092】
このように、算出装置500は曲がり算出部535を有している。このような構成によると、算出装置500は、取得した手間長さと高さに基づいて腰の曲がり値を算出することが出来る。つまり、上記構成によると、画像データに基づいて腰の曲がりに応じた指標値を算出することが出来る。
【0093】
なお、算出装置500は、第1の実施形態で説明した判定装置300としての機能を有することが出来る。また、算出装置500は、第1の実施形態で説明した判定装置300と同様の変形例を有することが出来る。
【0094】
[第3の実施形態]
次に、本開示の第3の実施形態について、
図14から
図19までを参照して説明する。
図14は、算出システム600の構成例を示す図である。
図15は、算出装置700の構成例を示すブロック図である。
図16は、高さの一例を示す図である。
図17、
図18は、足の成分の一例を示す図である。
図19は、算出装置700の動作例を示すフローチャートである。
【0095】
本開示の第3の実施形態においては、スマートフォン200などの撮像装置を用いて取得した画像データに基づいて、着目対象の状態を示す指標値を算出する算出システム600について説明する。算出システム600では、第1の実施形態、第2の実施形態と同様に、画面の奥側から手前側に向かって人物が歩く様子を示す画像データを取得して、画像データから骨格の位置を認識する。そして、算出システム600は、認識した結果に基づいて対象の状態を示す指標値を算出する。
【0096】
例えば、本実施形態で説明する算出システム600では、足に着目してつま先の上がりや向きなどのつま先の状態を示す指標値を算出する。具体的には、例えば、算出システム600は、着目対象である足内に存在する部位である足首と足先の位置のX軸方向の差やY軸方向の差と、比較対象になる比較長さと、を取得する。そして、算出システム600は、X軸方向の差と比較長さとに基づいてつま先の向きを示す指標値を算出するとともに、Y軸方向の差と比較長さとに基づいてつま先の上がりを示す指標値を算出する。撮像装置であるカメラに近づくほど人物などは大きく映る。そのため、同じようにつま先が上がっていたり同じ方向につま先が向いていたりしても、撮像装置に対する人物の近さに応じて画像データ内における長さが異なる。算出システム600は、足首と足先の位置のX軸方向の差やY軸方向の差を比較対象となる長さである比較長さと比較することで、上記問題を解決した指標値の算出を可能とする。
【0097】
なお、本実施形態においては、着目対象として足に着目する場合について例示する。しかしながら、着目対象は、足以外の任意の箇所であってよい。つまり、算出システム600は、足首と足先以外の着目対象内に存在する部位の位置のX軸方向の差やY軸方向の差を用いてもよい。また、比較長さとは、撮像装置であるカメラに対する画像データ取得時の人物の近さに応じて画像データ内における長さが変動するものの、当該人物においては長さが一定となる部位間の長さのことをいう。比較長さは、例えば、第2の実施形態で説明した頭から足先までの画像内距離である高さ(腰の曲がりは考慮しないものとする)、手間長さ、頭から骨盤までの画像内距離である高さ、などのうちの1つを用いることが出来る。比較長さは、上記例示した以外の部位間の長さであってもよい。
【0098】
また、本実施形態で説明する算出システム600は、第1の実施形態で説明した判定システム100や第2の実施形態で説明した算出システム400としての機能を有することが出来る。つまり、算出システム600は、接地タイミングの判定を行うための構成や腰の曲がり値を算出するための構成などを有していてもよい。
【0099】
図14は、算出システム600の構成例を示している。
図14を参照すると、算出システム600は、例えば、スマートフォン200と、算出装置700と、を有している。
図14で示すように、スマートフォン200と算出装置700とは、例えば、無線、または、有線により、互いに通信可能なよう接続されている。
【0100】
スマートフォン200の構成は、第1の実施形態と同様である。そのため、スマートフォン200についての説明は省略する。
【0101】
算出装置700は、スマートフォン200が取得した画像データに基づいて、つま先の上がりやつま先の向きを示す指標値を算出する情報処理装置である。例えば、算出装置700は、サーバ装置などである。算出装置700は、1台の情報処理装置であってもよいし、例えば、クラウド上などで実現されてもよい。なお、算出装置700は、つま先の上がりを示す指標値とつま先の向きを示す指標値のうちのいずれか一方のみを算出してもよい。
【0102】
図15は、算出装置700の構成例を示している。
図15を参照すると、算出装置700は、主な構成要素として、例えば、通信I/F部710と、記憶部720と、演算処理部730と、を有している。
【0103】
通信I/F部710は、データ通信回路からなる。通信I/F部710は、通信回線を介して接続された外部装置やスマートフォン200などとの間でデータ通信を行う。
【0104】
記憶部720は、ハードディスクやメモリなどの記憶装置である。記憶部720は、演算処理部730における各種処理に必要な処理情報やプログラム727を記憶する。プログラム727は、演算処理部730に読み込まれて実行されることにより各種処理部を実現する。プログラム727は、通信I/F部710などのデータ入出力機能を介して外部装置や記録媒体から予め読み込まれ、記憶部720に保存されている。記憶部720で記憶される主な情報としては、例えば、学習済みモデル721、画像情報722、骨格情報723、比較長さ情報724、足成分情報725、つま先データ情報726などがある。
【0105】
学習済みモデル721、画像情報722、骨格情報723は、第1の実施形態で説明した学習済みモデル321、画像情報322、骨格情報323と同様の情報である。
【0106】
比較長さ情報724は、撮像装置であるカメラに対する画像データ取得時の人物の近さに応じて画像データ内における長さが変動するものの、当該人物においては長さが一定となる部位間の長さである比較長さを示している。例えば、比較長さ情報724は、頭から足先までの画像内距離である高さ、手間長さ、頭から骨盤までの画像内距離である第2高さ、などのうちの1つを示している。比較長さ情報724は、例えば、比較長さ算出部733による算出処理の結果として生成・更新される。
【0107】
例えば、比較長さ情報724は、時系列の画像データごとに取得した比較長さを示す情報を含んでいる。例えば、比較長さ情報724は、比較長さを算出する際に用いた画像データを示す識別情報と、比較長さを示す情報と、を対応付けたものなどであってよい。
【0108】
足成分情報725は、足首と足先の位置のX軸方向の差であるX成分や足首と足先の位置のY軸方向の差であるY成分などの部位間長さを示している。足成分情報725は、例えば、足成分算出部734による算出処理の結果として生成・更新される。なお、足成分情報725は、X成分とY成分のうちのいずれか1つのみを含んでいてもよい。
【0109】
例えば、足成分情報725は、時系列の画像データごとに取得したX成分やY成分を示す情報を含んでいる。例えば、比較長さ情報724は、X成分やY成分を算出する際に用いた画像データを示す識別情報と、X成分やY成分を示す情報と、を対応付けたものなどであってよい。
【0110】
つま先データ情報726は、つま先の上がりを示す指標値やつま先の向きを示す指標値を示している。つま先データ情報726は、例えば、つま先データ算出部735による算出処理の結果として生成・更新される。
【0111】
例えば、つま先データ情報726は、つま先の上がりを示す指標値やつま先の向きを示す指標値を含んでいる。つま先データ情報726は、時系列の画像データごとに取得したつま先の上がりを示す指標値やつま先の向きを示す指標値を含んでいる。高さ情報525は、指標値を算出する際に用いた画像データを示す識別情報と、つま先の上がりを示す指標値やつま先の向きを示す指標値を示す情報と、を対応付けたものなどであってよい。また、つま先データ情報726は、所定の条件を満たす画像データを示す識別情報と、つま先の上がりを示す指標値やつま先の向きを示す指標値を示す情報と、を対応付けたものなどであってもよい。
【0112】
演算処理部730は、CPUなどの演算装置とその周辺回路を有する。演算処理部730は、記憶部720からプログラム727を読み込んで実行することにより、上記ハードウェアとプログラム727とを協働させて各種処理部を実現する。演算処理部730で実現される主な処理部としては、例えば、画像取得部731と、骨格認識部732と、比較長さ算出部733と、足成分算出部734と、つま先データ算出部735と、出力部736と、などがある。
【0113】
画像取得部731、骨格認識部732は、第1の実施形態で説明した画像取得部331、骨格認識部332と同様の処理を行うことが出来る。
【0114】
比較長さ算出部733は、骨格情報723に基づいて、頭から足先までの画像内距離である高さ、手間長さ、頭から骨盤までの画像内距離である第2高さ、などのうちの1つである比較長さを算出する。そして、比較長さ算出部733は、算出した比較長さを比較長さ情報724として記憶部720に格納する。
【0115】
例えば、
図16は、比較長さの一例である高さの一例を示している。
図16を参照すると、比較長さ算出部733は、骨格情報523を参照することで、最も高い部位である額と左右の足先の位置を示す情報を取得する。そして、比較長さ算出部733は、上記取得した情報に基づいて、額と左右の足先のうちの低い方とを直線で結んだ距離を算出する。または、比較長さ算出部733は、上記取得した情報に基づいて、額と左右の足先のうちの低い方とのY軸方向(
図12の上下方向)の差を算出する。例えば、以上のように、比較長さ算出部733は、頭と足の位置に基づいて、高さを算出する。なお、比較長さ算出部733は、同様の処理により、手間長さや頭から骨盤までの画像内距離である第2高さなどを比較長さとして算出するよう構成してもよい。
【0116】
足成分算出部734は、骨格情報523を参照することで、足首と足先の位置のX軸方向の差であるX成分や足首と足先の位置のY軸方向の差であるY成分などの部位間長さのうちの少なくとも1つを算出する。そして、足成分算出部734は、算出した足成分を足成分情報725として記憶部720に格納する。
【0117】
例えば、
図17は、Y成分の一例を示している。
図17を参照すると、足成分算出部734は、骨格情報523を参照することで、足首と足先の位置を示す情報を取得する。そして、足成分算出部734は、上記取得した情報に基づいて、足首と足先とのY軸方向(
図17の上下方向)の差を算出する。例えば、以上のように、足成分算出部734は、足首と足先の位置に基づいて、Y成分を算出する。
【0118】
また、
図18は、X成分の一例を示している。
図18を参照すると、足成分算出部734は、骨格情報523を参照することで、足首と足先の位置を示す情報を取得する。そして、足成分算出部734は、上記取得した情報に基づいて、足首と足先とのX軸方向(
図18の左右方向)の差を算出する。例えば、以上のように、足成分算出部734は、足首と足先の位置に基づいて、X成分を算出する。
【0119】
なお、足成分算出部734は、例えば、左右の足それぞれのY成分やX成分を算出するよう構成してもよいし、左右の足のうち下方に位置している足についてのみY成分やX成分を算出するよう構成してもよい。また、足成分算出部734は、第1の実施形態で説明した接地タイミングの判定結果を用いて、足成分を算出するか否か判断するよう構成してもよい。例えば、足成分算出部734は、接地タイミングと判定した画像データに基づいてY成分やX成分を算出するよう構成することが出来る。足成分算出部734は、接地タイミングと判定した画像データから所定フレーム分の画像データに基づいてY成分やX成分を算出するよう構成してもよい。
【0120】
つま先データ算出部735は、比較長さ724が示す比較長さと足成分情報725が示すY成分とに基づいて、つま先の上がりを示す指標値を算出する。また、つま先データ算出部735は、比較長さ724が示す比較長さと足成分情報725が示すX成分とに基づいて、つま先の向きを示す指標値を算出する。そして、つま先データ算出部735は、算出したつま先の上がりを示す指標値やつま先の向きを示す指標値をつま先データ情報726として記憶部720に格納する。
【0121】
例えば、つま先データ算出部735は、Y成分を比較長さで割ることでつま先の上がりを示す指標値を算出する。つまり、つま先データ算出部735は、(Y成分)/(比較長さ)を計算することで、つま先の上がりを示す指標値を算出する。例えば、つま先データ算出部735は、画像データごとに算出されたY成分と比較長さとを用いてつま先の上がりを示す指標値を算出することが出来る。
【0122】
また、例えば、つま先データ算出部735は、X成分を比較長さで割ることでつま先の向きを示す指標値を算出する。つまり、つま先データ算出部735は、(X成分)/(比較長さ)を計算することで、つま先の向きを示す指標値を算出する。例えば、つま先データ算出部735は、画像データごとに算出されたX成分と比較長さとを用いてつま先の向きを示す指標値を算出することが出来る。
【0123】
なお、つま先データ算出部735は、第1の実施形態で説明した接地タイミングの判定結果を用いて、つま先の上がりを示す指標値やつま先の向きを示す指標値の算出対象になる画像データなどを特定してもよい。例えば、つま先データ算出部735は、接地タイミングと判定した画像データに基づいて取得したY成分やX成分と比較長さとを用いてつま先の上がりを示す指標値やつま先の向きを示す指標値を算出するよう構成してよい。つま先データ算出部735は、接地タイミングと判定した画像データから所定フレーム分の画像データに基づいて取得したY成分やX成分と比較長さとを用いてつま先の上がりを示す指標値やつま先の向きを示す指標値を算出するよう構成してもよい。このように、接地タイミングの判定結果に基づいて特定される画像データに基づく算出を行うことで、足が地面に接地した際のつま先の上がりやつま先の向きを評価することが可能になる。
【0124】
出力部736は、比較長さ情報724、足成分情報725、つま先データ情報726などを出力する。例えば、出力部736は、外部装置やスマートフォン200などに対して、上記各情報のうちの少なくとも1つを出力することが出来る。
【0125】
以上が、算出装置700の構成例である。続いて、
図19を参照して、算出装置700の動作例について説明する。
【0126】
図19を参照すると、つま先データ算出部735は、比較長さ情報が示す比較長さと足成分情報725が示すY成分やX成分を取得する(ステップS401)。
【0127】
つま先データ算出部735は、比較長さとY成分やX成分に基づいてつま先データを算出する。例えば、つま先データ算出部735は、比較長さとY成分に基づいて、つま先の上がりを示す指標値を算出する。また、例えば、つま先データ算出部735は、比較長さとX成分に基づいて、つま先の向きを示す指標値を算出する。
【0128】
以上が、算出装置700の動作例である。
【0129】
このように、算出装置700はつま先データ算出部735を有している。このような構成によると、算出装置700は、取得した比較長さとY成分やX成分に基づいてつま先の上がりを示す指標値やつま先の向きを示す指標値を算出することが出来る。つまり、上記構成によると、画像データに基づいてつま先の上がりや向きなどの状態を示す指標値を算出することが出来る。
【0130】
なお、着目対象が足以外の任意の箇所である場合、算出装置700は、Y成分やX成分として、足首と足先以外の着目対象内に存在する部位間の長さを算出するよう構成してよい。
【0131】
また、算出装置700は、第1の実施形態で説明した判定装置300としての機能を有することが出来る。また、算出装置700は、第1の実施形態で説明した判定装置300と同様の変形例を有することが出来る。同様に、算出装置700は、第2の実施形態で説明した算出装置500としての機能を有することが出来る。また、算出装置700は、第2の実施形態で説明した算出装置500と同様の変形例を有することが出来る。
【0132】
[第4の実施形態]
次に、
図20から
図22までを参照して、本開示の第4の実施形態について説明する。本開示の第4の実施形態では、情報処理装置である算出装置800の構成の概要について説明する。
【0133】
図20は、算出装置800のハードウェア構成例を示している。
図20を参照すると、算出装置800は、一例として、以下のようなハードウェア構成を有している。
・CPU(Central Processing Unit)801(演算装置)
・ROM(Read Only Memory)802(記憶装置)
・RAM(Random Access Memory)803(記憶装置)
・RAM803にロードされるプログラム群804
・プログラム群804を格納する記憶装置805
・情報処理装置外部の記録媒体810の読み書きを行うドライブ装置806
・情報処理装置外部の通信ネットワーク811と接続する通信インタフェース807
・データの入出力を行う入出力インタフェース808
・各構成要素を接続するバス809
【0134】
また、算出装置800は、プログラム群804をCPU801が取得して当該CPU801が実行することで、
図21に示す高さ算出部821、曲がり算出部822としての機能を実現することが出来る。なお、プログラム群804は、例えば、予め記憶装置805やROM802に格納されており、必要に応じてCPU801がRAM803などにロードして実行する。また、プログラム群804は、通信ネットワーク811を介してCPU8801に供給されてもよいし、予め記録媒体810に格納されており、ドライブ装置806が該プログラムを読み出してCPU801に供給してもよい。
【0135】
なお、
図20は、算出装置800のハードウェア構成例を示している。算出装置800のハードウェア構成は上述した場合に限定されない。例えば、算出装置800は、ドライブ装置806を有さないなど、上述した構成の一部から構成されてもよい。
【0136】
高さ算出部821は、画像データに基づいて、当該画像データ内の人物の高さを算出する。
【0137】
曲がり算出部822は、画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得する。また、曲がり算出部822は、取得した手間長さと、高さ算出部821が算出した高さと、に基づいて、画像データ内の人物の腰の曲がりを示す指標値を算出する。
【0138】
このように、算出装置800は、高さ算出部821と曲がり算出部822とを有している。また、曲がり算出部822は、手間長さを取得するよう構成されている。このような構成によると、曲がり算出部822は、取得した手間長さと、高さ算出部821が算出した高さと、に基づいて、画像データ内の人物の腰の曲がりを示す指標値を算出することが出来る。その結果、画像データに基づいて腰の曲がりに応じた指標値を算出することが可能になる。
【0139】
なお、上述した算出装置800などの情報処理装置は、当該情報処理装置に所定のプログラムが組み込まれることで実現できる。具体的に、本発明の他の形態であるプログラムは、情報処理装置に、画像データに基づいて、当該画像データ内の人物の高さを算出し、画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した手間長さと、算出した高さと、に基づいて、画像データ内の人物の腰の曲がりを示す指標値を算出する、処理を実現するためのプログラムである。
【0140】
また、上述した情報処理装置により実行される算出方法は、情報処理装置が、画像データに基づいて、当該画像データ内の人物の高さを算出し、画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した手間長さと、算出した高さと、に基づいて、画像データ内の人物の腰の曲がりを示す指標値を算出する、というものである。
【0141】
上述した構成を有する、プログラム(又は記録媒体)、又は、算出方法などの発明であっても、上述した場合と同様の作用・効果を有するために、上述した曲がり算出部822を有する算出装置800と同様の目的を達成することが出来る。
【0142】
また、算出装置800は、プログラム群804をCPU801が取得して当該CPU801が実行することで、
図22に示す成分算出部831、比較長さ算出部832、指標値算出部833としての機能を実現するよう構成してもよい。
【0143】
成分算出部831は、画像データに基づいて、当該画像データ内の人物において着目対象内に存在する部位間の部位間長さを算出する。
【0144】
比較長さ算出部832は、画像データに基づいて、比較対象になる比較長さを算出する。
【0145】
指標値算出部833は、成分算出部831が算出した部位間長さと、比較長さ算出部832が算出した比較長さと、に基づいて、着目対象の状態を示す指標値を算出する。
【0146】
このように、算出装置800は、成分算出部831と比較長さ算出部832と指標値算出部833とを有することが出来る。このような構成によると、指標値算出部833は、成分算出部831が算出した部位間長さと、比較長さ算出部832が算出した比較長さと、に基づいて、着目対象の状態を示す指標値を算出することが出来る。その結果、画像データに基づいて着目対象の状態に応じた指標値を算出することが可能になる。
【0147】
なお、上述した算出装置800などの情報処理装置は、当該情報処理装置に所定のプログラムが組み込まれることで実現できる。具体的に、本発明の他の形態であるプログラムは、情報処理装置に、画像データに基づいて、当該画像データ内の人物において着目対象内に存在する部位間の部位間長さを算出し、画像データに基づいて、比較対象になる比較長さを算出し、算出した部位間長さと、算出した比較長さと、に基づいて、着目対象の状態を示す指標値を算出する、処理を実現するためのプログラムである。
【0148】
また、上述した情報処理装置により実行される算出方法は、情報処理装置が、画像データに基づいて、当該画像データ内の人物において着目対象内に存在する部位間の部位間長さを算出し、画像データに基づいて、比較対象になる比較長さを算出し、算出した部位間長さと、算出した比較長さと、に基づいて、着目対象の状態を示す指標値を算出する、というものである。
【0149】
上述した構成を有する、プログラム(又は記録媒体)、又は、算出方法などの発明であっても、上述した場合と同様の作用・効果を有するために、上述した指標値算出部833を有する算出装置800と同様の目的を達成することが出来る。
【0150】
<付記>
上記実施形態の一部又は全部は、以下の付記のようにも記載されうる。以下、本発明における算出装置などの概略を説明する。但し、本発明は、以下の構成に限定されない。
【0151】
(付記1)
画像データに基づいて、当該画像データ内の人物の高さを算出する高さ算出部と、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する曲がり算出部と、
を有する
算出装置。
(付記2)
前記曲がり算出部は、前記手間長さを前記高さで割ることで前記指標値を算出する
付記1に記載の算出装置。
(付記3)
前記画像データに基づいて当該画像データ内の人物の前記手間長さを算出する手間長さ算出部を有し、
前記曲がり算出部は、前記手間長さ算出部が算出した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記指標値を算出する
付記1または付記2に記載の算出装置。
(付記4)
前記手間長さ算出部は、前記画像データに基づいて認識される前記画像データ内の人物の各部位の座標を示す情報に基づいて前記手間長さを算出する
付記3に記載の算出装置。
(付記5)
前記曲がり算出部は、前記手間長さ算出部が算出した前記手間長さのうち所定の基準で選択した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記指標値を算出する
付記3または付記4に記載の算出装置。
(付記6)
前記曲がり算出部は、予め記憶装置に格納された前記手間長さを取得し、取得した前記手間長さと、前記高さ算出部が算出した前記高さと、に基づいて、前記指標値を算出する
付記1または付記2に記載の算出装置。
(付記7)
前記曲がり算出部は、前記画像データ内の人物の足が地面に接地したタイミングを示す接地タイミング情報を取得し、前記接地タイミング情報に基づいて特定される前記画像データに基づいて算出された前記高さに基づいて、前記指標値を算出する
付記1から付記6までのうちのいずれか1項に記載の算出装置。
(付記8)
前記高さ算出部は、前記画像データに基づいて認識される前記画像データ内の人物の各部位の座標を示す情報に基づいて前記高さを算出する
付記1から付記7までのうちのいずれか1項に記載の算出装置。
(付記9)
情報処理装置が、
画像データに基づいて、当該画像データ内の人物の高さを算出し、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する
算出方法。
(付記10)
情報処理装置に、
画像データに基づいて、当該画像データ内の人物の高さを算出し、
前記画像データ内の人物の左右の手間を結ぶ長さである手間長さを取得し、取得した前記手間長さと、算出した前記高さと、に基づいて、前記画像データ内の人物の腰の曲がりを示す指標値を算出する
処理を実現するためのプログラム。
【0152】
なお、上記各実施形態及び付記において記載したプログラムは、記憶装置に記憶されていたり、コンピュータが読み取り可能な記録媒体に記録されていたりする。例えば、記録媒体は、フレキシブルディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等の可搬性を有する媒体である。
【0153】
以上、上記各実施形態を参照して本願発明を説明したが、本願発明は、上述した実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明の範囲内で当業者が理解しうる様々な変更をすることが出来る。
【0154】
なお、本発明は、日本国にて2021年3月29日に特許出願された特願2021-055313の特許出願に基づく優先権主張の利益を享受するものであり、当該特許出願に記載された内容は、全て本明細書に含まれるものとする。
【符号の説明】
【0155】
100 判定システム
200 スマートフォン
300 判定装置
310 通信I/F部
320 記憶部
321 学習済みモデル
322 画像情報
323 骨格情報
324 接地判断情報
325 接地タイミング情報
326 プログラム
330 演算処理部
331 画像取得部
332 骨格認識部
333 接地判断部
334 接地タイミング判定部
335 出力部
400 算出システム
500 算出装置
510 通信I/F部
520 記憶部
521 学習済みモデル
522 画像情報
523 骨格情報
524 手間長さ情報
525 高さ情報
526 腰の曲がり値情報
527 プログラム
530 演算処理部
531 画像取得部
532 骨格認識部
533 手間長さ算出部
534 高さ算出部
535 曲がり算出部
536 出力部
600 算出システム
700 算出装置
710 通信I/F部
720 記憶部
721 学習済みモデル
722 画像情報
723 骨格情報
724 比較長さ情報
725 足成分情報
726 つま先データ情報
727 プログラム
730 演算処理部
731 画像取得部
732 骨格認識部
733 比較長さ算出部
734 足成分算出部
735 つま先データ算出部
736 出力部
800 算出装置
801 CPU
802 ROM
803 RAM
804 プログラム群
805 記憶装置
806 ドライブ装置
807 通信インタフェース
808 入出力インタフェース
809 バス
810 記録媒体
811 通信ネットワーク
821 高さ算出部
822 曲がり算出部
831 成分算出部
832 比較長さ算出部
833 指標値算出部