特開 2024-58567 学習データ生成システム、推定システム、学習データ生成方法、推定方法、プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024058567

(43)【公開日】2024-04-25

(54)【発明の名称】学習データ生成システム、推定システム、学習データ生成方法、推定方法、プログラム

(51)【国際特許分類】

   G06T 7/246 20170101AFI20240418BHJP

   G06T 7/00 20170101ALI20240418BHJP

【ＦＩ】

G06T7/246

G06T7/00 350B

【審査請求】未請求

【請求項の数】21

【出願形態】ＯＬ

(21)【出願番号】P 2023085488

(22)【出願日】2023-05-24

(31)【優先権主張番号】P 2022164447

(32)【優先日】2022-10-13

(33)【優先権主張国・地域又は機関】JP

(71)【出願人】

【識別番号】507234427

【氏名又は名称】公立大学法人岩手県立大学

(74)【代理人】

【識別番号】100108833

【弁理士】

【氏名又は名称】早川 裕司

(74)【代理人】

【識別番号】100162156

【弁理士】

【氏名又は名称】村雨 圭介

(72)【発明者】

【氏名】堀川 三好

(72)【発明者】

【氏名】藤原 龍聖

【テーマコード（参考）】

5L096

【Ｆターム（参考）】

5L096AA06

5L096AA09

5L096CA04

5L096CA05

5L096DA02

5L096FA32

5L096FA33

5L096FA66

5L096FA67

5L096FA69

5L096GA51

5L096HA11

5L096KA04

(57)【要約】

【課題】撮像された動体の画像に基づいて当該動体の行動を推定するための学習データを容易に生成することの可能な学習データ生成システム、学習データ方法、プログラム、及び、撮像された動体の画像に基づいて当該動体の行動を容易に推定することの可能な推定システム、推定方法、プログラムを提供する。
【解決手段】学習データ生成システムは、撮像装置によって撮像された動体の画像を取得する第１取得手段４１と、計測装置によって計測された動体の状態に関する情報を取得する第２取得手段４２と、所定期間内の動体の状態に関する情報の推移に基づいて、所定期間内の動体の行動を推定する推定手段４５と、所定期間内に撮像された動体の画像に対して所定期間内の動体の行動に関する情報をラベルとして付与することによって、動体の画像に基づいて動体の行動を推定するための学習データを生成する生成手段４６と、を備える。
【選択図】図３

【特許請求の範囲】

【請求項1】

撮像装置によって撮像された動体の画像を取得する第１取得手段と、
計測装置によって計測された前記動体の状態に関する情報を取得する第２取得手段と、
所定期間内の前記動体の状態に関する情報の推移に基づいて、前記所定期間内の前記動体の行動を推定する推定手段と、
前記所定期間内に撮像された前記動体の画像に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記動体の画像に基づいて前記動体の行動を推定するための学習データを生成する生成手段と、を備える、
学習データ生成システム。

【請求項2】

取得した画像に基づいて、前記動体の少なくとも１つの部位を検出する部位検出手段を備え、
前記生成手段は、前記所定期間内の前記動体の少なくとも１つの部位の移動態様に関する情報に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記学習データを生成する、請求項１に記載の学習データ生成システム。

【請求項3】

前記部位検出手段は、前記動体の少なくとも１つの関節を、前記動体の少なくとも１つの部位として検出する、請求項２に記載の学習データ生成システム。

【請求項4】

前記推定手段は、前記所定期間内の前記動体の状態に関する情報の推移と、前記動体の状態に関する情報の推移を学習データとして用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定する、請求項１に記載の学習データ生成システム。

【請求項5】

前記動体の状態に関する情報に基づいて、前記動体の行動が変化するタイミングを示す変化点を検出する変化点検出手段を備え、
前記推定手段は、第１の変化点から前記第１の変化点の次の変化点である第２の変化点までの期間内の前記動体の行動を推定する、請求項１～４の何れかに記載の学習データ生成システム。

【請求項6】

前記変化点検出手段は、それぞれ同じ行動に対応し、且つ、状態の変化態様が互いに同期していない複数の前記動体の状態に関する情報が存在する場合に、状態の変化態様が同期するように前記複数の前記動体の状態に関する情報を調整し、調整した前記複数の前記動体の状態に関する情報に基づいて前記変化点を検出する、請求項５に記載の学習データ生成システム。

【請求項7】

前記変化点検出手段は、動的時間伸縮法（ＤＴＷ）を用いて、前記複数の前記動体の状態に関する情報を調整する、請求項６に記載の学習データ生成システム。

【請求項8】

前記変化点検出手段は、調整した前記複数の前記動体の状態に関する情報を合成し、合成した前記複数の前記動体の状態に関する情報に基づいて前記変化点を検出する、請求項６に記載の学習データ生成システム。

【請求項9】

前記変化点検出手段は、前記調整した前記複数の前記動体の状態に関する情報を平均化することによって、前記調整した前記複数の前記動体の状態に関する情報を合成する、請求項８に記載の学習データ生成システム。

【請求項10】

前記変化点検出手段は、ＤＴＷ Ｂａｒｙｃｅｎｔｅｒ Ａｖｅｒａｇｉｎｇ法を用いて、前記調整した前記複数の前記動体の状態に関する情報を平均化する、請求項９に記載の学習データ生成システム。

【請求項11】

前記変化点検出手段は、所定のタイミングにおける前記動体の状態に関する情報が所定の条件を満たす場合に前記所定のタイミングが前記変化点であるか否かを判別することによって、前記変化点を検出する、請求項５に記載の学習データ生成システム。

【請求項12】

前記所定の条件は、前記動体の状態に関する情報の推移を示す曲線の微分値が０であることを含む、請求項１１に記載の学習データ生成システム。

【請求項13】

前記変化点検出手段は、前記所定のタイミングにおける前記動体の状態に関する情報の変化の大小を示す変化点スコアが所定値以上である場合に、前記所定のタイミングが前記変化点であると判別する、請求項１１に記載の学習データ生成システム。

【請求項14】

前記動体の状態に関する情報は、前記動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを含み、
前記変化点検出手段は、前記所定のタイミングにおける前記動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つの変化の大小を示す変化点スコアに基づいて、前記所定のタイミングが前記変化点であるか否かを判別する、請求項１１に記載の学習データ生成システム。

【請求項15】

前記動体の位置は、前記動体に設けられた装置と少なくとも１つの他の装置の各々との間で送受信される信号の受信信号強度に基づいてもとめられ、
前記変化点検出手段は、前記動体の状態に関する情報が前記動体の位置を含む場合に、前記信号の受信信号強度の変化の大小を示す変化点スコアに基づいて、前記所定のタイミングが前記変化点であるか否かを判別する、請求項１４に記載の学習データ生成システム。

【請求項16】

前記動体の状態に関する情報は、前記動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを含む、請求項１に記載の学習データ生成システム。

【請求項17】

撮像装置によって撮像された動体の画像を取得する画像取得手段と、
所定期間内に撮像された前記動体の画像と、請求項１の学習データ生成システムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定する行動推定手段と、を備える、
推定システム。

【請求項18】

コンピュータが、
撮像装置によって撮像された動体の画像を取得するステップと、
計測装置によって計測された前記動体の状態に関する情報を取得するステップと、
所定期間内の前記動体の状態に関する情報の推移に基づいて、前記所定期間内の前記動体の行動を推定するステップと、
前記所定期間内に撮像された前記動体の画像に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記動体の画像に基づいて前記動体の行動を推定するための学習データを生成するステップと、
の各ステップを実行する、学習データ生成方法。

【請求項19】

コンピュータが、
撮像装置によって撮像された動体の画像を取得するステップと、
所定期間内に撮像された前記動体の画像と、請求項１８の学習データ生成方法によって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定するステップと、
の各ステップを実行する、推定方法。

【請求項20】

コンピュータに、
撮像装置によって撮像された動体の画像を取得する機能と、
計測装置によって計測された前記動体の状態に関する情報を取得する機能と、
所定期間内の前記動体の状態に関する情報の推移に基づいて、前記所定期間内の前記動体の行動を推定する機能と、
前記所定期間内に撮像された前記動体の画像に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記動体の画像に基づいて前記動体の行動を推定するための学習データを生成する機能と、
を実現させるためのプログラム。

【請求項21】

コンピュータに、
撮像装置によって撮像された動体の画像を取得する機能と、
所定期間内に撮像された前記動体の画像と、請求項２０のプログラムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定する機能と、
を実現させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、学習データ生成システム、推定システム、学習データ生成方法、推定方法、プログラムに関する。

【背景技術】

【0002】

従来、撮像された動体（例えば、人間等）の画像に基づいて当該動体の行動を推定する行動推定装置が知られている（例えば、特許文献１）。特許文献１に記載された技術では、撮像された動体の画像に対して当該動体の行動に関する情報をラベル（正解行動）として付与することによって学習データを生成し、この学習データを用いた機械学習に基づく学習済モデルに基づいて、当該動体の行動を推定するように構成されている。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特許第６５２５１７９号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

特許文献１に記載された技術では、ユーザが、画像を視認することによって動体の行動を判断し、判断した行動をラベル（正解行動）として付与する、というような人為的な作業が必要とされている。このため、学習データの生成に必要な時間やユーザの負担が増加して、学習データの生成にかかるコストが嵩む虞がある。また、例えば、動体の行動に対するユーザの判断ミスが生じた場合には、適切な学習データを生成することが困難になる虞がある。

【0005】

本発明は上記課題に鑑みてなされたものであり、撮像された動体の画像に基づいて当該動体の行動を推定するための学習データを容易に生成することの可能な学習データ生成システム、学習データ方法、プログラム、及び、撮像された動体の画像に基づいて当該動体の行動を容易に推定することの可能な推定システム、推定方法、プログラムを提供することを目的とする。

【課題を解決するための手段】

【0006】

上記課題を解決するために、第一に本発明は、撮像装置によって撮像された動体の画像を取得する第１取得手段と、計測装置によって計測された前記動体の状態に関する情報を取得する第２取得手段と、所定期間内の前記動体の状態に関する情報の推移に基づいて、前記所定期間内の前記動体の行動を推定する推定手段と、前記所定期間内に撮像された前記動体の画像に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記動体の画像に基づいて前記動体の行動を推定するための学習データを生成する生成手段と、を備える、学習データ生成システムを提供する（発明１）。

【0007】

かかる発明（発明１）によれば、所定期間内の動体の状態に関する情報の推移に基づいて当該所定期間内の動体の行動が推定され、推定された行動に関する情報が、当該所定期間内に撮像された動体の画像に対してラベルとして付与されることによって、動体の画像に基づいて当該動体の行動を推定するための学習データを自動的に生成することが可能になる。これにより、例えば人為的な作業によって学習データを生成する場合と比較して、学習データを容易に生成することができる。また、学習データを生成する際の人為的なミスを排除することが可能になるので、適切な学習データを生成することができる。

【0008】

上記発明（発明１）においては、取得した画像に基づいて、前記動体の少なくとも１つの部位を検出する部位検出手段を備え、前記生成手段は、前記所定期間内の前記動体の少なくとも１つの部位の移動態様に関する情報に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記学習データを生成してもよい（発明２）。

【0009】

かかる発明（発明２）によれば、所定期間内に撮像された動体の画像から検出された動体の少なくとも１つの部位の移動態様に関する情報を用いることによって、所定期間内の動体の行動をより正確に推定することの可能な学習データを生成することができる。

【0010】

上記発明（発明２）においては、前記部位検出手段は、前記動体の少なくとも１つの関節を、前記動体の少なくとも１つの部位として検出してもよい（発明３）。

【0011】

かかる発明（発明３）によれば、動体の少なくとも１つの関節の移動態様に関する情報を用いて、学習データを生成することができる。

【0012】

上記発明（発明１）においては、前記推定手段は、前記所定期間内の前記動体の状態に関する情報の推移と、前記動体の状態に関する情報の推移を学習データとして用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定してもよい（発明４）。

【0013】

かかる発明（発明４）によれば、所定期間内の動体の状態に関する情報の推移を用いて学習済モデルによって推定された動体の行動に基づいて、所定期間内の動体の行動を容易に推定することができる。

【0014】

上記発明（発明１～４）においては、前記動体の状態に関する情報に基づいて、前記動体の行動が変化するタイミングを示す変化点を検出する変化点検出手段を備え、前記推定手段は、第１の変化点から前記第１の変化点の次の変化点である第２の変化点までの期間内の前記動体の行動を推定してもよい（発明５）。

【0015】

かかる発明（発明５）によれば、変化点が検出されたタイミングで動体の行動の推定処理が開始され、それ以外のタイミングでは動体の行動の推定処理が開始されないので、例えば動体の行動の推定処理が常時開始される場合と比較して、動体の行動の推定処理にかかる負荷を低減することが可能になる。

【0016】

上記発明（発明５）においては、前記変化点検出手段は、それぞれ同じ行動に対応し、且つ、状態の変化態様が互いに同期していない複数の前記動体の状態に関する情報が存在する場合に、状態の変化態様が同期するように前記複数の前記動体の状態に関する情報を調整し、調整した前記複数の前記動体の状態に関する情報に基づいて前記変化点を検出してもよい（発明６）。

【0017】

ここで、例えば、同じ行動に対応する複数の動体の状態に関する情報を用いて変化点を検出する場合であって、例えば行動速度の違い等によって複数の動体の状態に関する情報の変化態様が同期していない場合には、変化点が検出されるタイミングが、複数の動体の状態に関する情報間で異なる場合があることから、正確な変化点を検出することが困難になる虞がある。そこで、かかる発明（発明６）によれば、状態の変化態様が同期するように複数の動体の状態に関する情報が調整され、調整された複数の動体の状態に関する情報に基づいて変化点が検出されるので、同じ行動に対応する複数の動体の状態に関する情報を用いた場合であっても変化点を正確に検出することが可能になる。

【0018】

上記発明（発明６）においては、前記変化点検出手段は、動的時間伸縮法（ＤＴＷ）を用いて、前記複数の前記動体の状態に関する情報を調整してもよい（発明７）。

【0019】

かかる発明（発明７）によれば、動的時間伸縮法（ＤＴＷ）を用いて、複数の動体の状態に関する情報を、状態の変化態様が同期するように容易に調整することが可能になる。

【0020】

上記発明（発明６）においては、前記変化点検出手段は、調整した前記複数の前記動体の状態に関する情報を合成し、合成した前記複数の前記動体の状態に関する情報に基づいて前記変化点を検出してもよい（発明８）。

【0021】

かかる発明（発明８）によれば、調整された（状態の変化態様が同期された）複数の動体の状態に関する情報が合成され、合成された複数の動体の状態に関する情報に基づいて変化点が検出されるので、例えば、調整された複数の動体の状態に関する情報の各々の間に差異がある場合であっても、合成された複数の動体の状態に関する情報を用いることによって、変化点を正確に検出することが可能になる。

【0022】

上記発明（発明８）においては、前記変化点検出手段は、前記調整した前記複数の前記動体の状態に関する情報を平均化することによって、前記調整した前記複数の前記動体の状態に関する情報を合成してもよい（発明９）。

【0023】

かかる発明（発明９）によれば、調整された複数の動体の状態に関する情報を平均化することによって、複数の動体の状態に関する情報を容易に合成することが可能になる。

【0024】

上記発明（発明９）においては、前記変化点検出手段は、ＤＴＷ Ｂａｒｙｃｅｎｔｅｒ Ａｖｅｒａｇｉｎｇ法を用いて、前記調整した前記複数の前記動体の状態に関する情報を平均化してもよい（発明１０）。

【0025】

かかる発明（発明１０）によれば、ＤＴＷ Ｂａｒｙｃｅｎｔｅｒ Ａｖｅｒａｇｉｎｇ法を用いることによって、調整された複数の動体の状態に関する情報を容易に平均化することが可能になる。

【0026】

上記発明（発明５）においては、前記変化点検出手段は、所定のタイミングにおける前記動体の状態に関する情報が所定の条件を満たす場合に前記所定のタイミングが前記変化点であるか否かを判別することによって、前記変化点を検出してもよい（発明１１）。

【0027】

かかる発明（発明１１）によれば、動体の状態に関する情報が所定の条件を満たすタイミングで変化点の検出処理が行われるので、例えば変化点の検出処理が常時行われる場合と比較して、変化点の検出処理にかかる負荷を低減することが可能になる。

【0028】

上記発明（発明１１）においては、前記所定の条件は、前記動体の状態に関する情報の推移を示す曲線の微分値が０であることを含んでもよい（発明１２）。

【0029】

かかる発明（発明１２）によれば、動体の状態に関する情報の推移を示す曲線の微分値が０である場合に、変化点の検出処理を行うことが可能になる。

【0030】

上記発明（発明１１）においては、前記変化点検出手段は、前記所定のタイミングにおける前記動体の状態に関する情報の変化の大小を示す変化点スコアが所定値以上である場合に、前記所定のタイミングが前記変化点であると判別してもよい（発明１３）。

【0031】

かかる発明（発明１３）によれば、変化点スコアを用いることによって、変化点を容易に検出することが可能になる。

【0032】

上記発明（発明１１）においては、前記動体の状態に関する情報は、前記動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを含み、前記変化点検出手段は、前記所定のタイミングにおける前記動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つの変化の大小を示す変化点スコアに基づいて、前記所定のタイミングが前記変化点であるか否かを判別してもよい（発明１４）。

【0033】

かかる発明（発明１４）によれば、動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを用いることによって、変化点を容易に検出することが可能になる。また、動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つが用いられる場合には、当該少なくとも２つの各々の変化点スコアを複合的に用いることによって、変化点をより正確且つ容易に検出することが可能になる。

【0034】

上記発明（発明１４）においては、前記動体の位置は、前記動体に設けられた装置と少なくとも１つの他の装置の各々との間で送受信される信号の受信信号強度に基づいてもとめられ、前記変化点検出手段は、前記動体の状態に関する情報が前記動体の位置を含む場合に、前記信号の受信信号強度の変化の大小を示す変化点スコアに基づいて、前記所定のタイミングが前記変化点であるか否かを判別してもよい（発明１５）。

【0035】

かかる発明（発明１５）によれば、動体に設けられた装置と少なくとも１つの他の装置の各々との間で送受信される信号の受信信号強度の変化の大小を示す変化点スコアに基づいて、変化点を容易に検出することができる。

【0036】

上記発明（発明１）においては、前記動体の状態に関する情報は、前記動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを含んでもよい（発明１６）。

【0037】

かかる発明（発明１６）によれば、動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを用いて、ラベルとして付与される動体の行動を推定することができる。

【0038】

第二に本発明は、撮像装置によって撮像された動体の画像を取得する画像取得手段と、所定期間内に撮像された前記動体の画像と、発明１～１６の何れかの学習データ生成システムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定する行動推定手段と、を備える、推定システムを提供する（発明１７）。

【0039】

かかる発明（発明１７）によれば、撮像された動体の画像に基づいて当該動体の行動を容易に推定することができる。

【0040】

第三に本発明は、コンピュータが、撮像装置によって撮像された動体の画像を取得するステップと、計測装置によって計測された前記動体の状態に関する情報を取得するステップと、所定期間内の前記動体の状態に関する情報の推移に基づいて、前記所定期間内の前記動体の行動を推定するステップと、前記所定期間内に撮像された前記動体の画像に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記動体の画像に基づいて前記動体の行動を推定するための学習データを生成するステップと、の各ステップを実行する、学習データ生成方法を提供する（発明１８）。

【0041】

第四に本発明は、コンピュータが、撮像装置によって撮像された動体の画像を取得するステップと、所定期間内に撮像された前記動体の画像と、発明１８の学習データ生成方法によって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定するステップと、の各ステップを実行する、推定方法を提供する（発明１９）。

【0042】

第五に本発明は、コンピュータに、撮像装置によって撮像された動体の画像を取得する機能と、計測装置によって計測された前記動体の状態に関する情報を取得する機能と、所定期間内の前記動体の状態に関する情報の推移に基づいて、前記所定期間内の前記動体の行動を推定する機能と、前記所定期間内に撮像された前記動体の画像に対して前記所定期間内の前記動体の行動に関する情報をラベルとして付与することによって、前記動体の画像に基づいて前記動体の行動を推定するための学習データを生成する機能と、を実現させるためのプログラムを提供する（発明２０）。

【0043】

第六に本発明は、コンピュータに、撮像装置によって撮像された動体の画像を取得する機能と、所定期間内に撮像された前記動体の画像と、発明２０のプログラムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、前記所定期間内の前記動体の行動を推定する機能と、を実現させるためのプログラムを提供する（発明２１）。

【発明の効果】

【0044】

本発明の学習データ生成システム、学習データ生成方法、プログラムによれば、撮像された動体の画像に基づいて当該動体の行動を推定するための学習データを容易に生成することができる。また、本発明の推定システム、推定方法、プログラムによれば、撮像された動体の画像に基づいて当該動体の行動を容易に推定することができる。

【図面の簡単な説明】

【0045】

【図1】本発明の一実施形態に係る学習データ生成システム及び推定システムの基本構成を概略的に示す図である。

【図2】推定装置の構成を示すブロック図である。

【図3】学習データ生成システム及び推定システムで主要な役割を果たす機能を説明するための機能ブロック図である。

【図4】第１取得データの構成例を示す図である。

【図5】第２取得データの構成例を示す図である。

【図6】計測装置からの距離と受信信号強度との関係の一例を示す図である。

【図7】動体の少なくとも１つの部位の検出結果の一例を示す図である。

【図8】動体の加速度と変化点スコアの経時的な変化の一例を示す図である。

【図9】（ａ）は、同じ動作が時間差で行われる場合の動体の加速度の時系列データの一例を示す図であり、（ｂ）は、各時系列データを調整する場合の一例を示す図であり、（ｃ）は、調整後に平均化された各時系列データの一例を示す図である。

【図10】第１学習データの構成例を示す図である。

【図11】第２学習データの構成例を示す図である。

【図12】推定データの構成例を示す図である。

【図13】本発明の一実施形態に係る学習データ生成システムの主要な処理の一例を示すフローチャートである。

【図14】本発明の一実施形態に係る推定システムの主要な処理の一例を示すフローチャートである。

【図15】行動データの構成例を示す図である。

【図16】学習データ生成システム及び推定システムの各機能について、生成装置と、推定装置との間の分担例を示す図である。

【発明を実施するための形態】

【0046】

以下、本発明の一実施形態について添付図面を参照して詳細に説明する。ただし、この実施形態は例示であり、本発明はこれに限定されるものではない。

【0047】

（１）学習データ生成システム及び推定システムの基本構成
図１は、本発明の一実施形態に係る推定システムの基本構成を概略的に示す図である。図１に示すように、本実施形態に係る推定システムは、例えば屋内等の所定空間ＳＰに動体（本実施形態では、対象者Ｔ）が存在する場合に、空間ＳＰ内の所定位置（図１の例では、空間ＳＰの中央上部）に設けられた撮像装置１０によって撮像された対象者Ｔの画像を推定装置３０が取得し、所定期間内に撮像された対象者Ｔの画像と、後述する学習データ生成システムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、当該所定期間内の対象者Ｔの行動を推定するようになっている。

【0048】

また、本実施形態に係る学習データ生成システムは、推定装置３０が、撮像装置１０によって撮像された対象者Ｔの画像を取得し、計測装置２０によって計測された対象者Ｔの状態に関する情報を取得し、所定期間内の対象者Ｔの状態に関する情報の推移に基づいて、当該所定期間内の対象者Ｔの行動を推定し、当該所定期間内に撮像された対象者Ｔの画像に対して当該所定期間内の対象者Ｔの行動に関する情報をラベルとして付与することによって、対象者Ｔの画像に基づいて対象者Ｔの行動を推定するための学習データを生成するようになっている。

【0049】

ここで、撮像装置１０及び計測装置２０の各々と、推定装置３０とは、例えばインターネットやＬＡＮ（Local Area Network）等の通信網ＮＷ（ネットワーク）に接続されている。

【0050】

撮像装置１０は、例えば、動画像及び／又は静止画像を撮像する撮像装置（例えば、デジタルカメラやデジタルビデオカメラ等）であってもよく、空間ＳＰ内の所定位置において空間ＳＰを撮像するように設けられている。また、撮像装置１０は、例えば、所定のフレームレート（例えば、３０ｆｐｓ（flames per second）等）で撮像処理を行って、撮像した画像を、通信網ＮＷを介して推定装置３０に送信するように構成されている。なお、撮像装置１０は、推定装置３０から所定の撮像指示信号を受信した場合に撮像処理を行ってもよい。

【0051】

ここで、撮像装置１０は、全方位画像（例えば、周囲３６０°（図１の例では、水平方向の周囲３６０°）の画像）を撮像する撮像装置（例えば、全方位カメラ等）であってもよい。この場合、撮像範囲が広がることによって、対象者Ｔの行動を広範囲に亘って把握することができる。

【0052】

また、撮像装置１０は、赤外線画像を撮像する撮像装置（例えば、赤外線カメラ等）であってもよい。これにより、例えば、視界の悪い環境（例えば、夜間、暗い場所、悪天候の場所等）に対象者Ｔが存在している場合であっても、撮像画像内の対象者Ｔを検出することができる。

【0053】

さらに、撮像装置１０は、ステレオ画像を撮像する撮像装置（例えば、ステレオカメラ等）であってもよい。ここで、ステレオ画像とは、例えば、所定の視差を有する２つの画像のセットであってもよい。

【0054】

なお、本実施形態では、１つの撮像装置１０を用いて空間ＳＰを撮像する場合を一例として説明しているが、複数の撮像装置（例えば、水平方向及び／又は垂直方向に間隔をおいて設けられた２つの撮像装置等）を用いて空間ＳＰを撮像してもよい。

【0055】

計測装置２０は、対象者Ｔの状態を連続的又は断続的（例えば、所定間隔（例えば３００ミリ秒や１秒等）毎）に計測する装置である。ここで、対象者Ｔの状態に関する情報とは、例えば、対象者Ｔの位置に関する情報であってもよいし、対象者Ｔの身体状態を表す値であってもよいし、対象者Ｔの位置や身体状態を表す値を所定の計算式に代入することによって得られた値であってもよいし、対象者Ｔの位置や身体状態の度合いを表す情報であってもよい。また、対象者Ｔの位置に関する情報は、例えば、ＧＰＳ（Global Positioning System）等の位置測定技術を用いて測定された位置情報（例えば、緯度、経度及び高度のうち少なくとも１つ）を含んでもよいし、一方の装置が送信した信号を他方の装置が受信したときの受信信号強度（ＲＳＳＩ）に関する情報を含んでもよい。ここで、受信信号強度に関する情報は、例えば、受信信号強度の値であってもよいし、受信信号強度の値を所定の計算式に代入することによって得られた値であってもよいし、受信信号強度の度合いを表す情報であってもよい。

【0056】

計測装置２０は、例えば、対象者Ｔの位置を計測する装置（例えば、ＧＰＳセンサ等）であってもよいし、対象者Ｔの身体状態（例えば、３軸方向の速度及び／又は加速度（対象者Ｔの所定部位の速度及び／又は加速度であってもよい）、３軸方向の角速度及び／又は角加速度（対象者Ｔの所定部位の角速度及び／又は角加速度であってもよい）、回転数（対象者Ｔの所定部位の回転数であってもよい）、姿勢、心拍数（脈拍）、血圧、体温、発汗量、歩数、歩行速度、運動強度（例えば、心拍数÷最大心拍数）又は消費カロリー等）を計測する装置（例えば、心拍計、血圧計、体温計、発汗計、３軸加速度センサ、３軸速度センサ、３軸ジャイロセンサ、モーションセンサ等）であってもよい。

【0057】

また、計測装置２０は、図１に示すように、対象者Ｔが所持可能又は対象者Ｔの身体に装着可能な第１計測装置２１と、空間ＳＰ内の異なる位置にそれぞれ配置された複数（図１の例では、３つ）の第２計測装置２２であって、第１計測装置２１が空間ＳＰ内に存在する場合に第１計測装置２１と無線通信を行う複数の第２計測装置２２と、から構成されてもよい。

【0058】

この場合、第１計測装置２１は、空間ＳＰ内に存在する場合に、所定の無線通信方式（例えば、無線ＬＡＮ（例えば、Ｗｉ－Ｆｉ（登録商標）））を用いて複数の第２計測装置２２と無線通信を行うことができるように構成されてもよい。また、第１計測装置２１は、複数の第２計測装置２２との間で無線通信を行うために、自身の識別情報（例えば、ＭＡＣ（Media Access Control）アドレス等）を含む無線信号（例えば、プローブ要求等）を所定間隔（例えば、数百ミリ秒間隔等）で送信するように構成されてもよい。さらに、第１計測装置２１は、例えば、対象者Ｔに装着可能なデバイス（例えば、ウェアラブルデバイス）であってもよいし、対象者Ｔが所持可能な携帯型デバイスであってもよい。さらにまた、第１計測装置２１は、例えば、携帯端末、スマートフォン、ＰＤＡ（Personal Digital Assistant）、パーソナルコンピュータ、双方向の通信機能を備えたテレビジョン受像機（いわゆる多機能型のスマートテレビも含む。）等のように、個々のユーザによって操作される通信装置であってもよい。

【0059】

複数の第２計測装置２２は、空間ＳＰ内で所定の無線通信方式（例えば、無線ＬＡＮ（例えば、Ｗｉ－Ｆｉ（登録商標）））を用いて第１計測装置２１と無線通信を行うことが可能な位置に設けられてもよい。また、複数の第２計測装置２２は、例えば、空間ＳＰ内に存在する２つ以上の第１計測装置２１間の無線通信を中継する装置であってもよいし、第１計測装置２１と空間ＳＰ内に存在する他の装置（図示省略）との間の無線通信を中継する装置であってもよいし、第１計測装置２１と、通信網ＮＷを介して接続された他の装置（例えば、推定装置３０等）との間の通信を中継する装置であってもよい。また、複数の第２計測装置２２は、パケットキャプチャであってもよい。

【0060】

また、第１計測装置２１と、複数の第２計測装置２２と、のうち何れか一方には、他方が送信した信号を受信したときの受信信号強度（ＲＳＳＩ）を検出するＲＳＳＩ回路が設けられていてもよい。さらに、この信号には、信号を送信した計測装置（第１計測装置２１又は第２計測装置２２）の識別情報（例えば、ＭＡＣアドレス等）が含まれていてもよく、この信号の受信信号強度がＲＳＳＩ回路によって検出されると、検出された受信信号強度と、この信号を送信した装置の識別情報と、が互いに対応付けられた状態で、この信号を受信した計測装置（第１計測装置２１又は第２計測装置２２）に設けられた記憶装置（図示省略）に記憶されてもよい。

【0061】

なお、ここでは、第１計測装置２１と複数の第２計測装置２２との間でＷｉ－Ｆｉ（登録商標）を用いて無線通信を行う場合を一例として説明しているが、通信方式は、この場合に限られない。例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＺｉｇＢｅｅ（登録商標）、ＵＷＢ、光無線通信（例えば、赤外線）等の無線通信方式が用いられてもよいし、ＵＳＢ等の有線通信方式が用いられてもよい。

【0062】

計測装置２０（第１計測装置２１及び／又は複数の第２計測装置２２）は、対象者Ｔの状態を検出する毎に、検出した状態に関する情報を、通信網ＮＷを介して推定装置３０に送信するように構成されている。

【0063】

なお、本実施形態では、１つの第１計測装置２１が対象者Ｔに設けられている場合を一例として説明しているが、複数の第１計測装置２１が対象者Ｔに設けられてもよい。また、本実施形態では、３つの第２計測装置２２が空間ＳＰ内に設けられている場合を一例として説明しているが、空間ＳＰ内に設けられる第２計測装置２２の数は、２つ以下であってもよいし、４つ以上であってもよい。

【0064】

さらに、撮像装置１０及び計測装置２０は、推定装置３０との間で有線又は無線接続方式を用いて直接通信を行うように構成されてもよいし、所定の中継装置（図示省略）との間で有線又は無線接続方式を用いて情報の送受信を行うことによって、当該中継装置を介して推定装置３０と通信を行うように構成されてもよい。

【0065】

推定装置３０は、通信網ＮＷを介して撮像装置１０及び計測装置２０の各々と通信を行い、撮像装置１０が撮像した画像と、計測装置２０が計測した対象者Ｔの状態に関する情報とを、通信網ＮＷを介して経時的に取得するように構成されている。推定装置３０は、例えば、携帯端末、スマートフォン、ＰＤＡ、パーソナルコンピュータ、双方向の通信機能を備えたテレビジョン受像機（いわゆる多機能型のスマートテレビも含む。）等のように、個々のユーザによって操作される端末装置であってもよい。

【0066】

（２）推定装置の構成
図２を参照して推定装置３０の構成について説明する。図２は、推定装置３０の内部構成を示すブロック図である。図２に示すように、推定装置３０は、ＣＰＵ（Central Processing Unit）３１と、ＲＯＭ（Read Only Memory）３２と、ＲＡＭ（Random Access Memory）３３と、記憶装置３４と、表示処理部３５と、表示部３６と、入力部３７と、通信インタフェース部３８と、を備えており、各部間の制御信号又はデータ信号を伝送するためのバス３０ａが設けられている。

【0067】

ＣＰＵ３１は、電源が推定装置３０に投入されると、ＲＯＭ３２又は記憶装置３４に記憶された各種のプログラムをＲＡＭ３３にロードして実行する。本実施形態では、ＣＰＵ３１は、ＲＯＭ３２又は記憶装置３４に記憶されたプログラムを読み出して実行することにより、後述する第１取得手段４１、第２取得手段４２、部位検出手段４３、変化点検出手段４４、推定手段４５、生成手段４６、学習手段４７、画像取得手段４８及び行動推定手段４９（図３に示す）の機能を実現する。

【0068】

記憶装置３４は、例えば、フラッシュメモリ、ＳＳＤ（Solid State Drive）、磁気記憶装置（例えばＨＤＤ（Hard Disk Drive）、フロッピーディスク（登録商標）、磁気テープ等）、光ディスク等の不揮発性の記憶装置であってもよいし、ＲＡＭ等の揮発性の記憶装置であってもよく、ＣＰＵ３１が実行するプログラムやＣＰＵ３１が参照するデータを格納する。また、記憶装置３４には、後述する第１取得データ（図４に示す）、第２取得データ（図５に示す）、第１学習データ（図１０に示す）、第２学習データ（図１１に示す）及び推定データ（図１２に示す）が記憶されている。

【0069】

表示処理部３５は、ＣＰＵ３１から与えられる表示用データを表示部３６に表示する。表示部３６は、例えば、マトリクス状に画素単位で配置された薄膜トランジスタを含むＬＣＤ（Liquid Crystal Display）モニタであり、表示用データに基づいて薄膜トランジスタを駆動することで、表示されるデータを表示画面に表示する。

【0070】

推定装置３０が釦入力方式の装置である場合には、入力部３７は、ユーザの操作入力を受け入れるための方向指示釦及び決定釦等の複数の指示入力釦を含む釦群と、テンキー等の複数の指示入力釦を含む釦群とを備え、各釦の押下（操作）入力を認識してＣＰＵ３１へ出力するためのインタフェース回路を含む。

【0071】

推定装置３０がタッチパネル入力方式の装置である場合には、入力部３７は、主として表示画面に指先又はペンで触れることによるタッチパネル方式の入力を受け付ける。タッチパネル入力方式は、静電容量方式等の公知の方式であってもよい。

【0072】

また、推定装置３０が音声入力可能な装置である場合には、入力部３７は、音声入力用のマイクを含むように構成されてもよいし、外付けのマイクを介して入力された音声データをＣＰＵ３１へ出力するためのインタフェース回路を備えてもよい。さらに、推定装置３０が動画像及び／又は静止画像を入力可能な装置である場合には、入力部３７は、画像入力用のデジタルカメラやデジタルビデオカメラを含むように構成されてもよいし、外付けのデジタルカメラやデジタルビデオカメラで撮像された画像データを受け付けてＣＰＵ３１へ出力するためのインタフェース回路を備えてもよい。

【0073】

通信インタフェース部３８は、通信網ＮＷを介して他の装置（例えば、撮像装置１０及び計測装置２０等）と通信を行うためのインタフェース回路を含む。

【0074】

（３）学習データ生成システム及び推定システムにおける各機能の概要
本実施形態の学習データ生成システム及び推定システムで実現される機能について、図３を参照して説明する。図３は、本実施形態の学習データ生成システム及び推定システムで主要な役割を果たす機能を説明するための機能ブロック図である。図３の機能ブロック図では、第１取得手段４１、第２取得手段４２、推定手段４５及び生成手段４６が本発明の学習データ生成システムの主要な構成に対応しており、画像取得手段４８及び行動推定手段４９が本発明の推定システムの主要な構成に対応している。他の手段（部位検出手段４３、変化点検出手段４４及び学習手段４７）は必ずしも必須の構成ではないが、本発明をさらに好ましくするための構成要素である。

【0075】

第１取得手段４１は、撮像装置１０によって撮像された対象者Ｔ（動体）の画像を取得する機能を備える。

【0076】

第１取得手段４１の機能は、例えば以下のように実現される。先ず、撮像装置１０は、例えば、対象者Ｔが空間ＳＰ内に存在する場合に、所定のフレームレート（例えば、３０ｆｐｓ等）で撮像処理を行い、撮像処理を行う毎に、撮像した画像の画像データを、通信網ＮＷを介して推定装置３０に送信する。ここで、撮像装置１０によって撮像された画像の画像データは、撮像日時及び撮像装置１０の識別情報（例えば、撮像装置１０のシリアル番号やＭＡＣ（Media Access Control）アドレス等）と対応付けた状態で推定装置３０に送信されてもよい。

【0077】

一方、推定装置３０のＣＰＵ３１は、撮像装置１０から送信された画像データを、通信インタフェース部３８を介して受信（取得）する毎に、受信した画像データを、当該画像の撮像日時と対応付けた状態で例えば図４に示す第１取得データに記憶する。第１取得データは、画像の撮像日時毎に、当該画像の画像データが対応付けられた状態で記述されているデータである。このようにして、第１取得手段４１は、撮像装置１０によって撮像された対象者Ｔの画像を取得することができる。

【0078】

なお、ＣＰＵ３１は、撮像装置１０によって撮像された対象者Ｔ（動体）のステレオ画像を取得してもよい。この場合、対象者Ｔのステレオ画像に基づいて対象者Ｔの三次元モデルを生成することができるので、後述する部位検出手段４３の機能において、この三次元モデルに基づいて、対象者Ｔの少なくとも１つの部位の三次元空間上の位置（座標）をもとめることが可能になる。これにより、例えば対象者Ｔの二次元モデルを用いる場合と比較して、対象者Ｔの少なくとも１つの部位の位置をより正確に捉えることが可能になるので、対象者Ｔの画像に基づく当該対象者Ｔの行動の推定精度を向上させることができる。

【0079】

また、例えば、水平方向及び／又は垂直方向に間隔をおいて設けられた２つの撮像装置が空間ＳＰ内に設けられている場合には、ＣＰＵ３１は、各撮像装置が実質的に同じタイミングで撮像した２つの画像（例えば、撮像日時が同じ２つの画像であってもよいし、撮像日時の時間差が所定範囲（例えば、数ミリ秒～数十ミリ秒等）内の２つの画像等であってもよい）を、所定の視差を有する画像のセット（つまり、ステレオ画像）として取得してもよい。

【0080】

第２取得手段４２は、計測装置２０によって計測された対象者Ｔ（動体）の状態に関する情報を取得する機能を備える。

【0081】

ここで、対象者Ｔ（動体）の状態に関する情報は、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを含んでもよい。なお、対象者Ｔの位置に関する情報は、ＧＰＳ等の位置測定技術を用いて測定された位置情報（例えば、緯度、経度及び高度のうち少なくとも１つ）を含んでもよいし、第１計測装置２１及び複数の第２計測装置２２のうち一方の計測装置が送信した信号を他方の計測装置が受信したときの受信信号強度（ＲＳＳＩ）に関する情報を含んでもよい。これにより、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを用いて、ラベルとして付与される対象者Ｔの行動を推定することができる。

【0082】

第２取得手段４２の機能は、例えば以下のように実現される。先ず、第１計測装置２１は、例えば、対象者Ｔが空間ＳＰ内に存在する場合に、対象者Ｔの状態（例えば、対象者Ｔの位置と、対象者Ｔの３軸方向又は２軸方向の回転数と、対象者Ｔの３軸方向又は２軸方向の角速度と、対象者Ｔの３軸方向又は２軸方向の角加速度と、対象者Ｔの３軸方向又は２軸方向の姿勢と、対象者Ｔの３軸方向又は２軸方向の加速度と、対象者Ｔの３軸方向又は２軸方向の速度と、のうち少なくとも１つ）を連続的又は断続的（例えば、所定間隔（例えば３００ミリ秒や１秒等）毎）に計測する毎に、計測した状態に関する情報を、通信網ＮＷを介して推定装置３０に送信する。ここで、第１計測装置２１によって計測された対象者Ｔの状態に関する情報は、計測日時及び第１計測装置２１の識別情報（例えば、第１計測装置２１のシリアル番号やＭＡＣアドレス等）と対応付けた状態で推定装置３０に送信されてもよい。

【0083】

ここで、対象者Ｔの状態に関する情報が、対象者Ｔの位置に関する情報を含む場合であって、対象者Ｔの位置に関する情報が、第１計測装置２１及び複数の第２計測装置２２間の通信において送受信される信号の受信信号強度（ＲＳＳＩ）を含む場合について説明する。第１計測装置２１は、例えば、対象者Ｔが空間ＳＰ内に存在する場合に、複数の第２計測装置２２の各々と無線通信を行い、複数の第２計測装置２２の各々から所定間隔（例えば、数百ミリ秒間隔等）で送信された無線信号（例えば、ビーコン信号等）を受信する毎に、ＲＳＳＩ回路によって検出（計測）された当該無線信号の受信信号強度（ＲＳＳＩ）の値を、第１計測装置２１に設けられた記憶装置（図示省略）に記憶する。ここで、ＲＳＳＩの値は、計測日時（例えば、第１計測装置２１が当該ＲＳＳＩの値に対応する無線信号を何れかの第２計測装置２２から受信した日時）及び当該ＲＳＳＩの値に対応する無線信号を送信した何れかの第２計測装置２２の識別情報（例えば、第２計測装置２２のシリアル番号やＭＡＣアドレス等）と対応付けられた状態で記憶されてもよい。そして、第１計測装置２１は、所定期間（例えば、３秒毎等）が経過する毎に、当該所定期間内に第１計測装置２１によって計測された対象者Ｔの状態に関する情報（つまり、当該所定期間内に第１計測装置２１が複数の第２計測装置２２から受信した全ての無線信号のＲＳＳＩ）の値を、通信網ＮＷを介して推定装置３０に送信してもよい。ここで、所定期間内に第１計測装置２１によって計測された対象者Ｔの状態に関する情報は、第１計測装置２１の識別情報（例えば、第１計測装置２１のシリアル番号やＭＡＣアドレス等）と対応付けた状態で推定装置３０に送信されてもよい。

【0084】

なお、ここでは、第１計測装置２１が、複数の第２計測装置２２の各々から送信された無線信号を受信したときのＲＳＳＩの値を、対象者Ｔの状態に関する情報として推定装置３０に送信する場合を一例として説明したが、複数の第２計測装置２２の各々が、第１計測装置２１から送信された無線信号を受信したときのＲＳＳＩの値を、対象者Ｔの状態に関する情報として推定装置３０に送信してもよい。

【0085】

一方、推定装置３０のＣＰＵ３１は、計測装置２０から送信された対象者Ｔの状態に関する情報を、通信インタフェース部３８を介して受信（取得）する毎に、受信した状態に関する情報を、当該情報の計測日時と対応付けた状態で例えば図５に示す第２取得データに記憶する。第２取得データは、計測日時毎に、対象者Ｔの状態に関する情報（図の例では、「計測情報」）が対応付けられた状態で記述されているデータである。このようにして、第２取得手段４２は、計測装置２０によって計測された対象者Ｔの状態（ここでは、対象者Ｔの位置と、対象者Ｔの３軸方向又は２軸方向の回転数と、対象者Ｔの３軸方向又は２軸方向の角速度と、対象者Ｔの３軸方向又は２軸方向の角加速度と、対象者Ｔの３軸方向又は２軸方向の姿勢と、対象者Ｔの３軸方向又は２軸方向の加速度と、対象者Ｔの３軸方向又は２軸方向の速度と、のうち少なくとも１つ）を取得することができる。

【0086】

なお、推定装置３０のＣＰＵ３１は、第２取得手段４２の機能に基づいて、対象者Ｔの位置と、対象者Ｔの３軸方向又は２軸方向の回転数の平均及び／又は分散と、対象者Ｔの３軸方向又は２軸方向の角速度の平均及び／又は分散と、対象者Ｔの３軸方向又は２軸方向の角加速度の平均及び／又は分散と、対象者Ｔの３軸方向又は２軸方向の姿勢の平均及び／又は分散と、対象者Ｔの３軸方向又は２軸方向の加速度の平均及び／又は分散と、対象者Ｔの３軸方向又は２軸方向の速度の平均及び／又は分散と、のうち少なくとも１つを取得してもよい。

【0087】

また、本実施形態では、第１計測装置２１及び複数の第２計測装置２２間の通信において送受信される信号の受信信号強度（ＲＳＳＩ）が対象者Ｔの位置に関する情報に含まれているが、この受信信号強度（ＲＳＳＩ）を用いて、第１計測装置２１と複数の第２計測装置２２の各々との距離、ひいては、空間ＳＰ内の第１計測装置２１の位置（つまり、対象者Ｔの位置）をもとめることが可能である。具体的に説明すると、第１計測装置２１と複数の第２計測装置２２の各々との距離は、例えば、以下の式（１）及び（２）を用いることによって算出することができる。
Ｐ_ｒ＝Ｐ_ｔ＋Ｇ_ｒ＋Ｇ_ｔ－Ｌ …（１）

【数1】

式（１）中、Ｐ_ｒはＲＳＳＩ（ｄＢｍ）を示し、Ｐ_ｔは第２計測装置２２の送信電力（ｄＢｍ）を示し、Ｇ_ｒは第１計測装置２１の受信アンテナの利得（ｄＢｉ）を示し、Ｇ_ｔは第２計測装置２２の送信アンテナの利得（ｄＢｉ）を示し、Ｌは自由空間損失（ｄＢｍ）を示している。このＬは式（２）でもとめられ、式（２）中、ｄは第１計測装置２１と第２計測装置２２との距離（ｍ）を示し、ｆは無線信号の周波数（Ｈｚ）を示し、ｃは光速（＝２．９９７９２４５８×１０^８）（ｍ／ｓ）を示している。式（１）及び式（２）によってもとめられる距離とＲＳＳＩの値との関係は、例えば図６に示す対数関数で表される。図６に示すように、第１計測装置２１と第２計測装置２２との距離が短いほど、ＲＳＳＩ（図の例では、受信信号強度）の値が大きいことがわかる。

【0088】

これにより、第１計測装置２１と複数の第２計測装置２２の各々との間の信号の受信信号強度（ＲＳＳＩ）を用いて、第１計測装置２１と複数の第２計測装置２２の各々との距離をもとめることが可能になる。また、第１計測装置２１と複数の第２計測装置２２の各々との距離を用いて、空間ＳＰ内の第１計測装置２１の位置（つまり、対象者Ｔの位置）をもとめることが可能になる。

【0089】

部位検出手段４３は、取得した画像に基づいて、対象者Ｔ（動体）の少なくとも１つの部位を検出する機能を備える。

【0090】

また、部位検出手段４３は、対象者Ｔ（動体）の少なくとも１つの関節を、対象者Ｔの少なくとも１つの部位として検出してもよい。これにより、対象者Ｔの少なくとも１つの関節の移動態様に関する情報を用いて、後述するように学習データを生成することができる。

【0091】

部位検出手段４３の機能は、例えば以下のように実現される。推定装置３０のＣＰＵ３１は、例えば、第１取得手段４１の機能に基づいて、撮像装置１０から送信された画像データを第１取得データに記憶する毎に、対象者Ｔの少なくとも１つの部位の各々の位置に対応するノードを画像内に設定するとともに、各ノードの画像内の座標を算出してもよい。ここで、各ノードの設定及び座標の算出は、例えば、深層学習による特徴点（キーポイント）検出技術（例えば、ＯｐｅｎＰｏｓｅ等）を用いて行われてもよい。また、各ノードの座標は、二次元座標であってもよいし、例えば、画像データ（ステレオ画像）によって対象者Ｔの三次元モデルが生成される場合には、三次元座標であってもよい。

【0092】

なお、例えば、撮像装置１０が全方位画像を撮像する場合には、ＣＰＵ３１は、撮像装置１０が撮像した全方位画像をパノラマ画像に展開して、展開したパノラマ画像に対してノードの設定及びノードの座標の算出を行ってもよい。

【0093】

また、対象者Ｔのステレオ画像が取得された場合には、ＣＰＵ３１は、所定の視差を有する画像のセットの各画像に対して事前処理（例えば、ノイズ除去等）を実行し、さらには、周知のステレオマッチング処理を実行して、対象者Ｔの三次元モデルを生成してもよい。

【0094】

ＣＰＵ３１は、例えば図７に示すように、撮像装置１０が撮像した画像において、対象者Ｔの少なくとも１つの部位（図の例では、「首」、「右肩」、「左肩」、「右臀部」、「左臀部」等）の位置（図の例では、Ｘ方向の座標及びＹ方向の座標）を検出し、検出した部位の各々に対応するノード（図の例では、１４個のノード）を設定する。ここで、各ノードの座標は、各ノードが設定された画像に対応付けられた状態で第１取得データに記憶されてもよい。また、ＣＰＵ３１は、例えば、対象者Ｔの少なくとも１つの部位が他の物体（例えば、他の動体や設置物等）に隠れるように撮像される等によって当該部位を検出することができない場合に、当該部位に対応するノードの座標をＮＵＬＬデータとして第１取得データに記憶してもよい。

【0095】

なお、ここでは、撮像装置１０が撮像した画像を用いて対象者Ｔの少なくとも１つの部位（「首」、「右肩」、「左肩」、「右臀部」、「左臀部」等）が検出される場合を一例として説明したが、例えば、撮像装置１０が撮像した画像を用いて対象者Ｔの少なくとも１つの関節（例えば、「右肩関節」、「右肘関節」、「右股関節」、「右膝関節」、「左肩関節」、「左肘関節」、「左股関節」及び「左膝関節」等）が検出されてもよい。

【0096】

変化点検出手段４４は、対象者Ｔ（動体）の状態に関する情報に基づいて、対象者Ｔの行動が変化するタイミングを示す変化点を検出する機能を備える。

【0097】

また、変化点検出手段４４は、所定のタイミングにおける対象者Ｔ（動体）の状態に関する情報が所定の条件を満たす場合に当該所定のタイミングが変化点であるか否かを判別することによって、変化点を検出してもよい。これにより、対象者Ｔの状態に関する情報が所定の条件を満たすタイミングで変化点の検出処理が行われるので、例えば変化点の検出処理が常時行われる場合と比較して、変化点の検出処理にかかる負荷を低減することが可能になる。

【0098】

ここで、所定の条件は、対象者Ｔ（動体）の状態に関する情報の推移を示す曲線の微分値が０であることを含んでもよいこれにより、対象者Ｔの状態に関する情報の推移を示す曲線の微分値が０である場合に、変化点の検出処理を行うことが可能になる。なお、所定の条件は、例えば、所定のタイミングを含む或る期間内の対象者Ｔの状態に関する情報（例えば、回転数、角速度、角加速度、姿勢、加速度及び速度のうち１つ以上）の変化量の平均値の絶対値が所定値未満であることを含んでもよい。

【0099】

さらに、変化点検出手段４４は、所定のタイミングにおける対象者Ｔ（動体）の状態に関する情報の変化の大小を示す変化点スコアが所定値以上である場合に、当該所定のタイミングが変化点であると判別してもよい。これにより、変化点スコアを用いることによって、変化点を容易に検出することが可能になる。

【0100】

さらにまた、変化点検出手段４４は、所定のタイミングにおける対象者Ｔ（動体）の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つの変化の大小を示す変化点スコアに基づいて、当該所定のタイミングが変化点であるか否かを判別してもよい。これにより、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つを用いることによって、変化点を容易に検出することが可能になる。また、動体の位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つが用いられる場合には、当該少なくとも２つの各々の変化点スコアを複合的に用いることによって、変化点をより正確且つ容易に検出することが可能になる。

【0101】

また、変化点検出手段４４は、対象者Ｔ（動体）の位置が、対象者Ｔに設けられた第１計測装置２１（装置）と少なくとも１つの第２計測装置２２（他の装置）の各々との間で送受信される信号の受信信号強度（ＲＳＳＩ）に基づいてもとめられる場合であって、対象者Ｔの状態に関する情報が対象者Ｔの位置を含む場合に、当該信号の受信信号強度の変化の大小を示す変化点スコアに基づいて、所定のタイミングが変化点であるか否かを判別してもよい。これにより、対象者Ｔに設けられた第１計測装置２１と少なくとも１つの第２計測装置２２の各々との間で送受信される信号の受信信号強度の変化の大小を示す変化点スコアに基づいて、変化点を容易に検出することができる。

【0102】

変化点検出手段４４の機能は、例えば以下のように実現される。なお、ここでは、所定のタイミングにおいて対象者Ｔの状態に関する情報の推移を示す曲線の微分値が０である場合であって、当該所定のタイミングにおける対象者Ｔの状態に関する情報の変化点スコアが所定値以上である場合に、当該所定のタイミングが状態変化点として検出される場合を一例として説明する。

【0103】

推定装置３０のＣＰＵ３１は、例えば、所定のタイミング（例えば、対象者Ｔの状態に関する情報を計測装置２０から最初に受信（取得）したタイミング等）を起点として所定期間（例えば、３秒等）が経過する毎に、当該所定期間内に第２取得データに記憶された対象者Ｔの状態に関する情報（所定期間内の対象者Ｔの状態に関する情報の推移に関する情報）を第２取得データから抽出する。次に、ＣＰＵ３１は、抽出した所定期間内の対象者Ｔの状態に関する情報を用いて、所定期間内の対象者Ｔの状態に関する情報の経時的な変化を表す二次曲線を算出する。そして、ＣＰＵ３１は、所定期間内の時間（対象者Ｔの状態に関する情報の取得（計測）日時）のうち、算出した二次曲線において微分値が０になる時間（本願発明における「所定のタイミング」の一例である）を抽出する。

【0104】

次いで、推定装置３０のＣＰＵ３１は、抽出した時間毎に、当該時間が変化点であるか否かを判別する。ここで、ＣＰＵ３１は、変化点の周知の検出手法を用いて変化点を判別してもよい。なお、ここでは、検出手法の一例としてＣｈａｎｇｅ Ｆｉｎｄｅｒを用いる場合について説明する。Ｃｈａｎｇｅ Ｆｉｎｄｅｒは、従来の検出手法と比較して計算時間が短いこと、非定常データへの対応が可能であること、オンライン処理に適していること等の特徴を有している。ＣＰＵ３１は、抽出した時間毎に、Ｃｈａｎｇｅ Ｆｉｎｄｅｒを用いて変化点スコアを算出し、この変化点スコアが所定の閾値Ｔｈ未満から当該閾値Ｔｈ以上になる時間を、変化点として検出する。図８に、対象者Ｔの状態に関する情報の一例である加速度と、変化点スコアと、の経時的な変化の一例を示す。図８に示す例では、変化点スコアが閾値Ｔｈ（図の例では、２０）未満から閾値Ｔｈ以上になる時間ｔ１，ｔ２が、変化点として検出される。

【0105】

なお、ＣＰＵ３１は、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つの平均及び／又は分散に関する変化点スコアが所定の閾値Ｔｈ未満から当該閾値Ｔｈ以上になる時間を、変化点として検出してもよい。ここで、対象者Ｔの位置が、対象者Ｔに設けられた第１計測装置２１と複数の第２計測装置２２の各々との間で送受信される信号の受信信号強度（ＲＳＳＩ）に基づいてもとめられる場合には、ＣＰＵ３１は、第１計測装置２１と複数の第２計測装置２２の各々との間で送受信される信号のうち少なくとも１つの信号の受信信号強度（ＲＳＳＩ）の値、平均及び／又は分散に関する変化点スコアが所定の閾値Ｔｈ未満から当該閾値Ｔｈ以上になる時間を、変化点として検出してもよい。

【0106】

また、ＣＰＵ３１は、所定のタイミングにおける対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つの変化点スコアに基づいて、当該所定のタイミングが変化点であるか否かを判別してもよい。例えば、ＣＰＵ３１は、所定のタイミングにおける対象者Ｔの位置（例えば、信号の受信信号強度によって表されてもよい）、回転数、角速度、角加速度、姿勢、加速度及び速度のうち何れかの変化点スコアが所定の閾値Ｔｈ以上である場合に、当該所定のタイミングが変化点であると判別してもよい。また、例えば、ＣＰＵ３１は、所定のタイミングにおける対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つの変化点スコアの合計が所定の閾値Ｔｈ以上である場合に、当該所定のタイミングが変化点であると判別してもよい。

【0107】

さらに、ＣＰＵ３１は、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つの各々の変化点スコアを用いて、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つの各々に対応する変化点を検出してもよい。この場合、ＣＰＵ３１は、例えば、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つの各々に対応する変化点をそのまま変化点として使用してもよいし、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つの各々に対応する変化点の中から何れかの変化点（例えば、最も高い変化点スコアに対応する変化点）を選択し、選択された変化点のみを使用してもよい。さらに、ＣＰＵ３１は、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも２つの各々に対応する変化点を所定の計算式に代入することによって新たな変化点を算出し、算出された変化点を使用してもよい。

【0108】

上述した例では、変化点検出手段４４が、動体の状態に関する１つの情報（１つの時系列データ）に基づいて変化点を検出する場合について説明したが、変化点検出手段４４は、同じ行動を行う複数の動体の状態に関する情報（複数の時系列データ）に基づいて変化点を検出してもよい。ここで、同じ行動を行う複数の動体の状態に関する情報は、例えば、異なる期間毎に同じ行動を行う同一の動体の状態に関する情報（時系列データ）を含んでもよいし、同一期間内に同じ行動を行う複数の動体の各々の状態に関する情報（時系列データ）を含んでもよい。

【0109】

ところで、変化点検出手段４４が、同じ行動に対応する複数の動体の状態に関する情報を用いて変化点を検出する場合であって、例えば行動速度の違い等によって複数の動体の状態に関する情報の変化態様が同期していない場合には、変化点が検出されるタイミングが、複数の動体の状態に関する情報間で異なる場合があることから、正確な変化点を検出することが困難になる虞がある。例えば、図９（ａ）に示すように、動体によって同じ動作が時間差で行われる場合には、複数の動体の状態（ここでは、加速度）に関する情報（図の例では、２つの時系列データＣ１，Ｃ２）の変化態様が、例えば動体毎の行動速度の違い等によって同期していない（時間的にずれている）場合がある。この場合、時系列データＣ１において例えば変化点スコアに基づいて検出された変化点が時間ｔ１１，ｔ１３であり、時系列データＣ２において例えば変化点スコアに基づいて検出された変化点が時間ｔ１２，ｔ１４であると想定すると、１つの時系列データについて２つの変化点しか検出されていないにもかかわらず、所定期間内に４つの変化点が検出されることになる。このため、時間ｔ１１，ｔ１２，ｔ１３、ｔ１４のうち何れの時間が正確な変化点であるかを検出することが困難である。

【0110】

そこで、変化点検出手段４４は、それぞれ同じ行動に対応し、且つ、状態の変化態様が互いに同期していない複数の動体の状態に関する情報が存在する場合に、状態の変化態様が同期するように複数の動体の状態に関する情報を調整し、調整した複数の動体の状態に関する情報に基づいて変化点を検出してもよい。これにより、状態の変化態様が同期するように複数の動体の状態に関する情報が調整され、調整された複数の動体の状態に関する情報に基づいて変化点が検出されるので、同じ行動に対応する複数の動体の状態に関する情報を用いた場合であっても変化点を正確に検出することが可能になる。

【0111】

また、変化点検出手段４４は、動的時間伸縮法（ＤＴＷ：Dynamic Time Warping）を用いて、複数の動体の状態に関する情報を調整してもよい。これにより、動的時間伸縮法（ＤＴＷ）を用いて、複数の動体の状態に関する情報を、状態の変化態様が同期するように容易に調整することが可能になる。

【0112】

さらに、変化点検出手段４４は、調整した複数の動体の状態に関する情報を合成し、合成した複数の動体の状態に関する情報に基づいて変化点を検出してもよい。これにより、調整された（状態の変化態様が同期された）複数の動体の状態に関する情報が合成され、合成された複数の動体の状態に関する情報に基づいて変化点が検出されるので、例えば、調整された複数の動体の状態に関する情報の各々の間に差異がある場合であっても、合成された複数の動体の状態に関する情報を用いることによって、変化点を正確に検出することが可能になる。

【0113】

さらにまた、変化点検出手段４４は、調整した複数の動体の状態に関する情報を平均化することによって、調整した複数の動体の状態に関する情報を合成してもよい。この場合、調整された複数の動体の状態に関する情報を平均化することによって、複数の動体の状態に関する情報を容易に合成することが可能になる。

【0114】

また、変化点検出手段４４は、ＤＴＷ Ｂａｒｙｃｅｎｔｅｒ Ａｖｅｒａｇｉｎｇ法を用いて、調整した複数の動体の状態に関する情報を平均化してもよい。これにより、ＤＴＷ Ｂａｒｙｃｅｎｔｅｒ Ａｖｅｒａｇｉｎｇ法を用いて、調整された複数の動体の状態に関する情報を容易に平均化することが可能になる。

【0115】

複数の動体の状態に関する複数に基づいて変化点を検出する場合における変化点検出手段４４の機能は、例えば以下のように実現される。推定装置３０のＣＰＵ３１は、例えば図９（ａ）に示すように、同じ行動（例えば、後述する図１０に示す「行動１」等）に対応する複数（図の例では２つ）の時系列データＣ１，Ｃ２が存在する場合に、動的時間伸縮法（ＤＴＷ）を用いて、時系列データＣ１の何れのポイントと、時系列データＣ２の何れのポイントとが対応するかを示すパス（経路情報）を決定する。

【0116】

次に、ＣＰＵ３１は、各時系列データＣ１，Ｃ２の互いに対応するポイントの時間差がなくなる（つまり、各時系列データＣ１，Ｃ２の状態変化の態様が同期化される）ように、各時系列データＣ１，Ｃ２を調整する。なお、図９（ｂ）に示す例では、各時系列データＣ１，Ｃ２の互いに対応するポイントの時間差がなくなるように、時系列データＣ２の各ポイントの位置が時系列データＣ１の対応するポイントの位置に合わせられている。

【0117】

次いで、ＣＰＵ３１は、調整した各時系列データＣ１，Ｃ２を平均化する。なお、ここでは、ＣＰＵ３１が、ＤＴＷ Ｂａｒｙｃｅｎｔｅｒ Ａｖｅｒａｇｉｎｇ法を用いて、各時系列データＣ１，Ｃ２を平均化する場合を一例として説明するが、ＣＰＵ３１は、他の平均化方法を用いて各時系列データＣ１，Ｃ２を平均化してもよい。各時系列データＣ１，Ｃ２を平均化することによって、例えば図９（ｃ）に示すような時系列データＣ３が得られる。そして、ＣＰＵ３１は、時系列データＣ３を用いて変化点を検出してもよい。この場合、ＣＰＵ３１は、時間ｔ１１，ｔ１３を変化点として検出することが可能になる。

【0118】

このようにして、同じ行動に対応する複数の動体の状態に関する情報を用いた場合であっても、変化点を正確に検出することが可能になる。なお、本実施形態では、変化点検出手段４４が、調整した複数の動体の状態に関する情報を合成し、合成した複数の動体の状態に関する情報に基づいて変化点を検出する場合を一例として説明したが、本発明は、この場合に限られない。例えば、変化点検出手段４４は、調整した複数の動体の状態に関する情報を合成することなくそのまま用いて、変化点を検出してもよい。この場合、図９（ｂ）に示すように、状態の変化態様が同期するように各時系列データＣ１，Ｃ２を調整することによって、各時系列データＣ１，Ｃ２のうち何れかの時系列データを用いた場合であっても、同じ変化点（例えば、時間ｔ１１，ｔ１３）を検出することが可能になる。

【0119】

推定手段４５は、所定期間内の対象者Ｔ（動体）の状態に関する情報の推移に基づいて、当該所定期間内の対象者Ｔの行動を推定する機能を備える。

【0120】

また、推定手段４５は、所定期間内の対象者Ｔ（動体）の状態に関する情報の推移と、対象者Ｔの状態に関する情報の推移を学習データとして用いた機械学習に基づく学習済モデルと、に基づいて、所定期間内の対象者Ｔの行動を推定してもよい。これにより、所定期間内の対象者Ｔの状態に関する情報の推移を用いて学習済モデルによって推定された対象者Ｔの行動に基づいて、所定期間内の対象者Ｔの行動を容易に推定することができる。

【0121】

さらに、推定手段４５は、第１の変化点から当該第１の変化点の次の変化点である第２の変化点までの期間内の対象者Ｔ（動体）の行動を推定してもよい。この場合、変化点が検出されたタイミングで対象者Ｔの行動の推定処理が開始され、それ以外のタイミングでは対象者Ｔの行動の推定処理が開始されないので、例えば対象者Ｔの行動の推定処理が常時開始される場合と比較して、対象者Ｔの行動の推定処理にかかる負荷を低減することが可能になる。

【0122】

推定手段４５の機能は、例えば以下のように実現される。なお、ここでは、推定手段４５が、第１の変化点（例えば、図８に示す時間ｔ１）から当該第１の変化点の次の変化点である第２の変化点（例えば、図８に示す時間ｔ２）までの期間内のユーザの行動を、学習済モデルを用いて推定する場合を一例として説明する。推定装置３０のＣＰＵ３１は、例えば、第２取得データにアクセスして、第１の変化点として検出された時間（対象者Ｔの状態に関する情報の取得（計測）日時）から第２の変化点として検出された時間までの期間内に取得された対象者Ｔの状態に関する情報を抽出する。そして、ＣＰＵ３１は、抽出した対象者Ｔの状態に関する情報（所定期間内の対象者Ｔの状態に関する情報の推移に関する情報）を、対象者Ｔの状態に関する情報を第１学習データとして用いた機械学習に基づく第１学習済モデルに入力することによって、当該期間内の対象者Ｔの行動を推定する。

【0123】

第１学習データの一例を図１０に示す。図１０に示す第１学習データは、対象者Ｔが所定の行動（図の例では、「行動１（静止して上半身で作業する）」、「行動２（上半身を捻り大きく運動する）」、「行動３（静止して上半身での作業を長めにする）」、「行動４（歩行する）」、「行動５（立ち止まって静止する）」等の何れか）を行っている場合の対象者Ｔの状態に関する情報（例えば、対象者Ｔの位置、回転数、角速度、角加速度、姿勢、加速度及び速度のうち少なくとも１つ）の時間推移を、当該行動（行動ラベル）に対応付けた状態で記述されているデータである。これにより、機械学習の結果として、所定の行動を行う対象者Ｔの状態に関する情報の時間推移と、当該行動との関係を示す学習済モデルが構成される。

【0124】

なお、第１学習データに記述されるデータは、同一のユーザが異なる行動を行っている場合のデータを含んでもよいし、異なるユーザが同一の行動を行っている場合のデータを含んでもよい。

【0125】

また、ＣＰＵ３１は、対象者Ｔの状態に関する情報を第１学習データとして用いた機械学習によって、対象者Ｔの状態に関する情報に基づいて対象者Ｔの行動を推定するのに用いられるモデル（第１学習済モデル）を学習してもよい。

【0126】

この場合、ＣＰＵ３１は、例えば、所定のモデル学習指示が入力部３７を用いて入力されると、図１０に示す第１学習データを用いてモデルの学習を行ってもよい。ＣＰＵ３１は、例えば、時系列対応型ニューラルネットワークモデルを用いて学習してもよい。ここで、時系列対応型ニューラルネットワークとして、例えば、ＲＮＮ（Recurrent Neural Network）や、ＲＮＮの発展型であるＬＳＴＭ（Long Short-Term Memory）等を適用することができる。また、ＣＰＵ３１は、例えば、グラフニューラルネットワーク（ＧＮＮ）モデル、畳み込みニューラルネットワーク（ＣＮＮ）モデル、サポートベクターマシン（ＳＶＭ）モデル、全結合ニューラルネットワーク（ＦＮＮ）モデル、勾配ブースティング（ＨＧＢ）モデル、ウェーブネット（ＷＮ）モデル、ＥｘｔｒａＴｒｅｅｓ（Extremely Randomized Trees）モデル等の複数のモデルのうち何れかのモデルを用いて学習してもよい。さらに、ＣＰＵ３１は、ＧＮＮの派生である、グラフ畳み込みニューラルネットワーク（ＧＣＮ）モデル、グラフアテンションネットワーク（ＧＡＴ）モデル、グラフ畳み込みＬＳＴＭ（ＧＣ－ＬＳＴＭ）モデルのうち何れかを用いて学習してもよい。

【0127】

このようにして、ＣＰＵ３１は、第１の変化点から第２の変化点までの期間内の対象者Ｔの状態に関する情報の推移に関する情報を第１学習済モデルに入力することによって、当該期間内の対象者Ｔの行動を推定することができる。また、本実施形態では、例えば、対象者Ｔの状態に関する情報が第２取得データに新たに記憶される毎に、当該情報が新たに記憶された時点から所定期間内の対象者Ｔの行動パターンを推定する必要がないので、対象者Ｔの行動パターンの推定処理にかかる負荷を低減することが可能になる。

【0128】

なお、本実施形態では、ＣＰＵ３１が、推定装置３０内に設けられたモデル（第１学習済モデル）を学習し、この第１学習済モデルを用いて対象者Ｔの行動を推定する場合を一例として説明したが、本発明は、この場合に限られない。例えば、対象者Ｔの行動を推定するのに用いられる第１学習済モデルは、推定装置３０以外の他の装置に設けられてもよい。この場合、ＣＰＵ３１は、第１の変化点から第２の変化点までの期間内の対象者Ｔの状態に関する情報の推移に関する情報を、他の装置に設けられた第１学習済モデルに入力し、第１学習済モデルによって推定された行動を当該他の装置から受信（取得）してもよい。

【0129】

生成手段４６は、所定期間内に撮像された対象者Ｔ（動体）の画像に対して当該所定期間内の対象者Ｔの行動に関する情報をラベルとして付与することによって、対象者Ｔの画像に基づいて対象者Ｔの行動を推定するための学習データを生成する機能を備える。

【0130】

また、生成手段４６は、所定期間内の対象者Ｔ（動体）の少なくとも１つの部位の移動態様に関する情報に対して当該所定期間内の対象者Ｔの行動に関する情報をラベルとして付与することによって、学習データを生成してもよい。この場合、所定期間内に撮像された対象者Ｔの画像から検出された対象者Ｔの少なくとも１つの部位の移動態様に関する情報を用いることによって、当該所定期間内の対象者Ｔの行動をより正確に推定することの可能な学習データを生成することができる。

【0131】

生成手段４６の機能は、例えば以下のように実現される。推定装置３０のＣＰＵ３１は、例えば、推定手段４５の機能に基づいて、所定期間（例えば、第１変化点から第２変化点までの期間）内の対象者Ｔの行動を推定すると、当該所定期間内に撮像された対象者Ｔの画像に関する情報（例えば、対象者Ｔの少なくとも１つの部位の位置に関する情報）と、当該所定期間内の対象者Ｔの行動と、を対応付けた状態で例えば図１１に示す第２学習データに記憶する。図１１に示す第２学習データは、所定期間内での対象者Ｔの少なくとも１つの部位の位置の推移に関する情報と、推定手段４５の機能に基づいて推定された当該所定期間内の対象者Ｔの行動（行動ラベル）と、が対応付けた状態で記述されているデータである。これにより、機械学習の結果として、所定期間内に撮像された対象者Ｔの画像に関する情報と、当該所定期間内に対象者Ｔが行っていると推定される行動と、の関係を示す学習済モデルが構成される。

【0132】

なお、第２学習データに記述されるデータは、同一のユーザが異なる行動を行っている場合のデータを含んでもよいし、異なるユーザが同一の行動を行っている場合のデータを含んでもよい。

【0133】

学習手段４７は、撮像装置１０によって撮像された対象者Ｔの画像に関する情報を学習データとして用いた機械学習によって、撮像された対象者Ｔの画像に基づいて対象者Ｔの行動を推定するのに用いられるモデルを学習する機能を備える。

【0134】

学習手段４７の機能は、例えば以下のように実現される。推定装置３０のＣＰＵ３１は、例えば、所定のモデル学習指示が入力部３７を用いて入力されると、図１１に示す第２学習データを用いて、対象者Ｔの行動を推定するのに用いられるモデルの学習を行ってもよい。ＣＰＵ３１は、例えば、時系列対応型ニューラルネットワークモデルを用いて学習してもよい。ここで、時系列対応型ニューラルネットワークとして、例えば、ＲＮＮ（Recurrent Neural Network）や、ＲＮＮの発展型であるＬＳＴＭ（Long Short-Term Memory）等を適用することができる。また、ＣＰＵ３１は、例えば、グラフニューラルネットワーク（ＧＮＮ）モデル、畳み込みニューラルネットワーク（ＣＮＮ）モデル、サポートベクターマシン（ＳＶＭ）モデル、全結合ニューラルネットワーク（ＦＮＮ）モデル、勾配ブースティング（ＨＧＢ）モデル、ウェーブネット（ＷＮ）モデル、ＥｘｔｒａＴｒｅｅｓ（Extremely Randomized Trees）モデル等の複数のモデルのうち何れかのモデルを用いて学習してもよい。さらに、ＣＰＵ３１は、ＧＮＮの派生である、グラフ畳み込みニューラルネットワーク（ＧＣＮ）モデル、グラフアテンションネットワーク（ＧＡＴ）モデル、グラフ畳み込みＬＳＴＭ（ＧＣ－ＬＳＴＭ）モデルのうち何れかを用いて学習してもよい。

【0135】

画像取得手段４８は、撮像装置１０によって撮像された対象者Ｔ（動体）の画像を取得する機能を備える。

【0136】

画像取得手段４８の機能は、例えば以下のように実現される。先ず、撮像装置１０は、例えば、対象者Ｔが空間ＳＰ内に存在する場合に、所定のフレームレート（例えば、３０ｆｐｓ等）で撮像処理を行い、撮像処理を行う毎に、撮像した画像の画像データを、通信網ＮＷを介して推定装置３０に送信する。ここで、撮像装置１０によって撮像された画像の画像データは、撮像日時及び撮像装置１０の識別情報（例えば、撮像装置１０のシリアル番号やＭＡＣ（Media Access Control）アドレス等）と対応付けた状態で推定装置３０に送信されてもよい。

【0137】

一方、推定装置３０のＣＰＵ３１は、撮像装置１０から送信された画像データを、通信インタフェース部３８を介して受信（取得）する毎に、受信した画像データを、当該画像の撮像日時と対応付けた状態で例えばＲＡＭ３３又は記憶装置３４に記憶する。このようにして、画像取得手段４８は、撮像装置１０によって撮像された対象者Ｔの画像を取得することができる。

【0138】

なお、ＣＰＵ３１は、画像データが例えばＲＡＭ３３又は記憶装置３４に記憶される毎に、上述した部位検出手段４３の機能に基づいて、画像データ内の対象者Ｔの少なくとも１つの部位の位置を検出し、検出した位置に関する情報を当該画像データに対応付けた状態で例えばＲＡＭ３３又は記憶装置３４に記憶してもよい。

【0139】

行動推定手段４９は、所定期間内に撮像された対象者Ｔ（動体）の画像と、学習データ生成システムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、当該所定期間内の対象者Ｔの行動を推定する機能を備える。

【0140】

行動推定手段４９の機能は、例えば以下のように実現される。推定装置３０のＣＰＵ３１は、例えば、画像取得手段４８の機能に基づいて対象者Ｔの画像を取得する毎に、例えばＲＡＭ３３又は記憶装置３４にアクセスして、新たに記憶されたデータ（ここでは、画像データに対応付けられた対象者Ｔの少なくとも１つの部位の位置に関する情報）を抽出する。

【0141】

次に、ＣＰＵ３１は、所定期間内に抽出したデータ（対象者Ｔの少なくとも１つの部位の位置の推移に関する情報）を、学習手段４７の機能に基づいて構成された学習済モデルに入力することによって、当該所定期間内の対象者Ｔの行動を推定してもよい。また、ＣＰＵ３１は、例えばＲＡＭ３３又は記憶装置３４から抽出されたデータ（所定期間内の対象者Ｔの少なくとも１つの部位の位置の推移に関する情報）と、推定された対象者Ｔの行動と、を例えば図１２に示す推定データに記憶してもよい。図１２に示す推定データは、所定期間内の対象者Ｔの少なくとも１つの部位の位置の推移に関する情報と、対象者Ｔの少なくとも１つの部位の位置の推移に基づいて推定された当該所定期間内の対象者Ｔの行動と、が対応付けられた状態で記述されているデータである。

【0142】

このようにして、ＣＰＵ３１は、所定期間内の対象者Ｔの少なくとも１つの部位の位置の推移に関する情報を学習済モデルに入力することによって、当該所定期間内の対象者Ｔの行動を容易に推定することができる。

【0143】

なお、ＣＰＵ３１は、行動推定手段４９の機能に基づいて推定された対象者Ｔの行動に関する情報を提示してもよい。例えば、ＣＰＵ３１は、対象者Ｔの行動を推定すると、対象者Ｔの行動に関する情報を例えば表示部３６に表示してもよい。ここで、対象者Ｔの行動に関する情報は、テキストデータで構成されてもよいし、画像データ等で構成されてもよい。また、対象者Ｔの行動に関する情報が音声データで構成されている場合には、対象者Ｔの行動に関する情報を、スピーカ等の音声出力装置から出力してもよい。

【0144】

また、ＣＰＵ３１は、対象者Ｔの行動に関する情報を、通信網ＮＷを介して推定装置３０に接続された他のコンピュータ（例えば、サーバ等）に送信してもよい。

【0145】

（４）本実施形態の学習データ生成システムの主要な処理のフロー
次に、本実施形態の学習データ生成システムにより行われる主要な処理のフローの一例について、図１３のフローチャートを参照して説明する。

【0146】

先ず、推定装置３０のＣＰＵ３１は、第１取得手段４１の機能に基づいて、撮像装置１０によって撮像された対象者Ｔの画像を取得する（ステップＳ１００）。ここで、ＣＰＵ３１は、部位検出手段４３の機能に基づいて、取得した画像から対象者Ｔの少なくとも１つの部位を検出してもよい。

【0147】

次に、推定装置３０のＣＰＵ３１は、第２取得手段４２の機能に基づいて、計測装置２０によって計測された対象者Ｔの状態に関する情報を取得する（ステップＳ１０２）。

【0148】

次いで、推定装置３０のＣＰＵ３１は、推定手段４５の機能に基づいて、所定期間内の対象者Ｔの状態に関する情報の推移に基づいて、当該所定期間内の対象者Ｔの行動を推定する（ステップＳ１０４）。

【0149】

そして、推定装置３０のＣＰＵ３１は、生成手段４６の機能に基づいて、所定期間内に撮像された対象者Ｔの画像に対して当該所定期間内の対象者Ｔの行動に関する情報をラベルとして付与することによって、対象者Ｔの画像に基づいて対象者Ｔの行動を推定するための学習データ（第２学習データ）を生成する（ステップＳ１０６）。

【0150】

このようにして、対象者Ｔの画像に基づいて対象者Ｔの行動を推定するための学習データ（第２学習データ）を自動的に生成することが可能になる。

【0151】

（５）本実施形態の推定システムの主要な処理のフロー
次に、本実施形態の推定システムにより行われる主要な処理のフローの一例について、図１４のフローチャートを参照して説明する。

【0152】

先ず、推定装置３０のＣＰＵ３１は、画像取得手段４８の機能に基づいて、撮像装置１０によって撮像された対象者Ｔの画像を取得する（ステップＳ２００）。

【0153】

次に、推定装置３０のＣＰＵ３１は、行動推定手段４９の機能に基づいて、所定期間内に撮像された対象者Ｔの画像と、学習データ生成システムによって生成された学習データを用いた機械学習に基づく学習済モデルと、に基づいて、当該所定期間内の対象者Ｔの行動を推定する（ステップＳ２０２）。

【0154】

上述したように、本実施形態の学習データ生成システム、学習データ生成方法、プログラムによれば、所定期間内の対象者Ｔの状態に関する情報の推移に基づいて当該所定期間内の対象者Ｔの行動が推定され、推定された行動に関する情報が、当該所定期間内に撮像された対象者Ｔの画像に対してラベルとして付与されることによって、対象者Ｔの画像に基づいて対象者Ｔの行動を推定するための学習データ（第２学習データ）を自動的に生成することが可能になる。これにより、例えば人為的な作業によって学習データを生成する場合と比較して、学習データを容易に生成することができる。また、学習データを生成する際の人為的なミスを排除することが可能になるので、適切な学習データを生成することができる。

【0155】

また、本実施形態の推定システム、推定方法、プログラムによれば、撮像された対象者Ｔの画像に基づいて対象者Ｔの行動を容易に推定することができる。

【0156】

以下、上述した実施形態の変形例について説明する。
（変形例）
上記実施形態では、推定手段４５が、所定期間内の対象者Ｔの状態に関する情報の推移と、対象者Ｔの状態に関する情報の推移を学習データとして用いた機械学習に基づく学習済モデルと、に基づいて、当該所定期間内の対象者Ｔの行動を推定する場合を一例として説明したが、本発明はこの場合に限られない。例えば、推定手段４５は、所定期間内の対象者Ｔの状態に関する情報の推移が所定の行動に対応する所定の条件を満たす場合に、当該所定の行動を当該所定期間内の対象者Ｔの行動として推定してもよい。ここで、所定の条件とは、例えば、所定期間内の対象者Ｔの状態に関する情報の推移が、所定の行動に対応する対象者Ｔの状態に関する情報の範囲に含まれることであってもよい。

【0157】

この場合、推定装置３０のＣＰＵ３１は、図１５に示す行動データを参照して、所定期間内の対象者Ｔの状態に関する情報に基づいて、当該所定期間内の対象者Ｔの行動を推定してもよい。行動データは、複数の行動（図の例では、「行動１（静止して上半身で作業する）」、「行動２（上半身を捻り大きく運動する）」、「行動３（静止して上半身での作業を長めにする）」、「行動４（歩行する）」等）毎に、対応する行動が行われていると推定される場合の対象者Ｔの計測情報（図の例では、３軸加速度）の範囲の時間推移が対応付けられた状態で記述されているデータである。行動データは、例えば記憶装置３４に記憶されていてもよい。

【0158】

ＣＰＵ３１は、例えば、所定期間内の対象者Ｔの計測情報の時間推移が、行動データ内の何れかの行動に対応する計測情報の範囲に含まれていると判別した場合に、当該何れかの行動を、所定期間内の対象者Ｔの行動（例えば、行動１（静止して上半身で作業する））として推定してもよい。また、ＣＰＵ３１は、推定した行動に関する情報を、所定期間内の対象者Ｔの計測情報の時間推移と対応付けた状態で第１学習データに記憶してもよい。

【0159】

このように、本変形例にかかる行動推定システム、行動推定方法、プログラムによれば、上述した実施形態と同様の作用効果を発揮することが可能である。

【0160】

なお、本発明のプログラムは、コンピュータで読み取り可能な記憶媒体に記憶されていてもよい。このプログラムを記録した記憶媒体は、図２に示す推定装置３０のＲＯＭ３２、ＲＡＭ３３又は記憶装置３４であってもよい。また、記憶媒体は、例えばＣＤ－ＲＯＭドライブ等のプログラム読取装置に挿入されることで読み取り可能なＣＤ－ＲＯＭ等であってもよい。さらに、記憶媒体は、磁気テープ、カセットテープ、フレキシブルディスク、ＭＯ／ＭＤ／ＤＶＤ等であってもよいし、半導体メモリであってもよい。

【0161】

以上説明した実施形態及び変形例は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記実施形態及び変形例に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。

【0162】

例えば、上述した実施形態では、動体が人物（対象者Ｔ）である場合を一例として説明したが、この場合に限られない。動体は、行動推定の対象となり得るものであれば如何なるものであってもよく、例えば、人物以外の動物であってもよいし、作業機械、車両、飛行体等のオブジェクトであってもよい。

【0163】

また、上述した実施形態では、対象者Ｔ（動体）の首、右肩、左肩、右臀部、左臀部が、対象者Ｔの部位として検出される場合を一例として説明したが、他の部位（例えば、頭、手、足、関節等）が検出されてもよい。

【0164】

さらに、上述した実施形態では、１つの動体（対象者Ｔ）の行動が推定される場合を一例として説明したが、複数の動体の各々の行動が同時に推定されてもよい。

【0165】

さらにまた、上述した実施形態では、「行動１（静止して上半身で作業する）」、「行動２（上半身を捻り大きく運動する）」、「行動３（静止して上半身での作業を長めにする）」、「行動４（歩行する）」、「行動５（立ち止まって静止する）」のうち何れかの行動が推定される場合を一例として説明したが、行動の内容はこれらに限定されない。

【0166】

また、上述した実施形態では、１つの推定装置３０が設けられている場合を一例として説明したが、この場合に限られない。例えば、複数の推定装置３０が設けられてもよく、この場合には、何れかの推定装置３０上の操作内容及び処理結果等が他の推定装置３０上でリアルタイムに提示されてもよいし、何れかの推定装置３０での処理結果等が複数の推定装置３０間で共有されてもよい。

【0167】

さらに、上述した実施形態では、所定期間内の対象者Ｔの少なくとも１つの部位の位置の時間推移に関する情報が、本発明の「所定期間内の動体の少なくとも１つの部位の移動態様に関する情報」に対応する場合を一例として説明したが、この場合に限られない。「所定期間内の動体の少なくとも１つの部位の移動態様に関する情報」は、例えば、所定期間内の対象者Ｔの少なくとも１つの部位の角度の時間推移に関する情報であってもよいし、所定期間内の対象者Ｔの複数の部位間の距離の時間推移に関する情報等であってもよい。

【0168】

さらにまた、上述した実施形態では、推定装置３０によって、第１取得手段４１、第２取得手段４２、部位検出手段４３、変化点検出手段４４、推定手段４５、生成手段４６、学習手段４７、画像取得手段４８及び行動推定手段４９の各機能を実現する構成としたが、この構成に限られない。例えば、インターネットやＬＡＮ等の通信網を介して推定装置３０と通信可能に接続されたコンピュータ等（例えば、汎用のパーソナルコンピュータやサーバコンピュータ等）から構成された生成装置５０（図１６に示す）であって、上述した学習データを生成するのに用いられる生成装置５０が設けられてもよい。この場合、推定装置３０及び生成装置５０は、実質的に同一のハードウェア構成を採ることができるので、上記実施形態において説明した各手段４１～４９のうち少なくとも１つの手段の機能を生成装置５０によって実現することが可能になる。例えば、図３に示した機能ブロック図の各機能は、図１６（ａ），（ｂ）に示すように、推定装置３０と生成装置５０との間で任意に分担されてもよい。

【0169】

さらに、上記各手段４１～４９のうち少なくとも１つの手段の機能を、推定装置３０以外の他の装置（例えば、上述した撮像装置１０や計測装置２０等）によって実現する構成としてもよい。

【産業上の利用可能性】

【0170】

上述したような本発明の学習データ生成システム、推定システム、学習データ生成方法、推定方法、プログラムは、撮像された動体の画像に基づいて当該動体の行動を容易に把握することができるので、例えば、動体（例えば、作業者や作業機械等）の行動分析等を行う業務管理システムや、動体が存在するエリアに応じて適切な情報を提供する情報提供システムや、動体（例えば、入院患者、施設の入居者、ペット等）のモニタリングシステム等に好適に利用することが可能になる。したがって、その産業上の利用可能性は極めて大きい。

【符号の説明】

【0171】

１０…撮像装置
２０…計測装置
３０…推定装置
４１…第１取得手段
４２…第２取得手段
４３…部位検出手段
４４…変化点検出手段
４５…推定手段
４６…生成手段
４７…学習手段
４８…画像取得手段
４９…行動推定手段
５０…生成装置

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】