IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士通株式会社の特許一覧

特開2022-178356技認識方法、技認識プログラム及び体操採点支援システム
<>
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図1
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図2
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図3
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図4
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図5
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図6
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図7
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図8
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図9
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図10
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図11
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図12
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図13
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図14
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図15
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図16
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図17
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図18
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図19
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図20
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図21
  • 特開-技認識方法、技認識プログラム及び体操採点支援システム 図22
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022178356
(43)【公開日】2022-12-02
(54)【発明の名称】技認識方法、技認識プログラム及び体操採点支援システム
(51)【国際特許分類】
   G06T 7/20 20170101AFI20221125BHJP
   A63B 71/06 20060101ALI20221125BHJP
【FI】
G06T7/20 300Z
A63B71/06 M
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2021085106
(22)【出願日】2021-05-20
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】100094525
【弁理士】
【氏名又は名称】土井 健二
(74)【代理人】
【識別番号】100094514
【弁理士】
【氏名又は名称】林 恒徳
(72)【発明者】
【氏名】井谷 宣子
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096CA04
5L096FA69
5L096FA74
5L096JA11
(57)【要約】
【課題】選手が行った技の認識を精度良く行うことを可能とする技認識方法、技認識プログラム及び体操採点支援システムを提供する。
【解決手段】人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、複数フレームのうち、第1条件を満たす分節フレームを特定し、複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、特定した複数フレームを分節フレームと分節フレーム群とを分節点とすることにより、複数フレームを複数グループに分節し、分節された複数グループごとに、人間が行った基本運動を特定し、特定した複数グループごとの基本運動の組合せ及び順序に基づいて、人間が行った技の種別を識別する。
【選択図】図21
【特許請求の範囲】
【請求項1】
人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、
前記複数フレームのうち、第1条件を満たす分節フレームを特定し、
前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、
特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、
分節された前記複数グループごとに、前記人間が行った基本運動を特定し、
特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、
処理をコンピュータが実行することを特徴とする技認識方法。
【請求項2】
請求項1において、
前記複数フレームのそれぞれは、前記人間の体における複数の部位のそれぞれに対応する複数の特徴点の位置情報を含む、
ことを特徴とする技認識方法。
【請求項3】
請求項1において、
前記分節フレームを特定する処理では、前記複数フレームのうち、記憶部に記憶した複数の第1姿勢のいずれかと対応するフレームを前記分節フレームとして特定する、
ことを特徴とする技認識方法。
【請求項4】
請求項1において、
前記分節フレーム群を特定する処理では、前記複数フレームのうち、記憶部に記憶した複数の第2姿勢のいずれかと連続して対応する複数フレームを前記分節フレーム群として特定する、
ことを特徴とする技認識方法。
【請求項5】
請求項1において、
前記基本運動を特定する処理では、前記複数グループごとに、各グループに含まれる1以上のフレームにおける前記人間の姿勢に応じて、各グループに対応する前記基本運動を特定する、
ことを特徴とする技認識方法。
【請求項6】
請求項1において、
前記技の種別を認識する処理では、前記複数グループごとの前記基本運動の組合せ及び順序から、前記複数グループに対応する1以上の技候補を特定し、
特定した前記1以上の技候補ごとに、各技候補に対応する前記基本運動における前記人間の姿勢が満たす第3条件を特定し、
特定した前記1以上の技候補ごとに、各技候補と各技候補の直前または直後に実施された他の技候補との順序が前記第3条件に対応する第4条件を満たす場合、各技候補の種別を前記人間が行った前記技の種別として識別する、
ことを特徴とする技認識方法。
【請求項7】
請求項1において、さらに、
前記技を示す情報を出力装置に出力する、処理をコンピュータが実行することを特徴とする技認識方法。
【請求項8】
請求項7において、
前記出力する処理では、前記技のそれぞれの開始時間と終了時間とを出力する、
ことを特徴とする技認識方法。
【請求項9】
請求項8において、
前記出力する処理では、
前記技に対応する前記複数グループと前記技の直前に実施された第1技に対応する前記複数グループとの間が前記分節フレーム群によって分節されている場合、前記技の前記開始時間を、前記技と前記第1技との間における前記分節フレーム群の開始時間とし、
前記技に対応する前記複数グループと前記技の直後に実施された第2技に対応する前記複数グループとの間が前記分節フレーム群によって分節されている場合、前記技の前記終了時間を、前記技と前記第2技との間における前記分節フレーム群の終了時間とする、
ことを特徴とする技認識方法。
【請求項10】
人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、
前記複数フレームのうち、第1条件を満たす分節フレームを特定し、
前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、
特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、
分節された前記複数グループごとに、前記人間が行った基本運動を特定し、
特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、
処理をコンピュータに実行させることを特徴とする技認識プログラム。
【請求項11】
センサと情報処理装置とを含む体操採点支援システムであって、
前記センサは、人間の姿勢を認識し、
前記情報処理装置は、
前記センサによって認識された前記人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、
前記複数フレームのうち、第1条件を満たす分節フレームを特定し、
前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、
特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、
分節された前記複数グループごとに、前記人間が行った基本運動を特定し、
特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、
ことを特徴とする体操採点支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、技認識方法、技認識プログラム及び体操採点支援システムに関する。
【背景技術】
【0002】
各種スポーツの分野では、競技の技術進歩に伴い、選手の演技を目視によって公平かつ正確に評価することの困難性が高まっている。そのため、近年では、選手の演技を自動的に評価することが可能な技術の開発が行われている。
【0003】
具体的に、上記のような技術では、例えば、選手の演技を撮影した時系列データから基本運動の開始ポーズや終了ポーズを特定することによって、選手が行った各基本運動の認識を行う。そして、上記のような技術では、例えば、認識を行った各基本運動の順序に基づいて、選手が行った技の種類についての認識を行う(例えば、特許文献1及び2参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】国際公開第2019/116495号
【特許文献2】特開2020-038440号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、例えば、選手が複数の技を連続して行う場合、各技の開始ポーズや終了ポーズは、各技が単独で行われたときの開始ポーズや終了ポーズと異なる場合がある。そのため、上記のような技術では、選手が行った各基本運動の認識を精度良く行うことができず、選手が行った技の種類についての認識を精度良く行うことができない場合がある。
【0006】
そこで、一つの側面では、本発明は、選手が行った技の認識を精度良く行うことを可能とする技認識方法、技認識プログラム及び体操採点支援システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
実施の形態の一態様では、人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、前記複数フレームのうち、第1条件を満たす分節フレームを特定し、前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、分節された前記複数グループごとに、前記人間が行った基本運動を特定し、特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、処理をコンピュータが実行する。
【発明の効果】
【0008】
一つの側面によれば、選手が行った技の認識を精度良く行うことを可能とする。
【図面の簡単な説明】
【0009】
図1図1は、情報処理システム10の構成について説明する図である。
図2図2は、情報処理装置1のハードウエア構成を説明する図である。
図3図3は、情報処理装置1の機能のブロック図である。
図4図4は、第1の実施の形態における技認識処理の概略を説明するフローチャート図である。
図5図5は、第1の実施の形態における概略の具体例を説明する図である。
図6図6は、第1の実施の形態における概略の具体例を説明する図である。
図7図7は、第1の実施の形態における技認識処理の詳細を説明するフローチャート図である。
図8図8は、第1の実施の形態における技認識処理の詳細を説明するフローチャート図である。
図9図9は、第1の実施の形態における技認識処理の詳細を説明するフローチャート図である。
図10図10は、第1の実施の形態における技認識処理の詳細を説明するフローチャート図である。
図11図11は、時系列データ131の具体例について説明する図である。
図12図12は、第1分節条件情報132の具体例について説明する図である。
図13図13は、第2分節条件情報133の具体例について説明する図である。
図14図14は、基本運動条件情報134の具体例について説明する図である。
図15図15は、技動作順序情報135の具体例について説明する図である。
図16図16は、第1認定条件情報136の具体例について説明する図である。
図17図17は、第2認定条件情報137の具体例について説明する図である。
図18図18は、技認識結果情報138の具体例について説明する図である。
図19図19は、第1の実施の形態における具体例を説明する図である。
図20図20は、第1の実施の形態における具体例を説明する図である。
図21図21は、第1の実施の形態における具体例を説明する図である。
図22図22は、技時間情報139の具体例について説明する図である。
【発明を実施するための形態】
【0010】
[第1の実施の形態における情報処理システムの構成]
初めに、情報処理システム10の構成について説明を行う。図1は、情報処理システム10の構成について説明する図である。
【0011】
情報処理システム10は、例えば、選手P(以下、人間Pとも呼ぶ)の動作を撮影するセンサ2と、選手Pが行った技を認識する情報処理装置1と、情報処理装置1による技の認識結果を出力するモニター等の出力装置5とを有する。
【0012】
センサ2は、例えば、3D(dimension)センサであり、演技中における選手Pの各動作を認識可能な位置に配置される。
【0013】
具体的に、センサ2は、例えば、選手Pの各観測点までの距離を計測するセンサであり、各観測点の3次元座標を示すデータ(以下、3次元データとも呼ぶ)を連続的に生成して情報処理装置1に送信する。
【0014】
情報処理装置1は、例えば、1台以上の物理マシンによって構成され、センサ2から送信された3次元データを用いることによって、選手Pが行った技の認識を行う。
【0015】
具体的に、情報処理装置1は、例えば、センサ2から連続的に送信された3次元データから、選手Pの骨格を構成する複数の特徴点を示す骨格データを時系列に並べたデータ(以下、単に時系列データとも呼ぶ)を生成する。
【0016】
そして、情報処理装置1は、例えば、生成した時系列データから基本運動の開始ポーズや終了ポーズを特定することによって、選手Pが行った各基本運動の認識を行う。さらに、情報処理装置1は、例えば、認識を行った各基本運動の順序に基づいて、選手Pが行った技の種類についての認識を行う。
【0017】
ここで、例えば、選手Pが複数の技を連続して行う場合、各技の開始ポーズや終了ポーズは、各技が単独で行われたときの開始ポーズや終了ポーズと異なる場合がある。そのため、情報処理装置1は、選手Pが行った各基本運動の認識を精度良く行うことができず、選手Pが行った技の種類についての認識を精度良く行うことができない場合がある。
【0018】
そこで、本実施の形態における情報処理装置1は、時系列データに含まれる複数フレームのうち、第1条件を満たすフレーム(以下、分節フレームとも呼ぶ)を特定する。具体的に、情報処理装置1は、例えば、時系列データに含まれる複数フレームのうち、記憶部(図示せず)に予め記憶された複数の第1姿勢のいずれかと対応するフレームを分節フレームとして特定する。複数の第1姿勢は、例えば、各基本動作の開始ポーズ及び終了ポーズに対応する姿勢である。
【0019】
また、情報処理装置1は、時系列データに含まれる複数フレームのうち、第2条件を連続して満たす複数フレーム(以下、分節フレーム群とも呼ぶ)を特定する。具体的に、情報処理装置1は、例えば、時系列データに含まれる複数フレームのうち、記憶部(図示せず)に予め記憶された複数の第2姿勢のいずれかと連続して対応する複数フレームを分節フレーム群として特定する。複数の第2姿勢は、例えば、複数の技が連続で行われる場合における各技の終了ポーズと各技の次に行われる技の開始ポーズとの間の各ポーズ(以下、中間ポーズとも呼ぶ)に対応する姿勢である。
【0020】
続いて、情報処理装置1は、特定した分節フレームと分節フレーム群とに基づいて、複数フレームを複数グループに分節する。具体的に、情報処理装置1は、例えば、複数フレームを分節フレーム及び分節フレーム群のそれぞれを分節点とすることによって、複数フレームを複数グループに分節する。そして、情報処理装置1は、分節された複数グループごとに、選手Pが行った基本運動を特定する。
【0021】
その後、情報処理装置1は、特定した複数グループごとの基本運動の組合せ及び順序に基づいて、選手Pが行った演技に含まれる技の種別を識別する。
【0022】
すなわち、本実施の形態における情報処理装置1は、各技を構成する各基本運動の開始ポーズまたは終了ポーズに該当すると判断できるフレームを分節フレームとして特定する。また、情報処理装置1は、複数の技が連続して行われている場合、例えば、1番目の技を構成する最後の基本運動の終了ポーズから2番目の技を構成する最初の基本運動の開始ポーズまでの間に該当すると判断できる1以上のフレームを分節フレーム群として特定する。そして、情報処理装置1は、分節フレームだけでなく、分節フレーム群についても基本運動の分節点として用いることによって、複数フレームに含まれる複数の基本運動をそれぞれ特定する。
【0023】
これにより、本実施の形態における情報処理装置1は、複数の技が連続して行われる場合であっても、複数フレームの分節を各基本運動に対応するフレームごとに行うことが可能になり、選手Pが行った基本運動のそれぞれを精度良く認識することが可能になる。そのため、情報処理装置1は、選手Pが行った技の種類についての認識を精度良く行うことが可能になる。
【0024】
[情報処理システムのハードウエア構成]
次に、情報処理システム10のハードウエア構成について説明する。図2は、情報処理装置1のハードウエア構成を説明する図である。
【0025】
情報処理装置1は、図2に示すように、プロセッサであるCPU101と、メモリ102と、I/Oインタフェース103と、記憶媒体104とを有する。各部は、バス105を介して互いに接続される。
【0026】
記憶媒体104は、例えば、選手Pが行った技の認識を行う処理(以下、技認識処理とも呼ぶ)を行うためのプログラム110を記憶するプログラム格納領域(図示せず)を有する。また、記憶媒体104は、例えば、技認識処理を行う際に用いられる情報を記憶する記憶部130(以下、情報格納領域130とも呼ぶ)を有する。なお、記憶媒体104は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)であってよい。
【0027】
CPU101は、記憶媒体104からメモリ102にロードされたプログラム110を実行して技認識処理を行う。
【0028】
I/Oインタフェース103は、例えば、ネットワークインターフェースカード等のインタフェース機器であり、センサ2及び出力装置5とアクセスが可能である。
【0029】
[情報処理システムの機能]
次に、情報処理システム10の機能について説明を行う。図3は、情報処理装置1の機能のブロック図である。
【0030】
情報処理装置1は、図3に示すように、例えば、CPU101やメモリ102等のハードウエアとプログラム110とが有機的に協働することにより、データ入力部111と、第1分節特定部112と、第2分節特定部113と、運動認識部114と、技認識部115と、第1技認定部116と、第2技認定部117と、データ出力部118と、時間判定部119とを含む各種機能を実現する。
【0031】
また、情報処理装置1は、例えば、時系列データ131と、第1分節条件情報132と、第2分節条件情報133と、基本運動条件情報134と、技動作順序情報135と、第1認定条件情報136と、第2認定条件情報137と、技認識結果情報138と、技時間情報139とを情報格納領域130に記憶する。
【0032】
データ入力部111は、例えば、センサ2から送信された3次元データ(図示せず)を連続的に受信する。そして、データ入力部111は、例えば、センサ2から送信された3次元のデータのそれぞれから時系列データ131を生成する。時系列データ131は、選手Pの体における複数の部位のそれぞれに対応する複数の特徴点の位置情報をそれぞれ含む複数のフレームからなる時系列データである。その後、データ入力部111は、生成した時系列データ131を情報格納領域130に記憶する。
【0033】
第1分節特定部112は、例えば、情報格納領域130に記憶された時系列データ131を構成する複数フレームのうち、第1条件を満たすフレームを満たす分節フレームを特定する。具体的に、第1分節特定部112は、例えば、時系列データ131に含まれる複数フレームのうち、情報格納領域130に記憶した第1分節条件情報132に含まれる条件のいずれかに対応するフレームを分節フレームとして特定する。第1分節状態情報132は、分節フレームに該当するフレームの条件を含む情報である。
【0034】
第2分節特定部113は、例えば、情報格納領域130に記憶された時系列データ131を構成する複数フレームのうち、第2条件を連続して満たす複数フレームからなる分節フレーム群を特定する。具体的に、第2分節特定部113は、例えば、時系列データ131に含まれる複数フレームのうち、情報格納領域130に記憶した第2分節条件情報133に含まれる条件のいずれかに連続して対応する複数フレームを分節フレーム群として特定する。第2分節状態情報133は、分節フレーム群に該当するフレームの条件を含む情報である。
【0035】
運動認識部114は、例えば、第1分節特定部112が特定した分節フレームと第2分節特定部113が特定した分節フレーム群とに基づいて、時系列データ131を構成する複数フレームを複数グループに分節する。具体的に、運動認識部114は、例えば、複数フレームを分節フレーム及び分節フレーム群のそれぞれを分節点とすることによって、時系列データ131を構成する複数フレームを複数グループに分節する。
【0036】
そして、運動認識部114は、分節された複数グループごとに、選手Pが行った基本運動を認識(特定)する。具体的に、運動認識部114は、例えば、情報格納領域130に記憶した基本運動条件情報134を参照し、複数のグループのそれぞれに対応する基本運動を認識する。基本運動条件情報134は、基本運動に該当するグループの条件を含む情報である。
【0037】
なお、運動認識部114は、例えば、分節フレームがその分節フレームによって分節される2つのグループのいずれにも含まれないように分節を行うものであってもよいし、分節フレームがその分節フレームによって分節される2つのグループのうちのいずれかに含まれるように分節を行うものであってもよい。また、運動認識部114は、分節フレーム群がその分節フレーム群によって分節される2つのグループのいずれにも含まれないように分節を行うものであってもよいし、分節フレーム群がその分節フレーム群によって分節される2つのグループのうちのいずれかに含まれるように分節を行うものであってもよい。
【0038】
技認識部115は、例えば、運動認識部114が認識した複数グループごとの基本運動の組合せ及び順序から、選手Pが行った技の候補(以下、技候補とも呼ぶ)を認識(特定)する。具体的に、技認識部115は、例えば、情報格納領域130に記憶した技動作順序情報135を参照し、複数グループに対応する技候補を認識する。技動作順序情報135は、技候補に該当する基本運動の組合せ及び順序の条件を含む情報である。
【0039】
第1技認定部116は、例えば、技認識部115が認識した技候補ごとに、各技候補に対応する基本運動における選手Pの姿勢が満たす第1認定技の認定条件(以下、第3条件とも呼ぶ)を特定する。具体的に、第1技認定部116は、例えば、情報格納領域130に記憶した第1認定条件情報136を参照し、各技候補に対応する第1認定技と認定条件との組合せを特定する。第1認定条件情報136は、第1認定技のそれぞれに対応する認定条件を含む情報である。
【0040】
第2技認定部117は、例えば、技認識部115が認識した技候補ごとに、各技候補と各技候補の直前または直後に実施された他の技候補との順序が、各技候補について第1技認定部116が特定した認定条件に対応する条件(以下、第4条件とも呼ぶ)を満たすか否かを判定する。そして、例えば、各候補に対応する順序が条件を満たすと判定した場合、各技候補の種別を選手Pが実際に行った技(以下、第2認定技とも呼ぶ)の種別として識別する。具体的に、第2技認定部117は、例えば、情報格納領域130に記憶した第2認定条件情報137を参照し、各技候補を第2認定技として認定するか否かの判定を行う。第2認定条件情報137は、第2認定技に該当する第1認定技の認定条件を含む情報である。
【0041】
データ出力部118は、例えば、第2技認定部117が識別した技の種別を示す情報を出力装置5に出力する。
【0042】
時間判定部119は、例えば、第2技認定部117が識別した技の開始時間及び終了時間を判定する。具体的に、時間判定部119は、例えば、各技の開始ポーズに対応するフレームのセンサ2による認識時間や各技の開始ポーズに対応するフレームのフレーム番号に対応する時間を技の開始時間として判定する。また、時間判定部119は、例えば、各技の終了ポーズに対応するフレームのセンサ2による認識時間や各技の終了ポーズに対応するフレームのフレーム番号に対応する時間を技の終了時間として判定する。そして、データ出力部118は、例えば、時間判定部119が判定した技の開始時間及び終了時間を、第2技認定部117が特定した技を示す情報とともに出力装置5に出力する。
【0043】
[第1の実施の形態の概略]
次に、第1の実施の形態の概略について説明する。図4は、第1の実施の形態における技認識処理の概略を説明するフローチャート図である。
【0044】
情報処理装置1は、図4に示すように、例えば、技認識タイミングになるまで待機する(S11のNO)。技認識タイミングは、例えば、作業者が操作端末(図示せず)を介して技認識処理を行う旨の情報を入力したタイミングであってよい。
【0045】
そして、技認識タイミングになった場合(S11のYES)、情報処理装置1は、例えば、情報格納領域130に記憶された時系列データ131を取得する(S12)。
【0046】
続いて、情報処理装置1は、例えば、S12の処理で取得した時系列データ131に含まれる複数フレームのうち、第1条件を満たす分節フレームを特定する(S13)。
【0047】
また、情報処理装置1は、例えば、S12の処理で取得した時系列データ131に含まれる複数フレームのうち、第2条件を連続して満たす複数フレームからなる分節フレーム群を特定する(S14)。
【0048】
さらに、情報処理装置1は、例えば、S13の処理で特定した分節フレームとS14の処理で特定した分節フレーム群とに基づいて、S12の処理で取得した時系列データ131に含まれる複数フレームを複数グループに分節する(S15)。具体的に、情報処理装置1は、S13の処理で特定した分節フレームとS14の処理で特定した分節フレーム群とのそれぞれを分節点とすることによって、S12の処理で取得した時系列データ131に含まれる複数フレームを複数グループに分節する。
【0049】
そして、情報処理装置1は、例えば、S15の処理で分節された複数グループごとに、選手Pが行った基本運動を特定する(S16)。
【0050】
その後、情報処理装置1は、S15の処理で特定した複数グループごとの基本運動の組合せ及び順序に基づいて、選手Pが行った技の種別を識別する(S17)。
【0051】
これにより、本実施の形態における情報処理装置1は、複数の技が連続して行われる場合であっても、複数フレームの分節を各基本運動に対応するフレームごとに行うことが可能になり、選手Pが行った基本運動のそれぞれを精度良く認識することが可能になる。そのため、情報処理装置1は、選手Pが行った技の種類についての認識を精度良く行うことが可能になる。
【0052】
[第1の実施の形態における概略の具体例]
次に、第1の実施の形態における概略の具体例について説明を行う。図5及び図6は、第1の実施の形態における概略の具体例を説明する図である。
【0053】
具体的に、図5に示す例は、時間t1、t2、t3、t4、t5、t6及びt7のそれぞれに対応するフレームが分節フレームとして特定された場合を示している。
【0054】
この場合、情報処理装置1は、S15の処理において、例えば、時間t0(選手Pによる演技の開始時間)から時間t7までの間に認識された時系列データ131を、時間t0から時間t1まで、時間t1から時間t2まで、時間t2から時間t3まで、時間t3から時間t4まで、時間t4から時間t5まで、時間t5から時間t6まで及び時間t6から時間t7までの時間帯のそれぞれに分節する。
【0055】
続いて、情報処理装置1は、S16及びS17の処理において、例えば、時間t0から時間t1まで、時間t1から時間t2まで及び時間t2から時間t3までのそれぞれにおいて、基本運動(1)、(2)及び(3)が行われていたものと認識し、さらに、基本運動(1)、(2)及び(3)がこの順序で行われる技(1)が行われていたものと認識する。また、情報処理装置1は、例えば、時間t4から時間t5まで、時間t5から時間t6まで及び時間t6から時間t7までの時間帯のそれぞれにおいて、基本運動(4)、(5)及び(6)が行われていたものと認識し、さらに、基本運動(4)、(5)及び(6)がこの順序で行われる技(2)が行われていたものと認識する。
【0056】
すなわち、情報処理装置1は、図5に示すように、各技が独立して行われる場合、分節フレームを分節点として時系列データ131を分節することによって、各技の種類のついての認識を行う。
【0057】
一方、図6に示す例は、時間t11、t12、t14、t15及びt16のそれぞれに対応するフレームが分節フレームとして特定されるとともに、時間帯T13に対応する複数フレームが分節フレーム群として特定された場合を示している。具体的に、図6に示す例は、図5で説明した技(1)及び技(2)が連続して行われた場合を示している。
【0058】
この場合、情報処理装置1は、S15の処理において、例えば、時間t10(選手Pによる演技の開始時間)から時間t16までの間に認識された時系列データ131を、時間t10から時間t11まで、時間t11から時間t12まで、時間t12から時間帯T13の開始時間まで、時間帯T13の終了時間から時間t14まで、時間t14から時間t15及び時間t15から時間t16までの時間帯のそれぞれに分節する。
【0059】
続いて、情報処理装置1は、S16及びS17の処理において、例えば、時間t10から時間t11まで、時間t11から時間t12まで及び時間t12から時間帯T13の開始時間までのそれぞれにおいて、基本運動(1)、(2)及び(3)が行われていたものと認識し、さらに、基本運動(1)、(2)及び(3)がこの順序で行われる技(1)が行われていたものと認識する。また、情報処理装置1は、例えば、時間帯T13から時間t14まで、時間t14から時間t15また及び時間t15から時間t16までのそれぞれにおいて、基本運動(4)、(5)及び(6)が行われていたものと認識し、さらに、基本運動(4)、(5)及び(6)がこの順序で行われる技(2)が行われていたものと認識する。
【0060】
すなわち、情報処理装置1は、図6に示すように、複数の技が連続して行われる場合、1つのフレームからなる分節フレームだけでなく、複数フレームからなる分節フレーム群についても用いることによって時系列データ131の分節を行う。
【0061】
これにより、情報処理装置1は、複数の技が連続して行われる場合における各技の開始ポーズや終了ポーズと、各技が独立して行われる場合における各技の開始ポーズや終了ポーズとが異なる場合であっても、選手Pが行った基本運動のそれぞれを精度良く認識することが可能になり、選手Pが行った技の種類についての認識を精度良く行うことが可能になる。
【0062】
[第1の実施の形態の詳細]
次に、第1の実施の形態の詳細について説明を行う。図7から図10は、第1の実施の形態における技認識処理の詳細を説明するフローチャート図である。また、図11から図22は、第1の実施の形態における技認識処理の詳細を説明する図である。なお、以下、選手Pが前方車輪及び前方浮支持回転倒立を連続して行う場合について説明を行うが、これに限られるものではない。具体的に、本実施の形態では、選手Pが前方伸身宙返り2回ひねりや前方屈伸宙返り等の他の体操競技を行うものであってもよく、また、選手Pが他の採点競技等を行うものであってもよい。
【0063】
データ入力部111は、図5に示すように、例えば、技認識タイミングになるまで待機する(S21のNO)。
【0064】
そして、技認識タイミングになった場合(S21のYES)、データ入力部111は、例えば、情報格納領域130に記憶された時系列データ131に含まれるフレームを時系列順に1つ取得する(S22)。具体的に、時系列データ131は、例えば、図11に示すように、選手Pの骨格データSKをそれぞれ含む複数のフレームからなる時系列データである。
【0065】
続いて、第1分節特定部112は、例えば、情報格納領域130に記憶された第1分節条件情報132を参照し、S22の処理で取得したフレームが分節フレームの条件に合致するか否かを判定する(S23)。以下、第1分節条件情報132の具体例について説明を行う。
【0066】
[第1分節条件情報の具体例]
図12は、第1分節条件情報132の具体例について説明する図である。
【0067】
図12に示す第1分節条件情報132は、各分節点を識別する「分節ID」と、各分節点に対応する条件が設定される「分節条件」とを有する。
【0068】
具体的に、図12に示す第1分節条件情報132において、1行目の情報は、「分節ID」として「11」が設定され、「分節条件」として「頭が下、体の中心が地面に対して最も垂直に近い、腕と体中心のなす角度>170度」が設定されている。
【0069】
また、図12に示す第1分節条件情報132において、2行目の情報は、「分節ID」として「12」が設定され、「分節条件」として「頭が上、体の中心が地面に対して最も垂直に近い、腕と体中心のなす角度>170度」が設定されている。図12に含まれる他の情報についての説明は省略する。
【0070】
すなわち、例えば、S22の処理で取得したフレームに含まれる骨格データSKが示す選手Pの姿勢が、図12に示す第1分節条件情報132における「分節条件」に設定された条件のいずれかに合致する場合、第1分節特定部112は、S22の処理で取得したフレームが分節フレームであると判定する。
【0071】
なお、図12における第1分節条件情報132の含まれる各情報における「分節条件」には、「体の中心が地面に対して最も垂直に近い」が設定されている。そして、この「体の中心が地面に対して最も垂直に近い」を満たすフレームは、フレームごとに特定が可能なものではなく、例えば、「体の中心が地面に対して最も垂直に近い」以外の条件(例えば、「頭が下」や「腕と体中心のなす角度>170度」)を満たす複数のフレームの相互間の比較によって特定が可能になるものである。そのため、第1分節特定部112は、例えば、S23の処理において、S22の処理で取得したフレームが図12における第1分節条件情報132における「分節条件」に設定された条件のうちの「体の中心が地面に対して最も垂直に近い」以外の条件を満たすか否かについての判定を行う。
【0072】
図7に戻り、S22の処理で取得したフレームが分節フレームの条件に合致すると判定した場合(S23のYES)、第1分節特定部112は、例えば、情報格納領域130に記憶された時系列データ131に含まれるフレームを時系列順にさらに1つ取得する(S24)。
【0073】
そして、第1分節特定部112は、例えば、情報格納領域130に記憶された第1分節条件情報132を参照し、S24の処理で取得したフレームが分節フレームの条件に合致するか否かを判定する(S25)。
【0074】
その結果、S22の処理で取得したフレームが分節フレームの条件に合致すると判定した場合(S25のYES)、第1分節特定部112は、S24以降の処理を再度行う。
【0075】
すなわち、第1分節特定部112は、S25の処理において、例えば、図12における第1分節条件情報132に含まれる各情報おける「分節条件」に設定された「体の中心が地面に対して最も垂直に近い」以外の条件を連続して満たす1以上のフレームの特定を行う。
【0076】
一方、S22の処理で取得したフレームが分節フレームの条件に合致しないと判定した場合(S25のNO)、第1分節特定部112は、例えば、直前のS22の処理で取得したフレームから直前のS24の処理で取得したフレームまでの中から分節フレームを特定する(S26)。
【0077】
具体的に、例えば、図12で説明した第1分節条件情報132を参照し、直前のS22の処理で取得したフレームから直前のS24の処理で取得したフレームまでの中から、図12で説明した第1分節条件情報132における「分節条件」に設定された「体の中心が地面に対して最も垂直に近い」を満たすフレームを分節フレームとして特定する。
【0078】
すなわち、第1分節特定部112は、S26の処理において、例えば、図12における第1分節条件情報132に含まれる各情報における「分節条件」に設定された「体の中心が地面に対して最も垂直に近い」以外の条件を連続して満たす1以上のフレームのうち、「体の中心が地面に対して最も垂直に近い」をさらに満たすフレームを分節フレームとして特定する。
【0079】
また、S23の処理において、S22の処理で取得したフレームが分節フレームの条件に合致しないと判定した場合(S23のNO)、第2分節特定部113は、図8に示すように、例えば、情報格納領域130に記憶された第2分節条件情報133を参照し、S22の処理で取得したフレームが分節フレーム群に含まれるフレームの条件に合致するか否かを判定する(S31)。以下、第2分節条件情報133の具体例について説明を行う。
【0080】
[第2分節条件情報の具体例]
図13は、第2分節条件情報133の具体例について説明する図である。
【0081】
図13に示す第2分節条件情報133は、各分節点を識別する「分節ID」と、各分節点に対応する条件が設定される「分節条件」とを有する。
【0082】
具体的に、図13に示す第2分節条件情報133において、1行目の情報は、「分節ID」として「21」が設定され、「分節条件」として「頭が上、体の中心が地面に対して垂直前後45度、腕と体中心のなす角度>90度」が設定されている。図13に含まれる他の情報についての説明は省略する。
【0083】
すなわち、例えば、S22の処理で取得したフレームに含まれる骨格データSKが示す選手Pの姿勢が、図13に示す第2分節条件情報133における「分節条件」に設定された情報のいずれかに合致する場合、第2分節特定部113は、S22の処理で取得したフレームが分節フレーム群に含まれるフレームであると判定する。
【0084】
図7に戻り、S22の処理で取得したフレームが分節フレーム群の条件に合致しないと判定した場合(S31のNO)、第1分節特定部112は、S22以降の処理を再度行う。
【0085】
一方、S22の処理で取得したフレームが分節フレームの条件に合致すると判定した場合(S31のYES)、第2分節特定部113は、例えば、情報格納領域130に記憶された時系列データ131に含まれるフレームを時系列順にさらに1つ取得する(S32)。
【0086】
そして、第2分節特定部113は、例えば、情報格納領域130に記憶された第2分節条件情報133を参照し、S32の処理で取得したフレームが分節フレーム群の条件に合致するか否かを判定する(S33)。
【0087】
その結果、S32の処理で取得したフレームが分節フレーム群の条件に合致すると判定した場合(S33のYES)、第2分節特定部113は、S32以降の処理を再度行う。
【0088】
一方、S32の処理で取得したフレームが分節フレームの条件に合致しないと判定した場合(S33のNO)、第2分節特定部113は、例えば、直前のS22の処理で取得したフレームから直前のS32の処理で取得したフレームまでのフレーム群を分節フレーム群として特定する(S34)。
【0089】
そして、S26の処理またはS34の処理の後、運動認識部114は、例えば、直前のS26またはS34の処理で特定した分節フレームまたは分節フレーム群と、直前のS26またはS34の1つ前に行われたS26またはS34の処理で特定した分節フレームまたは分節フレーム群とによって分節されるフレーム群(グループ)における選手Pの動きを、基本運動の候補(以下、基本運動候補とも呼ぶ)として特定する(S35)。
【0090】
そして、運動認識部114は、例えば、情報格納領域130に記憶された基本運動条件情報134を参照し、S35の処理で特定した基本運動候補が基本運動の条件に合致するか否かを判定する(S36)。以下、基本運動条件情報134の具体例について説明を行う。
【0091】
[基本運動条件情報の具体例]
図14は、基本運動条件情報134の具体例について説明する図である。
【0092】
図14に示す基本運動条件情報134は、各基本運動を識別する「基本運動ID」と、各基本運動の開始ポーズに対応する分節IDが設定される「開始ポーズ」と、各基本運動の終了ポーズに対応する分節IDが設定される「終了ポーズ」と、各基本運動に対応する条件が設定される「基本運動条件」とを有する。
【0093】
具体的に、図14に示す基本運動条件情報134において、1行目の情報は、「基本運動ID」として「1」が設定され、「開始ポーズ」として「11」が設定され、「終了ポーズ」として「12」が設定され、「基本運動条件」として「0度<前方への回転量<180度、最小腰の角度>170度、最小肘の角度>170度」が設定されている。
【0094】
また、図14に示す基本運動条件情報134において、2行目の情報は、「基本運動ID」として「2」が設定され、「開始ポーズ」として「12」が設定され、「終了ポーズ」として「11」及び「21」が設定され、「基本運動条件」として「0度<前方への回転量<180度、最小腰の角度>170度、最小肘の角度>170度」が設定されている。図14に含まれる他の情報についての説明は省略する。
【0095】
すなわち、例えば、S25の処理で特定した基本運動候補における開始ポーズ、終了ポーズ及び選手Pの状態の組合せが、図14に示す基本運動条件情報134における「開始ポーズ」、「終了ポーズ」及び「基本運動条件」に設定された情報の組合せのいずれかに合致する場合、運動認識部114は、S25の処理で特定した基本運動候補が基本運動の条件に合致すると判定する。
【0096】
図7に戻り、S25の処理で特定した基本運動候補が基本運動の条件に合致しないと判定した場合(S36のNO)、第1分節特定部112は、S22以降の処理を再度行う。
【0097】
一方、S25の処理で特定した基本運動候補が基本運動の条件に合致すると判定した場合(S36のYES)、運動認識部114は、例えば、S25の処理で特定した基本運動候補を基本運動として基本運動リスト(図示せず)に記憶する(S37)。
【0098】
すなわち、運動認識部114は、この場合、S25の処理で特定した基本運動候補を選手Pが行った基本運動のうちの1つとして特定する。
【0099】
そして、技認識部115は、例えば、情報格納領域130に記憶された技動作順序情報135を参照し、基本運動リストに記憶された基本運動の組合せ及び順序が技の候補(以下、技候補とも呼ぶ)の条件に合致するか否かを判定する(S38)。以下、技動作順序情報135の具体例について説明を行う。
【0100】
[技動作順序情報の具体例]
図15は、技動作順序情報135の具体例について説明する図である。
【0101】
図15に示す技動作順序情報135は、各技を識別する「技ID」と、各技に対応する動作順序についての条件(各技に対応する基本運動の「ID」についての組合せ及び順序)が設定される「動作順序条件」とを有する。
【0102】
具体的に、図15に示す技動作順序情報135において、1行目の情報は、「技ID」として「1」が設定され、「動作順序条件」として「1,2」が設定されている。
【0103】
また、図15に示す技動作順序情報135において、2行目の情報は、「技ID」として「2」が設定され、「動作順序条件」として「3,4,5」が設定されている。図15に含まれる他の情報についての説明は省略する。
【0104】
すなわち、例えば、「基本運動ID」が「1」である基本運動と「基本運動ID」が「2」である基本運動とがこの順で基本運動リストに格納されている場合、技認識部115は、基本運動リストに記憶された基本運動の組合せ及び順序が技候補の条件(図15に示す技動作順序情報135における「技ID」が「1」である情報)に合致すると判定する。
【0105】
図7に戻り、基本運動リストに記憶された基本運動の組合せ及び順序が技候補の条件に合致しないと判定した場合(S38のNO)、第1分節特定部112は、S22以降の処理を再度行う。
【0106】
一方、基本運動リストに記憶された基本運動の組合せ及び順序が技候補の条件に合致すると判定した場合(S38のYES)、第1技認定部116は、図9に示すように、例えば、情報格納領域130に記憶された第1認定条件情報136を参照し、S38の処理で条件に合致すると判定された技候補とその技候補の認定条件との組合せを、第1認定技と認定条件との組合せとして特定する(S41)。以下、第1認定条件情報136の具体例について説明を行う。
【0107】
[第1認定条件情報の具体例]
図16は、第1認定条件情報136の具体例について説明する図である。
【0108】
図16に示す第1認定条件情報136は、各技を識別する「技ID」と、各技の実施状態を示す「実施状態」と、第1認定技の認定条件が設定される「認定条件」とを有する。「実施状態」には、各技が単独で実施されることを示す「単独」、または、各技が他の技と連続して実施されることを示す「連続」が設定される。
【0109】
具体的に、図16に示す第1認定条件情報136において、1行目の情報は、「技ID」として「1」が設定され、「実施状態」として「単独」が設定され、「認定条件」として「終了ポーズ:倒立姿勢」が設定されている。
【0110】
また、図16に示す第1認定条件情報136において、2行目の情報は、「技ID」として「1」が設定され、「実施状態」として「連続」が設定され、「認定条件」として「終了ポーズ:腰の角度>170度、かつ、肘の角度>170度」が設定されている。
【0111】
また、図16に示す第1認定条件情報136において、3行目の情報は、「技ID」として「2」が設定され、「実施状態」として「単独」が設定され、「認定条件」として「終了ポーズ:倒立姿勢」が設定されている。
【0112】
また、図16に示す第1認定条件情報136において、4行目の情報は、「技ID」として「2」が設定され、「実施状態」として「連続」が設定され、「認定条件」として「なし」が設定されている。図16に含まれる他の情報についての説明は省略する。
【0113】
すなわち、第1技認定部116は、例えば、図16に示す第1認定条件情報136に含まれる情報のうち、「認定条件」に設定された情報がS38の処理で条件に合致すると判定した技候補における選手Pの姿勢と一致する情報を特定する。
【0114】
図9に戻り、第1技認定部116は、S41の処理で特定した技候補と認定条件との組合せを、第1認定技と認定条件との組合せとして第1認定技リスト(図示せず)に記憶する(S42)。
【0115】
その後、第2技認定部117は、S22の処理において全てのフレームを取得したか否かを判定する(S43)。
【0116】
その結果、S22の処理において全てのフレームを取得していないと判定した場合(S43のNO)、第1分節特定部112は、S22以降の処理を再度行う。
【0117】
一方、S22の処理において全てのフレームを取得したと判定した場合(S43のYES)、第2認定技117は、第1認定技リストに記憶された第1認定技と認定条件との組合せを1つ取得する(S44)。
【0118】
そして、第2技認定部117は、例えば、情報格納領域130に記憶された第2認定条件情報137を参照し、S44の処理で取得した組合せに含まれる第1認定技と認定条件とが第2認定技の条件に合致するか否かを判定する(S45)。
【0119】
具体的に、第2技認定部117は、例えば、図16で説明した第1認定条件情報136を参照し、S44の処理で取得した組合せに含まれる第1認定技に対応する「実施状態」が「連続」であるか否かを判定する。そして、第2技認定部117は、例えば、S44の処理で取得した組合せに含まれる第1認定技に対応する「実施状態」が「連続」である場合に、S44の処理で取得した組合せに含まれる第1認定技と認定条件とが第2認定技の条件に合致するか否かについての判定を行う。
【0120】
これにより、第2技認定部117は、技が連続して行われていた場合における技の認識精度を向上させることが可能になる。以下、第2認定条件情報137の具体例について説明を行う。
【0121】
[第2認定条件情報の具体例]
図17は、第2認定条件情報137の具体例について説明する図である。
【0122】
図17に示す第2認定条件情報137は、各技を識別する「技ID」と、各技の実施状態を示す「実施状態」と、第1認定技の認定条件が設定される「認定条件(1)」と、第2認定技の条件が設定される「認定条件(2)」とを有する。
【0123】
具体的に、図17に示す第2認定条件情報137において、1行目の情報は、「技ID」として「1」が設定され、「実施状態」として「単独」が設定され、「認定条件(1)」として「終了ポーズ:倒立姿勢」が設定され、「認定条件(2)」として「なし」が設定されている。
【0124】
また、図17に示す第2認定条件情報137において、2行目の情報は、「技ID」として「2」が設定され、「実施状態」として「連続」が設定され、「認定条件(1)」として「終了ポーズ:腰の角度>170度、肘の角度>170度」が設定され、「認定条件(2)」として、次に行われる技の「技ID」が「2」であることを示す「次の技:2」が設定されている。図17に含まれる他の情報についての説明は省略する。
【0125】
すなわち、第2技認定部117は、例えば、S44の処理で取得した組合せに含まれる第1認定技及び認定条件が、図17に示す第2認定条件情報137における「技ID」及び「認定条件(1)」に設定された情報の組合せのいずれかに合致するか否かを判定する。そして、合致すると判定した場合、第2技認定部117は、さらに、S44の処理で取得した組合せに含まれる第1認定技の前後の第1認定技(第1認定技リストにおいて前後に記憶された第1認定技)が、「認定条件(2)」に設定された情報に合致するか否かを判定する。
【0126】
図9に戻り、S44の処理で取得した組合せに含まれる第1認定技と認定条件とが第2認定技の条件に合致すると判定する場合(S45のYES)、第2技認定部117は、例えば、S44の処理で取得した組合せに含まれる第1認定技を第2認定技として認定する(S46)。
【0127】
一方、S44の処理で取得した組合せに含まれる第1認定技と認定条件とが第2認定技の条件に合致しないと判定する場合(S45のYES)、第2技認定部117は、S45の処理を行わない。
【0128】
なお、第1技認定部116は、S42の処理において、S41の処理で特定した技候補の実施状態を組合せに含めて第1認定技リストに記憶するものであってもよい。そして、第2技認定部117は、S45の処理において、S44の処理で取得した組合せに含まれる実施状態が「連続」であるか否かを判定するものであってもよい。
【0129】
そして、S44の処理において全ての組合せを取得したか否かを判定する(S47)。
【0130】
その結果、S44の処理において全ての組合せを取得していないと判定した場合(S47のNO)、第2技認定部117は、S44以降の処理を再度行う。
【0131】
一方、S44の処理において全ての組合せを取得したと判定した場合(S47のYES)、データ出力部118は、例えば、S45の処理で特定した第2認定技の種別を示す情報を技認識結果情報138として出力装置5に出力する(S48)。以下、技認識結果情報138の具体例について説明を行う。
【0132】
[技認識結果情報の具体例]
図18は、技認識結果情報138の具体例について説明する図である。
【0133】
図18に示す技認識結果情報138は、各技の実施順序を示す「順序」と、各技の名称が設定される「認識結果」とを有する。
【0134】
具体的に、図18に示す技認識結果情報138において、1行目の情報は、「順序」として「1」が設定され、「認識結果」として「前方車輪」が設定されている。
【0135】
また、図18に示す技認識結果情報138において、2行目の情報は、「順序」として「2」が設定され、「認識結果」として「前方浮支持回転倒立」が設定されている。
【0136】
すなわち、データ出力部118は、例えば、S46の処理で第2認定技として認定された技の名称(S46の処理で認定した第2認定技の「技ID」に対応する名称)を出力する。
【0137】
なお、データ出力部118は、例えば、S46の処理において第2認定技として認定されなかった第1認定技についての情報を併せて出力するものであってもよい。
【0138】
[第1の実施の形態における詳細の具体例(1)]
次に、第1の実施の形態における詳細の具体例について説明を行う。図19から図21は、第1の実施の形態における具体例を説明する図である。
【0139】
初めに、選手Pが前方車輪を単独で行っている場合の具体例について説明を行う。図19は、選手Pが演技を行っている間における状態を時系列に並べた状態ST11、ST12、ST13、ST14、ST15、ST16及びST17のそれぞれを示す図である。
【0140】
図19に示す例において、状態ST11は、「頭が下」の状態であり、「体の中心が地面に対して最も垂直に近い」の状態であり、「腕と体中心のなす角度>170度」の状態である。そして、図12で説明した第1分節条件情報132における1行目には、「分節条件」として「頭が下、体の中心が地面に対して最も垂直に近い、腕と体中心のなす角度>170度」が設定されている。そのため、第1分節特定部112は、例えば、S23の処理において、図12で説明した第1分節条件情報132における1行目の情報(「分節ID」が「11」である情報)と、状態ST11に対応するフレームとが合致すると判定する。
【0141】
同様に、第1分節特定部112は、S23の処理において、図12で説明した第1分節条件情報132における2行目の情報(「分節ID」が「12」である情報)と、状態ST14に対応するフレームとが合致すると判定する。
【0142】
そして、図14で説明した基本運動条件情報134における1行目には、「開始ポーズ」として「11」が設定され、「終了ポーズ」として「12」が設定され、「基本運動条件」として「0度<前方への回転量<180度、最小腰の角度>170度、最小肘の角度>170度」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における1行目の情報(「基本運動ID」が「1」である情報)と、状態ST11から状態ST14までの各フレームとが合致すると判定する。
【0143】
同様に、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における2行目の情報(「基本運動ID」が「2」である情報)と、状態ST14から状態ST17までの各フレームとが合致すると判定する。
【0144】
続いて、図15で説明した技動作順序情報135の1行目には、「動作順序条件」として「1,2」が設定されている。そのため、技認識部115は、S38の処理において、図15で説明した技動作順序情報135における1行目の情報(「技ID」が「1」である情報)と、状態ST11から状態ST17までの各フレームとが合致すると判定する。
【0145】
さらに、図16で説明した第1認定条件情報136の1行目には、「認定条件」として「終了ポーズ:倒立姿勢」が設定されている。そして、状態ST17における選手Pの姿勢は、倒立姿勢に対応している。また、図17で説明した第2認定条件情報137の1行目には、「認定条件(2)」として「なし」が設定されている。そのため、第2技認定部117は、S46の処理において、状態ST11から状態ST17までの各フレームに対応する「技ID」が「1」であり、名称が「前方車輪」であると認定する。
【0146】
[第1の実施の形態における詳細の具体例(2)]
次に、選手Pが前方浮支持回転倒立を単独で行っている場合の具体例について説明を行う。図20は、選手Pが演技を行っている間における状態を時系列に並べた状態ST21、ST22、ST23、ST24、ST25及びST26のそれぞれを示す図である。
【0147】
図20に示す例において、状態ST21は、「頭が下」の状態であり、「体の中心が地面に対して最も垂直に近い」の状態であり、「腕と体中心のなす角度>170度」の状態である。そして、図12で説明した第1分節条件情報132における1行目には、「分節条件」として「頭が下、体の中心が地面に対して最も垂直に近い、腕と体中心のなす角度>170度」が設定されている。そのため、第1分節特定部112は、S23の処理において、図12で説明した第1分節条件情報132における1行目の情報(「分節ID」が「11」である情報)と、状態ST21に対応するフレームとが合致すると判定する。
【0148】
同様に、第1分節特定部112は、S23の処理において、図12で説明した第1分節条件情報132における3行目の情報(「分節ID」が「13」である情報)と、状態ST24に対応するフレームとが合致すると判定する。
【0149】
そして、図14で説明した基本運動条件情報134における3行目には、「開始ポーズ」として「11」が設定され、「終了ポーズ」として「13」が設定され、「基本運動条件」として「0度<前方への回転量」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における3行目の情報(「基本運動ID」が「3」である情報)と、状態ST21から状態ST24までの各フレームとが合致すると判定する。
【0150】
同様に、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における4行目の情報(「基本運動ID」が「4」である情報)と、状態ST24から状態ST25までの各フレームとが合致すると判定する。また、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における5行目の情報(「基本運動ID」が「5」である情報)と、状態ST25から状態ST26までの各フレームとが合致すると判定する。
【0151】
ここで、図15で説明した技動作順序情報135の2行目には、「動作順序条件」として「3,4,5」が設定されている。そのため、技認識部115は、S38の処理において、図15で説明した技動作順序情報135における2行目の情報(「技ID」が「2」である情報)と、状態ST21から状態ST26までの各フレームとが合致すると判定する。
【0152】
さらに、図16で説明した第1認定条件情報136の3行目には、「認定条件」として「終了ポーズ:倒立姿勢」が設定されている。そして、状態ST26における選手Pの姿勢は、倒立姿勢に対応している。また、図17で説明した第2認定条件情報137の3行目には、「認定条件(2)」として「なし」が設定されている。そのため、第2技認定部117は、S46の処理において、状態ST21から状態ST27までの各フレームに対応する「技ID」が「2」であり、名称が「前方浮支持回転倒立」であると認定する。
【0153】
[第1の実施の形態における詳細の具体例(3)]
次に、選手Pが前方車輪と前方浮支持回転倒立とを連続で行っている場合の具体例について説明を行う。図21は、選手Pが演技を行っている間における状態を時系列に並べた状態ST31、ST32、ST33、ST34、ST35、ST36、ST37、ST38、ST39、ST40及びST41のそれぞれを示す図である。
【0154】
図21に示す状態ST31から状態ST36のそれぞれは、図19で説明した状態ST11から状態ST16のそれぞれに対応しているが、図21に示す状態ST37は、図19で説明した状態ST17と対応していない。また、図21に示す状態ST38から状態ST41のそれぞれは、図20で説明した状態ST23から状態ST26のそれぞれに対応しているが、図21に示す状態ST37は、図11で説明した状態ST11及びSTST12と対応していない。
【0155】
すなわち、選手Pは、前方車輪と前方浮支持回転倒立とを連続で行う場合、前方車輪を単独で行う場合における終了ポーズ(状態ST17)や前方浮支持回転倒立を単独で行う場合における開始ポーズ(状態ST21)を経過せずに演技を行う。そのため、図21に示す例では、前方車輪の終了ポーズが状態ST37に対応し、前方浮支持回転倒立の開始ポーズが状態ST38に対応する。
【0156】
そして、図21に示す例において、状態ST37及び状態ST38のそれぞれは、「頭が下」の状態であり、「体の中心が地面に対して垂直前後45度」の状態であり、「腕と体中心のなす角度>90度」の状態である。そして、図13で説明した第2分節条件情報133における1行目には、「分節条件」として「頭が下、体の中心が地面に対して垂直前後45度、腕と体中心のなす角度>90度」が設定されている。そのため、第2分節特定部113は、S24の処理において、図13で説明した第2分節条件情報133における1行目の情報(「分節ID」が「21」である情報)と、状態ST37及び状態ST38のそれぞれに対応するフレームとが合致すると判定する。
【0157】
続いて、図14で説明した基本運動条件情報134における1行目には、「開始ポーズ」として「11」が設定され、「終了ポーズ」として「12」が設定され、「基本運動条件」として「0度<前方への回転量<180度、最小腰の角度>170度、最小肘の角度>170度」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における1行目の情報(「基本運動ID」が「1」である情報)と、状態ST31から状態ST34までの各フレームとが合致すると判定する。
【0158】
同様に、図14で説明した基本運動条件情報134における2行目には、「開始ポーズ」として「12」が設定され、「終了ポーズ」として「11」または「21」が設定され、「基本運動条件」として「0度<前方への回転量<180度、最小腰の角度>170度、最小肘の角度>170度」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における2行目の情報(「基本運動ID」が「2」である情報)と、状態ST34から状態ST37までの各フレームとが合致すると判定する。
【0159】
したがって、第2技認定部117は、S46の処理において、状態ST31から状態ST37までの各フレームに対応する「技ID」が「1」であり、名称が「前方車輪」であると認定する。
【0160】
続いて、図14で説明した基本運動条件情報134における3行目には、「開始ポーズ」として「11」または「21」が設定され、「終了ポーズ」として「13」が設定され、「基本運動条件」として「0度<前方への回転量」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における3行目の情報(「基本運動ID」が「1」である情報)と、状態ST38から状態ST39までの各フレームとが合致すると判定する。
【0161】
同様に、図14で説明した基本運動条件情報134における4行目には、「開始ポーズ」として「13」が設定され、「終了ポーズ」として「14」が設定され、「基本運動条件」として「0度<前方への回転量<180度」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における4行目の情報(「基本運動ID」が「4」である情報)と、状態ST39から状態ST40までの各フレームとが合致すると判定する。また、図14で説明した基本運動条件情報134における5行目には、「開始ポーズ」として「14」が設定され、「終了ポーズ」として「11」が設定され、「基本運動条件」として「0度<前方への回転量<180度」が設定されている。そのため、運動認識部114は、S36の処理において、図14で説明した基本運動条件情報134における5行目の情報(「基本運動ID」が「5」である情報)と、状態ST40から状態ST41までの各フレームとが合致すると判定する。
【0162】
したがって、第2技認定部117は、S46の処理において、状態ST38から状態ST41までの各フレームに対応する「技ID」が「2」であり、名称が「前方浮支持回転倒立」であると認定する。
【0163】
このように、本実施の形態における情報処理装置1は、時系列データ131に含まれる複数フレームのうち、第1条件を満たす分節フレームを特定する。また、情報処理装置1は、時系列データ131に含まれる複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定する。
【0164】
そして、情報処理装置1は、特定した分節フレームと分節フレーム群とに基づいて、複数フレームを複数グループに分節する。具体的に、情報処理装置1は、例えば、複数フレームを分節フレーム及び分節フレーム群のそれぞれを分節点とすることによって、複数フレームを複数グループに分節する。そして、情報処理装置1は、分節された複数グループごとに、選手Pが行った基本運動を特定する。
【0165】
その後、情報処理装置1は、特定した複数グループごとの基本運動の組合せ及び順序に基づいて、選手Pが行った演技に含まれる技を認識する。
【0166】
すなわち、本実施の形態における情報処理装置1は、各技を構成する各基本運動の開始ポーズまたは終了ポーズに該当すると判断できるフレームを分節フレームとして特定する。また、情報処理装置1は、複数の技が連続して行われている場合、例えば、1番目の技を構成する最後の基本運動の終了ポーズから2番目の技を構成する最初の基本運動の開始ポーズまでの間に該当すると判断できる複数フレームを分節フレーム群として特定する。そして、情報処理装置1は、分節フレームだけでなく、分節フレーム群についても基本運動の分節点として用いることによって、複数フレームに含まれる複数の基本運動をそれぞれ特定する。
【0167】
これにより、本実施の形態における情報処理装置1は、複数の技が連続して行われる場合であっても、複数フレームの分節を各基本運動に対応するフレームごとに行うことが可能になり、選手Pが行った基本運動のそれぞれを精度良く認識することが可能になる。そのため、情報処理装置1は、選手Pが行った技の種類についての認識を精度良く行うことが可能になる。
【0168】
なお、情報処理装置1は、S48の処理において、技認識結果情報138に加えて、各技の開始時間と各技の終了時間とを含む情報(以下、技時間情報139とも呼ぶ)を出力するものであってもよい。以下、技時間情報139の出力を行う場合におけるS48の処理について説明を行う。
【0169】
[S48の処理の詳細]
図10は、S48の処理の詳細について説明するフローチャート図である。
【0170】
時間判定部119は、図10に示すように、S46の処理で特定した第2認定技のうちの1つを取得する(S51)。
【0171】
そして、時間判定部119は、S51の処理で取得した第2認定技の開始時間と終了時間とを特定する(S52)。
【0172】
具体的に、時間判定部119は、例えば、S51の処理で取得した第2認定技に対応する最初のフレームのセンサ2による認識時間を、S51の処理で取得した第2認定技の開始時間として特定する。また、時間判定部119は、例えば、S51の処理で取得した第2認定技に対応する最後のフレームのセンサ2による認識時間を、S51の処理で取得した第2認定技の終了時間として特定する。
【0173】
なお、第2技認定部117は、例えば、S46の処理において、第2認定技の開始時間と終了時間との組合せを時間リスト(図示せず)に記憶するものであってもよい。そして、時間判定部119は、例えば、S51及びS52の処理において、第2認定技の開始時間と終了時間との組合せを時間リストから1つ取得するものであってもよい。
【0174】
続いて、時間判定部119は、S51の処理で取得した第2認定技に対応する最初のフレームが分節フレーム群(以下、第1分節フレーム群とも呼ぶ)によって分節されているか否かを判定する(S53)。
【0175】
その結果、S51の処理で取得した第2認定技に対応する最初のフレームが第1分節フレーム群によって分節されていると判定した場合(S53のYES)、時間判定部119は、S51の処理で取得した第2認定技の開始時間を第1分節フレーム群の開始時間とする(S54)。
【0176】
一方、S51の処理で取得した第2認定技に対応する最初のフレームが第1分節フレーム群によって分節されていないと判定した場合(S53のNO)、時間判定部119は、S54の処理を行わない。
【0177】
続いて、時間判定部119は、S51の処理で取得した第2認定技に対応する最後のフレームが分節フレーム群(以下、第2分節フレーム群とも呼ぶ)によって分節されているか否かを判定する(S55)。
【0178】
その結果、S51の処理で取得した第2認定技に対応する最後のフレームが第2分節フレーム群によって分節されていると判定した場合(S55のYES)、時間判定部119は、S51の処理で取得した第2認定技の終了時間を第2分節フレーム群の終了時間とする(S56)。
【0179】
一方、S51の処理で取得した第2認定技に対応する最初のフレームが第2分節フレーム群によって分節されていないと判定した場合(S55のNO)、時間判定部119は、S56の処理を行わない。
【0180】
その後、データ出力部118は、例えば、S52の処理で特定した開始時間(S54の処理で変更した開始時間)と、S52の処理で特定した終了時間(S56の処理で変更した終了時間)とを含む技時間情報139を、技認識結果情報138とともに出力装置5に出力する(S57)。以下、技時間情報139の具体例について説明を行う。
【0181】
[技時間情報の具体例]
図22は、技時間情報139の具体例について説明する図である。具体的に、図22は、技認識結果情報138と技時間情報139とが含まれる情報の具体例を説明する図である。
【0182】
図22に示す情報は、各技の実施順序を示す「順序」と、各技の名称が設定される「認識結果」と、各技の開始時間が設定される「開始時間」と、各技の終了時間が設定される「終了時間」とを有する。
【0183】
具体的に、図22に示す情報において、1行目の情報は、「順序」として「1」が設定され、「認識結果」として「前方車輪」が設定され、「開始時間」として「AA:AA:AA.AAA」が設定され、「終了時間」として「BB:BB:BB.BBB」が設定されている。
【0184】
また、図22に示す情報において、2行目の情報は、「順序」として「2」が設定され、「認識結果」として「前方浮支持回転倒立」が設定され、「開始時間」として「CC:CC:CC.CCC」が設定され、「終了時間」として「DD:DD:DD.DDD」が設定されている。
【0185】
これにより、情報処理装置1は、選手Pが技を連続して行った場合であっても、各技の開始時間及び終了時間を精度良く特定して出力することが可能になる。
【0186】
なお、本実施の形態における技認識処理は、選手Pが行った演技の採点に用いられるだけでなく、例えば、アニメーション等の映像作成分野において、人間が行った動作の種別認識を行う際に用いられるものであってもよい。
【0187】
以上の実施の形態をまとめると、以下の付記のとおりである。
【0188】
(付記1)
人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、
前記複数フレームのうち、第1条件を満たす分節フレームを特定し、
前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、
特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、
分節された前記複数グループごとに、前記人間が行った基本運動を特定し、
特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、
処理をコンピュータが実行することを特徴とする技認識方法。
【0189】
(付記2)
付記1において、
前記複数フレームのそれぞれは、前記人間の体における複数の部位のそれぞれに対応する複数の特徴点の位置情報を含む、
ことを特徴とする技認識方法。
【0190】
(付記3)
付記1において、
前記分節フレームを特定する処理では、前記複数フレームのうち、記憶部に記憶した複数の第1姿勢のいずれかと対応するフレームを前記分節フレームとして特定する、
ことを特徴とする技認識方法。
【0191】
(付記4)
付記1において、
前記分節フレーム群を特定する処理では、前記複数フレームのうち、記憶部に記憶した複数の第2姿勢のいずれかと連続して対応する複数フレームを前記分節フレーム群として特定する、
ことを特徴とする技認識方法。
【0192】
(付記5)
付記1において、
前記基本運動を特定する処理では、前記複数グループごとに、各グループに含まれる1以上のフレームにおける前記人間の姿勢に応じて、各グループに対応する前記基本運動を特定する、
ことを特徴とする技認識方法。
【0193】
(付記6)
付記1において、
前記技の種別を認識する処理では、前記複数グループごとの前記基本運動の組合せ及び順序から、前記複数グループに対応する1以上の技候補を特定し、
特定した前記1以上の技候補ごとに、各技候補に対応する前記基本運動における前記人間の姿勢が満たす第3条件を特定し、
特定した前記1以上の技候補ごとに、各技候補と各技候補の直前または直後に実施された他の技候補との順序が前記第3条件に対応する第4条件を満たす場合、各技候補の種別を前記人間が行った前記技の種別として識別する、
ことを特徴とする技認識方法。
【0194】
(付記7)
付記1において、さらに、
前記技を示す情報を出力装置に出力する、処理をコンピュータが実行することを特徴とする技認識方法。
【0195】
(付記8)
付記7において、
前記出力する処理では、前記技のそれぞれの開始時間と終了時間とを出力する、
ことを特徴とする技認識方法。
【0196】
(付記9)
付記8において、
前記出力する処理では、
前記技に対応する前記複数グループと前記技の直前に実施された第1技に対応する前記複数グループとの間が前記分節フレーム群によって分節されている場合、前記技の前記開始時間を、前記技と前記第1技との間における前記分節フレーム群の開始時間とし、
前記技に対応する前記複数グループと前記技の直後に実施された第2技に対応する前記複数グループとの間が前記分節フレーム群によって分節されている場合、前記技の前記終了時間を、前記技と前記第2技との間における前記分節フレーム群の終了時間とする、
ことを特徴とする技認識方法。
【0197】
(付記10)
人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、
前記複数フレームのうち、第1条件を満たす分節フレームを特定し、
前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、
特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、
分節された前記複数グループごとに、前記人間が行った基本運動を特定し、
特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、
処理をコンピュータに実行させることを特徴とする技認識プログラム。
【0198】
(付記11)
付記10において、
前記技の種別を認識する処理では、前記複数グループごとの前記基本運動の組合せ及び順序から、前記複数グループに対応する1以上の技候補を特定し、
特定した前記1以上の技候補ごとに、各技候補に対応する前記基本運動における前記人間の姿勢が満たす第3条件を特定し、
特定した前記1以上の技候補ごとに、各技候補と各技候補の直前または直後に実施された他の技候補との順序が前記第3条件に対応する第4条件を満たす場合、各技候補の種別を前記人間が行った前記技の種別として識別する、
ことを特徴とする技認識プログラム。
【0199】
(付記12)
センサと情報処理装置とを含む体操採点支援システムであって、
前記センサは、人間の姿勢を認識し、
前記情報処理装置は、
前記センサによって認識された前記人間の姿勢をそれぞれ含む時系列に並んだ複数フレームを取得し、
前記複数フレームのうち、第1条件を満たす分節フレームを特定し、
前記複数フレームのうち、第2条件を連続して満たす分節フレーム群を特定し、
特定した前記複数フレームを前記分節フレームと前記分節フレーム群とを分節点とすることにより、前記複数フレームを複数グループに分節し、
分節された前記複数グループごとに、前記人間が行った基本運動を特定し、
特定した前記複数グループごとの前記基本運動の組合せ及び順序に基づいて、前記人間が行った技の種別を識別する、
ことを特徴とする体操採点支援システム。
【0200】
(付記13)
付記12において、
前記情報処理装置は、
前記複数グループごとの前記基本運動の組合せ及び順序から、前記複数グループに対応する1以上の技候補を特定し、
特定した前記1以上の技候補ごとに、各技候補に対応する前記基本運動における前記人間の姿勢が満たす第3条件を特定し、
特定した前記1以上の技候補ごとに、各技候補と各技候補の直前または直後に実施された他の技候補との順序が前記第3条件に対応する第4条件を満たす場合、各技候補の種別を前記人間が行った前記技の種別として識別する、
ことを特徴とする体操採点支援システム。
【符号の説明】
【0201】
1:情報処理装置 2:センサ
5:操作端末 10:情報システム
P:選手
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22