(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-04-25
(45)【発行日】2023-05-08
(54)【発明の名称】表示方法、表示プログラムおよび情報処理装置
(51)【国際特許分類】
A63B 71/06 20060101AFI20230426BHJP
G06T 7/00 20170101ALI20230426BHJP
G06T 7/20 20170101ALI20230426BHJP
【FI】
A63B71/06 E
A63B71/06 M
G06T7/00 660B
G06T7/20 300Z
(21)【出願番号】P 2021536483
(86)(22)【出願日】2019-07-29
(86)【国際出願番号】 JP2019029654
(87)【国際公開番号】W WO2021019641
(87)【国際公開日】2021-02-04
【審査請求日】2021-10-29
(73)【特許権者】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】内藤 宏久
(72)【発明者】
【氏名】尾崎 純子
【審査官】宮本 昭彦
(56)【参考文献】
【文献】国際公開第2018/069985(WO,A1)
【文献】米国特許出願公開第2013/0223707(US,A1)
【文献】特開2018-153388(JP,A)
【文献】国際公開第2019/146024(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A63B 69/00 - 71/16
G06T 7/00
G06T 7/20
(57)【特許請求の範囲】
【請求項1】
採点競技の演技に対する採点の結果を出力する表示方法であって、
前記採点競技の種目、性別、クラス区分を含む入力情報を取得し、
前記採点競技の競技者をセンシングしたセンシングデータに基づいた前記演技に含まれる技の認識結果を取得し、
前記入力情報に基づき、複数種類の採点ルールのうちの第一のルールを決定し、
前記技の認識結果および前記第一のルールに基づき、前記技の難度を決定し、
前記演技に含まれる複数の技それぞれの難度に応じて、前記採点に採用する対象を、前記複数の技の一部に限定し、
前記複数の技とそれぞれの難度を表示する第一の表示領域、前記限定された一部の技について各難度の技の個数の集計結果の第二の表示領域、前記限定された一部の技を対象にした前記演技の得点の第三の表示領域、前記センシングデータに基づき生成された前記競技者の3Dモデルの第四の表示領域とを含む採点画面を出力する
処理をコンピュータが実行することを特徴とする表示方法。
【請求項2】
前記限定する処理で限定された一部の技および前記一部の技の難度を基にして、前記演技の得点を算出する処理を
前記コンピュータが更に実行
し、
前記出力する処理は、前記演技の得点を算出する処理で算出された前記演技の得点が表示された前記第三の表示領域を含む採点画面を出力することを特徴とする請求項1に記載の表示方法。
【請求項3】
前記演技の得点を算出する処理は、前記技の認識結果と前記第一のルールに基づき、所定の技の組み合わせが含まれる場合には、前記組み合わせに対応する得点を加算することで、前記演技の得点を算出することを特徴とする請求項2に記載の表示方法。
【請求項4】
前記演技の得点を算出する処理は、前記技の認識結果と前記第一のルールに基づき、同一の技が複数含まれる場合に、複数の同一の技のうち、一つの技を前記採点に採用する対象とし、他の同一の技を前記採点に採用する対象から除外す
ることを特徴とする請求項3に記載の表示方法。
【請求項5】
前記採点画面を出力する処理は、前記第一の表示領域において、前記採点に採用する対象の技の難度の表示を、前記採点に採用する対象の技の難度の表示よりも強調して表示することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項6】
前記クラス区分としてシニアを含む入力情報に基づいて、前記第一のルールが決定された場合、前記限定する処理は、前記複数の技のうち、難度の高い上位N個の技を限定し、
前記クラス区分としてジュニアを含む入力情報に基づいて、前記第一のルールが決定された場合、前記限定する処理は、前記複数の技のうち、難度の高い上位M(MはNよりも小さい)個の技を限定することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項7】
前記性別として女性を含む入力情報に基づいて、前記第一のルールが決定された場合、前記技の難度を決定する処理は、決定した難度の技を、アクロバット系の技と、ダンス系の技の分類する処理を更に実行し、前記採点画面を出力する処理は、前記第二の表示領域について、前記限定された一部の技についての各難度の技の個数のうち、前記アクロバット系の技の個数と、前記ダンス系の技の個数とを表示することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項8】
前記採点画面を出力する処理は、前記第一の表示領域について、前記複数の技とそれぞれの難度を表示する場合、前記アクロバット系の技の難度の色と、前記ダンス系の技の難度の色とを区別して表示することを特徴とする請求項7に記載の表示方法。
【請求項9】
前記技の認識結果に含まれる技は時刻情報と対応付けられ、前記採点画面を出力する処理は、前記第一の表示領域に表示する複数の技の内、いずれかの技の選択を受け付けた場合、選択された技の時刻に対応する前記競技者の3Dモデルを、前記第四の表示領域に表示させることを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項10】
前記採点画面を出力する処理は、前記入力情報に含まれる前記採点競技の種目が、つり輪、あん馬、鉄棒、段違い平行棒のいずれかの種目である場合、前記第四の表示領域に表示させる空間を固定して前記3Dモデルを表示し、前記入力情報に含まれる前記採点競技の種目が、跳馬、平均台、平行棒、ゆかのいずれかの種目である場合、前記第四の表示領域に表示させる空間を前記3Dモデルの位置に合わせて表示することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項11】
前記採点画面を出力する処理は、難度の選択を受け付けた場合に、前記第一の表示領域において、選択を受け付けた難度に対応する技を、強調表示することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項12】
前記採点画面を出力する処理は、表示切り替えの指示を受け付けた場合に、前記3Dモデルと基準面とを重畳した画面情報を生成し、生成した画面情報を出力する処理を更に実行することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項13】
ユーザからの採点結果の確定指示を受け付けた場合、前記センシングデータと、前記第一の表示領域、前記第二の表示領域、前記第三の表示領域にそれぞれ表示した情報とを、記憶部に格納することを特徴とする請求項1~4のいずれか一つに記載の表示方法。
【請求項14】
採点競技の種目、性別、クラス区分を含む入力情報を取得し、
前記採点競技の競技者をセンシングしたセンシングデータに基づいた前記採点競技の演技に含まれる技の認識結果を取得し、
前記入力情報に基づき、複数種類の採点ルールのうちの第一のルールを決定し、
前記技の認識結果および前記第一のルールに基づき、前記技の難度を決定し、
前記演技に含まれる複数の技それぞれの難度に応じて、前記演技に対する採点に採用する対象を、前記複数の技の一部に限定し、
前記複数の技とそれぞれの難度を表示する第一の表示領域、前記限定された一部の技について各難度の技の個数の集計結果の第二の表示領域、前記限定された一部の技を対象にした前記演技の得点の第三の表示領域、前記センシングデータに基づき生成された前記競技者の3Dモデルの第四の表示領域とを含む採点画面を出力する
処理をコンピュータに実行させることを特徴とする表示プログラム。
【請求項15】
採点競技の種目、性別、クラス区分を含む入力情報を取得し、前記採点競技の競技者をセンシングしたセンシングデータに基づいた前記採点競技の演技に含まれる技の認識結果を取得する取得部と、
前記入力情報に基づき、複数種類の採点ルールのうちの第一のルールを決定するルール決定部と、
前記技の認識結果および前記第一のルールに基づき、前記技の難度を決定し、前記技を含む複数の技それぞれの難度に応じて、前記演技に対する採点に採用する対象を、前記複数の技の一部に限定する前処理部と、
前記複数の技とそれぞれの難度を表示する第一の表示領域、前記限定された一部の技について各難度の技の個数の集計結果の第二の表示領域、前記限定された一部の技を対象にした前記演技の得点の第三の表示領域、前記センシングデータに基づき生成された前記競技者の3Dモデルの第四の表示領域とを含む採点画面を出力する表示制御部と
を有することを特徴とする情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示方法等に関する。
【背景技術】
【0002】
体操競技として、男子は床運動、あん馬、つり輪、跳馬、平行棒、鉄棒の6種目、女子は跳馬、段違い平行棒、平均台、床運動の4種目が行われている。男女とも跳馬以外の種目では、複数の技を連続して行うことで、1つの演技が構成される。
【0003】
演技のスコアは、D(Difficulty)スコアとE(Execution)スコアとの合計で算出される。たとえば、Dスコアは、技の成立不成立に基づいて算出されるスコアである。Eスコアは、技の完成度に応じて、減点法により算出されるスコアである。技の成立不成立や、技の完成度は、採点規則を記したルールブックに基づく、審判員の目視により判断される。
【0004】
また、選手の演技をビデオカメラで撮影しておき、審判員が体操競技の採点を行う場合において、ビデオを再生し、演技の中の各技について、詳細に検討する場合がある。体操競技に限らず、選手の演技を採点する他の採点競技においても同様である。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
採点競技では、種目、性別、大会種別、年齢等の条件によって、演技のスコアを算出するルールが異なっており、演技のスコアの精度は、審判員の力量に依存する部分が大きい。たとえば、ある技に関して、シニアの大会基準ではA難度であるが、ジュニア大会では、B難度と判定される。また、同一の難度の技であっても、シニア大会の点数よりも、ジュニア大会の点数の方が大きくなる技がある。さらに、女子の技には、難度に加えて「アクロバット系」、「ダンス系」に分類されるものがあり、「アクロバット系」、「ダンス系」のどちらか一方のみを演技すると、加点対象から除外するというルールがある。「アクロバット系」、「ダンス系」なる分類は、男子の演技には存在しないものである。
【0007】
なお、上記の従来技術のように、単にビデオ再生を行うことで、審判員は、演技を見直すことは可能だが、上記の種目、性別、大会種別、年齢等の条件に応じたルールを、審判員自身が正確に把握しておくことが求められる。
【0008】
しかしながら、条件に応じたルールを網羅的に把握しておくことは、審判員の負担が大きい。このため、条件に応じたルールによる演技のスコアの算出の根拠となる情報を、審判員に表示して、審判員を支援することが求められている。
【0009】
1つの側面では、本発明は、条件に応じたルールによる演技のスコアの算出の根拠となる情報を表示することができる表示方法、表示プログラムおよび情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【0010】
第1の案では、コンピュータが次の処理を実行する。コンピュータは、採点競技の種目、性別、クラス区分を含む入力情報を取得する。コンピュータは、採点競技の競技者をセンシングしたセンシングデータに基づいた演技に含まれる技の認識結果を取得する。コンピュータは、入力情報に基づき、複数種類の採点ルールのうちの第一のルールを決定する。コンピュータは、技の認識結果および前記第一のルールに基づき、技の難度を決定する。コンピュータは、演技に含まれる複数の技それぞれの難度に応じて、採点に採用する対象を、複数の技の一部に限定する。コンピュータは、複数の技とそれぞれの難度を表示する第一の表示領域、限定された一部の技について各難度の技の個数の集計結果の第二の表示領域、限定された一部の技を対象にした演技の得点の第三の表示領域、センシングデータに基づき生成された競技者の3Dモデルの第四の表示領域とを含む採点画面を出力する。
【発明の効果】
【0011】
条件に応じたルールによる演技のスコアの算出の根拠となる情報を表示することができる。
【図面の簡単な説明】
【0012】
【
図1】
図1は、本実施例に係るシステムの一例を示す図である。
【
図2】
図2は、技認識結果情報のデータ構造の一例を示す図である。
【
図3】
図3は、採点画面の一例を示す図(1)である。
【
図4】
図4は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。
【
図5】
図5は、難度定義テーブルのデータ構造の一例を示す図である。
【
図6】
図6は、グループ定義テーブルのデータ構造の一例を示す図である。
【
図7】
図7は、ルールテーブルのデータ構造の一例を示す図である。
【
図8】
図8は、前処理結果の一例を示す図(1)である。
【
図9】
図9は、前処理結果の一例を示す図(2)である。
【
図13】
図13は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。
【
図14】
図14は、採点ルールを基にしてDスコアを算出する処理のフローチャート(1)である。
【
図15】
図15は、採点ルールを基にしてDスコアを算出する処理のフローチャート(2)である。
【
図17】
図17は、情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【0013】
以下に、本発明にかかる表示方法、表示プログラムおよび情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
【実施例】
【0014】
図1は、本実施例に本実施例に係るシステムの一例を示す図である。
図1に示すように、このシステムは、3D(3 Dimension)レーザーセンサ20と、カメラ30と、技判定装置50と、情報処理装置100とを有する。3Dレーザーセンサ20は、技判定装置50に接続される。情報処理装置100は、技判定装置50およびカメラ30に接続される。
【0015】
選手10は、3Dレーザーセンサ20およびカメラ30の前方で、採点対象となる所定の演技を行う。本実施例では一例として、選手10が、体操演技を行う場合について説明するが、他の採点競技に関しても同様に適用することが可能である。選手10は、競技者の一例である。
【0016】
たとえば、他の採点競技は、トランポリン、水泳の飛び込み、フィギュアスケート、空手の型、社交ダンス、スノーボード、スケートボード、スキーエアリアル、サーフィンを含む。また、クラシックバレエ、スキージャンプ、モーグルのエアー、ターン、野球、バスケットボールのフォームチェック等にも適用してもよい。また、剣道、柔道、レスリング、相撲などの競技にも適用してもよい。更に、ウェイトリフティングのバーベルが上がったか否かの評価にも用いることができる。
【0017】
3Dレーザーセンサ20は、選手10に対して3Dセンシングを行うセンサである。3Dレーザーセンサ20は、センシング結果となるセンサ情報を、技判定装置50に出力する。
【0018】
たとえば、センサ情報には、複数のフレームが時系列に含まれ、各フレームには、フレームを一意に識別するフレーム番号が昇順に付与される。各フレームには、3Dレーザーセンサ20から、選手10上の各点までの距離情報が含まれる。センサ情報を用いることで、各フレームにおける選手10の各関節の3次元位置を推定し、選手10の3Dモデルを生成することができる。
【0019】
カメラ30は、選手10の映像を撮影するカメラである。カメラ30は、撮影した映像情報を、情報処理装置100に出力する。映像情報には、複数の画像情報が時系列に含まれる。映像情報に含まれる画像情報を、画像フレームと表記する。映像情報に含まれる各画像フレームには、画像フレームを一意に識別するフレーム番号が昇順に付与される。センサ情報に含まれる各フレームのフレーム番号と、映像情報に含まれる各画像フレームのフレーム番号とは同期しているものとする。
【0020】
技判定装置50は、センサ情報を基にして、演技に含まれる技を判定する装置である。たとえば、技判定装置50は、センサ情報を基にして、各フレームにおける選手10の各関節の3次元位置を推定し、選手10の3Dモデルを生成する。技判定装置50は、3Dモデルの各骨格位置の遷移と、骨格の遷移に基づく技の種別を定義した判定テーブルとを基にして、技を認識することで、技認識結果情報を生成する。技判定装置50は、選手10の落下の有無も判定する。技判定装置50は、技認識結果情報および3Dモデル情報を、情報処理装置100に出力する。なお、技判定装置は、情報処理装置100と同一のコンピュータにより実現されてもよい。
【0021】
図2は、技認識結果情報のデータ構造の一例を示す図である。
図2に示すように、この技認識結果情報は、技識別情報と、開始フレーム番号と、終了フレーム番号と、落下有無とを対応付ける。技識別情報は、演技に含まれる技を一意に識別する情報である。開始フレーム番号は、技識別情報によって識別される技が開始したフレーム番号を示す。終了フレーム番号は、技識別情報によって識別される技が終了したフレーム番号を示す。落下有無は、選手10が落下したか否かを示す。技の最中に選手が落下した場合には、落下有無が「有」となる。なお、フレーム番号は、3Dレーザーセンサ20のフレーム番号であるが、センシング時刻を示す時刻情報であってもよい。
【0022】
3Dモデル情報は、3Dモデルを構成する各部位の形状情報と、3Dモデルの骨格位置の遷移情報とを有する。たとえば、遷移情報は、フレーム番号と、3Dモデルの骨格位置とを対応付けた情報である。3Dモデル情報のフレーム番号は、上記のセンサ情報のフレーム番号、映像情報のフレーム番号と同期しているものとする。なお、骨格位置は、複数の関節の位置を含む。
【0023】
なお、技判定装置50は、国際公開第2019/049216号に記載された技術等を基にして、選手10の技を判定してもよい。
【0024】
情報処理装置100は、外部装置(図示略)または入力部(図示略)から、入力情報を受け付ける。入力情報は、選手10が行った演技の種目、選手10の性別、選手10のクラス区分の情報を含む。たとえば、演技の種目は、つり輪、あん馬、跳馬、平均台、平行棒、鉄棒、ゆか、段違い平行棒のうち、いずれか一つの種目が含まれる。選手の性別は、男性または女性となる。クラス区分は、シニアまたはジュニアとなる。入力情報には、大会種別の情報が含まれていてもよい。なお、外部装置は、例えば、審判が操作する端末装置、トレーニング時に演技のチェックを行うための端末装置などである。
【0025】
ここで、情報処理装置100は、複数種類の採点ルールのうち、入力情報に対応する採点ルールを決定する。情報処理装置100は、決定した採点ルールに基づいて、技の難度の判定、採点に採用する技の絞り込みを行い、採点画面を生成して表示する。
【0026】
図3は、採点画面の一例を示す図(1)である。たとえば、
図3に示す採点画面60は、演技の種目「あん馬」、性別「男性」、クラス区分「シニア」の入力情報に対応する採点ルールに基づいて生成される画面である。採点画面60は、表示領域60a~60fと、制御パネル領域61とを含む。
【0027】
表示領域60aは、演技に含まれる技の種別と、技の難度と、技の分類されるグループとをそれぞれ時系列に表示する領域である。表示領域60aは、「第一の表示領域」に対応する。技の種別は、技の種別固有のシンボルによって表示される。実施された技は、表示領域60aにおいてSM(Symbol Mark)の列に、時系列で表示される。技の難度は、A~Iのいずれかによって示される。実施された技に対応する難度は、表示領域60aにおいてDV(Difficulty Value)の列に、時系列で表示される。成立を認めない技については、バツ印によって示される。技の分類されるグループは、グループを識別する符号によって表示される。実施された技に対応するグループは、表示領域60aにおいてEG(Element Group)の列に、時系列で表示される。
【0028】
表示領域60bは、DV(Difficulty Value)の採点に採用する対象の技の難度と、各難度に分類された実施技の個数とを対応付けて表示する領域である。表示領域60bは、「第二の表示領域」に対応する。
図3に示す例では、3つのE難度の技と、2つのD難度の技と、1つのC難度の技と、1つのB難度の技と、2つのA難度の技とが、採点の対象となることが示されている。E難度の技を「0.5点」、D難度の技を「0.4点」、C難度の技を「0.3点」、B難度の技を「0.2点」、A難度の技を「0.1点」とすると、DVは「3点」となる。
【0029】
表示領域60cは、EG(Element Group)の採点結果を表示する領域である。たとえば、Group(1)に属する技を行っていれば、0.5点がEGに加算される。Group(2)に属する技を行っていれば、0.5点がEGに加算される。Group(3)に属する技を行っていれば、0.5点がEGに加算される。Group(4)に属する技を行っていれば、0.5点がEGに加算される。
図3に示す例では、Group(1)~(3)に属する技が行われており、EGは、「1.5点」となる。
【0030】
表示領域60dは、演技の得点(Dスコア)を表示する領域である。表示領域60dは、「第三の表示領域」に対応する。たとえば、演技の種目「あん馬」、性別「男性」、クラス区分「シニア」の入力情報に対応する採点ルールでは、演技の得点は、DVの得点と、EGの得点とを加算した得点となる。
【0031】
表示領域60eは、選手10の3Dモデルの映像を表示する領域である。表示領域60eは、「第四の表示領域」に対応する。以下の説明では、適宜、3Dモデルの映像を、3Dアニメーションと表記する。3Dアニメーション等の再生位置は、フレーム番号、絶対時間、相対時間など、時間に関する情報を、ユーザが指定することで、決定される。
【0032】
表示領域60fは、カメラ30に撮影された映像情報を表示する領域である。
【0033】
制御パネル領域61は、表示領域60eに表示された3Dアニメーションおよび表示領域60fに表示された映像情報について、再生、コマ送り、早送り、巻き戻し等を行うための各制御ボタンと、スライドバー61aと、ポインタ61bとを有する。
【0034】
スライドバー61aの横軸は、選手10が演技を開始してから、演技を終了するまでの時間に対応する。情報処理装置100は、スライドバー61aについて、採点に採用する対象の技を行っている期間を「第1の色」で示し、採点に採用する対象の技を行っている期間を「第2の色」で示す。たとえば、第1の色を白色とし、第2の色をグレーとする。
【0035】
スライドバー61a上のポインタ61bは、表示領域60eに表示する3Dアニメーションに表示する映像情報の再生時刻(フレーム番号)を示すものである。また、ポインタ61bに示される時刻において、選手10が行った技の種別、難度は、表示領域60aのカーソル61cによって示される。ユーザは、入力部(図示略)を操作して、ポインタ61bの位置を指定することが可能であり、情報処理装置100は、指定されたポインタ61bの位置に対応する時刻に関して、3Dアニメーションを表示領域60eに表示する。また、情報処理装置100は、指定されたポインタ61bの位置に対応する時刻に行われた技の種別、難度に対応する位置に、カーソル61cを移動させる。
【0036】
上記のように、本実施例に係る情報処理装置100は、複数種類の採点ルールのうち、入力情報に対応する採点ルールを決定し、決定した採点ルールに基づいて、技の難度の判定、採点に採用する技の絞り込みを行い、採点画面を生成して表示する。これによって、入力情報の条件に応じた採点ルールによる演技のスコアの算出の根拠となる情報を表示することができる。
【0037】
次に、
図1に示した情報処理装置100の構成の一例について説明する。
図4は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。
図4に示すように、この情報処理装置100は、通信部105と、インタフェース部110と、入力部120と、表示部130と、記憶部140と、制御部150とを有する。
【0038】
通信部105は、ネットワークを介して、外部装置(図示略)とデータ通信を実行する処理部である。通信部105は、通信装置の一例である。たとえば、情報処理装置100は、通信部105を介して、入力情報を受信する。
【0039】
インタフェース部110は、
図1に示した技判定装置50およびカメラ30と接続する処理部である。後述する制御部150は、インタフェース部110を介して、データをやり取りする。たとえば、情報処理装置100は、インタフェース部110を介して、技判定装置50から、技認識結果情報および3Dモデル情報を取得する。情報処理装置100は、インタフェース部110を介して、カメラ30から映像情報を取得する。
【0040】
入力部120は、情報処理装置100に各種の情報を入力するための入力装置である。入力部120は、キーボードやマウス、タッチパネル等に対応する。たとえば、ユーザは、入力部120を操作して、
図3に示した制御ボタンの選択や、ポインタ61bの位置を操作する。なお、ユーザは、入力部120を操作して、入力情報を、情報処理装置100に入力してもよい。
【0041】
表示部130は、制御部150から出力される採点画面等の情報を表示する表示装置である。表示部130は、液晶ディスプレイ、有機EL(Electro-Luminescence)ディスプレイ、タッチパネル等に対応する。
【0042】
記憶部140は、入力情報141と、映像情報142と、3Dモデル情報143と、技認識結果情報144と、難度定義テーブル145と、グループ定義テーブル146と、ルールテーブル147とを有する。記憶部140は、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子や、HDD(Hard Disk Drive)などの記憶装置に対応する。
【0043】
入力情報141は、採点ルールを一意に決定するために必要な情報を含み、たとえば、選手10が行った演技の種目、選手10の性別、選手10のクラス区分の情報を含む。たとえば、演技の種目は、つり輪、あん馬、跳馬、平均台、平行棒、鉄棒、ゆか、段違い平行棒のうち、いずれか一つの種目が含まれる。選手の性別は、男性または女性となる。クラス区分は、シニアまたはジュニアとなる。
【0044】
映像情報142は、カメラ30により撮影された映像の情報である。映像情報には、複数の画像フレームが時系列に含まれる。各画像フレームには、フレーム番号が付与される。
【0045】
3Dモデル情報143は、3Dモデルを構成する各部位の形状情報と、3Dモデルの各骨格位置の遷移情報とを有する。たとえば、遷移情報は、フレーム番号と、3Dモデルの各骨格位置とを対応付けた情報である。
【0046】
技認識結果情報144は、
図2で説明した技認識結果情報に対応する。
図2で説明したように、技認識結果情報144は、技識別情報と、開始フレーム番号と、終了フレーム番号と、落下有無とを対応付ける。
【0047】
難度定義テーブル145は、各技の難度を定義するテーブルである。
図5は、難度定義テーブルのデータ構造の一例を示す図である。
図5に示すように、この難度定義テーブル145は、技識別情報と、難度とを対応付ける。技識別情報に対応する技の難度は、A~Iのいずれかとなる。Aが最も難度が低く、A,B,C,D,E,F,G,H,Iの順に難度が上がる。
【0048】
グループ定義テーブル146は、各技の属するグループを定義するテーブルである。
図6は、グループ定義テーブルのデータ構造の一例を示す図である。
図6に示すように、このグループ定義テーブル146は、技識別情報と、技の属するグループとを対応付ける。図示を省略するが、グループ定義テーブル146は、技識別情報と、技の属するCR(Composition Requirements)とを対応付けた情報を保持する。
【0049】
ルールテーブル147は、入力情報の条件に対応する採点ルールを保持するテーブルである。
図7は、ルールテーブルのデータ構造の一例を示す図である。
図7に示すように、このルールテーブル147は、条件と、採点ルールとを対応付ける。条件には、種目と、性別と、クラス区分とを含む。種目、性別、クラス区分の組み合わせに応じて、固有の採点ルールの情報が特定される。
【0050】
ここで、技認識結果情報144に含まれる技識別情報によって示される技の難度は、難度定義テーブル145で定義されるが、技の順番、技の組み合わせ等に応じて、他の技(複合技)に変換されたり、難度が上下したり、採点の対象から除外されたりする。このルールは、ルールテーブル147の採点ルールで定義される。採点ルールでは、所定の技の順番、技の組み合わせ、技の回数、技を行う際の前後の姿勢によって、難度の格上げ、難度の格下げを行う。また、採点ルールでは、所定の技の順番、技の組み合わせ、技の回数等によって、技成立の可否を定義する。いずれの採点ルールも、種目、性別、クラス区分によって固有のものとなる。
【0051】
採点ルールでは、シニアの場合、10技の難度(最も難度の高い9技と終末技)の合計点をDVの点数とする。しかし、採点ルールでは、シニアの場合、同一グループに属する複数の技が行われた場合、5技までを有効とする。終末技は、種目毎の採点ルールで予め定義される。
【0052】
採点ルールでは、ジュニアの場合、8技の難度(最も難度の高い7技と終末技)を採点対象とする。なお、同一の技であっても、ジュニアの採点ルールで定義した技の難度と、シニアの採点ルールで定義した技の難度とが異なるものがある。
【0053】
種目固有の採点ルールの一例について説明する。たとえば、種目「つり輪」では、グループ(1)、(3)の技を連続して4回続けることができず、難度が認定されないが、3連続の後に、グループ(1)のB難度以上の技が入れば改めて3連続が可能であるという固有の採点ルールがある。種目「あん馬」では、技「ショーン」と技「ベスゴ」を立位から(旋回を抜きで)行うと、技の難度を2段階下げるという採点ルールがある。説明を省略するが、採点ルールでは、他の種目についても、所定の技の順番、技の組み合わせ、技の回数、技を行う際の前後の姿勢によって、難度の格上げ、難度の格下げを行う。採点ルールでは、他の種目についても、所定の技の順番、技の組み合わせ、技の回数等によって、技成立の可否を定義する。採点ルールでは、種目固有の所定の技の順番、種目固有の技の組み合わせによって、複数の技を、一つの技(複合技)に変換する。
【0054】
性別「女性」に対応する採点ルールでは、各技をアクロバット系の技と、ダンス系の技に分類する。女性に対する採点ルールでは、アクロバット系の技の組み合わせによって、組み合わせ点(CV:Connection Value)およびシリーズボーナス(SB:Series Bonus)を与える。また、ダンス系の技の組み合わせによって、組み合わせ点を与える。
【0055】
「アクロバット系」の技におけるCVおよびSBの一例について説明する、難度Cの技を連続して2回行うと、CVとして「0.1」が与えられる。難度Bの技、難度Eの技を続けて行うと、CVとして「0.1」が与えられる。難度Bの技、難度Dの技を続けて行うと、CVとして「0.2」が与えられる。難度Bの技、難度Fの技を続けて行うと、CVとして「0.2」が与えられる。難度B、難度B、難度Cの技を連続して行うと、SBとして「0.1」が与えられる。なお、難度Cの技を連続して3回行うと、CVとして「0.2」が与えられ、SBとして、更に「0.1」が与えられる。
【0056】
「ダンス系」の技におけるCVの一例について説明する。難度Cの技、難度C以上の技を続けて行うと、CVとして「0.1」が与えられる。難度Aの技、難度Cの技を続けて行うと、CVとして「0.1」が与えられる。難度Dの技、難度D以上の技を続いて行うと、CVとして「0.2」が与えられる。
【0057】
なお、女性に対応する採点ルールでは、採点対象となる技を選択する条件として、採点対象の技のうち、一定割合以上、アクロバット系の技と、ダンス系の技を含めるという条件がある。
【0058】
性別「男性」に対応する採点ルールでは、各技をグループ(1)~(4)のいずれかに分類し、EG(Element Group)の得点を与える。グループ(1)に属する技を行うことで、「0.5」を与える。グループ(2)に属する技を行うことで、「0.5」を与える。グループ(3)に属する技を行うことで、「0.5」を与える。グループ(4)に属する技を行うことで、「0.5」を与える。各技の技識別情報と、グループとの関係は、
図6に示したグループ定義テーブル146に定義される。
【0059】
性別「女性」に対応する採点ルールでは、各技をCR1~4のいずれかに分類し、CRを与える。CR1に属する技を行うことで、「0.5」を与える。CR2に属する技を行うことで、「0.5」を与える。CR3に属する技を行うことで、「0.5」を与える。CR4に属する技を行うことで、「0.5」を与える。
【0060】
CR1に属する技は、180度開脚または左右開脚屈身のリープ、ジャンプを1つは含む少なくとも2つの異なるダンス系の技からなる組み合わせに対応する。CR2に属する技は、グループ(2)に属する技である。CR3に属する技は、1つの宙返りを含む、少なくとも2つの空中局面を伴う技からなるアクロバット系シリーズの技に対応する。CR4に属する技は、方向の異なるアクロバット系の技に対応する。図示を省略するが、CR1~4と、各技の技識別情報が、グループ定義テーブル146に更に定義されているものとする。
【0061】
図4の説明に戻る。制御部150は、取得部151と、決定部152と、前処理部153とを有する。制御部150は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などによって実現できる。また、制御部150は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジックによっても実現できる。
【0062】
取得部151は、各種の情報を取得する処理部である。取得部151は、通信部105または入力部120から入力情報141を取得し、取得した入力情報141を記憶部140に格納する。取得部151は、インタフェース部110を介して、カメラ30から映像情報142を取得し、取得した映像情報142を記憶部140に格納する。取得部151は、インタフェース部110を介して、技判定装置50から、3Dモデル情報143および技認識結果情報144を取得し、取得した3Dモデル情報143および技認識結果情報144を記憶部140に格納する。
【0063】
決定部152は、入力情報141を基にして、採点ルールを決定する処理部である。決定部152は、入力情報141と、ルールテーブル147の条件とを比較して、入力情報141に含まれる種目、性別、クラス区分に対応する採点ルールを決定する。決定部152は、決定した採点ルールの情報を、前処理部153に出力する。
【0064】
前処理部153は、採点ルールおよび技認識結果情報144を基にして、演技に含まれる各技の難度を判定する。前処理部153は、演技に含まれる複数の技それぞれの難度に応じて、採点に採用する対象を、複数の技の一部に限定する。前処理部153は、限定した一部の技および技の難度を基にして、演技の得点を算出する。
【0065】
前処理部153が、演技に含まれる各技の難度を判定する処理の一例について説明する。採点ルールでは、所定の技の組み合わせを、一つの技(複合技)に変換するルールが含まれている。前処理部153は、技認識結果情報144に含まれる各技(技識別情報)を走査し、採点ルールで定義された所定の技の組み合わせを検出した場合、一つの技に変換する。前処理部153は、所定の技の組み合わせに該当しない技については、そのままにする。前処理部153は、各技の難度を、難度定義テーブル145から取得する。
【0066】
また、採点ルールでは、所定の条件により、技の成立を認めないものがある。たとえば、前処理部153は、採点ルールに基づいて、同一の技が複数回行われている場合には、複数の技の内、最初に行われた技の成立を認め、残りの技を不成立とする。説明を省略するが、採点ルールには、他にも技の成立を認めない条件が含まれる。
【0067】
前処理部153は、上記の処理を実行することで、技認識結果情報144を更新する。たとえば、前処理部153は、第1の技と、続く第2の技とを、一つの第3の技に変換した場合、第1の技の開始フレーム番号を、第3の技の開始フレームに設定し、第2の技の終了フレーム番号を、第3の技の終了フレーム番号に設定する。
【0068】
続いて、前処理部153が、演技に含まれる複数の技それぞれの難度に応じて、採点に採用する対象を、複数の技の一部に限定する処理の一例について説明する。たとえば、前処理部153は、採点ルールが、性別「男性」、クラス区分「シニア」に対応する場合、更新した技認識結果情報144を走査し、10個の技(最も難度の高い9技と終末技)を、採点に採用する対象とする。前処理部153は、採点ルールが、性別「女性」、クラス区分「シニア」に対応する場合、上記の10個の技に、所定数以上の、アクロバット系の技およびダンス系の技を含める。
【0069】
前処理部153は、採点ルールが、性別「男性」、クラス区分「ジュニア」に対応する場合、更新した技認識結果情報144を走査し、8個の技(最も難度の高い7技と終末技)を、採点に採用する対象とする。採点ルールが、性別「男性」、クラス区分「ジュニア」に対応する場合、上記の8個の技に、所定数以上の、アクロバット系の技およびダンス系の技を含める。
【0070】
続いて、前処理部153が、限定した一部の技および技の難度を基にして、演技の得点を算出する処理の一例について説明する。たとえば、前処理部153は、採点ルールが、性別「男性」に対応する場合、DVおよびEGを算出し、DVとEGとを合計することで、Dスコアを算出する。
【0071】
前処理部153が、男性に対応する採点ルールのDVを算出する処理の一例について説明する。前処理部153は、採点に採用する技の難度に応じた値を合計することで、DVを算出する。たとえば、E難度の技を「0.5点」、D難度の技を「0.4点」、C難度の技を「0.3点」、B難度の技を「0.2点」、A難度の技を「0.1点」となる。3つのE難度の技と、2つのD難度の技と、1つのC難度の技と、1つのB難度の技と、2つのA難度の技とが、採点の対象となる技とすると、DVは、「3点」となる。
【0072】
前処理部153が、EGを算出する処理の一例について説明する。前処理部153は、更新された技認識結果情報144を走査し、グループ定義テーブル146を基にして、Group(1)~Group(4)に属する技をそれぞれ行っているか否かを判定する。前処理部153は、Group(1)に属する技を行っていれば、「0.5点」をEGに加算する。前処理部153は、Group(2)に属する技を行っていれば、「0.5点」をEGに加算する。前処理部153は、Group(3)に属する技を行っていれば、「0.5点」をEGに加算する。前処理部153は、Group(4)に属する技を行っていれば、「0.5点」をEGに加算する。
【0073】
一方、前処理部153は、女性に対応する採点ルールが、性別「女性」に対応する場合、DV、CR、CVを算出し、DVと、CRと、CVとを合計することで、Dスコアを算出する。前処理部153が、女性に対応する採点ルールのDVを算出する処理は、上述した男性に対応する採点ルールのDVを算出する処理と同様である。ただし、女性の技は、難度に加えて、アクロバット系の技またはダンス系の技に分類される。
【0074】
前処理部153が、CRを算出する処理の一例について説明する。前処理部153は、更新された技認識結果情報144を走査し、グループ定義テーブル146を基にして、CR1~CR4に属する技をそれぞれ行っているか否かを判定する。前処理部153は、CR1に属する技を行っていれば、「0.5点」をCRに加算する。前処理部153は、CR2に属する技を行っていれば、「0.5点」をCRに加算する。前処理部153は、CR3に属する技を行っていれば、「0.5点」をCRに加算する。前処理部153は、CR4に属する技を行っていれば、「0.5点」をCRに加算する。
【0075】
前処理部153が、CVを算出する処理の一例について説明する。前処理部153は、更新された技認識結果情報144を走査し、該当する採点ルールに定義されたCVを与える所定の技の組み合わせが存在するか否かを判定する。前処理部153は、採点ルールに定義されたCVを与える所定の技の組み合わせが存在する場合に、技の組み合わせに対応するCVを算出する。なお、CVは、採点に採用する対象の技であるか否かに関わらず、採点ルールに定義されたCVを与える所定の技の組み合わせが存在すれば、CVに対応する得点を与える。前処理部153は、SBについても、該当する採点ルールに定義されたSBを与える所定の技の組み合わせが存在する場合に、SBに対応する得点を与える。
【0076】
前処理部153が、上記の処理を実行することで、前処理結果を生成し、前処理結果を、表示制御部154に出力する。なお、前処理部153は、前処理結果の情報を、記憶部140に格納してもよい。前処理結果の情報を、記憶部140に格納することで、エビデンスとして利用することができる。なお、採点画面に、ユーザが採点結果の「確定」を指示するためのボタンを併せて設けた場合、ユーザ(たとえば審判)から「確定」の入力を受け付けると、前処理部153は、採点結果として前処理結果の情報を、格納することとしてもよい。さらに、前処理部153は、採点結果と、対象のセンシングデータも対応付けて記憶する。
【0077】
図8は、前処理結果の一例を示す図(1)である。たとえば、
図8は、種目「あん馬」、性別「男性」、クラス区分「シニア」に対応する採点ルールにより生成される前処理結果の一例である。
図8に示すように、この前処理結果200には、テーブル200Aと、スコア算出結果情報200Bとが含まれる。
【0078】
テーブル200Aは、技識別情報、開始フレーム番号、終了フレーム番号、不成立フラグ、採点対象フラグ、落下有無、難度、グループを対応付ける。技識別情報、開始フレーム番号、終了フレーム番号、落下有無に関する説明は、
図2で行った説明と同様である。不成立フラグは、技識別情報に対応する技の成立の可否を示す情報であり、不成立となる場合に「オン」となる。採点対象フラグは、Dスコアの採点対象となる技を示す情報であり、採点対象となる場合に「オン」となる。難度およびグループは、技に対応する難度およびグループである。
【0079】
スコア算出結果情報200Bには、Dスコア、DV、EGの情報が含まれる。DVの情報には、DVの得点に加えて、採点対象となった技の難度の内訳が含まれる。EGの情報には、EGの得点に加えて、グループ毎に、グループに対応する技が存在していたか否かを示す情報が含まれる。
【0080】
図9は、前処理結果の一例を示す図(2)である。
図9は、種目の性別「平均台」、性別「女性」、クラス区分「シニア」に対応する採点ルールにより生成される前処理結果の一例である。
図9に示すように、この前処理結果201には、テーブル201Aと、スコア算出結果情報201Bとが含まれる。
【0081】
テーブル201Aは、技識別情報、開始フレーム番号、終了フレーム番号、不成立フラグ、採点対象フラグ、落下有無、難度、分類を対応付ける。技識別情報、開始フレーム番号、終了フレーム番号、落下有無に関する説明は、
図2で行った説明と同様である。不成立フラグ、採点対象フラグ、難度に関する説明は、上記のテーブル200Aで行った説明と同様である。分類は、該当する技が、アクロバット系に分類されるか、ダンス系に分類されるかを示すものである。
【0082】
スコア算出結果情報201Bは、Dスコア、CR、CVの情報が含まれる。DVの情報には、DVの得点に加えて、採点対象となった技の難度、アクロバット系の技、ダンス系の技に関する内訳が含まれる。CRの情報には、CRの得点に加えて、CR毎に、CRに属する技が存在していたか否かを示す情報が含まれる。CVの情報には、CVに該当する技の組み合わせと、CVの得点とが含まれる。
【0083】
図4の説明に戻る。表示制御部154は、前処理部153から取得する前処理結果の情報を基にして採点画面の情報を生成する処理部である。採点画面には、第一の表示領域、第二の表示領域、第三の表示領域、第四の表示領域が含まれる。表示制御部154は、生成した採点画面の情報を、表示部130に出力して表示させる。
【0084】
たとえば、表示制御部154は、
図8で説明した前処理結果200の情報を用いて、
図3で説明した採点画面60を生成する。
図8で説明した前処理結果は、たとえば、演技の種目「あん馬」、性別「男性」、クラス区分「シニア」に対応する採点ルールに基づいて生成された情報である。
【0085】
図3で説明したように、採点画面60には、表示領域60a~60fが含まれる。表示制御部154は、前処理結果200のテーブル200Aを基にして、表示領域60Aの情報を生成する。表示制御部154は、表示領域60aについて、演技に含まれる技の種別と、技の難度と、技の分類されるグループとをそれぞれ時系列に表示する情報を設定する。表示制御部154は、技の種別をシンボルによって表示する。表示制御部154は、技識別情報と、シンボルとを対応付けたテーブル(図示略)を用いて、技の種別のシンボルを特定する。
【0086】
表示制御部154は、テーブル200Aを基にして、表示領域60aに時系列に表示する難度の表示を制御する。表示制御部154は、不成立フラグが「オン」となる技の難度については、「バツ印」で表示する。表示制御部154は、採点対象フラグが「オン」となる難度を、採点対象フラグが「オン」とならない難度よりも強調して表示する。たとえば、表示制御部154は、採点対象フラグが「オン」とならない難度を、グレーで表示する。表示制御部154は、落下有無が「有」となる技については、表示領域60aに「fall」を表示する。
【0087】
表示制御部154は、前処理結果200のスコア算出結果情報200Bを基にして、表示領域60b、60c、60dの情報を生成する。表示制御部154は、スコア算出結果情報200Bを基にして、DVの採点に採用する対象の技の難度と、難度の個数とを対応付けた情報を、表示領域60bに設定する。また、表示制御部154は、DVの得点を、表示領域60bに設定する。
【0088】
表示制御部154は、スコア算出結果情報200Bを基にして、各グループ(1)~(4)と、各グループに対応する技を行ったか否かの情報を、表示領域60cに設定する。また、表示制御部154は、EGの得点を、表示領域60cに設定する。
【0089】
表示制御部154は、スコア算出結果情報200Bを基にして、Dスコアの情報を、表示領域60dに設定する。
【0090】
表示制御部154は、3Dモデル情報143を記憶部140から取得し、3Dモデル情報143に基づく3Dアニメーションを、表示領域60eに表示させる。表示制御部154は、3Dアニメーションを表示領域60eに表示する場合、競技の種目に応じて、表示領域60eの空間を固定(フィックス)するか、選手10の位置を中心にして空間を移動させる(トラッキング)かを切り替えてもよい。フィックスの場合には、例えば、器具を中心として空間を固定する。
【0091】
たとえば、表示制御部154は、競技の種目が、つり輪、あん馬、鉄棒、段違い平行棒のいずれかの種目である場合、3Dアニメーションを表示する空間を固定する。一方、表示制御部154は、種目が、跳馬、平均台、平行棒、ゆかのいずれかの種目である場合、3Dアニメーションを表示する区間を、3Dモデルに合わせて移動させる。競技者の移動が大きい協議においては、トラッキングが好ましい。一方で、、選手の異動が小さい協議は、フィックスが好ましい。
【0092】
表示制御部154は、映像情報142を記憶部140から取得し、映像情報を、表示領域60fに表示させる。
【0093】
表示制御部154は、再生、コマ送り、早送り、巻き戻し等を行うための各制御ボタンと、スライドバー61aと、ポインタ61bとを生成し、制御パネル領域61に設定する。表示制御部154は、テーブル200Aを基にして、スライドバー61aについて、採点に採用する対象の技を行っている期間を「第1の色」で示し、採点に採用する対象の技を行っている期間を「第2の色」で示す。たとえば、第1の色を白色とし、第2の色をグレーとする。
【0094】
ユーザは、入力部120を操作して、各制御ボタンを押下し、表示制御部154は、押下された制御ボタンに応じて、ポインタ61bを移動させ、ポインタ61bに示されるフレーム番号の3Dアニメーションを表示領域60eに表示する。表示制御部154は、ポインタ61bに示されるフレーム番号の映像情報を、表示領域60fに表示する。なお、表示制御部154は、フレーム番号を時刻(再生時刻)に変換して、各処理を実行してもよい。
【0095】
また、表示制御部154は、ポインタ61bに示されるフレーム番号と、テーブル200Aとを比較して、開始フレーム番号から終了フレーム番号に、ポインタ61bに示されるフレーム番号を含む技識別情報の技を特定する。表示制御部154は、特定した技識別情報に対応する表示領域60a上の位置に、カーソル61cを移動させる。
【0096】
ところで、ユーザは入力部120を走査して、表示領域60aに含まれるいずれかの難度を選択した場合、表示制御部154は、選択された難度の技のフレーム番号に対応する3Dアニメーションを、表示領域60eに表示させてもよい。また、表示制御部154は、選択された難度の技のフレーム番号に対応する映像情報を、表示領域60fに表示させてもよい。
【0097】
たとえば、表示制御部154は、表示領域60aに含まれるいずれかの難度(またはシンボル)が選択された場合、選択された難度と、テーブル200Aとを比較し、選択された難度の技の開始フレーム番号と、終了フレーム番号とを特定する。表示制御部154は、特定した開始フレーム番号から終了フレーム番号までのフレーム番号に対応する3Dアニメーションの情報を、3Dモデル情報143から取得し、表示領域60eに表示させる。表示制御部154は、特定した開始フレーム番号から終了フレーム番号までのフレーム番号に対応する映像情報を、映像情報142から取得し、表示領域60fに表示させる。
【0098】
ここで、ユーザは、入力部120を操作して、画面切換ボタン62を押下することで、他の画面を参照することができる。たとえば、表示制御部154は、採点画面60の画面切換ボタン62の押下を受け付けると、3Dアニメーションと基準面とを重畳させた重畳画面65の情報を生成し、表示部130に出力して表示させる。
【0099】
図10は、重畳画面の一例を示す図(1)である。たとえば、重畳画面65は、表示領域65a~65cと、制御パネル領域66とを含む。表示領域65aは、映像情報を表示する領域である。表示領域65bは、基準面と、3Dアニメーションを重畳した重畳映像を表示する領域である。表示領域65cは、基準面の設置条件を指定する各アイコンを表示する領域である。ユーザは、入力部120を操作して、表示領域65cに示されるいずれかのアイコンを選択すると、表示制御部154は、選択された基準面の設定条件に応じた基準面を、3Dアニメーションに重畳させることで、重畳画像を生成する。たとえば、基準面の設定条件には、基準面の3Dモデルの大きさ、基準面を配置する角度、基準面を合わせる3Dモデルの骨格位置等が含まれる。
【0100】
制御パネル領域66には、表示領域65aに表示された映像情報および表示領域65bに表示された重畳映像について、再生、コマ送り、早送り、巻き戻し等を行うための各制御ボタンと、スライドバー66aと、ポインタ66bとを有する。スライドバー66aの横軸は、選手10が演技を開始してから、演技を終了するまでの時間に対応する。
【0101】
スライドバー66a上のポインタ66bは、表示領域65bに表示する重畳映像および表示領域65aに表示する映像情報の再生時刻(フレーム番号)を示すものである。ユーザは、入力部120を操作して、ポインタ66bの位置を指定することが可能であり、表示制御部154は、指定されたポインタ66bの位置に対応する時刻に関して、重畳映像を表示領域65bに表示し、映像情報を表示領域65aに表示する。
【0102】
なお、本実施例においては、採点画面60において指定された再生時刻を、切り替えられた重畳画面においても引き継ぐ。例えば、採点画面60において、特定の技の成立不成立を、審判が詳細に確認したい場合がある。この場合、採点画面60において審判は特定の技を指定して、画面を切り替えると、重畳画面では特定の技の実施期間から、再生が行われる。審判は、重畳画面を確認することで、特定の技を詳細に確認することができる。
【0103】
続いて、表示制御部154が生成する他の採点画面の一例について説明する。
図11は、採点画面の一例を示す図(2)である。
図11に示すように、採点画面70は、表示領域70a~70gと、制御パネル領域71とを有する。表示制御部154は、
図9で説明した前処理結果を用いて、採点画面70を生成する。
図9で説明した前処理結果は、たとえば、演技の種目「平均台」、性別「女性」、クラス区分「シニア」に対応する採点ルールに基づいて生成された情報である。
【0104】
表示制御部154は、前処理結果201のテーブル201Aを基にして、表示領域70aの情報を生成する。表示領域70aは「第一の表示領域」に対応する。表示制御部154は、表示領域60aについて、演技に含まれる技の種別と、技の難度とをそれぞれ時系列に表示する。表示制御部154は、技の種別をシンボルによって表示する。
【0105】
表示制御部154は、テーブル201Aを基にして、表示領域70aに時系列に表示する難度の表示を制御する。表示制御部154は、不成立フラグが「オン」となる技の難度については、「バツ印」で表示する。表示制御部154は、採点対象フラグが「オン」となる難度を、採点対象フラグが「オン」とならない難度よりも強調して表示する。たとえば、表示制御部154は、採点対象フラグが「オン」とならない難度を、グレーで表示する。表示制御部154は、落下有無が「有」となる技については、表示領域70aに「fall」を表示する。表示制御部154は、アクロバット系の技の難度と、ダンス系の技の難度とをそれぞれ異なる色で表示する。
【0106】
また、表示制御部154は、スコア算出結果情報201Bに含まれるCVの情報を基にして、CV(SB)の得点を与える技の組み合わせに対応する箇所を、表示領域70aに示す。たとえば、位置72aにおいて、難度B、難度Dの技の組み合わせにより、CV「0.2点」が与えられる旨が示される。位置72bにおいて、難度A、難度Bの組み合わせにより、CV「0.1点」が与えられる旨が示される。位置72cにおいて、難度B、難度Dの組み合わせにより、CV「0.1点」が与えられる旨が示される。位置72dにおいて、難度A、難度B、難度Dの組み合わせにより、SB「0.2点」が与えられる旨が示される。
【0107】
表示制御部154は、前処理結果201のスコア算出結果情報201Bを基にして、表示領域70b,70c,70d,70eの情報を生成する。表示制御部154は、スコア算出結果情報201Bを基にして、DVの採点に採用する対象の技の難度と、難度の個数とを対応付けた情報を、表示領域70bに設定する。表示領域70bは、「第二の表示領域」に対応する。
【0108】
表示制御部154は、表示領域70bに技の難度と、難度の個数とを表示する場合に、アクロバット系の技の個数と、ダンス系の技の個数とを合わせて表示する。
図11に示す例では、表示領域70bにおいて、採点に採用する難度Eの技が1つであり、係る技はダンス系の技であることが示される。表示領域70bにおいて、採点に採用する難度Dの技が6つであり、そのうち、アクロバット系の技が4個であり、ダンス系の技が2個であることが示される。表示領域70bにおいて、採点に採用する難度Cの技が1つであり、係る技はアクロバット系の技であることが示される。
【0109】
表示制御部154は、スコア算出結果情報201Bを基にして、CR1~CR4と、各CRに対応する技を行ったか否かの情報を、表示領域70cに表示する。また、表示制御部154は、CRの得点を、表示領域70cに設定する。
【0110】
表示制御部154は、スコア算出結果情報201Bを基にして、CVの得点の情報を、表示領域70dに設定する。なお、CVの得点の根拠となる情報は、表示領域70aに示される。
【0111】
表示制御部154は、スコア算出結果情報201Bを基にして、Dスコアの情報を、表示領域70eに設定する。Dスコアは、DVの得点、CRの得点、CVの得点を合計した得点である。表示領域70eは、「第三の表示領域」に対応する。
【0112】
表示制御部154は、3Dモデル情報143を記憶部140から取得し、3Dモデル情報143に基づく3Dアニメーションを、表示領域70fに表示させる。表示領域70fは、「第四の表示領域」に対応する。
【0113】
表示制御部154は、映像情報142を記憶部140から取得し、映像情報を、表示領域70gに表示させる。
【0114】
表示制御部154は、再生、コマ送り、早送り、巻き戻し等を行うための各制御ボタンと、スライドバー71aと、ポインタ71bとを生成し、制御パネル領域71に設定する。表示制御部154は、テーブル201Aを基にして、スライドバー71aについて、採点に採用する対象の技を行っている期間を「第1の色」で示し、採点に採用する対象の技を行っている期間を「第2の色」で示す。たとえば、第1の色を白色とし、第2の色をグレーとする。
【0115】
ユーザは、入力部120を操作して、各制御ボタンを押下し、表示制御部154は、押下された制御ボタンに応じて、ポインタ71bを移動させ、ポインタ71bに示されるフレーム番号の3Dアニメーションを表示領域70fに表示する。表示制御部154は、ポインタ61bに示されるフレーム番号の映像情報を、表示領域70fに表示する。なお、表示制御部154は、フレーム番号を時刻(再生時刻)に変換して、各処理を実行してもよい。
【0116】
また、表示制御部154は、ポインタ71bに示されるフレーム番号と、テーブル201Aとを比較して、開始フレーム番号から終了フレーム番号に、ポインタ71bに示されるフレーム番号を含む技識別情報の技を特定する。表示制御部154は、特定した技識別情報に対応する表示領域70a上の位置に、カーソル71cを移動させる。
【0117】
ここで、ユーザは、入力部120を操作して、画面切換ボタン73を押下することで、他の画面を参照することができる。たとえば、表示制御部154は、採点画面70の画面切換ボタン73の押下を受け付けると、3Dアニメーションと基準面とを重畳させた重畳画面75の情報を生成し、表示部130に出力して表示させる。
【0118】
図12は、重畳画面の一例を示す図(2)である。たとえば、重畳画面75は、表示領域75a~75cと、制御パネル領域76とを含む。表示領域75aは、映像情報を表示する領域である。表示領域75bは、基準面と、3Dアニメーションを重畳した重畳映像を表示する領域である。表示領域75cは、基準面の設置条件を指定する各アイコンを表示する領域である。ユーザは、入力部120を操作して、表示領域75cに示されるいずれかのアイコンを選択すると、表示制御部154は、選択された基準面の設定条件に応じた基準面を、3Dアニメーションに重畳させることで、重畳画像を生成する。たとえば、基準面の設定条件には、基準面の3Dモデルの大きさ、基準面を配置する角度、基準面を合わせる3Dモデルの骨格位置等が含まれる。
【0119】
制御パネル領域76には、表示領域75aに表示された映像情報および表示領域75bに表示された重畳映像について、再生、コマ送り、早送り、巻き戻し等を行うための各制御ボタンと、スライドバー76aと、ポインタ76bとを有する。スライドバー76aの横軸は、選手10が演技を開始してから、演技を終了するまでの時間に対応する。
【0120】
スライドバー76a上のポインタ76bは、表示領域75bに表示する重畳映像および表示領域75aに表示する映像情報の再生時刻(フレーム番号)を示すものである。ユーザは、入力部120を操作して、ポインタ76bの位置を指定することが可能であり、表示制御部154は、指定されたポインタ76bの位置に対応する時刻に関して、重畳映像を表示領域75bに表示し、映像情報を表示領域75aに表示する。
【0121】
次に、本実施例に係る情報処理装置の処理手順の一例について説明する。
図13は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。
図13に示すように、情報処理装置100の取得部151は、入力情報141を取得し、記憶部140に格納する(ステップS101)。
【0122】
取得部151は、技認識結果情報144を取得し、記憶部140に格納する(ステップS102)。取得部151は、3Dモデル情報143および映像情報142を取得し、記憶部140に格納する(ステップS103)。
【0123】
情報処理装置100の決定部152は、入力情報141と、ルールテーブル147とを基にして、採点ルールを決定する(ステップS104)。情報処理装置100の前処理部153は、決定された採点ルールと難度定義テーブル145と技認識結果情報144とを基にして、一連の演技に含まれる各技の難度を判定する(ステップS105)。併せて、前処理部153は、グループ定義テーブル146を参照し、技のグループを判定する。
【0124】
前処理部153は、決定された採点ルールと、各技の難度とを基にして、採点に採用する対象の技を特定する(ステップS106)。前処理部153は、決定された採点ルールに基づいて、Dスコアおよび関連スコアを算出する(ステップS107)。ステップS107において、性別が「男性」である場合、関連スコアには、DV、EGが含まれる。性別が「女性」である場合、関連スコアには、DV、CR、CVが含まれる。
【0125】
情報処理装置100の表示制御部154は、競技の種目、性別、クラス区分に対応する採点画面のベース画像を生成し、各表示領域の情報を配置する(ステップS108)。各表示領域には、第一の表示領域、第二の表示領域、第三の表示領域、第四の表示領域が含まれる。
【0126】
表示制御部154は、第一の表示領域において、一連の演技に含まれる各技のシンボルと難度とを対応付けて、時系列に配置する(ステップS109)。表示制御部154は、第一の表示領域において、不成立の技に対応する難度をバツ印に変更する(ステップS110)。
【0127】
表示制御部154は、第一の表示領域において、採点に採用しない技の難度をグレー表示する(ステップS111)。表示制御部154は、採点情報を表示部130に表示させ、映像情報および3Dアニメーションを再生する(ステップS112)。
【0128】
次に、入力情報141に対応するある採点ルールを基にして、Dスコアを算出する処理手順の一例について説明する。
図14は、採点ルールを基にしてDスコアを算出する処理のフローチャート(1)である。
図14の採点ルールを、種目「あん馬」、性別「男子」、クラス区分「シニア」に対応する採点ルールとする。
図14において、「技」は、「技識別情報」によって識別される技を示す。
【0129】
情報処理装置100の前処理部153は、技認識結果情報144に含まれる開始の技から最後の技まで走査する(ステップS201)。前処理部153は、技「シバド」の後のロシアン技の有無に基づいて、技「シバド」を除外する(ステップS202)。
【0130】
前処理部153は、技「ショーン」または技「ベズゴ」の難度格下げ処理を実行する(ステップS203)。たとえば、ステップS203において、前処理部153は、技「ショーン」または技「ベズゴ」が演技の先頭に存在している場合、または、直前に落下している場合、2段階難度を格下げする。
【0131】
前処理部153は、連続技(プロップ・コンバイン)を特定する(ステップS204)。たとえば、ステップS204において、前処理部153は、予め定められた所定の技の組み合わせを検出した場合には、かかる所定の技の組み合わせを、複合技として認定する。
【0132】
前処理部153は、最後に実施した技以外の終末技を除外する(ステップS205)。前処理部153は、繰り返し技を除外する(ステップS206)。前処理部153は、3部分移動の技について、前後それぞれ1回ずつまで認定する(ステップS207)。
【0133】
前処理部153は、ロシアン転向技について2回まで認定する(ステップS208)。前処理部153は、倒立経過技について2技まで認定する(ステップS209)。前処理部153は、一連の演技に含まれる複数の技(認定した技)について、終末技を含む最大10個の技を選択し、DVを算出する(ステップS210)。ステップS210において、前処理部153は、選択した技の採点対象フラグをオンにする。
【0134】
前処理部153は、グループ(1)~(4)の技の有無を判定し、各グループ点(EG)を算出する(ステップS211)。前処理部153は、DVとEGとを加算して、Dスコアを算出する(ステップS212)。
【0135】
図15は、採点ルールを基にしてDスコアを算出する処理のフローチャート(2)である。
図15の採点ルールを、種目「つり輪」、性別「男子」、クラス区分「シニア」に対応する採点ルールとする。
図15において、「技」は、「技識別情報」によって識別される技を示す。
【0136】
情報処理装置100の前処理部153は、技認識結果情報144に含まれる開始の技から最後の技まで走査する(ステップS301)。前処理部153は、繰り返し技を除外する(不成立フラグをオンにする)(ステップS302)。前処理部153は、グチョギーおよびリーニン系の技を除外する(ステップS303)。
【0137】
前処理部153は、同一の終末姿勢技を除外する(ステップS304)。前処理部153は、グループ(2)、(3)の技において、つなぎ技のない4連続移行の技を除外する(ステップS305)。前処理部153は、一連の演技に含まれる複数の技(認定した技)について、終末技を含む最大10個の技を選択し、DVを算出する(ステップS306)。ステップS306において、前処理部153は、選択した技の採点対象フラグをオンにする。
【0138】
前処理部153は、グループ(1)~(4)の技の有無を判定し、各グループ点(EG)を算出する(ステップS307)。前処理部153は、DVとEGとを加算して、Dスコアを算出する(ステップS308)。
【0139】
次に、本実施例に係る情報処理装置100の効果について説明する。情報処理装置100は、複数種類の採点ルールのうち、入力情報に対応する採点ルールを決定し、決定した採点ルールに基づいて、技の難度の判定、採点に採用する技の絞り込みを行い、採点画面を生成して表示する。これによって、入力情報の条件に応じた採点ルールによる演技のスコアの算出の根拠となる情報を表示することができる。
【0140】
たとえば、採点画面には、第一の表示領域と、第二の表示領域と、第三の表示領域と、第四の表示領域とが含まれる。ユーザは、第一の表示領域を参照することで、演技に含まれる技と、それぞれの難度を確認することができる。ユーザは、第二の表示領域を参照することで、採点の対象となった技の難度および難度ごとの実施技の個数の集計結果を確認することができる。ユーザは、第三の表示領域を確認することで、採点の対象となった技の難度に基づく演技の得点(Dスコア)を確認することができる。ユーザは、第四の表示領域を確認することで、3Dアニメーションを参照することで、選手10の姿勢を確認することができる。
【0141】
情報処理装置100は、採点ルールに基づいて、所定の技の組み合わせが含まれる場合には、組み合わせに対応する得点を演技の得点に加算するため、採点ルール固有の得点を算出することができる。情報処理装置100は、採点ルールを基にして、同一の技が複数含まれる場合には、同一の技のうち、一つの技を採点に採用する技とし、他の同一の技を採点対象から除外するため、採点の対象から繰り返し技を除外することができる。
【0142】
情報処理装置100は、第一の表示領域において、採点に採用する対象の技の難度の表示を、採点に採用する対象の技の難度の表示よりも強調して表示する。これによって、採点に採用する技と、採用しない技とを容易に確認することができる。
【0143】
情報処理装置100は、クラス区分がシニアとなる採点ルール、または、クラス区分がジュニアとなる採点ルールを選択して、採点に採用する技の個数を調整するため、クラス区分に応じたDスコアを適切に算出することができる。
【0144】
情報処理装置100は、性別として女性を含む入力情報に対応する採点ルールを選択した場合、選択した採点ルールを基にして、各技をアクロバット系の技とダンス系の技に分類し、アクロバット系の技の個数とダンス系の技の個数とを表示する。これによって、ユーザは、アクロバット系の技の個数と、ダンス系の技の個数とを確認することができる。
【0145】
情報処理装置100は、第一の表示領域において、複数の技とそれぞれの難度とを表示する場合に、アクロバット系の技の難度の色と、ダンス系の技の難度の色とを区別して表示する。これによって、ユーザは、演技に含まれる各技の難度の順番に加えて、アクロバット系の技の難度と、ダンス系の技の難度とを容易に区別できる。
【0146】
情報処理装置100は、第一の表示領域に表示する複数の技の内、いずれかの技の選択を受け付けた場合、選択された技の時刻に対応する3Dアニメーションを、第四の表示領域に表示させる。これによって、第一の表示領域に表示した各技を、3Dアニメーションで確認することができる。
【0147】
情報処理装置100は、3Dアニメーションを第四の表示領域に表示する場合、競技の種目に応じて、第四の表示領域の空間を固定(フィックス)するか、選手10の位置を中心にして空間を移動(トラッキング)させるかを切り替えてもよい。これによって、種目に応じた技を評価しやすいように、3Dアニメーションをユーザに見せることができる。
【0148】
情報処理装置100は、3Dアニメーションと基準面とを重畳した重畳画面の情報を表示するため、3Dモデルの各関節と、基準面との角度等の関係をわかりやすく表示することができる。
【0149】
ところで、上述した情報処理装置100の処理は一例であり、その他の処理を実行してもよい。たとえば、情報処理装置100が、技判定装置50から取得する技認識結果情報のデータ構造は、
図2に限定されるものではなく、各技識別情報について、係る技識別情報の確からしさを示す「尤度」を更に対応付けてもよい。技判定装置50は、どのように尤度を算出してもよいが、たとえば、NN(Neural Network)を用いて、技を判定している場合に、かかるNNから出力される技の確率を、尤度として特定する。また、技判定装置50は、センサ情報の状態が悪い(点群の数が少ない)場合等に、尤度を小さくする調整を行う。技判定装置50は、他の技術を用いて、尤度を特定してもよい。
【0150】
情報処理装置100の表示制御部154は、採点画面の情報を生成する場合に、第一の表示領域において、尤度が閾値未満となる条件下で特定された技と技の難度とを、区別可能に表示してもよい。
図16は、採点画面の一例を示す図(3)である。
図16では、
図3で説明した採点画面60において、表示領域60aにカーソル61dが追加されている。表示制御部154は、表示領域60aに含まれる一連の技のうち、尤度が閾値未満の条件下で、技および難度の判定を行ったものついて、カーソル61dによって強調表示する。ユーザが、かかる採点画面60を参照することで、情報処理装置100が表示する一連の技のうち、尤度の低い情報を基に難度を特定した技を容易に把握することができる。
【0151】
また、表示制御部154は、第一の表示領域において、ユーザによって、ある一つの難度が選択された場合に、第一の表示領域に表示する一連の難度うち、選択された難度と同じ難度を強調表示してもよい。
【0152】
次に、上述した情報処理装置100と同様の機能を実現するコンピュータのハードウェア構成の一例について説明する。
図17は、情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
【0153】
図17に示すように、コンピュータ300は、各種演算処理を実行するCPU301と、ユーザからのデータの入力を受け付ける入力装置302と、ディスプレイ303と、読み取り装置304とを有する。また、コンピュータ300は、技判定装置50、カメラ30、他の外部装置から情報を受け付けるインタフェース装置305を有する。コンピュータ300は、各種情報を一時記憶するRAM306と、ハードディスク装置307とを有する。そして、各装置301~307は、バス308に接続される。
【0154】
ハードディスク装置307は、取得プログラム307a、決定プログラム307b、前処理プログラム307c、表示制御プログラム307dを有する。CPU301は、取得プログラム307a、決定プログラム307b、前処理プログラム307c、表示制御プログラム307dを読み出してRAM306に展開する。
【0155】
取得プログラム307aは、取得プロセス306aとして機能する。決定プログラム307bは、決定プロセス306bとして機能する。前処理プログラム307cは、前処理プロセス306cとして機能する。表示制御プログラム307dは、表示制御プロセス306dとして機能する。
【0156】
取得プロセス306aの処理は、取得部151の処理に対応する。決定プロセス306bの処理は、決定部152の処理に対応する。前処理プロセス306cの処理は、前処理部153の処理に対応する。表示制御プロセス306dの処理は、表示制御部154の処理に対応する。
【0157】
なお、各プログラム307a~307dについては、必ずしも最初からハードディスク装置307に記憶させておかなくてもよい。例えば、コンピュータ300に挿入されるフレキシブルディスク(FD)、CD-ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ300が各プログラム307a~307dを読み出して実行するようにしてもよい。
【符号の説明】
【0158】
10 選手
20 3Dレーザーセンサ
30 カメラ
100 情報処理装置
105 通信部
110 インタフェース部
120 入力部
130 表示部
141 入力情報
142 映像情報
143 3Dモデル情報
144 技認識結果情報
145 難度定義テーブル
146 グループ定義テーブル
147 ルールテーブル
150 制御部
151 取得部
152 決定部
153 前処理部
154 表示制御部