(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022186345
(43)【公開日】2022-12-15
(54)【発明の名称】演技指導装置、演技指導方法および演技指導プログラム
(51)【国際特許分類】
A63B 71/06 20060101AFI20221208BHJP
A63B 69/00 20060101ALI20221208BHJP
【FI】
A63B71/06 T
A63B69/00 B
【審査請求】未請求
【請求項の数】21
【出願形態】OL
(21)【出願番号】P 2021094512
(22)【出願日】2021-06-04
(71)【出願人】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100161207
【弁理士】
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100140774
【弁理士】
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(72)【発明者】
【氏名】佐藤 健
(72)【発明者】
【氏名】宮川 嘉明
(72)【発明者】
【氏名】栗山 孝司
(72)【発明者】
【氏名】井田 恭輔
(57)【要約】
【課題】演技者に対して適切な指導情報を生成する。
【解決手段】演技指導装置は、演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較する比較部と、前記比較部で比較した結果に基づいて、前記演技者の演技に対する指導情報を生成する生成部と、を備える。
【選択図】
図4
【特許請求の範囲】
【請求項1】
演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較する比較部と、
前記比較部で比較した結果に基づいて、前記演技者の演技に対する指導情報を生成する生成部と、
を備える演技指導装置。
【請求項2】
請求項1に記載の演技指導装置において、
前記生成部は、前記演技者の演技と前記比較対象の演技との相違点を示す情報を、前記指導情報として生成する、演技指導装置。
【請求項3】
請求項1または2に記載の演技指導装置において、
前記比較部は、前記演技者の演技と前記比較対象の演技とのタイミングの相違、姿勢の相違、動き方の相違、跳躍の高さの相違、顔の表情の相違、演技中の立ち位置の相違、および、前記演技者と前記比較対象との身体的特徴の相違の少なくとも1つを検出する、演技指導装置。
【請求項4】
請求項3に記載の演技指導装置において、
前記比較部は、前記演技者の身体的特徴に基づいて前記相違するか否かの検出基準を異ならせる、演技指導装置。
【請求項5】
請求項1から4までのいずれか一項に記載の演技指導装置において、
前記比較部は、前記第1の動画像が再生される時間軸と、前記参照動画情報が再生される時間軸とを同期させて前記第1の動画像と前記参照動画情報とを比較する、演技指導装置。
【請求項6】
請求項1から5までのいずれか一項に記載の演技指導装置において、
前記生成部は、前記演技者の演技と前記比較対象の演技との相違点を示す第2の動画像を、前記指導情報として生成する、演技指導装置。
【請求項7】
請求項6に記載の演技指導装置において、
前記生成部は、前記第2の動画像において前記演技者の演技と前記比較対象の演技との差が予め定めた基準値よりも大きい部分を他の部分と異なる態様で示す、演技指導装置。
【請求項8】
請求項6または7に記載の演技指導装置において、
前記生成部は、前記第1の動画像が再生される時間軸に同期して前記第2の動画像を生成する、演技指導装置。
【請求項9】
請求項1から8までのいずれか一項に記載の演技指導装置において、
前記比較対象の演技は、手本の演技または第2の演技者の演技を含む、演技指導装置。
【請求項10】
請求項9に記載の演技指導装置において、
前記生成部は、前記比較部で前記演技者の演技と前記第2の演技者の演技とが比較された場合に、前記演技者および前記第2の演技者が一緒に演技する場合の情報を、前記指導情報として生成する、演技指導装置。
【請求項11】
請求項10に記載の演技指導装置において、
前記生成部は、前記比較部で比較した結果に基づいて前記演技者および前記第2の演技者の演技の習熟度を算出し、前記演技者の第1の習熟度および前記第2の演技者の第2の習熟度に基づいて前記一緒に演技する場合の情報を生成する、演技指導装置。
【請求項12】
請求項9から11のいずれか一項に記載の演技指導装置において、
前記生成部は、前記比較部で比較した結果に基づいて、前記演技者および前記第2の演技者に対する演技の内容見直し情報を、前記指導情報として生成する、演技指導装置。
【請求項13】
請求項9から11のいずれか一項に記載の演技指導装置において、
前記生成部は、前記比較部で比較した結果に基づいて、前記演技者または前記第2の演技者に対する演技の内容見直し情報を、前記指導情報として生成する、演技指導装置。
【請求項14】
請求項9から13のいずれか一項に記載の演技指導装置において、
前記生成部は、前記比較部で比較した結果に基づいて、前記演技者および前記第2の演技者の配置情報を、前記指導情報として生成する、演技指導装置。
【請求項15】
第1の演技者の演技が記録された第1の動画像、および、第2の演技者の演技が記録された第3の動画像を所定の基準に基づいて評価する評価部と、
前記評価部の評価結果に基づいて、前記第1および前記第2の演技者が一緒に演技する場合の前記第1および前記第2の演技者の位置および演技内容の少なくとも一方を決定する決定部と、
を備える演技指導装置。
【請求項16】
請求項15に記載の演技指導装置において、
前記決定した前記第1および前記第2の演技者の位置を示すマップ情報を生成する生成部を備える、演技指導装置。
【請求項17】
第1の演技者の演技が記録された第1の動画像、および、第2の演技者の演技が記録された第3の動画像を所定の基準に基づいて評価し、
前記評価の結果に基づいて、前記第1および前記第2の演技者が一緒に演技する場合の前記第1および前記第2の演技者の位置および演技内容の少なくとも一方を決定する、演技指導方法。
【請求項18】
請求項17に記載の演技指導方法において、
前記決定した前記第1および前記第2の演技者の位置を示すマップ情報を生成し、
前記マップ情報を表示部に表示させる、演技指導方法。
【請求項19】
演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較し、
前記比較の結果に基づいて、前記演技者の演技に対する指導情報を生成する、演技指導方法。
【請求項20】
演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較する処理と、
前記比較の結果に基づいて、前記演技者の演技に対する指導情報を生成する生成処理と、
をコンピュータに実行させる演技指導プログラム。
【請求項21】
第1の演技者の演技が記録された第1の動画像、および、第2の演技者の演技が記録された第3の動画像を所定の基準に基づいて評価する処理と、
前記評価の結果に基づいて、前記第1および前記第2の演技者が一緒に演技する場合の前記第1および前記第2の演技者の位置および演技内容の少なくとも一方を決定する決定処理と、
をコンピュータに実行させる演技指導プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、演技指導装置、演技指導方法および演技指導プログラムに関する。
【背景技術】
【0002】
ダンスの採点を行う技術が知られている(特許文献1参照)。従来の技術では、演技に対するスコアが算出されるものの、どうしたらスコアが良くなるのかがわからない。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【0004】
本発明の第1の態様による演技指導装置は、演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較する比較部と、前記比較部で比較した結果に基づいて、前記演技者の演技に対する指導情報を生成する生成部と、を備える。
本発明の第2の態様による演技指導装置は、第1の演技者の演技が記録された第1の動画像、および、第2の演技者の演技が記録された第3の動画像を所定の基準に基づいて評価する評価部と、前記評価部の評価結果に基づいて、前記第1および前記第2の演技者が一緒に演技する場合の前記第1および前記第2の演技者の位置および演技内容の少なくとも一方を決定する決定部と、を備える。
本発明の第3の態様による演技指導方法は、第1の演技者の演技が記録された第1の動画像、および、第2の演技者の演技が記録された第3の動画像を所定の基準に基づいて評価し、前記評価の結果に基づいて、前記第1および前記第2の演技者が一緒に演技する場合の前記第1および前記第2の演技者の位置および演技内容の少なくとも一方を決定する。
本発明の第4の態様による演技指導方法は、演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較し、前記比較の結果に基づいて、前記演技者の演技に対する指導情報を生成する。
本発明の第5の態様による演技指導プログラムは、演技者の演技が記録された第1の動画像を比較対象の演技が記録された参照動画情報と比較する処理と、前記比較の結果に基づいて、前記演技者の演技に対する指導情報を生成する生成処理と、をコンピュータに実行させる。
本発明の第6の態様による演技指導プログラムは、第1の演技者の演技が記録された第1の動画像、および、第2の演技者の演技が記録された第3の動画像を所定の基準に基づいて評価する処理と、前記評価の結果に基づいて、前記第1および前記第2の演技者が一緒に演技する場合の前記第1および前記第2の演技者の位置および演技内容の少なくとも一方を決定する決定処理と、をコンピュータに実行させる。
【図面の簡単な説明】
【0005】
【
図1】複数人が集まって集合演技を行う場面を説明する模式図である。
【
図2】実施の形態による演技指導システムを例示する模式図である。
【
図3】指導者端末の表示部に表示された指導情報を例示する模式図である。
【
図4】指導者端末および生徒端末を例示する図である。
【
図5】
図5(a)~
図5(c)は、スペースPを中心とする領域をマップ情報から抜き出した抜粋情報を例示する図である。
【
図6】
図6(a)は、演技中の生徒が写る画像データに基づいて取得される骨格情報を説明する模式図、
図6(b)は、演技中のインストラクターが写る画像データに基づいて取得される骨格情報を説明する模式図、
図6(c)は、
図6(a)および
図6(b)の骨格情報の差分を示す骨格ずれ情報を示す模式図である。
【
図7】
図7(a)は、初期配置に基づくマップ情報を例示する図、
図7(b)は、再配置案に基づくマップ情報を例示する図である。
【
図8】指導者端末および生徒端末で実行される処理の一例を説明するフローチャートである。
【
図9】生徒端末の表示・操作入力部に表示された指導情報を例示する模式図である。
【
図11】変形例3による演技中の生徒の立ち位置の表示を説明する図である。
【
図12】変形例4による演技中の生徒の立ち位置の表示を説明する図である。
【
図13】変形例6による指導者端末の表示部に表示された指導情報を例示する模式図である。
【発明を実施するための形態】
【0006】
以下、図面を参照して発明の実施の形態について説明する。
<複数人で行う演技>
図1は、複数人が集まって集合演技を行う場面を説明する模式図である。演技者(以降、生徒と呼ぶ)は、体育館またはホール等に集まって演技を練習する。集合演技は、例えばダンス、器械体操、新体操、空手形、シンクロナイズドスイミング、および集団行動等が挙げられる。
【0007】
一般に、集合演技は、複数人による演技のタイミングが一致する、複数人による演技の形態が一致する、複数人による演技の動きに連続性がある、複数人による演技の動きが調和する等、演技全体としての統一性が見られる場合に美しいとされる。そのため指導者10は、生徒20、30および40を含む複数の生徒を集めて集合練習を行いながら、個々の生徒の演技および生徒全体の演技の統一性等をチェックして生徒たちに演技を指導する。
【0008】
個々の生徒は、例えば、個々に担当する演技を覚えた上で、複数人が集まって集合演技を練習する。しかしながら、生徒全員のスケジュールおよび練習場の制約等により、複数の生徒を集めて行う集合演技の練習が困難な場合がある。
【0009】
実施の形態では、演技指導システム1を用いることにより、指導者10が複数の生徒を招集することなしに個々の生徒の演技を確認および指導し、集合演技する場合の生徒の立ち位置を決定し、生徒全体の演技の統一性の確認および指導等を行う。
<システムの概要>
図2は、実施の形態による演技指導システム1を例示する模式図である。演技指導システム1は、例えば、指導者10が使用する指導者端末100と、複数の生徒20、30、および40がそれぞれ使用する生徒端末200、300および400とを含む。指導者端末100、生徒端末200、300および400は、有線または無線のネットワーク通信網500等を介して接続される。
実施の形態では、後に詳述する比較部および生成部を備える指導者端末100が、演技指導装置に対応する。また、比較部および生成部を生徒端末200等に備えてもよく、その場合は、比較部および生成部を備えた生徒端末200等は、演技指導装置に対応する。
なお、
図2において便宜上3人の生徒を図示したが、生徒の数は3人に限らず、
図1の39人より多くても少なくてもよい。
【0010】
指導者端末100は、例えばパーソナルコンピュータまたはタブレット型端末等で構成されており、少なくとも動画再生機能を備える。また、生徒端末200、300および400は、例えばスマートフォン200またはタブレット型端末等で構成されており、少なくとも動画再生機能および動画記録機能を備えている。
【0011】
なお、指導者端末100、生徒端末200、300および400を、ネットワーク通信網500を介して接続するのは一例であって、例えばインターネットに接続しないローカルネットワーク等による接続としてもよい。
【0012】
演技指導システム1を用いた演技指導の流れを説明すると、以下の1から8の手順で行う。
1.演技指導装置から個々の生徒に対して手本の演技が記録された参照動画像(参照動画情報と呼んでもよい)を提供する。
指導者10の指導者端末100は、生徒端末200、300および400へネットワーク通信網500等を介して参照動画像を送信する。
参照動画像は、例えばインストラクターの演技、または、手本としてのアニメーションによる演技が記録された動画像である。演技指導装置は、インストラクターの代わりに演技が上手な生徒の演技を記録した動画像を、参照動画像として提供してもよい。
【0013】
2.各生徒は、参照動画像に記録されている手本の演技を参考にして自己の演技を練習する。
生徒20、30および40は、
図2に例示するように、それぞれ生徒端末200、300および400で参照動画像を再生させながら、再生中に流れる楽曲等のリズムに合わせて演技を行うことにより個別に練習する。生徒20、30および40は、各自の都合がよい時間帯に、各自の好きな場所(貸しスタジオ、自宅等)で練習を行うことができる。
【0014】
3.各生徒は、自身の演技を撮影して第1の動画像を作成する。
生徒20、30および40は、
図2に例示するように、それぞれ生徒端末200、300および400で参照動画像を再生させながら、再生中に流れる楽曲等のリズムに合わせて演じた演技を、それぞれ生徒端末200、300および400で自撮りする。生徒端末200、300および400は、自撮りした演技の動画像を第1の動画像として記録する。なお、参照動画像のフレームレートと、第1の動画像のフレームレートは、例えば1秒間に30フレーム(30fps)とする。
【0015】
4.各生徒は、第1の動画像を演技指導装置へ提出する。
生徒20、30および40の生徒端末200、300および400は、それぞれの第1の動画像を、ネットワーク通信網500等を介して指導者端末100へ送信する。
【0016】
5.演技指導装置は、第1の動画像に記録されている生徒の演技を確認する。
指導者端末100は、各生徒から送信された第1の動画像の演技を同じ時間軸で再生する。各生徒から送信された第1の動画像の演技を同じ時間軸で同期させて再生することにより、各生徒の演技の相違点および演技全体の統一性について、指導者端末100の画面で指導者10に対して視覚的に示すことができる。
また、指導者端末100は、各生徒に提供した参照動画像の演技と、各生徒から送信された第1の動画像の演技とを同じ時間軸で再生して比較し、タイミングの相違、姿勢の相違、動き方の相違、跳躍の高さの相違、顔の表情の相違、演技中の立ち位置の相違、および、身長などの身体的特徴の相違の少なくとも1つを検出する。
【0017】
6.演技指導装置は、確認結果に基づいて生徒に対する指導情報を作成する。
指導者端末100は、生徒20、30および40による演技全体の統一性を高めるために必要な情報を、指導情報として生成する。
【0018】
図3は、指導者端末100の表示部110に表示された指導情報を例示する模式図である。指導者端末100は、少なくとも、集合演技時(換言すると、共演時)の生徒の立ち位置と生徒の演技の習熟度とを示す二次元情報(以後マップ情報と呼ぶ)101と、演技中の生徒の全身を示す全身情報102と、演技中の生徒とインストラクターとの間の骨格情報の差分を示す骨格ずれ情報103と、演技の進行(時間軸)と演技の差異の大きさ(ずれ量と呼ぶ)との関係を示すグラフ情報104とを、指導情報として作成する。これらの各情報101~104の詳細な説明については後述する。
指導者端末100は、個々の生徒に対する上記指導情報のうち少なくとも全身情報102、骨格ずれ情報103およびグラフ情報104を含む動画像を、第2の動画像として生徒ごとに記録してもよい。第2の動画像のフレームレートは、参照動画像および第1の動画像のフレームレートと同じ30fpsとする。
【0019】
7.演技指導装置は、個々の生徒に対して指導情報を提供する。
指導者10の指導者端末100は、各生徒に対する指導情報を、ネットワーク通信網500等を介して生徒端末200、300および400へ送信する。
【0020】
8.各生徒は、指導情報に基づいて演技をさらに練習する。
指導者端末100、生徒端末200、300および400は、それぞれ上記3から7を繰り返す。
このような演技指導システム1の詳細について、さらに詳しく説明する。
【0021】
図4は、指導者端末100および生徒端末200の構成を例示する図である。
<指導者端末の概要>
指導者端末100は、表示部110と、操作部120と、制御部130と、情報記憶部140と、通信部150と、スピーカ160とを含む。制御部130には、比較部131と、生成部132が含まれている。
【0022】
表示部110は、有機EL表示パネルや液晶表示パネル等によって構成される。表示部110は、生成部132で生成された指導情報(マップ情報101、全身情報102、骨格ずれ情報103、グラフ情報104等)およびアイコン等を表示する。
操作部120は、キーボードおよびポインティングデバイス等によって構成される。なお、表示部110の表示面に備えられた不図示のタッチパネル部材を操作部120として用いてもよい。
【0023】
制御部130は、CPU、ROM、RAM等により構成され、制御プログラムに基づいて指導者端末100の各部の動作を制御する。制御部130は、例えば、表示部110に対する表示制御を行う他に、表示部110に表示されたアイコン等に対応づけられているアプリ(application program)を実行する。例えば、演技指導プログラムに対応づけられているアイコンが選択操作された場合には、演技指導プログラムを起動させて指導者端末100を演技指導装置として機能させる。
【0024】
情報記憶部140は、不揮発性メモリ等で構成される。情報記憶部140には、例えば、生徒へ送信する参照動画像、生徒から送信された第1の動画像、および生成部132で生成された指導情報のデータ等が記録される。情報記憶部140に対するデータの記録(保存)および読み出しは、制御部130によって制御される。
【0025】
通信部150は、生徒端末200、300および400との間で情報を送受信するためのデータ通信を行う。また、通信部150は、外部スピーカまたはヘッドフォン等の近距離無線通信機器を用いる場合には、これらの機器とも無線通信を行う。
【0026】
スピーカ160は、例えば参照動画像、第1の動画像に関連付けられた音声データに基づく音声を再生する。なお、音声再生は、スピーカ160で再生させる代わりに無線通信機能を備えた不図示の外部スピーカまたはヘッドフォン等から再生させることも可能である。外部スピーカまたはヘッドフォンを用いる場合、例えば、通信部150を介して外部スピーカまたはヘッドフォンへ向けて音声データを無線送信する。
【0027】
<生徒端末の概要>
生徒端末200は、表示・操作入力部210と、制御部220と、情報記憶部230と、通信部240と、スピーカ250と、撮影部260とを含む。制御部220には、再生制御部221と、撮影制御部222と、記録制御部223とが含まれている。
【0028】
表示・操作入力部210は、画像およびアイコン等を表示するディスプレイ機能と、表示面に対するタッチ操作を受け付ける操作部機能とを兼ね備えたタッチパネルディスプレイによって構成される。
表示・操作入力部210は、アプリ等に対応付けられたアイコン、および指導者端末100から送信された参照動画像、第2の動画像等の表示を行うとともに、生徒端末200に対するユーザからの操作を受け付ける。
【0029】
制御部220は、CPU、ROM、RAM等により構成され、制御プログラムに基づいて生徒端末200の動作を制御する。制御部220は、タッチ操作されたアイコン等に対応付けられているアプリを実行する。例えば、タッチ操作されたアイコン等に演技指導プログラムが対応づけられている場合には、演技指導プログラムを起動させる。
【0030】
情報記憶部230は、不揮発性メモリ等で構成される。情報記憶部230には、例えば、撮影部260で撮影された第1の動画像、指導者から送信された参照動画像、および指導者から送信された指導情報のデータ等が記録される。情報記憶部230に対するデータの記録(保存)および読み出しは、記録制御部223によって制御される。
【0031】
通信部240は、生徒端末200をスマートフォンや携帯電話等として機能させる音声データ通信と、指導者端末100との間で情報を送受信するデータ通信とを行う。また、通信部240は、外部スピーカまたはヘッドフォン等の近距離無線通信機器を用いる場合には、これらの機器とも無線通信を行う。
【0032】
スピーカ250は、例えば参照動画像に関連付けられた音声データに基づく音声を再生する。なお、音声再生は、スピーカ250で再生させる代わりに無線通信機能を備えた不図示の外部スピーカまたはヘッドフォン等から再生させることも可能である。外部スピーカまたはヘッドフォンを用いる場合、例えば、通信部240を介して外部スピーカまたはヘッドフォンへ向けて音声データを無線送信する。
【0033】
撮影部260は、撮影レンズと撮像センサとを有し、例えば、生徒20が練習する演技を撮影して第1の動画像を取得する。撮影部260で取得した第1の動画像は、情報記憶部230に記録される。
なお、情報記憶部230に記録された第1の動画像は、通信部240を介して指導者端末100へ送信することが可能である。
生徒端末300および400は、生徒端末200の構成と同様であるので説明を省略する。
【0034】
<指導情報の詳細な説明>
生成部132で生成される指導情報について、さらに説明する。指導情報は、
図3に例示したように、生徒の演技に関する情報を視覚的に示す情報である。
1.マップ情報
生成部132は、例えば、集合演技時の生徒の立ち位置案(配置案)に基づき、生徒の人数分のスペースを二次元状に配置したマップ情報を生成する。
図1に例示した配置案の場合、生成部132は、生徒1人当たりのスペースを六角形で表すとともに、六角形のスペースをハニカム状に配置する。なお、スペースの形状は六角形に限らず、円形、四角形、または八角形で表してもよく、複数の形状を組み合わせた形状で表してもよい。
【0035】
図3におけるスペース内の塗りつぶしパターンについて説明する。実施の形態では、制御部130が生徒の演技の習熟度を、例えば3段階に分類する。例えば、参照動画像に記録された手本の演技と第1の動画像に記録された生徒の演技との間のずれ量が所定の閾値以下に収まる時間比率が、演技開始から演技終了までの100パーセントの場合を、その生徒の演技の習熟度が高いと判定する。また、演技のずれ量が所定の閾値以下に収まる時間比率が、演技開始から演技終了までの70パーセント以上の場合を、その生徒の演技の習熟度が普通と判定する。さらに、演技のずれ量が所定の閾値以下に収まる時間比率が演技開始から演技終了までの70パーセント未満の場合を、その生徒の演技の習熟度が低いと判定する。
なお、所定の閾値は、例えば生徒の身長の高低、生徒の立ち位置等によって適宜調節して構わない。
【0036】
制御部130は、マップ情報101におけるスペース内の塗りつぶしパターンを、上述した演技の習熟度に基づいて制御する。一例をあげると、制御部130は、マップ情報101のうち演技の習熟度が高いと判定した生徒に対応するスペースについて、白く塗りつぶす。
【0037】
また、制御部130は、マップ情報101のうち演技の習熟度が普通と判定した生徒に対応するスペースについて、ドットパターンで塗りつぶす。さらに、制御部130は、マップ情報101のうち演技の習熟度が低いと判定した生徒に対応するスペースについて、斜線パターンで塗りつぶす。
このように、制御部130は、各生徒に対応するスペースに対する塗りつぶしパターンを、各生徒の演技の習熟度に基づいてそれぞれ決定し、対応するスペースを塗りつぶす。
このようなマップ情報101におけるスペース内の塗りつぶしパターンの制御の詳細については、グラフ情報104の説明とともに後述する。
【0038】
表示部110に表示されたマップ情報101は、生徒の立ち位置を示すとともに、タッチ操作のターゲットとしても機能する。制御部130は、表示部110に表示中のマップ情報101のうちスペースPがタッチ操作されると、スペースPに対応する位置に配置される生徒(例えば生徒20)を選択する。
【0039】
また、制御部130は、スペースPに対してピンチアウト(pinch out)操作が行われると、マップ情報101のうちスペースPを中心とする領域を拡大して表示部110に表示させる。
図5(a)~
図5(c)は、スペースPを中心とする領域をマップ情報101から抜き出した抜粋情報108を例示する図である。生徒20に対応するスペースPの中央に位置する丸印Sは、演技中の生徒20の立ち位置を示す。生徒20から見て左が
図5(a)の右、生徒20から見て右が
図5(a)の左に対応する。また、生徒20から見て前が
図5(a)の下、生徒20から見て後ろが
図5(a)の上に対応する。
【0040】
制御部130は、生徒20が演技を開始した初期位置をスペースPの中心に対応させて、演技中の生徒が移動すると丸印Sを移動させる。スペースPの対角線の長さは、例えば2mに相当するものとする。
図5(a)は、演技中の生徒20の立ち位置にずれがない、換言すると、予定通りの立ち位置で演技を行っている状態を表す。
図5(b)は、演技中の生徒20の立ち位置が生徒20から見て右方にずれた、換言すると、初期位置から右へ移動した状態を表す。
図5(c)は、演技中の生徒20の立ち位置が生徒20から見て後方にずれた、換言すると、初期位置から後ろへ移動した状態を表す。このように、生成部132で生成される指導情報に基づき、指導者10は、演技中の生徒の立ち位置のずれを知ることが可能である。
なお、演技中の生徒20の立ち位置の移動の検出方法については次項で説明する。
【0041】
2.全身情報
生成部132は、複数の生徒から送信された複数の第1の動画像のそれぞれに基づいて、写っている生徒の全身部分を切り抜くクロップ(crop)処理をするなどして、全身情報102としてのクロップ動画像を生成する。
また、生成部132は、各クロップ動画像のタイムコードの開始値を参照動画像のタイムコードの開始値と一致させる。インストラクターの演技が記録された参照動画像と、生徒の演技が記録されたクロップ動画像とでタイムコードの開始値を一致させておくことにより、両動画像を同時に再生する場合に両者の演技が同期して進行し、対応するコマ(以後フレームと呼ぶ)同士の比較を容易に行うことが可能になる。
【0042】
制御部130は、表示部110に表示中のマップ情報101のうち、指導者10によりスペースPがタッチ操作されると、スペースPに対応する位置に配置される生徒(例えば生徒20)を選択する。そして、選択した生徒20が写るクロップ動画像を先頭フレームから再生させる。
【0043】
図3には、全身情報102の一例として、再生中のクロップ動画像の1フレームが例示されている。生成部132は、全身情報102に基づいて、生徒20の足元に映る床材の継ぎ目と生徒20との位置関係に着目して演技中の生徒20の立ち位置の移動(移動方向と概略の移動距離)を検出する。床材に継ぎ目がない場合は、あらかじめ生徒20が目印になるマークを床に付しておくことにより、生徒20の足元に映るマークと生徒20との位置関係に基づき、演技中の生徒20の立ち位置の移動を検出する。なお、生成部132は、先頭フレームにおける生徒20の位置を、立ち位置の基準位置として自動的に設定してもよい。
【0044】
3.骨格ずれ情報
生成部132は、選択されている生徒20が写るクロップ動画像の画像データと、生徒20に提供した参照動画像の画像データとに基づいて、生徒20とインストラクターとの間の骨格情報の差分を示す骨格ずれ情報103を生成する。
【0045】
生成部132が画像データに基づいて骨格情報を取得する手順を例示すると、以下の通りである。
(1)生成部132は、演技中の生徒20が写るクロップ動画像に対して二値化やラベリングなどの画像処理を施し、画像に写る生徒20の輪郭を検出する。
図6(a)は、演技中の生徒20が写る画像データに基づいて取得される骨格情報を説明する模式図である。
図6(a)において薄く示す線は、検出された輪郭を示す。
(2)生成部132は、(1)で検出した輪郭に対してパターン認識を行い、画像における生徒20のジョイントを検出する。これにより、生徒20の各ジョイントに対応する二次元の座標(x,y)が取得される。
図6(a)において斜線で塗りつぶした複数の丸印は、検出されたジョイントを示す。
(3)生成部132は、(2)で取得した二次元の座標を、連結しているジョイントごとに対応付ける。このような手順により、演技中の生徒20の各ジョイントの位置を示す二次元の座標の集合(骨格情報と呼ぶ)が取得される。
【0046】
また、生成部132は、取得した各ジョイントの座標に対して、各ジョイントを識別するジョイント識別情報を対応付ける。例えば、左肘の座標を取得した場合、左肘の座標に、識別情報として「左肘」を対応付ける。
【0047】
生成部132はさらに、演技中のインストラクターが写る参照動画像に対して同様の処理を行い、演技中のインストラクターの各ジョイントの位置を示す骨格情報を取得する。
図6(b)は、演技中のインストラクターが写る画像データに基づいて取得される骨格情報を説明する模式図である。
図6(b)において複数の白丸印は、検出されたジョイントを示す。なお、画像データに基づいて骨格情報を取得する技術は公知であるので、骨格情報の取得に関する詳細な説明については省略する。また、骨格情報の取得は、AI(artificial intelligence)を用いて取得する手法を採用してもよい。
【0048】
図6(c)は、
図6(a)および
図6(b)の骨格情報の差分を示す骨格ずれ情報103を示す模式図である。生成部132は、表示部110に表示されている全身情報102のうち、生徒20とインストラクターとの間の骨格情報の差分が所定値を超えている部位をハイライト表示する。ハイライト表示の代わりに、他の部位の表示と色を変えて表示態様を異ならせてもよい。
指導者10が、表示部110の表示面をタッチ操作するなどして、全身情報102のうちハイライト表示されている領域Rを指定すると、生成部132は、クロップ動画像および参照動画像の対応するフレームの
図6(a)および
図6(b)の破線で囲む領域Rについて、演技中の生徒20とインストラクターとの間の骨格情報の差分を示す骨格ずれ情報103を表示する。
【0049】
骨格ずれ情報103は、例えば、指定された領域Rを拡大した上で、演技中の生徒20とインストラクターのジョイントを重ね合わせることにより、生徒20とインストラクターのジョイントの位置の差分を視覚的に表わすように生成される。このように構成したので、例えば、演技する生徒20の左腕がインストラクターの左腕より下がっている等を、骨格ずれ情報103を観察する指導者10が気づきやすくなる。
制御部130は、クロップ動画像の再生に同期して、指定された領域Rについての骨格ずれ情報103を表示させる。換言すると、クロップ動画像の動きに合わせて骨格ずれ情報103が動く。
【0050】
4.グラフ情報
グラフ情報104は、横軸が再生するクロップ動画像の再生時間(換言すると、生徒20による演技の進行時間)を示し、縦軸が生徒20とインストラクターとの演技のずれ量を示す。縦軸は、例えば、ずれ量なしが0(ゼロ)、生徒20の演技のタイミングがインストラクターの演技に対して進む場合をプラス(+)、遅れる場合をマイナス(-)で表す。演技の進行時間は、動画データのタイムコードに基づいて表され、横軸の左端が先頭フレーム、横軸の右端が末尾フレームに対応する。例えば演技時間が2分の場合、横軸全体が30(fps)×2×60(sec)=3600フレームに相当する。
【0051】
生成部132は、クロップ動画像と参照動画像とに基づいて、対応するフレームごとに演技中の生徒20のジョイントと手本の演技を行うインストラクターのジョイントとのずれ量を積算し、積算値をそのフレームにおける演技のずれ量とする。演技のずれ量に基づく演技の習熟度の判定について、一例を説明する。
上述したように、演技時間が2分の場合は演技開始から演技終了までの時間が3600フレームに相当する。そのため、個々のフレームにおいて算出された演技のずれ量が3600フレーム全てで所定の閾値以下である場合、時間比率が3600/3600=100パーセントとなるので、制御部130は演技の習熟度が高いと判定する。
【0052】
また、個々のフレームにおいて算出された演技のずれ量が、全3600フレームの70パーセントである2520フレーム以上で所定の閾値以下である場合、時間比率が70パーセント以上となるので、制御部130は演技の習熟度が普通と判定する。
さらに、個々のフレームにおいて算出された演技のずれ量が所定の閾値以下となるフレーム数が2520フレームよりも少ない場合、時間比率が70パーセント未満となるので、制御部130は演技の習熟度が低いと判定する。
【0053】
グラフ情報104において一点鎖線で示す曲線L3は、制御部130で演技の習熟度が高いと判定された生徒について、演技の開始から終了までの演技のずれ量の平均の変化を示す。
グラフ情報104において実線で示す曲線L1は、選択されている生徒20について、演技の開始から終了までの演技のずれ量の変化を示す。
グラフ情報104において破線で示す曲線L2は、生徒全員について、演技の開始から終了までの演技のずれ量の平均の変化を示す。
【0054】
制御部130はさらに、クロップ動画像の再生に同期して、グラフ情報104において縦線Qを左から右へ移動させる。縦線Qの横軸方向の位置は、全身情報102として表示されているクロップ動画像のフレーム(換言すると、再生開始時からの経過時間)、および骨格ずれ情報103のフレームに対応する。例えば、2分の演技が記録されたクロップ動画像を30秒再生した時点では、グラフ情報の左端から1/4付近を縦線Qが移動する。
【0055】
制御部130は、早戻しボタン105と、一時停止ボタン107と、早送りボタン106とを表示部110に表示させる。指導者10が早戻しボタン105をタッチ操作すると、制御部130は、再生中のクロップ動画像の再生位置を、現在の再生位置(再生開始時からの経過時間が30秒)よりも後ろ側(先頭側)へ10秒分(換言すると300フレーム)早戻しする。また、制御部130は、指導者10が早送りボタン106をタッチ操作すると、再生中のクロップ動画像の再生位置を、現在の再生位置よりも前側(末尾側)へ10秒分(換言すると300フレーム)早送りする。
【0056】
指導者10が一時停止ボタン107をタッチ操作すると、制御部130は、クロップ動画像の再生を一時停止するとともに、一時停止ボタン107の表示に代えて不図示の再生ボタンを表示部110に表示させる。指導者10が再生ボタンをタッチ操作すると、制御部130は、一時停止中の再生位置からクロップ動画像の再生を再開するとともに、再生ボタンの表示に代えて一時停止ボタン107を表示させる。
【0057】
制御部130は、上述した早戻しボタン105、早送りボタン106、および一時停止ボタン107が所定時間操作されない場合は、早戻しボタン105、早送りボタン106、および一時停止ボタン107(または再生ボタン)の表示を非表示にする。
制御部130は、上記ボタンの表示を非表示にした状態で指導者10によって表示部110の表示面がタッチ操作されると、非表示にしたボタンを再び表示させる。
【0058】
制御部130はさらに、指導者10が縦線Qに対して指などで左右方向に移動させるドラッグ操作を行うと、再生中(または一時停止中)のクロップ動画像の再生位置を、縦線Qの移動方向に合わせて、現在の再生位置よりも後ろ側(先頭側)または前側(末尾側)に変更する。
このようなシーク操作を行う構成にしたので、指導者10は、例えば縦線Qを曲線L1のずれ量が大きい区間へ移動させることにより、その再生位置に対応する全身情報102および骨格ずれ情報103を表示させることができる。指導者10は、骨格ずれ情報103を観察して、生徒20の身体のどの部位の動きがインストラクターの動きと相違しているかについて、確認することができる。
【0059】
クロップ動画像を再生している(再生中)場合におけるマップ情報101のスペース内の塗りつぶしパターンの制御について説明する。制御部130は、クロップ動画像の再生を開始すると、クロップ動画像の再生を終了するまでの間、マップ情報101におけるスペース内の塗りつぶしパターンを、クロップ動画像の再生中に移動する縦線Qの位置に対応するフレームの各生徒の演技のずれ量に基づいて制御する。
例えば、縦線Qの位置に対応し、全身情報102として表示されているクロップ動画像のフレームが先頭フレームから901フレーム目(再生開始時からの経過時間が30秒)である場合を例に説明する。
【0060】
制御部130は、マップ情報101において各生徒に対応するスペースに対する塗りつぶしパターンを、各生徒のクロップ動画像の901フレーム目と、対応する参照動画像の901フレーム目とを用いて算出された演技のずれ量に基づいて決定する。
例えば、参照動画像に記録された手本の演技とクロップ動画像に記録された生徒の演技との間のずれ量が所定の閾値以下に収まっている場合、その生徒に対応するスペースを白く塗りつぶす。また、演技のずれ量が所定の閾値の1.3倍以下に収まっている場合、その生徒に対応するスペースをドットパターンで塗りつぶす。さらに、演技のずれ量が所定の閾値の1.3倍を超える場合、その生徒に対応するスペースを斜線パターンで塗りつぶす。
【0061】
このように構成したので、再生するクロップ動画像における演技の進行に伴い、各スペースの塗りつぶしパターンがリアルタイムに変化する。そのため、マップ情報101を観察する指導者10は、演技のずれ量が小さい(または大きい)生徒の分布状態を、容易に確認することができる。
なお、実施の形態では、マップ情報101における各スペースに対する塗りつぶしパターンを変えて生徒の演技の習熟度を示したが、各スペースに対する塗りつぶし色を変えて生徒の演技の習熟度を示してもよい。また、上述したリアルタイムの変化に加えて、演技終了後に演技全体での演技のずれ量の平均値を算出し、この平均値を演技全体の評価結果としてマップ情報101にパターン表示してもよい。さらに、演技の特定区間における演技のずれ量の平均値を算出し、この平均値を演技の特定区間の評価結果としてマップ情報101にパターン表示してもよい。
【0062】
<生徒の配置案を提示>
指導者10が、例えば表示部110に表示された不図示のリクエストボタンをタッチ操作するなどして生徒の配置案をリクエストすると、生成部132は、集合演技時の生徒の立ち位置の再配置案を生成する。
図7(a)は、リクエスト前の配置案(初期配置と呼ぶ)に基づくマップ情報101を例示する図であり、
図7(b)は、生成部132で生成された再配置案に基づくマップ情報101を例示する図である。
【0063】
生成部132は、例えば、
図7(a)の白い塗りつぶしパターンに対応する生徒(換言すると、習熟度が高い生徒)の立ち位置を、前列寄りかつ中央寄りの位置に集めるように配置し直す。また、生成部132は、
図7(a)において斜線による塗りつぶしパターンに対応する生徒(換言すると、習熟度が低い生徒)の立ち位置を、後列寄りまたは中央から離れた左右端の近傍に集めるように配置し直す。さらにまた、生成部132は、
図7(a)においてドットパターンに対応する生徒(換言すると、習熟度が普通の生徒)の立ち位置を、習熟度が高い生徒と習熟度が低い生徒との間の位置するように配置し直す。このように生成された再配置案は、
図7(b)に例示したように、習熟度が高い生徒を目立ちやすい位置に集め、習熟度が低い生徒を目立ちにくい位置に集めることにより、集合演技を鑑賞する者へ好印象を与えることができる。
なお、再配置案は、指導者10が操作部120を操作することにより手動で微調整することができる。
【0064】
また、生成部132は、演技の習熟度が同等の生徒に対して、身長がより低い生徒を前寄りに、身長がより高い生徒を後寄りに立ち位置を配置し直す。さらにまた、生成部132は、演技の習熟度が同等の生徒に対して、表情が明るい(例えば笑顔)生徒を前列寄りかつ中央寄りの位置に立ち位置を配置し直す。さらに、生成部132は、演技の習熟度が同等の生徒に対して、演技の見栄えが良い(例えば、動作が綺麗、動きの切れがよい等)生徒を前列寄りかつ中央寄りの位置に立ち位置を配置し直す。男女のグループを均等に配置する、または、男女でグループ分けをしないように配置し直す。なお、再配置案は、指導者10が操作部120を操作することにより手動で微調整することができる。
このように生成された再配置案は、集合演技を鑑賞する者へ好印象を与えることができる。
【0065】
<生徒へのアドバイスを提示>
指導者10が、例えば表示部110に表示された不図示のリクエストボタンをタッチ操作するなどして生徒へのアドバイス案をリクエストすると、生成部132は、生徒に対するメッセージを生成する。例えば、
図3に例示した骨格ずれ情報103が得られている場合には、生徒の演技をインストラクターの演技に近づけるためのメッセージ「もっと腕を高く上げよう!」を生成する。
【0066】
また、演技中の生徒の立ち位置について、
図5(b)に例示した立ち位置のずれが検出されている場合には、生成部132は、その生徒に対して右側のスペースへはみ出さないように意識させるためのメッセージ「右側へずれないように!」を生成する。さらに、演技中の生徒の立ち位置について、
図5(c)に例示した立ち位置のずれが検出されている場合には、その生徒に対して後ろ側のスペースへはみ出さないように意識させるためのメッセージ「後ろに寄りすぎないで!」を生成する。
【0067】
指導者10は、生成部132で生成されたメッセージに対して、操作部120を介してメッセージを追加する操作およびメッセージを編集する操作を行うことができる。例えば、生徒の自主練習方法をメッセージに含めることができる。
また、指導者10は、生徒に提供した参照動画像に記録した演技内容が難しすぎると判断した場合には、演技構成の難易度を易しく変更した(換言すると、生徒の一部または生徒全員の演技構成を易しい振り付けに変更した)新たな参照動画像を生徒に提供することができる。指導者10はさらに、生徒に提供した参照動画像に記録した演技内容が易しすぎると判断した場合には、演技構成の難易度を難しく変更した(換言すると、生徒の少なくとも1人または生徒全員の演技構成を難しい振り付けに変更した)新たな参照動画像を生徒に提供することができる。
【0068】
<フローチャートの説明>
上述した演技指導システム1を構成する指導者端末100および生徒端末200でそれぞれ実行される処理の一例について、
図8に例示するフローチャートを参照して説明する。
(指導者端末)
制御部130は、指導者10によって演技指導プログラムに対応付けられているアイコンが選択操作された場合には、演技指導プログラムを起動させて
図8による処理(指導者端末)を実行する。なお、生徒端末200と指導者端末100との間は、後述するステップS102、S104、およびS110等、必要時において適宜通信を行うものとする。
【0069】
ステップS102において、制御部130は、あらかじめ登録されている生徒(生徒端末200-400)に、個々の生徒の手本の演技が記録された参照動画像を送信してステップS104へ進む。
【0070】
ステップS104において、制御部130は、生徒(生徒端末200-400)から、各生徒の演技が記録された第1の動画像を受信してステップS106へ進む。
ステップS106において、制御部130は、各生徒に提供した参照動画像の演技と、各生徒から送信された第1の動画像の演技とを比較部131で比較してステップS108へ進む。比較部131で行う比較処理により、制御部130は、生徒ごとに演技のタイミングの相違、姿勢の相違、動き方の相違、跳躍の高さの相違、顔の表情の相違、演技中の立ち位置の相違、および、身長などの身体的特徴の相違の少なくとも1つを検出する。
【0071】
ステップS108において、制御部130は、各生徒に対して、
図3を参照して説明した指導情報を生成してステップS110へ進む。指導情報は、生徒20、30および40による演技全体の統一性を高めるための情報である。
【0072】
ステップS110において、制御部130は、生徒(生徒端末200-400)に、各生徒に対する指導情報を送信してステップS112へ進む。送信する指導情報は、上述した全身情報102、骨格ずれ情報103およびグラフ情報104と、
図5(a)~
図5(c)に例示した、生徒を中心とする領域をマップ情報101から抜き出した抜粋情報108とを含む。
なお、全身情報102、骨格ずれ情報103、グラフ情報104および抜粋情報108を、第2の動画像として生成し、第2の動画像を生徒(生徒端末200-400)に送信してもよい。
【0073】
ステップS112において、制御部130は終了するか否かを判定する。制御部130は、指導者10によって終了操作が行われた場合には、ステップS112を肯定判定して指導者端末100による処理を終了する。制御部130は、指導者10によって終了操作が行われない場合には、ステップS112を否定判定してステップS102へ戻り、上述した処理を繰り返す。
【0074】
(生徒端末)
生徒端末を代表して生徒20の生徒端末200を例に説明する。
制御部220は、生徒20によって演技指導プログラムに対応付けられているアイコンが選択操作された場合には、演技指導プログラムを起動させて
図8による処理(生徒端末)を実行する。
【0075】
ステップS202において、制御部220は、指導者10(指導者端末100)から送信された情報を受信してステップS204へ進む。ステップS204において、制御部220は、指導者端末100からの情報が参照動画像であるか、指導情報であるかを判定する。制御部220は、参照動画像を受信した場合にステップS206へ進み、指導情報を受信した場合にステップS220へ進む。
【0076】
ステップS206へ進むのは、生徒端末200で参照動画像を再生する、または、生徒端末200で生徒20の演技を撮影(記録)する場合である。そのため制御部220は、先ずステップS206において参照動画像を再生するか否かを判定する。制御部220は、表示・操作入力部210に再生指示が入力された場合にステップS206を肯定判定してステップS208へ進み、表示・操作入力部210に再生指示が入力されない場合にはステップS206を否定判定してステップS212へ進む。
【0077】
ステップS208において、制御部220は、再生制御部221で参照動画像を再生させてステップS210へ進む。この再生により、参照動画像として記録されている楽曲が再生され、楽曲のリズムに合わせて手本の演技が再生される。生徒20は、手本の演技を参考に、楽曲のリズムに合わせて自己の演技を練習する。
【0078】
ステップS210において、制御部220は、参照動画像をもう一度再生するか否かを判定する。制御部220は、表示・操作入力部210に再生指示が入力された場合にステップS210を肯定判定してステップS208へ戻り、再生処理を繰り返す。また、表示・操作入力部210に再生指示が入力されない場合には、ステップS210を否定判定してステップS212へ進む。
【0079】
制御部220は、ステップS212において生徒20の演技を記録するか否かを判定する。制御部220は、表示・操作入力部210に記録指示が入力された場合にステップS212を肯定判定してステップS214へ進み、表示・操作入力部210に記録指示が入力されない場合にはステップS212を否定判定してステップS218へ進む。
【0080】
ステップS214において、制御部220は、再生制御部221で参照動画像を再生させながら、撮影制御部222で生徒20の演技の撮影を制御するとともに、撮影した演技を記録制御部223で第1の動画像として情報記憶部230に記録し、ステップS216へ進む。この記録により、参照動画像を再生した楽曲のリズムに合わせた生徒20の演技と、再生した楽曲とが第1の動画像として記録される。
【0081】
ステップS216において、制御部220は、指導者10(指導者端末100)に、生徒20の演技が記録された第1の動画像を送信してステップS218へ進む。
なお、生徒20が第1の動画像に記録された自身の演技に満足できない場合も想定され得るため、ステップS214とステップS216との間に、第1の動画像を記録し直すか否かを判定する処理を挿入してもよい。このような処理を加えることにより、生徒20は、自己の演技を適宜撮り直しすることが可能になる。
ステップS218において、制御部220は終了するか否かを判定する。制御部220は、生徒20によって終了操作が行われた場合には、ステップS218を肯定判定して生徒端末200による処理を終了する。制御部220は、生徒20によって終了操作が行われない場合には、ステップS218を否定判定してステップS202へ戻り、上述した処理を繰り返す。
【0082】
ステップS220へ進むのは、生徒端末200で指導情報を表示する、または、指導情報として新たに受信した参照動画像を生徒端末200で再生する場合である。指導情報として送信される参照動画像には、例えば、当初の参照動画像に記録されていた手本とは演技内容が異なる、指導者10により変更された手本の演技が記録される。そのため制御部220は、先ずステップS220において演技内容に変更があるか否かを判定する。制御部220は、指導情報として新たな参照動画像を受信した場合にステップS220を肯定判定してステップS222へ進み、新たな参照動画像を受信していない場合にステップS220を否定判定してステップS228へ進む。
【0083】
ステップS222において、制御部220は、参照動画像を再生するか否かを判定する。制御部220は、表示・操作入力部210に再生指示が入力された場合にステップS222を肯定判定してステップS224へ進み、表示・操作入力部210に再生指示が入力されない場合にはステップS222を否定判定してステップS228へ進む。
【0084】
ステップS224において、制御部220は、再生制御部221で参照動画像を再生させてステップS226へ進む。この再生により、参照動画像として記録されている楽曲が再生され、楽曲のリズムに合わせて手本の演技が再生される。生徒20は、手本の演技を参考に、楽曲のリズムに合わせて自己の演技を練習する。
【0085】
ステップS226において、制御部220は、参照動画像をもう一度再生するか否かを判定する。制御部220は、表示・操作入力部210に再生指示が入力された場合にステップS226を肯定判定してステップS224へ戻り、再生処理を繰り返す。また、表示・操作入力部210に再生指示が入力されない場合には、ステップS226を否定判定してステップS228へ進む。
【0086】
制御部220は、ステップS228において、生徒20に対する指導情報を表示・操作入力部210に表示するか否かを判定する。制御部220は、表示・操作入力部210に表示指示が入力された場合にステップS228を肯定判定してステップS230へ進み、表示・操作入力部210に表示指示が入力されない場合にはステップS228を否定判定してステップS212へ進む。
【0087】
ステップS230において、制御部220は、表示・操作入力部210に指導情報を表示させる。
図9は、生徒端末200の表示・操作入力部210に表示された指導情報を例示する模式図である。指導者端末100に表示される場合と同様に、全身情報102、骨格ずれ情報103、グラフ情報104および抜粋情報108が表示されている。
生徒20は、表示・操作入力部210に表示される指導情報により自己の演技の改善点を学習することができる。
なお、全身情報102、骨格ずれ情報103、グラフ情報104および抜粋情報108を含む第2の動画像を指導情報として指導者10(指導者端末100)から受信した場合は、ステップS230において、指導情報としての第2の動画像に記録されている楽曲が再生され、楽曲のリズムに合わせて生徒の演技(全身情報102)が再生されるとともに、楽曲のリズムに同期して骨格ずれ情報103、グラフ情報104および抜粋情報108がそれぞれ表示される。このように構成したので、生徒20は、例えば楽曲のリズムのどのタイミングで自己の演技がずれているのか等を、表示・操作入力部210に表示された画面で確認しながら学習することができる。
【0088】
ステップS232において、制御部220は、指導情報の表示を終了するか否かを判定する。制御部220は、生徒20によって終了操作が行われた場合には、ステップS232を肯定判定してステップS212へ戻る。制御部220は、生徒20によって終了操作が行われない場合には、ステップS222を否定判定してステップS230へ戻り、指導情報の表示を継続する。
【0089】
<プログラム>
上記演技指導システム1を構成する指導者端末100の制御部130、および生徒端末200の制御部220がそれぞれ実行する処理、すなわち
図8に例示した処理を実行させるプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムを、指導者端末100または生徒端末200へ供給してもよい。「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、光ディスク、メモリカード等の可搬型記録媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。コンピュータシステムとは、例示した指導者端末100または生徒端末200のように、OS(Operating System)や周辺機器のハードウェアを含むものとする。
【0090】
また、「コンピュータ読み取り可能な記録媒体」には、インターネット等のネットワーク通信網や電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものを含んでもよい。また上記のプログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせにより実現するものであってもよい。
【0091】
図10は、指導者端末100または生徒端末200に対するプログラムの供給を説明する図である。指導者端末100または生徒端末200は、例えばCD-ROM953に記録されたプログラムの提供を受けることができる。また、指導者端末100または生徒端末200は、通信回線900を介してプログラムの提供を受けることもできる。
コンピュータ952は、上記プログラムを提供するサーバコンピュータであり、ハードディスク等の記録媒体954にプログラムを格納している。通信回線900は、インターネット、パソコン通信などの通信回線、あるいは専用通信回線などである。コンピュータ952は、記録媒体954からプログラムを読み出し、通信回線900を介してプログラムを指導者端末100または生徒端末200に送信する。すなわち、プログラムをデータ信号として搬送波により搬送して、通信回線900を介して送信する。指導者端末100または生徒端末200は、送信されたプログラムを受信する。
このように、プログラムは、記録媒体や搬送波などの種々の形態のコンピュータ読み込み可能なコンピュータプログラム製品として供給できる。
【0092】
上述した実施の形態によれば、次の作用効果が得られる。
(1)演技指導装置としての指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)は、演技者としての生徒20(30、40)の演技が記録された第1の動画像を、比較対象としてのインストラクターの演技が記録された参照動画情報と比較する比較部131と、比較部131で比較した結果に基づいて、生徒20(30、40)の演技に対する指導情報を生成する生成部132とを備える。
このように構成したので、例えば、練習する生徒20(30、40)の演技と、インストラクターによる手本の演技との動きの違い等を比較し、動きの違い等を知らせるための指導情報を生成することができるため、生徒20(30、40)に対して演技を適切に指導することができる。
【0093】
(2)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、生成部132は、生徒20(30、40)の演技と比較対象のインストラクターの演技との相違点を示す情報を、上記指導情報として生成する。
このように構成したので、例えば相違点を減らすための指導情報を生成する等、生徒20(30、40)に対して演技を適切に指導することができる。
【0094】
(3)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、比較部131は、生徒20(30、40)の演技と比較対象のインストラクターの演技とのタイミングの相違、姿勢の相違、動き方の相違、跳躍の高さの相違、顔の表情の相違、演技中の立ち位置の相違、および、生徒20(30、40)とインストラクターとの身体的特徴の相違の少なくとも1つを検出する。
このように構成したので、相違する箇所、相違する内容等を知らせて具体的な指導情報を生成することができるため、生徒20(30、40)に対して演技を適切に指導することができる。
【0095】
(4)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、比較部131は、生徒20(30、40)の身体的特徴に基づいて、相違するか否かの検出基準を異ならせる。
このように構成したので、例えば、体格の違い等を考慮して、生徒20(30、40)に対して演技を適切に指導することができる。
【0096】
(5)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、比較部131は、第1の動画像が再生される時間軸と、参照動画情報が再生される時間軸とを同期させて第1の動画像と参照動画情報とを比較する。
このように構成したので、生徒20(30、40)の演技の相違点について、適切に検出することができる。
【0097】
(6)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、生成部132は、生徒20(30、40)の演技と比較対象のインストラクターの演技との相違点を示す第2の動画像を、指導情報として生成する。
このように構成したので、生徒20(30、40)の演技の相違点について、動画像のフレームごとに適切に記録した指導情報を得ることができる。
【0098】
(7)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、生成部132は、第2の動画像において生徒20(30、40)の演技とインストラクターの演技との差が予め定めた基準値よりも大きい部分を他の部分と異なる態様で示す。
このように構成したので、第2の動画像において生徒20(30、40)の演技とインストラクターの演技との差が基準値よりも大きい部分をわかりやすく示すことができる。
【0099】
(8)上記指導者端末100(または、比較部および生成部を備える場合の生徒端末200等)において、生成部132は、第1の動画像が再生される時間軸に同期して第2の動画像を生成する。
このように構成したので、例えば第1の動画像および第2の動画像を同期して再生することにより、生徒20(30、40)の演技の相違点について、動画像のフレームごとに適切に提示することができる。
【0100】
(9)上記指導者端末100において、参照動画像に記録されている比較対象の演技は、手本の演技または第2の演技者の演技を含む。
このように構成したので、例えば、練習する生徒20(30、40)の演技とインストラクターによる手本の演技との相違点に基づいて個々の生徒20(30、40)の演技の向上を図ることに加えて、例えば生徒20の演技と生徒30の演技との相違点に基づいて演技の統一性を得るための指導情報を生成することができる。これにより、生徒20、30、40を集合させなくても、複数の生徒20、30、40で行う集合演技について適切に指導することができる。
【0101】
(10)上記指導者端末100において、生成部132は、比較部131で生徒20の演技と第2の演技者としての他の生徒30の演技者の演技とを比較する場合には、生徒20および生徒30が一緒に演技する場合の情報を、指導情報として生成する。
このように構成したので、生徒20および生徒30を集合させなくても、複数の生徒20、30による演技の統一性を高めるために必要な情報を、適切に生成することができる。
【0102】
(11)上記指導者端末100において、生成部132は、比較部131で比較した結果に基づいて生徒20および生徒30の演技の習熟度を算出し、生徒20の第1の習熟度および生徒30の第2の習熟度に基づいて生徒20および生徒30が一緒に演技する場合の情報を、指導情報として生成する。
このように構成したので、例えば、習熟度が高い生徒を目立たせ、習熟度が低い生徒を目立たせない等、集合演技の鑑賞者の印象がよくなるような指導情報を生成することができる。
【0103】
(12)上記指導者端末100において、生成部132は、比較部131で比較した結果に基づいて、生徒20および生徒30に対する演技の内容を見直した(換言すると、例えば生徒全員の振り付け等を変更する)新たな参照動画像を、指導情報として生成する。
このように構成したので、例えば、生徒全員が難易度の高い演技構成を避けて、集合演技の鑑賞者の印象がよくなるような指導情報を生成することができる。
【0104】
(13)上記指導者端末100において、生成部132は、比較部131で比較した結果に基づいて、生徒20または生徒30に対する演技の内容を見直した(換言すると、例えば一部の生徒に対して振り付け等を変更する)新たな参照動画像を、指導情報として生成する。
このように構成したので、例えば、一部の生徒のみ難易度が高い演技構成を避けて、集合演技の鑑賞者の印象がよくなるような指導情報を生成することができる。
【0105】
(14)上記指導者端末100において、生成部132は、比較部131で比較した結果に基づいて、生徒20および生徒30の配置情報としての再配置案を、指導情報として生成する。
このように構成したので、例えば、習熟度が高い生徒の立ち位置を、前列寄りかつ中央寄りの位置に集めるように再配置したり、習熟度が低い生徒の立ち位置を、後列寄りまたは中央から離れた左右端の近傍に集めるように再配置したりするように、集合演技の鑑賞者の印象がよくなるような指導情報を生成することができる。
【0106】
(15)演技指導装置としての指導者端末100は、第1の演技者としての生徒20の演技が記録された第1の動画像、および、第2の演技者としての生徒30の演技が記録された第1の動画像を、所定の基準に基づいて評価する評価部としての制御部130と、制御部130の評価結果に基づいて、生徒20および生徒30が一緒に演技する場合の生徒20および生徒30の位置および演技内容の少なくとも一方を決定する決定部としての制御部130とを備える。
このように構成したので、生徒20および生徒30を集合させなくても、生徒20および生徒30が集合演技を行う場合における演技の統一性がよくなるように、生徒20および生徒30に対する立ち位置、演技内容を適切に生成することができる。
【0107】
(16)上記指導者端末100において、決定した生徒20および生徒30の立ち位置を示すマップ情報101を生成する生成部132を備える。
このように構成したので、生徒20および生徒30に対する立ち位置を、視覚的にわかりやすく示すことができる。
【0108】
次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施形態と組み合わせることも可能である。
(変形例1)
上述した実施の形態では、指導者端末100としてパーソナルコンピュータまたはタブレット型端末を例示したが、通信回線等を介して接続可能なサーバ等で構成してもよい。また、生徒端末200-400としてスマートフォンまたはタブレット型端末を例示したが、通信回線等を介して接続可能なパーソナルコンピュータまたはテレビ等で構成してもよい。
【0109】
(変形例2)
上述した比較部131および生成部132を備えるサーバを、ネットワーク通信網500に接続し、指導者端末100と生徒端末200-400とが、サーバにアクセスする構成にしてもよい。変形例2による演技指導の流れは、以下の1から8の手順で行う。
【0110】
1.指導者端末100は、個々の生徒20等に対する手本の演技が記録された参照動画像(参照動画情報と呼んでもよい)を、サーバの所定の領域に格納する。
2.生徒20等は、サーバに格納された参照動画像に記録されている手本の演技を参考にして自己の演技を練習する。参照動画像を生徒端末200等で視聴する場合、ダウンロード再生でもストリーミング再生でもよい。
【0111】
3.生徒端末200等は、生徒20等の演技を撮影して第1の動画像を作成する。
4.生徒端末200等は、第1の動画像を生徒端末200等からサーバの所定領域へ格納する。
5.サーバは、第1の動画像に記録されている生徒20等の演技を確認する。
指導者10は、再生される第1の動画像を指導者端末100で視聴することができる。
【0112】
6.サーバは、確認結果に基づいて生徒20等に対する指導情報を作成する。
7.サーバは、個々の生徒20等に対する指導情報をサーバの所定領域へ格納する。
指導者10は、サーバに格納されている指導情報を指導者端末100で視聴することができる。また、生徒20等は、サーバに格納されている指導情報を生徒端末200等で視聴することができる。
8.生徒20等は、サーバに格納された指導情報に基づいて、演技をさらに練習する。
【0113】
(変形例3)
上述した実施の形態では、
図5(a)~
図5(c)を参照して説明したように、生徒20が演技を開始した初期位置をスペースPの中心に対応させて、演技中の生徒20の立ち位置が移動するとスペースP内の丸印Sを移動させる例を説明した。演技中の生徒20の立ち位置の移動を、
図11に例示する表示によって表してもよい。
図11は、変形例3による演技中の生徒20の立ち位置の表示を説明する図であり、生徒20の立ち位置が後方に移動した
図5(c)の状態に対応する。
【0114】
変形例3において、制御部130は、演技中の生徒20の立ち位置が後方に移動すると、生徒20に対応するスペースPを後方に移動させる。このように構成したので、変形例3の表示においても、演技中の生徒20の立ち位置の移動を適切に表すことができる。
【0115】
(変形例4)
演技中の生徒20の立ち位置の移動を、
図12に例示する表示によって表してもよい。
図12は、変形例4による演技中の生徒20の立ち位置の表示を説明する図であり、生徒20の立ち位置が後方に移動した
図5(c)の状態に対応する。
【0116】
変形例4において、制御部130は、演技中の生徒20の立ち位置が後方に移動すると、生徒20に対応するスペースPと他の生徒に対応するスペースとの間隔を、例えば色の濃淡により表す。例えば、スぺ―ス間隔が狭いほど濃い色で表し、スペース間隔が広いほど薄い色で表す。
図12では、後方に移動した生徒20に対応するスペースPと、後方の生徒に対応するスペースTとの間の色が濃く、生徒の間隔が狭まっていることを示す。このように構成したので、変形例4の表示においても、演技中の生徒20の立ち位置を適切に表することができる。
【0117】
(変形例5)
上述した実施の形態では、生成部132が集合演技時の生徒の立ち位置の再配置案を生成する例を説明した。再配置する前の初期配置は、指導者10が、あらかじめ生徒の仮の立ち位置として定めてもよいし、生成部132がランダムに定めてもよい。生成部132が初期位置をランダムに定める場合、例えば、生徒から第1の動画像が送付された順に、前列から順番に配置する。初期配置は、再配置によって適宜変更可能であるため、どのように定めても構わない。
【0118】
(変形例6)
図13は、上述した実施の形態とは異なる態様で、指導者端末100の表示部110に表示された指導情報を例示する模式図である。変形例6では、例えば生徒20と生徒30についての全身情報102と、手本の演技を行うインストラクターの全身情報102とを並べて表示する。また、実施の形態の折れ線グラフのグラフ情報104の代わりに、生徒20と生徒30について、それぞれの身体の部位(例えば、左腕、左脚)ごとの演技のずれ量を示す、例えば帯状のグラフ情報109a~109dを表示する。グラフ情報109a~109dで表示する身体の部位の数は、適宜変更して構わない。
【0119】
グラフ情報109a~109dは、横方向の長さが全身情報102として再生するクロップ動画像の再生時間(換言すると、生徒20、30による演技の進行時間)に対応し、帯の塗りつぶしパターンが生徒20、30とインストラクターとの演技のずれ量を示す。演技の進行時間は、動画データのタイムコードに基づいて表され、帯の左端が先頭フレーム、帯の右端が末尾フレームに対応する。例えば演技時間が2分の場合、帯全体が30(fps)×2×60(sec)=3600フレームに相当する。
【0120】
生成部132は、クロップ動画像と参照動画像とに基づいて、対応するフレームごとに演技中の生徒20、30のジョイントと手本の演技を行うインストラクターのジョイントとのずれ量を身体の部位ごとに積算し、部位ごとの積算値をそのフレームのその部位における演技のずれ量とする。
【0121】
グラフ情報109a~109dの塗りつぶしパターンの制御について説明する。制御部130は、グラフ情報109a~109dの塗りつぶしパターンを、クロップ動画像の再生中に移動する縦線Qの位置に対応するフレームの、各生徒の身体の部位における演技のずれ量に基づいて制御する。
例えば、縦線Qの位置に対応し、全身情報102として表示されているクロップ動画像のフレームが先頭フレームから901フレーム目(再生開始時からの経過時間が30秒)である場合を例に説明する。
【0122】
制御部130は、グラフ情報109a~109dにおいて901フレーム目に対応する位置の塗りつぶしパターンを、生徒のクロップ動画像の901フレーム目と、対応する参照動画像の901フレーム目とを用いて算出された、身体の部位(例えば、左腕、左脚)における演技のずれ量に基づいて決定する。
例えば、演技のずれ量が所定の閾値以下に収まっている場合、対応するグラフ情報109a~109dを白く塗りつぶす。また、演技のずれ量が所定の閾値の1.3倍以下に収まっている場合、対応するグラフ情報109a~109dをドットパターンで塗りつぶす。さらに、演技のずれ量が所定の閾値の1.3倍を超える場合、対応するグラフ情報109a~109dを斜線パターンで塗りつぶす。
【0123】
このように構成したので、グラフ情報109a~109dを観察する指導者10は、身体の部位別に、生徒の演技のずれ量が小さい(または大きい)ところを、タイムライン上で容易に確認することができる。
【0124】
(変形例7)
上述した説明では、例えば、手本の演技を記録した参照動画像を指導者端末100から生徒端末200へ送り、生徒20の演技を記録した第1の動画像を生徒端末200から指導者端末100へ送り、生徒20に対する指導情報を含む第2の動画像を指導者端末100から生徒者端末200へ送るというように、記録された動画像を生徒端末20および指導者端末100間でやり取りする実施の形態を例示した。例示した実施の形態に限らず、生徒端末20および指導者端末100間で、リアルタイムに情報をやり取りしてもよい。
【0125】
例えば、変形例7において生徒20は、指導者端末100で再生される参照動画像(手本の動画像)を生徒端末200でリアルタイムに視聴するとともに、参照動画像を見ながらリアルタイムに演技を行う。生徒端末200は、生徒20の演技を撮影し、撮影した演技の映像(第1の動画像)を生徒端末200から指導者端末100へリアルタイムに送信する。指導者端末100は、手本の動画像と第1の動画像とをリアルタイムに比較しながら生徒20に対する指導情報を含む第2の動画像を生成する。指導者端末100は、生徒20の演技が終了すると、生成した第2の動画像を指導者端末100で再生可能な状態におく。このように構成することにより、生徒20は、自己の演技を終了すると生徒端末200から指導者端末100へ第2の動画像の再生を要求し、指導者端末100で再生される第2の動画像を生徒端末200で視聴することができる。
変形例7によれば、生徒20は、演技を終えてすぐに指導情報の内容を確認することが可能になり、指導内容を取り入れた練習をすぐに行うことができる。
【0126】
上記では、種々の実施形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。実施形態および変形例で示された各構成を組み合わせて用いる態様も本発明の範囲内に含まれる。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【符号の説明】
【0127】
1…演技指導システム、10…指導者、20,30,40…生徒、100…指導者端末、110…表示部、130…制御部、131…比較部、132…生成部、200,300,400…生徒端末、210…表示・入力部、220…制御部、260…撮影部、900…通信回線、952…コンピュータ、953…CD-ROM