(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0025】
以下、図面を参照して、この発明の一実施形態に係る動作解析装置について説明する。
図1は、この発明の一実施形態に係る動作解析装置10の構成を示すブロック図である。
図1を参照して、動作解析装置10は、動画の動作を解析可能であって、動作解析装置10全体を制御するCPU等の制御部11と、画像等を記憶する記憶部12と、タッチパネル式であってユーザからの操作を受け付けると共に記憶部12に記憶した画像等を表示する操作部13と、外部機器との接続インターフェースとなるI/F部14とを備える。なお、本実施形態中において、画像とは、動画および静止画を含むものとする。
【0026】
ここで、動作解析装置10が、ゴルフのスイングのフォームを解析する場合について説明する。
図2は、ゴルフのスイングのフォームを解析する場合の動作解析装置10の動きを示すフローチャートである。
図1〜
図2を参照して説明する。
【0027】
まず、ユーザは、アドレスからフィニッシュまでのゴルフのスイングのフォームをビデオカメラ等で予め撮影しており、動作解析装置10は、I/F部14を介して、撮影した動画の入力を受け付ける(
図2において、ステップS11、以下ステップを省略する)。動画は、連続する複数の静止画から構成されており、この複数の静止画は、一定間隔である。
図3〜
図5は、連続する複数の静止画の一部を示す図である。
図3〜
図5は、アドレスからフィニッシュまでのゴルフのスイングのうち、スイングの開始直後であるアドレスからテイクバックまでの状態を順に示している。ここで、I/F部14は、動画受付手段として作動する。動作解析装置10は、連続する静止画の先頭に位置する
図3の静止画を操作部13に表示する(S12)。ここで、
図3の静止画は、第一の静止画である。
【0028】
そうすると、動作解析装置10は、動作解析の対象となる解析対象箇所として、ユーザから静止画像上の任意の箇所を指定される(S13)。操作部13は、タッチパネル式であり、画面を指等でタッチされることによって、任意の箇所を指定される。ここでは、任意の箇所として、P
0を指定される。なお、
図6は、
図3の静止画において、指定されたP
0の位置を示す図である。ここで、操作部13は、指定受付手段として作動する。
【0029】
そうすると、動作解析装置10は、指定点であるP
0を中心とし、予め定められた半径r範囲内において、第一の特徴点の検索を行う(S14)。特徴点とは、静止画像中の輝度の変化の大きい箇所や、物体のエッジ等を示す点であって、静止画において何らかの変化を有する点である。ここでは、
図3の静止画において、P
1、P
2、P
3の複数の第一の特徴点が検索される。
【0030】
なお、特徴点の検索は、SIFT(Scale Invariant Feature Transform)特徴量を用いることができる。SIFT特徴量の計算は、指定点P
0を中心とした半径r範囲内の部分静止画を平滑化し、平滑化画像からDoG(Difference of Gaussian)画像を生成する。そして、DoG画像において極値を探索する。そして、当該極値の周囲の画素の輝度勾配および角度に基づき特徴量を計算する。SIFT特徴量は、物体の回転や、物体の拡大および縮小等に影響を受けることがない。したがって、この実施形態のような回転する動作であるゴルフのスイングにおいて、誤差等がなく適切に用いることができる。
図7は、
図3の静止画において、検索された第一の特徴点P
1、P
2、P
3の位置を示す図である。ここで、制御部11は、第一の検索手段として作動する。
【0031】
そして、動作解析装置10は、第一の特徴点P
1、P
2、P
3を検索した
図3の静止画より時系列的に後に隣り合う静止画、すなわち、
図4の静止画において、第一の特徴点P
1、P
2、P
3に対応する第二の特徴点の検索を行う(S15)。ここで、対応するとは、第一の特徴点P
1、P
2、P
3に類似する値を有することを意味する。検索においては、例えば、
図3の静止画における第一の特徴点P
1、P
2、P
3の座標を
図4の静止画にあてはめて、当該座標の位置を中心とした所定の範囲内において、第一の特徴点P
1、P
2、P
3に対応する第二の特徴点の検索を行う。
図8は、
図4の静止画において、検索された第二の特徴点P
1´、P
2´、P
3´の位置を示す図である。P
1´がP
1に対応し、P
2´がP
2に対応し、P
3´がP
3に対応している。ここで、
図4の静止画は、第二の静止画であり、制御部11は、第二の検索手段として作動する。
【0032】
そして、
図7に示す特徴点P
1、P
2、P
3と、
図8に示す特徴点P
1´、P
2´、P
3´との差を算出する(S16)。P
1´−P
1=ΔP
1よりΔP
1を算出する。すなわち、隣り合う静止画像間における特徴点の変化量を算出する。P
2´、P
3´においても同様に計算して、P
2´−P
2=ΔP
2よりΔP
2を算出し、P
3´−P
3=ΔP
3よりΔP
3を算出する。そして、算出した差ΔP
1、ΔP
2、ΔP
3の3つの平均値ΔP
t1を求める(S17)。この平均値ΔP
t1は、第一および第二の特徴点に基づく点である静止画像上の所定の点における変化を示すものとなる。
【0033】
そして、第二の特徴点P
1´、P
2´、P
3´を検索した
図4の静止画より時系列的に後に隣り合う静止画、すなわち、
図5の静止画においても同様に、特徴点P
1´、P
2´、P
3´に対応する特徴点P
1´´、P
2´´、P
3´´(図示せず)の検索を行い、特徴点P
1´、P
2´、P
3´と特徴点P
1´´、P
2´´、P
3´´の差を算出し、算出した差の平均値ΔP
t2を求める。このとき、特徴点P
1´、P
2´、P
3´は第一の特徴点となり、特徴点P
1´´、P
2´´、P
3´´は第二の特徴点となる。
【0034】
このように、S11にて受け付けた動画を構成する連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値ΔP
tn(n=1,2・・・)を順に求めていく(S18において、NO)。
【0035】
そして、連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値ΔP
tn(n=1,2・・・)を求めると(S18において、YES)、求めた平均値ΔP
tnを順に接続する。すなわち、所定の点を順に接続する。このようにして、平均値ΔP
tnに基づき、軌跡を作成する(S19)。平均値ΔP
tnは、軌跡の一部であり、接続することにより軌跡全体となる。
図9は、
図3の静止画に軌跡20を重ねて表示した状態を示す図である。なお、
図9においては、軌跡20の一部を示している。ここで、制御部11は、軌跡作成手段として作動する。このようにして、動作解析装置10は、軌跡20を作成することにより、動作の解析を行う。
【0036】
このように、動作解析装置10は、解析対象箇所として第一の静止画像上の任意の箇所の指定を受け付けると、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、任意の箇所を指定するのみで、軌跡を作成して、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【0037】
また、S13において、例えば画面が小さい場合には、ユーザとっては
図3のグリップを指定したにもかかわらず、グリップとは異なるシャフト等を指定されたと操作部13が受け付けてしまう場合がある。すなわち、操作部13が受け付けた指定点P
0とユーザの意図した解析対象箇所とが異なる場合がある。しかしながら、S14において、指定点P
0を中心としてP
0の周囲の複数の特徴点を検索するため、この検索した複数の特徴点に基づいて軌跡の作成を行うことができる。したがって、指定点P
0とユーザの意図した解析対象箇所とが異なる場合であっても、作成する軌跡の精度を向上させることができる。
【0038】
なお、S15における第二の特徴点の検索の際に、例えば動画の動作が激しい場合には、第二の特徴点の検索が困難となる場合がある。例えば、
図3〜
図5に示す静止画像は、スイングの開始直後を示すものであるため、動作が遅く、静止画像間の変化が小さい。しかしながら、
図10〜
図12に示す静止画像は、ダウンスイングからインパクト直前を順に示すものであるため、動作が速く、静止画像間の変化が大きい。このように動画の動作が速く、特徴点の検索が困難な場合には、動画の動作の速さを予め取得しておくことにより、対応することができる。
【0039】
具体的には、静止画像を所定の大きさの領域に分割し、隣り合う静止画像間で、対応する領域毎に差分を抽出する。そして、その差分の大小を取得して、差分が大きければ動作が速いと判断し、差分が小さければ動作が遅いと判断する。このようにして、動画の動作の速さを取得する。そして、S15における第二の特徴点の検索の際に、動作の速さを取得して、動作が速い場合には、検索する範囲を大きくする。ここで、制御部11は、取得手段として作動する。
【0040】
また、例えば、静止画像を所定の大きさの小領域に分割し、小領域毎に、横軸が輝度勾配、縦軸が出現頻度を示す輝度勾配のヒストグラムを計算する。なお、この輝度勾配は、上記したS14におけるSIFT特徴量計算時のものと同じである。そして、隣り合う静止画像間で、計算したヒストグラムを対応する領域毎に比較することにより、ヒストグラムの差の大小を取得して、差が大きければ動作が速いと判断し、差が小さければ動作が遅いと判断してもよい。
【0041】
また、例えば、静止画像全体に2次元DCT(Discrete Cosine Transform:離散コサイン変換)処理を行うことにより、静止画像全体を周波数領域に変換する。そして、変換した周波数領域のうち、高周波領域の情報を除き、低周波領域のヒストグラムを計算する。そして、隣り合う静止画像間で、計算したヒストグラムを比較することにより、ヒストグラムの差の大小を取得して、差が大きければ動作が速いと判断し、差が小さければ動作が遅いと判断してもよい。
【0042】
また、上記の実施の形態においては、特徴点の検索の際に、いずれの静止画像においても特徴点の検索ができた場合について説明したが、例えば
図3の静止画の特徴点P
1、P
2、P
3は検索できたものの、
図3の静止画に隣り合う
図4の静止画の特徴点P
1´、P
2´、P
3´は検索できない場合がある。このような場合には、補間処理を行うことにより、対応することができる。
【0043】
具体的には、特徴点の検索を、動画の先頭に位置する静止画から動画の最後に位置する静止画まで順に行うと共に、動画の最後に位置する静止画から動画の先頭に位置する静止画まで逆順にも行う。すなわち、先頭に位置する静止画において、第一の特徴点を検索すると、先頭に位置する静止画と時系列的に後に隣り合う静止画において、第二の特徴点を検索する。さらに、最後に位置する静止画において、第一の特徴点を検索すると、最後に位置する静止画と時系列的に前に隣り合う静止画において、第二の特徴点を検索する。
【0044】
そして、特徴点の差を算出して、算出した差の平均値が、順にΔP
t1、ΔP
t2と求まり、逆順にΔP
t5、ΔP
t4と求まり、ΔP
t3については特徴点が検索できず平均値を算出できなかった場合、ΔP
t3の前後の平均値、すなわち、ΔP
t2、ΔP
t4に基づいて、ΔP
t3を算出する。すなわち、ΔP
t2とΔP
t4の平均をΔP
t3と算出する。このようにして、補間処理を行うことにより、軌跡を作成してもよい。なお、この場合、最後に位置する静止画における第一の特徴点の検索は、最後に位置する静止画において、先頭に位置する静止画と同じ箇所をユーザから指定されることにより、行ってもよい。
【0045】
また、上記の実施の形態においては、特徴点の検索の際に、いずれの静止画像においても特徴点の検索ができた場合について説明したが、例えば、特徴点P
1に対応する特徴点P
1´と、特徴点P
2に対応する特徴点P
2´とを検索でき、特徴点P
3に対応する特徴点P
3´においては検索できなかった場合、特徴点P
3は破棄し、特徴点P
1、P
2、P
1´、P
2´のみに基づいて、平均値を算出してもよい。
【0046】
また、軌跡を作成する際に、平均値に対して、移動平均フィルタ等のローパスフィルタ処理を行ってもよい。こうすることにより、作成する軌跡を滑らかにすることができる。
【0047】
また、上記の実施の形態においては、特徴点の差の平均値に基づいて、軌跡を作成する例について説明したが、これに限ることなく、特徴点の平均値に基づいて、軌跡を作成してもよい。すなわち、複数の第一の特徴点を検索し、その平均値を求める。また、複数の第二の特徴点を検索し、その平均値を求める。そして、求めた平均値を順に接続して、軌跡を作成してもよい。
【0048】
また、上記の実施の形態においては、軌跡20と静止画とを重ね合わせて表示する例について説明したが、これに限ることなく、軌跡20と動画とを重ね合わせて表示してもよい。こうすることにより、ユーザにとって、動画の動作の解析結果がわかりやすくなる。ここで、操作部13は、表示手段として作動する。
【0049】
また、例えば、予めモデルとなるゴルフのスイングの動画を準備しておくことにより、モデルの動画の軌跡と、自身の動画の軌跡とを並べて表示してもよい。こうすることにより、モデルのフォームと自身のフォームとを容易に比較することができ、ユーザにとってより良いフォームへと改善しやすくなる。なお、この場合、人物の大きさが異なる場合には、双方の大きさを揃えるように、画像の拡大縮小等を行ってもよい。また、スイングに要する時間が異なる場合には、長い方の動画を間引きして双方の時間の長さを揃えてもよい。
【0050】
また、上記の実施の形態においては、S13において、ユーザからP
0の1点を指定される例について説明したが、これに限ることなく、2点以上指定された場合でも同様に、指定点の各々において、S14からの処理を行い、各々の軌跡を作成することができる。
【0051】
また、上記の実施の形態においては、S13において、ユーザからP
0を指定されて、指定点であるP
0を中心とし、予め定められた所定の半径rの範囲内において、特徴点の検索を行い、指定点P
0とは異なるP
1、P
2、P
3の特徴点が検索される例について説明したが、これに限ることなく、指定点P
0を特徴点として検索されてもよい。
【0052】
また、上記の実施の形態においては、第二の静止画は、第一の静止画と時系列的に隣り合う静止画である例について説明したが、これに限ることなく、第一の静止画と異なる静止画であればよい。
【0053】
また、上記の実施の形態においては、第一の特徴点として、P
1、P
2、P
3の3つを検索する例について説明したが、これに限ることなく、いくつでもよい。
【0054】
また、上記の実施の形態においては、操作部13は、タッチパネル式である例について説明したが、これに限ることなく、例えば、操作部13は、表示画面と、マウスとを備える構成とし、ユーザによってマウスを操作されることにより、解析対象箇所を指定されてもよい。
【0055】
また、上記の実施の形態においては、特徴量として、SIFT特徴量を用いる例について説明したが、これに限ることなく、や、HOG(Histogram of Oriented Gradients)特徴量や、Harris特徴量等の他の特徴量を用いてもよい。
【0056】
次に、
図1および
図13〜
図21を参照して、この発明の他の実施形態に係る動作解析装置30について説明する。なお、上記実施形態と同様の構成要素については同じ符号を付し、詳しい説明を省略する。また、以下の説明においては、前述した実施形態と同様に、本発明をゴルフスイングの動作解析に適用した場合について説明する。
【0057】
動作解析装置30は、
図1に示す実施形態と同様に、動作解析装置30全体を制御するCPU等の制御部11と、画像等を記憶する記憶部12と、タッチパネル式であってユーザからの操作を受け付けると共に記憶部12に記憶した画像等を表示する操作部13と、外部機器との接続インターフェースとなるI/F部14とを備える。
【0058】
ここで、この実施形態に係る動作解析装置30においては、記憶部12に、動作解析の観測対象に対応する画像が、複数記憶されている。具体的には、記憶部12に、アドレスの姿勢をとるゴルフプレーヤーの画像を、幅広い年齢、身長、体型、および性別等に亘ってランダムに多数記憶する。これらの画像は、観測対象の初期形態を推定するためのレファレンス画像として利用される。なお、この処理に関しては、後に詳述する。
【0059】
次に、この実施形態に係る動作解析装置30の制御部11が行う動作解析フローについて説明する。まず、動作解析装置30は、I/F部14を介して、予め撮影されたゴルフスイングの動画の入力を受け付ける(S21)。上記したように、動画データは、時系列的に連続する複数の静止画の集合体として構成されている。動作解析装置30は、時系列の先頭に位置する
図14に示す静止画31を、操作部13に表示する(S22)。
【0060】
次いで、動作解析装置30は、静止画31をスキャンし、所定のサイズを有する領域を解析の対象領域32として順に画定する(S23)。なお、
図14においては、観測対象となるプレーヤー33が、対象領域32内に適切なサイズで含まれている場合を示している。しかしながら、実際の解析フローとしては、静止画31を全体に亘ってスキャンし、対象領域32の位置と大きさを変化させつつ、次々と候補となる対象領域を画定していく。そして、後述する処理において、それぞれの対象領域毎にプレーヤー33が含まれているか否かが判定される。
【0061】
以下、理解の容易の観点から、
図14に示すように、S23により画定された対象領域32内に、観測対象となるプレーヤー33が適切なサイズにて含まれていた場合について説明する。
【0062】
プレーヤー33を含む対象領域32が画定された後、その後の解析処理をより迅速且つ容易に進行可能とするために、対象領域32の大きさを所定の画像サイズとなるように調整する(S24)。具体的には、対象領域32の画像サイズを、例えば64×128ドットに拡大/縮小する。その結果、
図14に示す対象領域32が、
図15に示すような所定の画像サイズを有する対象領域32Aとして切り出されることとなる。同様に、対象領域32に含まれていたプレーヤー33も、それに対応して拡大/縮小され、プレーヤー33Aとなる。
【0063】
次いで、対象領域32の画像データにおける輝度勾配に基づいて、プレーヤー33Aの輪郭34を検出する(S25)。なお、輪郭を検出する手法としては、例えば上記したSIFT特徴量やHOG特徴量のような輝度勾配に基づく特徴量を適用してもよいし、Harris特徴量等のような輝度勾配以外のパラメータに基づく特徴量を適用してもよい。これらの手法を用いることにより、
図16に示すように、プレーヤー33Aに対応する輪郭34を効果的に抽出することができる。なお、
図16においては、理解の容易の観点から、プレーヤー33Aの実際の輪郭33Bと、HOG特徴量に基づいて抽出された輪郭34とを併記しているが、実際の処理においては、HOG特徴量に基づく輪郭34を検出すればよい。
【0064】
このように、S23〜S25のステップを経ることによって、
図14に示す静止画31から、
図16に示す観測対象の輪郭34を抽出することができる。すなわち、本発明においては、S23〜S25のステップを実行する制御部11が、観測対象となるプレーヤー33を静止画31中において認識するための人物認識手段(
図13中のA)として機能する。
【0065】
次いで、動作解析装置30は、人物認識手段(A)によって検出されたプレーヤー33Aの輪郭34と、記憶部12に記憶されたレファレンス画像とを比較し、輪郭34と近似するレファレンス画像を選択する(S26)。この動作について、以下に具体的に説明する。
【0066】
この実施形態においては、上記したように、記憶部12が、アドレスの姿勢をとるゴルフプレーヤーの画像データを、幅広い年齢、身長、体型、および性別等に亘って、ランダムに多数記憶している。
図17に、比較対象となるレファレンス画像を例示する。このレファレンス画像においても、
図15および
図16に示す対象領域32Aと同じ画像サイズの対象領域32Aが画定されており、この対象領域32A内にレファレンスプレーヤー35が適切なサイズにて収容されるように記憶されている。すなわち、S26にて比較される観測対象プレーヤー33Aとレファレンスプレーヤー35とは、共通サイズの対象領域32A内において、人物の位置や大きさがほぼ共通となるように調整され、記憶される。この構成により、観測対象プレーヤー33Aと、レファレンスプレーヤー35との比較を、静止画31におけるプレーヤー33の位置や大きさ等によって影響を受けることなく、より高精度に実行することが可能となる。
【0067】
記憶部12においては、レファレンス画像は、
図17に示すような静止画像の他に、上記HOG特徴量により導出される輪郭画像や、頭部、腕部、または脚部等といった身体の一部領域を画定した身体部位領域画像として記憶されていてもよい。
図18(a)〜(c)に、
図17に対応する各形式の画像データを例示する。
図18(a)は、
図17に対応する静止画であって、画像上において頭部、腕部、および脚部に対応する第一身体部位領域36が画定されている様子を表す図である。すなわち、第一頭部領域36a、第一腕部領域36b、および第一脚部領域36cが、それぞれ画像上に画定されている。
図18(b)は、レファレンスプレーヤー35の輪郭55を示す図である。
図18(c)は、
図18(a)に示す第一身体部位領域36のみを抽出した様子を表す図である。
【0068】
この実施形態においては、人物認識手段(A)によって検出されたプレーヤー33Aの輪郭34と、
図18(b)に示すレファレンスプレーヤー35の輪郭55とを比較することによって、記憶部12に記憶された多数のレファレンス画像から、観測対象に形態が近似するものを選択する。そして、選択されたレファレンス画像に対応する第一身体部位領域36を抽出し、観測対象の画像データに適用する。その結果を、
図19に示す。
【0069】
図19に示すように、上記した方法により適用された第一身体部位領域36は、観測対象のプレーヤー33Aの身体の各部位とほぼ一致することとなる。これにより、プレーヤー33Aの頭部、腕部、および脚部等の配置、すなわち、アドレス状態におけるプレーヤー33Aの姿勢を、概略的に推定することができる。
【0070】
このように、本発明によれば、入力された静止画31のデータと、記憶部12に記憶されたレファレンス画像データとに基づいて、静止画31におけるプレーヤー33Aの初期形態(姿勢や体型等の要素を含む)を、概略的に推定することが可能となる。すなわち、S26を実行する制御部11は、プレーヤー33Aの初期形態を推定するための初期形態推定手段(B)として機能する。
【0071】
なお、S26を実行した結果、観測対象のプレーヤー33Aに近似するレファレンス画像が発見されなかった場合、動作解析装置30は、S23にて確定した対象領域32内に人物が適切に含まれなかったものと判断し、S23にリターンする。そして、対象領域32内に人物が適切に含まれている状態を検出するまでS23〜S26を繰り返し行う。
【0072】
S26の結果、
図19に示すようにプレーヤー33Aの姿勢を推定することができた場合、次のステップとして、動作解析の対象となる解析対象箇所を、
図19に示す画像データに基づいて指定する(S27)。ここで、本実施形態においては、解析対象箇所を、第一身体部位領域36によって決定する。その一例としては、
図19に示す第一頭部領域36a、第一腕部領域36bの下端部、および/または、第一脚部領域36cの中央部等を、解析対象箇所として自動的に指定する。これは、プレーヤー33Aの頭部、グリップ(手首近辺)、および/または膝を、解析対象箇所として自動的に指定したことと同義である。なぜならば、上記したように、第一身体部位領域36は、観測対象のプレーヤー33Aの身体の各部位とほぼ一致するように画定されているからである。
図19に、例として第一腕部領域36bの下端部、すなわちプレーヤー33Aのグリップ付近を解析対象箇所として指定した場合を示す(
図19中の点39)。
【0073】
このように、本実施形態においては、上記S23〜S27を実行する制御部11が、解析対象箇所を指定するための解析対象箇所指定手段(C)として機能する。そして、この構成により、ユーザが動作解析を開始するに際して、動作解析装置30が観測対象となるプレーヤー33Aの初期形態を推定し、そのデータに基づいて解析の初期条件を自動的に決定することが可能となる。これにより、ユーザが解析対象箇所を指定する作業を省略することができるため、ユーザの利便性をさらに向上させることができる。
【0074】
S27によって解析対象箇所が指定された後、動作解析装置30は、指定された第一身体部位領域36内において第一の特徴点の検索を行う(S28)。ここでは、上記したSIFT特徴量やHOG特徴量等を用いて、第一身体部位領域36内において複数の第一の特徴点が検索される。
【0075】
次いで、動作解析装置30は、第一の特徴点を検索した
図19の静止画より時系列的に後に隣り合う静止画、すなわち、
図20に示す静止画において、第一の特徴点に対応する第二の特徴点の検索を行う(S29)。そして、検索された第二の特徴点に基づいて、第一身体部位領域36に対応する第二身体部位領域37を画定する(S30)。
【0076】
次いで、第一身体部位領域36と第二身体部位領域37の差に基づいて軌跡を作成する(S31)。具体的には、
図20に示す第二腕部領域37bが新たに画定された後、第二腕部領域37bの下端部に相当する位置が、解析対象箇所として認識される(
図20中の点40)。そして、点39と点40との差に基づいて、軌跡42が作成される。同様に、例えばS27にて第一頭部領域36aを解析対象箇所として指定した場合は、第一頭部領域36aと第二頭部領域37aとの差に基づいて、プレーヤー33Aの頭部の軌跡を作成することができる。また、第一脚部領域36cと第二脚部領域37cとの差に基づいて、プレーヤー33Aの膝の軌跡を作成することができる。
【0077】
続けて、
図20に示す静止画と時系列的に後に隣り合う静止画、すなわち
図21に示す静止画において、第二の特徴点に対応する第三の特徴点の検索を行い、検索された第三の特徴点に基づいて、第二身体部位領域37に対応する第三身体部位領域38を画定する。そして、第二身体部位領域37と第三身体部位領域38の差に基づいて、解析対象箇所を認識し(
図21中の点41)、軌跡43を作成する。
【0078】
このように、連続する静止画毎に解析対象箇所の軌跡を順次作成することによって、一連のゴルフスイング動作において、プレーヤーの所定部位(例えば、頭部、腕部、および/または脚部)の運動を解析することが可能となる。
【0079】
なお、本実施形態においては、プレーヤー33Aの輪郭34を検出することによって人物認識を行う場合について述べたが、これに限らず、観測対象の形態を抽出可能であれば、他の如何なる手法を用いてもよい。
【0080】
また、本実施形態においては、プレーヤー33Aの輪郭34とレファレンスプレーヤー35の輪郭55とを比較することによって、観測対象に形態が近似するものを選択する場合について述べたが、これに限らず、例えば
図18(a)に示す静止画データの比較によって選択する構成であってもよいし、
図18(c)に示す身体部位領域36に係るデータとの比較によって選択してもよい。また、観測対象とレファレンスとの比較が可能であれば、
図18に示す以外の如何なる形式のデータを比較に用いてもよい。
【0081】
また、本実施形態においては、身体部位領域36に基づいて動作解析の初期条件である解析対象箇所39を指定する場合について述べた。しかしながら、これに限らず、例えば
図18(a)に示す静止画データや、
図18(b)に示す輪郭55に係るデータに基づいて指定してもよいし、その他如何なるデータに基づいて解析対象箇所39を指定してもよい。
【0082】
なお、上記実施形態のように、本発明をゴルフスイングの動作解析に適用する場合においては、動作解析装置10、30は、スイングのテイクバックからダウンスイングへとスイングの方向が転換されたことを検出し、それをユーザに識別可能とする方向転換識別手段をさらに備えていてもよい。これについて、
図22を参照して説明する。
図22(a)〜(f)は、一連のゴルフスイングを記録した動画を示しており、この動画は、連続する計6フレームの静止画によって構成されている。
【0083】
図22(a)〜(f)に示すように、ゴルフスイングは、ゴルフクラブを上方へ振り上げるテイクバック(
図22(a)〜(c))から、ゴルフクラブを下方へ振り下げるダウンスイング(
図22(d)〜(f))へと移行する。すなわち、
図22においては、
図22(c)と
図22(d)との間にスイングの方向転換が発生している。
【0084】
方向転換識別手段は、この方向転換点を検出し、方向転換前の軌跡と方向転換後の軌跡とをユーザに識別可能とさせるものである。これにより、動作の転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を行うことができる。具体的なアルゴリズムについて以下に説明する。
【0085】
前提として、
図22(f)を現時点とする。方向転換識別手段は、まず、現時点から時系列的に5フレーム前の
図22(a)におけるグリップの速度べクトルv
1を計算する。このv
1は、
図22(a)と時系列的に前に隣り合うフレーム、すなわち、現時点から6フレーム前(図示せず)のグリップの位置と、5フレーム前のグリップの位置とから求めることができる。同様にして、現時点から4フレーム前の
図22(b)におけるグリップの速度べクトルv
2、3フレーム前の
図22(c)におけるグリップの速度べクトルv
3、現時点から2フレーム前の
図22(d)におけるグリップの速度べクトルv
4、現時点から1フレーム前の
図22(e)におけるグリップの速度べクトルv
5、現時点のフレームにおけるグリップの速度べクトルv
6を、それぞれ計算する。
【0086】
ここで、現時点から5フレーム前〜3フレーム前の間におけるグリップの平均速度ベクトルf
1は、以下のように表される。
【0088】
同様に、現時点から2フレーム前〜現時点のフレームの間におけるグリップの平均速度ベクトルf
2は、以下のように表される。
【0090】
本実施形態に係る方向転換識別手段は、グリップの方向転換点を検出するために、f
1とf
2との内積=f
1・f
2を計算する。そうすると、5フレーム前〜3フレーム前におけるグリップの速度ベクトルと、2フレーム前〜現時点におけるグリップの速度ベクトルとは、その方向が反転していることから、内積は、負の値をとることとなる。換言すれば、内積が負となる時点を検出することができれば、スイングのテイクバックからダウンスイングへと方向が転換される方向転換点を検出することができる。
【0091】
このようにして方向転換点を検出した後、上記したS31において、方向転換点の前の軌跡線と異なる種類の軌跡線を形成することによって、ユーザは、テイクバックの軌跡と、ダウンスイングの軌跡とを明瞭に区別して認識することが可能となる。識別可能とする手段としては、例えば軌跡線の色の変更(黄色から赤色等)や、線種の変更(実線から点線等)、軌跡線を点滅表示する等が考えられる。
【0092】
なお、この実施形態においては、理解の容易の観点から、平均速度ベクトルf
1,f
2を、連続する3フレームの速度ベクトルの平均をとることによって算出したが、これに限らず、任意の数のフレームの速度ベクトルの平均に基づいて、平均速度ベクトルf
1,f
2を算出してもよい。
【0093】
図23に、方向転換識別手段によってテイクバックとダウンスイングとを識別可能としたゴルフスイングの軌跡の一例を示す。このように、本発明に係る方向転換識別手段によれば、ユーザは、スイングの転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を行うことが可能となる。
【0094】
なお、上記した各実施形態においては、1つのパターンのゴルフスイングを表示手段(操作部13)に表示し、その動作解析を行った場合について述べた。しかしながら、これに限らず、動作解析装置10,30は、二以上の異なる動作を並べて表示し、これらの異なる動作を比較可能とするための動作比較手段をさらに備えていてもよい。以下、上記実施形態と同様に、ゴルフスイングの動作比較を実行可能な動作比較手段について、
図24〜
図26を参照して説明する。
【0095】
本実施形態に係る動作比較手段は、まず、二つのゴルフスイングを記憶した動画を並列表示し(S41)、前述した実施形態のいずれかの方法を用いて、それぞれのゴルフスイングの軌跡を形成する。
図24に、二つのゴルフスイングの軌跡を形成し、それらを並列表示した図を示す。具体的には、第一の表示領域44に、第一の軌跡45が表示され、第二の表示領域46に第二の軌跡47が表示されている。
【0096】
次いで、二つの動画の時間軸を圧縮/伸張して調整し、二つの動画の時間軸を揃える(S42)。ここで、ゴルフスイングは、上記したように、アドレスの姿勢から、テイクバック、ダウンスイング、フィニッシュという一連の動作によって構成される。そして、これら各動作に要する時間は、人によって異なり、且つ、同じ人がスイングした場合であっても、スイング毎に異なるものである。したがって、二つのスイングを並列表示して比較する場合、各動作の始めの時点と終わりの時点とを揃えることによって、各スイングの軌道をより視覚的に比較検証し易くすることができる。
【0097】
その方法としては、二つの動画において、アドレス状態からテイクバックの終わりの時点までの時間と、ダウンスイングの始めの時点とフィニッシュまでの時間をそれぞれ計算し、一方の動画のフレームを間引く、またはフレーム間の時間を伸長させることによって、二つの動画間において各動作に要する時間を揃える処理を行うことが考えられる。なお、テイクバックの終わりからダウンスイングの始めへの転換点は、前述した実施形態に係る方法によって検出可能である。
【0098】
より具体的に説明すると、例えば第一の表示領域44に表示したゴルフスイングにおいては、アドレスからテイクバックの終わりまで1.4秒、ダウンスイングの始めからフィニッシュまで1.1秒を要したとする。また、第二の表示領域46に表示したゴルフスイングにおいては、アドレスからテイクバックの終わりまで1.8秒、ダウンスイングの始めからフィニッシュまで1.5秒を要したとする。この場合、第二の表示領域46に表示する動画において、アドレスからテイクバックの終わりまでの間の静止画フレームを、1.4/1.8の割合で間引きし、且つ、ダウンスイングの始めからフィニッシュまでの間の静止画フレームを、1.1/1.5の割合で間引きをする。この処理によって、二つのゴルフスイングのアドレスからフィニッシュまでの時間軸を揃えることができる。この処理により、二つのスイングを並列して動画再生した場合等において、二つのスイングの軌道をより視覚的に比較検証し易くすることができる。
【0099】
次いで、二つの動画の画像サイズを拡大/縮小し、各表示領域44,46におけるプレーヤーの位置や大きさを揃える処理を行う(S43)。これにより、ユーザは、二つのスイングをより比較検証し易くなる。
【0100】
次いで、第一の軌跡45の重心点48と、第二の軌跡47の重心点49とをそれぞれ計算する(S44)。各軌跡の重心点48,49は、軌跡を構成する各ポイントの平均値を求めることによって計算することができる。なお、重心点48,49を計算した後、その座標を
図24に示すように表示してもよいし、表示をせずに記憶するのみであってもよい。
【0101】
次いで、各フレームにおける第一の軌跡45および第二の軌跡47のポイントと、それぞれの軌跡の重心点48,49との間の差分値を計算し、フレーム番号と当該差分値とを記録する(S45)。ここで参考データとして、
図26にフレーム番号Nと差分値xに係るグラフを示す。なお、
図26においては、第一の軌跡45と重心点48との差分値グラフを線50に、第二の軌跡47と重心点49との差分値グラフを線51にそれぞれ示す。
【0102】
次いで、S45によって得られたデータに基づいて、第一の軌跡45と第二の軌跡47との間の差を計算し、その差が大きくなっている軌跡部分を識別可能に表示する(S46)。具体的には、それぞれのフレーム番号Nにおいて線50と線51との差を計算すると、
図26に示すように、その差が比較的に大きくなる軌跡部分52,53,54が検出される。換言すれば、第一の軌跡45と第二の軌跡47とは、軌跡部分52,53,54において、スイングの軌道が相対的に大きく異なっていることを意味している。そこで、第一の軌跡45または第二の軌跡47のうち、この軌跡部分52,53,54に相当する軌跡線に対して、例えば線色の変更や線種の変更、または点滅表示等をすることによって、ユーザがその部分を識別可能とすることができる。この構成によれば、例えばユーザがゴルフスイングを日々記録した場合に、そのスイングの軌道が変化した部分を詳細に把握・検証することが可能となる。これにより、さらに付加価値の高い動作解析装置を提供することができる。
【0103】
なお、本実施形態においては、二つのゴルフスイングを比較した場合について述べたが、これに限らず、三以上の動作を比較する構成であってもよい。
【0104】
また、本発明に係る動作解析装置の動作アルゴリズムが、ソフトウェアまたはハードウェアのいずれによっても実現可能であることは、当業者であれば容易に理解されるであろう。
【0105】
また、上記した各実施形態においては、ゴルフスイングを動作解析の対象とした場合について説明した。しかしながら本発明は、これに限定されるものではない。すなわち、本発明の概念は、動作解析の開始点における画像データと、予め記憶したレファレンスデータとを比較し、開始点における観測対象の形態を推定することによって、解析対象箇所の初期条件(サイズ、座標等)を決定し、以て動作解析を容易且つ迅速に実行可能とすることにある。したがって、ゴルフスイングに限らず、例えば野球のスイングや、舞踊、演技、武道等、プレーヤーの体の動きを把握・検証することに対してニーズのある、あらゆる分野のスポーツ・演技に適用可能であることは、当業者であれば容易に理解されるであろう。
【0106】
以上、図面を参照してこの発明の実施形態を説明したが、この発明は、図示した実施形態のものに限定されない。図示された実施形態に対して、この発明と同一の範囲内において、あるいは均等の範囲内において、種々の修正や変形を加えることが可能である。