【新規性喪失の例外の表示】特許法第30条第2項適用 展示日 2017年6月1日〜2日 展示会名 NTTコミュニケーション科学基礎研究所 オープンハウス2017 研究展示27 開催場所 NTT京阪奈ビル
【新規性喪失の例外の表示】特許法第30条第2項適用 開催日 2017年6月1日〜2日 集会名 NTTコミュニケーション科学基礎研究所 オープンハウス2017 研究講演 開催場所 NTT京阪奈ビル
【新規性喪失の例外の表示】特許法第30条第2項適用 開催日 2017年8月24日〜26日(公知日:2017年8月26日) 集会名 第11回 Motor Control 研究会 開催場所 中京大学名古屋キャンパス1号館
【文献】
「バーチャルを楽しむ」ためのエンタメメディア MoguLive,2016年12月16日,[令和2年4月28日検索],インターネット<URL:https://www.moguravr.com/vr-park-tokyo-guide/>
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下、本発明の実施形態について、説明する。なお、以下の説明に用いる図面では、同じ機能を持つ構成部や同じ処理を行うステップには同一の符号を記し、重複説明を省略する。以下の説明において、テキスト中で使用する記号「^」等は、本来直前の文字の真上に記載されるべきものであるが、テキスト記法の制限により、当該文字の直後に記載する。式中においてはこれらの記号は本来の位置に記述している。また、ベクトルや行列の各要素単位で行われる処理は、特に断りが無い限り、そのベクトルやその行列の全ての要素に対して適用されるものとする。
【0013】
<第一実施形態>
図1は第一実施形態に係る訓練システムの構成図を示す。訓練システムは、解析用データ収集装置100と解析装置200と訓練装置300とを含む。
【0014】
解析用データ収集装置100、解析装置200及び訓練装置300のそれぞれは、例えば、中央演算処理装置(CPU: Central Processing Unit)、主記憶装置(RAM: Random Access Memory)などを有する公知又は専用のコンピュータに特別なプログラムが読み込まれて構成された特別な装置である。解析用データ収集装置100、解析装置200及び訓練装置300のそれぞれは、例えば、中央演算処理装置の制御のもとで各処理を実行する。解析用データ収集装置100、解析装置200及び訓練装置300のそれぞれに入力されたデータや各処理で得られたデータは、例えば、主記憶装置に格納され、主記憶装置に格納されたデータは必要に応じて中央演算処理装置へ読み出されて他の処理に利用される。解析用データ収集装置100、解析装置200及び訓練装置300のそれぞれの各処理部は、少なくとも一部が集積回路等のハードウェアによって構成されていてもよい。解析用データ収集装置100、解析装置200及び訓練装置300のそれぞれが備える各記憶部は、例えば、RAM(Random Access Memory)などの主記憶装置、ハードディスクや光ディスクもしくはフラッシュメモリ(Flash Memory)のような半導体メモリ素子により構成される補助記憶装置、またはリレーショナルデータベースやキーバリューストアなどのミドルウェアにより構成することができる。
【0015】
さらに、訓練システムは、解析用データを収集する際に解析対象者93に映像を表示する映像表示部91、センサ92、訓練する際に訓練対象者83に映像を表示する映像表示部81を含んでもよい。映像表示部81,91は、例えば、ヘッドマウントディスプレイであり、解析対象者93、訓練対象者83に取り付けられる。ヘッドマウントディスプレイは、訓練対象者83、解析対象者93が頭部に装着して映像や音声を視聴するためのデバイスである。ヘッドマウントディスプレイは、例えば、訓練対象者83、解析対象者93が装着したときの視界に対応する範囲にディスプレイが設けられ、両耳に対応する位置にヘッドホンが設けられる。ヘッドマウントディスプレイには、加速度センサや変位センサなどの各種センサが搭載されており、訓練対象者83、解析対象者93が装着したときの頭部の位置および姿勢を認識することが可能である。これにより、ヘッドマウントディスプレイは、訓練対象者83、解析対象者93の視点に合わせた映像を提示することが可能となっている。ただし、映像表示部81,91は、ヘッドマウントディスプレイ以外の表示装置であってもよい。例えば、3Dディスプレイや多面の箱型プロジェクションスクリーン(例えば、CAVE: Cave Automatic Virtual Environment)等であってもよい。この場合、ヘッドマウントディスプレイに搭載されていた加速度センサや変位センサなどの各種センサは必要に応じて別途、訓練対象者83、解析対象者93に取り付ければよい。
【0016】
〔解析用データ収集装置100〕
本実施形態の解析用データ収集装置100は、バーチャルリアリティを用いたスポーツシステムを用い、実環境に基づく映像ならびに実環境では再現しえない環境の映像をバーチャルリアリティ映像として解析対象者に提示し、そのバーチャル映像を見ながら運動する解析対象者から、運動情報と当該運動の評価を示す運動評価情報を取得し、提示したバーチャル映像を特定する情報である映像特定情報と対象者の運動情報と運動評価情報反応とを対応付けた解析用データを生成するものである。
【0017】
図2は解析用データ収集装置100の機能ブロック図を、
図3はその処理フローの例を示す。
【0018】
解析用データ収集装置100は、記憶部101、映像条件設定部102、映像合成部103、評価情報取得部106及び解析用データ生成部107を含む。
【0019】
<記憶部101>
記憶部101には、映像合成部103で映像を合成する際のベースとなる各物体の動き情報(バーチャル映像中の各物体)および周辺環境の映像が予め格納されている。各物体の動き情報は、物体の「動きの種類」毎に当該「動きの種類」に対応付けて格納されているものとする。
【0020】
例えば、野球のバッターについて解析用データを取得しようとする場合、バーチャル映像として投手が投球し、ボールが解析対象者(バッター)のほうに向かって飛んでくる映像が映像表示部91に表示されることになる。この場合、記憶部101に記憶される各物体の動き情報は、
(1)投手の動き情報
投手の動き(投球スタイルや球種)毎の投手の投球フォームの映像(例えば、ストレートを投げるオーバーハンドスロー投手の映像、カーブを投げるサイドスロー投手の映像、スライダーを投げるアンダースロー投手の映像、等)
(2)ボールの動き情報
ボールの動き(ボールの軌道)毎のボールの位置情報の系列、つまり、各フレームにおいてボールがどの位置に表示されるかを示す位置情報の系列(例えば、ストレートで飛んでくるボールの位置情報の系列、カーブで飛んでくるボールの位置情報の系列、スライダーで飛んでくるボールの位置情報の系列、等)。
である。なお、位置情報の系列は、ボールが投手の手を離れる時刻を基準として次の時刻(フレーム)でボールがどの位置に表示されるかを示す位置情報を先頭として、以降の時刻のボールの位置情報が時系列に並んだ系列とする。
【0021】
また、(2)の代わりに、ボールの動き(ボールの軌道)毎のボールの映像(ストレートのボールが対象者のほうに向かって飛んでくる映像、カーブのボールが対象者のほうに向かって飛んでくる映像、スライダーのボールが対象者のほうに向かって飛んでくる映像、等)をボールの動き情報として格納してもよい。要は、動き情報は、後述する映像合成部103において、バーチャル映像を生成する際に、物体の動きを示す情報であればよい。
【0022】
<映像条件設定部102>
映像条件設定部102は、映像合成部103で合成するバーチャル映像の条件を設定する(S102)。上述の通り、本実施形態の解析用データ収集装置100は、「実環境では再現しえない環境の映像」を映像表示部91に表示するが、この「実環境では再現しえない環境」として具体的にどのようなものを扱うかを映像の条件(以下、「映像特定情報」ともいう)として設定するものである。換言すると、映像特定情報とは、提示したバーチャル映像がどのような設定で生成されたものであるかを特定するための情報、つまり、提示したバーチャル映像を特定する情報である。映像の条件毎に固有のIDを振っていれば、そのIDでもよいし、映像の条件そのもの(例えば、後述の野球の例では投球フォームとボール動きの組である(ストレート,カーブ)等)でもよい。
【0023】
「実環境では再現しえない環境」とは、バーチャル映像内に表示される相手が物理法則に逆らう動きをする映像や、相手の身体動作と相手の身体動作に伴って繰り出されるボール等の物体の動きとが物理法則に照らして整合しない映像である。野球の場合を例に説明すると、以下のような映像である。
(1)投手がストレートのボールを投げるときの投球フォームの映像と、カーブの軌道に沿って対象者に向かってくるボールの映像とを合成した映像(つまり投球フォームと投じられるボール軌道が整合しない映像)。
(2)投手が投げたボールの軌道が途中まではストレートの軌道に沿っているが、その後突然カーブの軌道に沿った動きに切り替わるような映像(つまり、前半のボールの軌道が従う物理法則と、後半のボールの軌道が従う物理法則が異なる映像)。
(3)投手から自身のほうに向かってくるボールが、軌道上の一部区間において消えてしまう映像(つまり、実環境上では消滅するはずがないところで物体が消滅する映像)。
【0024】
つまり、映像条件設定部102は、映像表示部91でバーチャル映像として表示する映像(実環境では再現しえない環境を提示する映像)中の各物体(人物含む)の動きを特定する映像特定情報を映像の条件として設定し(S102)、映像合成部103に出力する。
【0025】
上述の野球の(1)の例では、投手とボールの動きについて、(ストレート,カーブ)といった動きを特定する情報の組を映像の条件(映像特定情報)として設定する。
【0026】
映像の条件は外部入力により与えられても良いし、各物体について予め用意された複数の動きの中からランダムに1つずつ選んで映像の条件を生成してもよい。例えば、上述の野球の例では、予め投手の動きとしてストレート、カーブ、スライダー等がリストで定められており、ボールの動きとしてストレート、カーブ、スライダー等がリストで定められており、そのなかから1つずつ動きを選択して(カーブ、スライダー)といった動きを特定する情報の組を映像の条件として設定する。
【0027】
記憶部101に記憶される動き情報及び映像特定情報は、解析対象者に提示するバーチャル映像に応じて適宜用意すればよい。例えば、(2)のボールの軌道が物理法則に逆らう動きをするような映像の場合、投手が投げたボールの軌道が途中まではストレート、カーブ、スライダー等の軌道に沿っている動き情報を用意し(予め記憶部101に記憶しておき)、途中からストレート、カーブ、スライダー等の軌道に沿っている動き情報を用意し(予め記憶部101に記憶しておき)、途中までの軌道と途中からの軌道との組合せを設定可能な映像特定情報とする。また、例えば、(3)投手から自身のほうに向かってくるボールが、軌道上の一部区間において消えてしまう映像の場合、軌道上のA地点からB地点まで、B地点からC地点まで、…においてボールが消える動き情報を用意し(予め記憶部101に記憶しておき)、消える区間を特定する情報を設定可能な映像特定情報とする。
【0028】
なお、各物体についての動きに加えて、運動環境(雨が降っている/晴れている、暗い/明るい)を特定する情報も映像の条件(映像特定情報)として加えても良い。
【0029】
なお、実環境では再現しえない環境の映像だけでなく、実環境に基づく映像をバーチャルリアリティ映像として解析対象者に提示するために、物理法則に逆らわない動きをする映像や、相手の身体動作と相手の身体動作に伴って繰り出されるボール等の物体の動きとが物理法則に照らして整合する映像を特定する情報も映像特定情報として加えても良い。例えば、上述の野球の(1)の例では投手とボールの動きについて(ストレート,ストレート)といった動きを特定する情報の組を映像特定情報として設定してもよいし、(2)の例では投手が投げたボールの軌道の途中までの軌道と途中からの軌道について(ストレート,ストレート)といった動きを特定する情報の組を映像特定情報として設定してもよいし、(3)の例では投手から自身のほうに向かってくるボールが消えない動き情報を映像特定情報として設定してもよい。
【0030】
<映像合成部103>
映像合成部103は、映像特定情報を入力とし、映像条件設定部102で設定された映像の条件に従って、各物体(人物含む)が動く映像を合成した映像(バーチャル映像)を生成し(S103)、映像表示部91に出力する。映像の条件に運動環境の情報が含まれる場合には、その環境に応じて映像を加工して、映像表示部91に出力する。
【0031】
上述の野球の例で説明すると、映像合成部103は、映像条件設定部102から出力された映像の条件中の投手の動きに対応する投球フォームの映像と、ボールの動きに対応するボールの映像とを記憶部101から読み出し、これらを合成した映像をバーチャル映像として映像表示部91に出力する。具体的には、例えば、記憶部101から読み出した投球フォームの映像のうち、ボールが手を離れる瞬間に対応するフレームの画像(投球開始フレーム画像)のボールを投げるほうの手の位置(初期位置)にボールの映像を重畳した映像を生成する。次の時刻のフレームの画像は、投球フォームの映像のうち投球開始フレーム画像の次のフレームの画像に、記憶部101から読み出したボールの位置情報の系列中の先頭の位置情報を前フレームのボールの位置に応じて補正した位置にボールの映像を重畳した映像を生成する。同様の処理を以後のフレームについても行うことでバーチャル映像を生成する。
【0032】
上述の映像表示部91は、映像合成部103で合成したバーチャル映像を内部のディスプレイに映し、解析対象者93に提示する(S104)。
【0033】
センサ92は、映像表示部91に提示されたバーチャル映像を見ながら運動する解析対象者93の体の所定部位、または/および、解析対象者93が保持する物体(バットやラケット等であり、付属物ともいう)に取り付けられ、センサデータを取得し(S105)、出力する。この取得したセンサデータを運動情報と呼ぶこととする。センサ92としては、加速度センサや変位センサやモーションセンサなどの各種運動情報を検知するためのセンサ、あるいは、心拍・心電・呼吸・筋電・眼の動的な動き等の各種生体情報を取得するセンサ等が考えられる。これらのセンサのうち1つ以上のセンサから取得した1つ以上のセンサデータを運動情報として取得するものとする。
【0034】
<評価情報取得部106>
評価情報取得部106は、映像表示部91に提示されたバーチャル映像を見ながら運動する対象者が行った運動(言い換えると、バーチャル映像が提示された状態で解析対象者が行った運動)の評価を示す情報を運動評価情報として取得し(S106)、出力する。
【0035】
「運動評価情報」とは、例えばバッティングが上手くできたか否か(ボールを打ち返すことができたかどうか、ヒットなのか、ホームランなのか、空振りなのか等)やバッティング動作の巧みさ(どのようなタイミングでどのように身体を操作していたか等)、あるいは当該運動時の対象者の生体反応(眼の動きや心拍等)に影響するような運動状態を示す情報(例えば、ビーンボール(頭に向かってくるときの球)を投じられたことを示す情報など)である。当該運動時の対象者の注意状態(注意を向けている程度や範囲)や心理状態などを運動評価情報として付加してもよい。
【0036】
解析対象者93もしくは第三者から外部入力により運動評価情報を入力する構成としても良いし、センサ92で取得した運動情報と映像表示部91で表示した映像の情報とに基づいて評価値を計算し、運動評価情報として用いてもよい。
【0037】
野球の例では、解析対象者93が振ったバッドの運動情報と映像表示部91で表示したボールの位置の情報とに基づいてバットにボールが当たったか否かの当たり判定を行った結果を運動評価情報としてもよい。例えば、評価情報取得部106は、映像条件設定部102から映像特定情報を受け取り、映像特定情報に基づき記憶部101からボールの動き情報(ボールの位置情報の系列)を取り出す。また、評価情報取得部106は、バットに取り付けられたセンサ92からバットの位置を示す運動情報を受け取る。評価情報取得部106は、ボールの動き情報とバットの位置を示す運動情報とから、バットにボールが当たったか否かの当たり判定を行う。当たった場合には高い評価値を、当たらなかった場合には低い評価値を運動評価情報として設定してもよい。
【0038】
<解析用データ生成部107>
解析用データ生成部107は、映像条件設定部102で設定した映像の条件に対応する映像特定情報と、センサ92が出力した運動情報と、評価情報取得部106が出力した運動評価情報とを入力とし、これらの情報を対応付けた情報を解析用データとし、解析装置200に出力する。なお、解析用データ収集装置100は、図示しない記憶部に解析用データを蓄積しておき、解析用データの集合が、後述する解析装置200の記憶部201に格納される。
【0039】
〔解析装置200〕
本実施形態の解析装置200は、上述の解析用データ収集装置100を用いて異なる映像の条件や異なる対象者について取得した解析用データの集合(解析用データ集合)を用いて、運動パフォーマンス向上に寄与しうる知覚情報(映像中のどの動きに注目すべきかを示す情報、以下「注目視覚情報」ともいう)を推定する。
【0040】
なお、
図1では解析用データ収集装置100で取得した解析用データを逐次解析装置200に入力するように見えるが、これに限定されるものではない。予め様々な場所、様々な対象者、異なる日時において解析用データ収集装置100で取得した解析用データを記憶部に格納しておくものとし、記憶部に格納された解析用データの集合を解析装置200が読み出して用いることができるものとする。
【0041】
図4は解析装置200の機能ブロック図を、
図5はその処理フローの例を示す。
【0042】
解析装置200は、記憶部201、第一解析部202及び第二解析部203を含む。
【0043】
解析装置200は、解析用データ収集装置100で収集した解析用データの集合を受け取り、記憶部201に格納する。
【0044】
<記憶部201>
記憶部201には、解析用データの集合が格納されているものとする。解析用データの集合は、少なくとも
(1)複数の異なる映像特定情報に対応する映像について、同一の解析対象者から取得した複数の解析用データ
(2)同一の映像特定情報に対応する映像について、複数の異なる解析対象者から取得した複数の解析用データ
の何れかを含むものとする。
【0045】
<第一解析部202>
第一解析部202は、解析用データの集合を記憶部201から取り出し、解析用データの集合に基づき、運動評価情報と相関性が高い運動情報を推定し(S202)、推定した運動情報の種別を特定する情報を出力する。なお、推定された結果を「解析対象運動情報」と呼ぶこととする。よって、解析対象運動情報は、加速度センサ、変位センサ、モーションセンサの出力値、心拍・心電・呼吸・筋電・眼の動的な動き等の各種生体情報(生体応答)の種別を特定する情報などである。なお、解析対象運動情報は、これらの出力値や各種生体情報(生体応答)を得る際に用いられるセンサの種別を特定する情報とも言える。
【0046】
具体的には、同一の映像特定情報に対応する映像について、同一または複数の解析対象者から取得した複数の解析用データを解析した場合、運動評価が高いとき(上手くできたとき)と運動評価が低いとき(上手くできなかったとき)とで差異が大きい運動情報のカテゴリ(例えばセンサの種別を特定する情報等)を解析対象運動情報と推定する。例えば、運動評価が高いときと低いときでピーク値を取る時刻が異なる運動情報や、運動情報の時系列パターンが、評価が高いときと低いときで大きく異なるような運動情報のカテゴリ(例えばセンサの種別を特定する情報等)を解析対象運動情報とする。なお、解析対象運動情報は、同じ種類のセンサであっても運動情報を取得する部位(どこにセンサをつけたか)を含めて識別可能な情報であるものとする。
【0047】
また、(1)複数の異なる映像特定情報に対応する映像について、同一の解析対象者から取得した複数の解析用データを解析した場合、運動評価が高いときと運動評価が低いときとで差異が大きい運動情報のカテゴリ(例えばセンサの種別を特定する情報等)を解析対象運動情報と推定する。
【0048】
あるいは、(2)同一の映像特定情報に対応する映像について、複数の異なる解析対象者から取得した複数の解析用データを解析した場合、運動評価が高い対象者(運動パフォーマンスの高い対象者:プロ選手やレギュラー選手等)と運動評価が低い対象者(運動パフォーマンスが高くない対象者:初心者や補欠選手等)とで差異が大きい運動情報のカテゴリ(例えばセンサの種別を特定する情報等)を解析対象運動情報とする。
【0049】
解析対象運動情報は、1個の運動情報のカテゴリであっても良いし、複数の運動情報のカテゴリの組み合わせであっても良い。
【0050】
解析用データが複数個ある場合はこれらの平均を取った解析用データに対して上述の解析を行って解析対象運動情報を求めてもよいし、各解析用データに対して解析対象運動情報を求めた結果の多数決をとり、多いものを優先して最終的な解析対象運動情報としても良い。
【0051】
上述の処理によって、解析用データの集合から複数の映像特定情報に対応する複数の解析対象運動情報を取得する。
【0052】
<第二解析部203>
第二解析部203は、解析対象運動情報と、記憶部201に記憶された解析用データの集合に含まれる映像特定情報を用いて、バーチャル映像に含まれる、解析対象運動情報に対応する運動情報との相関性が高い映像部分領域(バーチャル映像中の動きがある部分領域)を特定する情報を「注目視覚情報」として推定し(S203)、解析対象運動情報と注目視覚情報とを関連付ける情報(注目運動種別情報ともいう)を得、出力する。例えば、注目視覚情報は、解析対象運動情報に対応する運動情報が示す挙動に変動が発生する時刻(以下、「変化時刻」という)と、当該変化時刻近傍で動きのあるバーチャル映像中の部分領域(解析対象運動情報に対応する運動情報との相関が高い映像部分領域)を示す情報とを少なくとも含む。部分領域を示す情報は、フレーム中で動きのある部分領域が特定できる情報、つまりフレーム内での部分領域の位置や大きさを特定する情報である。例えば、部分領域を示す情報は、運動評価が高いときの解析用データに含まれるバーチャル映像において、解析対象運動情報に対応する運動情報の変動が大きい時刻(変動時刻ともいう)の近傍で動きのある部分領域を特定する情報としてもよい。注目視覚情報は、変動時刻を部分領域を示す情報と対応付けたものである。また、注目視覚情報に、バーチャル映像中の部分領域を特定するのに用いた映像情報を特定する映像特定情報を含めてもよい。
【0053】
ここで、第二解析部203が用いる解析用データ集合は、第一解析部202で解析対象運動情報を得るのに用いた解析用データ集合と同じものとする。
【0054】
例えば、第二解析部203は、解析用データ集合中の各解析用データについて、第一解析部202で得た解析対象運動情報に対応する特定のセンサ92から取得した運動情報が示す挙動に変動が発生する時刻近傍に動きがあったバーチャル映像(解析用データ収集装置100の映像表示部91に表示されていた映像)中の部分領域を推定する。これにより、映像中のどの部分の動き(映像中の部分領域)と、どの動作や生体応答の動き(解析対象運動情報に対応する運動情報)とが相関性が高いのかを関係付けることができる。
【0055】
第二解析部203は、例えば、変化時刻と、こうして得た解析対象運動情報に対応する運動情報と相関性の高い(と推定された)バーチャル映像中の部分領域と、当該部分領域を含むバーチャル映像を特定するための映像特定情報とを注目視覚情報としてもよい。この場合、この注目視覚情報と解析対象運動情報とを「解析対象運動情報と注目視覚情報とを関連付ける情報」として出力する。この場合に、注目視覚情報に映像特定情報を含むようにするのは、後述の訓練装置で訓練のために生成するバーチャル映像を特定する情報として必要なためである。
【0056】
例えば、以下のような処理で行うことができる。
(1)第一解析部202で得た解析対象運動情報に対応するセンサで取得された解析用データ中の運動情報の系列について、隣接する時刻間でセンサデータの変動が大きい時刻を変化時刻として抽出する。
(2)上記(1)で変化時刻を求めた解析用データが示す映像特定情報について、映像特定情報により特定される映像(前述の映像合成部103から出力されていた映像)中の変化時刻近傍の2つの異なる時刻のフレームの画像を比較し、当該フレーム間で動きがある映像中の部分領域を、当該変化時刻におけるフレームの特徴として算出する。
【0057】
解析対象運動情報が示す運動情報の種別毎に、解析対象データ集合中の各解析用データについて上記(1)(2)を行うと、各運動情報の種別と相関の高い映像の部分領域と変化時刻が抽出できる。解析用データ毎に抽出される部分領域や変化時刻が異なる場合は、解析用データ全体の中で多数決をとり、多いものから所定数の部分領域や変化時刻を選択するようにしても良い。
【0058】
第一解析部202で得られる解析対象運動情報に対応する運動情報は、運動評価が高いとき(または人)と運動評価が低いとき(または人)とで差がある。
【0059】
第二解析部203では、この運動評価が高いか低いかによって差がある動作や生体応答の動きに着目して、当該動作や生体応答が大きくでる時刻の周辺で動きのある映像の部分領域が、脳内で当該動作や生体応答を決定するに際して寄与した映像(視覚)情報であろうと推定するものである。
【0060】
例えば、実環境ではバッティングの精度が高い人が、投球フォームとボールの軌道が一致しない映像に対するバッティングの場合は精度が落ちてしまうとすると、投球フォーム又はボールの軌道の少なくとも一方の知覚情報が運動制御や生体応答に大きく寄与していると考えられる。そこで、本手法により実環境でバッティングした場合の解析用データを運動評価が高いときの解析用データとし、投球フォームとボールの軌道が一致しない映像に対してバッティングした場合の解析用データを運動評価が低いときの解析用データとして解析することで、抽出された注目視覚情報が「投球フォームに動きがある区間(ボールが手を離れる前)」であれば、運動パフォーマンスの高い選手はボールの軌道を見る前に投球フォームからある程度ボールの軌道を予測していると考えられる。特に、投球フォームのどの時点の動きで判断をしているかが注目視覚情報により把握可能となる。同様に、注目視覚情報が「ボールが投手の手を離れて飛んでくる区間」であれば、当該区間のボールの軌道が運動制御(バッティングのタイミングや動き)や生体応答を決定するのに寄与していることが分かる。
【0061】
あるいは、映像条件設定部102の(3)では、ボールの軌道上の一部区間においてボールの映像を消す例を示したが、このような映像であれば、運動評価が低いときの解析用データに対応する映像でボールを消した区間の情報が運動制御や生体応答に大きく寄与している可能性があると推定できる。
【0062】
なお、解析用データ収集装置100で取得した解析用データは、本解析装置200による手法に限らず、人手で運動パフォーマンス向上に寄与しうる知覚情報(注目視覚情報)を解析することも利用可能である。
【0063】
〔訓練装置300〕
訓練装置300は、注目視覚情報に対応する視覚情報を訓練対象者が取得できるようになるよう訓練するための訓練装置300である。
【0064】
なお、
図1では解析装置200から出力された情報が逐次的に訓練装置300に入力され、訓練装置300が実行されるように見えるが、これに限定されるものではない。一般には、解析装置200又は別の人手による手法等で予め解析対象運動情報と注目視覚情報とを関連付ける情報を得、当該解析対象運動情報と注目視覚情報とを関連付ける情報が記憶部に記憶されているものとし、訓練装置300は、解析用データを取得した場所や取得した対象者、取得した日時とは異なる場所、対象者、日時において、記憶部に格納された解析対象運動情報と注目視覚情報とを関連付ける情報を読み出して実行されるものとする。
【0065】
図6は訓練装置300の機能ブロック図を、
図7はその処理フローの例を示す。
【0066】
訓練装置300は、記憶部301、訓練条件設定部302及び第二映像合成部303を含む。
【0067】
<記憶部301>
記憶部301には、第二映像合成部303で映像を合成する際のベースとなる各物体の動き情報(バーチャル映像中の各物体)および周辺環境の映像が予め格納されている。各物体の動き情報は、物体の「動きの種類」毎に当該「動きの種類」に対応付けて格納されているものとする。動き情報は、物体の動きを映像として提示する際に用いる情報である。基本的には解析用データ収集装置の記憶部101に格納されているものと同じである。
【0068】
また、記憶部301には、解析対象運動情報と注目視覚情報とを関連付ける情報が格納されているものとする。これは、前述の解析装置200や別の人手による手法等で得られた、解析対象運動情報(センサの種別)と当該解析対象運動情報の変動と相関の高い視覚情報である注目視覚情報とを関連付ける情報である。解析対象運動情報は、運動の評価の高い運動と低い運動とで差異のある運動情報の種別を表す情報であり、変化運動種別情報ともいう。
【0069】
<訓練条件設定部302>
訓練条件設定部302は、訓練対象者に訓練させたい解析対象運動情報を訓練対象運動情報として設定し(S302)、記憶部301に記憶された解析対象運動情報と注目視覚情報とを関連付ける情報に基づいて、設定された訓練対象運動情報に対応する解析対象運動情報に関連づけられた注目視覚情報を出力する。例えば、上述の解析装置200(もしくは人手による解析等)の第一解析部202で訓練対象者について得た解析用データと、訓練対象者よりも運動パフォーマンスの高い人について得た解析用データとの間で差異の大きい解析対象運動を得、これを訓練対象運動情報として設定する。複数の解析対象運動情報が抽出された場合は、その中から訓練させたいものを1つ選んで設定してもよい。
【0070】
あるいは、上述の解析装置200(もしくは人手による解析等)の第一解析部202で、訓練対象者の運動評価が高いときに取得された解析用データと、訓練対象者の運動評価が低いときに取得された解析用データとの間で差異の大きい解析対象運動を得、これを訓練対象運動情報として設定してもよい。
【0071】
解析装置200によらず、指導者等が特に動きを強化させたい体の部位又は付属物の動き等を把握していれば、当該体の部位又は付属物の動きを計測するセンサを特定する情報を訓練対象運動情報として設定しても良い。
【0072】
<第二映像合成部303>
第二映像合成部303は、訓練条件設定部302から注目視覚情報を受け取り、注目視覚情報を用いて、訓練用のバーチャル映像を合成する。訓練用のバーチャル映像は、実環境では再現しえない環境を提示するバーチャル映像であり、注目視覚情報が示すバーチャル映像中の部分領域が強調された映像である。
【0073】
例えば、第二映像合成部303は、解析用データ収集装置100の映像合成部103と同様の方法でバーチャル映像を合成する。このとき、訓練条件設定部302から受け取った注目視覚情報に含まれる変化時刻の近傍の時刻フレームでは、注目視覚情報が示すバーチャル映像中の部分領域を強調する視覚効果を重畳したバーチャル映像を合成し(S303)、映像表示部81に出力する。
【0074】
なお、解析用データ収集装置100の映像合成部103は、映像合成の条件が映像条件設定部102で与えられるが、第二映像合成部303ではランダムに映像条件を設定し、設定した条件で解析用データ収集装置100の映像合成部103と同様の方法でバーチャル映像を合成できるものとする。ランダムに合成されたバーチャル映像の中で、変化時刻近傍において注目視覚情報が示す部分領域に注意を向けるように訓練をするのである。なお、注目視覚情報に映像特定情報を含めておき、第二映像合成部303では当該映像特定情報に対応する映像条件でバーチャル映像を合成してもよい。
【0075】
訓練条件設定部302で設定した注目視覚情報が示すバーチャル映像中の部分領域を強調する視覚効果を重畳した映像とは、例えばバーチャル映像中で当該部分領域を目立つように囲む視覚効果を付与したり、バーチャル映像中で当該部分領域以外の領域の映像をぼかしたり、情報を削減した映像である。また、一定の視覚効果を付与するだけでなく、基準となる映像から上記のような映像に向けて、訓練の進捗に合わせて徐々に変化させても良い。
【0076】
上述の映像表示部81は、第二映像合成部303で合成したバーチャル映像を内部のディスプレイに映し、訓練対象者83に提示する(S304)。
【0077】
訓練対象者83は、映像表示部81で表示された映像を見ながら運動を行う。これにより、運動パフォーマンスの高い人がいつ、どのような領域を視認し運動制御を行っているかがバーチャル映像中で強調表示されるので、訓練対象者83はその部分に着目して視覚情報を取得し、運動を開始するように訓練することができる。
【0078】
<効果>
以上の構成により、解析用データ収集装置は運動制御への寄与が大きい知覚情報が何であるかを客観的に解析可能とするための解析用データを収集することができ、解析装置は解析用データを用いて運動制御への寄与が大きい知覚情報を推定することができ、訓練装置は運動制御への寄与が大きい知覚情報を用いて訓練対象者が当該知覚情報を扱えるようになるよう訓練することができる。
【0079】
なお、本実施形態では、実環境では再現しえない環境のバーチャル映像を用いることで、解析対象者がどの情報を用いて運動するのかについて、実環境に基づく映像のみを用いる場合に比べ、より強調させる効果をもつ。
【0080】
<変形例>
本実施形態では、解析用データ収集装置100と解析装置200と訓練装置300とを別体の異なる装置として説明したが、これらの装置を1つの公知又は専用のコンピュータにより実現してもよい。映像表示部81,91についても同様に1つの映像表示部(例えばヘッドマウントディスプレイ)により実現してもよい。
【0081】
なお、本実施形態では、解析用データ収集装置100の出力値(解析用データの集合)を解析装置200で利用し、解析装置200の出力値(注目視覚情報)を訓練装置300で利用しているが、各装置は他の装置を必ずしも必要とせず、独立して利用することができる。例えば、解析用データ収集装置100の出力値(解析用データの集合)は、必ずしも解析装置200で利用する必要はなく、上述の通り、人手で運動パフォーマンス向上に寄与しうる知覚情報(注目視覚情報)を解析することも可能である。また、解析装置200では、解析用データの集合に対応するデータがあれば、必ずしも解析用データ収集装置100の出力値でなくともよい。例えば、解析用データ収集装置は、「実環境に基づく映像」のみを解析対象者に提示し、その映像を見ながら運動する解析対象者から、運動情報と当該運動の評価を示す運動評価情報を取得し、映像特定情報と対象者の運動情報と運動評価情報反応とを対応付けた解析用データの集合を利用してもよい。また、解析装置200の出力値(注目視覚情報)から訓練装置によらずに訓練時に注意する箇所を提示してもよい。訓練装置300では、解析装置200の出力値を用いずとも、注意すべき部分が分かれば、バーチャル映像中の注意すべき部分を強調する視覚効果を重畳したバーチャル映像を合成すればよい。
【0082】
本実施形態では、バーチャル映像を提示された状態で解析対象者が行う運動、及び、訓練対象者に訓練させたい運動が野球のバッティングの例を示したが、本発明が他のスポーツ(ソフトボールやクリケット)のバッティング、さらには、対戦型の球技に適用できることは言うまでもない。さらに、他の運動においても、実環境では再現しえない環境のバーチャル映像を用いることで、解析対象者がどの情報を用いて運動するのかを、実環境に基づく映像のみを用いる場合に比べ、解析しやすくなるため、本発明の解析用データ収集装置、解析装置を適用することができる。他の運動においても、注目視覚情報に対応する動きを含むバーチャル映像中の部分領域を強調する視覚効果を重畳したバーチャル映像を合成を提示することで、訓練対象者を効率的に訓練することができるため、本発明の訓練装置を適用することができる。
【0083】
<その他の変形例>
本発明は上記の実施形態及び変形例に限定されるものではない。例えば、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
【0084】
<プログラム及び記録媒体>
また、上記の実施形態及び変形例で説明した各装置における各種の処理機能をコンピュータによって実現してもよい。その場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記各装置における各種の処理機能がコンピュータ上で実現される。
【0085】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
【0086】
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させてもよい。
【0087】
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶部に格納する。そして、処理の実行時、このコンピュータは、自己の記憶部に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実施形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよい。さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。
【0088】
また、コンピュータ上で所定のプログラムを実行させることにより、各装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。