(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-02
(45)【発行日】2022-05-13
(54)【発明の名称】人体形状モデル可視化システム、人体形状モデル可視化方法およびプログラム
(51)【国際特許分類】
G06T 19/00 20110101AFI20220506BHJP
G06F 3/01 20060101ALI20220506BHJP
G06F 3/0481 20220101ALI20220506BHJP
G06T 13/40 20110101ALI20220506BHJP
【FI】
G06T19/00 A
G06F3/01 570
G06F3/0481
G06T13/40
(21)【出願番号】P 2017227159
(22)【出願日】2017-11-27
【審査請求日】2020-10-28
(73)【特許権者】
【識別番号】506209422
【氏名又は名称】地方独立行政法人東京都立産業技術研究センター
(73)【特許権者】
【識別番号】510061221
【氏名又は名称】株式会社ケイズデザインラボ
(74)【代理人】
【識別番号】100161207
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100134359
【氏名又は名称】勝俣 智夫
(74)【代理人】
【識別番号】100192773
【氏名又は名称】土屋 亮
(74)【代理人】
【識別番号】100169764
【氏名又は名称】清水 雄一郎
(72)【発明者】
【氏名】後濱 龍太
(72)【発明者】
【氏名】岸本 慎也
(72)【発明者】
【氏名】加藤 健太郎
(72)【発明者】
【氏名】横山 圭
(72)【発明者】
【氏名】島田 茂伸
【審査官】橘 高志
(56)【参考文献】
【文献】国際公開第2017/096436(WO,A1)
【文献】国際公開第2016/080066(WO,A1)
【文献】自由行動下における連続血圧・姿勢の無拘束同時計測による血圧調節機序の解析,電子情報通信学会技術研究報告 Vol.96 No.75,1996年05月04日
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00
G06F 3/01
G06F 3/0481
G06T 13/40
(57)【特許請求の範囲】
【請求項1】
人体全身形状モデルデータと人体動作データと時間変化データとを取得するデータ登録部と、
前記データ登録部が取得した時間変化データに基づいて、仮想空間における時間変化データの初期配置を決定する時間変化データ初期配置決定部と、
前記データ登録部が取得した人体全身形状モデルデータに基づいて、前記仮想空間における人体全身形状モデルの初期配置を決定する人体全身形状モデル初期配置決定部と、
前記データ登録部が取得した人体全身形状モデルデータと人体動作データとに基づいて生成されるストップモーションモデルの生成時点を決定するストップモーションモデル生成時点決定部と、
再生操作命令を送出する再生操作命令部と、
前記再生操作命令部が送出した再生操作命令に応じて、前記人体全身形状モデル初期配置決定部が決定した人体全身形状モデルの初期配置に、前記データ登録部が取得した人体動作データを適用することによって、アニメーションされた人体全身形状モデルを生成すると共に、再生開始からの時間経過を示すタイムラインを生成するアニメーション人体全身形状モデル生成部と、
前記ストップモーションモデル生成時点決定部が決定した生成時点に基づいて、ストップモーションモデル群を生成するストップモーションモデル群生成部と、
前記再生操作命令部が送出した再生操作命令と、前記時間変化データ初期配置決定部が決定した前記仮想空間における時間変化データの初期配置と、前記アニメーション人体全身形状モデル生成部が生成したアニメーションされた人体全身形状モデルおよびタイムラインと、前記ストップモーションモデル群生成部が生成したストップモーションモデル群とに基づいて、前記仮想空間における時間変化データの位置を示す時間変化データ位置情報と、前記仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、前記仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する配置移動部と、
前記配置移動部が生成する時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部の位置および姿勢とに基づいて、前記映像提示部が利用者に提示する映像を生成する映像生成部とを備え
、
時間変化データは、生理計測装置によって得られた筋電の時系列データを含み、
前記映像生成部は、再生開始からの時間経過を示すタイムライン上に、その時点における筋電の値と、その時点におけるアニメーションされた人体全身形状モデルとを配置し、
タイムライン上に配置されるアニメーションされた人体全身形状モデルは、その時点における人体の姿勢を示し、
前記映像提示部によって利用者に提示される映像には、時間の経過に伴って位置が変化するタイムライン上に配置されたアニメーションされた動作する人体全身形状モデルの動く像が含まれ、
スポーツコーチングに用いられる、
人体形状モデル可視化システム。
【請求項2】
前記ストップモーションモデル生成時点決定部は、設定ファイル、外部プログラムおよび前記映像提示部の利用者との対話的な操作の少なくともいずれかに基づいて、前記仮想空間におけるストップモーションモデルの生成間隔を決定する、
請求項1に記載の人体形状モデル可視化システム。
【請求項3】
前記ストップモーションモデル生成時点決定部は、人体動作データからルールベースに抽出された時点を、前記仮想空間におけるストップモーションモデルの生成時点として決定する、
請求項1または請求項2に記載の人体形状モデル可視化システム。
【請求項4】
前記再生操作命令部が順方向の再生操作命令を送出した場合に、前記配置移動部は、アニメーションされた人体全身形状モデルと再生開始からの時間経過を示すタイムラインとを右向きに移動させる、もしくは、時間変化データの波形と前記ストップモーションモデル群生成部が生成したストップモーションモデル群とを左向きに移動させる、
請求項1から請求項3のいずれか一項に記載の人体形状モデル可視化システム。
【請求項5】
前記データ登録部が取得する人体全身形状モデルデータは、人物を模して作成された形状モデルデータ、あるいは、形状計測機によって得られた点群データを変換することにより得られた形状モデルデータである、
請求項1から請求項4のいずれか一項に記載の人体形状モデル可視化システム。
【請求項6】
前記データ登録部が取得する人体動作データは、人体動作計測装置によって得られた時系列データである、
請求項1から請求項5のいずれか一項に記載の人体形状モデル可視化システム。
【請求項7】
前記データ登録部が取得する時間変化データは、外部プログラムによって得られた時系列データである、
請求項
1に記載の人体形状モデル可視化システム。
【請求項8】
前記再生操作命令部は、前記映像提示部の利用者の操作に応じて、および/または、外部プログラムからのコマンドに応じて再生操作命令を送出し、
前記再生操作命令部が送出する再生操作命令には、順方向の再生操作命令、逆方向の再生操作命令、順方向の微速度再生操作命令、逆方向の微速度再生操作命令、順方向の増速再生操作命令、逆方向の増速再生操作命令、一時停止命令、停止命令およびループ再生命令の少なくともいずれかが含まれる、
請求項1に記載の人体形状モデル可視化システム。
【請求項9】
人体全身形状モデルデータと人体動作データと時間変化データとを取得するデータ登録ステップと、
前記データ登録ステップにおいて取得された時間変化データに基づいて、仮想空間における時間変化データの初期配置を決定する時間変化データ初期配置決定ステップと、
前記データ登録ステップにおいて取得された人体全身形状モデルデータに基づいて、前記仮想空間における人体全身形状モデルの初期配置を決定する人体全身形状モデル初期配置決定ステップと、
前記データ登録ステップにおいて取得された人体全身形状モデルデータと人体動作データとに基づいて生成されるストップモーションモデルの生成時点を決定するストップモーションモデル生成時点決定ステップと、
再生操作命令を送出する再生操作命令ステップと、
前記再生操作命令ステップにおいて送出された再生操作命令に応じて、前記人体全身形状モデル初期配置決定ステップにおいて決定された人体全身形状モデルの初期配置に、前記データ登録ステップにおいて取得された人体動作データを適用することによって、アニメーションされた人体全身形状モデルを生成すると共に、再生開始からの時間経過を示すタイムラインを生成するアニメーション人体全身形状モデル生成ステップと、
前記ストップモーションモデル生成時点決定ステップにおいて決定された生成時点に基づいて、ストップモーションモデル群を生成するストップモーションモデル群生成ステップと、
前記再生操作命令ステップにおいて送出された再生操作命令と、前記時間変化データ初期配置決定ステップにおいて決定された前記仮想空間における時間変化データの初期配置と、前記アニメーション人体全身形状モデル生成ステップにおいて生成されたアニメーションされた人体全身形状モデルおよびタイムラインと、前記ストップモーションモデル群生成ステップにおいて生成されたストップモーションモデル群とに基づいて、前記仮想空間における時間変化データの位置を示す時間変化データ位置情報と、前記仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、前記仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する配置移動ステップと、
前記配置移動ステップにおいて生成される時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部の位置および姿勢とに基づいて、前記映像提示部が利用者に提示する映像を生成する映像生成ステップとを備え、
時間変化データは、生理計測装置によって得られた筋電の時系列データを含み、
前記映像生成ステップでは、再生開始からの時間経過を示すタイムライン上に、その時点における筋電の値と、その時点におけるアニメーションされた人体全身形状モデルとが配置され、
タイムライン上に配置されるアニメーションされた人体全身形状モデルは、その時点における人体の姿勢を示し、
前記映像提示部によって利用者に提示される映像には、時間の経過に伴って位置が変化するタイムライン上に配置されたアニメーションされた動作する人体全身形状モデルの動く像が含まれ、
スポーツコーチングに用いられる、
人体形状モデル可視化方法。
【請求項10】
コンピュータに、
人体全身形状モデルデータと人体動作データと時間変化データとを取得するデータ登録ステップと、
前記データ登録ステップにおいて取得された時間変化データに基づいて、仮想空間における時間変化データの初期配置を決定する時間変化データ初期配置決定ステップと、
前記データ登録ステップにおいて取得された人体全身形状モデルデータに基づいて、前記仮想空間における人体全身形状モデルの初期配置を決定する人体全身形状モデル初期配置決定ステップと、
前記データ登録ステップにおいて取得された人体全身形状モデルデータと人体動作データとに基づいて生成されるストップモーションモデルの生成時点を決定するストップモーションモデル生成時点決定ステップと、
再生操作命令を送出する再生操作命令ステップと、
前記再生操作命令ステップにおいて送出された再生操作命令に応じて、前記人体全身形状モデル初期配置決定ステップにおいて決定された人体全身形状モデルの初期配置に、前記データ登録ステップにおいて取得された人体動作データを適用することによって、アニメーションされた人体全身形状モデルを生成すると共に、再生開始からの時間経過を示すタイムラインを生成するアニメーション人体全身形状モデル生成ステップと、
前記ストップモーションモデル生成時点決定ステップにおいて決定された生成時点に基づいて、ストップモーションモデル群を生成するストップモーションモデル群生成ステップと、
前記再生操作命令ステップにおいて送出された再生操作命令と、前記時間変化データ初期配置決定ステップにおいて決定された前記仮想空間における時間変化データの初期配置と、前記アニメーション人体全身形状モデル生成ステップにおいて生成されたアニメーションされた人体全身形状モデルおよびタイムラインと、前記ストップモーションモデル群生成ステップにおいて生成されたストップモーションモデル群とに基づいて、前記仮想空間における時間変化データの位置を示す時間変化データ位置情報と、前記仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、前記仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する配置移動ステップと、
前記配置移動ステップにおいて生成される時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部の位置および姿勢とに基づいて、前記映像提示部が利用者に提示する映像を生成する映像生成ステップと
を実行させるためのプログラムであって、
時間変化データは、生理計測装置によって得られた筋電の時系列データを含み、
前記映像生成ステップでは、再生開始からの時間経過を示すタイムライン上に、その時点における筋電の値と、その時点におけるアニメーションされた人体全身形状モデルとが配置され、
タイムライン上に配置されるアニメーションされた人体全身形状モデルは、その時点における人体の姿勢を示し、
前記映像提示部によって利用者に提示される映像には、時間の経過に伴って位置が変化するタイムライン上に配置されたアニメーションされた動作する人体全身形状モデルの動く像が含まれ、
スポーツコーチングに用いられる、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、人体形状モデル可視化システム、人体形状モデル可視化方法およびプログラムに関する。
【背景技術】
【0002】
仮想現実感技術の産業応用に関する研究開発は20年以上の歴史がある。2000年代前半までは、ヘッドマウントディスプレイ(HMD)などの提示機器が高価だったこともあり、発電所や石油化学プラントのメンテナンスといったミッションクリティカルな状況に習熟するための訓練シミュレータとしての研究が行われた。
近年、HMDの低価格化(数百ドル~一千ドル)とコンシューマ向けPCのグラフィックス処理能力の向上を背景に、XR技術(XR技術とは、仮想現実感技術の流れに位置づけられるVirtual Reality(VR)、Augmented Reality(AR)、Mixed Reality(MR)などの技術の総称である。)の応用範囲が前述のミッションクリティカルな状況から、より広い産業へ拡大し「2016年はVR元年」という報道もなされた。例えば米国ではXR技術の応用がスポーツ観戦(360度動画の配信)、メディア、報道、建築ビジュアライゼーション、ゲームエンターテイメントの分野へ拡大している。日本では住宅展示場や結婚式場がHMDを用いて360度動画で下見を行うサービスを提供している。調査によればXR関連ソフトウェア市場は2016年度86億円であり、2021年度には1065億円への成長が予測されており、適用範囲は今後も拡大するものと思われる。
【0003】
ところでスポーツコーチング理論では、総論としてのコーチング学と、各論としてのスポーツ専門科目の両者を体系的に理解し実践することが重要であるとされている。例えば陸上トラック競技における「スタート動作」、バスケットボール競技における「リバウンド動作」、跳び箱における「踏切動作」といった具合に、科目ごとの着目すべき動作をコーチ(=研究者)が抽出し、当該動作の質を測る定量的な指標を作成または選定し、介入前後での指標値の変化を評価することが行なわれている。
スポーツコーチング学は「運動学」「形態学」「運動生理学」「統計学」の研究領域に分けることができ、運動計測はモーションキャプチャや高速度カメラ、形態計測はマルチン計測器や非接触寸法計測装置、生理情報には生理計測が対応する。
日本コーチング学会がインターネットで公開している学会誌「コーチング学研究」の過去5年分を調査したところ、特徴的な動作はコーチ(=研究者)が科目ごとや選手ごとにいわば職人的な観察力で見出しており、標準動作といったものは定義されていなかった。
従ってコーチングの場面では、職人的な観察力で抽出した動作に着目して各種データを計測し、そのデータを選手との共通言語とすべく可視化する必要がある。
【0004】
運動の可視化は、古くは写真銃を発明して連続写真を作成したマレー(仏、1830-1904)に遡ることができる。
図9はマレーの写真銃によって撮影された連続写真を説明するための図である。
図9に示す例では、可視化の視点を後から変更することができない。
【0005】
そして今日に至るまで、運動や計測情報の可視化手法は2次元ディスプレイを前提に設計されている。製品としてはADInstruments社による映像・生理計測データの可視化ソフトウェアLabChartが公知であり、広く使われている。このソフトウェアを用いることによって、映像と生理計測データを同期して再生できる。しかし、このソフトウェアを用いた場合には、映像と生理情報とが別々のウインドウで描画されるため、利用者が動作と生理情報を同時に注視するには大変な努力を要し、分かりやすい表示とは言い難い。
【0006】
また従来、コンピュータ生成された3次元オブジェクトとフィルムカメラからの映像フィードとをリアルタイムに混合または合成する方法が知られている(例えば特許文献1参照)。特許文献1に記載された方法では、フィルムカメラのボディが、3次元に移動可能である。また、カメラ内またはカメラに取り付けられたセンサが、カメラの3次元位置または3次元向きを定義する、または3次元位置を算出可能にするリアルタイム位置データを提供する。一方、特許文献1には、運動分析や生理計測データの可視化を効率的に行うための手段について記載されていない。
【先行技術文献】
【特許文献】
【0007】
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明は上記事情に鑑みてなされたものであり、運動および運動に関係する時間変化データをわかりやすく提示することができる人体形状モデル可視化システム、人体形状モデル可視化方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、上記課題を解決するため、以下の手段を提供する。
【0010】
(1)本発明の一態様に係る人体形状モデル可視化システムは、人体全身形状モデルデータと人体動作データと時間変化データとを取得するデータ登録部と、前記データ登録部が取得した時間変化データに基づいて、仮想空間における時間変化データの初期配置を決定する時間変化データ初期配置決定部と、前記データ登録部が取得した人体全身形状モデルデータに基づいて、前記仮想空間における人体全身形状モデルの初期配置を決定する人体全身形状モデル初期配置決定部と、前記データ登録部が取得した人体全身形状モデルデータと人体動作データとに基づいて生成されるストップモーションモデルの生成時点を決定するストップモーションモデル生成時点決定部と、再生操作命令を送出する再生操作命令部と、前記再生操作命令部が送出した再生操作命令に応じて、前記人体全身形状モデル初期配置決定部が決定した人体全身形状モデルの初期配置に、前記データ登録部が取得した人体動作データを適用することによって、アニメーションされた人体全身形状モデルを生成すると共に、再生開始からの時間経過を示すタイムラインを生成するアニメーション人体全身形状モデル生成部と、前記ストップモーションモデル生成時点決定部が決定した生成時点に基づいて、ストップモーションモデル群を生成するストップモーションモデル群生成部と、前記再生操作命令部が送出した再生操作命令と、前記時間変化データ初期配置決定部が決定した前記仮想空間における時間変化データの初期配置と、前記アニメーション人体全身形状モデル生成部が生成したアニメーションされた人体全身形状モデルおよびタイムラインと、前記ストップモーションモデル群生成部が生成したストップモーションモデル群とに基づいて、前記仮想空間における時間変化データの位置を示す時間変化データ位置情報と、前記仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、前記仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する配置移動部と、前記配置移動部が生成する時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部の位置および姿勢とに基づいて、前記映像提示部が利用者に提示する映像を生成する映像生成部とを備える。
【0011】
(2)上記(1)に記載の人体形状モデル可視化システムにおいて、時間変化データは、生理計測装置によって得られた時系列の生理計測データであり、前記映像生成部は、再生開始からの時間経過を示すタイムライン上に、その時点における生理計測データの値(グラフ)と、その時点におけるアニメーションされた人体全身形状モデルとを配置し、タイムライン上に配置されるアニメーションされた人体全身形状モデルは、その時点における人体の姿勢を示してもよい。
【0012】
(3)上記(1)または(2)に記載の人体形状モデル可視化システムにおいて、前記ストップモーションモデル生成時点決定部は、設定ファイル、外部プログラムおよび前記映像提示部の利用者との対話的な操作の少なくともいずれかに基づいて、前記仮想空間におけるストップモーションモデルの生成間隔を決定してもよい。
【0013】
(4)上記(1)から(3)のいずれか一つに記載の人体形状モデル可視化システムにおいて、前記ストップモーションモデル生成時点決定部は、人体動作データからルールベースに抽出された時点を、前記仮想空間におけるストップモーションモデルの生成時点として決定してもよい。
【0014】
(5)上記(1)から(4)のいずれか一つに記載の人体形状モデル可視化システムにおいて、前記再生操作命令部が順方向の再生操作命令を送出した場合に、前記配置移動部は、アニメーションされた人体全身形状モデルと再生開始からの時間経過を示すタイムラインとを右向きに移動させる、もしくは、時間変化データの波形と前記ストップモーションモデル群生成部が生成したストップモーションモデル群とを左向きに移動させてもよい。
【0015】
(6)上記(1)から(5)のいずれか一つに記載の人体形状モデル可視化システムにおいて、前記データ登録部が取得する人体全身形状モデルデータは、人物を模して作成された形状モデルデータ、あるいは、形状計測機によって得られた点群データを変換することにより得られた形状モデルデータであってもよい。
【0016】
(7)上記(1)から(6)のいずれか一つに記載の人体形状モデル可視化システムにおいて、前記データ登録部が取得する人体動作データは、人体動作計測装置によって得られた時系列データであってもよい。
【0017】
(8)上記(1)に記載の人体形状モデル可視化システムにおいて、前記データ登録部が取得する時間変化データは、外部プログラムによって得られた時系列データであってもよい。
【0018】
(9)上記(1)に記載の人体形状モデル可視化システムにおいて、前記再生操作命令部は、前記映像提示部の利用者の操作に応じて、および/または、外部プログラムからのコマンドに応じて再生操作命令を送出し、前記再生操作命令部が送出する再生操作命令には、順方向の再生操作命令、逆方向の再生操作命令、順方向の微速度再生操作命令、逆方向の微速度再生操作命令、順方向の増速再生操作命令、逆方向の増速再生操作命令、一時停止命令、停止命令およびループ再生命令の少なくともいずれかが含まれてもよい。
【0019】
(10)本発明の一態様に係る人体形状モデル可視化方法は、人体全身形状モデルデータと人体動作データと時間変化データとを取得するデータ登録ステップと、前記データ登録ステップにおいて取得された時間変化データに基づいて、仮想空間における時間変化データの初期配置を決定する時間変化データ初期配置決定ステップと、前記データ登録ステップにおいて取得された人体全身形状モデルデータに基づいて、前記仮想空間における人体全身形状モデルの初期配置を決定する人体全身形状モデル初期配置決定ステップと、前記データ登録ステップにおいて取得された人体全身形状モデルデータと人体動作データとに基づいて生成されるストップモーションモデルの生成時点を決定するストップモーションモデル生成時点決定ステップと、再生操作命令を送出する再生操作命令ステップと、前記再生操作命令ステップにおいて送出された再生操作命令に応じて、前記人体全身形状モデル初期配置決定ステップにおいて決定された人体全身形状モデルの初期配置に、前記データ登録ステップにおいて取得された人体動作データを適用することによって、アニメーションされた人体全身形状モデルを生成すると共に、再生開始からの時間経過を示すタイムラインを生成するアニメーション人体全身形状モデル生成ステップと、前記ストップモーションモデル生成時点決定ステップにおいて決定された生成時点に基づいて、ストップモーションモデル群を生成するストップモーションモデル群生成ステップと、前記再生操作命令ステップにおいて送出された再生操作命令と、前記時間変化データ初期配置決定ステップにおいて決定された前記仮想空間における時間変化データの初期配置と、前記アニメーション人体全身形状モデル生成ステップにおいて生成されたアニメーションされた人体全身形状モデルおよびタイムラインと、前記ストップモーションモデル群生成ステップにおいて生成されたストップモーションモデル群とに基づいて、前記仮想空間における時間変化データの位置を示す時間変化データ位置情報と、前記仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、前記仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する配置移動ステップと、前記配置移動ステップにおいて生成される時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部の位置および姿勢とに基づいて、前記映像提示部が利用者に提示する映像を生成する映像生成ステップとを備える。
【0020】
(11)本発明の一態様に係るプログラムは、コンピュータに、人体全身形状モデルデータと人体動作データと時間変化データとを取得するデータ登録ステップと、前記データ登録ステップにおいて取得された時間変化データに基づいて、仮想空間における時間変化データの初期配置を決定する時間変化データ初期配置決定ステップと、前記データ登録ステップにおいて取得された人体全身形状モデルデータに基づいて、前記仮想空間における人体全身形状モデルの初期配置を決定する人体全身形状モデル初期配置決定ステップと、前記データ登録ステップにおいて取得された人体全身形状モデルデータと人体動作データとに基づいて生成されるストップモーションモデルの生成時点を決定するストップモーションモデル生成時点決定ステップと、再生操作命令を送出する再生操作命令ステップと、前記再生操作命令ステップにおいて送出された再生操作命令に応じて、前記人体全身形状モデル初期配置決定ステップにおいて決定された人体全身形状モデルの初期配置に、前記データ登録ステップにおいて取得された人体動作データを適用することによって、アニメーションされた人体全身形状モデルを生成すると共に、再生開始からの時間経過を示すタイムラインを生成するアニメーション人体全身形状モデル生成ステップと、前記ストップモーションモデル生成時点決定ステップにおいて決定された生成時点に基づいて、ストップモーションモデル群を生成するストップモーションモデル群生成ステップと、前記再生操作命令ステップにおいて送出された再生操作命令と、前記時間変化データ初期配置決定ステップにおいて決定された前記仮想空間における時間変化データの初期配置と、前記アニメーション人体全身形状モデル生成ステップにおいて生成されたアニメーションされた人体全身形状モデルおよびタイムラインと、前記ストップモーションモデル群生成ステップにおいて生成されたストップモーションモデル群とに基づいて、前記仮想空間における時間変化データの位置を示す時間変化データ位置情報と、前記仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、前記仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する配置移動ステップと、前記配置移動ステップにおいて生成される時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部の位置および姿勢とに基づいて、前記映像提示部が利用者に提示する映像を生成する映像生成ステップとを実行させるためのものである。
【発明の効果】
【0021】
本発明によれば、運動および運動に関係する時間変化データをわかりやすく提示することができる人体形状モデル可視化システム、人体形状モデル可視化方法およびプログラムを提供することができる。
【図面の簡単な説明】
【0022】
【
図1】実施形態の人体形状モデル可視化システムの構成などの一例を示す図である。
【
図2】映像生成部が生成した映像を説明するための図である。
【
図3】映像生成部が生成した時刻t5の時点の映像を説明するための図である。
【
図4】映像生成部が生成した再生完了時点の映像を説明するための図である。
【
図5】映像提示部が利用者に提示する再生開始直前の映像を説明するための図である。
【
図6】映像提示部が利用者に提示する再生開始直前の他の映像を説明するための図である。
【
図7】映像提示部が利用者に提示する他の映像を説明するための図である。
【
図8】人体形状モデル可視化システムによって実行される処理を説明するためのフローチャートである。
【
図9】マレーの写真銃によって撮影された連続写真を説明するための図である。
【発明を実施するための形態】
【0023】
以下、本発明の人体形状モデル可視化システム、人体形状モデル可視化方法およびプログラムの実施形態を、図を適宜参照しながら詳細に説明する。以下の説明で用いる図面は、本発明の特徴を分かりやすくするために、便宜上特徴となる部分を拡大して示している場合があり、各構成要素の寸法比率等は実際とは異なっていることがある。以下の説明において例示される材料、寸法等は一例であって、本発明はそれらに限定されるものではなく、本発明の効果を奏する範囲で適宜変更して実施することが可能である。
【0024】
図1は実施形態の人体形状モデル可視化システム1の構成などの一例を示す図である。
図1に示す例では、人体全身形状モデルデータ110と、人体動作データ120と、時間変化データ130とが、AND演算部150を介して人体形状モデル可視化システム1に入力可能に構成されている。
人体形状モデル可視化システム1に入力される人体全身形状モデルデータ110は、例えば、人物を模して作成された形状モデルデータである。
他の例では、人体形状モデル可視化システム1に入力される人体全身形状モデルデータ110が、デジタイザなどの形状計測機(図示せず)によって得られた点群データを変換することにより得られた形状モデルデータであってもよい。
【0025】
図1に示す例では、人体形状モデル可視化システム1に入力される人体動作データ120は、例えば、人体動作計測装置(図示せず)によって得られた各関節角度などの時系列データである。
人体形状モデル可視化システム1に入力される時間変化データ130は、例えば、外部プログラムによって得られた時系列データである。外部プログラムによって得られた時系列データは、例えば、生理計測装置によって得られた時系列の生理計測データである。生理計測装置によって得られた時系列の生理計測データとしては、例えば、筋電、心拍、呼吸代謝、消費カロリーなどの時系列データがある。
他の例では、時間変化データ130として、人体動作データおよび時間変化データの被計測者が、その計測最中において、携帯型端末(図示せず)を用いて記録した運動中の気分の状態などを示すデータを人体形状モデル可視化システム1に入力してもよい。
【0026】
図1に示す例では、映像提示部200が、人体全身形状モデルデータ110と、人体動作データ120とに基づいて、人体形状モデル可視化システム1によって生成されたアニメーションされた人体全身形状モデル(動作する人体全身形状モデルの動く像)の映像を、人体形状モデル可視化システム1および映像提示部200の利用者に提示する。
また、映像提示部200は、人体全身形状モデルデータ110と、人体動作データ120とに基づいて、人体形状モデル可視化システム1によって生成されたストップモーションモデル(動作する人体全身形状モデルを所定のタイミングで静止させたもの)の映像を利用者に提示する。
また、映像提示部200は、時間変化データ130に基づいて人体形状モデル可視化システム1によって生成された時間変化データの波形の映像を利用者に提示する。
映像提示部200は、例えば公知のVR(Virtual Reality)デバイスまたはAR(Augmented Reality)デバイスである。人体形状モデル可視化システム1には、映像提示部200の位置および姿勢の情報が入力される。映像提示部200を着用する利用者の位置または姿勢の変化に伴って、映像提示部200の位置または姿勢が変化すると、映像提示部200が利用者に提示する映像のアングルなどが変化する。
映像提示部200の位置および姿勢を検出するためには、例えば、外部センサを利用するVR用トラッキング技術「Lighthouse」、内蔵カメラを利用するSLAM(Simultaneous Localization and Mapping)などの技術が用いられる。
【0027】
図1に示す例では、人体形状モデル可視化システム1が、データ登録部1Aと、時間変化データ初期配置決定部1Bと、人体全身形状モデル初期配置決定部1Cと、ストップモーションモデル生成時点決定部1Dと、再生操作命令部1Eと、アニメーション人体全身形状モデル生成部1Fと、ストップモーションモデル群生成部1Gと、配置移動部1Hと、映像生成部1Iとを備える。
データ登録部1Aは、人体形状モデル可視化システム1に入力された人体全身形状モデルデータ110と人体動作データ120と時間変化データ130とを取得する。
【0028】
時間変化データ初期配置決定部1Bは、データ登録部1Aに接続されている。時間変化データ初期配置決定部1Bは、データ登録部1Aが取得した時間変化データ130に基づいて、仮想空間における時間変化データの初期配置を決定する。仮想空間とは、VRデバイスまたはARデバイスのディスプレイに表示される空間である。
つまり、時間変化データ初期配置決定部1Bは、VRデバイスまたはARデバイスのディスプレイに表示される空間における時間変化データの波形の初期位置(詳細には、例えば時刻t0の時間変化データの波形の値の表示位置)を決定する。
【0029】
人体全身形状モデル初期配置決定部1Cは、データ登録部1Aに接続されている。人体全身形状モデル初期配置決定部1Cは、データ登録部1Aが取得した人体全身形状モデルデータ110に基づいて、仮想空間における人体全身形状モデルの初期配置を決定する。
つまり、人体全身形状モデル初期配置決定部1Cは、VRデバイスまたはARデバイスのディスプレイに表示される空間における人体全身形状モデルの初期位置(詳細には、例えば時刻t0の人体全身形状モデルの表示位置)を決定する。
【0030】
ストップモーションモデル生成時点決定部1Dは、データ登録部1Aに接続されている。ストップモーションモデル生成時点決定部1Dは、データ登録部1Aが取得した人体全身形状モデルデータ110と人体動作データ120とに基づいて生成されるストップモーションモデルの生成時点(例えば時刻t0、t1、t2など)を決定する。
ストップモーションモデル生成時点決定部1Dは、例えば設定ファイルに基づいてストップモーションモデルの生成間隔(例えば生成間隔t1-t0、t2-t1など)を決定する。
他の例では、ストップモーションモデル生成時点決定部1Dが、外部プログラムに基づいてストップモーションモデルの生成間隔を決定してもよく、利用者との対話(例えば利用者のリクエスト)的な操作に基づいてストップモーションモデルの生成間隔を決定してもよい。
あるいは、ストップモーションモデル生成時点決定部1Dが、人体動作データ120からルールベースに抽出された時点を、ストップモーションモデルの生成時点として決定してもよい。
ストップモーションモデル生成時点決定部1Dが、それらを組み合わせて、ストップモーションモデルの生成間隔を決定してもよい。
【0031】
図1に示す例では、再生操作命令部1Eが、再生操作命令を送出する。再生操作命令とは、上述したアニメーションされた人体全身形状モデル(動作する人体全身形状モデルの動く像)などの再生操作を指示する命令である。
再生操作命令部1Eは、人体形状モデル可視化システム1および映像提示部200の利用者の操作に応じて再生操作命令を送出する。
他の例(例えば人体形状モデル可視化システム1がアーカイブ鑑賞システムに組み込まれる場合)では、再生操作命令部1Eが、外部プログラムからのコマンドに応じて再生操作命令を送出してもよい。再生操作命令部1Eが、利用者の操作および外部プログラムからのコマンドの両方に応じて再生操作命令を送出してもよい。
【0032】
図1に示す例では、再生操作命令部1Eが送出する再生操作命令に、例えば、順方向の再生操作命令と、逆方向の再生操作命令と、順方向の微速度再生操作命令と、逆方向の微速度再生操作命令と、順方向の増速再生操作命令と、逆方向の増速再生操作命令と、一時停止命令と、停止命令と、ループ再生命令とが含まれる。
他の例では、再生操作命令部1Eが送出する再生操作命令に、上述した命令の少なくともいずれかが含まれる。
【0033】
図1に示す例では、アニメーション人体全身形状モデル生成部1Fが、人体全身形状モデル初期配置決定部1Cと、再生操作命令部1Eとに接続されている。
アニメーション人体全身形状モデル生成部1Fは、再生操作命令部1Eが送出した再生操作命令に応じて、人体全身形状モデルの初期配置に人体動作データ120を適用することによって、アニメーションされた人体全身形状モデル(動作する人体全身形状モデルの動く像)を生成する。アニメーションされた人体全身形状モデルは、後述するように、VRデバイスまたはARデバイスのディスプレイに表示される。
また、アニメーション人体全身形状モデル生成部1Fは、再生開始からの時間経過を示すタイムラインを生成する。タイムラインは、後述するように、VRデバイスまたはARデバイスのディスプレイに表示される。また、VRデバイスまたはARデバイスのディスプレイに表示される仮想空間におけるタイムラインの位置は、再生開始後の時間の経過に伴って変化する。
【0034】
ストップモーションモデル群生成部1Gは、ストップモーションモデル生成時点決定部1Dに接続されている。ストップモーションモデル群生成部1Gは、ストップモーションモデル生成時点決定部1Dが決定した生成時点に基づいて、ストップモーションモデル群を生成する。
例えば、ストップモーションモデル生成時点決定部1Dが、ストップモーションモデルの生成時点として、時刻t0と、時刻t1と、時刻t2とを決定した場合、ストップモーションモデル群生成部1Gは、アニメーションされた人体全身形状モデル(動作する人体全身形状モデルの動く像(statue))を時刻t0に停止させたもの(人体全身形状モデルの静止像)を、時刻t0のストップモーションモデルとして生成する。また、ストップモーションモデル群生成部1Gは、アニメーションされた人体全身形状モデルを時刻t1に停止させたものを時刻t1のストップモーションモデルとして生成し、アニメーションされた人体全身形状モデルを時刻t2に停止させたものを時刻t2のストップモーションモデルとして生成する。
また、ストップモーションモデル生成時点決定部1Dが、ストップモーションモデルの生成時点として、時刻t0と、時刻t1と、時刻t2とを決定した場合には、ストップモーションモデル群生成部1Gが生成するストップモーションモデル群は、時刻t0のストップモーションモデルと、時刻t1のストップモーションモデルと、時刻t2のストップモーションモデルとによって構成される。
【0035】
配置移動部1Hは、時間変化データ初期配置決定部1Bと、再生操作命令部1Eと、アニメーション人体全身形状モデル生成部1Fと、ストップモーションモデル群生成部1Gとに接続されている。
つまり、配置移動部1Hには、再生操作命令部1Eが送出した再生操作命令と、時間変化データ初期配置決定部1Bが決定した仮想空間における時間変化データの初期配置と、アニメーション人体全身形状モデル生成部1Fが生成したアニメーションされた人体全身形状モデルおよびタイムラインと、ストップモーションモデル群生成部1Gが生成したストップモーションモデル群とが入力される。
配置移動部1Hは、入力されたそれらに基づいて、仮想空間における時間変化データの位置を示す時間変化データ位置情報と、仮想空間におけるアニメーションされた人体全身形状モデルの位置を示す人体全身形状モデル位置情報と、仮想空間におけるストップモーションモデル群の位置を示すストップモーションモデル群位置情報とを生成する。
時間変化データ位置情報とは、例えば、VRデバイスまたはARデバイスのディスプレイに表示される仮想空間のどこに時間変化データの波形を配置すべきかの情報である。
人体全身形状モデル位置情報とは、例えば、VRデバイスまたはARデバイスのディスプレイに表示される仮想空間のどこに、例えば時刻t3のアニメーションされた人体全身形状モデル(人体全身形状モデルの動く像)を配置すべきかの情報である。
ストップモーションモデル群位置情報とは、例えば、VRデバイスまたはARデバイスのディスプレイに表示される仮想空間のどこに、時刻t0のストップモーションモデルと、時刻t1のストップモーションモデルと、時刻t2のストップモーションモデルとを配置すべきかの情報である。
【0036】
図1に示す例では、再生操作命令部1Eが順方向の再生操作命令を送出した場合に、配置移動部1Hは、アニメーションされた人体全身形状モデルと再生開始からの時間経過を示すタイムラインとを右向きに移動させる。
他の例では、再生操作命令部1Eが順方向の再生操作命令を送出した場合に、配置移動部1Hは、時間変化データの波形とストップモーションモデル群生成部1Gが生成したストップモーションモデル群とを左向きに移動させてもよい。
【0037】
図1に示す例では、映像生成部1Iが、配置移動部1Hに接続されている。
つまり、映像生成部1Iには、配置移動部1Hが生成した時間変化データ位置情報と、人体全身形状モデル位置情報と、ストップモーションモデル群位置情報とが入力される。また、映像生成部1Iには、映像提示部200の位置および姿勢の情報が入力される。
映像生成部1Iは、時間変化データ位置情報と、人体全身形状モデル位置情報と、ストップモーションモデル群位置情報と、映像提示部200の位置および姿勢とに基づいて、映像提示部200が利用者に提示する映像を生成する。
【0038】
図2は映像生成部1Iが生成した映像を説明するための図である。詳細には、
図2は、映像生成部1Iが生成した時刻t3の時点の映像を示している。
図2に示す例では、映像生成部1Iが生成した映像に、時間変化データの波形TD1と、時間変化データの波形TD2と、時間変化データの波形TD3と、時間変化データの波形TD4とが含まれている。時間変化データの波形TD1、TD2、TD3、TD4は、生理計測装置によって得られた時系列の生理計測データの波形である。詳細には、時間変化データの波形TD1乃至TD4は、例えば筋電図波形を示している。時間変化データの波形TD1は、例えば大殿筋の筋電波形を示している。時間変化データの波形TD2は、例えば大腿四頭筋の筋電波形を示している。時間変化データの波形TD3は、例えばハムストリングスの筋電波形を示している。時間変化データの波形TD4は、例えば前脛骨筋の筋電波形を示している。
また、映像生成部1Iが生成した映像には、再生開始時(時刻t0)からの時間経過を示すタイムラインTLが含まれている。
図2中のタイムラインTLは、再生開始時(時刻t0)から、時間(t3-t0)が経過したことを示している。
時間変化データの波形TD1とタイムラインTLとの交点は、時刻t3の時点の大殿筋の筋電の値を示している。時間変化データの波形TD2とタイムラインTLとの交点は、時刻t3の時点の大腿四頭筋の筋電の値を示している。時間変化データの波形TD3とタイムラインTLとの交点は、時刻t3の時点のハムストリングスの筋電の値を示している。時間変化データの波形TD4とタイムラインTLとの交点は、時刻t3の時点の前脛骨筋の筋電の値を示している。
また、タイムラインTL上には、時刻t3の時点におけるアニメーションされた人体全身形状モデルAMが配置されている。アニメーションされた人体全身形状モデルAMは、時刻t3の時点における人体の姿勢を示している。
【0039】
また、
図2に示す例では、映像生成部1Iが生成した映像に、時刻t0のストップモーションモデルSMt0と、時刻t1のストップモーションモデルSMt1と、時刻t2のストップモーションモデルSMt2とが含まれている。
上述したように、ストップモーションモデルSMt0は、アニメーションされた人体全身形状モデル(動作する人体全身形状モデルの動く像)AMを時刻t0に停止させたものに相当する。ストップモーションモデルSMt1は、アニメーションされた人体全身形状モデルAMを時刻t1に停止させたものに相当し、ストップモーションモデルSMt2は、アニメーションされた人体全身形状モデルAMを時刻t2に停止させたものに相当する。
図2に示す例では、仮想空間におけるストップモーションモデルSMt0、SMt1、SMt2の生成間隔(生成間隔t1-t0、t2-t1)が、設定ファイルまたは外部プログラムに基づいて、一定時間間隔(例えば0.3秒)に決定されている。
【0040】
図3は、映像生成部1Iが生成した時刻t5の時点の映像を説明するための図である。
図3に示す例では、
図2に示す例と比較して、映像提示部200の位置が異なっている。また、
図3に示す例では、ストップモーションモデル生成時点決定部1Dが、人体動作データ120からルールベースに抽出された時点(例えば、踵の座標を利用し、着地の瞬間のみ抽出された時点(時刻t2、t3、t4))を、仮想空間におけるストップモーションモデルSMt2、SMt3、SMt4の生成時点として決定している。
このように構成することにより、例えば、利用者(コーチや選手)のニーズに基づいたストップモーションモデルを(半)自動で生成可能になり、その観察をより効率的にすることができる。
利用者の注目したい動作局面が運動の科目によって、あるいは研究者によって変わりうること、すなわち同じランニングという科目であっても踵接地の瞬間を観察したい場合と蹴り出しの瞬間を観察したい場合とが存在しうる。
ストップモーションモデルを生成する瞬間は、パラメータとして指定した一定時刻間隔だけでなく、ルールに基づいて指定した瞬間(例えば足関節の鉛直方向軸の座標に基づいてランニング動作における踵接地の瞬間)などを抽出して採用することができる。
これにより運動中における特徴的な動作、例えば疾走動作の踵接地のストップモーションモデルを(半)自動的に生成することができ、かつ、その生成間隔は計測の事後に任意に変更することができる。
【0041】
図4は、映像生成部1Iが生成した再生完了時点の映像を説明するための図である。
図4に示す例では、
図2および
図3に示す例と比較して、映像提示部200の位置が異なっている。また、
図4に示す例では、動画の再生が完了しているため、映像中に、アニメーションされた人体全身形状モデルAM、つまり、動いている人体全身形状モデルが存在しない。その結果、映像中にタイムラインTLも存在しない。
【0042】
図5は、映像提示部200が利用者に提示する再生開始直前の映像を説明するための図である。詳細には、
図5は、ヘッドマウントディスプレイ着用者の視界を示している。
図5に示す例では、
図2~
図4に示す例と比較して、映像提示部200の位置が異なっている。また、
図5に示す例では、動画の再生がまだ開始していないため、映像中に、アニメーションされた人体全身形状モデルAM、つまり、動いている人体全身形状モデルが存在しない。その結果、映像中にタイムラインTLも存在しない。
上述したように、
図5に示す映像は、映像生成部1Iが生成した映像ではなく、映像提示部200が利用者に提示する映像である。従って、
図5には、利用者の左眼用の映像(
図5の左側の円内の映像)と、利用者の右眼用の映像(
図5の右側の円内の映像)とが含まれる。
【0043】
図6は、映像提示部200が利用者に提示する再生開始直前(つまり、
図5に示す映像と同一時点)の他の映像を説明するための図である。
図6に示す例では、
図5に示す例と比較して、映像提示部200の位置が異なっている。また、
図6に示す例では、
図5に示す例と同様に、映像中に、アニメーションされた人体全身形状モデルAMが存在せず、タイムラインTLも存在しない。
また、
図6には、
図5と同様に、利用者の左眼用の映像(
図6の左側の円内の映像)と、利用者の右眼用の映像(
図6の右側の円内の映像)とが含まれる。
【0044】
図7は、映像提示部200が利用者に提示する他の映像を説明するための図である。
図7に示す映像には、
図3に示す映像に含まれるストップモーションモデルSMt3が含まれている。
図7に示す例では、例えば着地している踵を確認するために、映像提示部200が、ストップモーションモデルSMt3に近づいている。
図5~
図7に示す例では、利用者の頭部の位置姿勢に応じた映像を提示する映像提示部200(HMD)を組み合わせた事で、今まさに目の前で行っている運動を観察するがごとく、利用者は、直感的に、かつ自由な視点を選択しながら観察することができる。これにより利用者は、例えばランニングでは着地の瞬間の膝関節の伸展角度や足首の角度といった、注目したい箇所を自由な視点で観察することができる。
【0045】
図8は人体形状モデル可視化システム1によって実行される処理を説明するためのフローチャートである。
図8に示す例では、ステップS11において、データ登録部1Aが、人体全身形状モデルデータ110と人体動作データ120と時間変化データ130とを取得する。
次いで、ステップS12では、時間変化データ初期配置決定部1Bが、時間変化データ130に基づいて、仮想空間における時間変化データの波形TD1、TD2、TD3、TD4の初期配置(つまり、時間変化データの波形TD1、TD2、TD3、TD4の左端の位置)を決定する。
次いで、ステップS13では、人体全身形状モデル初期配置決定部1Cが、人体全身形状モデルデータ110に基づいて、仮想空間における人体全身形状モデルの初期配置(つまり、アニメーションされた人体全身形状モデルAMが動き始める位置)を決定する。
次いで、ステップS14では、ストップモーションモデル生成時点決定部1Dが、人体全身形状モデルデータ110と人体動作データ120とに基づいて生成されるストップモーションモデルSMt0、SMt1、SMt2の生成時点(時刻t0、t1、t2)を決定する。
【0046】
次いで、ステップS15-1において、再生操作命令部1Eは、利用者の操作または外部プログラムからのコマンドがあったか否かを判定する。利用者の操作または外部プログラムからのコマンドがあった場合には、ステップS15-2に進む。利用者の操作も、外部プログラムからのコマンドもない場合には、利用者の操作または外部プログラムからのコマンドがあるまで、ステップS15-1が繰り返し実行される。
ステップS15-2では、再生操作命令部1Eが、再生操作命令を送出する。
次いで、ステップS16では、アニメーション人体全身形状モデル生成部1Fが、再生操作命令に応じて、人体全身形状モデル初期配置決定部1Cが決定した人体全身形状モデルの初期配置に、データ登録部1Aが取得した人体動作データ120を適用することによって、アニメーションされた人体全身形状モデルAMを生成すると共に、再生開始からの時間経過を示すタイムラインTLを生成する。
次いで、ステップS17では、ストップモーションモデル群生成部1Gが、ストップモーションモデル生成時点決定部1Dが決定した生成時点(時刻t0、t1、t2)に基づいて、ストップモーションモデル群(ストップモーションモデルSMt0、SMt1、SMt2の群)を生成する。
【0047】
次いで、ステップS18では、配置移動部1Hが、再生操作命令と、仮想空間における時間変化データの波形TD1、TD2、TD3、TD4の初期配置と、アニメーションされた人体全身形状モデルAMおよびタイムラインTLと、ストップモーションモデル群(ストップモーションモデルSMt0、SMt1、SMt2の群)とに基づいて、仮想空間における時間変化データの波形TD1、TD2、TD3、TD4の位置を示す時間変化データ位置情報と、仮想空間におけるアニメーションされた人体全身形状モデルAMの位置を示す人体全身形状モデル位置情報と、仮想空間におけるストップモーションモデル群(ストップモーションモデルSMt0、SMt1、SMt2の群)の位置を示すストップモーションモデル群位置情報とを生成する。
次いで、ステップS19では、映像生成部1Iが、配置移動部1Hが生成する時間変化データ位置情報、人体全身形状モデル位置情報およびストップモーションモデル群位置情報と、利用者に映像を提示する映像提示部200の位置および姿勢とに基づいて、映像提示部200が利用者に提示する映像を生成する。
【0048】
詳細には、例えば
図2に示すように、映像生成部1Iは、再生開始からの時間経過を示すタイムラインTL上に、その時点(
図2に示す例では、時刻t3)における時間変化データ(生理計測データ)の波形TD1、TD2、TD3、TD4の値と、その時点におけるアニメーションされた人体全身形状モデルAMとを配置する。また、タイムラインTL上に配置されるアニメーションされた人体全身形状モデルAMは、その時点(時刻t3)における人体の姿勢を示す。
つまり、
図2に示す例は、仮想空間における生理計測データと、再生開始からの経過時間を示すタイムラインTLと、アニメーションされた人体全身形状モデルAMとの特有の配置方法を特定している。
そのため、映像提示部200は、利用者に対して、運動および運動に関係する時間変化データをわかりやすく提示することができる。利用者は、運動および運動に関係する時間変化データを容易に把握することができる。
時間変化データの波形TD1、TD2、TD3、TD4として生理計測データを提示することにより、利用者は、タイムラインTLに注目してさえいれば、人体動作と生理情報を同時に容易に注視できるようになる。
【0049】
図2に示す例では、アニメーションされた人体全身形状モデルAMが
図2の左側から
図2の右側に移動する。そのため、
図2に示す例では、再生操作命令部1Eが順方向の再生操作命令を送出した場合に、配置移動部1Hは、アニメーションされた人体全身形状モデルAMと再生開始からの時間経過を示すタイムラインTLとを
図2の右向きに移動させる。また、配置移動部1Hは、アニメーションされた人体全身形状モデルAMが通過した後で、その位置にストップモーションモデルSMt0、SMt1、SMt2を配置する。つまり、ストップモーションモデルSMt0、SMt1、SMt2は、再生開始直後には配置(表示)されておらず、アニメーションされた人体全身形状モデルAMが通過するやいなや配置(表示)される。
一方、例えば、アニメーションされた人体全身形状モデルAMが「垂直跳び」を行う場合には、仮に、配置移動部1Hが、アニメーションされた人体全身形状モデルAMおよびストップモーションモデルSMt0、SMt1、SMt2を同じ位置に配置すると、それらが重なってしまい、見づらい映像になってしまう。
そこで、例えば、アニメーションされた人体全身形状モデルAMが垂直跳びを行う場合には、配置移動部1Hは、時間変化データの波形TD1、TD2、TD3、TD4と、ストップモーションモデル群(ストップモーションモデルSMt0、SMt1、SMt2の群)とを左向きに移動させる。そのため、アニメーションされた人体全身形状モデルAMの位置が変化しなくても、アニメーションされた人体全身形状モデルAMとストップモーションモデルSMt0、SMt1、SMt2とが重ならない。その結果、見やすい映像にすることができる。
【0050】
上述したように、実施形態の人体形状モデル可視化システム1は、運動・生理計測データをわかりやすく可視化すべくXR技術を応用するものである。
【産業上の利用可能性】
【0051】
本発明の人体形状モデル可視化システム、人体形状モデル可視化方法およびプログラムは、生活・福祉・ヘルスケア分野、スポーツ・健康支援分野などにおいて広く利用することができる。
【符号の説明】
【0052】
1…人体形状モデル可視化システム
1A…データ登録部
1B…時間変化データ初期配置決定部
1C…人体全身形状モデル初期配置決定部
1D…ストップモーションモデル生成時点決定部
1E…再生操作命令部
1F…アニメーション人体全身形状モデル生成部
1G…ストップモーションモデル群生成部
1H…配置移動部
1I…映像生成部
110…人体全身形状モデルデータ
120…人体動作データ
130…時間変化データ
150…AND演算部
200…映像提示部