(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2022-12-26
(45)【発行日】2023-01-10
(54)【発明の名称】情報処理装置、方法、およびプログラム
(51)【国際特許分類】
A63B 69/00 20060101AFI20221227BHJP
A61B 5/107 20060101ALI20221227BHJP
A63B 71/06 20060101ALI20221227BHJP
【FI】
A63B69/00 A
A61B5/107 300
A61B5/107 100
A63B71/06 M
A63B71/06 T
(21)【出願番号】P 2022008504
(22)【出願日】2022-01-24
【審査請求日】2022-08-12
【早期審査対象出願】
(73)【特許権者】
【識別番号】507212768
【氏名又は名称】三菱ケミカルグループ株式会社
(74)【代理人】
【識別番号】110002815
【氏名又は名称】IPTech弁理士法人
(72)【発明者】
【氏名】山岸 祥子
(72)【発明者】
【氏名】小林 謙次郎
【審査官】槙 俊秋
(56)【参考文献】
【文献】特開2013-236660(JP,A)
【文献】特開2013-138758(JP,A)
【文献】特開2019-24550(JP,A)
【文献】米国特許出願公開第2013/0171601(US,A1)
【文献】欧州特許出願公開第3846150(EP,A1)
【文献】国際公開第2021/101006(WO,A1)
【文献】国際公開第2012/039467(WO,A1)
【文献】中国特許出願公開第101610715(CN,A)
【文献】韓国公開特許第10-2020-0126578(KR,A)
(58)【調査した分野】(Int.Cl.,DB名)
A63B 69/00
A61B 5/107
A63B 71/06
A63B 69/36
(57)【特許請求の範囲】
【請求項1】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する
人間である対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させるプログラム。
【請求項2】
前記第1部分画像および前記第2部分画像には、前記対象の全身が写っている、
請求項1に記載のプログラム。
【請求項3】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させ
、
前記対象は、前記基準点の付近で運動するユーザであって、
前記コンピュータを、前記第1輪郭または前記第2輪郭の少なくとも1つに基づいて前記ユーザの身体の部位の姿勢を評価する手段としてさらに機能させ、
前記情報を提示する手段は、前記ユーザの身体の部位の姿勢の評価結果に応じた情報を当該ユーザに提示する、
プログラム。
【請求項4】
前記情報を提示する手段は、前記ユーザの身体の部位の姿勢に関する助言を前記ユーザに提示する、
請求項3に記載のプログラム。
【請求項5】
前記情報を提示する手段は、前記ユーザの身体の部位の姿勢に関する助言を含む音声を前記ユーザに提示する、
請求項4に記載のプログラム。
【請求項6】
前記基準点に対して前方にハーフミラーが設置され、
前記情報を提示する手段は、前記基準点に対して前記ハーフミラー越しに設置されたディスプレイに前記情報を表示する、
請求項3乃至
請求項5のいずれかに記載のプログラム。
【請求項7】
前記撮影装置の少なくとも1つは前記基準点に対して後方に設置され、
前記情報を提示する手段は、前記第1部分画像に基づく前記ユーザの背面画像を前記ディスプレイに表示する、
請求項6に記載のプログラム。
【請求項8】
前記姿勢を評価する手段は、前記撮影装置および前記側面鏡の間の位置関係と、前記撮影装置および前記側面鏡の向きとに基づいて、前記第1部分画像と前記第2部分画像との間の対応点の深度を算出し、当該深度に基づいて前記ユーザの身体の部位の姿勢を評価する、
請求項3乃至
請求項7のいずれかに記載のプログラム。
【請求項9】
前記姿勢を評価する手段は、前記第1輪郭または前記第2輪郭の少なくとも1つに基づいて、前記ユーザの身体の部位の輪郭線がなす角度を評価する、
請求項3乃至
請求項8のいずれかに記載のプログラム。
【請求項10】
前記姿勢を評価する手段は、前記第1輪郭または前記第2輪郭の少なくとも1つに基づいて、前記ユーザの身体の部位の輪郭線を特定し、前記ユーザの身体の部位の輪郭線と基準輪郭線との比較に基づいて当該部位の姿勢を評価する、
請求項3乃至
請求項9のいずれかに記載のプログラム。
【請求項11】
前記姿勢を評価する手段は、前記第1輪郭または前記第2輪郭の少なくとも1つに基づいて、前記ユーザの背部の輪郭線を特定し、前記ユーザの背部の輪郭線と前記基準輪郭線との比較に基づいて、前記ユーザの骨盤の歪み、または前記ユーザの背中もしくは腰の曲がりを評価する、
請求項10に記載のプログラム。
【請求項12】
前記姿勢を評価する手段は、前記第1輪郭または前記第2輪郭の少なくとも1つに基づいて、前記ユーザの爪先の輪郭線を特定し、前記ユーザの爪先の輪郭線と前記基準輪郭線との比較に基づいて前記ユーザの爪先の向きを評価する、
請求項10に記載のプログラム。
【請求項13】
前記コンピュータを、前記ユーザの身体の部位の姿勢の評価結果に応じて、仮想空間における操作対象の対応する部位の姿勢を制御する手段、としてさらに機能させる、
請求項3乃至
請求項12のいずれかに記載のプログラム。
【請求項14】
前記撮影装置および前記側面鏡は、前記側面鏡から前記基準点までの距離が前記撮影装置から前記基準点までの距離に比べて小さくなるように設置される、
請求項1乃至
請求項13のいずれかに記載のプログラム。
【請求項15】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させ
、
前記1以上の撮影装置は、前記基準点の付近に焦点を合わせた第1撮影装置と、前記側面鏡の付近に焦点を合わせた第2撮影装置とを含み、
前記特定する手段は、前記第1撮影装置によって撮影された入力画像に含まれる前記第1部分画像に基づいて前記第1輪郭を特定し、前記第2撮影装置によって撮影された入力画像に含まれる前記第2部分画像から前記第2輪郭を特定する、
プログラム。
【請求項16】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させ
、
前記入力画像を取得する手段は、前記基準点に対して上方向側に設置された上面撮影装置によって撮影された入力画像をさらに取得し、
前記特定する手段は、前記上面撮影装置によって撮影された入力画像のうち前記対象が写った第3部分画像に基づいて、前記第1視点および前記第2視点とは異なる第3視点から見た前記対象の第3輪郭を特定し、
前記情報を提示する手段は、前記第1輪郭、前記第2輪郭、または前記第3輪郭の少なくとも1つに基づく情報を提示する、
プログラム。
【請求項17】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させ
、
前記入力画像を取得する手段は、前記基準点に対して上方向側に設置された上面鏡に対して下方に設置された上面鏡用撮影装置によって撮影された入力画像をさらに取得し、
前記特定する手段は、前記上面鏡用撮影装置によって撮影された入力画像のうち前記上面鏡による前記対象の鏡像が写った第3部分画像に基づいて、前記第1視点および前記第2視点とは異なる第3視点から見た前記対象の第3輪郭を特定し、
前記情報を提示する手段は、前記第1輪郭、前記第2輪郭、または前記第3輪郭の少なくとも1つに基づく情報を提示する、
プログラム。
【請求項18】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する
人間である対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して前方向側または後方向側のいずれかであって前記撮影装置の少なくとも1つとは反対側に設置された鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させるプログラム。
【請求項19】
コンピュータを、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、
前記入力画像のうち前記基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して前方向側または後方向側のいずれかであって前記撮影装置の少なくとも1つとは反対側に設置された鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段、
として機能させ
、
前記鏡は、前記基準点に対して後方に設置され、
前記コンピュータを、前記入力画像に前記対象の鏡像の全体が写り込むように前記対象に位置の変更を促す手段、としてさらに機能させる、
プログラム。
【請求項20】
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段と、
前記入力画像のうち前記基準点の付近に位置する
人間である対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定する手段と、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示する手段と
を具備する情報処理装置。
【請求項21】
コンピュータが、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得するステップと、
前記入力画像のうち前記基準点の付近に位置する
人間である対象が写った第1部分画像に基づいて第1視点から見た前記対象の第1輪郭を特定し、前記入力画像のうち前記基準点に対して側方に設置された側面鏡による前記対象の鏡像が写った第2部分画像に基づいて前記第1視点とは異なる第2視点から見た前記対象の第2輪郭を特定するステップと、
前記第1輪郭または前記第2輪郭の少なくとも1つに基づく情報を提示するステップと
を具備する方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、方法、およびプログラムに関する。
【背景技術】
【0002】
運動において姿勢は重要である。例えば、身体の特定の部位が適切に動いていないと、当該部位の周辺の筋肉または関節に過度に負荷がかかり、パフォーマンスが低下したり、怪我のリスクが高まったりする。
【0003】
特許文献1には、運動器具を利用して運動する被験者を検出するための検出領域を撮像して得られる撮像画像、および、検出領域の被写体の深度情報に基づいて、運動器具を利用した理想的な運動を行っているかどうかを被験者に認識させるためのガイド情報を生成する技術について開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1では、RGBカメラを用いて被験者の正面を撮像し、深度センサを用いて被験者の正面の深度を検出する。しかしながら、かかる技術では、被験者の側面または背面の情報を得ることができない。
【0006】
さらなるRGBカメラまたは深度センサ(以下、単に「カメラ」という)を被験者の側方または後方に設置することで、被験者の側面または背面の情報を得ることはできる。しかしながら、かかるシステムを例えば被験者の自宅やフィットネスジムなどの限られたスペースに構築しようとする場合に、撮影に必要な距離を確保できずカメラの配置が困難となるおそれがある。
【0007】
本開示の目的は、複数方向からの対象の解析を限られたスペースで実現することである。
【課題を解決するための手段】
【0008】
本開示の一態様のプログラムは、コンピュータを、基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、入力画像のうち基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た対象の第1輪郭を特定し、入力画像のうち基準点に対して側方に設置された側面鏡による対象の鏡像が写った第2部分画像に基づいて第1視点とは異なる第2視点から見た対象の第2輪郭を特定する手段、第1輪郭または第2輪郭の少なくとも1つに基づく情報を提示する手段、として機能させる。
【図面の簡単な説明】
【0009】
【
図1】本実施形態の情報処理システムの構成を示すブロック図である。
【
図2】本実施形態の撮影装置の設置環境の説明図である。
【
図4】本実施形態の撮影装置から見た被写体を示す図である。
【
図5】本実施形態の情報処理のフローチャートである。
【
図6】入力画像に含まれる部分画像の例を示す図である。
【
図7】
図5のステップS111の具体例のフローチャートである。
【
図8】部分画像から推定されるボーンの例を示す図である。
【
図12】入力画像(RGB画像)に含まれる部分画像の例を示す図である。
【
図13】
図5のステップS111の変形例のフローチャートである。
【
図14】部分画像から推定されるボーンの例を示す図である。
【
図15】部分画像のシルエットの例を示す図である。
【発明を実施するための形態】
【0010】
以下、本発明の一実施形態について、図面に基づいて詳細に説明する。なお、実施形態を説明するための図面において、同一の構成要素には原則として同一の符号を付し、その繰り返しの説明は省略する。
【0011】
(1)情報処理システムの構成
情報処理システムの構成について説明する。
図1は、本実施形態の情報処理システムの構成を示すブロック図である。
【0012】
図1に示すように、情報処理システム1は、情報処理装置10と、ディスプレイ21と、撮影装置30とを備える。
【0013】
情報処理装置10は、コンピュータ(例えば、スマートフォン、タブレット端末、又は、パーソナルコンピュータ)である。情報処理装置10は、撮影装置30によって撮影された画像を取得し、当該画像に対する処理を行う。情報処理装置10は、ディスプレイ21に画像を表示させることでユーザに情報を提示する。
【0014】
ディスプレイ21は、画像(静止画、または動画)を表示するように構成される。ディスプレイ21は、例えば、液晶ディスプレイ、または有機ELディスプレイである。ディスプレイ21は、1つに限らず複数であってもよい。
【0015】
本実施形態の撮影装置30は、例えば深度センサを含み、センシングを行うことで点群データを生成する。以降の説明において、撮影とは深度センサによるセンシングを含むこととし、画像とは点群データを含むこととする。撮影装置30は、画像(点群データ)を情報処理装置10へ送信する。
【0016】
(1-1)情報処理装置の構成
情報処理装置の構成について説明する。
【0017】
図1に示すように、情報処理装置10は、記憶装置11と、プロセッサ12と、入出力インタフェース13と、通信インタフェース14とを備える。情報処理装置10は、ディスプレイ21、および撮影装置30に接続される。
【0018】
記憶装置11は、プログラム及びデータを記憶するように構成される。記憶装置11は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、及び、ストレージ(例えば、フラッシュメモリ又はハードディスク)の組合せである。
【0019】
プログラムは、例えば、以下のプログラムを含む。
・OS(Operating System)のプログラム
・情報処理を実行するアプリケーションのプログラム
【0020】
データは、例えば、以下のデータを含む。
・情報処理において参照されるデータベース
・情報処理を実行することによって得られるデータ(つまり、情報処理の実行結果)
【0021】
プロセッサ12は、記憶装置11に記憶されたプログラムを起動することによって、情報処理装置10の機能を実現するコンピュータである。プロセッサ12は、例えば、以下の少なくとも1つである。
・CPU(Central Processing Unit)
・GPU(Graphic Processing Unit)
・ASIC(Application Specific Integrated Circuit)
・FPGA(Field Programmable Array)
【0022】
入出力インタフェース13は、情報処理装置10に接続される入力デバイスから情報(例えば、画像、またはユーザの指示)を取得し、かつ、情報処理装置10に接続される出力デバイスに情報(例えば、画像)を出力するように構成される。
入力デバイスは、例えば、撮影装置30、キーボード、ポインティングデバイス、タッチパネル、又は、それらの組合せである。
出力デバイスは、例えば、ディスプレイ21、スピーカ、又は、それらの組合せである。
【0023】
通信インタフェース14は、情報処理装置10と外部装置(例えば図示しないサーバ)との間の通信を制御するように構成される。
【0024】
(2)実施形態の一態様
本実施形態の一態様について説明する。
図2は、本実施形態の撮影装置の設置環境の説明図である。
図3は、本実施形態の一態様の説明図である。
図4は、本実施形態の撮影装置から見た被写体を示す図である。
【0025】
図2に示すように、撮影装置30は、基準点P1に対して前(F)方向側に、当該基準点P1側を撮影可能に配置される。基準点P1は、例えばユーザが運動を行う場所の中心となる位置に定められる。
【0026】
また、基準点P1に対して右(SR)方向側に側面鏡40が設置される。側面鏡40は、撮影装置30が、基準点P1の付近に居るユーザの鏡像を撮影できるように位置および向きが定められる。側面鏡40の位置は、右方向よりも後(R)方向側にずれていてもよい。或いは、側面鏡40の位置は、基準点P1に対して左(SL)方向側であってもよいし、左方向よりも後方向側にずれていてもよい。
【0027】
図3に示すように、このような設置環境の下で、ユーザUS1(「対象」の一例)が身体の正面を基準点P1の前(F)方向に合わせて運動を行うとする。これにより、
図4に示すように、撮影装置30は、ユーザUS1を異なる視点から見た姿(つまり、正面の姿US1Fと右側面の姿US1S)を同時に撮影することができる。具体的には、撮影装置30は、ユーザUS1の正面から直接届く光L1と、ユーザUS1の右側面から側面鏡40によって反射されて届く光L2との両方を結像させる。これにより、撮影装置30は、ユーザUS1の正面の姿を写した第1部分画像(前頭面画像)と、ユーザUS1の右側面の姿の側面鏡40による鏡像を写した第2部分画像(矢状面画像)とを含む入力画像を生成する。
【0028】
情報処理装置10は、かかる入力画像を撮影装置30から取得し、基準点の前(F)方向側に位置する視点(「第1視点」の一例)から見たユーザUS1の輪郭(「第1輪郭」の一例)を第1部分画像に基づいて特定し、基準点の右(SR)方向に位置する視点(「第2視点」の一例)から見たユーザUS1の輪郭(「第2輪郭」の一例)を第2部分画像に基づいて特定する。情報処理装置10は、特定した輪郭の少なくとも1つに基づく情報をユーザUS1に提示する。
【0029】
基準点P1から側面鏡40までの距離は、ユーザUS1の右(SR)側面全体の鏡像を撮影するために必要とされる最小の距離d1以上に定められる。他方、基準点P1に対して右方向側に側面鏡40の代わりに別の撮影装置を設置した場合に当該撮影装置によりユーザUS1の右側面全体を撮影するために必要とされる最初の距離d2は、上記距離d1に比べて大きい。つまり、基準点P1に対して右方向側に別の撮影装置を設置する代わりに側面鏡40を設置し、基準点P1に対して前(F)方向側に設置された撮影装置30によって鏡像を撮影することで、情報処理システム1の左右方向の占有スペースを小さくできる。具体的には、側面鏡40から基準点P1までの距離が撮影装置30から基準点P1までの距離に比べて小さくなるように、撮影装置30および側面鏡40を設置できる。これにより、フィットネスジムにおいて複数の情報処理システム1を左右方向に高密度に配置することが可能となる。
【0030】
このように本実施形態の情報処理システム1によれば、複数方向からのユーザUS1の解析を限られたスペースで実現し、解析結果に基づく情報をユーザUS1にフィードバックすることができる。これにより、ユーザUS1は、姿勢を改善するよう促される。
【0031】
(3)情報処理
本実施形態の情報処理について説明する。
図5は、本実施形態の情報処理のフローチャートである。
図6は、入力画像に含まれる部分画像の例を示す図である。
図7は、
図5のステップS111の具体例のフローチャートである。
図8は、部分画像から推定されるボーンの例を示す図である。
図9は、部位の認識結果の例を示す図である。
図10は、輪郭の抽出結果の例を示す図である。
図11は、姿勢の評価結果の例を示す図である。
【0032】
図5の情報処理は、例えば情報処理装置10の入力デバイスに対するユーザの操作に応じて開始してもよいし、基準点の付近でユーザが検出されたことを条件に自動的に開始してもよい。基準点の付近とは、当該位置にユーザが居た場合に、撮影装置30がユーザの全身を撮影可能であるような位置の集合である。
【0033】
図5に示すように、情報処理装置10は、入力画像の取得(S110)を実行する。
具体的には、情報処理装置10は、撮影装置30から入力画像を取得する。
図6に示すように、入力画像は、基準点の付近に位置するユーザが写った第1部分画像I10Fと、側面鏡40によるユーザの鏡像が写った第2部分画像I10Sとを含む。なお、
図6の例では、色による区別をしていないが、点群データでは個々の点をその深度に応じた色によって表現可能である。
【0034】
ステップS110の後に、情報処理装置10は、輪郭の特定(S111)を実行する。
具体的には、情報処理装置10は、ステップS110において取得した入力画像に含まれる第1部分画像および第2部分画像に基づいてユーザの輪郭を特定する。情報処理装置10は、第1部分画像に基づいて、第1視点から見たユーザの第1輪郭を特定する。ここで、第1視点は、撮影装置30の設置方向に依存し、本実施形態では基準点に対して前(F)方向側に存在する。情報処理装置10は、第2部分画像に基づいて、第1視点とは異なる第2視点から見たユーザの第2輪郭を特定する。ここで、第2視点は、側面鏡40の設置方向に依存し、本実施形態では基準点に対して右(SR)方向側に存在する。
【0035】
以下、本実施形態の輪郭の特定(S111)の詳細を説明する。
図7に示すように、情報処理装置10は、骨格の推定(S1111)を実行する。
具体的には、情報処理装置10は、ステップS110において取得した入力画像に含まれる第1部分画像および第2部分画像に対して骨格推定処理を行う。これにより、
図8に示すように、情報処理装置10は、第1部分画像I10FのボーンB10Fと、第2部分画像I10SのボーンB10Sとを得る。
【0036】
ステップS1111の後に、情報処理装置10は、部位の認識(S1112)を実行する。
具体的には、情報処理装置10は、ステップS1111において推定したボーンを参照し、第1部分画像および第2部分画像を構成する点群とユーザの身体の部位との対応を認識する。これにより、
図9に示すように、第1部分画像I10Fおよび第2部分画像I10Sが、ユーザの身体の各部位に対応する点群領域によって分割される。
【0037】
ステップS1112の後に、情報処理装置10は、輪郭の抽出(S1113)を実行する。
具体的には、情報処理装置10は、ステップS1112における認識結果に基づいて、ユーザの身体のエンベロープ(つまり、包絡線または包絡面)から各部位における輪郭を抽出する。
図10に示すように、輪郭は、直線(線分)である。部位毎に複数の輪郭を抽出することで、骨格の推定結果のみからは評価し難い複雑な姿勢の歪みを定量的に評価したり、人間にも理解しやすい形式で可視化したりすることが可能となる。情報処理装置10は、ステップS1113を以て、輪郭の特定(S111)を終了する。
【0038】
図5に示すように、ステップS111の後に、情報処理装置10は、姿勢の評価(S112)を実行する。
具体的には、情報処理装置10は、ステップS111において特定した輪郭に基づいて、ユーザの各部位の姿勢を評価する。部位は、例えば、頭部、頸部、肩、胸部、腹部、背部、腰部、臀部、上腕、前腕、手、大腿、下腿、または足の少なくとも1つを含むことができる。
【0039】
第1例として、情報処理装置10は、ユーザに身体の部位の輪郭(線)のなす角度および長さを計測する。
【0040】
第2例として、情報処理装置10は、ユーザに身体の部位の輪郭(線)と、その対応する基準輪郭線との比較に基づいて、当該部位の姿勢を評価する。比較は、角度、長さ、またはそれらの組み合わせについて行うことができる。基準輪郭線の角度は、ユーザが行う運動の種目に応じて決定されてよい。基準輪郭線の長さは、ユーザの身体の採寸結果、またはユーザの体格を分類した結果に基づいて応じて決定されてよい。評価の具体例を以下に示す。
・情報処理装置10は、ユーザの背部の輪郭線と背部に対応する基準輪郭線との比較に基づいて、ユーザの骨盤の歪み(前傾もしくは後傾)の程度、またはユーザの背中もしくは腰の曲がりの程度を評価する。
・情報処理装置10は、ユーザの爪先の輪郭線と爪先に対応する基準輪郭線との比較に基づいてユーザの爪先の向きを評価する。
・情報処理装置10は、ユーザの肩の輪郭線と肩に対応する基準輪郭線との比較に基づいてユーザの肩をすくめる動きを検知する。
・情報処理装置10は、ユーザの顔の輪郭線と顔に対応する基準輪郭線との比較に基づいてユーザの顎の上がりの程度、または顔の左右の傾きを評価する。
【0041】
運動の種目は、ユーザ、ユーザの運動を指導するトレーナー、または情報処理システム1の管理者によって指定されてもよいし、ユーザの動きに基づいて認識されてもよい。運動の種目は、以下の基本的動作の少なくとも1つであってもよい。
・押す(push)
・引く(pull)
・プランク(plank)
・回転(rotate)
・ヒンジ(hinge)
・ランジ(lunge)
・スクワット(squat)
【0042】
ステップS112の後に、情報処理装置10は、情報の提示(S113)を実行する。
具体的には、情報処理装置10は、出力デバイスを介して種々の情報をユーザに提示する。情報処理装置10は、ステップS113を以て、本実施形態の情報処理を終了する。
情報処理装置10は、例えば以下の少なくとも1つを提示してもよい。
・撮影装置30によって撮影された画像、またはその一部
・第1部分画像および第2部分画像に基づき推定されるユーザの身体の3次元形状に関する情報
・ステップS111における輪郭の特定結果に関する情報
・ステップS112における姿勢の評価結果に関する情報
・ステップS112における姿勢の評価結果に基づく、ユーザに対する助言(例えば、ユーザの特定の部位の姿勢の改善を促す助言)に関する情報
【0043】
情報処理装置10は、スピーカを介して上記情報を含む音声をユーザに提示してもよいし、ディスプレイ21を介して上記情報を含む画像をユーザに提示してもよい。上記情報を提示するためのディスプレイ21は、基準面に対して前(F)方向に設置されてもよい。加えて、かかるディスプレイ21と基準点との間にハーフミラーが設置されてもよい。これにより、ユーザは、平常時はハーフミラーに映った自らの正面の姿を確認することができ、提示される情報が発生した場合にはハーフミラー越しにディスプレイ21の表示内容を確認することができる。
【0044】
(4)小括
以上説明したように、本実施形態の情報処理装置10は、撮影装置30によって撮影された入力画像のうち基準点の付近に位置するユーザが写った第1部分画像に基づいてユーザの身体の第1輪郭を特定し、入力画像のうち側面鏡40によるユーザの鏡像が写った第2部分画像に基づいてユーザの身体の第2輪郭を特定する。情報処理装置10は、第1輪郭または第2輪郭の少なくとも1つに基づく情報をユーザに提示する。これにより、ユーザの右方向側または左方向側に確保しなければならないスペースを抑制しながら、2方向からユーザの身体の輪郭を解析することができる。
【0045】
本実施形態の情報処理装置10は、第1輪郭または第2輪郭の少なくとも1つに基づいて、基準点の付近で運動するユーザの身体の部位の姿勢を評価し、評価結果に応じた情報をユーザに提示してもよい。これにより、ユーザに、適切な姿勢で運動を行えているかどうかを認識させることができる。評価結果に応じた情報は、ユーザの身体の部位の姿勢に関する助言であってもよい。これにより、ユーザにどのように姿勢を改善すべきかを伝えことができる。情報処理装置10は、かかる助言を含む音声をユーザに提示してもよい。これにより、ユーザがディスプレイ21に注意を向けていない状況であっても、ユーザにどのように姿勢を改善すべきかを伝えることができる。
【0046】
本実施形態において、基準点に対して前方にハーフミラーが設置され、かつ基準点に対して当該ハーフミラー越しにディスプレイ21が設置されてもよい。この場合に、本実施形態の情報処理装置10は、このディスプレイ21に情報を表示してもよい。これにより、ユーザは、平常時はハーフミラーに映った自らの正面の姿を確認することができ、提示される情報が発生した場合にはハーフミラー越しにディスプレイ21の表示内容を確認することができる。
【0047】
本実施形態の情報処理装置10は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの身体の部位の輪郭線がなす角度を評価してもよい。これにより、ユーザの身体の部位の姿勢を定量的に評価することができる。
【0048】
本実施形態の情報処理装置10は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの身体の部位の輪郭線を特定し、当該輪郭線と基準輪郭線との比較に基づいて当該部位の姿勢を評価してもよい。これにより、ユーザの身体の部位の姿勢を理想的な姿勢とのずれにより評価することができる。情報処理装置10は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの背部の輪郭線を特定し、当該輪郭線と基準輪郭線との比較に基づいてユーザの骨盤の歪み、またはユーザの背中もしくは腰の曲がりを評価してもよい。これにより、骨格の推定結果のみからは評価し難い骨盤の歪み、または背中もしくは腰の曲がりを定量的に評価することができる。情報処理装置10は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの爪先の輪郭線を特定し、当該輪郭線と基準輪郭線との比較に基づいてユーザの爪先の向きを評価してもよい。これにより、骨格の推定結果のみからは評価し難い爪先の向きを定量的に評価することができる。
【0049】
本実施形態において、撮影装置30および側面鏡40は、側面鏡40から基準点までの距離が撮影装置30から基準点までの距離に比べて小さくなるように設置されてよい。これにより、ユーザの右方向側または左方向側に確保しなければならないスペースを、ユーザの前方向側に確保しなければならないスペースに比べて抑制することができる。
【0050】
(5)変形例
本実施形態の変形例について説明する。
【0051】
(5-1)変形例1
変形例1について説明する。変形例1は、RGBカメラを含む撮影装置30を利用する例である。
【0052】
(5-1-1)情報処理
変形例1の情報処理について説明する。
図12は、入力画像(RGB画像)に含まれる部分画像の例を示す図である。
図13は、
図5のステップS111の変形例のフローチャートである。
図14は、部分画像から推定されるボーンの例を示す図である。
図15は、部分画像のシルエットの例を示す図である。
【0053】
情報処理装置10は
図5と同様に、入力画像の取得(S110)を実行する。
具体的には、情報処理装置10は、撮影装置30から入力画像を取得する。
図12に示すように、入力画像は、基準点の付近に位置するユーザが写った第1部分画像I20Fと、側面鏡40によるユーザの鏡像が写った第2部分画像I20Sとを含む。
【0054】
ステップS110の後に、情報処理装置10は
図5と同様に、輪郭の特定(S111)を実行する。
具体的には、情報処理装置10は、ステップS110において取得した入力画像に含まれる第1部分画像および第2部分画像に基づいてユーザの輪郭を特定する。情報処理装置10は、第1部分画像に基づいて、第1視点から見たユーザの第1輪郭を特定する。情報処理装置10は、第2部分画像に基づいて、第1視点とは異なる第2視点から見たユーザの第2輪郭を特定する。
【0055】
以下、変形例1の輪郭の特定(S111)の詳細を説明する。
図13に示すように、情報処理装置10は、骨格の推定(S2111)を実行する。
具体的には、情報処理装置10は、ステップS110において取得した入力画像に含まれる第1部分画像および第2部分画像に対して骨格推定処理を行う。これにより、
図14に示すように、情報処理装置10は、第1部分画像I20FのボーンB20Fと、第2部分画像I20SのボーンB20Sとを得る。
【0056】
ステップS2111の後に、情報処理装置10は、部位の認識(S2112)を実行する。
具体的には、情報処理装置10は、第1部分画像および第2部分画像の三次元位置合わせを行う。前述のように第1部分画像は第1視点から見たユーザの姿を表し、第2部分画像は第2視点から見たユーザの鏡像を表す。故に、撮影装置30および側面鏡40の間の位置関係と、撮影装置30の向きと、側面鏡40の向きとが既知であるならば、情報処理装置10は、第1部分画像および第2部分画像の間の対応点について、第1視点または第2視点から当該対応点までの距離(つまり、深度)を算出できる。つまり、情報処理装置10は、第1部分画像および第2部分画像の間の対応点について、ユーザの身体の三次元形状の情報を取得できる。
【0057】
そして、情報処理装置10は、ステップS2111において推定したボーンを参照し、第1部分画像および第2部分画像を構成する画素とユーザの身体の部位との対応を認識する。これにより、第1部分画像および第2部分画像が、ユーザの身体の部位に対応する画素領域によって分割される。さらに、情報処理装置10は、第1部分画像および第2部分画像の間の対応点となる画素について、当該画素の深度を参照して当該画素とユーザの身体の部位との対応を認識してもよい。
【0058】
ステップS2112の後に、情報処理装置10は、シルエット化(S2113)を実行する。
具体的には、情報処理装置10は、ステップS110において取得した入力画像に含まれる第1部分画像および第2部分画像に対してシルエット化処理を行う。これにより、
図15に示すように、情報処理装置10は、第1部分画像I20Fのシルエット画像S20Fと、第2部分画像I20Sのシルエット画像S20Sとを得る。
【0059】
ステップS2113の後に、情報処理装置10は、輪郭の抽出(S2114)を実行する。
具体的には、情報処理装置10は、ステップS2112における認識結果に基づいて、ステップS2113において生成したシルエット画像の包絡線から各部位における輪郭を抽出する。さらに、情報処理装置10は、第1部分画像および第2部分画像の間の対応点となる画素について、当該画素の深度を参照して部位のエンベロープ(つまり、包絡線または包絡面)を推定し、当該エンベロープから輪郭を抽出してもよい。本実施形態と同様に、輪郭は、直線(線分)である。部位毎に複数の輪郭を抽出することで、骨格の推定結果のみからは評価し難い姿勢の歪みを定量的に評価したり、人間にも理解しやすいように可視化したりすることが可能となる。情報処理装置10は、ステップS2114を以て、輪郭の特定(S111)を終了する。
【0060】
ステップS111の後に、情報処理装置10は
図5と同様に、姿勢の評価(S112)、および情報の提示(S113)を実行する。情報処理装置10は、ステップS113を以て、変形例1の情報処理を終了する。
【0061】
(5-1-2)小括
以上説明したように、変形例1の情報処理装置10は、RGBカメラを含む撮影装置30を利用してユーザの身体の部位の輪郭を特定し、当該輪郭に基づく情報を提示する。これにより、本実施形態に比べて、撮影装置30のコストを低減することができる。
【0062】
変形例1の情報処理装置10は、撮影装置30および側面鏡40の間の位置関係と、撮影装置30および側面鏡40の向きとに基づいて、第1部分画像と第2部分画像との間の対応点の深度を算出し、当該深度に基づいて輪郭を特定し、またはユーザの身体の部位の姿勢を評価してもよい。これにより、深度センサを用いることなく、ユーザの身体の部位の一部について三次元形状の情報に基づく輪郭の特定、または姿勢の推定を行うことができる。
【0063】
(5-2)変形例2
変形例2について説明する。変形例2は、本実施形態または変形例1において、情報の解析および提示を三次元ドメインでは行わない例である。
【0064】
第1例として、本実施形態の輪郭の抽出(S1113)は、以下のように変形される。具体的には、変形例2の情報処理装置10は、ステップS1112における認識結果に基づいて、ユーザの身体の(二次元の)包絡線から各部位における輪郭を抽出する。包絡線は、ユーザの身体の包絡面のうち、第1部分画像および第2部分画像に対応する平面と交差する曲線である。第1部分画像に対応する平面は例えば前後(F-R)方向に直交する平面に定められ、第2部分画像に対応する平面は例えば側面鏡40の鏡面に平行な平面に定められる。
また、本実施形態の情報の提示(S113)は、第1部分画像および第2部分画像に基づき推定されるユーザの身体の3次元形状に関する情報を提示しないように変形される。
【0065】
第2例として、変形例1の部位の認識(S2112)は、第1部分画像および第2部分画像の三次元位置合わせを行わない(つまり、画素の深度を算出しない)ように変形され、かつ画素の深度を参照した当該画素とユーザの身体の部位との対応の認識を行わないように変形される。また、変形例1の輪郭の抽出(S2114)は、画素の深度を参照した部位のエンベロープの推定、および当該エンベロープからの輪郭の抽出を行わないように変形される。
【0066】
(5-3)変形例3
変形例3について説明する。変形例3は、姿勢の評価結果に基づいて、ユーザ、またはユーザに対して運動に関するサービスを提供する者(例えば、パーソナルトレーナー、トレーニング施設関係者、またはパーソナルトレーナーもしくはトレーニング施設とユーザとを仲介する仲介者であり、以下、「サービス提供者」という)に対して様々な有益な情報を提示する例である。
【0067】
第1例として、情報処理装置10は、姿勢の評価結果に基づいて、ユーザの重点部位を特定し得る。重点部位は、ユーザの身体の部位のうち、例えば、筋力、持久力、柔軟性、バランス能力、またはこれらの組み合わせが相対的に小さいため適切に稼働していない部位であり、ユーザにとって重点的に補強が必要な部位である。情報処理装置10は、重点部位の情報を、ユーザ、またはサービス提供者に提示してもよい。重点部位の情報をサービス提供者に提示することで、サービス提供者は、ユーザの重点部位を考慮して当該ユーザに対するサービス内容を決定できる。また、情報処理装置10は、ユーザの重点部位の情報に基づいて、ユーザに対して当該重点部位のトレーニングを得意とするトレーナー(パーソナルトレーナー、またはトレーニング施設に所属するトレーナー)を紹介してもよい。或いは、情報処理装置10は、ユーザの重点部位の情報に基づいて、ユーザに対して当該重点部位のトレーニングに適した運動の種目、トレーニング機器、またはトレーニング施設を紹介してもよい。さらに、情報処理装置10は、ユーザの重点部位の情報に基づいて、ユーザ向けの複数の運動の種目からなるトレーニングメニューを自動作成し、ユーザ、またはサービス提供者に提示してもよい。トレーニングメニューに含まれる運動の種目は、例えばサービス提供者が提供可能なトレーニング機器に基づいて選択されてもよい。なお、トレーナーが得意とする部位の情報は、図示しないデータベースにより管理することができる。同様に、各部位のトレーニングに適した運動の種目、トレーニング機器、またはトレーニング施設の情報は、図示しないデータベースにより管理することができる。
【0068】
第2例として、情報処理装置10は、姿勢の評価結果に基づいて、ユーザの不調部位を特定し得る。不調部位は、ユーザの身体の部位のうち通常に比べて動きの悪い部位である。情報処理装置10は、ユーザ不調部位を特定するために、当該ユーザについて過去に収集した輪郭の情報を参照してもよい。情報処理装置10は、不調部位の情報を、ユーザ、またはサービス提供者に提示してもよい。不調部位の情報をサービス提供者に提示することで、サービス提供者は、ユーザの不調部位を考慮して当該ユーザに対するサービス内容を決定できる。また、情報処理装置10は、ユーザの不調部位の情報に基づいて、ユーザに対して当該不調部位のコンディショニングまたはトレーニングを得意とするトレーナー(パーソナルトレーナー、またはトレーニング施設に所属するトレーナー)を紹介してもよい。或いは、情報処理装置10は、ユーザの不調部位の情報に基づいて、ユーザに対して当該不調部位のコンディショニングまたはトレーニングに適した運動の種目、トレーニング機器、またはトレーニング施設を紹介してもよい。さらに、情報処理装置10は、ユーザの不調部位の情報に基づいて、ユーザ向けの複数の運動の種目からなるトレーニングメニューを自動作成し、ユーザ、またはサービス提供者に提示してもよい。トレーニングメニューに含まれる運動の種目は、例えばサービス提供者が提供可能なトレーニング機器に基づいて選択されてもよい。なお、トレーナーが得意とする部位の情報は、図示しないデータベースにより管理することができる。同様に、各部位のトレーニングまたはコンディショニングに適した運動の種目、トレーニング機器、またはトレーニング施設の情報は、図示しないデータベースにより管理することができる。
【0069】
(6)その他の変形例
記憶装置11は、ネットワークNWを介して、情報処理装置10と接続されてもよい。ディスプレイ21は、情報処理装置10に備え付けであってもよいし、外付けであってもよい。
【0070】
本実施形態では、基準点に対して前(F)方向側に撮影装置30を設置する例を示した。
しかしながら、撮影装置30は、基準点に対して後(R)方向側に設置されてもよい。この場合に、側面鏡40に加えて、または側面鏡40の代わりに、正面鏡が設置されてもよい。正面鏡は、基準点に対して前方向側に設置される。正面鏡はハーフミラーであってよく、この場合に正面鏡およびディスプレイ21を組み合わせて、ディスプレイ21に表示された情報(例えば、ユーザの背面画像)を正面鏡越しに、基準点の付近に居るユーザに提示することもできる。背面画像を表示することで、ユーザに見る機会の少ない自身の背面の姿を観察させることができる。
或いは、撮影装置30は、基準点に対して左(SL)方向側、または右(SR)方向側に設置されてもよい。この場合に、側面鏡40は、基準点に対して撮影装置30とは反対側に配置される。または、側面鏡40の代わりに、正面鏡または背面鏡が設置されてもよい。正面鏡は、基準点に対して前方向側に設置され、背面鏡は基準点に対して後方向側に設置される。正面鏡はハーフミラーであってよく、この場合に正面鏡およびディスプレイ21を組み合わせて、ディスプレイ21に表示された情報(例えば、ユーザの背面画像)を正面鏡越しに、基準点の付近に居るユーザに提示することもできる。
【0071】
本実施形態では、基準点に対して右(SR)方向側、または左(SL)方向側に側面鏡40を設置する例を示した。しかしながら、側面鏡40に加えて、または側面鏡40の代わりに、正面鏡が基準点に対して前(F)方向側に設置されてもよい。この場合に、基準点に対して後(R)方向側、右方向側、または左方向側に撮影装置30を設置することで、ユーザの正面の姿の鏡像を撮影することが可能になる。同様に、側面鏡40に加えて、または側面鏡40の代わりに、背面鏡が基準点に対して後(R)方向側に設置されてもよい。この場合に、基準点に対して前方向側、右方向側、または左方向側に撮影装置30を設置することで、ユーザの背面の姿の鏡像を撮影することが可能になる。
【0072】
撮影装置30と鏡が基準点に関して対向する位置関係となるように設置する(例えば、撮影装置30が基準点に対して前(F)方向側に設置され、背面鏡が基準点に対して後(R)方向側に設置する)ことで、情報処理システム1の占有スペースを線状(つまり細幅)にすることができる。
【0073】
情報処理装置10は、第2部分画像にユーザの全身が写り込んでいるか否かを判定し、第2部分画像にユーザの全身が写り込むようにユーザに位置の変更を促してもよい。特に、撮影装置30と鏡が基準点に関して対向する位置関係にある場合に、ユーザの身体によって鏡像の撮影が妨げられるおそれがある。撮影装置30および鏡を対向配置し、かつ必要に応じてユーザに位置の変更を促すことで、情報処理システム1の占有スペースを線状にしながらも解析に適した入力画像を取得することが容易になる。
【0074】
複数の撮影装置30のうち1つ(以下、「上面撮影装置30T」という)が、基準点に対して上方向側(つまり、天井側)に設置されてもよい。上面撮影装置30Tは、下方向側(つまり、床側)を撮影することで、ユーザを上方向側から見た姿を写した第3部分画像(横断面画像)を含む入力画像を生成する。この場合に、情報処理装置10は、基準点の上方向に位置する視点(「第3視点」の一例)から見たユーザの輪郭(「第3輪郭」の一例)を第3部分画像に基づいて特定し、当該輪郭にさらに基づいて姿勢の評価または情報の提示を行うことができる。これにより、例えば上方向側からの観察に適した部位の姿勢(例えば爪先の向き)を高精度に評価することが可能となる。
或いは、上面撮影装置30Tの代わりに、基準点に対して上方向側に上面鏡が設置され、複数の撮影装置30のうち1つ(以下、「上面鏡用撮影装置30B」という)が当該上面鏡に対して下方に設置されてもよい。上面鏡用撮影装置30Bは、上方向側を撮影することで、上面鏡によるユーザの鏡像が写った第3部分画像(横断面画像)を含む入力画像を生成する。この場合に、情報処理装置10は、基準点の上方向に位置する視点(「第3視点」の一例)から見たユーザの輪郭(「第3輪郭」の一例)を第3部分画像に基づいて特定し、当該輪郭にさらに基づいて姿勢の評価または情報の提示を行うことができる。これにより、例えば上方向側からの観察に適した部位の姿勢(例えば爪先の向き)を高精度に評価することが可能となる。
【0075】
本実施形態では、1つの撮影装置30を用いる例を示した。しかしながら、複数の撮影装置30を組み合わせて利用することもできる。
第1例として、第1撮影装置30-1は深度センサを含み、第2撮影装置30-2はRGBカメラを含む。例えば、第2撮影装置30-2によって撮影された画像に基づいて骨格の推定を行い、この推定結果に基づいて第1撮影装置30-1によって撮影された画像から輪郭を抽出してもよい。
第2例として、第1撮影装置30-1は以下の場所のいずれかに設置され、第2撮影装置30-2は以下の場所のうち第1撮影装置30-1とは異なる場所に設置される。
・基準点に対して前(F)方向側
・基準点に対して後(R)方向側
・基準点に対して左(SL)方向側
・基準点に対して右(SR)方向側
第3例として、第1撮影装置30-1および第2撮影装置30-2は、ともに基準点に対して前(F)方向側、後(R)方向側、左(SL)方向側、または右(SR)方向側のいずれかに設置され、第1撮影装置30-1は基準点の付近に焦点が合うように調整され、第2撮影装置30-2は鏡付近に焦点が合うように調整される。そして、情報処理装置10は、第1撮影装置30-1によって撮影された入力画像から第1部分画像を抽出し、第2撮影装置30-2によって撮影された入力画像から第2部分画像を抽出する。これにより、鮮明な第1部分画像および第2部分画像を取得し、輪郭の特定および姿勢の評価を高精度に行うことができる。
【0076】
本実施形態では、ユーザの身体の部位の姿勢の評価を行う例を示した。この姿勢の評価結果を、仮想空間におけるオブジェクトの操作入力として用いることもできる。つまり、情報処理装置10は、ユーザの身体の部位の姿勢の評価結果に応じて、仮想空間における操作対象(例えば、アバターなどのオブジェクト)の対応する部位の姿勢を制御してもよい。これにより、ユーザは、自らの身体を使って、仮想空間における操作対象を直感的に動かすことが可能となる。
【0077】
情報処理装置10は、ユーザの単位運動の繰り返しに相当する運動(例えば、デッドリフト、ベンチプレス、トレッドミル上でのランニング、ヨガ、ステーショナリーバイクのペダル漕ぎ)を行う場合に、ユーザが1周期分の運動に要する所要時間を計測し、所要時間が基準値を上回るとユーザに情報(例えばオーバーワークであることの警告)を提示してもよい。所要時間は、例えば、ユーザの画像、骨格、または輪郭に基づいて計測され得る。基準値は、予め定められてもよいし、ユーザについて計測された最小の所要時間(例えば1回目の単位運動の所要時間)に所定比率(例えば、1.2)を乗じた値であってもよい。
【0078】
情報処理装置10は、ユーザの身体の部位に加えてユーザの周囲の運動器具(例えば、バーベル、ダンベル、ケトルベルなど)の輪郭を特定し、当該輪郭に基づく姿勢の評価または情報の提示を行ってもよい。
第1例として、情報処理装置10は、ユーザがデッドリフトを行う場合に、バーがユーザのスネの位置まで下りているか否かを判定し、バーがユーザのスネの位置まで下りていない場合にユーザに情報(例えば、姿勢が適切でないことの警告、またはバーをスネの位置まで下ろすことを推奨する助言)を提示してもよい。
第2例として、情報処理装置10は、ユーザがベンチプレスを行う場合に、バーの輪郭の角度を評価し、バーが水平でないことを検知した場合に、ユーザに情報(例えば、姿勢が適切でないことの警告、またはバーを水平に保つことを推奨する助言)を提示してもよい。
【0079】
変形例1では、入力画像(RGB画像)をシルエット化し、シルエット画像から輪郭を抽出する例を示した。しかしながら、入力画像が点群データである場合にも当該入力画像をシルエット化し、シルエット画像から輪郭を抽出してもよい。これにより、点群の境界を明確化し、輪郭の抽出が容易になる。また、入力画像の形式(RGB画像または点群データ)に関わらず同一のアルゴリズムを適用できるので、モジュールの共通化が可能である。
また、入力画像の形式(RGB画像または点群データ)をシルエット化する場合に、必ずしもユーザの全身をシルエット化せずともよい。つまり、入力画像のうちユーザの身体の特定の部位(以下、「シルエット化対象部位」という)に対応する部分をシルエット化し、輪郭を中シュツしてもよい。これにより、入力画像において、ある部位と別の部位とが重なっている場合にも、輪郭の抽出が容易となる。なお、情報処理装置10は、入力画像のうちシルエット化対象部位以外の部位に対応する部分を輪郭の抽出対象から除外してもよいし、当該部分をシルエット化することなく輪郭を抽出してもよい。
ここで、シルエット化対象部位は、例えば腕などに固定的に定められてもよいし、様々なパラメータに基づいて動的に定められてもよい。第1例として、シルエット化対象部位は、深度情報に基づいて決定されてもよい。一例として、情報処理装置10は、基準となる深度(例えば、頭部、胸部、腹部、または腰部、などの深度)よりも前(F)方向側にある部位をシルエット化対象部位として選択し得る。第2例として、シルエット化対象部位は、ユーザの運動の種目に基づいて決定されてもよい。例えば、手または腕を大きく動かす種目では、情報処理装置10は、上腕、前腕、または手をシルエット化対象部位として選択し得る。例えば、足または脚を大きく動かす種目では、情報処理装置10は、大腿、下腿、または足をシルエット化対象部位として選択し得る。
【0080】
本実施形態では、ユーザが自身の希望する、またはトレーナーによって指定された種目の運動を行う例を説明した。しかしながら、情報処理システム1が、ユーザが行う運動の種目を提案してもよい。例えば、情報処理システム1は、ユーザの装着するウェアラブルデバイスからユーザの活動に関する情報を取得し、ユーザに提案する運動の種目を決定してもよい。具体的には、情報処理システム1は、座っている時間が長いユーザに対して脚を鍛えるためのトレーニングを提案してもよい。或いは、情報処理システム1は、ユーザに提案する運動の種目をランダムに決定してもよい。さらに、情報処理システム1は、提案した種目の運動を行うユーザの姿勢に基づいて、次に提案する種目を決定してもよい。
【0081】
ある情報処理システム1においてユーザから収集された情報、またはユーザもしくはサービス提供者に提示された情報は、他の情報処理システム1と共有されてよい。これにより、ユーザは、同一の情報処理システム1を継続して使用せずとも、自らの身体に関する情報を蓄積し、蓄積された情報に基づいてよりパーソナライズサービスの提供を受けることができる。
第1例として、同一のトレーニング施設に設置された複数の情報処理システム1の間で情報が共有されてよい。第2例として、同一系列に属する異なるトレーニング施設に設置された複数の情報処理システム1の間で情報が共有されてよい。第3例として、様々な場所(ユーザの自宅、または異なる系列に属するトレーニング施設)に設置された複数の情報処理システム1が共通のサーバ(例えばクラウドサーバ)にネットワーク経由で接続され、当該クラウドサーバに情報が蓄積されてよい。第3例では、ユーザ認証の成功を条件に当該ユーザが使用する情報処理システム1により情報が一時的に収集または提示され、ユーザの使用後に当該情報はサーバに移転され得る。
【0082】
本実施形態では、基準点の付近に位置するユーザ(つまり、人間)を撮影する例を示した。しかしながら、撮影の対象は、人間に限らず、種々の生物、または物体であってもよい。
【0083】
実施形態の情報処理システムを、スタンドアロン型のコンピュータによって実装する例を示した。しかしながら、実施形態の情報処理システムは、クライアント/サーバ型のシステム、またはピア・ツー・ピア型のシステムによって実装することもできる。この場合に、情報処理の各ステップは、任意の装置が担当可能である。また、上記説明では、各処理において各ステップを特定の順序で実行する例を示したが、各ステップの実行順序は、依存関係がない限りは説明した例に制限されない。
【0084】
(8)付記
実施形態および変形例で説明した事項を、以下に付記する。
【0085】
(付記1)
コンピュータ(10)を、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置(30)によって撮影された入力画像を取得する手段(S110)、
入力画像のうち基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た対象の第1輪郭を特定し、入力画像のうち基準点に対して側方に設置された側面鏡40による対象の鏡像が写った第2部分画像に基づいて第1視点とは異なる第2視点から見た対象の第2輪郭を特定する手段(S111)、
第1輪郭または第2輪郭の少なくとも1つに基づく情報を提示する手段(S112)、
として機能させるプログラム。
【0086】
(付記2)
対象は、基準点の付近で運動するユーザであって、
コンピュータを、第1輪郭または第2輪郭の少なくとも1つに基づいてユーザの身体の部位の姿勢を評価する手段(S112)としてさらに機能させ、
情報を提示する手段は、ユーザの身体の部位の姿勢の評価結果に応じた情報を当該ユーザに提示する、
付記1に記載のプログラム。
【0087】
(付記3)
情報を提示する手段は、ユーザの身体の部位の姿勢に関する助言をユーザに提示する、
付記2に記載のプログラム。
【0088】
(付記4)
情報を提示する手段は、ユーザの身体の部位の姿勢に関する助言を含む音声をユーザに提示する、
付記3に記載のプログラム。
【0089】
(付記5)
基準点に対して前方にハーフミラーが設置され、
情報を提示する手段は、基準点に対してハーフミラー越しに設置されたディスプレイ(21)に情報を表示する、
付記2乃至付記4のいずれかに記載のプログラム。
【0090】
(付記6)
撮影装置の少なくとも1つは基準点に対して後方に設置され、
情報を提示する手段は、第1部分画像に基づくユーザの背面画像をディスプレイに表示する、
付記5に記載のプログラム。
【0091】
(付記7)
姿勢を評価する手段は、撮影装置および側面鏡の間の位置関係と、撮影装置および側面鏡の向きとに基づいて、第1部分画像と第2部分画像との間の対応点の深度を算出し、当該深度に基づいてユーザの身体の部位の姿勢を評価する、
付記2乃至付記6のいずれかに記載のプログラム。
【0092】
(付記8)
姿勢を評価する手段は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの身体の部位の輪郭線がなす角度を評価する、
付記2乃至付記7のいずれかに記載のプログラム。
【0093】
(付記9)
姿勢を評価する手段は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの身体の部位の輪郭線を特定し、ユーザの身体の部位の輪郭線と基準輪郭線との比較に基づいて当該部位の姿勢を評価する、
付記2乃至付記8のいずれかに記載のプログラム。
【0094】
(付記10)
姿勢を評価する手段は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの背部の輪郭線を特定し、ユーザの背部の輪郭線と基準輪郭線との比較に基づいて、ユーザの骨盤の歪み、またはユーザの背中もしくは腰の曲がりを評価する、
付記9に記載のプログラム。
【0095】
(付記11)
姿勢を評価する手段は、第1輪郭または第2輪郭の少なくとも1つに基づいて、ユーザの爪先の輪郭線を特定し、ユーザの爪先の輪郭線と基準輪郭線との比較に基づいてユーザの爪先の向きを評価する、
付記9に記載のプログラム。
【0096】
(付記12)
コンピュータを、ユーザの身体の部位の姿勢の評価結果に応じて、仮想空間における操作対象の対応する部位の姿勢を制御する手段、としてさらに機能させる、
付記2乃至付記11のいずれかに記載のプログラム。
【0097】
(付記13)
撮影装置および側面鏡は、側面鏡から基準点までの距離が撮影装置から基準点までの距離に比べて小さくなるように設置される、
付記1乃至付記12のいずれかに記載のプログラム。
【0098】
(付記14)
1以上の撮影装置は、基準点の付近に焦点を合わせた第1撮影装置と、側面鏡の付近に焦点を合わせた第2撮影装置とを含み、
特定する手段は、第1撮影装置によって撮影された入力画像に含まれる第1部分画像に基づいて第1輪郭を特定し、第2撮影装置によって撮影された入力画像に含まれる第2部分画像から第2輪郭を特定する、
付記1乃至付記13のいずれかに記載のプログラム。
【0099】
(付記15)
入力画像を取得する手段は、基準点に対して上方向側に設置された上面撮影装置によって撮影された入力画像をさらに取得し、
特定する手段は、上面撮影装置によって撮影された入力画像のうち対象が写った第3部分画像に基づいて、第1視点および第2視点とは異なる第3視点から見た対象の第3輪郭を特定し、
情報を提示する手段は、第1輪郭、第2輪郭、または第3輪郭の少なくとも1つに基づく情報を提示する、
付記1乃至付記14のいずれかに記載のプログラム。
【0100】
(付記16)
入力画像を取得する手段は、基準点に対して上方向側に設置された上面鏡に対して下方に設置された上面鏡用撮影装置によって撮影された入力画像をさらに取得し、
特定する手段は、上面鏡用撮影装置によって撮影された入力画像のうち上面鏡による対象の鏡像が写った第3部分画像に基づいて、第1視点および第2視点とは異なる第3視点から見た対象の第3輪郭を特定し、
情報を提示する手段は、第1輪郭、第2輪郭、または第3輪郭の少なくとも1つに基づく情報を提示する、
付記1乃至付記14のいずれかに記載のプログラム。
【0101】
(付記17)
コンピュータ(10)を、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置(30)によって撮影された入力画像を取得する手段(S110)、
入力画像のうち基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た対象の第1輪郭を特定し、入力画像のうち基準点に対して前方向側または後方向側のいずれかであって撮影装置の少なくとも1つとは反対側に設置された鏡による対象の鏡像が写った第2部分画像に基づいて第1視点とは異なる第2視点から見た対象の第2輪郭を特定する手段(S111)、
第1輪郭または第2輪郭の少なくとも1つに基づく情報を提示する手段(S113)、
として機能させるプログラム。
【0102】
(付記18)
鏡は、基準点に対して後方に設置され、
コンピュータを、入力画像に対象の鏡像の全体が写り込むように対象に位置の変更を促す手段、としてさらに機能させる、
付記17に記載のプログラム。
【0103】
(付記19)
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置(30)によって撮影された入力画像を取得する手段(S110)と、
入力画像のうち基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た対象の第1輪郭を特定し、入力画像のうち基準点に対して側方に設置された側面鏡(40)による対象の鏡像が写った第2部分画像に基づいて第1視点とは異なる第2視点から見た対象の第2輪郭を特定する手段(S111)と、
第1輪郭または第2輪郭の少なくとも1つに基づく情報を提示する手段(S113)と
を具備する情報処理装置(10)。
【0104】
(付記20)
コンピュータ(10)が、
基準点に対して前方向側、または後方向側に設置された1以上の撮影装置(30)によって撮影された入力画像を取得するステップ(S110)と、
入力画像のうち基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た対象の第1輪郭を特定し、入力画像のうち基準点に対して側方に設置された側面鏡(40)による対象の鏡像が写った第2部分画像に基づいて第1視点とは異なる第2視点から見た対象の第2輪郭を特定するステップ(S111)と、
第1輪郭または第2輪郭の少なくとも1つに基づく情報を提示するステップ(S113)と
を具備する情報処理方法。
【0105】
以上、本発明の実施形態について詳細に説明したが、本発明の範囲は上記の実施形態に限定されない。また、上記の実施形態は、本発明の主旨を逸脱しない範囲において、種々の改良や変更が可能である。また、上記の実施形態及び変形例は、組合せ可能である。
【符号の説明】
【0106】
1 :情報処理システム
10 :情報処理装置
11 :記憶装置
12 :プロセッサ
13 :入出力インタフェース
14 :通信インタフェース
21 :ディスプレイ
30 :撮影装置
40 :側面鏡
【要約】
【課題】複数方向からの対象の解析を限られたスペースで実現する。
【解決手段】本開示の一態様のプログラムは、コンピュータを、基準点に対して前方向側、または後方向側に設置された1以上の撮影装置によって撮影された入力画像を取得する手段、入力画像のうち基準点の付近に位置する対象が写った第1部分画像に基づいて第1視点から見た対象の第1輪郭を特定し、入力画像のうち基準点に対して側方に設置された側面鏡による対象の鏡像が写った第2部分画像に基づいて第1視点とは異なる第2視点から見た対象の第2輪郭を特定する手段、第1輪郭または第2輪郭の少なくとも1つに基づく情報を提示する手段、として機能させる。
【選択図】
図5