(58)【調査した分野】(Int.Cl.,DB名)
前記捕捉した画像が、画像;様々なビューからの画像;見ることができる又は抽出することができる画像特徴及びデータ;見ることができない又は視覚化することができない特徴及びデータ;深さデータ;キーポイント;独特の顔特徴;一般的なボディ特徴;時空間的特徴のうちの1以上を含む請求項1に記載の装置。
前記写真が、標準的な二次元(2D)の二値、グレー、又はカラー画像;色及び/又はテクスチャを有するか又は有しない奥行き画像;色及び/又はテクスチャを有するか又は有しない前記ボディの完全三次元(3D)点群又は多数の不完全点群;及び/又は色及び/又はテクスチャを有するか又は有しない前記ボディの三次元(3D)メッシュのうちの少なくとも1つを含む請求項5に記載の装置。
前記視覚的及び聴覚的補助を提供することが、可聴音/単語/セリフを介して、前記ボディの部分を位置合わせプロセスにしたがって位置合わせするように前記ユーザに指示することを含み、前記電子プログラム命令が、形状、ポーズ、時空間的特徴を含む特性間で計算される誤差によって前記位置合わせプロセスを制御するように操作可能である請求項1から6のいずれかに記載の装置。
色及び/又はテクスチャを有するか又は有しない奥行き画像、点群、及びメッシュの場合、前記コントローラが、前記ボディの三次元の対象特有の形状を再構築するように前記電子プログラム命令の制御下で操作可能である請求項8に記載の装置。
前記マトリクスWが、前記予測プロセスの学習プロセス中に一度だけオフラインで計算され、次いで、他のアバターの予測又は作成に用いられる前記参照スケルトンモデルJKと共に保存され、前記Wの目的が、ジョイント、ボーン、並びに頂点V、エッジE、及び面Fによって表される実際の3Dアバター表面の関係をコンストレイン、制御、及びモデリングすることである請求項12に記載の装置。
前記得られたデータが、テンプレート;前記ボディの以前の表現;並びに前記ボディの1以上の以前の表現及び/又は他のボディの積分又は前記ボディの1以上の以前の表現及び/又は他のボディのデータ若しくは関連するデータの積分のうちの少なくとも1つを含む請求項15に記載の装置。
前記ボディが、人体又はその1以上の部分;生物又はその1以上の部分;非生物又はその1以上の部分のうちの少なくとも1つである請求項1から17のいずれかに記載の装置。
前記捕捉した画像が、画像;様々なビューからの画像;見ることができる又は抽出することができる画像特徴及びデータ;見ることができない又は視覚化することができない特徴及びデータ;深さデータ;キーポイント;独特の顔特徴;一般的なボディ特徴;時空間的特徴のうちの1以上を含む請求項19に記載の方法。
前記視覚的及び聴覚的補助を提供することが、可聴音/単語/セリフを介して、前記ボディの部分を位置合わせプロセスにしたがって位置合わせするように前記ユーザに指示することを含み、前記電子プログラム命令が、形状、ポーズ、時空間的特徴を含む特性間で計算される誤差によって前記位置合わせプロセスを制御するように操作可能である請求項19から20のいずれかに記載の方法。
色及び/又はテクスチャを有するか又は有しない奥行き画像、点群、及びメッシュの場合、前記コントローラが、前記ボディの三次元の対象特有の形状を再構築するように前記電子プログラム命令を介して制御される請求項22に記載の方法。
前記マトリクスWが、前記予測プロセスの学習プロセス中に一度だけオフラインで計算され、次いで、他のアバターの予測又は作成に用いられる前記参照スケルトンモデルJKと共に保存され、前記Wの目的が、ジョイント、ボーン、並びに頂点V、エッジE、及び面Fによって表される実際の3Dアバター表面の関係をコンストレイン、制御、及びモデリングすることである請求項26に記載の方法。
前記得られたデータが、テンプレート;前記ボディの以前の表現;並びに前記ボディの1以上の以前の表現及び/又は他のボディの積分又は前記ボディの1以上の以前の表現及び/又は他のボディのデータ若しくは関連するデータの積分のうちの少なくとも1つを含む請求項29に記載の方法。
前記ボディが、人体又はその1以上の部分;生物又はその1以上の部分;非生物又はその1以上の部分のうちの少なくとも1つである請求項19から31のいずれかに記載の方法。
演算手段によって実行されるとき、請求項19から32のいずれかに記載の方法を前記演算手段に実施させる命令が記憶されていることを特徴とするコンピュータ可読記憶媒体。
演算システムによって受信及び解釈することができる少なくとも1つの命令を含むデータ信号であって、前記命令が、請求項19から32のいずれかに記載の方法を実行することを特徴とするデータ信号。
前記ディスプレイを介してボディの1以上の表現を作成し、表示して、目的を達成するためのモチベーションを与えることを特徴とする請求項1から18のいずれかに記載の装置。
前記ボディが、人体であり、前記1以上の表現が、前記人体の有効且つ正確なモニタリングを通してパーソナルフィットネスの目標の達成を促進及び支援する、前記人体の正確なカスタマイズされた対象特有の画像を含む請求項37に記載の装置。
【発明の概要】
【発明が解決しようとする課題】
【0012】
本発明の目的は、上述の関連技術の問題点のうちの1以上を克服若しくは少なくとも改善するか、又は有用若しくは商業的な選択肢を消費者に与えることにある。
【0013】
本発明の他の目的及び利点は、例証及び実例として本発明の好ましい実施形態が開示される添付図面に関連する以下の記載から明らかになるであろう。
【課題を解決するための手段】
【0014】
本発明の広い態様によれば、ボディを画像化する装置であって、
コントローラと;
前記コントローラを制御するための電子プログラム命令を記憶する記憶装置と;
ユーザインタフェースを表示するためのディスプレイと;
入力手段と
を含み、
前記コントローラが、
前記入力手段を介して、前記ボディの分類及び前記ボディの第1の表現(representation)を含む入力を受信し、
前記ボディの分類を考慮して前記第1の表現を処理し、
前記第1の表現の処理に基づいて前記ボディの第2の表現を作成し、
作成された前記第2の表現をディスプレイを介して表示するように前記電子プログラム命令の制御下で操作可能である装置が提供される。
【0015】
本発明の第1の広い態様によれば、ボディを画像化する装置であって、
コントローラと;
前記コントローラを制御するための電子プログラム命令を記憶する記憶装置と;
ユーザインタフェースを表示するためのディスプレイと;
入力手段と
を含み、
前記コントローラが、
前記入力手段を介して、前記ボディの第1の表現を含む入力を受信し、
前記第1の表現を処理し、
前記第1の表現の処理に基づいて前記ボディの第2の表現を作成し、
作成された前記第2の表現をディスプレイを介して表示するように前記電子プログラム命令の制御下で操作可能である装置が提供される。
【0016】
実施形態では、コントローラは、ボディの第1の表現をセグメンテーションして、前記ボディの実質的に真の三次元スキャンの単純な形態の投影シャドウで表される複数のシルエットを得ることによって前記ボディの前記第1の表現を処理し;前記シルエットに基づいて前記ボディの第2の表現を作成するように電子プログラム命令の制御下で操作可能である。
【0017】
1つの実施形態では、シルエットは、例えば、投影及び人体の動きの基本を含んでいてよい。
【0018】
好ましくは、コントローラは、また、入力が受信されたらディスプレイ上に現れるユーザ特有のスケルトンを作成し;第1の表現のセグメンテーションのプロセス中、ユーザが、前記第1の表現におけるボディを前記ユーザ特有のスケルトンと位置合わせできるようにするように電子プログラム命令の制御下で操作可能である。
【0019】
有利なことに、前記コントローラは、また、
可聴音/単語/セリフを介して、表示されたユーザ特有のスケルトンにボディの部分を位置合わせするようにユーザに指示するように前記電子プログラム命令の制御下で操作可能であり、前記電子プログラム命令は、様々なデータを用いて及び/又は作成されたスケルトン及びボディのリアルタイムに捕捉された画像から抽出した形状外観、並びにばらつきの特徴、姿勢の特徴、及び時空間的特徴を含む特性間で計算される誤差によって位置合わせプロセスを制御するように電子プログラム命令の制御下で操作可能である。
【0020】
好ましくは、コントローラは、また、
送信されたユーザの高さ情報、画像サイズ(画像の高さ及び幅(ピクセル))に基づいて、二値画像のユーザブロブ解析、投影理論、及びカメラモデルを用いて、
ポーズPとして定義される、各画像におけるカメラの位置及び姿勢を含む捕捉センサ又はカメラの固有及び外部パラメータの初期推定値、並びに
スケルトンモデルの各ジョイントの3D位置及び3D姿勢を含む、JKとして定義される、ボディのスケルトンを表すスケルトンモデルのジョイント運動の初期推定値
を計算するように電子プログラム命令の制御下で操作可能である。
【0021】
この実施形態では、コントローラは、また、
送信されたユーザの高さ及び重量及び性別の情報、又はユーザの高さ及び性別の情報のみに基づいて、一般的にユーザが入力した高さ、重量、又は分かっている場合他のボディ測定値によって異なる、Avとして定義される、初期平均アバターを予測し、
前記平均アバターAvを、参照ポーズにおける公知のスケルトンモデルJK及びWとして定義されるボーンの重量/熱マトリクスを有するサイズNのジョイントの参照スケルトンにリギングするように電子プログラム命令の制御下で操作可能である。
【0022】
好ましくは、マトリクスWは、ヒトの形状のオフライン機械学習プロセス中に一度だけオフラインで計算され、次いで、それまで学習されていない他のアバター又はヒトの形状の予測又は作成に用いられる参照スケルトンモデルJKと共に保存され、Wの幾つかの目的は、ヒトの皮膚に対して自然に生じる変形を含むジョイント、ボーン、及び実際の3Dアバター表面又は3Dトポロジーの間の関係をコンストレイン、制御、及びモデリングすることである。表面又は3Dトポロジーは、独自にモデリングされ、その頂点V、エッジE、及び面Fによって表され得る。
【0023】
有利には、初期平均アバターAvを予測するプロセスは、複雑な多変量系機械学習アプローチに従う。好ましくは、多変量系機械学習アプローチは、様々な年齢、民族、及び様々なボディポーズの現実のヒト(男性及び女性)の複数のリギング及びレンダリングされた三次元スキャンから抽出された独自の顕著な3D特徴を用いるヒト形状の3D形状のオフライン学習を含む。典型的には、多変量系機械学習アプローチは、更に、ベクトルM=(m1,m2,...,mL)(Lは、異なる測定値の数である)として定義される異なるボディ測定値間の様々な統計的関係を含み、使用中に、1以上の異なる測定値を考慮して1以上の測定値を予測することができ、これら測定値のうちの1以上を考慮して平均アバターAvを予測することができる。
【0024】
好ましくは、新たな第1の表現において表される通り、アバターを変形させるか又は単にアニメーション化してボディのAv1として定義される新たなアバターにするために、参照又は平均アバターデータ(V、E、F、JK、W)、及び新たな第1の表現のJK1として定義されるユーザのジョイント運動の公知値又は推定値を、Avを公知であるか又は自然なヒトの動きから学習された多数の物理コンストレイントに基づいてAv1に最適化及び変形させる、£として定義されるコスト関数に供給し、ここでは、使用中、新たにアニメーション化されたアバターAv1を、単純にするために平均アバターAvと同じボディ測定値を有すると仮定して、参照又は平均アバターデータの非線形関数、即ち、Av1=f(Av,W,JK,JK1)としてモデリングすることができる。典型的には、コスト関数£の実行は、2以上の重み付けされたエネルギー最小化関数を合わせることによって行われる:
例えば、V、F、及びEを使用するラプラシアンコタンジェントマトリクスを利用する表面平滑度関数、並びに
アバター頂点とそのスケルトン構造との間の対応を確実にコンストレインするために、V、F、及びWを使用するボーン結合関数。
【0025】
好ましくは、実際のボディの3D表現、3Dアバターを作成するために、シルエット又はその表現のうちの1以上に対して適応的非線形最適化を用いてAv1の1以上の表現をマッチングし、比較する。プロセスは、マッチングが行われるまで、Av1データ及びM、JKを含む測定値の最初の推定値を調整する。
【0026】
更なる実施形態では、入力は、ボディの分類を含み、コントローラは、電子プログラム命令の制御下で、ボディの分類に基づいて、ボディの分類に対応するデータを得;第1の表現と得られたデータとを比較することによって第1の表現を処理し;比較に基づいてボディの第2の表現を作成するように操作可能である。
【0027】
実施形態では、入力は、ボディの細目を含む。細目は、ボディに関連するデータ及び/又は情報を含み得る。
【0028】
本発明の実施形態では、1以上のソースからそれの検索、受信、抽出、及び同定のうちの1以上を行うことによってデータを得ることができる。実施形態では、得られたデータは、テンプレート;ボディの以前の表現、この場合、ボディの分類は、ボディの同定を含み得る;ボディの1以上の以前の表現及び/又は他のボディの積分又はボディの1以上の以前の表現及び/又は他のボディのデータ若しくは関連するデータの積分のうちの少なくとも1つを含む。
【0029】
実施形態では、ボディの第1の表現は、ボディの分類を含む。
【0030】
実施形態では、ボディは、人体又はその1以上の部分である。かかる場合、ボディは、人体測定学に従って分類し得る。実施形態では、装置は、複数のテンプレートを含み、各テンプレートは、標準的な平均人体測定学的測定値を有する人体の三次元モデルを含むテンプレートデータに関連付けられている。これは、平均ボディモデルと称される場合もある。標準的な平均人体測定学的測定値は、性別、サイズ(例えば、ヒトの衣類のサイズ)、重量、高さ、年齢、及び民族のばらつきについての測定値を含む、1以上の測定値に関するものであってよい。
【0031】
実施形態では、ボディは、生物のボディ又はその1以上の部分である。
【0032】
実施形態では、ボディは、非生物のボディ若しくはその1以上の部分である。
【0033】
入力手段は、少なくとも1つのセンサを含んでいてよく、これは、センサシステム又はセンサのセットの一部であってよい。
【0034】
実施形態では、第1の表現は、ボディの視覚的表現を含む。かかる実施では、少なくとも1つのセンサは、ボディの視覚的表現を捕捉するように操作可能である画像化手段を含んでいてよい。画像化手段は、デジタルカメラであってよい。
【0035】
センサのセット内の個々のセンサは、運動センサ、赤外線センサ、深さセンサ、三次元イメージングセンサ、慣性センサ、及びマイクロエレクトロメカニカル(MEMS)センサ、画像化手段、加速度センサ、姿勢センサ、方位センサ、及び位置センサを含んでいてよい。
【0036】
実施形態では、第1の表現は、ボディの1以上の視覚的表現を含む。かかる実施形態では、1以上のセンサ(提供される場合)は、ボディの1以上の視覚的表現を捕捉するように操作可能である画像化手段を含んでいてよい。更に、1以上のセンサは、平面への位置合わせを促進して精度を高めるためにボディの1以上の視覚的表現の捕捉中に使用するための姿勢データを提供するように操作可能である姿勢センサを含んでいてよい。
【0037】
実施形態では、ボディの1以上の視覚的表現は、ボディの少なくとも1つの正面及び少なくとも1つの側面の写真を含む。写真は、本発明の実施形態では、標準的な二次元(2D)の二値、グレー、又はカラー画像;色及び/又はテクスチャを有するか又は有しない奥行き画像;色及び/又はテクスチャを有するか又は有しないボディの完全三次元(3D)点群又は多数の不完全点群;及び/又は色及び/又はテクスチャを有するか又は有しないボディの三次元(3D)メッシュを含んでいてよい。
【0038】
実施形態では、コントローラは、更に、
第1の表現のボディの1以上の視覚的表現のボディを含む少なくとも1つの前景をセグメンテーションする;
第1の表現の1以上の視覚的表現の1以上のセグメンテーションされた前景をそれぞれのシルエットに変換し;
1以上のセグメンテーションされた前景及びそのそれぞれのシルエットを用いてボディの形状の3Dビジュアルハルを構築し、及び/又は特徴を抽出し、及び/又はキーポイントの測定値を抽出し;そして、
ハル及び/又は特徴及び/又はキーポイントの測定値のうちの1以上を使用して、選択されたテンプレートのボディの3Dモデル(平均ボディモデル)に対して修正、リギング、及びモーフィングのうちの1以上を行い、第2の表現である修正済の対象特有の3Dモデル画像を作成するように電子プログラム命令の制御下で操作可能である。
【0039】
実施形態では、色及び/又はテクスチャを有するか又は有しない奥行き画像、点群、及びメッシュの場合、コントローラは、ボディの三次元対象特有の形状を再構築するように電子プログラム命令の制御下で操作可能である。実施形態では、コントローラは、更に、第1の表現の1以上の視覚的表現を削除するように電子プログラム命令の制御下で操作可能である。
【0040】
ディスプレイ、ユーザインタフェース、及び入力手段は、例えば、タッチスクリーンに統合されていてよい。或いは、これらは、別個であってもよい。
【0041】
実施形態では、入力は、入力手段を介してユーザによって入力されるユーザの命令を含む。ユーザの命令は、動作を実施するためのコマンドを含んでいてよく、この場合、コントローラは、受信したユーザの命令に従って動作を実施するように電子プログラム命令の制御下で操作可能である。
【0042】
動作は、相互作用動作を含んでいてよく、以下のうちの1以上を含んでいてよい:作成される第2の表現の領域又は部分を選択してその測定値の詳細を得る。
【0043】
テンプレートは、装置の記憶装置から、又は装置から離れた記憶装置から検索してよい。
【0044】
実施形態では、第1の表現、テンプレート、及び第2の表現のうちの1以上は、1以上のデータベースに又は1以上のデータベースにまたがって記憶されていてよい。
【0045】
実施形態では、電子プログラム命令は、ソフトウェアを含む。装置は、移動通信装置であってよく、この場合、それは、ソフトウェアがインストールされているスマートフォン、ノートパソコン/タブレット/デスクトップコンピュータ、カメラ、又は携帯用メディア装置を含んでいてよい。ソフトウェアは、装置にダウンロードすることができるソフトウェアアプリケーションとして提供され得る。
【0046】
好ましくは、装置によって実施される操作は、ヒトの介入を必要とすることなしに自動的に行われる。
【0047】
本発明の第2の広い態様によれば、ボディを画像化する方法であって、
コントローラを制御するための電子プログラム命令を記憶することと、
前記電子プログラム命令を介してコントローラを制御して、
前記ボディの第1の表現を含む入力を、入力手段を介して受信し、
前記第1の表現を処理し、
前記第1の表現の処理に基づいて、ボディの第2の表現を作成することと
を含む方法が提供される。
【0048】
実施形態では、前記方法は、作成された第2の表現を通信することを更に含んでいてよい。通信は、作成された第2の表現をディスプレイを介して表示することを含んでいてよい。
【0049】
実施形態では、前記方法は、電子プログラム命令を介してコントローラを制御して、ボディの第1の表現をセグメンテーションすることによって前記ボディの第1の表現を処理して、ボディの実質的に真の三次元スキャンの単純な形態の投影シャドウで表される複数のシルエットを得;前記シルエットに基づいて前記ボディの第2の表現を作成することを更に含む。好ましくは、前記方法は、電子プログラム命令を介してコントローラを制御して、入力が受信されたらディスプレイ上に現れるユーザ特有のスケルトンを作成し;第1の表現をセグメンテーションするプロセス中、ユーザに前記第1の表現におけるボディをユーザ特有のスケルトンと位置合わせさせることを更に含む。
【0050】
好ましくは、ユーザに位置合わせさせる工程は、可聴音/単語/セリフを介して、表示されたユーザ特有のスケルトンにボディの部分を位置合わせするようにユーザに指示することを含み、前記電子プログラム命令は、作成されたスケルトン及びボディのリアルタイムで捕捉された画像から抽出した形状外観、並びにばらつきの特徴、姿勢の特徴、及び時空間的特徴を含む様々なものを用いて、これらの間で計算される誤差によって位置合わせプロセスを制御するように操作可能である。
【0051】
有利には、前記方法は、更に、
送信されたユーザの高さ情報、画像サイズ(画像の高さ及び幅(ピクセル))に基づいて、二値画像のユーザブロブ解析、投影理論、及びカメラモデルを用いて、
ポーズPとして定義される、各画像におけるカメラの位置及び姿勢を含む捕捉カメラの固有及び外部パラメータの初期推定値、並びに
スケルトンモデルの各ジョイントの3D位置及び3D姿勢を含む、JKとして定義される、ボディのスケルトンを表すスケルトンモデルのジョイント運動の初期推定値
を計算するように電子プログラム命令を介してコントローラを制御することを含む。
【0052】
有利には、前記方法は、更に、
送信されたユーザの高さ情報、画像サイズ(画像の高さ及び幅(ピクセル))に基づいて、二値画像のユーザブロブ解析、投影理論、及びカメラモデルを用いて、
ポーズPとして定義される、各画像におけるカメラの位置及び姿勢を含む捕捉センサ又はカメラの固有及び外部パラメータの初期推定値、並びに
スケルトンモデルの各ジョイントの3D位置及び3D姿勢を含む、JKとして定義される、ボディのスケルトンを表すスケルトンモデルのジョイント運動の初期推定値
を計算するように電子プログラム命令を介してコントローラを制御することを含む。
【0053】
典型的には、前記方法は、更に、
送信されたユーザの高さ及び重量及び性別の情報、又はユーザの高さ及び性別の情報のみに基づいて、ユーザが入力した高さ、重量、又は分かっている場合他のボディ測定値によって異なる、Avとして定義される、初期平均アバターを予測し、
前記平均アバターAvを、参照ポーズにおける公知のスケルトンモデルJK及びWとして定義されるボーンの重量/高さマトリクスを有するサイズNのジョイントの参照スケルトンにリギングするように電子プログラム命令を介してコントローラを制御することを含む。好ましくは、マトリクスWは、予測プロセスの学習プロセス中に1回だけオフラインで計算され、次いで、他のアバターの予測又は作成のために用いられる参照スケルトンモデルJKと共に保存され、Wの目的は、その頂点V、エッジE、及び面Fによって表される、ジョイント、ボーン、及び実際の3Dアバター表面間の関係をコンストレイン、制御、及びモデリングすることである。
【0054】
典型的には、前記方法は、更に、
送信されたユーザの高さ及び重量及び性別の情報、又はユーザの高さ及び性別の情報のみに基づいて、ユーザが入力した高さ、重量、又は分かっている場合他のボディ測定値によって異なる、Avとして定義される、初期平均アバターを予測し、
前記平均アバターAvを、参照ポーズにおける公知のスケルトンモデルJK及びWとして定義されるボーンの重量/熱マトリクスを有するサイズNのジョイントの参照スケルトンにリギングするように電子プログラム命令を介してコントローラを制御することを含む。好ましくは、マトリクスWは、ヒト形状のオフライン機械学習プロセス中に1回だけオフラインで計算され、次いで、他のアバターの予測又は作成のために用いられる参照スケルトンモデルJKと共に保存され、Wの幾つかの目的は、ヒトの皮膚に対して自然に生じる変形を含むジョイント、ボーン、及び実際の3Dアバター表面又は3Dトポロジーの間の関係をコンストレイン、制御、及びモデリングすることである。表面又は3Dトポロジーは、その頂点V、エッジE、及び面Fによって独自に表され得る。
【0055】
好ましくは、初期平均アバターAvを予測するプロセスは、複雑な多変量系機械学習アプローチに従う。典型的には、多変量系機械学習アプローチは、様々な年齢及びポーズの現実のヒト(男性及び女性)の複数のリギング及びレンダリングされた三次元スキャンから抽出された独自かつ顕著な3D特徴を用いるヒト形状の3D形状のオフライン学習を含む。
【0056】
有利には、多変量系機械学習アプローチは、更に、ベクトルM=(m1,m2,...,mL)(Lは、異なる測定値の数である)として定義される異なるボディ測定値間の様々な統計的関係の機械知能学習を含み、使用中に、1以上の異なる測定値を考慮して1以上の測定値を予測することができ、これら測定値のうちの1以上を考慮して平均アバターAvを予測することができる。
【0057】
この実施形態では、新たな第1の表現において表される通り、アバターを変形させるか又は単にアニメーション化してボディのAv1として定義される新たなアバターにするために、参照又は平均アバターデータ(V、E、F、JK、W)、及び新たな第1の表現のJK1として定義されるユーザのジョイント運動の公知値又は推定値を、Avを公知であるか又は自然なヒトの動きから学習された多数の物理コンストレイントに基づいてAv1に最適化及び変形させる、£として定義されるコスト関数に供給し、ここでは、使用中、新たにアニメーション化されたアバターAv1を、単純にするために平均アバターAvと同じボディ測定値を有すると仮定して、参照又は平均アバターデータの非線形関数、即ち、Av1=f(Av,W,JK,JK1)としてモデリングすることができる。典型的には、コスト関数£の実行は、2以上の重み付けされたエネルギー最小化関数を合わせることによって行われる:
例えば、V、F、及びEを使用するラプラシアンコタンジェントマトリクスを利用する表面平滑度関数、並びに
アバター頂点とそのボーンとの間の対応を確実にコンストレインするために、V、F、及びWを使用するボーン結合関数。
【0058】
更なる実施形態では、実際のボディの3D表現、3Dアバターを作成するために、シルエット又はその表現のうちの1以上に対して適応的非線形最適化を用いてAv1の1以上の表現をマッチングし、比較する。プロセスは、マッチングが行われるまで、Av1データ及びM、JKを含む測定値の最初の推定値を調整する。
【0059】
更なる実施形態では、入力は、ボディの分類を含み、前記方法は、更に、
ボディの分類に基づいて、ボディの分類に対応するデータを得;
第1の表現と得られたデータとを比較することによって第1の表現を処理し;
比較に基づいてボディの第2の表現を作成するように電子プログラム命令を介してコントローラを制御することを含む。
【0060】
本発明の第3の広い態様によれば、演算手段によって実行されるときに、上記の通り本発明の第2の広い態様に係る方法を演算手段に実施させる命令が記憶されているコンピュータ可読記憶媒体が提供される。
【0061】
本発明の第4の広い態様によれば、上記の通り本発明の第2の広い態様に係る方法を実行するようプログラムされている演算手段が提供される。
【0062】
本発明の第5の広い態様によれば、演算システムによって受信及び解釈することができる少なくとも1つの命令を含むデータ信号であって、前記命令が、上記の通り本発明の第2の広い態様に係る方法を実行するデータ信号が提供される。
【0063】
本発明の第6の態様によれば、上記の通り本発明の第1の広い態様に係る装置を含む、ボディを画像化するシステムが提供される。
【0064】
本発明の第7の広い態様によれば、目標を達成する方法であって、上記の通り本発明の第1の広い態様に係る装置を用いて、ディスプレイを介してボディの1以上の第2の表現を作成し、表示して、目的を達成するためのモチベーションを与えることを含む方法が提供される。
【0065】
実施形態では、ボディは、人体であり、目的は、人体のパーソナルフィットネスの目標を含む。
【0066】
次に、本発明をより深く理解し、実現できるようにするために、添付図面を参照してその好ましい実施形態について説明する。
【発明を実施するための形態】
【0068】
本発明は、以下の特定の実施形態によって範囲が限定されるものではない。この詳細な記載は、例示のみを目的とすることを意図する。機能的に等価な製品、組成物、及び方法は、本明細書に記載する本発明の範囲内である。この立場と一致して、当業者は、本明細書に記載する本発明に対して、具体的に記載するもの以外の変更及び改変を行いやすいことを理解するであろう。本発明は、全てのかかる変更及び改変を含むと理解すべきである。また、本発明は、本明細書に個別に又は集合的に言及されるか又は指定される工程、特徴、組成物、及び化合物の全て、並びに前記工程又は特徴のいずれか及び全ての組合せ又はいずれか2以上も含む。
【0069】
本発明の更なる特徴について本明細書の実施例においてより詳細に記載する。しかし、この詳細な説明は、本発明を例示する目的のためだけに含まれることを理解すべきであり、如何なる方法であっても上述の本発明のより広い説明を限定すると理解すべきではない。
【0070】
本明細書に引用する全ての刊行物(特許、特許出願、論文、研究室マニュアル、書籍、又は他の文書)の開示全体を参照によって本明細書に援用する。参照文献はいずれも、先行技術を構成したり、本発明が関連する分野における研究の技術常識の一部であったりすることを認めるものではない。
【0071】
本明細書全体を通して、特に必要としない限り、用語「含む」又は「含み」若しくは「含んでいる」等の変形は、記載されている整数又は整数群を含むことを意味するが、任意の他の整数又は整数群を除外するものではないことが理解される。
【0072】
本明細書で使用する選択された用語の他の定義は、本発明の詳細な説明内に見出すことができ、明細書全体に適用される。特に定義しない限り、本明細書で使用する全ての他の科学用語及び技術用語は、本発明が属する分野の当業者に一般的に理解されているのと同じ意味を有する。
【0073】
本明細書に記載する発明は、1以上の値の範囲(例えば、サイズ、置換、及び場の強度等)を含み得る。値の範囲は、範囲を規定する値、及び範囲の境界を規定する値に直ぐ隣接する値と同じか又は実質的に同じ結果を導く範囲に隣接する値を含む、範囲内の全ての値を含むと理解される。例えば、範囲の上限又は下限における10%の変動が全体として適切であり得、本発明に包含されることを当業者は理解するであろう。より具体的には、範囲の上限又は下限における変動は、5%であるか又は当技術分野において一般的に認識されている通りであるか、いずれか大きい方である。
【0074】
本明細書全体を通して、用語「約」及び「略」等の相対的な用語を用いる。この用語は、指定の数又は範囲に対して少なくとも10%の変動を組み込もうとする。その変動は、指定される具体的な数字プラス10%又はマイナス10%であってよい。
【0075】
図面では、類似の特徴は、類似の参照番号で参照されている。
【0076】
図1では、本発明の態様にかかる装置12を用いてボディを画像化するシステム10の第1の実施形態の使用中に実施される動作について記載する。
【0077】
記載する実施形態では、ボディは、重量の減少、増加、若しくは維持/モニタリング、及び/又はボディのサイズ若しくは形状の改善というパーソナルフィットネスの目標を含む目的を達成することを望んでいるヒト16(システム10のユーザである)のボディ14である。このように、特に、16歳〜48歳の女性、新婦/新郎、運動選手、及びボディービルダーによって;妊娠前/後に;並びに医学的モニタリングにおいて使用するのに適用可能である。更に詳細に記載する通り、システム10は、ヒト16の正確な個別化された対象特有の画像を提供して、ボディ14の有効且つ正確なモニタリングを通してパーソナルフィットネスの目標の達成を促進及び支援するように操作可能である。提供される画像は、アバターと称されることがある。
【0078】
本発明は、人体を画像化してパーソナルフィットネスの目標を達成するモチベーションを促進及び提供することに特に関連して説明されるが、特にボディに関して、そして、更なる及び/又は別の意図若しくは目的のために用いてもよいことが理解される。
【0079】
本発明は、画像化されるボディ又は画像化する意図に関して限定されないことが理解され、別の実施形態では、本発明は、更なる及び/又は別のもののボディの画像化に、そして、更なる及び/又は別の意図のために記載するものに適用してもよい。実行に依存して、ボディは、生物のボディ若しくはその1以上の部分、又は非生物のボディ若しくはその1以上の部分であってよい。本発明の実施形態は、特に、家畜を含む動物及び自然状態の食品等、あるボディと別のボディとの間にばらつきが存在するもののボディの画像化に適用できる。
【0080】
装置12は、ユーザ16であるヒトによって持ち運ばれる。
【0081】
装置12は、適切な回路及び/又は連結を介して操作可能に接続されて装置12が本明細書に記載の機能及び操作を実施できるようにする複数のコンポーネント、サブシステム、及び/又はモジュールを含む。装置12は、本発明の実施形態に係るボディを画像化する方法及び目的を達成する方法等の適切なコンピュータ命令を受信、記憶、及び実行するのに必要な好適なコンポーネントを含む。
【0082】
特に、
図2に示す通り、装置12は、この実施形態では、コントローラ18と、コントローラ18を制御するための電子プログラム命令、並びに情報及び/又はデータを記憶するための記憶装置20とを含む演算手段と;ユーザインタフェース24を表示するためのディスプレイ22と;入力手段26とを含み、これらは全て容器又は筐体28内に収容される。
【0083】
更に詳細に記載する通り、コントローラ18は、ボディ14の第1の表現を含む入力を入力手段を介して受信し;前記第1の表現を処理し;前記処理に基づいてボディ14の第2の表現を作成し;作成された第2の表現をディスプレイ22を介して表示するように、電子プログラム命令の制御下で操作可能である。
【0084】
更に、第1の実施形態では、入力は、ボディ14の分類も含み、そして、コントローラ18は、ボディ14の分類に基づいて、ボディの分類に対応するデータを得;第1の表現と得られたデータとを比較することによって第1の表現を処理し;前記比較に基づいてボディ14の第2の表現を作成するように、電子プログラム命令の制御下で操作可能である。
【0085】
本発明の実施形態では、データは、1以上のソースから検索、受信、抽出、及び同定のうちの1以上を行うことによって得ることができる。データの1以上のソースは、記憶装置20に存在していてもよく、及び/又は装置12から離れた他の場所に存在していてもよい。
【0086】
記載する実施形態では、得られたデータは、ボディ14の分類に基づいて検索されるテンプレートの形態で提供され、ボディ14を分類するために形態測定が用いられる。
【0087】
複数のテンプレートが提供され、各テンプレートは、それに関連して、性別及び民族のばらつきを含むアイテムの標準的な平均人体測定値を有する人体の三次元(3D)モデルを含むテンプレートデータを有する。テンプレートは、全てのボディ要素の高さ及び幅について全次元の平均3Dデジタルモデルである。この実施形態では、装置は、表示又は計算され得る測定数値としてこれらのサブセットを抽出するように操作可能である。更に詳細に記載する通り、これら特定のデータ点を使用して、入力画像を比較し、画像サイズデータに関連付けるためにテンプレートを修正できるようにする。
【0088】
本発明の実施形態では、得られたデータは、ボディの以前の表現を含んでいてよく、この場合、ボディの分類は、ボディの同定を含み得る。
【0089】
他の実施形態では、得られたデータは、ボディの1以上の以前の表現及び/又は他のボディの統合を含むか、又はこれらのデータ若しくはこれらに関連するデータを含んでいてよい。かかるデータは、装置12の操作を介して作成されてもよく、及び/又は例えば、1以上の他の装置12等の1以上の他のソース若しくはDEXA技術から得られてもよい。
【0090】
コントローラ18は、プロセッサの形態の処理手段を含む。
【0091】
記憶装置20は、読み出し専用メモリ(ROM)及びランダムアクセスメモリ(RAM)を含む。
【0092】
装置12は、ROM又はRAMに保持され得る命令を受信することができ、プロセッサによって実行することができる。プロセッサは、以下に更に詳細に記載する通り、命令の処理/実行、及び装置12を通じたデータ及び情報の流れの管理を含む動作を電子プログラム命令の制御下で実施するように操作可能である。
【0093】
この実施形態では、装置12のための電子プログラム命令は、単一のソフトウェアアプリケーション(アプリ)又はイメージングアプリと呼ばれることがあるモジュールを介して提供される。記載する実施形態では、前記アプリは、商標名MYFIZIQ(商標)として販売されており、ウェブサイト(又は他の好適な電子装置プラットフォーム)からダウンロードするか又は他の方法でデバイス12の記憶装置20に保存若しくは記憶することができる。
【0094】
本発明の好ましい実施形態では、装置12は、モバイル通信装置であり、商標名IPHONE(登録商標)としてApple Incによって、又はAndroid、WEBOS、Windows(登録商標)、若しくは他の携帯アプリプラットフォームを有するNokia Corporation若しくはSamsung Group等の他のプロバイダによって販売されているもの等のスマートフォンを含む。或いは、装置10は、商標名IPAD(登録商標)若しくはIPOD TOUCH(登録商標)としてApple Incによって、又はHewlett−Packard Company若しくはDell,Inc等の他のプロバイダによって販売されているパソコン、ノートパソコン、又はタブレット等の他の演算手段、或いは他の好適な装置を含んでいてよい。
【0095】
また、装置12は、コマンドを発行することができるオペレーティグシステムを含み、アプリと相互作用して本明細書に記載する本発明の実施形態に係るそれぞれの工程、機能、及び/又は手順を装置12が実行するように配置される。オペレーティグシステムは、装置12に適したものであってよい。例えば、装置12がIPHONE(登録商標)スマートフォンを含む場合、オペレーティグシステムはiOSであってよい。
【0096】
図3に示す通り、装置12は、サーバ、パソコン、端子、ワイヤレス若しくはハンドヘルド演算装置、有線通信装置、又は携帯電話等のモバイル通信装置等の1以上の遠隔装置32に様々に接続し得る1以上の通信リンク30を介して通信するように操作可能である。複数の通信リンク30のうちの少なくとも1つは、電気通信ネットワークを通じて外部演算ネットワークに接続され得る。
【0097】
記載する実施形態では、遠隔装置32は、管理者が所有及び操作する演算システム34に加えて、他人が所有及び/又は操作する他の装置12を含む。
【0098】
管理者の演算システム34は、実施形態ではサーバ36の形態を有する。サーバ36を用いて、本発明の実施形態に係るボディを画像化するシステム及び方法、並びに目的を達成する方法等のアプリケーション及び/又はシステムサービスを実行することができる。
【0099】
この実施形態では、サーバ36は、一元管理されるアドミニストレーションセンタに物理的に位置する。別の実施形態では、クラウドベースのプラットフォームで保持されていてもよい。
【0100】
装置12と同様に、サーバ36は、適切な電子プログラム命令を受信、記憶、及び実行するのに必要な好適なコンポーネントを含む。前記コンポーネントは、サーバプロセッサ、リードオンリーメモリ(ROM)及びランダムアクセスメモリ(RAM)を含むサーバストレージ、1以上のサーバ入力/出力装置、例えば、ディスクドライブ、並びに関連するサーバユーザインタフェースの形態の処理手段を含む。遠隔通信装置32(装置12を含む)は、1以上の通信リンク30を介してサーバ36と通信するように配置される。
【0101】
サーバ32は、ROM、RAM、又はディスクドライブに保持され得る命令を受信することができ、サーバプロセッサによって実行することができる。サーバプロセッサは、以下に更に詳細に記載する通り、演算システム34を通じた命令の処理/実行並びにデータ及び情報のフローの管理を含む動作を電子プログラム命令の制御下で実施するように操作可能である。
【0102】
サーバ36は、その記憶装置に存在する複数のデータベース又はデータバンクにアクセスするためのコマンドを発行することができるサーバオペレーティングシステムを含む。この実施形態では、2つのかかるデータベース又はデータバンクが提供され、1つは、RUデータベース38と称されることがある、システム10の登録ユーザ(RU)のデータベースであり;1つは、テンプレートデータベース40と称されることがある、テンプレートデータを含む下記テンプレートのデータベースである。オペレーティングシステムは、データベース38及び40並びにサーバーソフトウェアのセット/スイートの1以上のコンピュータプログラムと相互作用して、本明細書に記載する本発明の実施形態に係るそれぞれの工程、機能、及び/又は手順をサーバ36に実行させるように配置される。
【0103】
アプリ、サーバソフトウェアセットのコンピュータプログラム、並びに装置12及びサーバ36の演算コンポーネントのための他の電子命令又はプログラムは、当業者に周知である通り、任意の好適な言語で書かれていてよい。例えば、IPHONE(登録商標)スマートフォンを含む装置12において操作する場合、画像化アプリは、Objective−C言語で書かれていてよい。本発明の実施形態では、電子プログラム命令は、実行又は実施形態の要件に応じて、スタンドアロンアプリケーションとして、一式又は複数のアプリケーションとして、ネットワークを介して提供されてもよく、又はミドルウェアとして追加してもよい。
【0104】
本発明の別の実施形態では、ソフトウェアは、1以上のモジュールを含んでいてよく、ハードウェアで実行され得る。かかる場合、例えば、モジュールは、それぞれ当技術分野において周知である以下の技術:データシグナルに対する論理関数を実行するための論理ゲートを有する離散論理回路、適切な組合せ論理ゲートを有する特定用途向け集積回路(ASIC)、プログラム可能ゲートアレイ(PGA)、フィールドプログラマブルゲートアレイ(FPGA)等のうちのいずれか1つ又は組合せを用いて実行してよい。
【0105】
それぞれの演算手段は、プログラム可能論理コントローラ(PLC)、デジタル信号プロセッサ(DSP)、マイクロコントローラ、パソコン、ノートパソコン、若しくはタブレット、又は専用サーバ若しくはネットワークサーバを含む任意の好適な種類のシステムであってよい。
【0106】
それぞれのプロセッサは、演算手段に関連する幾つかのプロセッサの中でも、任意の特別注文又は市販のプロセッサ、中央処理装置(CPU)、データシグナルプロセッサ(DSP)、又は補助プロセッサであってよい。本発明の実施形態では、処理手段は、例えば、半導体ベースのマイクロプロセッサ(マイクロチップの形態)又はマクロプロセッサであってよい。
【0107】
本発明の実施形態では、それぞれの記憶装置は、揮発性メモリ素子(例えば、ランダムアクセスメモリ(RAM)、例えば、動的ランダムアクセスメモリ(DRAM)、静的ランダムアクセスメモリ(SRAM))、及び不揮発性メモリ素子(例えば、読取り専用メモリ(ROM)、消去及びプログラム可能読取り専用メモリ(EPROM)、電子的消去及びプログラム可能読取り専用メモリ(EEPROM)、プログラム可能読取り専用メモリ(PROM)、テープ、コンパクトディスク読み取り専用メモリ(CD−ROM)等)のうちのいずれか1つ又は組合せを含んでいてよい。それぞれの記憶装置には、電子、磁気、光学、及び/又は他の種類の記憶媒体が組み込まれていてよい。更に、それぞれの記憶装置は、分散構成を有していてよく、この場合、様々なコンポーネントは互いに離れて位置しているが、処理手段によってアクセスすることができる。例えば、ROMは、装置12の操作を制御するために処理手段によって実行される様々な命令、プログラム、ソフトウェア、又はアプリケーションを記憶し得、RAMは、操作の変数又は結果を一時的に記憶し得る。
【0108】
ソフトウェアアプリケーションを用いるコンピュータの使用及び操作は、当業者に周知であるので、本発明に関連する場合を除いて本明細書に更に詳細に記載する必要はない。
【0109】
更に、任意の好適な通信プロトコルを用いて装置12の任意のサブシステム又はコンポーネント、サーバ36の任意のサブシステム又はコンポーネント、並びに装置12及びサーバ36及び他の装置又はシステム(有線及び無線を含む)の間の接続及び通信を容易にすることができるが、これは当業者に周知であるので、本発明に関連する場合を除いて本明細書に更に詳細に記載する必要はない。
【0110】
用語「記憶する」、「保持する」、及び「保存する」、又は類似の用語が本発明に関連して用いられる場合、これらは、後で検索するために記憶手段、装置、又は媒体において永続的に及び/又は一時的に、また、例えば実行される処理操作の一部として瞬間的に又は即時的に、データ又は情報を保管する又は保持することに対する言及を含むと理解すべきである。
【0111】
更に、用語「システム」、「装置」、及び「機器」が本発明に関連して用いられる場合、互いに近接、分離、統合、又は離散して位置し得る、機能的に関連するか、又は相互作用する、相互関連する、相互依存する、若しくは関連するコンポーネント又はエレメントの任意の群に対する言及を含むと理解すべきである。
【0112】
更に、本発明の実施形態では、用語「決定する」は、関連するデータ又は情報を受信するか又はアクセスすることを含むと理解される。
【0113】
本発明の実施形態では、ユーザインタフェース24及びユーザ入力手段26を表示するためのディスプレイ22がタッチスクリーン42に統合されている。別の実施形態では、これらコンポーネントは、離散エレメント又はアイテムとして提供され得る。
【0114】
タッチスクリーン42は、装置12のディスプレイ領域内におけるタッチの存在及び位置を感知又は検出するように操作可能である。タッチスクリーン42の感知された「タッチ」は、コマンド又は命令として装置12に入力され、コントローラ18に通信される。ユーザ入力手段26はタッチスクリーンを含むことには限定されず、本発明の別の実施形態では、入力、コマンド、又は命令を受信し、制御された相互作用を提供するための任意の適切な装置、システム、又は機器、例えば、キーパッド若しくはキーボード、ポインティングデバイス、又は複合デバイス、並びにボイスアクチベーション、音声及び/又は思想制御、及び/又はホログラフィー/投影イメージングを含むシステムを用いてよいことを理解すべきである。
【0115】
また、装置12のセンサシステム又はセンサのセット44の一部である少なくとも1つのセンサを介して入力を受信してもよい。センサのセット44内の個々のセンサは、装置12、周囲環境、又はこれらに関連若しくは接続しているコンポーネント、システム、若しくは装置の1以上の特徴、特性、及びパラメータに関連又は関係するセンサデータ及び/又は情報をモニタリング、感知、及び収集又は測定するように操作可能である。例えば、センサのセット44は、装置12の状態及び/又は装置12の周囲環境の状態に関係するセンサデータを感知及び収集するように操作可能である。実施形態では、装置12の状態は、装置12の位置を含む。実施形態では、装置12の状態は、更に、装置12の速力及び/又は速度を含む。センサのセット44は、加速度センサ及び姿勢センサ、方位センサ及び位置センサを含む慣性センサシステムを含む。本発明の別の実施形態は、運動センサ、赤外線センサ、深さセンサ、三次元イメージングセンサ、慣性センサ、及びマイクロエレクトロメカニカル(MEMS)センサを含む、追加及び/又は別のセンサを含んでいてよい。
【0116】
加速度センサは、装置12の加速度を測定し、加速度データを作成するように操作可能である。例えば、加速度センサは、加速度計であってよい。姿勢センサは、装置12の姿勢の変化速度(即ち、角速度)を測定し、姿勢データを作成するように操作可能である。例えば、姿勢センサは、ジャイロスコープであってよい。方位センサは、地球の磁極に対する方位を求め、方位データを作成するように操作可能である。例えば、方位センサは、電子コンパスであってよい。位置センサは、装置12の位置を求め、位置データを作成するように操作可能である。例えば、位置センサは、全地球測位システム(GPS)であってよい。かかるセンサの使用及び操作は、当業者に周知であるので、本発明に関連する場合を除いて本明細書に更に詳細に記載する必要はない。
【0117】
第1の表現は、ボディ14の1以上の視覚的表現を含んでいてよい。記載する実施形態では、第1の表現は、ボディ14の視覚的表現のセットを含む。したがって、センサのセット44は、視覚的表現を含む画像を捕捉するように操作可能であるデジタルカメラの形態の画像化手段を含む。カメラは、実施形態において装置12と統合されている。画像化手段は、静止画及び/又は動画の取得を容易にする任意の好適なシステム又は装置を含んでいてよい。例えば、装置12がIPHONE(登録商標)スマートフォンを含む場合、画像化手段は、iSight(商標)カメラであってよい。カメラの使用及び操作は、当業者に周知であるので、本発明に関連する場合を除いて本明細書に更に詳細に記載する必要はない。
【0118】
装置12は、用いられる知覚技術に適切なコンピュータチップ(集積回路)、トランシーバ/レシーバアンテナ、及びソフトウェアを含む、記載の通りパフォーマンスを促進にする動作可能に連結/接続されたコンポーネントを含む。
【0119】
センサのセット44の1以上のセンサは、装置12と統合されていてよく、場合によっては、IPHONE(登録商標)スマートフォンを含む。或いは、装置12は、上記センサのセット44のうちの1以上と操作可能に接続されていてもよい。
【0120】
テンプレートデータベース40に記憶されることに加えて、この実施形態では、テンプレートの細目の少なくとも一部が、記憶装置20に存在するデータベース46又はデータバンクに記憶又は保存され、アプリの制御下でコントローラ18によってアクセス可能である。これらは、アプリの一部としてインストールされ得る。コントローラ18は、データベース46と相互作用して、本明細書に記載する本発明の実施形態に係るそれぞれの工程、機能、及び/又は手順を装置12に実行させるように配置される。
【0121】
テンプレートの残りの細目は、離れて、例えば、サーバ36のテンプレートデータベース40等、1以上の遠隔システム又は装置32のそれぞれの記憶装置に存在する1以上の遠隔データベースモジュールに記憶又は保存され、1以上の通信リンク30を介して装置12によってアクセス可能である。コントローラ18は、必要なときに使用するために利用可能な離れて記憶されているコンテンツを作成するために1以上の遠隔データベースとのユーザインタラクションを容易にするように配置される。
【0122】
データベースは、任意の好適な記憶装置に存在してよく、前記記憶装置は、ソリッドステートドライブ、ハードディスクドライブ、光学ドライブ、又は磁気テープドライブを包含し得ることが理解される。データベースは、単一の物理記憶装置に存在していてもよく、複数の記憶装置又はモジュールにまたがって広がっていてもよい。
【0123】
当業者に周知である通り、情報及びデータをデータベース46に読み込むか又は前記データベースから読み出すことができるようにするために、データベース46をコントローラ18に接続し、データ通信させる。任意の好適なデータベース構造を用いてよく、1以上のデータベースが存在していてよい。本発明の実施形態では、データベース46は、収集及び/又は提示される電子プログラム命令及び任意の他のデータ又は情報と同様に、(例えば、記憶装置20における)装置12のコンポーネントとしてローカルに、又は遠隔サーバ等において離れて提供され得る。
【0124】
同様に、当業者に周知である通り、データをRUデータベース38及びテンプレートデータベース40に読み込むか又は前記データベースから読み出すことができるようにするために、RUデータベース38及びテンプレートデータベース40の両方をサーバ36に接続し、データ通信させる。任意の好適なデータベース構造を用いてよい。RUデータベース38及びテンプレートデータベース40のいずれか一方又は両方は、ソフトウェアのサーバセットと同様に、(例えば、記憶装置における)サーバ36のコンポーネントとしてローカルに、又は遠隔サーバ等において離れて提供され得る。実施形態では、ネットワーククライアントサーバアプリケーションを有するために幾つかのコンピュータをこのようにセットアップしてよい。記載する実施形態では、RUデータベース38及びテンプレートデータベース40のそれぞれを、シングルデータベース構造のパーティションとしてサーバ36の記憶装置内部に記憶する。本発明の別の実施形態では、より多い又はより少ないデータベースが存在していてもよい。
【0125】
アプリを装置12にインストールすると、コントローラ18は、カメラを介して捕捉される画像等のセンサのセット44のセンサを介して感知されるデータ及び/又は情報を含む情報及び/又はデータ、装置12及びシステム10の操作に関する命令及びコマンドを入力又は捕捉できるようにするナビゲーション可能な電子ページ、スクリーン、及びフォームのシーケンスを、タッチスクリーン42を介して装置12のユーザ16に提示するように、アプリの制御下で操作可能になる。
【0126】
記載する実施形態では、サーバ36のサーバソフトウェアセットは、ウェブサーバアプリケーション、レジストレーション及びリクエストアプリケーション、画像処理アプリケーション、通信アプリケーション、インボイス/請求書作成アプリケーション、及び支払処理アプリケーションを含む。
【0127】
更に詳細に記載する通り、サーバソフトウェアセットのそれぞれのアプリケーションを介して、サーバ36は、以下を含む機能を実行するように操作可能である:ユーザデータの登録及び共有;データの抽出、データの変換、及びアプリを介して受信されるデータとの結合;並びにアプリインタフェースを通過する全てのリアルタイムデータ。
【0128】
ウェブサーバアプリケーションは、ウェブページ又は他の電子ページ若しくは画面等の専用ウェブサイトを介して、システム10の既存のユーザ又は潜在ユーザにシステム10に関するコンテンツを配信するように操作可能である。このウェブサイトは、通信ネットワークを介してシステム10とデータ通信するように操作可能に連結される、ノートパソコン又はスマートフォン(実施形態における装置12を含む)等のインターネット接続可能なモバイル通信装置のウェブブラウザを介してアクセス可能である。記載する実施形態では、データ通信の手段は、インターネットを介しているが、本発明の他の実施形態では他の手段、例えば、直接接続を使用してもよい。
【0129】
コンテンツは、フィットネスの目標に関する一般的な情報、例えば、商標名YouTube(登録商標)、Facebook(商標)、及び/又はTwitter(商標)として提供されているサービスを含む、フォーラム又は媒体のうちの適切な1つ又は組合せを介して配信される公告及び販促又は広報情報を含み得る。
【0130】
アクセス可能なウェブページは、ユーザによってシステム10の初回使用時に完了されるオンライン登録ページ110、及びリクエストページ112を含む。ウェブサイトアプリケーションは、システムの潜在ユーザがユーザとして手動で自身を登録するか又は記録して、パーソナルアカウントを作成し、アバターをリクエストすることができるように操作可能である。これは、それぞれ、ユーザ登録及びリクエスト情報を含む電子登録及びリクエストフォームの形態でユーザが通信を完了し、登録ページ110及びリクエストページ112を介してサーバ36に送信することによって容易になる。
【0131】
ユーザ登録情報は、以下を含む、ユーザ及びそのボディに関する情報及び/又はデータを含む細目を含む:
1) ユーザの同定及び連絡先の詳細:ユーザの同定及び通信を容易にする細目。これら細目は、ユーザの非公開フルネーム、システム10を使用するときのためのユーザネーム、非公開の自宅住所、転送対応のために用いられる物理アドレス及び/又は電子メールアドレス、連絡先電話番号、認証情報(例えば、パスワード)、並びに適用可能な場合、任意の他の固有の及び/又は関連する識別情報を含んでいてよい。システム10を用いて作成されるアバターに関する対応及び請求書作成を含む情報は、ユーザと通信するためのシステム10によって用いられる。
2) ユーザのボディの細目:ユーザのボディに関する情報及び/又はデータ。記載する実施形態では、これは、性別、高さ、重量、衣類サイズ(例えば、数例を挙げると、S、M、L、XL、又はXXL)、年齢、及び民族を含むボディの形態計測データを含む。本発明の別の実施形態では、ユーザのボディに関連及び/又は関係する追加の及び/又は別の細目をリクエストしてもよい。
3) 請求書作成及び支払細目:請求書を作成し、ユーザがシステム10を使用するための支払を行う責任がある債務者(人)から支払を受け取るのを容易にする細目。請求書作成の細目は、例えば、処理及び支払のための課金通知を含む転送対応のために用いられる物理アドレス及び/又は電子メールアドレスを含んでいてよい。支払細目は、実施形態におけるアバターの作成等のシステム10を介して実行される動作に関連するアイテムを購入するために記憶及び使用される、債務者のクレジットカードアカウント等の金融口座の細目を含んでいてよい。例えば、本発明の実施形態において、PayPal及びBitcoin(BTC)サービスが挙げられるがこれらに限定されない、追加の及び/又は別の支払処理プラットフォームを使用することもできる。
【0132】
リクエスト情報は、第1の表現を含む。既に記載した通り、この実施形態では、第1の表現は、ボディ14の視覚的表現のセットを含む。好ましくは、視覚的表現のセット内の視覚的表現は、ボディ14の様々な図を含み、これらは、対照的な実質的にクラッタ/ノイズを含まない(即ち、非ビジーな)背景の前に位置するボディ14で捕捉される。特に、記載する実施形態では、視覚的表現のセットは、非限定的な例として、ボディ14の2枚の写真を含み、第1の写真はボディ14の正面であり、第2の写真はボディ14の側面である。2枚の写真の捕捉及びアップロードを容易にするために、リクエストページ112を介して、ユーザ16は、画像捕捉画面114にアクセスすることができる。画像捕捉画面によって、アップロードする前に写真を捕捉し、再吟味することができるようになり、前記画面は、プロセスを通してユーザを導くための1以上のサブ画面を含んでいてよい。記載する実施形態では、装置12は、画像化アプリの制御下でコントローラ18を介して、精度を高めるために画像を確実に垂直面で撮影するために(装置12の姿勢を計算する姿勢センサの)内部ジャイロスコープを介して作成される姿勢データを含むデータを使用するように操作可能である。
【0133】
本発明の実施形態では、視覚的表現(例えば、写真)のセットは、カラー、グレー、又は二値(例えば、シルエット)画像を含む標準的な二次元(2D)画像;色及び/又はテクスチャを有するか又は有しない奥行き画像;色及び/又はテクスチャを有するか又は有しないボディのMRI、DEXA(DXA)、X線、CTスキャン、完全三次元(3D)点群、又は複数の不完全点群;並びに色及び/又はテクスチャを有するか又は有しない三次元(3D)メッシュを含んでいてよい。視覚的表現のセットは、対象の物理的三次元(3D)表面又はハルの再構築を可能にするレベルまで対象の形状(例えば、記載する実施形態では、ヒトの形状)を表す任意の形態のデータ又は特徴を感知し、出力することができる画像化(感知)装置を用いて捕捉される任意の画像のうちの1つ又は組合せを含んでいてよい。
【0134】
本発明の実施形態では、プライバシーを高めるために、視覚的表現のセットにおけるユーザの顔及び/又は他の識別できる特徴を隠すように操作可能である正規化/ぼかし機能を提供してもよい。視覚的表現を更にプライバシー保護してもよい。
【0135】
本発明の別の実施形態では、ユーザ登録及びリクエスト情報は、別の又は追加の細目、情報、及び/又はデータを含んでいてよい。
【0136】
ウェブサーバアプリケーション及び登録アプリケーションを含むサーバソフトウェアセットのアプリケーションを介して収集された全てのデータ及び情報は、本明細書に記載する通り使用するためにシステム34内で分配される。
【0137】
RUデータベース38は、複数のRUレコードを有する。各RUレコードは、そのために作成されるアバター等のRUに関連する他の情報と共に、上記の登録及びリクエスト情報を含むシステム10のRUのアカウントに関係するRU情報のセットを含む。
【0138】
サーバ36は、(専用ウェブサイト又は本明細書に記載する他の手段を介して送信される)ユーザ登録及びリクエスト情報を含む通信のレシートを感知又は検出するように操作可能である感知手段を有する。このような情報のレシートを感知したとき、サーバ36は、データベースマネジメントモジュール又はアプリケーションを含む、サーバソフトウェアセットの関連するアプリケーションの制御下で、そのプロセッサを介して、RUデータベース38における記録(及びテンプレートデータベース40における記録)を作成し、追加し、管理するように、また、受信されたデータ及び情報に従って本明細書に記載する動作を実行するように操作可能である。
【0139】
また、潜在ユーザは、例えば、サーバーソフトウェアのセットのソフトウェアの動作によって自動で捕捉し、RUデータベース38に入力するためにeメール、ファックス、若しくは他の通信(Facebook(商標)又はTwitter(商標)等のソーシャルネットワーキングサービスを介していてよい)を介してユーザ登録情報を提供することによって、又はデータ入力担当者若しくは管理者の他の従業員によって、自身をユーザとして登録又は記録することができる。
【0140】
登録成功後、RUは、続いて、オンラインアクセス又は「ログイン」ページ116を介してシステム10にアクセスし、ユーザが適切な識別及びセキュリティ承認(例えば、ユーザネーム及び関連するパスワード)を入力すると、システム10にアクセスできるようになることに留意すべきである。
【0141】
画像処理アプリケーションは、送信されたユーザボディの細目及びボディ16の第1の表現を受信及び処理して、第2の表現を作成するように操作可能である。
【0142】
記載する実施形態では、2D画像であろうと3D奥行き画像であろうと、画像を送信したとき、(ユーザボディの細目の)登録から初期設定が使用されるが、これは、フォトスクリーン117の形態を介して、必要に応じてユーザがアップデートすることができる(ユーザのボディの細目は、例えば、目標に向かって進行するにつれて経時的に変化するため)。これによって、有利なことに、データ入力時間が短縮される。
【0143】
特に、送信された性別、高さ、重量、サイズの有り無し、及び民族情報の有り無しに基づいて、画像処理アプリケーションは、ボディ14を分類し、複数のテンプレートの中からそれに最も近い3Dモデルを有するテンプレートを決定し、選択するように操作可能である。
【0144】
これが行われたら、画像処理アプリケーションは、
2枚の写真から前景(人体)をセグメンテーションし、第1の表現を2つのそれぞれのシルエットに変換し;
セグメンテーションされた前景及びそのそれぞれのシルエットを使用して、特徴並びにキーポイント及び/又はディスクリプタ及び/又は特徴の測定値を抽出し;
抽出された特徴及びキーポイントの測定値を用いて、選択されたテンプレートの3Dモデルを修正し、修正済の対象特有の3Dモデル画像(第2の表現である)を作成し;
修正済の3Dモデル画像をユーザアカウントに関連付け;そして、
第1の表現の2枚の写真を削除/破壊するように操作可能である。
【0145】
有利なことに、この実施形態では、作成された第2の画像は、対象(即ち、画像化されるボディ)に特有であり、その所望の特徴を正確に表す。
【0146】
本発明の実施形態では、画像処理アプリケーションは、第1の表現のボディの1以上の視覚的表現のボディを含む少なくとも1つの前景をセグメンテーションし;第1の表現の1以上の視覚的表現の1以上のセグメンテーションされた前景をそれぞれのシルエットに変換し;1以上のセグメンテーションされた前景及びそのそれぞれのシルエットを使用して、ボディの形状のハルを構築し、及び/又は特徴を抽出し、及び/又はキーポイントの測定値を抽出し;ハル及び/又は特徴及び/又はキーポイントの測定値のうちの1以上を用いて、選択されたテンプレートのボディの3Dモデル(平均的なボディモデル)の修正、リギング、及びモーフィングのうちの1以上を行って、第2の表現である修正済の対象特有の3Dモデル画像を作成するように操作可能である。
【0147】
実施形態では、奥行き画像、点群、及びメッシュ(いずれも、色及び/又はテクスチャを有するか又は有しない)の場合、画像処理アプリケーションは、ボディの対象特有の三次元形状を再構築するように操作可能である。
【0148】
通信アプリケーションは、サーバ36とそれと通信する装置との間の通信を可能にするように操作可能である。かかる通信は、本明細書に記載する通信を含み、eメール、ポップアップ通知、及びSMSメッセージを含む任意の適切な種類であってよく、セキュリティを高めるために暗号化してもよい。
【0149】
通信アプリケーションを介して行われる通信は、アップロードされた画像が消去されたことを確認する通知及びユーザの3Dアバターを作成するためにシルエットが用いられていることを示す通知等、ユーザへの状態通知を含んでいてよい。
【0150】
通信アプリケーションを介して、修正済の3Dモデル画像を装置12に通信し(適切な通知メッセージと共に)、そこで、主画像画面118に表示することができる。この実施形態で作成される修正済の3Dモデル画像は、ワーキングモデルであり、ユーザのボディ14の形状及び測定値を正確に反映しており、この点から、ユーザは、ユーザインタフェース24を介して1以上の相互作用を実施することができる。1以上の相互作用は、モデルの領域又は部分を選択してその正確な周囲長の詳細を得ることを含み得る。特に、記載する実施形態では、ユーザは、3Dモデルの一部を「クリックする」か又は他の方法で選択し、選択された部分に関連する数値を(ディスプレイ22を介して)見ることができる。ユーザがユーザインタフェース24を介して3Dモデルを回転させ、ズームすることができるようにする機能も提供される。
【0151】
本発明の実施形態では、ユーザがリクエスト情報を送信してから、修正済の3Dモデル画像が作成され、装置12に通信されるまでに約90秒間経過し得る。
【0152】
この実施形態では、性別に基づいてモデルを着色する:女性はピンク、男性は青。
【0153】
ユーザは、作成された電子画面及びページ上に提供されるそれぞれのナビゲーションインタフェースエレメントボタンの実行を介して、前記電子画面及びページに進んだり戻ったりすることを含むナビゲートを行うことができる。特に、その特定の測定値及び要件に基づいてパーソナルフィットネスの目標のサポートにアクセスすることを含む動作を実行するために、それを介してユーザがシステム10を制御することができるインタフェースエレメントボタンを有するナビゲーションバー120が提供される。記載する実施形態では、かかるサポートとしては、摂取することによってユーザがパーソナルフィットネスの目標を達成するのを支援する食事のレシピ;測定値;ユーザに合わせて作成し得る栄養学的計画及び運動プログラムを含む計画;新たな画像の撮影(新たな修正済の3Dモデル画像を作成);及びシステム10からのサインアウト/退出にアクセスすることを含む。
【0154】
本発明の実施形態では、装置12は、作成された修正済の3Dモデル画像(第2の表現である)を保存し、それを次にユーザがボディ14の新たな画像を作成するために装置12を使用するときに比較のためのテンプレートとして使用するように操作可能である。即ち、装置12の初回使用後、ボディ14の新たな画像を作成するためにユーザが装置12を使用する毎に、その前回の装置12の使用中に作成された修正済の3Dモデル画像を新たな画像の作成において使用する。したがって、かかる実施形態では、作成されたボディ14の第2の表現に基づいてボディ14の第3の表現を作成し、作成されたボディ14の第3の表現に基づいてボディ14の第4の表現を作成し、以下同様である。
【0155】
実施形態では、サポートは、例えば、DEXAスキャンの統合等、1以上の他のシステムとの統合を含み得る。かかる場合では、ユーザインタフェース24を介して実施され得る1以上の相互作用は、3Dモデル上に表示されるオーバーレイとしてDEXAスキャンから得られたデータ及び/又は情報にアクセスし、3Dモデルの一部を選択し、選択された部分に関連するDEXAスキャンデータ及び/又は情報を(ディスプレイ22を介して)見ることを含み得る。
【0156】
インボイス/請求書作成アプリケーションは、システム10の使用に従って支払うべき量を含む、各登録されたユーザに対するインボイスを作成するように操作可能である。
【0157】
支払処理アプリケーションは、各インボイスについての支払を受領するように操作可能である。
【0158】
本発明の実施形態では、システム10によって実施される記載した操作、追加の操作、及び/又は別の操作のうちの1以上は、ヒトの介入を必要とすることなしに自動的に行われる。
【0159】
次に、本発明の実施形態の上記及び他の特徴及び利点について、
図1に示すフローチャートを参照し、使用中のシステム10を参照して更に説明する。
【0160】
対象となるヒトは、上記の通りの登録プロセスを介してシステム10のユーザとして登録され、その結果、ユーザアカウントが与えられる。
【0161】
その後、(ここで登録された)ユーザは、上記の通りシステム10にアクセスし、前記システムを使用して、そのボディの1以上の修正済の3Dモデル画像を作成し、ユーザを支援してパーソナルフィットネスの目標を達成するための他の提供されているサポートにアクセスする。
【0162】
経時的に、ユーザは、体内の変化を示す、ボディの修正済の3Dモデル画像のシーケンスを作成することができる。かかるセルフモニタリングを頻繁に行うことを介して、ユーザは、パーソナルフィットネスの目標への進展を評価することができるので、前記目標を達成する可能性が高くなる。
【0163】
図4及び5は、本発明の態様に従って装置212を用いてボディを画像化するためのシステム210の第2の実施形態の使用中に実施される動作を示す。第2の実施形態におけるシステム210の類似の又は同じ特徴は、第1の実施形態と同一の参照番号を用いて記載される。
【0164】
更に詳細に記載する通り、第2の実施形態は、生態学的に有効なシステム、及び三次元人体モデル(アバター)を再構築する方法を提供する。更に詳細に記載する通り、前記システム及び前記方法は、その高さ及び/又は重量(例えば、個人の場合であるが、普遍性が失われることはない)が与えられた対象の1以上の画像を利用する。
【0165】
第2の実施形態では、装置212のコントローラは、ボディ14の実質的に真の三次元スキャンの投影シャドウを単純な形態で表す複数のシルエットを得るためにボディ14の第1の表現をセグメンテーションすることによってボディ14の第1の表現を処理し;前記シルエットに基づいてボディ14の第2の表現を作成するように電子プログラム命令の制御下で操作可能である。
【0166】
また、コントローラは、入力が受信されたら装置212のディスプレイ上に現れるユーザ特有のスケルトンを作成し;第1の表現をセグメンテーションするプロセス中、ユーザが第1の表現におけるボディ14をユーザ特有のスケルトンと位置合わせできるようにするように電子プログラム命令の制御下で操作可能である。
【0167】
特に、第2の実施形態では、システム210は、ユーザの3Dアバターを作成又は構築するために以下の逐次タスク(1〜6)を実行するようにアプリの電子プログラム命令の制御下で操作可能である。
【0168】
タスク1:ユーザの真の3Dスキャンの投影シャドウを単純な形態で表す二値画像(シルエット、Sと定義)を得るために、各画像においてユーザを自動的にセグメンテーションする。第2の実施形態では、セグメンテーションは、以下のいずれか又は両方の後に行われる:
a. ボディ14の正面の第1の写真を捕捉し始めたら、ユーザは、作成され、装置12のディスプレイ22を介して表示されるユーザ特有のスケルトンとボディとを位置合わせする。この操作は、最適な画像を確実に捕捉するために装置212を介して配信される視覚的及び/又は聴覚的フィードバックを伴い得る。
b. ユーザは、確実に、ボディの正面の第1の写真において顔、手、及び足が見えており、覆われていないようにする。ボディの側面図の第2の写真では、第2の実施形態に従って顔と足の一方又は両方とのみが見えていればよい。
【0169】
タスク2:セグメンテーションされたシルエットから様々な種類の特徴を抽出し、抽出された特徴を合わせて表現(データベクトル)を形成する。1シルエット当たり1表現。
【0170】
タスク3:送信されたユーザの高さ情報、画像サイズ(画像の高さ及び幅(ピクセル))に基づき、二値画像のブロブ解析、投影理論、及びカメラモデルを用いて、以下を計算する:
a. 各画像におけるカメラの位置及び姿勢を含む、捕捉カメラの固有及び外部パラメータの初期推定値(ポーズとも称され得る);Pと定義。
b. ユーザのスケルトンを表すスケルトンモデルのジョイント運動の初期推定値、JKと定義。これは、スケルトンモデルの各ジョイントの3D位置及び3D姿勢を含む。
【0171】
タスク4:送信されたユーザの高さ及び重量の情報に基づいて、又はユーザの高さ情報のみに基づいて、平均アバター(Avと定義)を予測するが、これは、知られている場合、ユーザが入力した高さ、重量、又は更なるボディ測定値に応じて変動する。また、Avは、サイズNのジョイントの参照スケルトンにリギングされ、参照ポーズの公知のJK及びボーン重量/高さマトリクス(Wと定義)を有する。
【0172】
第2の実施形態では、マトリクスWは、予測モジュールの学習プロセス中に一度だけオフラインで計算され、次いで、他のアバターの予測又は作成のために用いられる参照スケルトンJKと共に画像化アプリに保存される。Wの目的は、ジョイントと、ボーンと、頂点V、エッジE、及び面Fによって表される実際の3Dアバター表面との関係をコンストレインし、制御し、モデリングすることである。言い換えれば、画像化アプリに送信された画像におけるユーザのアバターを新たなアバター(Av1と定義)に変形又は単にアニメーション化する。参照又は平均アバターデータ(V、E、F、JK、W)及び送信された画像のユーザジョイント運動(JK1と定義)の公知値又は推定値は、公知であるか又は自然なヒトの動きから学習された多数の物理コンストレイントに依存してAvをAv1に最適化及び変形させるコスト関数に供給される。コンストレイントとしては、例えば、数例を挙げると、骨盤ジョイントが有し得る最大回転、又はジョイントの別のジョイントに対する3D位置及び姿勢、ジョイントのヒエラルキー、及び他の動きに影響を与えるものを挙げることができる。言い換えれば、平均アバターと同じボディ測定値を有する新たにアニメーション化されたアバターAv1は、参照/平均データの関数である;即ち、Av1=f(Av,W,JK,JK1)。第2の実施形態の技術では、2つの重み付けされたエネルギー最小化関数を合わせた関数に由来する:
a. V、F、及びEを使用するラプラシアンコタンジェントマトリクスを利用する表面平滑度関数、並びに
b. アバターの頂点とそのボーンとの間の対応を確実にコンストレインするために(V、F、及びW)を使用するボーン結合関数。
【0173】
初期アバターAvの予測(例えば、ベイジアン多変量を使用する)は、複雑な多変量系機械学習アプローチに従う。第2の実施形態では、これは、様々な年齢及びポーズの現実の人間(男性及び女性)の20,000枚を越えるリギング及びレンダリング済の三次元スキャンから抽出された3D特徴を用いるヒトの形状の機械知能学習(オフラインで行われる)を含む(したがって、本明細書で用いられるこの用語は生態学的に妥当である)。また、異なるボディ測定値間の様々な統計的関係の機械知能学習も含む(ベクトルM=(m1,m2,...,mL)と定義、Lは異なる測定値の数である)。例として、m1は、胸囲であってよい。開発された技術は、1以上の異なる測定値を考慮して1以上の測定値を予測することができ、これら測定値のうちの1以上を考慮してアバターを予測する。学習プロセスは、各実際の3Dスキャンから抽出される様々な三次元形状(表面)の特徴を使用することを含む。
【0174】
人工知能及び機械学習は、この点に限定されず、本発明の別の実施形態では、画像化することを意図するボディ又は物体、及び行われるか又は分類される決定に従って、更なる及び/又は別のトレーニング、試験、及び検証を用いることができる。
【0175】
タスク5:
前提
a. ユーザの高さ、又は高さ及び重量及び性別、Mにおける残りの測定値を予測し、次いで、ユーザの初期平均アバターAvを作成(予測する)。したがって、Av自体は、測定値Mの関数である、即ち、Av=fa(m1,m2,...,mL)=fa(M)、
b. 投影マトリクスPの初期推定値、
c. Avの参照ポーズジョイント運動JK及びそのボーンマトリクスW、
d. セグメンテーションされたシルエットは、第1の表現のSを定義する。
問題:
上記を前提として、アバターAv1及びその正確な測定値を見つけ、ユーザのM1を定義する?
解決法:
a− Mを用いてM1を初期化する。
b− ユーザが参照ポーズとは異なるボディポーズを有するとき、そのジョイント運動をJK1であると推定し、参照オフラインポーズJKを用いてそれを初期化する。
c− Pを用いてP1を初期化し、P1は、正確なカメラパラメータとなる。
d− 関数Av1=f(V,F,E,M1,JK1,W)を形成する。
【0176】
次いで、適応性及び反復するコンストレインされた凸最適化技術を用いて、ユーザのシルエットS、ユーザのシルエットから抽出された表現又は顕著な特徴、及びアバターAv1の投影シルエットを比較するか又は一致させるコスト関数を最小化する。即ち、S対Av1のシルエット。
【0177】
Av1のシルエットは、Av1=P1(Av1)の投影を用いて評価され、続いて、画像モーフィングプロセス(例えば、スムージング、エッジ検出、エロージョン、拡大、ホールフィリング、孤立点の除去、及び連結成分解析を用いるスモールブロブを含む)が行われる。画像化技術の開発された最適化プロセスは、適応的に及び自動的に、(i)最初に予測された測定値Mを新たなボディ特有の値M1に達するように、(ii)最初に推定された投影マトリクスPを新たな実際のマトリクスP1に達するように、及び(iii)最初に推定されたジョイント運動JKを実際の3D用語におけるボディの新たな且つ実際の値JK1に調整する。それが極小に達し、ユーザのシルエット(又はその特徴若しくは表現)がアバターのAv1投影シルエットに一致するまで、全て単一の反復するコンストレインされた方法で。コンストレイントとしては、例えば、最大値及び最小値が挙げられ、ヒトの臀部、腰等は、現実的に、JKが有し得る中でも特定のジョイントの位置及び姿勢の最大値及び最小値であってもよく;又はカメラが有し得る最大回転角及び転換(オフセット)であってもよい。
【0178】
関連技術のシステムとは異なり、第2の実施形態のシステム及び方法は、ユーザのアバター又はシルエットに一致する最も近いシルエット又はアバターを見出すために別個の原理成分解析(PCA)ベースのLOOKUPテーブルを必要としない。開発されたモデルベースの多変量系機械学習アプローチは、学習された3Dスキャンのそれぞれを高次元超空間における点として(例えば、Remainen、Grassmann多様体、又はLie群)表す。捕捉された画像における何らかの手動調整も参照物体も必要としない。更に、最適化プロセス全体が、完全に自動的であり、正確なユーザ特有のアバターを作成し、各画像におけるユーザのポーズを自動的に推定し、カメラの固有及び外部パラメータを自動的に推定することが可能である。
【0179】
タスク6:5におけるシルエットを一致させるために、様々な特徴及び表現を試験し、最適なものを選択した。例えば、特徴は、数例を挙げると、直接コサイン変換(DCT)、角/縁、配向勾配のヒストグラム(HOG)、スピードアップロバスト特徴(SURF)、スケール不変特徴変換(SIFT)、及びカールベット特徴に基づく。
【0180】
第2の実施形態のシステム10の電子プログラム命令は、登録モジュール(フロントアプリ)、画像捕捉モジュール、画像検査及び前処理モジュール、前景(ユーザのシルエット)セグメンテーションモジュール、並びにアバター及びシルエットマッチングモジュールを含む複数のソフトウェアモジュールを含む。
【0181】
登録モジュール(フロントアプリ)
第2の実施形態の登録モジュール(フロントアプリ)は、第1の実施形態のウェブサイトアプリケーションと同様に動作し、ボディに関する情報及び/又はデータをユーザが入力するのを容易にする。第2の実施形態では、これは、ユーザの高さ及び重量、又は高さのみを含み得る。それは、また、システム10の試験フェーズ又は学習フェーズにこれらデータを与えることを望んでいるかどうかについての指示をユーザから受信するように動作可能であり、これは、例えば、受信された画像をぼかしたり暗号化したりする程度を求めることができる。
【0182】
第2の実施形態では、ユーザデータをクラウドオーバーSSLに記憶させ、プライベートなデータを暗号化する。
【0183】
画像捕捉モジュール
画像捕捉モジュールは、クラシックオプション及びスマートオプションを含む、画像をシステムに入力するためのオプションをユーザに提供するように操作可能である。
【0184】
クラシックオプションを介して、ユーザは、自身のデジタルカメラを用いて1枚若しくは複数の画像を捕捉するか、又は任意の種類の画像(例えば、本明細書に記載するもの)を捕捉し、パソコン、ノートパソコン、ipad、タブレット、又は類似の装置を用いて画像をアップロードするよう誘導される。
【0185】
スマートオプションを介して(スマートフォン、パソコン、ノートパソコン、タブレット、又は類似の装置を用いるときに適用可能)、ユーザは、スマートフォン、ノートパソコンに接続又は内蔵されているカメラ、パソコン、又は捕捉装置(例えば、カメラ)が一体化している任意の装置を用いて画像を捕捉し、プログラム、スクリプト、アプリ、又は類似のものを実行することができる。
【0186】
画像捕捉モジュールは、ユーザ自身が画像を捕捉するか又は別の人物が画像を捕捉するかに応じて、最適な画像を捕捉するようユーザを誘導するために、視覚的及び聴覚的補助を提供するように操作可能である。
【0187】
普遍性を失うことなしに、リアルタイムヒトトラッカー及び/又はヒト顔トラッカー等の視覚的補助を始動させ、次いで、捕捉プロセス中に開始して、最良の最適画像を捕捉するために第三者を支援する。
【0188】
これに関して、画像捕捉モジュールは、カラー画像又はグレースケール画像のいずれかにおいて独自のキーポイント及び独特の顔特徴、並びに時空間的特徴を合わせてヒトの顔を検出及び追跡する方法を学習する適応的カーネル系トラッカーを含む。眼、鼻、耳、及び口のディテクター及びトラッカーは、主な顔トラッカー内でも網羅される間接的サブモダリティである。開発されたトラッカーは、決定論的単変量及び多変量確率モデルを使用する。
【0189】
ヒトトラッカーは、顔トラッカーと同じ技術的側面に従うが、本明細書に記載する独特のヒトの形状及び動きの特徴を用いる。
【0190】
上記の通り、画像捕捉モジュールは、独自の対象(ユーザ)特有のヒトスケルトンを作成し、最適な画像を捕捉するようユーザを誘導するように操作可能である。この目的のために、多変量データ解析を含む最新の人工知能及び機械学習技術を用いて、対象の高さ及び重量、又は重量のみが与えられたスケルトンジョイントの三次元位置の作成に関与するモデルを学習する。第2の実施形態では、学習プロセスは、20,000人を超える実際のヒト対象の3Dスキャンに属するグラウンドトルース(実際の)解剖学的データによってコンストレインされるので、この用語は生態学的に妥当である。凸最適化及びフィッティングのプロセス、形状収縮は、また、3Dスキャンをその曲線スケルトン、解剖学的スケルトンにスキニング、リギングし、これらのうちの2つのそれぞれの間の対応を得るために開発された。
【0191】
人工知能及び機械学習は、この点に限定されず、本発明の別の実施形態では、追加の及び/又は別のモデルを学習し、画像化することを意図するボディ又は物体に従ってスケルトンを作成できることを理解すべきである。学習プロセスのコンストレインは、本発明の実施に適切な場合、第2の実施形態よりもより多い又はより少ないデータ、並びに追加の及び/又は別の種類のデータを含み得る。
【0192】
捕捉プロセス中、システム210によって実行される上記アプローチは、多数のボーン及びジョイントを含むリアルタイムオンスクリーンヒトスケルトンを作成し、(装置212のタッチスクリーン142に)示す。次いで、(システム210の操作によって作成され、装置212を介して出力される)可聴音/単語/セリフを介して、ボディの部分(例えば、胸、腕、脚、及び頭)を画面上のヒトスケルトンのボーンと位置合わせするようにユーザに指示する。画像捕捉モジュールは、作成されたスケルトン及びユーザのリアルタイムで捕捉される画像から抽出した形状外観及びばらつきの特徴、ポーズの特徴、時空間的(又は、数例を挙げると、光学フローの特徴若しくは他の運動データベクトル)を含む様々なデータと特性の間で計算される誤差によって位置合わせプロセスを制御するように操作可能である。装置212のセンサのセットのセンサからの出力、例えば、そのジャイロスコープによって捕捉される三次元姿勢ジャイロスコープ角も、最適な直線画像捕捉を更に保証するためにこのモジュールで利用される。
【0193】
次いで、画像におけるスケルトンポーズとユーザポーズとの間の誤差の分類及び種類をフィードバックモジュールに供給又は入力して、ユーザが最適な画像(写真)を画像化するように誘導する。
【0194】
位置合わせプロセス並びに視覚的及び聴覚的フィードバックモジュールは、
図4に示す通り、ユーザ画像とスケルトンとの間で許容可能な位置合わせが行われるまで、同時に作動する。
【0195】
画像検査及び前処理モジュール
画像検査及び前処理モジュールは、正確なヒトアバターの再構築に影響を与える1以上の問題、好ましくは如何なる問題についても、捕捉された画像を十分に検査するように操作可能である。かかる問題としては、ユーザエラー、画像品質に起因するエラー、固有及び外部ノイズに起因するエラー、外来対象、複数の対象の存在、並びにカメラレンズに起因する歪みを挙げることができるが、これらに限定されない。これは、第2の実施形態では、2つのレベルで行われる。
a. 検査の第1のレベルは、アプリレベルである。この場合、(i)アプリは、関心対象(第2の実施形態における対象の例として、ヒトユーザを含む)の存在についてチェックするように操作可能である。このタスクのために、単純であるが効率的な顔及びヒトのディテクター及びトラッカーが開発されており、これは、検査に基づいて画像を検査し、承認又は拒絶するように操作可能である。(ii)また、アプリは、装置212の内臓ジャイロスコープデータを使用して、最適な画像を捕捉するようユーザを誘導し、所定のポーズ閾値のセットに従って画像を承認又は拒絶するように操作可能である。(iii)また、アプリは、規定の基準が満たされているかどうか及び画像を承認可能であるかどうかを判定するために、例えば、フォーマット、サイズ(寸法(ピクセル)及び必要な記憶容量)を含む画像の詳細をチェックするように操作可能である。承認される場合、アプリは、次いで、元の承認された品質の99%以上で品質を維持しながら、画像のサイズを低減するように操作可能である。これら工程のいずれにおいても、聴覚的及び視覚的フィードバックを作成し、提示して、ユーザを導くことができる(上記の通り)。
b. 検査の第2のレベルは、クラウドにおいて動作する高度画像前処理(AIPP)モジュール内で生じ、且つ以下の通り動作する綿密なレベルである。
i. AIPPは、画像におけるノイズを最小化し、次に行われるプロセスであるセグメンテーションのために画像を調製するために、様々なサイズ及び分散のガウス分布カーネルを用いて、捕捉された画像をフィルタリングする。
ii. また、AIPPは、ピクセルカラー値又はその強度、及びその画像位置を用いて推定される確率及び結合確率関数に基づいて統計検定を構築する。次いで、照明及び明暗に関連するばらつき又は影について補正する。次いで、統計検定は、大きな画像データベースのオフライン検定を通して同定される所定の閾値に基づいて画像を承認するか拒絶するかを判定する。
iii. AIPPは、複数の顔を有する画像、不規則に反転しているか又は歪んだ画像、完全/不完全な複数の人/1人の人の画像、主な対象(ユーザ)に干渉する特性を有する任意の外来対象又は背景を有する画像、ユーザが肢切断者であることが示され且つ追加のデータが提供されている場合又は2枚以上の画像を用いる場合(2枚の画像の場合、ユーザの正面の完全なキャプチャを提示しなければならない)を除いて、ユーザのボディの不完全なキャプチャを有する画像を検査し、拒絶する。この目的/タスクのために、機械学習アプローチが用いられ、1人以上の人を含むか又は全く含まないビデオを含む大きな画像データセットから抽出した様々な融合した多様式の顕著な画像特徴、ディスクリプタ、及びキーポイントによって駆動される。(数例を挙げると)ヒトの皮膚、顔、鼻、口、耳、腕、上半身、下半身、脚、足に属する特徴、ディスクリプタ、及びキーポイントも、この検査モジュールにおける機械学習のトレーニング、試験、及び検証のために用いられる。
【0196】
人工知能及び機械学習は、この点に限定されず、本発明の別の実施形態では、画像化することを意図するボディ又は物体及び行われる決定に従って、追加の及び/又は別のトレーニング、試験、及び検証を用いてもよいことを理解すべきである。
【0197】
前景(ユーザのシルエット)セグメンテーションモジュール
単一画像から前景−背景セグメンテーションに対して行われる大部分の関連技術の作業は、TV番組で用いられるクロマキースクリーン等、公知の又は半公知の背景特性を推測するものである。他のものは、ユーザに、画像を手動でデジタル化するか又は画像中のボディを同定させる。しかし、画像中のユーザのボディの外形又はユーザ若しくは背景に属する独特な特徴(公知である場合、判定/入力されるか又は推定することができる)は、ボディの形状の正確なシルエットのセグメンテーションに強い制約を加える。
【0198】
本発明者らは、完全に自動的な方法において用いられる、画像中のヒトのシルエットをセグメンテーションするために「グラフカット」原理による最適化に基づく反復アプローチを開発した。本発明のアプローチは、多数の態様における最大フロー最小カット定理、ベイズ−マッティング(トリマップを含む)、及び確率的カラーモデル等の標準的なグラフカットにおいて用いられる原則を拡大し、最も重要なことに、第2の実施形態では、本発明者らの確率モデルは、ピクセル強度だけでなく、ヒトの形状の構造(グラフ)に対するその位置及び関連性/接続(密着)も含むので、それは、完全に自動的であり、そして、前景及び背景の色分布が十分に分離されないときロバストである。第2の実施形態のシステム210が実施するように操作可能である、開発されたアプローチの工程は、以下の通り要約することができる。
【0199】
前記アプローチは、画像からユーザのシルエットをセグメンテーションするために、以下の入力のうちの一部又は全てを必要とする。
i. ユーザのボディを含む画像における境界ボックス若しくは領域又はブロブ。これは、「ハード」セグメンテーショングラフカットシナリオとして知られているものについて用いられる。
ii. 確実に、略確実に、恐らく/多分ユーザのボディである、画像中の前景領域又は特徴。
iii. 確実に、略確実に、恐らく/多分ユーザのボディではない、画像中の背景領域又は特徴。
【0200】
言い換えれば、画像中の各ピクセルには、前景又は背景に属する可能性を示す確率値が与えられる。
【0201】
ユーザは上述の画面上のスケルトンとボディとを位置合わせするように求められるので、
iv. スケルトンを包含する境界ボックス(領域)は、上記(i)において必要なものを厳密に規定する。しかし、不確実性エラーを考慮するために、第2の実施形態における5%の不確実性因子を領域位置に追加する、即ち、5%増加させる。
v. スケルトンボーンに沿った(重なるか又は同時登録される)画像ピクセルは、確実に又は略確実に人体の一部であり、これは上記(ii)を満たす。システム210は、可変サイズのカーネルによって重なった画像−スケルトン領域を広げることにより、これら「確実な」ボディ部分画像領域を更に拡張及び拡大するように操作可能である。サイズは、ボディ部分に比例していてよい。例えば、背骨に沿った領域は、
図2に示す通り、腕の一方よりも大きなサイズのカーネルによって広げられる。
vi. 境界ボックス外のピクセルは、背景に属する可能性が非常に高く、上記(iii)を満たす。
vii. 下記の通り、別のアプローチによってチェックされるまで、前景又は背景のいずれとしてもマークされていない境界ボックス内のピクセルには、等しい確率が与えられる。
【0202】
このサブモジュールは、正確なシルエットのセグメンテーションを更に強化するように操作可能である。また、皮膚色を有する可能性が高い画像におけるピクセルを同定するベイジアン系皮膚色ディテクターも学習され、開発された。これは、ユーザの顔、手、及び足(最悪の場合、ボディの残りが覆われる)、並びに他の不必要な皮膚様対象の検出及びセグメンテーション(同定ではない)を可能にするように操作可能である。システム210は、セグメンテーションされた皮膚ブロブを解析し、半スケルトンリンクを作成するために連結成分分析及びフィッティング、曲率分析を使用するように操作可能である。次いで、隣接データ(マトリクス)を再構築及び解析して、ヒトスケルトンリンク(ボーン様)の一部ではないブロブを除去する。次いで、残りのブロブを、ユーザのボディである可能性が非常に高いと分類する。
【0203】
次いで、学習された顔ディテクターを用いて、ユーザの顔を検出することによって上述のアプローチを更に改良する。顔又は顔の輪郭が検出されたら、次いで、予め規定したマスクを適用して、ヒトの皮膚の色合いのみを有する顔領域を切り取る。即ち、眼、眉毛、及び口を検出し、除去する。次いで、切り取られた顔マスクの色ヒストグラムに基づく逆投影アルゴリズムを適用して、顔マスクと同じ統計値を有する画像中のピクセルを同定する。第2の実施形態におけるこのサブモジュールの出力は、記載の反復グラフカットアプローチに必要なピクセル及び領域に更に追加し、改良するユーザ特有の皮膚の色合いを有するブロブを含む。
【0204】
最後に、ピクセルの色、その位置、及びその分類を、提案された反復グラフカットに供給して、ユーザのシルエットをセグメンテーションする。これに続いて、画像及びエッジの平滑化、穴及び欠損データの充填、並びに小さな離散ブロブの除去等をシステム210が実施するように操作可能である多数の画像処理及びモーフィングプロセスを実施する。
【0205】
アバター及びシルエットマッチングモジュール
アバター及びシルエットマッチングモジュールは、本明細書に記載する通り、タスク4、5、及び6に従ってアバター及びシルエットマッチングプロセスを実施するように操作可能である。
【0206】
要約すると、本発明の第2の実施形態は、3D多関節モデル(スケルトンにリグされるヒトモデル/アバター)を用いる。グラフマッチタイプの前景セグメンテーション(シルエット)を使用し、赤い(infammed)スケルトンに重なっている画像データによってコンストレインされる。皮膚、顔、鼻、口、及び耳のディテクター及びトラッカーを用いて、これを更に改善/コンストレインする。スマートマスクを用いて、ユーザ特有の皮膚の色合いを得る。次いで、逆投影技術を用いて、ユーザ独自の皮膚ブロブを分類し、如何にして人体の部分が連結され、それらが互いに対して関連しているかに関する、決定された連結性解析とは一致もせず適合もしないものを拒絶する。また、主測地線分析(PGA)及び一般的なマニホールドも用いられる。幾何学的データ分析及び統計的形状解析では、主測地線分析は、主成分分析を形状ディスクリプタ及び表現と共に用いるのに好適なマニホールドの非ユークリッド非線形設定に一般化したものである。
【0207】
本発明に記載された実施形態は、幾つかの利点を提供することが理解される。
【0208】
本発明の実施形態の主な利点は、重量減少/重量増加/重量維持の努力の結果である事実データがユーザに提供される点であり、これに関して、本発明の実施形態は、教育ツールとして機能することが分かる。ユーザからデータを集めるとき、本発明の実施形態は、ユーザに対する潜在的な健康上の利益を推定するように操作可能である1以上の予測アルゴリズムを含み得る。これに関して、本明細書に記載するとき、本発明の実施形態では、反復データは、ボディの1以上の以前の表現及び/又は他のボディの積分又はボディの1以上の以前の表現及び/又は他のボディのデータ若しくは関連するデータの積分を含み得、データは、装置12の操作を介して作成され得る及び/又は1以上の他のソース、例えば、1以上の他の装置12又はDEXA技術から得られ得る。長期にわたるユーザのカロリー摂取及び運動を含み得るかかるデータに基づいて、1以上の予測アルゴリズムを介して、装置12は、かかるレジメが維持される場合、ユーザのボディ14がどうように見える可能性があるのかを示す1以上の予測アバターを作成し、提示するように操作可能である。
【0209】
本発明の実施形態の装置12は、かかる他のソースを探し、配置し、通信を確立するように操作可能であり得る。
【0210】
本発明の実施形態は、有効且つ正確なモニタリングを介して重量減少(及び/又は他のパーソナルフィットネスの目標)を促進するために正確なカスタマイズされたアバターの作成を提供する。アバターは、即時に及び非侵襲的手順を介して作成し得る。作成されたアバター及び関連するデータを記憶することによって、経時比較を行うことができるようになるので、ボディの変化の正確なモニタリングが可能になる。
【0211】
本発明の実施形態を用いて、健康上の変化を更に促進するためのフィードバックを提供することができる。システムを介して、経時的にユーザのボディ変化を示すアバターのシーケンスを作成することができる。アバターのシーケンスは、ユーザの努力の歴史的事例研究を作成する。ユーザは、(観察者バイアスを有する写真の使用に対して)結果を定量的に見ることができる。
【0212】
小さな範囲の標準的なテンプレート及びシルエットを用いることによって、不良画像から生じる誤差が低減されるが、それは、処理要件であるためである。その結果、プロセスをより速く且つより低コストにすることによって、ユーザの経験が改善される。
【0213】
更に、セグメンテーションされた前景及びシルエットの特徴によって、ユーザが送信した画像を、個人の写真画像データと一緒には保存しないようにすることができる。記載する実施形態では、ユーザの写真画像は破壊され、それによって、ユーザのプライバシー保護が強化される。
【0214】
本明細書に記載する本発明の変形及び変更は、その趣旨及び範囲から逸脱することなしに明らかになることを当業者は理解するであろう。当業者に明らかになる変形及び変更は、本明細書に記載する発明の広い範囲及び範疇内であるとみなされる。