IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 帝人フロンティア株式会社の特許一覧

特開2023-166573コンピュータにより実行される身体採寸方法
<>
  • 特開-コンピュータにより実行される身体採寸方法 図1
  • 特開-コンピュータにより実行される身体採寸方法 図2
  • 特開-コンピュータにより実行される身体採寸方法 図3
  • 特開-コンピュータにより実行される身体採寸方法 図4
  • 特開-コンピュータにより実行される身体採寸方法 図5
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023166573
(43)【公開日】2023-11-21
(54)【発明の名称】コンピュータにより実行される身体採寸方法
(51)【国際特許分類】
   G06T 7/00 20170101AFI20231114BHJP
【FI】
G06T7/00 350C
G06T7/00 660Z
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023150496
(22)【出願日】2023-09-15
(62)【分割の表示】P 2022000630の分割
【原出願日】2022-01-05
(71)【出願人】
【識別番号】501270287
【氏名又は名称】帝人フロンティア株式会社
(74)【代理人】
【識別番号】110002734
【氏名又は名称】弁理士法人藤本パートナーズ
(72)【発明者】
【氏名】澤田 泰輔
(57)【要約】      (修正有)
【課題】対象者の身体特徴を高い精度で採寸する、コンピュータにより実行される身体採寸方法を提供する。
【解決手段】方法は、身体領域と背景領域とを含む撮影画像を取得するステップ11と、撮影画像に対応するリファレンス二階調画像を生成するステップ12と、体型テンプレートデータとCNNを使用してリファレンス二階調画像から対象者の三次元モデルを生成するステップ15と、を含む。方法は、撮影画像又はリファレンス二階調画像から対象者の骨格を推定し、推定した骨格を用いて撮影画像又はリファレンス二階調画像に含まれる身体領域の形状を補正するステップ、をさらに含む。
【選択図】図1
【特許請求の範囲】
【請求項1】
対象者の身体を採寸するためのコンピュータにより実行される方法であって、
前記対象者の身体に対応する身体領域と、前記身体領域以外の領域に対応する背景領域とを含む、少なくとも1つの撮影画像を取得する画像取得ステップと、
前記撮影画像のそれぞれを変換して、前記撮影画像の身体領域に対応する第1色で表された身体領域と、前記撮影画像の背景領域に対応する第2色が表された背景領域とを含む、前記撮影画像と同数のリファレンス二階調画像を生成する二値化ステップと、
体型テンプレートデータと畳み込みニューラルネットワークを使用して、前記リファレンス二階調画像から、前記対象者の三次元モデルを生成するモデル出力ステップと、
を含み、
前記リファレンス二階調画像を生成するステップの前に、前記撮影画像から前記対象者の骨格を推定し、推定された骨格を用いて、前記撮影画像に含まれる前記身体領域の形状を補正するステップ、又は、
前記対象者の三次元モデルを生成するステップの前に、前記撮影画像又は前記リファレンス二階調画像から前記対象者の骨格を推定し、推定された骨格を用いて、前記リファレンス二階調画像に含まれる前記身体領域の形状を補正するステップ
をさらに含む、方法。
【請求項2】
撮影画像補正ステップ又は前記二階調画像補正ステップでは、畳み込みニューラルネットワークを使用して、前記対象者の骨格を推定する、請求項1に記載の方法。
【請求項3】
前記少なくとも1つの撮影画像が、前記対象者を正面から撮影した画像と、前記対象者を側面から撮影した画像とを含む、請求項1又は2に記載の方法。
【請求項4】
前記少なくとも1つの撮影画像が、前記対象者のユーザ端末によって撮影された画像である、請求項1~3のいずれか1項に記載の方法。
【請求項5】
前記少なくとも1つの撮影画像が、前記ユーザ端末に設けられた深度センサによって、前記撮影画像の撮影と同時に取得された深度データに基づいて、歪み補正された画像である、請求項4に記載の方法。
【請求項6】
前記少なくとも1つの撮影画像が、前記ユーザ端末上で動作するアプリケーション上で撮影された画像であり、前記アプリケーションの撮影画面には、撮影に要求される前記対象者の姿勢及び向きに対応するガイド枠が表示されている、請求項4又は5に記載の方法。
【請求項7】
前記体型テンプレートデータが、前記対象者の備える1つ以上の属性を備えた人物群より生成された体型テンプレートにより構成されている、請求項1~6のいずれか1項に記載の方法。
【請求項8】
前記対象者の備える1つ以上の属性が、前記対象者の国籍又は人種のうち1つ以上を含む、請求項7に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、コンピュータにより実行される身体採寸方法に関する。
【背景技術】
【0002】
近年のコンピュータ技術の発展に伴い、人物が撮影された映像又は画像から、該人物の身体寸法を自動的に採寸する試みがなされてきている。このような映像又は画像からの自動採寸技術は、特に、衣料品分野において、顧客の身体寸法をネットワーク越しに測定可能な方法として、注目されている。
【0003】
現在よく知られている自動採寸方法は、典型的には、対象者が撮影された二次元の映像又は画像から、畳み込みニューラルネットワーク(CNN)を使用して対象者の身体が表現された三次元モデルを生成し、この三次元モデルから寸法を測定することによって行われる。そのような自動採寸技術の例として、非特許文献1に開示されるBodyNetが広く知られている。BodyNetでは、二次元の映像又は画像内に撮影されている対象者に対して骨格推定を行った後、推定された骨格に肉付け(スキニング)を行うことによって三次元モデルを生成している。
【0004】
一方、自動採寸技術の他の例として、非特許文献2に開示されるHS-Netsもまた知られている。HS-Netsでは、BodyNetのような骨格推定や肉付けを行うのではなく、対象者が所定の姿勢及び向きで撮影された複数の二次元の画像から、三次元モデルを直接生成する。この方法では、ベースとなる二次元の画像の撮影状態が指定されるが、特許文献1のBodyNetと比較して優れた精度で三次元モデルを生成できる。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】Gul Varol, et al.,“BodyNet: Volumetric Inference of 3D Human Body Shapes”,ECCV 2018,arXiv:1804.04875 [cs.CV],2018年4月13日
【非特許文献2】Endri Dibra, et al.,“HS-Nets : Estimating Human Body Shape from Silhouettes with Convolutional Neural Networks”,IEEE Conf. Proc.,2016年,3DV,p.108-117.
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、非特許文献1及び2の方法により得られる三次元モデルは、身体の細かな特徴に対する正確な採寸データを得る目的で使用するには精度が不十分であり、これらの方法により得られる三次元モデルから、高精度な採寸データを得ることは難しいという問題がある。
【0007】
また、非特許文献2のHS-Netsは、理想的な撮影画像を使用できれば、非特許文献1のBodyNetよりも比較的高い精度で三次元モデルを生成できるという利点があるものの、HS-Netsのための理想的な撮影画像を個人が撮影することは困難である。そのため、当該方法により高い精度の三次元モデルを得ることは困難であり、高い精度で採寸データが得られないという問題がある。
【0008】
そのため、撮影された二次元画像に基づいて、より高い精度で採寸を行うことが可能な自動採寸方法が求められている。
【0009】
本発明は、上記問題点に鑑み、対象者の身体特徴を高い精度で採寸する、コンピュータにより実行される身体採寸方法を提供することを課題とする。
【課題を解決するための手段】
【0010】
本発明の第一の態様に係る、対象者の身体を採寸するためのコンピュータにより実行される方法は、
前記対象者の身体に対応する身体領域と、前記身体領域以外の領域に対応する背景領域とを含む、少なくとも1つの撮影画像を取得する画像取得ステップと、
前記撮影画像のそれぞれを変換して、前記撮影画像の身体領域に対応する第1色で表された身体領域と、前記撮影画像の背景領域に対応する第2色が表された背景領域とを含む、前記撮影画像に対応するリファレンス二階調画像をそれぞれ生成する二値化ステップと、
前記リファレンス二階調画像のそれぞれを、モデル生成用画像として定義する定義ステップと、
前記対象者の三次元モデルを出力するモデル出力ステップであって、
体型テンプレートデータと畳み込みニューラルネットワークを使用して、前記モデル生成用画像から、前記対象者の三次元モデルを生成するサブステップと、
前記対象者の三次元モデルに基づいて、前記モデル生成用画像のそれぞれに対応する比較用二階調画像をそれぞれ生成するサブステップと、
前記リファレンス二階調画像の身体領域のそれぞれと、前記比較用二階調画像の身体領域のそれぞれとを比較して、両者の差分値を算出するサブステップと、
前記差分値が所定の閾値より大きい場合、かつ、本モデル出力ステップの実行回数が所定の回数より少ない場合、前記比較用二階調画像を修正し、前記モデル生成用画像を修正された前記比較用二階調画像に変更して、本モデル出力ステップを再度実行するサブステップと
を含む、モデル出力ステップと、
最後に算出された前記差分値が所定の閾値以下であった場合、最後に生成された前記対象者の三次元モデルに基づいて、前記対象者の身体特徴に関連する1つ以上の寸法を測定するステップと
を含む方法である。
【0011】
斯かる構成によれば、対象者の三次元モデルを出力するにあたって、三次元モデルから生成された比較用二階調画像と撮影画像に基づくリファレンス二階調画像との誤差が十分に小さい三次元モデルが得られるまで、三次元モデル生成のベースとなる二階調画像を修正しつつ三次元モデルの生成を繰り返す。これにより、対象者の身体が高い精度でモデリングされた三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0012】
本発明の第二の態様に係る、対象者の身体を採寸するためのコンピュータにより実行される方法は、
前記対象者の身体に対応する身体領域と、前記身体領域以外の領域に対応する背景領域とを含む、少なくとも1つの撮影画像を取得する画像取得ステップと、
前記撮影画像のそれぞれを変換して、前記撮影画像の身体領域に対応する第1色で表された身体領域と、前記撮影画像の背景領域に対応する第2色が表された背景領域とを含む、前記撮影画像と同数のリファレンス二階調画像を生成する二値化ステップと、
体型テンプレートデータと畳み込みニューラルネットワークを使用して、前記リファレンス二階調画像から、前記対象者の三次元モデルを生成するモデル出力ステップと、
を含み、
前記リファレンス二階調画像を生成するステップの前に、前記撮影画像から前記対象者の骨格を推定し、推定された骨格を用いて、前記撮影画像に含まれる前記身体領域の形状を補正するステップ、又は、
前記対象者の三次元モデルを生成するステップの前に、前記撮影画像又は前記リファレンス二階調画像から前記対象者の骨格を推定し、推定された骨格を用いて、前記リファレンス二階調画像に含まれる前記身体領域の形状を補正するステップ
をさらに含む方法である。
【0013】
斯かる構成によれば、対象者の三次元モデルを生成するベースとなるリファレンス二階調画像を生成する際に、撮影画像又はその二階調画像に基づいて推定された対象者の骨格に基づいて、撮影画像を取得する際に生じ得る対象者の身体領域の歪みを補正し、三次元モデルの生成に適したリファレンス二階調画像を生成する。これにより、対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0014】
本発明の第三の態様に係る、対象者の身体を採寸するためのコンピュータにより実行される方法は、
前記対象者の身体に対応する身体領域と、前記身体領域以外の領域に対応する背景領域とを含む、少なくとも1つの撮影画像を取得する画像取得ステップと、
前記撮影画像のそれぞれを変換して、前記撮影画像の身体領域に対応する第1色で表された身体領域と、前記撮影画像の背景領域に対応する第2色が表された背景領域とを含む、前記撮影画像と同数のリファレンス二階調画像を生成する二値化ステップと、
体型テンプレートデータと畳み込みニューラルネットワークを使用して、前記リファレンス二階調画像から、前記対象者の三次元モデルを生成するモデル出力ステップと、
を含み、
前記体型テンプレートデータが、前記対象者の備える1つ以上の属性を備えた人物群より生成された体型テンプレートにより構成されている方法である。
【0015】
斯かる構成によれば、対象者に近い人物群より生成された体型テンプレートにより構成された体型テンプレートデータを利用することにより、対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【発明の効果】
【0016】
本発明の対象者の身体を採寸するためのコンピュータにより実行される方法によれば、対象者の身体特徴を高い精度で採寸することができる。
【図面の簡単な説明】
【0017】
図1図1は、本発明のコンピュータにより実行される身体採寸方法の一実施形態を示す。
図2図2は、図1の身体採寸方法に含まれる、三次元モデル生成ステップの詳細を示す。
図3図3は、図1の身体採寸方法が実行されるコンピュータを含むシステムの一実施形態を示す。
図4図4は、図3のシステムに含まれる、三次元モデル生成モジュールの詳細を示す。
図5図5は、撮影画像を取得する際に使用されるアプリケーション上に表示される撮影画面の例を示す。
【発明を実施するための形態】
【0018】
以下、図面を参照して、本発明の対象者の身体を採寸するためのコンピュータにより実行される方法の実施形態について説明する。ただし、下記の実施形態は、単なる例示である。本発明は、下記の実施形態に何ら限定されない。
【0019】
本発明の対象者の身体を採寸するためのコンピュータにより実行される方法は、
前記対象者の身体に対応する身体領域と、前記身体領域以外の領域に対応する背景領域とを含む、少なくとも1つの撮影画像を取得する画像取得ステップと、
前記撮影画像のそれぞれを変換して、前記撮影画像の身体領域に対応する第1色で表された身体領域と、前記撮影画像の背景領域に対応する第2色が表された背景領域とを含む、前記撮影画像に対応するリファレンス二階調画像をそれぞれ生成する二値化ステップと、
前記リファレンス二階調画像のそれぞれを、モデル生成用画像として定義する定義ステップと、
前記対象者の三次元モデルを出力するモデル出力ステップと、
前記対象者の三次元モデルに基づいて、前記対象者の身体特徴に関連する1つ以上の寸法を測定する測定ステップと、を含む。
【0020】
本発明の方法の第1の特徴は、対象者の三次元モデルを出力するにあたって、三次元モデルから生成された比較用二階調画像と撮影画像に基づくリファレンス二階調画像との誤差が十分に小さい三次元モデルが得られるまで、必要に応じて三次元モデル生成のベースとなる二階調画像を修正しつつ三次元モデルの生成を繰り返すことにある。
具体的には、本発明の方法の第1の特徴は、
前記対象者の三次元モデルを出力するモデル出力ステップが、
体型テンプレートデータと畳み込みニューラルネットワークを使用して、前記モデル生成用画像から、前記対象者の三次元モデルを生成するサブステップと、
前記対象者の三次元モデルに基づいて、前記モデル生成用画像のそれぞれに対応する比較用二階調画像をそれぞれ生成するサブステップと、
前記リファレンス二階調画像の身体領域のそれぞれと、前記比較用二階調画像の身体領域のそれぞれとを比較して、両者の差分値を算出するサブステップと、
前記差分値が所定の閾値より大きい場合、かつ、本モデル出力ステップの実行回数が所定の回数より少ない場合、前記比較用二階調画像を修正し、前記モデル生成用画像を修正された前記比較用二階調画像に変更して、本モデル出力ステップを再度実行するサブステップと
を含み、
前記測定ステップにおいて使用される対象者の三次元モデルが、前記モデル出力ステップにおいて最後に出力された三次元モデルである。
【0021】
これにより、対象者の身体が高い精度でモデリングされた三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0022】
本発明の方法の第2の特徴は、撮影画像を取得する際に生じ得る対象者の身体領域の歪みを補正することである。
具体的には、本発明の方法の第2の特徴は、
前記二値化ステップの前に、前記撮影画像から前記対象者の骨格を推定し、推定された骨格を用いて、前記撮影画像に含まれる前記身体領域の形状を補正する撮影画像補正ステップ、又は、
前記定義ステップの前に、前記撮影画像又は前記リファレンス二階調画像から前記対象者の骨格を推定し、推定された骨格を用いて、前記リファレンス二階調画像に含まれる前記身体領域の形状を補正する二階調画像補正ステップを含む。
【0023】
これにより、対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0024】
本発明の方法の第3の特徴は、前記体型テンプレートデータが、前記対象者の備える1つ以上の属性を備えた人物群より生成された体型テンプレートにより構成されていることである。
【0025】
これにより、対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0026】
本発明の方法は、これらの第1~第3の特徴をそれぞれ単独で備えていてもよく、これらの特徴の任意の組み合わせを備えていてもよい。本発明の方法がこれらの第1~第3の特徴を複数組み合わせて備えている場合には、対象者の身体特徴をより高い精度で採寸することが可能になる。
【0027】
図1は、本発明のコンピュータにより実行される身体採寸方法の実施形態である方法1を示す。本実施形態の方法は、上述の本発明の第1~第3の特徴を備えている。
方法1は、例えば、後述するコンピュータシステム3によって実行され得る。
【0028】
本方法1では、まず、ステップ11において、対象者の身体に対応する身体領域と、身体領域以外の領域に対応する背景領域とを含む、少なくとも1つの撮影画像を取得する(画像取得ステップ)。
【0029】
具体的には、本ステップ11では、後のモデル出力ステップ14にて行われるモデル生成のために要求される1つ以上の身体の向き及び姿勢について、それぞれに対応する撮影画像が取得される。本実施形態では、一般的に「Aポーズ」と呼ばれるニュートラルな姿勢の対象者を正面から撮影した撮影画像(正面撮影画像)と、該対象者を側面から撮影した撮影画像(側面撮影画像)とを含む、2つの撮影画像が取得される。
【0030】
本ステップ11は、撮影に使用されるコンピュータが備えた、あるいは該コンピュータに接続されたカメラによって、対象者が撮影されることにより取得され得る。
【0031】
ここで、撮影に使用されるコンピュータ又はカメラが、撮影画像の歪みを補正する機能を有している場合には、その機能を使用して歪み補正された撮影画像を取得することが望ましい。
例えば、撮影に使用されるコンピュータ又はカメラが傾きセンサを備えている場合には、その傾きデータを使用して歪み処理を行ってもよい。例えば、被写体である対象者が撮影される際のカメラの傾きによって生じる身体領域の上下寸法の歪みが、傾きデータに基づいて補正され得る。
【0032】
また、撮影に使用されるコンピュータ又はカメラが深度センサを備えている場合には、撮影時に被写体の深度データを取得しておくことが好ましい。深度データに基づいて得られる奥行情報に基づいて、予め取得されていた対象者の身長等の身体情報に大きな誤差がないかを確認することができる。さらに、奥行情報は、後の二値化ステップ12において身体領域と背景領域とを区別する際に、両者の境界を高い精度で判別するためにも使用され得る。
【0033】
次に、ステップ12において、撮影画像のそれぞれを変換して、撮影画像の身体領域に対応する第1色で表された身体領域と、撮影画像の背景領域に対応する第2色が表された背景領域とを含む、撮影画像に対応するリファレンス二階調画像をそれぞれ生成する(二値化ステップ)。
【0034】
本ステップ12において行われる撮影画像の二値化変換によって、生成された二階調画像内において、身体領域及び背景領域に含まれていたディテールが省略されると共に、身体領域と背景領域とが明確に区別されるようになる。このようにして生成された二階調画像では、対象者の身体に対応する身体領域が、背景領域から明確に分離されているため、後のモデル出力ステップ15にてモデル生成を行う際に、対象者の身体に対応する身体領域を認識し易くなる。
なお、本ステップ11によって得られた二階調画像は、後のモデル出力ステップ15において生成された三次元モデルの正確さを確認するためのリファレンス画像(リファレンス二諧調画像)として利用されることになる。
【0035】
本ステップ12では、前述の画像取得ステップ11にて取得された1つ以上の撮影画像のそれぞれについて二値化変換を行い、それぞれに対応する二階調画像を生成する。本実施形態では、画像取得ステップ11にて取得された正面撮影画像と側面撮影画像とをそれぞれ二値化して、リファレンス正面二階調画像とリファレンス側面二階調画像とが生成される。
【0036】
本ステップ12における撮影画像の二値化変換は、従来公知の任意の方法により実行され得る。そのような方法としては、大域コントラスト正規化(GCN)、セマンティックセグメンテーション、インスタンスセグメンテーション(例えば、DeepMask)等のディープラーニング技術を用いた二値化手法を採用することができる。これらの方法は、単独で採用されてもよく、複数組み合わせて採用されてもよい。
【0037】
リファレンス二諧調画像内において身体領域及び背景領域をそれぞれ表す第1色及び第2色は互いに異なる色であればよく、それらの領域の境界の区別が容易となる、色彩やコントラストが大きく異なる色であることが好ましい。通常、第1色及び第2色は、白及び黒から選択され、第1色が白かつ第2色が黒であってもよく、逆であってもよい。
【0038】
次に、ステップ13において、撮影画像又はリファレンス二階調画像から対象者の骨格を推定し、推定された骨格を用いて、リファレンス二階調画像に含まれる身体領域の形状を補正する(二階調画像補正ステップ)。本ステップ13は、本発明の上記第2の特徴に対応する。
【0039】
具体的には、本ステップ13では、撮影画像又はリファレンス二階調画像に含まれる身体領域における対象者の骨格を推定し、推定された骨格に基づいて、後のモデル出力ステップ15にて行われるモデル生成に適した画像となるように、リファレンス二階調画像をそれぞれ補正する。
対象者の骨格の推定は、通常は二値化変換された後のリファレンス二階調画像に基づいて行われるが、対象者の骨格を十分な精度で推定できるのであれば、二値化変換される前の撮影画像に基づいて行われてもよい。
【0040】
対象者の骨格を推定する方法は、特に限定されず、OpenPose、PoseNet等の二次元骨格推定法や、三次元骨格推定法など、従来公知の任意の骨格推定方法を採用することができる。
【0041】
リファレンス二階調画像に含まれる身体領域の形状の補正は、例えば、身体領域の撮影画像又はリファレンス二諧調画像の身体領域に表される姿勢を、後のモデル出力ステップ15にて行われるモデル生成に適した姿勢となるよう補正することによって行われる。例えば、対象者の身体の歪み等の原因により、撮影される際に対象者がモデル生成に適した姿勢を取れず、身体領域に表される対象者の姿勢において、一方の肩が他方の肩よりも下がっていたり、首が曲がっていたりすることがある。このような場合に、推定された骨格に基づいて、モデル生成に適した姿勢を表す骨格となるようにリファレンス二諧調画像の身体領域を補正することが考えられる。
【0042】
なお、本実施形態では、骨格の推定及びそれに続く歪み補正は、二階調画像補正ステップ13にてリファレンス二階調画像に対して行っているが、この二階調画像補正ステップ13に代えて又はこれに加えて、二値化する前の撮影画像に対して骨格の推定及びそれに続く歪み補正を行ってもよい。
具体的には、本実施形態の方法1は、二階調画像補正ステップ13に代えて又はこれに加えて、撮影画像から対象者の骨格を推定し、推定された骨格を用いて、撮影画像に含まれる身体領域の形状を補正するステップ13Aを含んでいてもよい(撮影画像補正ステップ)。この撮影画像補正ステップ13Aは、二値化ステップ12の後に行われる二階調画像補正ステップ13とは異なり、二値化ステップ12の前に行われる。
【0043】
次に、ステップ14において、リファレンス二階調画像のそれぞれを、モデル生成用画像として定義する(定義ステップ)。
【0044】
本ステップ14では、次のモデル出力ステップ15において対象者の三次元モデルを最初に生成する際に使用される画像として、二諧調画像補正ステップ13にて補正されたリファレンス二階調画像のそれぞれを、最初のモデル生成用画像として定義している。本実施形態では、モデル生成用正面画像とモデル生成用側面画像の2つが生成される。
【0045】
次に、ステップ15において、対象者の三次元モデルを出力する(モデル出力ステップ)。
【0046】
上記の通り、本実施形態は、本ステップ15において、三次元モデルから生成された比較用二階調画像と撮影画像に基づくリファレンス二階調画像との誤差が十分に小さい三次元モデルが得られるまで、三次元モデル生成のベースとなる二階調画像を修正しつつ三次元モデルの生成を繰り返す、本発明の上記第1の特徴を備えている。
本ステップ15は、図2に示されるサブステップ21~24を含み、必要に応じてこれらを繰り返すことによって、高い精度の三次元モデルを生成することができる。これらのサブステップ21~24について、以下に詳細に説明する。
【0047】
本実施形態のモデル出力ステップ15では、まず、サブステップ21において、体型テンプレートデータと畳み込みニューラルネットワークを使用して、二次元画像であるモデル生成用画像から、対象者の三次元モデルを生成する(モデル生成サブステップ)。
【0048】
本サブステップ21では、体型テンプレートデータと畳み込みニューラルネットワークを使用した三次元モデル生成方法として、例えば、上記特許文献2に記載されるHS-Netsを使用することができる。HS-Netsを使用した三次元モデリングでは、体型テンプレートデータに基づいて、正面及び側面から撮影された対象者に対応する身体領域をそれぞれ含むモデル生成用正面画像及びモデル生成用側面画像から、それらの画像に含まれる対象者の向き及び姿勢に対応する三次元モデルを、それぞれ直接生成することができる。
【0049】
体型テンプレートデータは、所定の人物群より生成された学習済みデータである。具体的には、体型テンプレートデータは、所定の人物群から取得された複数の身体の三次元スキャンデータから、機械学習を使用して作成されたテンプレートメッシュであり得る。
このとき、三次元スキャンデータが機械学習に供される前に、生の三次元スキャンデータが前処理され、さらに前処理された三次元スキャンデータに手動で複数の特徴点(ランドマーク)が指定されることが望ましい。ここで行われ得る前処理には、例えば、三次元スキャンデータ内のノイズ成分の除去や欠落部分の手動修正、及び、三次元スキャンデータの表面のスムージング処理が含まれる。
【0050】
本実施形態は、上述の本発明の第3の特徴として、体型テンプレートデータが、対象者の備える1つ以上の属性を備えた人物群より生成された体型テンプレートにより構成されているといった特徴を有している。ここで、対象者の備える1つ以上の属性とは、対象者の人種、国籍、年齢、性別、体組成値、BMI等の体型等であり、例えば、対象者の人種又は国籍である。
一般的なHS-Netsは、広範囲の人物の体型をモデル化するため、偏りの少ない広い範囲の人物のデータから学習された体型テンプレートを使用するが、広い範囲の人物像を対象としてモデル生成できる代償として、十分な精度が得られないといった問題があった。本実施形態では、体型テンプレートとして、対象者と人種や国籍が同じ等、体型の傾向が対象者に近い人物群より生成されたものを利用することにより、そのような用途に絶え得る高精度なモデルを生成することが可能になる。
【0051】
本サブステップ21にて生成される三次元モデルは、例えば、10,000枚程度のポリゴンによって構成される。もっとも、三次元モデルを構成するポリゴン数は特に限定されず、要求される計算資源及び求められる三次元モデルにおける曲線のスムーズさによって、適宜決定され得る。
【0052】
次に、サブステップ22において、対象者の三次元モデルに基づいて、モデル生成用画像のそれぞれに対応する比較用二階調画像をそれぞれ生成する(比較用画像生成サブステップ)。
【0053】
具体的には、本サブステップ22では、モデル生成用画像の身体領域に表される対象者の身体の姿勢及び向きのそれぞれについて、比較用二階調画像をそれぞれ生成する。これらの比較用二階調画像は、続く画像比較サブステップ23においてリファレンス二階調画像との比較を行う画像であり、リファレンス二階調画像内に含まれる身体領域に対応する姿勢及び向きを備えた対象者の三次元モデルに対応する身体領域と、身体領域以外の領域に対応する背景領域とを含む。比較用二階調画像に含まれる身体領域及び背景領域はそれぞれ、リファレンス二階調画像に含まれる身体領域及び背景領域と同一の第1色及び第2色によって表される。
【0054】
本実施形態では、HS-Netsを使用して三次元モデルを生成しているため、前述のモデル生成サブステップ21において、モデル生成用正面画像に含まれる身体領域に対応する姿勢及び向きを有する正面三次元モデルと、モデル生成用側面画像に含まれる身体領域に対応する姿勢及び向きを有する側面三次元モデルがそれぞれ生成されている。そのため、本実施形態では、これら正面三次元モデル及び側面三次元モデルを二値化することによって、リファレンス二階調画像内に含まれる身体領域に対応する姿勢及び向きを備えた比較用正面二階調画像及び比較用側面二階調画像を生成することができる。
【0055】
次に、サブステップ23において、リファレンス二階調画像の身体領域のそれぞれと、比較用二階調画像の身体領域のそれぞれとを比較して、両者の差分値を算出する(比較サブステップ)。
【0056】
本サブステップ23における画像の比較及び差分値の算出は、例えば、リファレンス二階調画像と比較用二階調画像とをそれぞれ重ね合わせることによって行うことができる。その際、2つの画像の差分をより正確に測定するために、リファレンス二階調画像内の身体領域と比較用二階調画像内の身体領域とが重なり合わない領域の面積が最小になるように、2つの画像を調節して重ね合わせた上で、差分値を算出することが望ましい。
例えば、2つの画像の位置を調節する際に、これらに含まれる身体領域の縦方向(身長方向)をフィッティングさせるように調節してから、重ね合わせることが望ましい。また、身体領域における手足の開き方の影響を低減又は削除するように2つの画像を調整したり、身体領域の胴部及び脚部の長さを、前述のステップ13(又はステップ13A)により推定された骨格に基づいて補正してから、重ね合わせを行ってもよい。
また、
【0057】
2つの画像を比較して算出される差分値は、例えば、2つの画像の身体領域の距離の差を算出し、その差を積分することによって、決定することができる。
【0058】
本サブステップ23では、2つの画像が全体的に比較されて、1つの差分値が算出されてもよく、2つの画像内の特定の領域毎に比較されて、複数の差分値が算出されてもよい。例えば、差分値は、複数の身体領域における予め定められた複数の身体部位について、それぞれ算出されてもよい。例えば、2つの画像の比較によって、身体部位の胸部、胴部、右腕、左腕、右足、左足、・・・等のそれぞれについての差分値が算出されてもよい。
【0059】
次に、サブステップ24において、差分値が所定の閾値より大きい場合、かつ、本モデル出力ステップ15の実行回数が所定の回数より少ない場合、比較用二階調画像を修正し、モデル生成用画像を修正された比較用二階調画像に変更する(画像修正サブステップ)。
【0060】
具体的には、本サブステップ24では、前述の比較サブステップ23にて算出された差分値が所定の閾値以下である場合、本モデル出力ステップ15を終了し、次の測定ステップ15へと移行する。一方、前述の比較サブステップ23にて算出された差分値が所定の閾値より大きい場合、換言すれば、リファレンス二階調画像と比較用二階調画像との差異が大きく、モデル生成サブステップ21により生成された三次元モデルが対象者の身体を十分に正確に表していない場合には、別のモデル生成用画像を使用して本モデル出力ステップ15を再度実行するために、比較用二階調画像を修正し、モデル生成用画像を修正された比較用二階調画像に変更する。
【0061】
上記所定の閾値は、生成される三次元モデルの所望の精度に応じて、任意に決定され得る。
なお、複数の差分値が算出されている場合には、複数の差分値のうち少なくとも1つの差分値が所定の閾値より大きければ本モデル出力ステップ15を再度実行する判断を行ってもよく、複数の差分値の平均が所定の閾値より大きい場合に本モデル出力ステップ15を再度実行する判断を行ってもよい。また、画像内における差分値が算出された複数の領域ごとに、それぞれ異なる閾値が定められており、それらの領域ごとに差分値と閾値との比較が行われてもよい。
【0062】
もっとも、使用されるリファレンス二階調画像によっては、本モデル出力ステップ15を多くの回数繰り返しても差分値が所定の閾値以下とならず、もはやその期待もできないと考えられる場合もあり得る。そのような状況となった際に本ステップ15の繰り返しを停止するため、本サブステップ24では、前述の比較サブステップ23にて算出された差分値が所定の閾値より大きい場合であっても、本モデル出力ステップ15の実行回数が所定の回数に達した場合には、本モデル出力ステップ15の繰り返しを終了し、次の測定ステップ15へと移行する。
ここで、本ステップ15の繰り返しの終了を決定するために設定される本ステップ15の所定の実行回数は、三次元モデルの生成のために許容される計算資源や所要時間に応じて、任意に決定される。また、繰り返しをできる限り停止させたくない場合には、所定の実行回数を十分に大きい値(例えば、設定可能な最大の値)に設定しておけばよい。
【0063】
比較用二階調画像は、任意の方法によって修正されてもよい。例えば、比較用二階調画像の修正は、比較用二階調画像から、差分値に基づいて推定されるノイズ成分を除去することによって行うことができる。
あるいは、比較用二階調画像の修正は、比較用二階調画像の寸法を補正することによって行うこともできる。ここで、寸法の補正は、比較用二階調画像全体に対して行われてもよく、比較用二階調画像内の身体領域における1つ以上の特定の身体部位に対して行われてもよい。例えば、前述の比較サブステップ23において、対象者の右腕に対応する身体領域に関して比較され、算出された差分値が比較的大きい場合に、比較用二階調画像内の身体領域の右腕に対応する領域の寸法を、リファレンス画像に近づくように大きく又は小さく補正してもよい。
なお、ここに挙げた方法は、単独で行われてもよく、複数の方法を組み合わせて行われてもよい。
【0064】
本サブステップ24において比較用二階調画像の修正を行った後、修正された比較用二階調画像を、新たなモデル生成用画像として設定して、本モデル出力ステップ15を再度実行する。再度実行されたモデル出力ステップ15は、再びサブステップ21から始まり、この新たに設定されたモデル生成用画像から新たな三次元モデルを生成して、これをサブステップ22~24において評価する。
【0065】
このようにして、本モデル出力ステップ15では、生成される三次元モデルが撮影された対象者の身体を所望の精度で正確に表していることが確認できるまで、三次元モデルの生成に使用するモデル生成用語画像を変更して三次元モデルの生成を繰り返す。その結果、本実施形態の方法1は、高い精度の三次元モデルを生成することができる。
【0066】
その後、ステップ16において、最後に算出された差分値が所定の閾値以下であった場合、最後に生成された対象者の三次元モデルに基づいて、対象者の身体特徴に関連する1つ以上の寸法を測定する(測定ステップ)。
【0067】
本ステップ16において測定される、対象者の身体特徴に関連する寸法とは、対象者の任意の身体部位に関連する、長さ、高さ、周長等の任意の寸法であってもよく、例えば、対象者の身体にフィットする衣装サイズの寸法として測定されてもよい。当該寸法は、例えば、対象者の肩幅、胸囲、胴囲、首回り、腕回り、腰回り、手首回り、太腿回り、ウエスト、ヒップ、背丈、袖丈、裄丈、股上長、股下長等であり得る。
【0068】
なお、当該寸法を測定するにあたり、予め取得されていた対象者の身体情報を参照してもよい。例えば、対象者の身長の値が予め与えられていた場合には、当該寸法は、対象者の三次元モデルの身長との比率に基づいて計算することができる。
【0069】
以上のように、本実施形態の方法1では、対象者の三次元モデルを出力するモデル出力ステップ15が、三次元モデルから生成された比較用二階調画像と撮影画像に基づくリファレンス二階調画像との誤差が十分に小さい三次元モデルが得られるまで、必要に応じてサブステップ21~24を繰り返すこと(第1の特徴)によって、対象者の身体が高い精度でモデリングされた三次元モデルを出力することができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0070】
さらに、本実施形態の方法1では、二値化ステップ12の後に、二階調画像補正ステップ13を実行し、撮影画像を取得する際に生じ得る対象者の身体領域の歪みを補正すること(第2の特徴)によって、モデル出力ステップ15において対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0071】
さらに、本実施形態の方法1では、体型テンプレートデータが、対象者の備える1つ以上の属性を備えた人物群より生成された体型テンプレートにより構成されていること(第3の特徴)によって、モデル出力ステップ15において対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0072】
これにより、対象者の三次元モデルを高い精度でモデリングすることができ、そのような三次元モデルに基づいて、対象者の身体特徴を高い精度で採寸することができる。
【0073】
図3は、図1に示される身体採寸方法を実行可能なコンピュータを含むシステム3の一実施形態を示す。
なお、図1で示される身体採寸方法は、必ずしもシステム3によって実行される必要はなく、任意のコンピュータシステムによって実行され得る。
【0074】
システム3は、図1に示される身体採寸方法を実行するコンピュータとして、ユーザ端末31と、サーバ32とを備えている。
【0075】
ユーザ端末31は、対象者又はその他の者によってサーバ32から離れた位置にて操作され、サーバ32とネットワークを介してデータを送受信可能な任意の端末であり得る。例えば、ユーザ端末1は、デスクトップコンピュータ、モバイルコンピュータ、タブレットコンピュータ、携帯電話、スマートフォン、ウェアラブルデバイス、ハンドヘルドデバイス、任意の組み込みデバイス等であってもよい。
【0076】
サーバ32は、ユーザ端末31よりネットワークを介して送信されたデータをコンピューティング処理可能な任意のサーバであり得る。例えば、サーバ32は、1つ又は複数のコンピュータ資源によって構成されたオンプレミスのサーバであってもよく、クラウドネットワーク上で実現されるクラウドサーバであってもよい。
【0077】
ユーザ端末31及びサーバ32は、ネットワークを介して両者の間でデータを送受信することによって、以下に詳細に説明される本発明の身体採寸方法において実行される各ステップを、任意に分担して実行することができる。
例えば、ユーザ端末31では、対象者の撮影等、対象者の近くで取得可能なデータを取得するためのステップや、計算負荷の比較的小さい処理を行うステップを実行する一方で、通常ユーザ端末2よりも計算資源の豊富なサーバ32において、計算負荷の大きい処理を行うステップを実行してもよい。
【0078】
具体的には、本実施形態のシステム3では、ユーザ端末31は、画像取得モジュール311と、二値化モジュール312と、通信モジュール310とを備えている。ユーザ端末31は、さらに、カメラ315と、深度センサ316とを備えている。
画像取得モジュール311は、上述の画像取得ステップ11を実行するように構成されており、具体的には、ユーザ端末に備えられたカメラ315によって、撮影画像を取得するように構成されている。また、画像取得モジュール311は、深度センサ316により取得された深度データを利用して、撮影画像に対して歪み補正処理を行うようにも構成されている。
二値化モジュール312は、上述の二値化ステップ12を実行するように構成されている。
通信モジュール310は、サーバ32の通信モジュール320とデータを送受信するように構成されており、一例として、二値化モジュール312により生成されたリファレンス二階調画像を、以降の処理をサーバ32上で行うために、サーバ32の通信モジュール320へと送信する。
【0079】
また、サーバ32は、通信モジュール320と、二階調画像補正モジュール323と、定義モジュール324と、モデル出力モジュール325と、測定モジュール326とを備えている。
通信モジュール320は、ユーザ端末31の通信モジュール310とデータを送受信するように構成されており、一例として、ユーザ端末31の通信モジュール310から送信されたリファレンス二階調画像を受信する。
二階調画像補正モジュール323は、上述の二階調画像補正ステップ13を実行するように構成されている。
定義モジュール324は、上述の定義ステップ14を実行するように構成されている。
モデル出力モジュール325は、上述のモデル出力ステップ15を実行するように構成されている。
測定モジュール326は、上述の測定ステップ16を実行するように構成されている。
【0080】
ここで、モデル出力モジュール325は、図4に示されるように、モデル生成サブモジュール421と、比較用画像生成サブモジュール422と、比較サブモジュール423と、画像修正サブモジュール424とを備えている。
これらのサブモジュール421~424は、上述のサブステップ21~24をそれぞれ実行するように構成されている。
【0081】
上記のように、本実施形態のシステム3では、ユーザ端末31が、本発明の方法1に含まれる各ステップのうち、対象者から撮影画像を取得し得る画像取得ステップ11、及び、計算負荷の比較的小さい二値化ステップ12を実行するように構成されている一方で、サーバ32において、計算負荷の大きい二階調画像補正ステップ13及びモデル出力ステップ15を実行するように構成されている。
したがって、本実施形態のシステム3は、ユーザ端末31とサーバ32との間で計算負荷を効率的に分散することができる。
【0082】
なお、本実施形態のシステム3では、二階調画像補正ステップ13を実行するように構成された二階調画像補正モジュール323が、サーバ32に備えられているが、これに代えて又はこれに加えて、ユーザ端末31がステップ13Aを実行するように構成されたモジュール313(図示せず)を備えていてもよい。
【0083】
図5は、本発明の方法の画像取得ステップにおいて(例えば、上記実施形態のステップ11において)取得される撮影画像を撮影する際に使用されるアプリケーション5上に表示される撮影画面50の例を示す。アプリケーション5は、例えば、システム3のユーザ端末31上において動作し得る。以下では、ユーザ端末31はスマートフォンであり、アプリケーション5がスマートフォンアプリであることを前提として説明する。
【0084】
図5(a)及び(b)に示されるように、アプリケーション5の撮影画面50には、撮影に要求される対象者の姿勢及び向きに対応するガイド枠51が表示されている。ここで、図5(a)及び(b)に示される当該姿勢はAポーズであり、図5(a)に示される当該向きは正面向き、図5(b)に示される当該向きは側方向きである。
【0085】
撮影者がアプリケーション5を用いて対象者を撮影する際、撮影画面50上には、アプリケーションが動作するユーザ端末31に設けられるカメラ315のレンズに映った映像が表示され、ガイド枠51は、その映像と重なるように撮影画面50上に表示され続ける。
撮影者は、被写体である対象者の身体を撮影する際に、対象者の身体がガイド枠51の枠内に概ね収まるように、カメラ315(及び、必要であれば、カメラ315が設けられているユーザ端末31)の向き、対象者までの距離、レンズに映って撮影画面50上に表示されている映像の撮影画面50上における拡大率等を調節する。このような調節によって撮影画面50上において対象者の身体がガイド枠51の枠内に十分に収まるようになってから、撮影者は対象者の身体を撮影する。
【0086】
このように、アプリケーション5の撮影画面50に表示されたガイド枠51によって、後のモデル出力ステップ(例えば、ステップ15)にて要求される姿勢及び向きの対象者を容易に撮影することができるため、モデル生成に適した歪みの少ない撮影画像を容易に取得することができる。
【0087】
アプリケーション5は、撮影者が対象者を撮影する際に、撮影画面50上において対象者の身体がガイド枠51の枠内に十分に収まっていない場合には撮影を許可せず、対象者の身体がガイド枠51の枠内に十分に収まっている場合にのみ、アプリケーション5の画面上に文字「撮影」が表示されている範囲のタッチ領域をアクティブ化して、撮影を許可するように構成されていてもよい。
アプリケーション5が上記のように構成されている場合には、撮影者は、撮影に要求される姿勢及び向きの対象者をより容易に撮影することができる。
【0088】
アプリケーション5は、主として画像取得ステップにおいて取得される少なくとも1つの撮影画像を撮影するために使用されるが、本発明の身体採寸方法を実行するにあたって有用な他の情報を取得するために使用されてもよい。
例えば、アプリケーション5は、対象者の身長、体重、年齢等、三次元モデルに基づく採寸において参照され得る有用な情報を、対象者が直接入力するためのインタフェースをさらに備えていてもよい。
【0089】
なお、本実施形態に係るコンピュータにより実行される身体採寸方法は、上記の実施形態の構成に限定されるものではない。また、本発明に係るコンピュータにより実行される身体採寸方法は、上記した作用効果によって限定されるものでもない。本発明に係るコンピュータにより実行される身体採寸方法は、本発明の要旨を逸脱しない範囲で種々の変更が可能である。
【0090】
例えば、図1に示される方法1では、本発明の上記第1の特徴に係る三次元モデルの生成を繰り返すサブステップ21~24と、本発明の上記第2の特徴に係る骨格推定に基づいて画像を補正するステップ13(又はステップ13A)との両方を備えているが、本発明の方法は、これらの特徴の両方を必ずしも有していなくてもよい。
【0091】
例えば、本発明の身体採寸方法では、三次元モデルの生成を繰り返すサブステップ21~24を含んでいるのであれば、骨格推定に基づいて画像を補正するステップ13(又はステップ13A)を必ずしも行わなくてもよい。同様に、骨格推定に基づいて画像を補正するステップ13(又はステップ13A)を実行するのであれば、三次元モデルの生成を繰り返すサブステップ21~24を行わず、三次元モデルの生成を一度だけ実行する者であってもよい。本発明の身体採寸方法は、これらの特徴に係るステップのうち片方だけを含んでいる場合であっても、対象者の身体特徴を高い精度で採寸することができる。
【0092】
また、ここではこれ以上の詳細な説明を繰り返して行うことをしないが、上記に直接的に記載がされていない事項であっても、身体採寸方法について従来公知の技術事項については、本発明においても適宜採用可能である。
図1
図2
図3
図4
図5