(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-11-02
(54)【発明の名称】複数の部品を備える対象物の3次元ワイヤーフレームモデルを生成するコンピュータ実装の方法
(51)【国際特許分類】
G06T 17/20 20060101AFI20221026BHJP
G06T 15/04 20110101ALI20221026BHJP
G06T 19/20 20110101ALI20221026BHJP
【FI】
G06T17/20
G06T15/04
G06T19/20
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022513176
(86)(22)【出願日】2020-04-15
(85)【翻訳文提出日】2022-03-09
(86)【国際出願番号】 IB2020053552
(87)【国際公開番号】W WO2021038309
(87)【国際公開日】2021-03-04
(32)【優先日】2019-08-28
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
(71)【出願人】
【識別番号】522072563
【氏名又は名称】ソウ・リアル・ディジタル・トゥインズ・アクチエンゲゼルシャフト
(74)【代理人】
【識別番号】100069556
【氏名又は名称】江崎 光史
(74)【代理人】
【識別番号】100111486
【氏名又は名称】鍛冶澤 實
(74)【代理人】
【識別番号】100191835
【氏名又は名称】中村 真介
(74)【代理人】
【識別番号】100221981
【氏名又は名称】石田 大成
(74)【代理人】
【識別番号】100208258
【氏名又は名称】鈴木 友子
(72)【発明者】
【氏名】ブランド・イアン・レイヴンショー
(72)【発明者】
【氏名】ザッカー・マクス
【テーマコード(参考)】
5B050
5B080
【Fターム(参考)】
5B050BA03
5B050BA09
5B050BA13
5B050DA05
5B050EA06
5B050EA28
5B080AA17
5B080AA18
5B080GA22
(57)【要約】
【課題】データサイズを抑制しながらも高品質の表現を可能にする3次元ワイヤーフレームモデルを、対象物の構成要素の重要度に応じて生成する。
【解決手段】複数の部品を備える物体(2)の3次元ワイヤーフレームモデル(13)を生成する、コンピュータに実装された方法(100)が、
ボクセルマップを生成するように、対象物(2)を、好ましくはコンピュータ断層撮影法(10a)で、スキャンするステップ(10)と、
各部品モデルが対象物の1つの部品に相当している、複数の前記部品モデル(15)にセグメント化するステップ(14)と、
前記部品を部品クラス(c1、c2、..cn)に分類する(16)ステップと、
3次元ワイヤーフレーム部品モデルの品質が各クラス(c1、c2、..cn)に対してユーザによって独立して選択される少なくとも1つの品質変数に依存する、各部品の3次元ワイヤーフレーム部品モデルを生成する(18)ステップとを備える。テクスチャは、写真測量及び/又は物理ベースレンダリングによってモデルに適用することがある。
【特許請求の範囲】
【請求項1】
複数の部品を備える物体(2)の3次元ワイヤーフレームモデル(13)を生成する、コンピュータに実装された方法(100)であって、
ボクセルマップを生成するように、対象物(2)を、好ましくはコンピュータ断層撮影法(10a)で、スキャンするステップ(10)と、
各部品モデルは対象物の1つの部品に対応して、複数の前記部品モデル(15)にセグメント化するステップ(14)と、
前記部品を部品クラス(c1、c2、..cn)に分類するステップ(16)と、
3次元ワイヤーフレーム部品モデルの品質は、各クラス(c1、c2、..cn)に対してユーザによって独立して選択される少なくとも1つの品質変数に依存する、各部品の3次元ワイヤーフレーム部品モデルを生成するステップ(18)と
を備える、方法。
【請求項2】
前記品質変数は、部品の表現に使用されるポリゴン数を決定する、請求項1に記載の方法。
【請求項3】
前記品質変数は、1つの部品にテクスチャと色との少なくとも一方を適用すべきかどうかを決定する、請求項1又は2に記載の方法。
【請求項4】
前記品質変数は、部品の質量と重心との少なくとも一方を決定すべきかどうかを決定する、請求項1から3のいずれか一項に記載の方法。
【請求項5】
前記品質変数は、部品の破壊点又は破壊線の数を決定する、請求項1から4のいずれか一項に記載の方法。
【請求項6】
前記分類するステップは、前記部品を部品クラス(17)に分類するために自己学習機械を使用することを備える、請求項1から5のいずれか一項に記載の方法。
【請求項7】
前記対象物をスキャンするステップ(10)は、ボクセルマップを生成するようにコンピュータ断層撮影法(10a)で行われ、前記方法は、写真測量によって前記対象物の色とテクスチャとの少なくとも一方を取得することをさらに備える、請求項1から6のいずれか一項に記載の方法。
【請求項8】
物理ベースレンダリング(PBR)法を使って対象物のレンダリングを向上させるべく、前記色とテクスチャとの少なくとも一方を前記ワイヤーフレームに適用する、請求項7に記載の方法。
【請求項9】
前記色とテクスチャとの少なくとも一方は、前記対象物のセグメント化するステップに使用される、請求項7又は8に記載の方法。
【請求項10】
前記色とテクスチャとの少なくとも一方は、前記クラスを部品に分類するステップに使用される、請求項7から9のいずれか一項に記載の方法。
【請求項11】
対象物の参照マークを用いて、コンピュータ断層撮影から生成されたデータを、写真測量と物理ベースレンダリングとの少なくとも一方から生成されるデータを伴って、登録するステップを備える、請求項7から10のいずれか一項に記載の方法。
【請求項12】
コンピュータ断層撮影から生成されたデータと写真測量から生成されたデータとの少なくとも一方を用いて、前記対象物の内面の色とテクスチャとの少なくとも一方を仮定するステップをさらに備える、請求項7から11のいずれか一項に記載の方法。
【請求項13】
前記生成するステップは、少なくとも1つか、1つ又はそれより多いクラス(c1、c2、..cn)に対して独立してユーザ(70)によって選択された前記少なくとも1つの品質変数に依存して3次元ワイヤーフレーム部品モデルの品質を適合させることを備える、請求項1から12のいずれか一項に記載の方法。
【請求項14】
少なくとも1つの品質変数を適応させるステップは、各クラスに対して複数の品質変数を個別に適応させることを備える、請求項1から13のいずれか一項に記載の方法。
【請求項15】
少なくとも1つの品質変数を適合させるステップは、グローバル品質係数を選択することを備える、請求項1から14のいずれか一項に記載の方法。
【請求項16】
対象物は少なくとも1つの部品を備え、前記部品の1つは、異なる品質を有する異なる3次元ワイヤーフレームモデルを適用すべき複数の部品を備える、請求項1から15のいずれか一項に記載の方法。
【請求項17】
前記クラスは、不活性物体と、内部構成要素と、外面と、内面とのうちの少なくとも1つからなる、請求項1から16のいずれか一項に記載の方法。
【請求項18】
複数の3次元ワイヤーフレームモデルがオンラインプラットフォーム上に保存されていて、複数のユーザにとって利用可能になっている、請求項1から17のいずれか一項に記載の方法。
【請求項19】
請求項1から18のいずれか一項に記載の方法を実行するコンピュータプログラムを備える、非一時的コンピュータ可読媒体。
【請求項20】
請求項1から18のいずれか一項に記載の方法を実施することで得られる対象物の3次元ワイヤーフレームモデルを少なくとも1つ備える、データ構造、又はデータリポジトリシステム、又はデータ構造とデータレポジトリシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体の体積スキャンに基づいて、物体の3次元モデルを生成するコンピュータ実装方法に関する。特に、本発明の方法は、対象物の仮想ツインを生成する。
【背景技術】
【0002】
ソフトウェアゲームやコンピュータアニメーションの映画やビデオは、3次元モデルに対する需要の高まりに依存している。現在、これらの分野のアニメーションは、アーティスト又はエンジニアが3次元モデリングソフトウェアを搭載したコンピュータで作成した3次元ワイヤーフレームモデルに主に依存している。これは、複雑な対象物のモデリングには最大で数週間かかる可能性のある、面倒で作業量の多い手順である。
【0003】
また、実世界の対象物をスキャンして3次元ワイヤーフレームモデルを作成し、そこからワイヤーフレーム3次元モデルを計算可能な点群を生成することも提案されている。ただし、写真測量、トフ(ToF)型3次元レーザースキャナー、三角測量レーザースキャナーなどの一般的な3次元スキャナーは、対象物の外面しかスキャンできないため、対象物の内部の部分や構成要素の3次元表現を生成できない。これらの内部の部分は、多くの場合、モデルの一部である必要がある。例えば、シナリオの一部として、対象物を開いたり、部分に分けたり、分解したりする必要がある場合である。
【0004】
コンピュータ断層撮影、マイクロトモグラフィー、磁気共鳴画像(MRI)などの体積スキャンも、対象物とその内部のデジタル表現の取得に使用されている。特に、体積スキャンは、医療の観察と診断の医療分野で、あるいは非破壊材料検査、リバースエンジニアリング、あるいは生物学的及び古生物学的標本の研究の業界で広く使用されている。これは、選択したレイヤーを2次元表面に投影することで表されることが多い、3次元のボクセルマップを生成する。ボクセルマップは、対象物のボリューム全体を非常に正確に表現するが、多くの場合、非常に大量のデータファイルが生成されるため、高速レンダリング、高速操作、及び限られたストレージ要件が必要なアニメーションやゲームソフトウェアへの適合性が低くなる。
【0005】
表現のサイズを縮小するために、コンピュータ断層撮影(CT)によって提供されるそのような3次元ボクセルマップから3次元ワイヤーフレームモデルを計算することも提案されている。一例として、特許文献1(US2001044576A)は、医学的観察及び診断用に、選択された体の器官について、インタラクティブに3次元レンダリングを行う方法を開示している。特許文献1では、一連のCT画像を積み重ねて3次元ボリュームファイルを形成する。選択されたボリューム又はサブボリュームから、選択された体の器官の画像がセグメント化又は分離される。次に、分割された器官画像のワイヤーフレームモデルが生成され、選択した器官のインタラクティブな3次元レンダリングが可能になる。
【0006】
別の解決策は、例えば、磁気共鳴画像法、コンピュータ断層撮影法、及び3次元血管造影法を使用して3次元モデルからデータを導出することを備える、血管内視鏡検査用に身体部分の血管に仮想造影剤を提供する方法を開示する特許文献2(US6711433B)で提案されている。ボクセルマップデータは、血管のセグメント化された3次元モデルを提供すべくセグメント化される。次に、3次元モデルは、第1手続き画像を持って登録され、「仮想カメラ変数」が取得される。
【0007】
医療分野から離れたところでは、複雑な産業用物体の検査及び視覚化が特許文献3(WO2018/127715A1)に開示されていて、この文献は、例えば、車両の複雑なエンジンのような、対象物の複数部品の3次元モデルの取得方法を提供している。この方法は、物体をスキャンして2次元のX線データを生成するステップを備え、その生成データを処理して多重解像度の3次元X線データを取得するステップを備える。3次元のX線データは、すなわち、対象物の各基本ボリューム(「ボクセル」)のグレースケール表現とされている。
【0008】
次に、3次元X線データは(複数の)サブセットに分割される。各サブセットには数十以上の構成要素が含まれている。サブセットは、対象物のモジュール又はサブアセンブリ(下位の組立部材)に対応する場合がある。次に、各サブセットが処理され(例えば、アルゴリズムを使用して画像を鮮明にし、画像のアーティファクトを減らし、コントラストを改善するなど)、処理によってサブセットごとに異なる画質が得られる場合がある。それから、非一様有理Bスプラインなど(NURBSs)のような、つながっている表面の集合体としての表現を使用して、各構成要素のCADモデルが生成される。異なるサブセットの構成要素の表現の品質は、このサブセットに適用される画像処理に応じて異なる場合があるが、構成要素の表現のサイズは、それらが属するサブセットに依存しない。最適化はボクセルドメインでのみ行われる。
【0009】
コンピュータ断層撮影装置などの体積スキャナーによって提供される3次元ボクセルマップから生成される次元ワイヤーフレームモデルは、CT装置によって提供されるデータファイルの解像度が高いため、通常、非常に多くのポリゴンを持っている。したがって、データファイルは非常に重く、ストレージと処理用に多くのストレージスペースとコンピューティングパワーを必要とする。この3次元ワイヤーフレームモデルの高解像度は、1つの2次元画像で細部を検出する必要がある医療や産業のアプリケーションで望ましい場合があるが、コンピュータゲームやビデオアニメーションは、レンダリングを高速化するために低いポリゴン数の、多くの3次元ワイヤーフレームモデルに依存している。
【0010】
3次元最適化ソフトウェアが、それゆえ、3次元ワイヤーフレームモデルの単純化用と、3次元ワイヤーフレームモデルのサイズの縮小用に、従来技術で広く使用されている。これらの方法は、モデルのポリゴン数を減らすのに効率的であるが、モデルのサイズに影響を与えられるであろう他の変数には影響していない。
【0011】
例えば、複雑な対象物のさまざまな構成要素など、対象物のさまざまな部分で、さまざまな品質の表現が必要になることがよくある。例として、装置の仮想表現の外面は、表示されることが比較的少ない内面よりも正確な表現を必要とすることがよくある。
【0012】
しかしながら、複雑なモデルの全ての部分が同じ最適化の対象になる。したがって、最適化は、最高品質のレンダリングを必要とする対象物の部品又は構成要素(外面など)に適合させる必要がある。低品質のモデルで表せる同じ対象物の部分の最適化は、最適ではない。繰り返しになるが、これにより、低品質であればよいモデルの一部でさえ高品質の3次元ワイヤーフレームモデルで表されるため、操作が重くて遅い3次元ワイヤーフレームモデルが生じる結果となるかもしれない。
【0013】
複雑な対象物のさまざまな構成要素に対して、さまざまな品質の3次元ワイヤーフレームモデルのマニュアルでの定義を検討してよいかもしれない。ただしこれは、対象物にモデルの品質の個別の調整を要する構成要素が大量に含まれている場合、非常に面倒な処理になるだろう。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】米国特許出願公開第2001/044576号明細書
【特許文献2】米国特許第6711433号明細書
【特許文献3】国際公開第2018/127715号
【発明の概要】
【発明が解決しようとする課題】
【0015】
本発明の課題は、上記の不利な点の少なくとも一部を回避又は軽減することである。
【0016】
特に対象物の重要部分に対して、限定されたデータサイズではあるが、依然高品質の、対象物の3次元ワイヤーフレームモデルの生成が望まれているであろう。
【0017】
モデルの色とテクスチャのレンダリングの改善も望まれているであろう。
【課題を解決するための手段】
【0018】
本発明によれば、これらの目的は、以下のステップを含む、複数の部品を含む物体の3次元ワイヤーフレームモデルを生成するコンピュータ実装方法によって達成される。
ボクセルマップを生成するために、好ましくはコンピュータ断層撮影法を使用して対象物をスキャンするステップと、
複数の部品モデルにセグメント化し、各部品モデルは対象物の1つの部品に対応する。
上記の部品を部品クラスに分類するステップと、
各部品の3次元ワイヤーフレーム部品モデルを生成するステップであって、3次元ワイヤーフレーム部品モデルの品質は、クラスごとにユーザが個別に選択した少なくとも1つの品質変数に依存する、ステップ。
【0019】
したがって、対象物のさまざまな部分のセグメンテーションと分類を使用して、限られた数の部分のクラスを定義し、各クラスに適用するモデルの品質を定義できる。
【0020】
クラスは好ましくはユーザ定義である。ユーザは新しいクラスを定義できる。
【0021】
部品のクラスへの分類は、好ましくは、人工ニューラルネットワークなどの自己学習モジュールを使用して生成する。
【0022】
ユーザが、自己学習システムに、部分を新しいクラスに分類する方法、又は既存のクラスへの分類を改良する方法を教えるようにしてよい。自己学習システムはこのフィードバックでトレーニングされ、他の部分の分類を改良する。
【0023】
少なくとも1つのクラスには複数の部品が含まれる。クラスの品質を適合させると、そのクラスの各部品の3次元ワイヤーフレーム部品モデルの品質に自動的に影響する。
【0024】
一実施形態では、この方法は、スキャンされた対象物について、以前生成された静的3次元ワイヤーフレームモデルから動的3次元ワイヤーフレームモデルを生成する。動的3次元モデルは、さまざまな部品が質量、重心、剛性などの物理的特性に関連付けられているモデルであるので、このモデルがシミュレーションやビデオゲームで使用されると、その環境に現実的な道理で反応できる。例えば、このような動的な3次元ワイヤーフレームモデルに適用される仮想の力が、対象物の質量、重心、及び/又は剛性に依存している対象物の表現に影響を与える。
【0025】
計算するステップと、セグメント化のステップと、分類するステップと、適合するステップとの少なくとも1ステップは、好ましくは、ユーザの介入なしに(各クラスに必要な品質の定義を除いて)実行され、それにより、3次元ワイヤーフレームモデルの生成処理を促進する。
【0026】
一実施形態では、セグメント化するステップは、ボクセルマップ上で実行され、各分割された部分に相当する複数の部分のボクセルマップをもたらす。各部品ボクセルマップは、その後、3次元ワイヤーフレーム部品モデルに変換される。
【0027】
方法の他のステップは、セグメンテーション(セグメント化のステップ)が実行されるデータの方法とタイプに依存していない。
【0028】
代替的に、対象物のボクセルマップが単一の3次元ワイヤーフレームモデルに変換され、その後、複数の3次元ワイヤーフレームモデルにセグメント化される。
【0029】
好ましくは、各部品の品質変数は、その部品を表すために使用されるポリゴンの数を決める。
【0030】
3次元ワイヤーフレーム部品モデルの品質を適合するステップは、部品に対して最適化された3次元ワイヤーフレーム部品モデルの計算を備えることがあり、各部品のポリゴンの数は、前記品質変数に依存している。
【0031】
好ましい方法では、ある部品の品質変数が、その部品にテクスチャと色との少なくとも一方を適用するか否かを決める。
【0032】
よって、3次元ワイヤーフレームモデルの品質を適合することは、テクスチャと、色との少なくとも一方を1つの部品に適用する必要があるかどうかの決定を備えることがある。
【0033】
ある部品の品質変数は、好ましくは、部品の質量と、重心との少なくとも一方を決定すべきか否かを決める。
【0034】
好ましくは、1つの部品の品質変数は、部品の破壊点又は破壊線の数を決める。
【0035】
好ましくは、少なくとも1つの品質変数を適合するステップは、各クラスに対して複数の品質変数を個別に適合するステップを備える。
【0036】
より好ましくは、少なくとも1つの品質変数を適合するステップは、グローバルな品質係数を選択するステップを備える。
【0037】
さらに、対象物は、少なくとも1つの構成要素を備えていて、前記構成要素の1つは、異なる品質を有する異なる3次元モデルが適用されるべき、複数の部分を備えている。
【0038】
より好ましくは、前記クラス(複数)は、次の、不活性物体、内部構成要素の少なくとも一方を備える。
【0039】
さらに、前記クラス(複数)は、次の、外面、内面の少なくとも一方を備える。
【0040】
好ましくは、1つの自己学習モジュールが、前記セグメンテーション(セグメント化のステップ)に使用される。
【0041】
この方法は、コンピュータ断層撮影法で物体をスキャンするステップと、写真測量法で物体の色とテクスチャとの少なくとも一方を取得するさらなるステップとを備えてもよい。したがって、少なくとも対象物の外面の、色とテクスチャとの少なくとも一方のレンダリングの高い品質を達成できる。
【0042】
写真測量法による物体の色とテクスチャとの少なくとも一方の取得は、コンピュータ断層撮影法によるスキャンとは異なる、物体のスキャンを含み得る。
【0043】
この方法は、コンピュータ断層撮影スキャンから生成されたデータを、写真測量と物理ベースのレンダリングとの少なくとも一方から生成されたデータに登録するステップを備えてよい。
【0044】
登録には、対象物の参照マークを使用することがある。
【0045】
参照マークは手動で追加することがある。代替的に、参照マークが自動的に抽出され、参照マークが、例えば対象物の縁部又は角部に相当していることがある。
【0046】
色とテクスチャとの少なくとも一方は、物理ベースレンダリング法を使用して対象物のレンダリングを改良するために、前記ワイヤーフレームに適用されることがある。
【0047】
色とテクスチャとの少なくとも一方は、対象物の部品へのセグメンテーションを改善するために使用されることがある。例えば、色とテクスチャとの少なくとも一方の変化が検出されることがあり、そして2つの隣接する部分の間の境界に相当することがある。
【0048】
色とテクスチャとの少なくとも一方はまた、あるいは代替的に、クラスを部分に分類するために使用されることがある。例えば、微細構造を持つ部品は、微細なテクスチャを持つ部品よりも微細なモデルで記述される部品のグループに分類されることがある。
【0049】
写真測量は、対象物の外面の色やテクスチャのみを示すものとしてよい。方法は、前記対象物の内面の色とテクスチャとの少なくとも一方を仮定するステップを備えてよい。
【0050】
仮定は、対象物の部分の内面/内部の材料と外観との少なくとも一方の決定用に、コンピュータ断層撮影スキャンから生成されたデータと写真測量から生成されたデータとの少なくとも一方を使用することがある。
【0051】
前記対象物の内面の最も可能性の高い色とテクスチャとの少なくとも一方を決めるのに、仮定(するステップ)は、人工知能システムのような分類システムを使用することがある。
【0052】
少なくとも1つの3次元モデルデータファイルをオンラインプラットフォームに保存して、複数のユーザにとって利用可能にすることがある。
【0053】
本発明はまた、複数の部品を含む物体の3次元ワイヤーフレームモデルを生成するコンピュータ実装方法に関する。この方法は、
ボクセルマップを生成するために、コンピュータ断層撮影法で対象物をスキャンするステップと、
対象物の外面の色とテクスチャを取得するために、写真測量によって対象物をスキャンするステップと、
コンピュータ断層撮影によって取得されたデータと写真測量によって取得されたデータを整列するステップと、
対象物の3次元モデルを生成するステップと
を備える。
【0054】
本発明は、例として与えられ、次の図に描かれている、実施形態の説明の助けを借りて、よりよく理解されるであろう。
【図面の簡単な説明】
【0055】
【
図1】
図1は、本発明のコンピュータ実装方法の可能な実施形態の様々なステップを示す。
【
図2】
図2aは、ユーザインタフェースの第1の実施形態の画面表示を示す。
図2bは、ユーザインタフェースの第1の実施形態の画面表示を示す。
【
図3】
図3は、写真測量と、物理ベースレンダリング(PBR)スキャンシステムとの少なくとも一方によって生成された画像ファイルの例を示す。
【発明を実施するための形態】
【0056】
本発明によれば、コンピュータで実施される方法は、対象物のいわゆる仮想ツインを生成する、対象物の3次元ワイヤーフレームモデルを生成する一連の方法ステップを提供する。
【0057】
図1に示すように、この方法は、好ましくはコンピュータ断層撮影(CT)法によって、実世界の物体を体積スキャンするステップ10を備える。CTスキャンは、医療分野と製造業の両方で、検査目的で確立された方法である。CTスキャンは、ボクセル110のセットを備えるボクセルマップ11を生成し、各ボクセルは、その位置及び少なくとも1つの値によって定義される。ボクセルマップは、トリミング、ノイズの除去、一部又は各ボクセルへの色値の追加などによって後処理される場合がある。
【0058】
ステップ12では、3次元ワイヤーフレームモデル13がボクセルマップから計算される。このモデルは静的である。つまり、縁部130(線)と頂点131のみを備え、質量、重心、又は剛性に関する情報は含んでいない。
【0059】
選択的ステップ12aでは、対象物の外面の色及びテクスチャ(表面の質感)を表す2次元(2D)画像ファイル14を生成するために、写真測量スキャンシステムを使用して対象物がスキャンされる。そのような画像ファイル14の例を
図3に示す。
【0060】
コンピュータ断層撮影スキャンから生成されたワイヤーフレームモデル又は部品モデルは、写真測量によって生成された2D画像データと位置合わせされる。
【0061】
一例では、写真測量によって生成された2D画像ファイルは、テクスチャ及び着色された外面を持つ対象物のワイヤーフレーム表現140を生成するために、ワイヤーフレームモデルの外面に巻き付けられる。
【0062】
登録では、対象物に、特性などの参照マークを使用することがある。この参照マークは、2つのスキャン手順以前に対象物に手動で追加することがある。代替的に、参照マークが自動的に抽出され、例えば対象物の縁部又は角部に対応する場合もある。
【0063】
代替的に、色と、テクスチャとの少なくとも一方が、ユーザによるマニュアル選択と、各表面の性質又は材料の分析に基づく自動決定との少なくとも一方がなされるものとしてよい。
【0064】
写真測量は、対象物の外面の色と、テクスチャとの少なくとも一方のみを示すとしてよい。方法は、前記対象物の内面の色とテクスチャとの少なくとも一方を仮定するステップを備えることがある。
【0065】
対象物の内面の色とテクスチャとの少なくとも一方の仮定は、対象物の内面や内部の材料と外観との少なくとも一方を決定するために、コンピュータ断層撮影スキャンから生成されたデータと写真測量から生成されたデータとの少なくとも一方を使用することがある。
【0066】
前記対象物の内面の、最も可能性の高い、色とテクスチャとの少なくとも一方を決定するため、その仮定は、人工知能システムなどの分類システムを使用することがある。
【0067】
別の実施形態では、色とテクスチャとの少なくとも一方が、後の段階で、3次元ワイヤーフレーム部品モデルの一部又は全てに追加される。
【0068】
色とテクスチャとの少なくとも一方は、例えば、線間の表面の少なくとも一部にテクスチャ及び/又は色を追加するため例えば、物理ベースのレンダリング(PBR)方法を使用して、対象物のレンダリングを改善すべく前記ワイヤーフレームに適用されることがある。
【0069】
ステップ14で、3次元ワイヤーフレームモデル13は、複数の3次元ワイヤーフレーム部品モデル15A、1Bなどにセグメント化される。各3次元ワイヤーフレーム部品モデルは、対象物の一部を表す。部品は、例えば、単独の構成要素、又は対象物の目立つ表面であるかもしれない。この例では、第1の部分15Aは、より高い解像度を必要とするより短い縁部を有する部分150を備える。
【0070】
一例では、例えば時計の個々の歯車などの複数の構成要素を備える機械的物体の各構成要素は、このセグメンテーションステップによって別個の3次元ワイヤーフレーム部品モデルが得られる部品である。
【0071】
別の例では、単一の構成要素は、例えば、内面及び外面などの別個の表面を備えることがあり、セグメンテーションによって別個の3次元ワイヤーフレーム部品モデルが得られる異なる部品を表す。
【0072】
セグメンテーションは、例えば、2つの部品間の空の体積の検出と、部品間の材料又は密度の違いとの少なくとも一方に基づくことがある。一部の部品は、例えば外部部品と内部部品を区別するために、それらの位置に基づいて分離される場合もある。一部の部品は、例えば部品間に線を引くなど、ユーザインタフェースでユーザが手動で識別するようにしている場合がある。
【0073】
写真測量によって決定された色及び/又はテクスチャは、対象物の部品へのセグメンテーションの改善に使用されることがある。例えば、色及び/又はテクスチャの変化が検出されることがあり、その変化が2つの隣り合う部分の間の境界に相当するものとすることがある。
【0074】
セグメンテーションステップ14は、完全に又は部分的に自動化されることがあり、異なる(複数)部分を分離すべく、既知のセグメンテーションアルゴリズム、あるいは機械学習/人工ニューラルネットワークモジュールを使用することがある。
【0075】
次に、3次元ワイヤーフレーム部品モデル15は、ステップ16の間に、複数のユーザが定義したクラスc1、c2、..、cnの各クラスに分類される。各クラスは、1つ又は複数の3次元ワイヤーフレーム部品モデルを備える。この分類は、手動で、又は好ましくはソフトウェア分類器などの分類器、好ましくはユーザ又は他の方法によって事前に訓練された人工ニューラルネットワークなどの自己学習機械によって実行されることがある。ユーザが、一部の部品モデルの分類を修正してもよい。その結果、自己学習機械の新しいトレーニングが行われ、他の3次元ワイヤーフレーム部品モデルが自動的に再分類されることになるかもしれない。
【0076】
3次元ワイヤーフレーム部品モデルの分類は、例えば、モデルのサイズ、モデルの位置、自動認識してよい部品のタイプに依存することがあり、あるいは他の任意の変数に依存することがある。
【0077】
一例では、クラスの1つは、家具や背景物品のような不活性の対象物に相当する。開いたり壊したりする必要がある前景の対象物について、別のクラスが定義されることがある。外面又は複数内面それぞれについて、さらなるクラスが定義されることがある。
【0078】
色及び/又はテクスチャが追加的、又は代替的に、クラスを複数部分に分類するために使用されることがある。例えば、微細構造を持つ部品は、微細なテクスチャを持つ部品よりも微細なモデルで記述される部品のグループに分類してよい。
【0079】
新しいクラス又は新しく編集されたクラスに属する必要のある部品を自動認識すべく、ユーザは、新しいクラスを追加又は編集し、自己学習機械をトレーニングしてよい。一実施形態では、ユーザが、部品の一部又はそれぞれを、ユーザが選択した1つのクラスに割り当てできる。その場合、これらの部分を分類する自己学習型分類器は必要ない。例えば、ユーザの使用上重要な役割をし、そしてより正確なモデルを要する部品を、ユーザが手動で分類してよい。
【0080】
ステップ18で、各3次元ワイヤーフレーム部品モデルは、モデルのポリゴン数を減らすことによって適合(つまり、最適化)される。この最適化は、各クラスに割り当てられたユーザ定義の品質に依存する。例えば、ユーザは、クラスdに属する部品を、別のクラスc2に属する部品よりも、より小さなファイルの結果となるように最適化すべきと判断できる。
図1では、クラス1のモデルをこのように強力に最適化すると、一部のポリゴンの削除に至る(150の部分は消去されている)。
【0081】
各クラスについてのユーザ定義の品質が、1つのクラスのモデルに色とテクスチャとの少なくとも一方を適用するかどうかと、適用する場合はテクスチャパターンのサイズとを決めることもある。
【0082】
各クラスについてのユーザ定義の品質が、光反射変数を部品の外面に関連付ける必要があるか否かを決めることもある。
【0083】
各クラスについてのユーザ定義の品質が、そのクラスに相当する部品を動的にすべきか否かを決めることもある。例えば、品質によって、1つの特定のクラスの対象物に対してその対象物の質量の決定を要するか否かを決めることがある。
【0084】
各クラスについてのユーザ定義の品質が、1つの特定のクラスの対象物に対してその対象物の質量中心の決定を要するか否かを決めることもある。使用のほとんどのケースでは、質量中心は重心と同じである。
【0085】
各クラスについてのユーザ定義の品質が、特定の1つのクラスの対象物に対して対象物の剛性の決定を要するか否かを決めることもある。
【0086】
各クラスについてのユーザ定義の品質が、部品モデルが破壊可能か否かと、破壊点又は破壊線を備えているか否かとを決めることもある。
【0087】
各クラスについてのユーザ定義の品質が、各モデルの最大サイズを決めることもある。適したサイズ、例えばしきい値よりも小さいサイズの部品の3次元ワイヤーフレームモデルを取得するために、ポリゴンの数と、1つの部品の表現のテクスチャ又はその他の変数との少なくとも一方が、選択又は適合される。
【0088】
各クラスについてのユーザ定義の品質が、いくつかの変数の組み合わせである可能性がある全体的な品質係数にも対応する場合がある。
【0089】
モデルのさまざまな変数、例えばポリゴンの数やテクスチャのサイズなどを調整して、その品質係数に対応する部品の3次元ワイヤーフレームモデルを取得する。
【0090】
例として、対象物の外面に相当する部品は、そのように分類され、例えば金属面などのテクスチャとある多数のポリゴンに関連付けられる。例えばボルトなどの重要性の低い内部構成要素のような別の部品は、別のクラスに割り当てられ、手の込んだテクスチャに替えて単純な色と、ある低い数のポリゴンを受け取る。
【0091】
次に、モデルの各部分に対して個別に最適化された複数のワイヤーフレーム部分モデルを備える、対象物の最適化された3次元ワイヤーフレームモデルは、リポジトリ28に格納される。一例では、リポジトリは、複数のユーザ間でモデルを共有するインターネットプラットフォームであり得る。
【0092】
上記の実施形態では、対象物全体のボクセルマップは、対象物全体の3次元ワイヤーフレームモデルに変換され、複数の3次元ワイヤーフレーム部品モデルへのセグメンテーションは、ワイヤーフレームモデルのステップ14で実行される。これは、例えば3次元メッシュを分析することでセグメンテーションを実行できる場合、例えば3次元ワイヤーフレーム部品モデルが切断されているか接続が不十分な場合、あるいは形状と、寸法と、各部品の位置との少なくともいずれか1つについてなんらかの事前の仮定がある場合に効果的である。例えば、外面部品と内面部品の区別は、既に変換されたワイヤーフレームモデルで実行してよい。
【0093】
別の実施形態(図示せず)では、セグメンテーションは、対象物のボクセルマップ上で実行され、複数の部分ボクセルマップ(部分モデル)が得られ、これらは次に個別に3次元ワイヤーフレーム部分モデルに変換される。各ワイヤーフレーム部品モデルの品質の適合は、変換中に実行してもよく、変換された3次元ワイヤーフレーム部品モデルを最適化することによって実行してもよく、それらの組み合わせで実行してもよい。この実施形態は、CTスキャンによって提供されるボクセルマップのボクセル値の一部であり得る異なる密度又はX線減衰を持つ部分をセグメント化するのにより効果的である場合がある。
【0094】
両方の実施形態を組み合わせてよいこともあり、そして例えば、変換された3次元ワイヤーフレームモデルでの第2セグメンテーションの前に、例えば、外側のセグメント化すべく、例えば、異なる密度又は減衰を持つ構成要素をセグメント化するため、ボクセルマップ上で第1セグメンテーションを実行してよい場合がある。
【0095】
上記の方法は、さまざまな品質とサイズの対象物のさまざまな部分の3次元ワイヤーフレームモデルを生成する。低品質のモデルは、高品質のモデルよりも、必要なストレージスペースが少なく操作が高速である。しかしながら、レンダリングの品質は、部品の各クラスに適合させてもよい。例えば、高品質の3次元ワイヤーフレームモデルを使用して、その部品の高品質のレンダリングを生成したり、場合によっては高速で低品質のレンダリングを生成したりできる。異なるクラスへの部品の分類は、モデルの生成だけでなく、レンダリングのタイプ又は品質の決定にも使用されることがある。
【0096】
図2aは、1つのクラス(ここではc1)の全ての3次元ワイヤーフレーム部品モデルの品質を判断するためにユーザに提示されることがあるユーザインタフェースの例を示している。インタフェースは、複数の品質変数q1、q2、..、qnの値を個別に選択する、スライダー、チェックボックス、テキスト又は値ボックスといった多数のユーザインタフェースウィジェットを提供する。選択的に、例えば、1つの特定のクラスに適用する1つのテクスチャ又は色を選択するために、いくつかの変数のプレビュー表現を表示してよい。
【0097】
図2bは、1つのクラス(ここではc1)の全ての3次元ワイヤーフレーム部品モデルの品質を判断するためにユーザに提示されることがあるユーザインタフェースの別の例を示している。インタフェースは、クラスに適用される単一の品質変数qを決定するために、例えばスライダーや値ボックスのような単一のユーザインタフェースウィジェットを提供する。この単一の要因は、いくつかの品質変数の重み付けされた組み合わせである場合がある。最適化モジュールは、その品質変数に到達するために部品モデルを最適化する最良の方法を自動決定する。
【0098】
本発明はまた、上記のステップの一部又は全てを実行するコンピュータプログラムに関する。コンピュータプログラムは、非一時的なコンピュータ可読媒体に記憶されていることがある。さらに、本発明は、前述の方法で得られた対象物の少なくとも1つの3次元ワイヤーフレームモデルを備える、データ構造と、データリポジトリシステムとの少なくとも一方に関する。
【0099】
付加的特徴と用語について
本願において、表現「ボクセルマップ」は、対象物が3次元空間の規則的なグリッド上の値で表される3次元の物理的対象物の任意の表現を示す。この値は、特定の位置にソリッド対象物が存在することを示す場合がある。いくつかの実施形態では、値はまた、局所X線減衰、グレーレベル、局所密度なども示すことがある。さらに、局所質量がCTスキャンから導き出されて各ボクセルについて示されてもよい。
【0100】
本出願において、表現「3次元ワイヤーフレームモデル」は、対象物がその縁部及び頂点で表される3次元物理対象物の任意の表現を示す。3次元ワイヤーフレームモデルはまた、いくつかの表面のテクスチャ及び/又は色といった他の視覚的変数と、例えば、質量、重心及び/又は剛性といった物理的変数との少なくとも一方をも備えることがある。
【0101】
3次元のワイヤーフレームモデルは、空のボリューム又は均一に満たされたボリュームが大きな3次元構造を効率的に表せる一方、ボクセルマップは、生物学的組織のような不均一に充填されているボリューム空間を表すのにより有用である。コンピュータゲームとコンピュータアニメーションは、レンダリングと操作が高速になる傾向があるため、通常は3次元のワイヤーフレームモデルが必要である。
【0102】
提案された方法は、パーソナルコンピュータ、グラフィックステーション、サーバー、仮想サーバー、タブレット、スマートフォンなどをなんら限定せずに含む、任意のコンピュータ機器で実行してよい。
【0103】
実施形態に応じて、本明細書に記載のアルゴリズムのいずれかの特定の行為、イベント、又は機能は、異なる順序で実行してよく、(例えば、記載された全ての行為又はイベントが方法の実践に必要でないなら)追加、マージ、又は完全に除外し得る。さらに、特定の実施形態では、行為又はイベントは、例えば、マルチスレッド処理、割り込み処理、又は複数のプロセッサ又はプロセッサコアを介して、又は他の並列アーキテクチャ上で、順次ではなく同時に実行してよい。さらに、異なるタスク又はプロセスを、一緒に機能可能な異なるマシン又はコンピューティングシステムによって実行できる。
【0104】
本明細書で説明される様々な例示的な論理ブロック、モジュール、及びアルゴリズムのステップは、電子ハードウェア、コンピュータソフトウェア、又は両方の組み合わせとして実装できる。ハードウェアとソフトウェアのこの互換性を明確に説明するために、さまざまな例示的な構成要素、ブロック、モジュール、及びステップを、一般にそれらの機能の観点から上で説明した。このような機能がハードウェアとして実装されているかソフトウェアとして実装されているかは、システム全体に課せられた特定のアプリケーションと設計上の制約によって異なる。説明された機能は、特定のアプリケーションごとにさまざまな方法で実装可能であるが、そのような実装の決定は、開示の範囲からの逸脱を引き起こすと解釈されるべきではない。
【0105】
本明細書に開示される実施形態に関連して説明される様々な例示的な論理ブロック及びモジュールは、機械、マイクロプロセッサ、状態機械、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、FPGA、あるいは他のプログラマブル論理装置、ディスクリート(単一機能)ゲート又はトランジスタロジック、ディスクリートハードウェア構成要素、又は本明細書で説明する機能を実行するように設計されたそれらの任意の組み合わせによって、実装又は実行可能である。
【0106】
本明細書に開示される実施形態に関連して説明される方法、プロセス、又はアルゴリズムのステップは、ハードウェア内で直接実体化してよく、1つ又はそれより多い記憶装置に格納されたソフトウェアモジュール内で直接実体化してよく、そして、1つ又はそれより多い処理装置によってあるいは2つの処理装置の組み合わせにおいて実行されるようにしてよい。ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、リムーバブルディスク、CD-ROM、あるいはその他任意の形式の非一時的コンピュータ可読記憶媒体(単数又は複数)又は物理計算ストレージに配置できる。例示的な記憶媒体は、プロセッサが記憶媒体から情報を読み取り、記憶媒体に情報を書き込み可能に、プロセッサに結合してよい。別の方法として、記憶媒体をプロセッサに統合もできる。記憶媒体は、揮発性又は不揮発性であり得る。プロセッサと記憶媒体はASICに常駐できる。
【0107】
とりわけ、「できる」、「かもしれない」、「かもしれない」、「例えば」といった本明細書で使用される条件表現は、特に明記しない限り、又は使用される文脈内で別の方法で理解される場合を除き、特定の実施形態は、特定の特徴、要素、又は状態を含むが、他の実施形態は含まないことの伝達を一般的に意図している。よって、そのような条件表現は、一般に、機能、要素、又は状態が1つ又は複数の実施形態に何らかの形で必要であること、又は1つ又は複数の実施形態が、書き手の情報提供又は即答の有無にかかわらず、これらの特徴、要素又は状態が含まれているか否か、あるいはそれらがある特定の実施態様において実行されることになっているのか否かを決定する論理を必然的に含むことを意味することを意図していない。「備える」、「含む」、「持つ」などの用語は同義語であり、制限のない方法で包括的に使用され、追加の要素、特徴、行為、操作などを除外するものではない。また、「又は」という用語は、その包括的な意味で(排他的な意味ではなく)使用されるため、例えば、要素のリストを接続するために使用される場合、「又は」という用語は、リスト内の要素の1つ、いくつか又は全てを意味する。さらに、本明細書で使用される「それぞれ(各)」という用語は、通常の意味を持つことに加えて、「各」という用語が適用される要素のセットの、ある下位のセットを意味する場合がある。
【手続補正書】
【提出日】2022-04-26
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
複数の部品を備える物体(2)の3次元ワイヤーフレームモデル(13)を生成する、コンピュータに実装された方法(100)であって、
ボクセルマップを生成するように、対象物(2)を、好ましくはコンピュータ断層撮影法(10a)で、スキャンするステップ(10)と、
各部品モデルは対象物の1つの部品に対応して、複数の前記部品モデル(15)にセグメント化するステップ(14)と、
前記部品を部品クラス(c1、c2、..cn)に分類するステップ(16)と、
3次元ワイヤーフレーム部品モデルの品質は、各クラス(c1、c2、..cn)に対してユーザによって独立して選択される少なくとも1つの品質変数に依存する、各部品の3次元ワイヤーフレーム部品モデルを生成するステップ(18)と
を備え
、
前記品質変数は、部品の表現に使用されるポリゴン数を決定する、方法。
【請求項2】
前記品質変数は、1つの部品にテクスチャと色との少なくとも一方を適用すべきかどうかを決定する、請求項
1に記載の方法。
【請求項3】
前記品質変数は、部品の質量と重心との少なくとも一方を決定すべきかどうかを決定する、請求項
1に記載の方法。
【請求項4】
前記品質変数は、部品の破壊点又は破壊線の数を決定する、請求項
1に記載の方法。
【請求項5】
前記対象物をスキャンするステップ(10)は、ボクセルマップを生成するようにコンピュータ断層撮影法(10a)で行われ、前記方法は、写真測量によって前記対象物の色とテクスチャとの少なくとも一方を取得することをさらに備える、請求項
1に記載の方法。
【請求項6】
前記色とテクスチャとの少なくとも一方は、前記対象物のセグメント化するステップに使用される、請求項
5に記載の方法。
【請求項7】
前記色とテクスチャとの少なくとも一方は、前記クラスを部品に分類するステップに使用される、請求項
5に記載の方法。
【請求項8】
対象物の参照マークを用いて、コンピュータ断層撮影から生成されたデータを、写真測量と物理ベースレンダリングとの少なくとも一方から生成されるデータを伴って、登録するステップを備える、請求項
5に記載の方法。
【請求項9】
前記生成するステップは、少なくとも1つか、1つ又はそれより多いクラス(c1、c2、..cn)に対して独立してユーザ(70)によって選択された前記少なくとも1つの品質変数に依存して3次元ワイヤーフレーム部品モデルの品質を適合させることを備える、請求項
1に記載の方法。
【請求項10】
対象物は少なくとも1つの部品を備え、前記部品の1つは、異なる品質を有する異なる3次元ワイヤーフレームモデルを適用すべき複数の部品を備える、請求項
1に記載の方法。
【請求項11】
前記クラスは
、内部構成要素と、外面と、内面とのうちの少なくとも1つからなる、請求項
1に記載の方法。
【請求項12】
複数の3次元ワイヤーフレームモデルがオンラインプラットフォーム上に保存されていて、複数のユーザにとって利用可能になっている、請求項
1に記載の方法。
【請求項13】
請求項1から
12のいずれか一項に記載の方法を実行するコンピュータプログラムを備える、非一時的コンピュータ可読媒体。
【請求項14】
請求項
1に記載の方法を実施することで得られる対象物の3次元ワイヤーフレームモデルを少なくとも1つ備える、データ構造、又はデータリポジトリシステム、又はデータ構造とデータレポジトリシステム。
【国際調査報告】