(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-15
(45)【発行日】2023-11-24
(54)【発明の名称】歯列メッシュ矯正具除去のための方法および装置
(51)【国際特許分類】
A61C 7/02 20060101AFI20231116BHJP
A61C 19/04 20060101ALI20231116BHJP
【FI】
A61C7/02
A61C19/04 Z
(21)【出願番号】P 2021156322
(22)【出願日】2021-09-27
(62)【分割の表示】P 2019504714の分割
【原出願日】2016-07-28
【審査請求日】2021-10-25
(73)【特許権者】
【識別番号】513097067
【氏名又は名称】デンタル・イメージング・テクノロジーズ・コーポレーション
(74)【代理人】
【識別番号】100103816
【氏名又は名称】風早 信昭
(74)【代理人】
【識別番号】100120927
【氏名又は名称】浅野 典子
(72)【発明者】
【氏名】ケン ショウプ
(72)【発明者】
【氏名】イェ ウェイ
(72)【発明者】
【氏名】ワン ビクター シー
(72)【発明者】
【氏名】リチャード サムエル
【審査官】寺澤 忠司
(56)【参考文献】
【文献】特表2011-507615(JP,A)
【文献】特表2002-526154(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61C 7/02
A61C 19/04
(57)【特許請求の範囲】
【請求項1】
患者の歯列のデジタルモデルから再構成された歯列のデジタルモデルを生成するための方法であって、
矯正具、歯、および歯肉を含むそれぞれの構成要素にセグメンテーションがされていないデータを含む前記患者の歯列の3Dデジタルメッシュ歯列モデルを取得することであって、前記3Dデジタルメッシュ歯列モデルは、前記患者の前記歯と、前記患者の前記歯肉と、前記矯正具のワイヤおよびブラケットとを口腔内走査することによって形成される、三角メッシュから構成される3Dデジタルメッシュ歯列モデルを取得することと、
前記3Dデジタルメッシュ歯列モデルから前記矯正具のワイヤ部分を自動的に除去することによって前記3Dデジタルメッシュ歯列モデルを修正することと、
修正後の前記3Dデジタルメッシュ歯列モデルから前記矯正具のブラケット部分を自動的に除去することによって
前記修正後の前記3Dデジタルメッシュ歯列モデルを
更に修正することと、
前記矯正具の前記ワイヤ部分および前記ブラケット部分によって以前に覆われていた、前記
更に修正された前記3Dデジタルメッシュ歯列モデルの歯表面を再構成することと、
前記再構成された3Dデジタルメッシュ歯列モデルを表示、格納、またはネットワークを通じて別のコンピュータに送信することとを含む、方法。
【請求項2】
患者の歯列のデジタルモデルから再構成された歯列のデジタルモデルを生成するためのコンピュータ実装方法であって、
口腔内走査によって生成され、矯正具、歯、および歯肉を含むそれぞれの構成要素にセグメンテーションがされていないデータを含む、三角メッシュから構成される第1の3Dデジタルメッシュ歯列モデルを取得することと、
前記第1の3Dデジタルメッシュ歯列モデル内の前記矯正具のワイヤ部分を検出し、前記検出されたワイヤ部分を自動的に除去することによって第2の3Dデジタルメッシュ歯列モデルを生成することと、
前記第2の3Dデジタルメッシュ歯列モデル内の前記矯正具のブラケット部分を検出し、前記検出されたブラケット部分を自動的に除去することによって第3の3Dデジタルメッシュ歯列モデルを生成することと、
前記矯正具の前記ワイヤ部分および前記ブラケット部分によって以前に覆われていた、前記第3の3Dデジタルメッシュ歯列モデルの歯表面を再構成することと、
前記再構成された3Dデジタルメッシュ歯列モデルを表示、送信、または格納することとを含む、方法。
【請求項3】
前記矯正具の前記検出されたワイヤ部分を除去することは、前記矯正具を複数のブラケット部分に分離する、請求項2に記載の方法。
【請求項4】
前記歯表面を再構成することは、穴充填アルゴリズムを使用し、前記穴充填アルゴリズムは、
最初に、ポリゴン充填プロセスを使用して前記第3の3Dデジタルメッシュ歯列モデルの前記除去されたブラケット部分と前記除去されたワイヤ部分とに対応する複数の穴のそれぞれを充填し、パッチ当てされた表面を生成することと、
前記第3の3Dデジタルメッシュ歯列モデル内の前記パッチ当てされた表面を平滑化し、前記再構成された3Dデジタルメッシュ歯列モデルを生成することとを含む、請求項2に記載の方法。
【請求項5】
前記歯表面を再構成することは、前記矯正具が取り付けられる前の前記患者の以前の3Dデジタルメッシュ歯列モデルからのデータを使用する、請求項2に記載の方法。
【請求項6】
前記再構成された3Dデジタルメッシュ歯列モデルは、前記矯正具を含まない、請求項2に記載の方法。
【請求項7】
前記取得された第1の3Dデジタルメッシュ歯列モデルに対して自動歯構成要素セグメンテーションを実行することと、自動セグメンテーション結果を表示することとをさらに含み、
前記自動セグメンテーション結果は、前記患者の歯茎組織と1つまたは複数の歯とを区別しており、前記自動セグメンテーション結果は、前記1つまたは複数の歯において個々の歯を互いに区別している、請求項2に記載の方法。
【請求項8】
オペレータ命令に従って前記自動セグメンテーション結果の対話型セグメンテーションを実行することをさらに含み、
前記自動セグメンテーション結果は、前記個々の歯を互いに区別している、請求項7に記載の方法。
【請求項9】
前記第2の3Dデジタルメッシュ歯列モデルから前記矯正具のブラケット部分を検出することは、
前記第2の3Dデジタルメッシュ歯列モデルにおける、前記矯正具のブラケット部分の自動セグメンテーションを実行することと、
オペレータ命令に従って前記第2の3Dデジタルメッシュ歯列モデルに対して、前記ブラケット部分についての自動セグメンテーション結果への修正を可能とする、対話型セグメンテーションを実行することとを含む、請求項2に記載の方法。
【請求項10】
前記オペレータ命令はトレースした線分である、請求項9に記載の方法。
【請求項11】
前記第1の3Dメッシュ歯列モデルを取得することは、手持ち口腔内カメラから複数の構造化光画像を取得することを含む、請求項2に記載の方法。
【請求項12】
歯列のデジタルモデルを生成するように構成された装置であって、
口腔内走査によって生成され、矯正具、歯、および歯肉を含むそれぞれの構成要素にセグメンテーションがされていないデータを含み、三角メッシュから構成される、患者の歯列の第1の3Dデジタルメッシュ歯列モデルを取得する手段と、
前記第1の3Dデジタルメッシュ歯列モデル内の前記矯正具のワイヤ部分を検出し、前記検出されたワイヤ部分を自動的に除去することによって第2の3Dデジタルメッシュ歯列モデルを生成する手段と、
前記第2の3Dデジタルメッシュ歯列モデル内の前記矯正具のブラケット部分を検出し、前記検出されたブラケット部分を自動的に除去することによって第3の3Dデジタルメッシュ歯列モデルを生成する手段と、
前記矯正具の前記ワイヤ部分および前記ブラケット部分によって以前に覆われていた、前記第3の3Dデジタルメッシュ歯列モデルの歯表面を再構成する手段と、
前記再構成された3Dデジタルメッシュ歯列モデルを表示、格納、またはネットワークを通じて別のコンピュータに送信する手段とを備える、装置。
【請求項13】
前記矯正具の前記検出されたワイヤ部分を除去することは、前記矯正具を複数のブラケット部分に分離する、請求項12に記載の装置。
【請求項14】
前記矯正具のワイヤ部分を自動的に除去することは、
前記3Dデジタルメッシュ歯列モデルにおいて前記三角メッシュの任意の頂点Vから所定の半径内で最近傍探索を実行して一組の近隣頂点VNを取得し、
一組の前記近隣頂点VNの法線の少なくとも一つが、前記頂点Vの法線の反対方向を指す法線である場合に、前記頂点Vを前記ワイヤ上の頂点に設定する、
ことを含む、請求項1または2に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、概して、三次元メッシュによって表される要素の操作に関し、より詳細には、反射率撮像を使用して得られた輪郭画像における歯冠表面操作のための方法および装置に関する。
【背景技術】
【0002】
三次元(3D)撮像および3D画像処理は、コンピュータ支援診断および患者介護の全体的向上のために歯科/歯科矯正医にとって関心が高まっている領域である。頭部計測分析の分野では、3D撮像および3D画像処理は、柔軟性、正確さ、および再現性の点で大きな利点を提供する。3D頭部計測分析は、二次元(2D)頭部計測分析からなる従来の方法に伴ういくつかの欠点、例えば、透視投影、倍率、および投影における頭部配置の2D幾何学的誤差などを克服する。3D頭部計測分析がより正確な客観的データをもたらすことが証明されており、これは、3D頭部計測分析が、2D頭部計測の場合のように離散測定に大きく依存するのではなく、計算に基づいているからである。
【0003】
3D頭部計測法を用いた初期の研究では、患者の頭部のコーンビームコンピュータ断層撮影(CBCT)を用いた顎顔面解剖学的構造の3D撮像およびパラメトリック分析を採用していた。CBCT法を使用した3D頭部計測分析の重要な役割は、各歯または各歯の群について慣性軸が計算された上顎弓および下顎弓の数学的モデルを定義することであった。これには、取得された患者のCBCT頭部体積から個々の歯をセグメンテーションすることが必要であった。
【0004】
従来、歯科矯正治療処置の間、治療の経過を評価するために複数の2DのX線セファログラム取得物を用いる。従来の3D頭部計測分析もまたこの目的で使用することができ、複数のCBCT走査を必要とする。しかし、2Dおよび3DのX線撮像法は、いずれも患者を電離放射線に暴露する。患者の全体的放射線被曝を低減することは、特に若年の患者にとって望ましいことである。
【0005】
光学口腔内走査は、一般に、歯列物体の輪郭を生成し、歯、歯茎、および他の口腔内構造物の可視化を改善するのに有用であった。表面輪郭情報は、特に、歯の状態の評価に有用であり得、修復歯科のためなどの様々な種類の歯科処置のための価値が認められている。これは、様々な問題を特定する際、ならびに患者の歯および支持構造物に関する他の測定値および観察結果を検証する際に歯科医を支援する貴重なツールを提供することができる。表面輪郭情報はまた、個々の歯などの歯列構成要素の3Dモデルを生成するために使用することができ、個々の歯に関する位置および向き情報は、その後、歯科矯正治療の経過を評価する際に使用することができる。表面輪郭撮像の適切な使用により、患者の歯列の複数の2Dまたは3DのX線取得の必要性を回避することができる。
【0006】
医療用途、工業用途、および他の用途において様々な種類の物体から表面輪郭情報を得るための多数の技術が開発されてきた。光学三次元(3D)測定方法は、様々な方法で表面に向けられた光を使用して形状および空間情報を提供するものである。輪郭撮像用に使用される各種撮像方法の中に、縞投影装置がある。縞投影撮像は、パターン化光または構造化光およびカメラ/センサー三角測量を使用して、様々な種類の構造物についての表面輪郭情報を得る。縞投影画像を処理した後、点群を生成することができる。その後、表面の少なくとも平面近似を再構成するために、この点群または複数の点群からメッシュを形成することができる。
【0007】
メッシュ表現は、特に歯および歯茎の表面構造を示すのに有用であり得、手持ちカメラを使用して、有害な放射線レベルの必要なく得ることができる。しかしながら、従来の画像処理手法を使用する場合、メッシュ表現は、コーンビームコンピュータ断層撮影(CBCT)または患者を放射線に曝す他の技術を使用して利用可能なその本来の多用途性および有用性のいくつかを欠くことがわかった。メッシュ表現が期待外れな結果しか生み出していない一領域は、セグメンテーションに関するものである。セグメンテーションは、歯科医が、歯茎および関連する支持構造物から歯冠および他の歯の視認可能な部分を識別し、分離することを可能にする。メッシュ画像をセグメンテーションするための従来の方法は、しばしば不正確になり得るものであり、歯構造と支持組織とを区別し損なう可能性がある。
【0008】
メッシュ画像についてのセグメンテーション問題に対処するための様々な手法が、例えば、以下のように提案されている。
(i)Thomas Kronfeldらによる記事「Snake-Based Segmentation of Teeth from Virtual Dental Casts」(Computer-Aided Design & applications、7(a)、2010年)に記載された方法は、1つの処理反復で各歯と歯茎の表面を分離するよう試みる動的輪郭セグメンテーション法を採用している。しかしながら、記載された手法は、トポロジー非依存性方法ではなく、特に顎のメッシュに欠けている歯がある場合には失敗することがある。
(ii)Page,D.L.らによる「Perception-based 3D Triangle Mesh Segmentation Using Fast Marching Watershed」(Proc. CVPI vol II 2003年)と題した記事は、メッシュセグメンテーションに高速マーチングウォーターシェッド(Fast Marching Watershed)法を使用することを記載している。記載された高速マーチングウォーターシェッド法は、ユーザに手動でシードポイントを入力することを要求する。シードポイントは、セグメンテーション中の領域の輪郭の両側に配置されなければならない。その後、この方法では、シード情報を用いて、1つのステップで全ての領域をセグメンテーションすることを試みる。顎メッシュセグメンテーションについて、この種類の方法では、各歯と同様に歯茎も同時にセグメンテーションする。これにより、この方法はあまり望ましくないものになるが、それは、歯を歯肉領域からセグメンテーションすることが、典型的には、歯同士を互いからセグメンテーションするタスクに必要となるものとは異なるパラメータおよび処理を必要とするためである。別のセグメンテーション要件をもつ異なる種類の歯列構成要素について別々のセグメンテーション戦略を使用することで、パフォーマンスが向上することになるだろう。
(iii)J.M.Moonは、自身の論文「Evaluation of software developed for automated segmentation of digital dental models」を裏付けるために、セグメンテーションプロセスを2つのステップ、すなわち、歯肉構造から歯を分離することと、アーチ構造全体を個々の歯物体へセグメンテーションすることとに分解するソフトウェアツールを使用した。Moonの論文で使用されたソフトウェアツールは、メッシュの最大曲率を見つけ出し、歯をセグメンテーションするために使用するマージン頂点を得るために、ユーザに曲率閾値を手動で選択することを要求する。このソフトウェアはまた、誤ったセグメンテーション結果を除去するために、ユーザに手動でマージンを編集することを要求する。このソフトウェアは、形状および位置特性の分析を目的とし、歯肉領域からの歯領域の分離に色情報を採用することについては検討していない。
(iv)Jones,T.N.らによる「Manipulation a digital dentition model to form models of individual dentition components」と題した米国特許出願第20030039389A1号は、隣接し合う歯同士を表す歯列モデルの一部を分離する方法を開示している。
【0009】
従来の各方法は、限られたテストケースではある程度の成功を示しているが、これらの方法はいずれもロバストで商業的に実行可能なものではないと思われる。さらに、従来の各方法は、走査された歯列メッシュモデル内にたびたび存在するブラケット/矯正具を処理する能力を全く備えていない。
【0010】
治療(例えば、歯科矯正)中の経過評価(例えば、数回)用に歯のメッシュモデルの鮮明な3Dビューを得るためには、口腔内走査を実行する前に歯から物理的ブラケット矯正具を取り外すことが望ましい。しかし、歯のエナメル質は、矯正具を取り外すことによって損傷(例えば、剥離、着色、粗面への害物の蓄積など)を受ける可能性がある。ブラケットの取り外し中に失われるエナメル質の厚さは約150ミクロンと推定される。1つの解決策としては、歯から物理的矯正具を取り外さずに歯列/歯列弓を走査し、メッシュ操作によって歯列弓メッシュ(の画像)を整えることがある。
【0011】
「Methods of preparing a virtual dentition model and fabricating a dental retainer therefrom」と題した、米国特許第8,738,165号には、歯科患者の歯列の仮想モデルは、当該患者の歯およびその歯に接続された歯科矯正装具のデジタルデータファイルを得て、その後そのデータファイルからのデータをその装具の下にある歯の表面を表す他のデータと組み合わせることによって提供されることが開示されている。米国特許第8,738,165号において、この仮想モデルは、患者の現在の歯列の物理的モデルの準備の際に使用され、この物理的モデルを使用して歯科用リテーナを作製することができる。米国特許第8,738,165号にはまた、画像操作ソフトウェアの編集ツールを使用して歯科矯正装具を表すデータを除去することができることも開示されている。米国特許第8,738,165号で使用される画像操作ソフトウェアは、「Geomagic Studio」(ノースカロライナ州、Research Triangle ParkのGeomagic,Inc.製)として知られており、このソフトウェアでは、画像の一部を技術者がコンピュータマウスまたは他の入力装置を使用して識別し削除する必要がある。米国特許第8,738,165号には、「ZBrush」(カリフォルニア州ロサンゼルスのPixologic,Inc.製)として知られているソフトウェアを使用して、上記組み合わされたデータをデジタル的に/手動で微調整およびスカルプティングすることがさらに開示されている。
【0012】
その結果、好ましくは人間の介入のない、またはほとんど人間の支援のない、歯/歯冠面再構成を伴うブラケット除去を含む歯および歯茎構造のメッシュ表現のセグメンテーションのための改善された方法および/または装置が必要とされている。
【先行技術文献】
【特許文献】
【0013】
【文献】米国特許第8738165号明細書
【文献】米国特許出願公開第2003/0039389号明細書
【文献】米国特許出願公開第2014/067334号明細書
【文献】米国特許出願公開第2008/248443号明細書
【文献】米国特許出願公開第2016/004811号明細書
【非特許文献】
【0014】
【文献】トーマス・クロンフェルド等(Thomas Kronfeld)、「仮想歯模型のスネークベースセグメンテーション(Snake-Based Segmentation of Teeth from Virtual Dental Casts」、コンピューター-エイディド デザイン アンド アプリケーションズ(Computer-Aided Design & applications、第7(a)巻、2010年
【文献】ページ,ディー.エル.等(Page,D.L.)、「高速マーチング分水界を用いた知覚ベースの3Dトライアングルメッシュセグメンテーション(Perception-based 3D Triangle Mesh Segmentation Using Fast Marching Watershed)」(コンピュータヴィジョン及びパターン認識会議議事録(Proc. CVPI)、第II巻、2003年
【文献】ジェイ.エム.ムーン(J.M.Moon)、「デジタル歯モデルの自動セグメンテーションのために開発されたソフトウェアの評価(Evaluation of software developed for automated segmentation of digital dental models」、歯科研究国際協会(IADR)ジェネラルセッション、2011年
【発明の概要】
【課題を解決するための手段】
【0015】
本願の一態様は、医療用途および歯科用途で使用されるボリューム撮像および可視化に関して、歯のセグメンテーションおよび/または操作の技術を進歩させることである。
【0016】
本願の別の態様は、関連技術における少なくとも前述の欠陥および他の欠陥の全部または一部に対処することである。
【0017】
本願の別の態様は、少なくとも本明細書に記載された利点の全部または一部を提供することである。
【0018】
本開示による方法および/または装置の実施形態は、矯正具表現が除去または縮小され、分かりやすいように歯の表面が追加または復元された3D歯列モデルの視覚化および評価の改善に対する特定のニーズに対処することができる。復元された3D歯列モデルは、CBCTおよび他のX線ボリューム撮像法を使用して得られた内部構造と共に使用することができるか、または患者から得られた反射率画像データと対応付けることができる。
【0019】
これらの目的は例示的な例としてのみ与えられており、このような目的は、本願の1つまたは複数の実施形態の代表的な例であり得る。例示的な方法および/または装置の実施形態によって本質的に達成される他の望ましい目的および利点は、当業者に想起され得るか、または明らかになり得る。本発明は、添付の特許請求の範囲によって定義される。
【0020】
本開示の一態様によれば、再構成された歯列のデジタルモデルを生成するための方法が提供され、この方法は、矯正具、歯、および歯肉を含む患者の歯列の3Dデジタルメッシュモデルを取得することと、3Dデジタルメッシュ歯列モデルから矯正具のワイヤ部分を除去することによって3Dデジタルメッシュ歯列モデルを修正することと、3Dデジタルメッシュ歯列モデルから矯正具のブラケット部分を除去することによって3Dデジタルメッシュ歯列モデルを修正することと、矯正具のワイヤ部分およびブラケット部分によって以前に覆われていた、修正された3Dデジタルメッシュ歯列モデルの歯表面を再構成することと、再構成された3Dデジタルメッシュ歯列モデルを表示、格納、またはネットワークを通じて別のコンピュータに送信することとを含み得る。
【0021】
前述のおよび他の、本発明の、目的、特徴、および利点は、添付の図面において図示されるように、以下の本発明の実施形態のより具体的な説明から明白となろう。図面の要素は、互いに対して必ずしも縮尺通りではない。
【図面の簡単な説明】
【0022】
【
図1】患者の歯および関連する構造物の表面輪郭撮像のための撮像装置の構成要素を示す概略図である。
【
図2】手持ちカメラまたは他の携帯撮像装置を使用して表面輪郭情報を得るためにパターン化光がどのように使用されるかを示す概略図である。
【
図3】複数の光線を有するパターンを使用した表面撮像の例を示す図である。
【
図4】
図3に示したような構造化光撮像から生成された点群を示す図である。
【
図5】単純な三角メッシュの形態のポリゴンメッシュを示す図である。
【
図6A】本開示の一実施形態による、メッシュセグメンテーションのための混合シーケンスを示す論理流れ図である。
【
図6B】本開示の一実施形態による、歯のハイブリッドセグメンテーションのためのワークフローシーケンスを示す論理流れ図である。
【
図7A】セグメンテーションが不十分な歯の一例を示す図である。
【
図7B】セグメンテーションが改善された一例を示す図である。
【
図8A】シードライントレースパターンの一例を示す図である。
【
図8B】ブロックライントレースパターンの一例を示す図である。
【
図9A】本開示の特定の実施形態による、歯のメッシュセグメンテーション処理を精緻化するためのマークアップ命令の見直しおよび入力のためのオペレータインターフェース画面を示す図である。
【
図9B】本開示の特定の実施形態による、歯のメッシュセグメンテーション処理を精緻化するためのマークアップ命令の見直しおよび入力のためのオペレータインターフェース画面を示す図である。
【
図9C】本開示の特定の実施形態による、歯のメッシュセグメンテーション処理を精緻化するためのマークアップ命令の見直しおよび入力のためのオペレータインターフェース画面を示す図である。
【
図10】本願の一例示的な実施形態による、歯のメッシュ表面からブラケットを除去するためのシーケンスを示す論理流れ図である。
【
図11】歯、ブラケット、および歯肉を含む歯列メッシュの例を示す図である。
【
図12】本願の一例示的な実施形態による、3D歯列メッシュから分離された例示的な結果の歯を示す図である。
【
図13A】3D歯列メッシュの歯表面からブラケットを除去し、その後歯表面を再構成する例を示す図である。
【
図13B】3D歯列メッシュの歯表面からブラケットを除去し、その後歯表面を再構成する例を示す図である。
【
図13C】3D歯列メッシュの歯表面からブラケットを除去し、その後歯表面を再構成する例を示す図である。
【
図13D】ブラケットが除去された歯メッシュ表面の穴と、その穴を充填するための初期パッチとを示す図である。
【
図13E】ブラケットが除去された歯メッシュ表面の穴と、その穴を充填するための初期パッチとを示す図である。
【
図13F】歯表面メッシュパッチにおける三角形の初期配置、および歯表面メッシュパッチための三角形の修正配置を示す図である。
【
図14】本願の別の例示的な実施形態による、歯のメッシュ表面からブラケットを除去するためのシーケンスを示す論理流れ図である。
【
図15】本願の一例示的な実施形態による、歯メッシュからブラケットを分離するための画成(delineation)命令の見直しおよび入力のためのオペレータインターフェース画面実施形態を示し、ブラケットを囲んでいる閉輪郭またはスネークの例を示す図である。
【
図16】閉輪郭内で強調表示されたメッシュ頂点の例を示す図である。
【
図17】ブラケットが除去された後の再構成された歯表面の例を示す図である。
【
図18】本願の一例示的な実施形態による、ブラケットを有する歯列モデルの例を示す図である。
【
図19】本願の一例示的な実施形態による、ブラケットが識別された状態の同じ歯列モデルの例を示す図である。
【
図20】本願の一例示的な実施形態による、ブラケットが除去された後の再構成された歯の例を示す図である。
【
図21A】歯、ブリッジ接続された(bridged)ブラケット、および歯肉を含む歯列メッシュの例を示す図である。
【
図21B】本願の例示的な実施形態による、切断されたブラケット間ブリッジ(例えば、ワイヤ)を有する歯列メッシュの例を示す図である。
【
図21C】ブリッジ(例えば、ワイヤ)の検出を示す歯列メッシュの例を示す図である。
【
図22】本願の例示的な実施形態による、ブリッジワイヤを切断した後のブラケット除去および表面再構成の結果例を示す図である。
【
図23】本開示の一実施形態による、歯メッシュ表面からブリッジ接続されたブラケットを除去するためのシーケンスを示す論理流れ図である。
【
図24】本開示の別の実施形態による、歯メッシュ表面からブリッジ接続されたブラケットを除去するためのシーケンスを示す論理流れ図である。
【発明を実施するための形態】
【0023】
以下は、例示的な実施形態の詳細な説明であり、図面について参照がなされ、図面では、同一の参照番号は複数の図の各々における同一の構造要素を特定する。
【0024】
用語「第1の」、「第2の」などは、使用される場合、任意の順序関係または優先関係を必ずしも表すものではないが、ある要素または時間間隔と別の要素または時間間隔とをより明確に区別するために使用される場合がある。
【0025】
用語「例示的な」は、その記載が理想的であることを暗示するのではなく、例として使用されることを示す。
【0026】
本願で使用される場合、用語「信号通信で」は、2つ以上の装置および/または構成要素が、いくつかの種類の信号経路を伝わる信号によって相互に通信可能であることを意味する。信号通信は有線であってもよく、または無線であってもよい。信号は、通信信号、電力信号、データ信号、またはエネルギー信号であってもよく、これらの信号は、情報、電力、および/またはエネルギーを、第1の装置および/または構成要素から第2の装置および/または構成要素に、第1の装置および/または構成要素と第2の装置および/または構成要素との間の信号経路に沿って伝達し得る。信号経路は、第1の装置および/または構成要素と第2の装置および/または構成要素との間の物理的接続、電気的接続、磁気的接続、電磁的接続、光学的接続、有線接続および/または無線接続を含み得る。信号経路は、また、第1の装置および/または構成要素と第2の装置および/または構成要素との間に、追加の装置および/または構成要素を含み得る。
【0027】
本開示の文脈において、用語「画素」および「ボクセル」は、個々のデジタル画像データ要素、すなわち、測定された画像信号の強度を表す単一の値を記載するために同義的に使用することができる。従来、個々のデジタル画像データ要素は、三次元画像またはボリューム画像の場合にはボクセルと呼ばれ、二次元(2D)画像の場合には画素と呼ばれる。本明細書では説明のために、ボクセルおよび画素という用語は、概ね同等であるとみなすことができ、数値の範囲をとることが可能な、画像の基本データを表す。ボクセルおよび画素は、空間的位置および画像データのコード値の両方の属性を有する。
【0028】
「パターン化光」は、所定の空間パターンを有する光を指すのに使用され、パターン化光は、1つまたは複数の識別可能な平行線、曲線、格子、もしくは市松模様パターンなどの1つまたは複数の形状、または照射されない領域によって隔てられた光の領域を有する他の形状を有するようになされる。本開示の文脈において、語句「パターン化光」および「構造化光」は、同等であるとみなされ、いずれも、輪郭画像データを得るために、患者の頭部に投影された光を特定するために使用される。
【0029】
本開示の文脈において、用語「観察者」、「オペレータ」および「ユーザ」は、同等であるとみなされ、観察中の歯科医、技師または他の人物を指し、これらの人物は、複数の構造化光画像の組み合わせから形成された輪郭画像をディスプレイモニタ上で観察および操作する。
【0030】
「観察者命令」、「オペレータ命令」、または「オペレータコマンド」は、観察者によって入力された明示的なコマンドから得ることが可能であるか、または、例えば、機器の設定を作成するなどのいくつかの他のユーザの行為に基づいて暗黙的に取得または導出されてもよい。例えば、ディスプレイモニタおよびキーボードを用いたインターフェースなどのオペレータインターフェース上で入力されたエントリに関して、用語「コマンド」および「命令」は、オペレータの入力を指すように同義的に使用することができる。
【0031】
本開示の文脈において、1本の投影された光線は、「一次元」パターンとみなされ、これは、この線が、ラインレーザから投影されたときなどには、幅がほぼ無視できるものであり、長さがその主な寸法であるためである。同時にまたは走査配置のいずれかで並んで投影された2本以上のこうした線は、二次元パターンをもたらす。例示的な実施形態において、光線は、直線、曲線、または三次元とすることができる。
【0032】
用語「3Dモデル」、「点群」、「3D表面」、および「メッシュ」は、本開示の文脈において同義的に使用することができる。高密度点群は、点群を形成するためのボリューム撮像技術分野の当業者にとってよく知られた技術を使用して形成され、表面形状に対応する最高点(vertex points)をこの点群から識別する方法に概して関連する。高密度点群は、したがって、1つまたは複数の反射率画像から再構成された輪郭データを使用して作成される。高密度点群情報は、歯および歯茎の表面についての高密度のポリゴンモデルの基礎としての役割を果たす。
【0033】
本開示によれば、語句「幾何プリミティブ」は、画像の各領域を示すために、オペレータが入力することができる基本的な2D幾何学形状を指す。限定ではなく例として、幾何プリミティブには、線、曲線、点、および他の開いた形状と同様に、オペレータが形成することができる閉じた形状、例えば、円、閉じた曲線、矩形、および正方形、多角形なども含むことができる。
【0034】
本開示の実施形態は、歯および顎の構造の視覚化のために複数のCBCT走査の必要性を排除する助けとなることができる例示的な方法および/または装置を提供する。例示的な方法および/または装置の実施形態を使用して、1つのCBCTボリュームを、例えば、歯科矯正治療の様々な段階での歯根位置を追跡する能力を有する光学口腔内走査と組み合わせることができる。これを達成するために、口腔内走査による露出部分、例えば、個々の歯冠が、CBCTボリュームからセグメンテーションされた個々の歯構造および歯根構造と整列することができるように、口腔内走査がセグメンテーションされる。
【0035】
図1は、構造化光パターン46を用いて投影および撮像するための撮像装置70を示す概略図である。撮像装置70は、本開示の一実施形態による画像取得のために手持ちカメラ24を使用する。制御論理プロセッサ80、またはカメラ24の一部でもよい他の種類のコンピュータが、構造化光を生成し撮像センサアレイ30の動作を制御する照明アレイ10の動作を制御する。歯22からなどの表面20からの画像データは、画像センサアレイ30から得られ、メモリ72に格納される。画像を取得するカメラ24構成要素と信号通信状態にある制御論理プロセッサ80が、受信した画像データを処理し、そのマッピングをメモリ72に格納する。結果として得られたメモリ72からの画像が、その後、任意選択でレンダリングされ、ディスプレイ74に表示される。メモリ72はまた、ディスプレイ74の画像内容を一時的に格納するための表示バッファを含んでもよい。
【0036】
表面の縞投影撮像では、線からなるパターンが照明アレイ10から物体の表面に向かって所与の角度から投影される。次いで、表面からの投影パターンは、輪郭線の外観に基づいて表面情報を分析するために、三角測量を利用して、別の角度から輪郭画像として見られる。新しい位置での追加の測定値を得るために投影パターンを空間的に漸増的にシフトする位相シフトが、縞投影撮像の一部として通常は適用され、表面の輪郭マッピングを完了して輪郭画像内の全体的な解像度を増加させるために使用される。
【0037】
図2の概略図は、一本の光線Lの例を用いて、手持ちカメラまたは他の携帯撮像装置を使用して表面輪郭情報を得るためにパターン化光がどのように使用されるかを示している。照明アレイ10が光のパターンを表面20上に向けるとマッピングが得られ、線L'からなる対応する画像が撮像センサアレイ30上に形成される。撮像センサアレイ30上の各画素32は、表面20による変調に従い、照明アレイ10上の対応する画素12にマッピングする。
図2に表されるように、画素位置のシフトは、表面20の輪郭についての有用な情報を生じる。
図2に示す基本パターンは、様々な照明源およびシーケンスを使用し、また1つまたは複数の異なる種類のセンサアレイ30を使用して、多くの方法で実装できることが理解されよう。照明アレイ10は、光変調に使用される多くの種類のアレイのうちのいずれかを利用することができ、例えば、テキサス州、ダラスのTexas Instruments製のDigital Light ProcessorまたはDLP装置を使用して提供されるアレイなどの液晶アレイまたはデジタルマイクロミラーアレイなどを利用することができる。この種類の空間光変調器は、照明経路で使用され、マッピングシーケンスに対して必要に応じて光パターンを変更する。
【0038】
図1および
図2に示された配置を複製する構造化光パターンを示す画像を複数回投影および取り込みすることによって、カメラ上の輪郭線からなる画像が、撮像された物体の多数の表面点の位置を同時に示す。このことは、物体の外面の一部または全部を光の面で「ペイント」するために光の面(および、通常は受光するカメラも)を横方向に動かしながら、多数のサンプル点を集めるプロセスを加速することを可能にする。
【0039】
図3は、複数の光線を有するパターンを使用した表面撮像を示す。線パターンの漸増シフトおよび他の技術は、各投影線に対応するセグメントを明確に識別することを困難にし得る、表面に沿った急激な遷移から生じ得る不正確さおよび混乱を補償するのに役立つ。
図3では、例えば、線分16が線分18と同じ照明線からのものであるのか、または隣接する線分19と同じ照明線からのものであるのかを判断することが困難となり得る。
【0040】
画像が取得されたときのカメラの瞬間的な位置および物体相対座標系内での光線の瞬間的な位置を知ることによって、コンピュータおよびソフトウェアは、三角測量法を使用して多数の照明された表面点の座標を計算することができる。光の面が最終的に物体の表面の一部または全部と交差するように動かされるにつれて、ますます多くの数の点の座標が蓄積される。この画像取得の結果として、最高点または頂点からなる点群を識別し、体積内の表面の範囲を表すために使用することができる。一例として、
図4は、
図3に示したようなパターン化照明の結果を使用して、米国、ニューヨーク州、ロチェスターのCarestream Heath,Inc.によって製造された構造化光撮像装置CS 3500 3Dカメラで生成された高密度点群50を示す。点群50は、歯表面および他の口腔内の表面上の、または、より一般的には実世界物体の表面上の、サンプル点の物理的位置をモデル化している。可変分解能を得ることが可能である。
図4の例は、例示的な100ミクロンの解像度を示す。点群内の点は、物体の三次元表面上の実際の測定された点を表す。
【0041】
表面構造は、隣接する頂点同士が線分によって接続されているポリゴンメッシュを形成することによって点群表現から近似することができる。ある頂点について、その隣接する頂点はユークリッド距離で当該頂点に最も近い頂点である。
【0042】
例として、
図5は、単純な三角メッシュの形態の3Dポリゴンメッシュモデル60を示す。三角メッシュは基本的メッシュ構造を形成し、この基本的メッシュ構造は、点群から生成されており、隣接する境界を共有する三角平面セグメントの形態で、3D物体をその3D物体の近似表面形状によって表すためのデジタルモデルとして使用することができる。三角メッシュまたはより複雑なメッシュ構造などのポリゴンメッシュモデルを形成するための方法/装置は、輪郭撮像技術分野の当業者には周知である。メッシュモデルのポリゴン単位および隣接するポリゴン同士間の関係を本開示の実施形態において使用して、歯の境界での特徴(例えば、曲率、最小曲率、エッジ、空間的関係など)を抽出することができる。
【0043】
口腔内撮像において、デジタルモデルからの画像内容の個々の構成要素をセグメンテーションすることは、歯科矯正治療ならびに歯冠、インプラント、および他の補綴装置の準備などを含む様々な処置の際に歯科医にとって価値のあることであり得る。歯茎から歯を、および歯同士を互いから、メッシュベースでセグメンテーションするための様々な方法が提案され実証されてきた。しかしながら、従来のセグメンテーション解決法の欠点として、かなりのレベルのオペレータスキルおよび高度な計算複雑性が要求されることが挙げられる。歯構成要素および他の歯列形状をセグメンテーションする問題に対する従来の手法は、多くの場合において期待外れの結果を生じてきた。本開示による例示的な方法および/または装置の実施形態は、ソースデジタルモデルの1種としてポリゴンメッシュデータを利用することができ、2つ以上の段階で動作することができるセグメンテーションを用いて、このような問題に対処し、2つ以上の段階とは、例えば、第一に、デジタルモデルの必要なセグメンテーションの少なくとも近い近似または粗い近似を提供することができる自動セグメンテーションアルゴリズム/手順を実行し、第二に、オペレータ対話(operator interactions)が、自動結果の中で観察されたエラーおよび矛盾を改善し、補正し、かつ/または除去することを可能にすることであり、これは、自動化されただけでは達成することが困難である非常に正確な結果をもたらすことができるが、オペレータの時間もしくはスキルレベルに対して、および/または必要なコンピューターリソースに対して大きな要求を課すことはない。例示的な方法および/または装置の実施形態におけるこのハイブリッド手法は、計算能力および画像処理能力をオペレータの知覚と組み合わせて、自動処理の結果を確認、補正、精緻化するのに役立つことができる。
【0044】
図6Aの論理流れ図は、本開示の一例示的な実施形態による、個々の形状または歯などの口腔内構成要素を口内から識別するための歯のメッシュセグメンテーションおよびデジタルモデルの生成のためのハイブリッドシーケンスを示す。画像取得ステップS100において、患者の歯列の複数の構造化光画像を取り込み、処理のために一組の輪郭画像を提供する。次いで、点群生成ステップS110では、この一組の輪郭画像を使用して患者の歯列の点群を生成する。ポリゴンメッシュ生成ステップS120では、点群結果から、隣接する点同士を接続することによってポリゴンメッシュを形成する。三角メッシュは、表面輪郭を近似するために容易に生成することができる一種のポリゴンメッシュを提供する。より複雑なポリゴンメッシュ形状を代替的に使用することも可能である。
【0045】
図6Aのシーケンスを進めると、上記ポリゴンメッシュを前提として、セグメンテーションステップS130を実行することができる。例えば、歯の輪郭画像の場合、セグメンテーションステップS130では、歯と歯茎組織とを区別すると同様に、1つの歯と別の歯とを区別することもできる。次いで、セグメンテーション結果を表示して、この最初の自動セグメンテーション処理の結果を示すことができる。自動セグメンテーションステップS130は、中間画像を提供することができる。したがって、自動ステップS130は、大部分のセグメンテーション処理を実行することができるが、オペレータによる結果の見直しおよび精緻化からさらに利点を得ることができる。その自動処理について、セグメンテーションステップS130では、前述のように、高速マーチングウォーターシェッドアルゴリズム(fast-marching watershed algorithms)、いわゆるスネークベースセグメンテーション、および撮像技術分野の当業者に知られている他の方法など、多数の既知のセグメンテーション技術のうちのいずれかを使用することができる。
【0046】
図6Aはまた、例えば、
図1に示した基本装置を使用して自動セグメンテーション処理の結果を精緻化するために、中間画像との観察者対話を可能にすることができる任意選択の繰り返しループを示す。オペレータ命令受付ステップS140を実行することができ、このステップの間に観察者は、表示された結果上で、シードポイント、シードライン、ブロックライン、境界形状、またはセグメンテーション結果の1つまたは複数のはっきりとした形状を識別する他のマークを示して、さらなるセグメンテーションの精緻化および処理を可能にする。観察者マークアップ命令は、セグメンテーションステップS130を少なくとも2度実行させ、この2度目では入力された観察者命令からの入力マークアップを使用する。自動処理または手動処理の様々な段階で別々のセグメンテーションアルゴリズムを適用できることが理解される。セグメンテーション処理の最終結果は、表示、格納、および、例えば、有線または無線ネットワークを通じてなどしてコンピュータ同士間で送信することができる。
【0047】
図6Aに示されるプロセスは、こうして、例えば歯茎組織からの歯のセグメンテーションなど、より容易に成し遂げることができる粗いセグメンテーション(例えば、第1のセグメンテーション)を自動セグメンテーションが実行することを可能にすることができる。したがって、例えば、歯および歯茎のパーティショニングは、自動化することができる。一実施形態では、歯と歯茎とのパーティショニングは、自動化された曲率ベースの方法を使用することができ、この方法は、メッシュ内の頂点の曲率を計算し、次いで、閾値アルゴリズムを使用して大きな負曲率を有するマージン頂点を識別する。あるいは、歯茎からの歯のセグメンテーションのためにカラーベースのセグメンテーションを使用することができる。この種の方法は、当該画像の各領域から平均色相値を得て、画像内容をパーティショニングする閾値を計算することができる。
【0048】
ハイブリッド歯セグメンテーションシステムのワークフローの例示的な実施形態が、
図6Bの論理流れ図に描かれている。制御論理プロセッサ80(
図1)は、ステップS120において説明され
図4および
図5に示したような歯列メッシュを受け取ると、自動セグメンテーションステップS202を開始する。このステップでは、完全自動歯セグメンテーションツールを呼び出して、歯領域と歯茎領域とを画成し(つまり境界を定め)、さらに個々の歯領域を画成する。完全自動歯セグメンテーションツールは、文献に掲載されているか、そうでなければ画像処理技術分野の当業者に周知である動的輪郭モデルなどの例示的なアルゴリズムを採用する。歯の画成は、個々にセグメンテーションされた歯を効果的に生じるが、これらの生成された歯は、セグメンテーションが不十分な口腔内構成要素を含み得る。次いで、第1の確認ステップS204では、セグメンテーションが不十分な口腔内構成要素を確認する。ステップS204において不正確または不完全なセグメンテーションを確認することは、セグメンテーション結果に学習済み人工知能アルゴリズムを適用することなどによって、計算的に、または、その後の観察者による目視検査など、観察者対話によってのいずれかで成し遂げることができる。例として、
図7Aは、セグメンテーションが不十分である、またはセグメンテーションに誤りがある歯302を示す。
図7Aに示すように、セグメンテーションされた歯の境界306は、実際の歯境界308と整列していない。
【0049】
図6Bのワークフロープロセスをさらに参照する。確認ステップS204が1つまたは複数のセグメンテーションが不十分な歯を計算的にまたは視覚的に識別すると、一次支援セグメンテーションステップS206が実行され、これも自動だがある程度のオペレータ調整を可能にするセグメンテーション手順を起動する。一次支援セグメンテーションステップS206は、セグメンテーションのためのアルゴリズムを適用し、このアルゴリズムは、パラメータ調整ステップS210において1つまたは複数のパラメータのオペレータ調整を可能にする。別の確認ステップS208が実行され、追加のセグメンテーション処理が必要かどうかを判定する。調整可能パラメータは、ステップS210において、計算的にまたはオペレータ命令によって明示的に変更することができる。この後の各図は、パラメータ調整のための例示的なオペレータインターフェースを示す。
【0050】
一次支援セグメンテーションステップS206で採用される例示的なアルゴリズムは、メッシュ最小曲率ベースのセグメンテーション方法など、周知の技術とすることができる。調整可能なパラメータは、曲率の閾値とすることができる。ステップS210でのパラメータ調整を利用して、セグメンテーションが不十分な歯の補正を行うことができる。
図7Bは歯312の画像を示しており、この画像は、
図7Aと比較して、実際の境界と良好に整列したセグメンテーションされた歯の境界316を示す。
【0051】
しかしながら、
図6Bに示す例示的なワークフローの実施形態から明らかであるように、ステップS206において実行される歯の画成が、なおもセグメンテーションが不十分な口腔内構成要素または形状を生成することがあるので、セグメンテーションプロセスの繰り返しは有用である。ステップS208において不十分なセグメンテーションを確認することは、セグメンテーション結果に人工知能アルゴリズムを適用することなどによって計算的に、またはユーザが行う目視検査によってより直接的に、成し遂げることができる。ステップS210で調整された調整可能パラメータに加えて、ハイブリッド歯セグメンテーションシステムは、任意選択で、ユーザが、歯領域上にシードラインなどの例示的な幾何プリミティブを追加し、歯同士の間または歯と歯茎との間にブロックラインを追加して、歯のセグメンテーションプロセスを補助することを可能にする。
図8Aは、メッシュ画像62に追加された、歯に印を付けるための例示的なシードライン406を示す。
図8Bは、メッシュ画像62に追加された、2つの歯の間の空間を示すための例示的なブロックライン408を示す。
【0052】
図6Bのシーケンスにおける3つの基本ステップ、ステップS206、ステップS208、およびステップS210は、ステップS202の完全自動セグメンテーションおよび確認ステップS204に続く例示的な一次セグメンテーションループ54を構成している。この例示的な一次セグメンテーションループ54は、ステップS204で識別されるような、自動化されたセグメンテーションステップS202の完全自動セグメンテーションからのセグメンテーションエラーを、補正することを意図している。例示的な一次セグメンテーションループ54は、必要に応じて、1回または複数回実行することができる。例示的な一次セグメンテーションループ54が好結果であれば、セグメンテーションを完了することができる。
【0053】
しかしながら、場合によっては、一次セグメンテーションループ54によって提供されるセグメンテーション処理を超える追加のセグメンテーション処理が必要となる。セグメンテーション処理は、とりわけ、不正咬合、不規則な歯の形状、走査によるアーチファクト、不明瞭な歯の輪郭、区別不可能な隙間などの様々な要因によって複雑になり得る。追加のセグメンテーションが必要な場合、例示的な二次セグメンテーションループ56を使用してより対話型のセグメンテーション手法を提供することができる。二次セグメンテーションループ56は、対話型セグメンテーションステップS212、別の確認ステップS214、およびオペレータマークアップステップS216を含むことができる。対話型セグメンテーションステップS212は、セグメンテーションプロセスを起動することができ、このセグメンテーションプロセスは、画像のうち他の領域からセグメンテーションされることになるある領域を示すためにオペレータと協働する。対話型セグメンテーションステップS212は、画像セグメンテーション技術分野の当業者に知られている「高速マーチング」法などの例示的なアルゴリズムによって実施される自動シーケンスを有することができる。ステップS212は、起動前または処理中にオペレータが入力したシードもしくはシードラインまたは他の種類の幾何プリミティブによる歯領域画像の数を要求することがある。特定の例示的な実施形態では、歯列メッシュが任意選択のオペレータ調整(例えば、二次セグメンテーションループ56またはステップ212などの後続の動作)のためにシステムに入力されると、ステップS100、S110、およびS120においてシードラインまたは他の形状を自動的に生成することができる。さらに、これらの形状、シード、またはシードラインは、ユーザによるオペレータマークアップステップS216においてセグメンテーションプロセスへ追加することができる。ステップS212の結果は、ステップS216においてユーザによる検査を受ける。次いで、ハイブリッド自動/対話型セグメンテーション処理の結果を、表示ステップS220で表示すると同様に、格納したり別のコンピュータに送信したりすることもできる。
【0054】
本開示のいくつかの例示的な方法/装置は、
図6Bのシーケンスの後に、ヒューマンマシンシナジーを伴う対話型セグメンテーションの利点をもたらすハイブリッド歯セグメンテーションを提供する。
【0055】
図9A~
図9Cは、本開示の特定の例示的な実施形態による、メッシュセグメンテーション処理を精緻化するための見直しおよびマークアップ命令の入力のためのシーケンスの一部のオペレータインターフェース画面52を示す。暫定的なメッシュセグメンテーション結果が、画面52の表示領域86に示される。セグメンテーションプロセスを調整するための多数の制御部90が利用可能であり、例えば、全体的な積極性についてのレベルまたはセグメンテーション処理アルゴリズムの他のパラメータもしくは特性を設定するための調整制御部84などが利用可能である。任意選択制御部88は、観察者が、適用対象である1つまたは複数のセグメンテーションアルゴリズムを指定することを可能にする。これは、所与のメッシュデジタルモデルについてセグメンテーションタスクを実行する際に、ある特定の種類のセグメンテーションアルゴリズムまたは別の種類のセグメンテーションアルゴリズムのいずれがより好結果であると思われるかを評価する機会をオペレータに与える。オペレータは、結果を原物と比較しパラメータを調整して、オペレータによるマークアップの有り無し両方で、連続的セグメンテーション試行の結果を見ることができる。
【0056】
図9Aはまた、
図8Aに関して前に示したように、セグメンテーション処理を補正または精緻化するためのオペレータシードライン命令として入力されたトレースパターン96を示す。本開示の一実施形態によれば、トレースパターン96または他の任意の印/幾何学的形状の形態のオペレータマークを使用して、セグメンテーションのための特定の形状、例えば、従来のセグメンテーションルーチンでは処理が困難な場合がある臼歯または他の歯の形状などを示すシードポイントを提供することができる。次いで、シードマークは、前述のように、高速マーチングアルゴリズムまたは他の種類のアルゴリズムへの入力として使用することができる。場合によっては、例えば、隣接する歯同士が互いに対して正確にセグメンテーションされていないことがあり、オペレータマークアップは、標準的セグメンテーションロジックがうまく働かないセグメンテーション処理について有用な誘導を提供することができる。
図9Aが示すように、オペレータは、入力したマークアップを消去するかまたはセグメンテーションプロセッサへ提供することを可能にする制御部90を、利用可能にすることができる。
図9Bが示すように、カラーまたは濃淡を使用して、セグメンテーションによって識別された様々な歯または他の構造体を区別することができる。追加の制御部90を使用して、例えば、個々の歯などの個々のセグメンテーションされた要素を表示することもできる。
図9Cで強調表示しているように、いくつかの例示的な実施形態では、個々の制御部90を個別にまたは組み合わせて使用することができる。
【0057】
一実施形態において、個々の歯の互いからのセグメンテーションは、曲率閾値を使用してマージン頂点および境界頂点を計算し、次いで、様々な成長法を使用してマージン検出に関する各歯の範囲を定義することができる。
【0058】
いくつかの例示的な実施形態では、制御部90は、シードまたは境界形状の入力/調整、選択されたセグメンテーション手順の入力/調整、セグメンテーションする物体の数の入力/調整、選択された物体の小分け、セグメンテーションされた物体表示の修正などを含むことができるが、これらに限定されない。
【0059】
図10の論理流れ図は、本願による歯列3Dメッシュからのブラケット除去のためのワークフローの例示的な実施形態を示す。
図10に示すように、ステップ1002で仮想またはデジタル3D歯列メッシュモデルを得る。例えば、口腔内スキャナを使用することによってデジタル3D歯列メッシュモデルを得ることができる。
図11は、ステップ1002で取得することができる例示的な3D歯列メッシュを示す図である。
図11に示すように、3D歯列メッシュ1100は、ブラケット1102、歯肉1104、および歯1106を含むことができる。好ましくは、
図10の例示的なワークフロープロセスの結果は、3D歯列メッシュ1100からの歯1106および歯肉1104を含むが、ブラケット1102および正確に再構成されたブラケット1102によって前もって覆われる歯表面を含まない3D歯列メッシュとなる。
【0060】
図10に示すように、ステップ1004および1006は、得られた歯列3Dメッシュのための歯セグメンテーション方法/システムを構成している。本明細書において説明されるように、一実施形態では、ステップ1004および1006は、
図6Aに示した歯のメッシュセグメンテーションのためのハイブリッドシーケンスと同様のステップによって実施することができる。あるいは、別の実施形態では、ステップ1004および1006は、
図6Bに示したハイブリッド歯セグメンテーション方法/システムと同様のステップによって実施することができる。
【0061】
図10のワークフローを進めると、ステップ1008でブラケット1102が3D歯列メッシュ1100(例えば、歯の表面)から自動的に除去される。一例示的な実施形態では、ステップ1006の結果生じる分離された(またはセグメンテーションされた)歯は、以下に説明するブラケット除去および表面再構成を個別に受けることができる。
図12は、3D歯列メッシュ1100内に含まれる、例示的な結果として生じる分離された歯1202を示す図である。
【0062】
ステップ1008では、分離された歯1202の表面からブラケットを自動的に除去するために、それぞれ個別にセグメンテーションされた歯(または歯冠)を検査し、処理する。除去対象であるブラケット1302を有する例示的なセグメンテーションされた歯1202を、
図13Aに示す。一例示的な実施形態では、自動ブラケット除去アルゴリズムが、まず、ブラケット1302の境界を検出する。撮像技術分野の当業者に知られている様々な手法を使用して、3D歯列メッシュ1100のブラケット境界を検出することができる。一例示的な実施形態において、ブラケット境界の検出は、自動曲率ベースアルゴリズムを使用することができ、このアルゴリズムは、歯表面のメッシュ内の各頂点の曲率を計算し、次いで、閾値アルゴリズムを使用して大きな負曲率を有するマージン頂点を識別する。
図13Aに示すように、これらの識別されたマージン頂点は、ブラケット1302を囲む閉じた3D曲線またはブラケット境界1303(またはブラケットの境界頂点)を形成する。次いで、3D歯列メッシュ1100において、その閉じた3D境界内のメッシュ頂点が除去され、その結果、歯の表面に穴1304が生じる。
図13Bは、ブラケット1302が除去された状態の例示的なセグメンテーションされた歯1202を示す図である。
図13Bに示すように、ブラケット穴1304内には小さい白いパッチが存在することがあり、これらの白いパッチはブラケット1302自体に属するものではなく、元々存在したブラケットの背後にある別のアーチファクトの可能性がある。これらのアーチファクトは、ブラケット1302が自動ブラケット除去アルゴリズムによって3D歯列メッシュ100から除去された後に見えるようになることがある。
【0063】
ステップ1010では、ブラケットが除去されたセグメンテーションされた歯1202の歯表面が、自動的に再構成される。撮像技術分野の当業者に知られている様々な手法を使用して、3D歯列メッシュ1100の穴を充填することができる。自動的に再構成された歯表面1306を有する例示的なセグメンテーションされた歯1202を、
図13Cに示す。例示的な実施形態において、穴充填手順(例えば、歯または歯冠表面の再構成)は、穴を充填するための初期パッチを生成する第1のステップと、再構成されたメッシュを平滑化し、その内側により高品質のポリゴン(例えば、三角形)を得るための第2のステップとを含み得る。
【0064】
図13Dは、ブラケットを表すメッシュ部分が除去された後に3D歯冠メッシュ表面を形成する3D歯列メッシュ1100の一部を示す。閉じたポリゴン1303’は、(除去された)ブラケットの境界を表す。閉じたポリゴン1303’で囲まれた領域1308は、ブラケット除去によって残った穴である。まず、ステップ1010では、(例えば、閉じたポリゴン1303’内の)歯表面または穴1308を充填するように初期パッチが生成される。一実施形態では、この初期パッチは、例示的な所定のパターンで配置される複数の三角形1310を含み、例えば、閉じたポリゴン1303’内の頂点同士を接続することによって形成され
図13Eに示すパターンを形成する複数の三角形などを含む。次いで、ステップ1010において、初期パッチの三角形/ポリゴン1310をさらに修正または最適化することができる。三角形1310を修正または最適配置する一例示的な手順を
図13Fに示し、ここでは、4つの点A、B、C、およびDは、三角形1310では2つの三角形ABDおよびCDBを形成しており、これらの三角形は、改善された一組の三角形1310’では三角形ABCおよびCDAになるように再配置されている。改善された三角形配置は、長くて細い三角形を減少させるかまたは回避することができる。
【0065】
ステップ1010の第2の部分では、より良い品質を得るために、初期パッチを有する3Dメッシュを平滑化することができる。一実施形態において、ステップ1010の第2の部分では、局所情報を全体的に使用して、初期パッチ内に作成された点の位置を補正することができる。したがって、初期パッチ(例えば、穴1303’内の三角形1310、1310’)および、例えば、
図13Dの穴1308’を囲む(または近くにある)三角形1312などの周囲領域を含む3Dメッシュは、各メッシュ頂点の位置をそれに隣接する頂点の幾何学的中心に調整するラプラシアンスムージング法(Laplacian smoothing method)を使用して平滑化することができる。
【0066】
例えば、メッシュ平滑化の実施は、Wei Zhaoらによる「A robust hole-filling algorithm for triangular mesh」において、ポアソン方程式をディリクレ(Dirichlet)境界条件と共に使用してパッチ精緻化アルゴリズムを実装することができると記載されている。ポアソン方程式は、
Δf=div(h) f|
∂Ω=f
*|
∂Ω
と式化され、ここで、fは未知のスカラー関数であり、
【数1】
はラプラス演算子、hは指標ベクトル場(guidance vector field)、div(h)はhの発散、f
*は境界条件を提供する既知のスカラー関数である。Wei Zhaoの論文の離散三角メッシュの指標ベクトル場は、その領域が当該メッシュ表面上のすべての点の集合である区分的定数ベクトル関数(piecewise constant vector function)として定義される。定数ベクトルは三角形ごとに定義され、このベクトルは当該三角形と共面である。
【0067】
ステップ1012では、自動的に再構成された歯表面1306(
図13C参照)を有する例示的なセグメンテーションされた歯1202を表示することができる。一例示的なセグメンテーションされた歯1202について説明したが、ステップ1008、1010、および1012は、すべてのブラケットが3D歯列メッシュ1100から除去されるまで、繰り返し実行することができる。このようにして、追加のセグメンテーションされた歯の表面がそれぞれ補正された後に、結果として生じる補正後の3D歯列メッシュ1100をステップ1012で表示することができる。あるいは、結果として生じる補正済み3D歯列メッシュ1100をステップ1012で表示する前に、ステップ1008および1010を3D歯列メッシュ1100内の全部の歯に対して実行することができる。
図20は、結果として生じる例示的な補正済み3D歯列メッシュ全体を示す。
【0068】
特定の例示的な方法および/または装置の実施形態は、歯の表面を再構成するために代替的手順を使用することができる。例えば、一例示的な実施形態では、矯正具が取り付けられる前の歯列の口腔内走査に基づく3D歯列メッシュを、歯表面の再構成に使用することができる。他の例示的な実施形態では、患者の年齢、歯列弓サイズ、民族性、性別を多様化するために複数組の完全な口歯モデルから得た具体的な歯のモデルを、歯表面の再構成に使用することができる。別の例示的な実施形態では、患者から取られた、対応する「ミラー」歯を使用することができる。
【0069】
図14は、3D歯列メッシュ上のブラケットを除去する、本発明の別の例示的な実施形態のワークフローを示す図である。
図10に示すワークフローと
図14に示すワークフローとの主な違いは、
図14に示すワークフローでは歯のセグメンテーションが必要ないことである。ここでも、歯、ブラケット、および歯肉を含む3D歯列メッシュを、ステップ1402において受け取る。次いで、ステップ1404において、3D歯列メッシュ内のブラケットに関する命令をオペレータから受け取る。
【0070】
図15は、例示的なGUIインターフェースを表示する図であり、このインターフェースは、3D歯列メッシュ内のブラケットを識別するためにユーザが情報を入力することを可能にする。
図15に示すように、一例示的なGUIインターフェース1500は、「スネーク」操作のためにユーザによってノードが配置されることを可能にし、この操作は、入力されたノードに基づいて自動的にブラケット1502の境界を囲むものである。「スネーク」操作によって生成された例示的なブラケット境界1503を
図15に示す。この「スネーク」は、例えば、ノイズが多い可能性のある2D画像から物体の輪郭を画成することによる画像処理において自動物体セグメンテーションに頻繁に使用される動的形状モデルである。このスネーク動的形状モデルは、物体追跡、形状認識、セグメンテーション、エッジ検出、ステレオマッチングなどの用途で使用される。スネーク動的形状モデルまたは動的輪郭モデルは、撮像技術分野の当業者には既知である。
【0071】
図16は、ユーザが
図15の「実行」ボタン1504を押した後に3D歯列メッシュ内で境界1503が強調表示されることによって囲まれた頂点1602を示す。識別された頂点1602は、元の3D歯列メッシュから除去されることになる。一例示的な実施形態では、GUIシステム1500はユーザにこの中間結果1602を検査させることができ、ユーザは、満足した場合、「カット」ボタン1506を押す。次いで、頂点1602は、それらの頂点の強調表示(例えば、カラー、テクスチャなど)を、これらの頂点が元の3D歯列メッシュからの除去対象であることを示すように変更する。一例示的な実施形態では、ステップ1406におけるオペレータ命令に基づく歯表面からのブラケットの自動除去は、オペレータが「カット」ボタン1506を押すことによって実行することができる。
【0072】
次いで、ステップ1408で歯表面が充填または再構成される。一例示的な実施形態では、ステップ1408は、ユーザが、歯表面を再構成するために、
図15の「充填」ボタン1508を押すときに実行される。ステップ1408は、
図10に関して本明細書において説明したような既知のアルゴリズムを使用して実行することができる。次いで、その結果をステップ1410で検査のために表示することができる。
図17は、ブラケットが除去された後の再構成された歯の表面1702の例を示す。代替的に、ステップ1408の結果を格納する、または使用のためにネットワークを通じて遠隔コンピュータに送信することができる。
【0073】
ここでも、
図14において、これらの操作は、3D歯列メッシュに関して、複数の歯またはすべての歯に対して、歯ごとに、同時に一斉に実行することができる。
図18~
図20は、3D顎メッシュから同時に全てのブラケットを完全に除去することを示す図である。
図18は、歯、ブラケット、および歯肉を有する3D歯列メッシュ1800を示す図である。
図19は、除去対象の頂点1802が強調表示されている、「スネーク」カット操作の中間結果を示す図である。
図20は、すべてのブラケットが除去され、かつすべての充填操作が完了した後の最終的な再構成された歯表面1806のそれぞれを示す図である。
【0074】
「カット」ボタンを押す、「充填」ボタンを押す、および「実行」ボタンを押すなどの上述のユーザ動作は例示的であることに留意されたい。実際には、これらの動作は必要ではなく、コンピュータソフトウェアによって自動的に成し遂げることができる。
【0075】
場合によっては、口腔内スキャナによって生成された3D歯列モデルが、隣接する2つのブラケットをブリッジ接続するワイヤを含むことがある。この状況では、先述の実施形態はブラケットおよびワイヤの除去には不十分である。
図21Aは、別の例示的な歯列モデルを示す図である。
図21Aに示すように、歯列モデル2100は、ブラケット2102、歯肉2104、歯2106、およびブリッジ接続されたブラケットを含み、ブリッジ接続されたブラケットでは、ワイヤ2108が少なくともブラケット2110とブラケット2112とを接続している。一般的に、ワイヤ2108は全てのブラケット2102を接続することになる。
図21Bに示すように、ワイヤ2108は、本願の特定の例示的な方法および/または装置の実施形態に従って、自動的にまたは対話形式のいずれかで消去することができる。
【0076】
図23は、本願の一実施形態による、歯メッシュ表面からブリッジ接続されたブラケットを除去するための例示的なシーケンスを示す論理流れ図である。
図23に示されるように、ブリッジ接続されたブラケットを有する歯列モデルがステップ2302で得られ、その直後に「自動的にブリッジを切断する」ことを含むステップ2304が続く。ブリッジ(またはワイヤ)を自動的に切断するために使用することができる一例示的な検出実施形態を以下に説明する。
【0077】
歯列メッシュモデルにおいて頂点Vを仮定し、例示的な半径5mmで最近傍探索を実行して、一組の近隣頂点VNを得る。VNの各頂点の法線を確認する。Vの法線の反対方向を指す法線をもつ少なくとも1つの頂点がVN内にあることが判明した場合(例えば、これら2つの法線ベクトルのドット積が、<-0.9の場合)、Vはワイヤ(またはブリッジ)上の候補頂点である。この手順はメッシュ全体に適用され、複数の候補頂点が得られる。これらの候補頂点は、複数の接続された領域を計算するために使用される。これらの接続領域はそれぞれ、形状(例えば、ワイヤ)検出のために当業者によってよく使用される主成分分析のアルゴリズムを使用して分析される。ステップ2306による例示的なブリッジ(ワイヤ)検出結果2118を
図21Cに示す。ステップ2306で検出された(例えば、ワイヤ2108に関連付けられた)3D歯列メッシュのこれらの頂点は、後続のステップ2306~2308において3D歯列メッシュから除外または除去される。
【0078】
ステップ2306は、切断されたブラケットを除去するために例示的な自動的または対話式のいずれかの方法を採用する。ブラケット除去済み歯表面がステップ2308で自動的に再構成され、その結果がステップ2310で検査のために表示される。例えば、ステップ2306および2308はそれぞれ、
図10および
図14について上述したように実行することができる。
【0079】
図22では、ブリッジ接続されたブラケットの除去の実際の結果2204が示されている。
図22において表面が再構成された歯2210および歯2212は、ブラケットおよびワイヤ2108が除去される前の
図21Aのブラケット2110およびブラケット2112に対応している。
【0080】
図24は、ブリッジ接続されたブラケットの除去を扱う、別の例示的な方法の実施形態を示す論理フローチャートである。
図24に示されるように、ブリッジ接続されたブラケットを有する歯列モデルがステップ2402で取得され、その直後に「対話形式でこのブリッジを切断する」ステップ2404が続く。一例示的な実施形態では、対話型操作は、人間の支援を得て、細いワイヤを、ステップ2404においてこの細いワイヤに属するメッシュ頂点を選択し削除することによって効果的に消去する。一例示的な実施形態では、ステップ2404は、選択可能なオペレータ動作を有するGUIを使用して、「クリア」、「ペイント」(例えば、オペレータがワイヤを示す画素を識別する)、「自動ペイント」、「承認」(例えば、ペイントまたはオートペイントを)、および「クリア」して、オペレータ命令に基づいて対話形式でブリッジを切断するか、または3D歯列メッシュからワイヤを除去することができる。次いで、ステップ2406では、切断されたブラケットを除去するために自動的または対話式のいずれかの方法を採用する。ブラケット除去済み歯表面は、前述のようにステップ2408で自動的に再構成することができる。次いで、その結果がステップ2410で検査のために表示される。
【0081】
本明細書において説明されるように、3D歯列モデルにおいてブリッジ接続されたブラケットを除去し、歯表面を復元するための例示的な方法および/または装置の実施形態は、例示的な例であり、本願はそのように限定されることはない。例えば、一例示的な実施形態では、得られた3D歯列モデルにおいてブラケットおよび/またはワイヤの一部を人間の介入なく自動的に識別することによってブリッジ接続されたブラケットを除去することができ、歯表面が復元されるが、これは、識別された当該一部をブラケットおよび/またはワイヤを完全に覆っている領域内へ(また、例えば、好ましくは、ブラケットおよび/またはワイヤの境界をわずかに超えて)成長させ、3D歯列モデルの表面から当該領域を除去し、穴充填技術を使用して除去された領域表面を復元することによってなされる。いくつかの例示的な実施形態では、穴充填は、歯肉の一部を充填することができる。
【0082】
本開示は、一実施形態と整合的に、格納された命令を有するコンピュータプログラムを使用することができ、この命令は、画像取得のための、および格納され電子メモリからアクセスされる画像データの画像データ処理のためのシステム機能を制御する。画像処理技術分野の当業者には理解することができるように、本発明の実施形態のコンピュータプログラムは、画像プロセッサとして機能するパソコンまたはワークステーションなどの適切な汎用コンピュータシステムによって、本明細書に記載されるように、当該プロセッサがデータを取得、処理、送信、格納、および表示するように適切なソフトウェアプログラムを備える場合に、利用されることができる。ネットワーク化されたプロセッサ配置などを含む、他の多くの種類のコンピュータシステムアーキテクチャを使用して、本発明のコンピュータプログラムを実行することができる。
【0083】
本発明の方法を実施するためのコンピュータプログラムは、コンピュータ可読記憶媒体に格納されてもよい。この媒体は、例えば、ハードドライブもしくは取り外し可能なデバイスもしくは磁気テープなどの磁気ディスクなどの磁気記憶媒体、光ディスク、光テープ、もしくは機械可読光コード化などの光記憶媒体、ランダムアクセスメモリ(RAM)、もしくは読み出し専用メモリ(ROM)などのソリッドステート電子記憶デバイス、またはコンピュータプログラムを格納するために採用された任意の他の物理的デバイスもしくは媒体を含み得る。本発明の方法を実施するためのコンピュータプログラムはまた、インターネットもしくは他のネットワークまたは通信媒体によって画像プロセッサに接続されたコンピュータ可読記憶媒体に格納されてもよい。このようなコンピュータプログラム製品の同等物をハードウェアに構築してもよいことが、画像データ処理技術分野の当業者にはさらに容易に認識されるであろう。
【0084】
用語「メモリ」は、本開示の文脈では、「コンピュータアクセス可能メモリ」と同等であり、画像データを格納し、画像データに操作を施すために使用され、データベースを含むコンピュータシステムにアクセス可能である、任意の種類の一時的またはより永続的なデータ格納ワークスペースを指すことができることに留意するべきである。メモリは、例えば、磁気記憶装置または光学記憶装置などの長期記憶媒体を使用する不揮発性のものであってもよい。あるいは、メモリは、マイクロプロセッサまたは他の制御論理プロセッサデバイスによって一時バッファまたはワークスペースとして使用されるランダムアクセスメモリ(RAM)などの電子回路を使用した、より揮発性な性質のものであってもよい。表示データは、例えば、通常、表示装置に直接的に付随する一時記憶バッファに格納され、データを表示するために、必要に応じて、定期的にリフレッシュされる。この一時記憶バッファは、本開示で使用されているように、メモリであるとみなすこともできる。メモリは、処理を実行して計算および他の処理の中間および最終結果を格納するためのデータワークスペースとしても使用される。コンピュータアクセス可能メモリは、揮発性、不揮発性または揮発性タイプと不揮発性タイプとを組み合わせたハイブリッドとすることができる。
【0085】
本開示のコンピュータプログラム製品がよく知られた様々な画像操作アルゴリズムおよびプロセスを利用できることが理解されよう。本発明のコンピュータプログラム製品の実施形態が、本明細書に具体的には示さないまたは記載しない、実装に有用なアルゴリズムおよびプロセスを組み入れることができることがさらに理解されよう。このようなアルゴリズムおよびプロセスは、画像処理技術分野の通常の技術の範囲内の従来の有用物を含み得る。このようなアルゴリズムおよびシステムの追加の態様、並びに画像を生成するかでなければ処理するための、もしくは本発明のコンピュータプログラム製品と協働するためのハードウェアおよび/またはソフトウェアは、本明細書では具体的には示さずまたは記載せず、当技術分野において既知のそのようなアルゴリズム、システム、ハードウェア、コンポーネントおよび要素から選択してよい。
【0086】
本書において、用語「1つ(aまたはan)」は、特許文献で一般的であるように、他の事例または「少なくとも1つ」もしくは「1つまたは複数の」の用法とは無関係に、1つまたは1つ以上を含むように用いられる。本書において、用語「または」は、別段の指示がない限り、非排他性を指すように、または、「AまたはB」が「AであるがBではない」、「BであるがAではない」、および「AおよびB」を含むように用いられる。本書において、用語「含む(including)」および「そこで(in which)」はそれぞれ、用語「備える(comprising)」および「そこで(wherein)」の平易な英語の同義語として用いられる。また、以下の特許請求の範囲において、用語「含む(including)」および「備える(comprising)」は、非制限的であり、すなわち、特許請求の範囲においてこのような用語の後に列挙されるものに加えて、要素を含むシステム、装置、物品、またはプロセスが、依然として当該特許請求の範囲内に含まれるとみなされる。
【0087】
本願による例示的な実施形態は、本明細書に記載した様々な特徴を(単独でまたは組み合わせて)含み得る。
【0088】
本発明を、1つまたは複数の実装に関して例示してきたが、添付の特許請求の範囲の趣旨および範囲から逸脱せずに、例示した例に対して変更および/または修正を行うことができる。したがって、今回開示された実施形態はすべての点で例示的であって制限的ではないとみなされる。さらに、本発明の特定の特徴を、いくつかの実装のうちの1つについて開示したが、このような特徴は、任意の所与のまたは特定の機能について所望され好都合となり得るように、他の実装のうちの1つまたは複数の他の特徴と組み合わせることができる。用語「少なくとも1つの」は、選択できる列挙された項目のうちの1つまたは複数を意味するために用いられる。用語「約」は、変更が、例示された実施形態のプロセスまたは構造との不適合にならない限り、列挙された値が幾分変更されてもよいことを示す。本発明の他の実施形態は、本明細書および本明細書に開示された本発明の実施を考慮することから当業者に明らかになるであろう。本明細書および実施例は例示としてのみみなされることが意図され、本発明の真の範囲および趣旨は、以下の特許請求の範囲により示され、その均等物の意味および範囲に入る全ての変更は特許請求の範囲内に包含されることが意図される。