(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-05-11
(54)【発明の名称】複数の解剖学的領域についての歯科シェードマッチング
(51)【国際特許分類】
A61B 1/24 20060101AFI20220428BHJP
G06T 7/00 20170101ALI20220428BHJP
A61B 1/045 20060101ALI20220428BHJP
A61C 13/08 20060101ALI20220428BHJP
A61C 19/04 20060101ALI20220428BHJP
【FI】
A61B1/24
G06T7/00 612
A61B1/045 641
A61C13/08 Z
A61C19/04 Z
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2021554602
(86)(22)【出願日】2020-03-10
(85)【翻訳文提出日】2021-11-10
(86)【国際出願番号】 US2020021804
(87)【国際公開番号】W WO2020185733
(87)【国際公開日】2020-09-17
(32)【優先日】2019-03-10
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】521154774
【氏名又は名称】ケアストリーム デンタル エルエルシー
(74)【代理人】
【識別番号】110001210
【氏名又は名称】特許業務法人YKI国際特許事務所
(72)【発明者】
【氏名】グリネク ヤニック
(72)【発明者】
【氏名】ウォン ビクター シー
【テーマコード(参考)】
4C052
4C161
5L096
【Fターム(参考)】
4C052AA06
4C052NN02
4C052NN03
4C052NN04
4C052NN05
4C052NN15
4C161AA08
4C161CC06
4C161HH54
4C161WW02
4C161WW08
4C161WW13
4C161WW18
5L096AA02
5L096AA06
5L096AA09
5L096BA06
5L096BA18
5L096CA18
5L096DA01
5L096FA06
5L096FA15
5L096FA66
5L096FA69
5L096GA38
5L096GA40
5L096GA41
(57)【要約】
歯についてシェードマッチング方法が、複数のデジタル化された歯シェード基準を取得し、歯の3次元(3D)表面表現及び3次元(3D)表面に規定された関連する色情報を取得し、歯の3次元(3D)表面表現上の領域を選択し、全ての歯シェード基準の共通の歯形状との複数の対応を決定し、複数の歯シェード基準から歯シェード基準のそれぞれについての色差を計算し、最小差を有するシェード基準に対応するラベルを記録する。
【特許請求の範囲】
【請求項1】
歯についてのシェードマッチング方法であって、
(aa)複数のデジタル化された歯シェード基準を取得するステップであって、それぞれの歯シェード基準は、共通の歯形状に対応し、ラベルを有し、前記歯形状に色情報を含む、ステップと、
(a)歯の3D表面表現及び前記3D表面に規定された関連する色情報を取得するステップと、
(b)前記歯の前記3D表面表現上の領域を選択するステップと、
(c)全ての前記歯シェード基準の前記共通の歯形状との複数の対応を決定するステップであって、前記複数の対応は、前記歯の3D表面表現上の前記選択された領域と前記共通の歯形状との間の同じ解剖学的領域からの点を接続する、ステップと、
(d)前記複数の歯シェード基準から前記歯シェード基準のそれぞれについての色差を計算するステップであって、それぞれの色差は、前記歯シェード基準からの色情報を、前記歯の前記3D表面表現上の前記選択された領域からの前記関連する色情報と比較することによって計算され、前記色情報の比較は、前記複数の対応を用いる、ステップと、
(e)最小差を有する前記シェード基準に対応する前記ラベルを記録するステップと、
を備える、方法。
【請求項2】
(aa)複数のデジタル化された歯シェード基準を取得するステップが、(a)歯の3D表面表現及び前記3D表面に規定された関連する色情報を取得するステップの前又は後に操作される、請求項1に記載の方法。
【請求項3】
前記歯の3D表面表現及び前記3D表面に規定された関連する色情報を取得するステップが、口腔内スキャナを用いて実行される、請求項1に記載の方法。
【請求項4】
前記3D表面に規定された前記関連する色情報は、赤、緑、及び青の色データ値を含む、請求項1に記載の方法。
【請求項5】
前記3D表面に規定された前記関連する色情報は、CIELAB色データ値を含む、請求項1に記載の方法。
【請求項6】
前記3D表面に規定された前記関連する色情報は、可視波長を網羅する波長を有するスペクトルを含む、請求項1に記載の方法。
【請求項7】
(b)前記歯の前記3D表面表現上の領域を選択するステップは、区分化処理を備え、前記区分化処理は、手動、半自動、又は自動である、請求項1に記載の方法。
【請求項8】
複数の対応を決定するステップは、手動処理、自動処理、又は半自動処理であり、
前記手動処理は、ユーザがコンピュータマウス又はタッチスクリーンを用いて前記共通の歯形状の上の前記同じ解剖学的領域を決定及び選択するステップを備え、
前記自動処理は、
(a)前記歯の前記3D表面表現は、色及び形態上の操作を用いて歯肉から区分化されるステップ、及び/又は
(b)単射変換が、前記歯の前記3D表面表現上の前記選択された領域から前記共通の歯形状の上の前記領域にマッピングするために用いられるステップ、
を含む随意のステップを備え、前記変換は、前記歯の前記3D表面表現及び前記シェード基準の表面によって決定され、
前記半自動処理は、ユーザが、前記自動処理によって提供された前記領域の更なる調整を操作するステップを備え、前記調整は、前記自動処理によって提供された前記領域の位置、縮尺、又は向きへの更なる修正を施すステップを含む、請求項1に記載の方法。
【請求項9】
前記シェード基準のそれぞれは、シェードガイドからのシェードタブである、請求項1に記載の方法。
【請求項10】
前記色情報は、前記歯又は歯シェード基準の色ベクトルの空間分解された角度分布を備える、請求項1に記載の方法。
【請求項11】
前記色情報は、前記歯又は歯シェード基準の表面テクスチャ情報を備える、請求項1に記載の方法。
【請求項12】
前記角度分布は、前記歯表面上での入射照明方向、反射光方向、面法線、及び位置のうちの少なくとも1つを備える、請求項2に記載の方法。
【請求項13】
色ベクトルの基準角度分布及び関連するシェード情報は、歯科シェードタブの集合についての測定から取得される、請求項2に記載の方法。
【請求項14】
色ベクトルの角度分布は、双方向反射率分布関数(BRDF)値を備える、請求項2に記載の方法。
【請求項15】
色ベクトルの角度分布は、空間的に変動する双方向反射率分布関数(BRDF)値を含む、請求項2に記載の方法。
【請求項16】
色ベクトルの角度分布は、双方向散乱面反射率分布関数(BSSRDF)、又は双方向散乱分布関数(BSDF)値を含む、請求項2に記載の方法。
【請求項17】
前記3D表面表現は、点群、又は三角形メッシュ、又は表面スプラインを含む、請求項1に記載の方法。
【請求項18】
前記ラベルは、テキストラベル、又は色コード型ラベル、又は前記3D表面表現にわたる色変動の空間プロファイルである、請求項1に記載の方法。
【請求項19】
前記歯のシェード情報は、前記歯表面の上側、中部、又は下側3分の1のうちの少なくとも1つに対応する、請求項1に記載の方法。
【請求項20】
歯についてのシェードマッチング方法であって、
a)歯を選択して前記歯の頬側面上にグリッドを規定するステップと、
b)前記頬側面から共通の歯形状の上の表面へ前記グリッドのマッピングを規定するステップと、
c)請求項1~14に記載の方法に従って前記グリッドのそれぞれのセルについてシェードラベルを計算するステップと、
d)前記グリッドのセルについてのシェードラベルを記憶するステップと、
を備える、方法。
【請求項21】
口腔内撮像装置であって、
複数のデジタル化された歯シェード基準を取得する画像キャプチャ装置であって、それぞれの歯シェード基準は、共通の歯形状に対応し、ラベルを有し、前記歯形状の上に色情報を含む、画像キャプチャ装置と、
歯の3D表面表現及び前記3D表面に規定された関連する色情報を取得する別の画像キャプチャ装置と、
処理論理命令によってプログラミングされるプロセッサと、
を備え、前記処理論理命令とは、
(a)前記歯の前記3D表面表現上の領域を選択するステップと、
(b)全ての前記歯シェード基準の前記共通の歯形状との複数の対応を決定するステップであって、前記複数の対応は、前記歯の前記3D表面表現上の前記選択された領域と前記共通の歯形状との間の同じ解剖学的領域からの点を接続する、ステップと、
(c)前記複数の歯シェード基準から前記歯シェード基準のそれぞれについての色差を計算するステップであって、それぞれの色差は、前記歯シェード基準からの色情報を、前記歯の前記3D表面表現上の前記選択された領域からの前記関連する色情報と比較することによって計算され、前記色情報の比較は、前記複数の対応を用いる、ステップと、
(d)最小差を有する前記シェード基準に対応する前記ラベルを記録するステップと、
である、口腔内撮像装置。
【請求項22】
口腔内撮像装置であって、
複数のデジタル化された歯シェード基準を取得する画像キャプチャ装置であって、それぞれの歯シェード基準は、共通の歯形状に対応し、ラベルを有し、前記歯形状に色情報を含み、前記画像キャプチャ装置は、歯の3D表面表現及び前記3D表面上に規定された関連する色情報を取得する、画像キャプチャ装置と、
処理論理命令によってプログラミングされるプロセッサと、
を備え、前記処理論理命令とは、
(a)前記歯の前記3D表面表現上の領域を選択するステップと、
(b)全ての前記歯シェード基準の前記共通の歯形状との複数の対応を決定するステップであって、前記複数の対応は、前記歯の前記3D表面表現上の選択された領域と前記共通の歯形状との間の同じ解剖学的領域からの点を接続する、ステップと、
(c)前記複数の歯シェード基準から前記歯シェード基準のそれぞれについて色差を計算するステップであって、それぞれの色差は、前記歯シェード基準からの色情報を、前記歯の前記3D表面表現上の前記選択された領域からの前記関連する色情報と比較することによって計算され、前記色情報の比較は、前記複数の対応を用いる、ステップと、
(d)最小差を有する前記シェード基準に対応する前記ラベルを記録するステップと、
である、口腔内撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、概して、3次元(3D)歯科口腔内走査における方法及び装置に関し、より具体的には、3次元(3D)歯科口腔内走査における複数の解剖学的領域についてのシェードマッチング方法及び装置に関する。
【背景技術】
【0002】
歯の色シェードを正確にモデル化することは、修復歯科における患者の外観及び満足感について特に評価される。従来の実施において、歯科技工士又は従事者は、シェードタブの集合を用いて手動で歯の色及び全体的な外観を推定する。歯の色についてのシェードタブが、しばしば、修復材料の供給元によって提供され、そして、充填物、歯冠、インプラント、ブリッジ、又は別の修復特徴に対して入手可能である利用可能な色合い又は色範囲を表す。しかし、品揃え豊富な歯科シェードタブの集合を用いてさえ、色のシェード決定は、実行が困難で、人為ミスを被ることがある。歯科シェード決定の全体的な精度は、しばしば、従事者の関連する経験及び美的感覚に依存する。
【0003】
近年において、シェード値マッチングに用いられるデジタル形式のシェードタブが作成されてきた。デジタル形式のシェードタブは、歯シェードを決定する処理を自動化する様々な手法において、患者の歯のデジタルモデルと共に用いられてきた。また、SpectroShade Micro II及びVITA Easyshade分光光度計を含む分光光度計が、歯科シェード値測定値を取得するために利用可能になった。SpectroShade Micro II分光光度計等のいくつかのデバイスを用いて、シェード情報が、2次元(2D)画像に基づいて取られて、解析される。VITA Easyshade分光光度計等の別のデバイスを用いて、シェード情報は、歯の上のデバイスの位置によって画定された領域内で取られる。
【0004】
3次元(3D)歯科スキャナ等の別のデバイスが、歯科シェードを測定する能力によって利用可能になった。これらのデバイスが用いられるとき、デバイスが狙っている患者の歯表面上の領域とデジタル化されたシェード情報との間の比較ステップが、コンピュータソフトウェアによって実行される。デジタル化されたシェード情報は、VITAシェードガイド等のシェードタブから取られてもよい。シェードタブは、通常、歯表面にわたって変化する色プロファイルを有することにより、象牙質とエナメル質の領域の間の自然な色のグラデーションを表す。一般に、1つのシェード値が、象牙質の色を表す中央領域等のシェードタブの特定領域によって表されてもよい。その例として、Vita Classicalシェードタブについて、所望の位置が、通常、
図9の例に示すような「X」印115付近にあれば、それは、異なるシェード値の領域を有するシェードタブを表す。
図9の「X」印115付近においては、シェード値が、このA2シェードタブに対してA2として正しく識別される。しかし、この「X」印から更に遠く離れると、エナメル質は、より少ない有色顔料を含み、それでシェードタブD2における「X」印により類似するように見えるので、シェードはD2として検出されてもよい。この例では、1つのシェード値がシェードタブの特定領域だけよって表され、そしてシェードタブが一様ではないので、異なる領域についてのシェード値は同一でなくなる。これが、D2シェードタブについて「X」印付近のシェード外観を見て、異なる場所であるエナメル質にそれを適用しなければならない技術者にとっての混乱の原因である。このように、検出する装置及び方法は、例えば、このA2シェードタブについて、全ての異なる領域が、A2として検出されることが必要である。これは、「単にA2シェードタブの色グラデーションを再現する必要がある」という明瞭な命令を技術者に与えるであろう。
【0005】
図14は、象牙質からエナメル質に向かうシェード変動を有する1つのシェードタブにおけるシェード分布を表す概略図である。中間部分/歯頚部/歯肉部分の近心/遠心/中央部分が、通常、異なる外観を有するので、経験豊かな歯科医は、患者の歯とシェードタブとの間の対応する解剖学的領域を測定することがある。
【0006】
図10A及び10Bは、患者の歯の領域とシェードタブとの間の様々な解剖学的マッピングを表す概略図である。
図10Aに示すように、患者の歯の近心切端部は、上記説明のように、A2シェードタブからデジタル化されたシェード情報の中央領域と比較される。
図10Bは、歯と、均等な解剖学的領域と比較するシェードタブとの間の別の対応を表し、これは、対応を規定するより自然な方法である。
【0007】
そのため、歯の解剖学的領域について、歯のデジタル3次元表現とシェードタブとの間の対応を考慮する歯シェードマッチング方法及び装置に対する、産業における必要性が存在し、本方法及び装置についてのこの及び別の問題、難点、欠陥、及び短所を解決する。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】米国特許第9295532号明細書
【特許文献2】米国特許第9349182号明細書
【非特許文献】
【0009】
【非特許文献1】ルス(Rusu,R.B.)「人間の生活環境における日常操作のための意味論的3Dオブジェクトマップ(Semantic 3D Object Maps for Everyday Manipulation in Human Living Environments)」、人工知能、ドイツ計算機科学学会、2009年8月17日、pp.57-61
【非特許文献2】モンテス(R.Montes)及びウレナ(C.Urena)、「BRDFモデルの概観(An Overview of BRDF Models)、テクニカルレポートLSI-2012-001、グラナダ大学、2012年
【非特許文献3】ランゴヴォイ(M.Langovoy)、「BRDFデータの可視化、解釈及び解析のための新規な測定法(Novel metric for analysis,interpretation and visualization of BRDF data)」、空間アルゴリズム及びシステム会議(Transaction on Spatial Algorithms and Systems)、2014年
【発明の概要】
【課題を解決するための手段】
【0010】
本発明は、歯の解剖学的領域について、歯のデジタル3次元表現とシェードタブとの間の対応を考慮する歯シェードマッチング方法及び装置を備える。本発明の一例示的実施形態の1つの態様によると、歯についてのシェードマッチング方法が、複数のデジタル化された歯シェード基準を取得するステップであって、それぞれの歯シェード基準は、共通の歯形状に対応し、ラベルを有し、歯形状にわたって規定された色情報を含む、ステップと、歯の3次元表面表現及び3次元表面に規定された関連する色情報を取得するステップと、歯の3次元表面表現上の領域を選択するステップと、全ての歯シェード基準の共通の歯形状との複数の対応を決定するステップであって、複数の対応は、歯の3次元表面表現上の選択された領域と共通の歯形状との間の同じ解剖学的領域からの点を接続する、ステップと、複数の歯シェード基準からの歯シェード基準のそれぞれについての色差を計算するステップであって、それぞれの色差が、歯シェード基準からの色情報を歯の3次元表面表現上の選択された領域からの関連する色情報と比較することによって計算され、色情報の比較は、複数の対応を用いる、ステップと、最小差を有するシェード基準に対応するラベルを記録するステップと、を備える。
【0011】
本発明の一例示的実施形態の別の態様によると、口腔内撮像装置が、複数のデジタル化された歯シェード基準を取得する画像キャプチャ装置であって、それぞれの歯シェード基準は、共通の歯形状に対応し、ラベルを有し、歯形状に色情報を含む、画像キャプチャ装置と、歯の3次元表面表現及び3次元表面に規定された関連する色情報を取得する別の画像キャプチャ装置と、処理論理命令によってプログラミングされるプロセッサと、を備え、該処理論理命令とは、歯の3次元表面表現上の領域を選択することと、全ての歯シェード基準の共通の歯形状との複数の対応を決定することであって、複数の対応は、歯の3次元表面表現上の選択された領域と共通の歯形状との間の同じ解剖学的領域からの点を接続する、ことと、複数の歯シェード基準からの歯シェード基準のそれぞれについての色差を計算することであって、それぞれの色差は、歯シェード基準からの色情報を歯の3次元表面表現上の選択された領域からの関連する色情報と比較することによって計算され、色情報の比較は、複数の対応を用いる、ことと、最小差を有するシェード基準に対応するラベルを記録することと、である。
【0012】
本発明の一例示的実施形態の更に別の態様によると、口腔内撮像装置は、複数のデジタル化された歯シェード基準を取得する画像キャプチャ装置であって、それぞれの歯シェード基準は、共通の歯形状に対応し、ラベルを有し、歯形状に色情報を含み、画像キャプチャ装置は、歯の3次元表面表現及び3次元表面に規定された関連する色情報を取得する、画像キャプチャ装置と、処理論理命令によってプログラミングされるプロセッサと、を備え、該処理論理命令は、歯の3次元表面表現上の領域を選択することと、全ての歯シェード基準の共通の歯形状との複数の対応を決定することであって、複数の対応は、歯の3次元表面表現上の選択された領域と共通の歯形状との間の同じ解剖学的領域からの点を接続する、ことと、複数の歯シェード基準からの歯シェード基準のそれぞれについての色差を計算することであって、それぞれの色差は、歯シェード基準からの色情報を歯の3次元表面表現上の選択された領域からの関連する色情報と比較することによって計算され、色情報の比較は、複数の対応を用いる、ことと、最小差を有するシェード基準に対応するラベルを記録することと、である。
【図面の簡単な説明】
【0013】
【
図1】本発明の一例示的実施形態に従うシェードマッチングのための撮像装置を表す概略図である。
【
図2】一様な光学輝度を有するランバート球を表す図である。
【
図3】歯に対して異なる位置にある口腔内撮像プローブを表す概略図である。
【
図4A】双方向反射率分布関数(BRDF)変数についての基本幾何構造を表す概略図である。
【
図4B】極角の定義、及び表面部分について測定された反射データが概略的に表される態様を表す概略図である。
【
図5】本発明の一例示的実施形態に従う、改善された色シェーディング識別及び表示のためにBRDFデータを取得及び使用するための方法についてのフローチャートである。
【
図6】
図5の方法において用いられるBRDFライブラリを形成するための方法についてのフローチャートである。
【
図7】対応するBRDFスナップショットとともにシェードタブの集合を表す線図である。
【
図8】同じ座標系内のBRDFグリッド、BRDFスナップショット、及び成長3次元表面輪郭を表す概略図である。
【
図9】BRDFによって規定された異なるシェード値の領域を有するシェードタブを表す概略図である。
【
図10A】様々な方策における患者の歯とシェードタブとの間の対応する解剖学的領域を表す概略図である。
【
図10B】様々な方策における患者の歯とシェードタブとの間の対応する解剖学的領域を表す概略図である。
【
図11】本発明の一例示的実施形態に従うシェードマッチング方法のフローチャートである。
【
図12】本発明の一例示的実施形態に従う複数の基準シェード分布についてのシェード距離を計算する方法についてのフローチャートである。
【
図13】本発明の一例示的実施形態に従う解剖学的マッピングを用いて走査されたシェード分布と基準シェード分布との間の距離を計算する方法のフローチャートである。
【
図14】象牙質からエナメル質に向かってシェード変動を有する1つのシェードタブにおけるシェード分布を表す概略図である。
【
図15】シェードガイドからの全てのシェードタブを表す概略図であって、該全てのシェードガイドは、異なるシェード分布を有するけれども共通の歯シェードを有し、そして同じ座標系内に表されてもよい。
【
図16】歯の上の3次元領域の様々な例を表す概略図である。
【
図17】本発明の一例示的実施形態に従うシェード分布の粗い空間分解能について示された解剖学的マッピングを表す概略図である。
【
図18】本発明の一例示的実施形態に従うシェード分布の細かい空間分解能について示された解剖学的マッピングを表す概略図である。
【
図19】本発明の一例示的実施形態に従う歯基準表面について規定された解剖学的座標系を表す概略図である。
【
図20】本発明の一例示的実施形態に従う
図19の歯基準表面から歯の上にマッピングされた解剖学的座標系を表す概略図である。
【
図21】シェードマッチング方法のフローチャートである。
【発明を実施するための形態】
【0014】
本発明の例示的実施形態についての以下の詳細な説明において、図面への参照がなされ、図面において、いくつかの図を通して同様の参照番号が同様の要素又はステップを識別する。本開示に関連して用いられる場合、用語「第1」、「第2」等は、必ずしもなんらかの順序的、連続的、又は優先的関係を示すわけではなく、別段の指定がない限り、単に、1つのステップ、要素、又は要素の集合を別のものからより明瞭に識別するために用いられる。
【0015】
本開示に関して、用語「通電可能な」とは、電力を受け取るときに、及び随意に権能付与的な信号を受け取るときに示された機能を実行するデバイス又は構成要素の集合に関連する。
【0016】
本開示に関して、用語「観察者」、「操作者」、及び「ユーザ」は、同等であると考えられ、そして、ディスプレイ上の歯科画像等の画像を観察して処理する観察実施者、技術者、又は別のヒトを指す。「操作者命令」又は「観察者命令」は、例えば、カメラ上のボタンをクリックすることはコンピュータマウスを用いることによって、又はタッチスクリーン若しくはキーボード入力によって、観察者によって入力される明示的なコマンドから取得される。
【0017】
本開示に関して、句「信号通信している」とは、2つ以上のデバイス及び/又は構成要素が、なんらかのタイプの信号経路にわたって進行する信号を介して互いに通信することができることを示す。信号通信は、有線又は無線であってもよい。信号は、通信、電力、データ、制御、又はエネルギ信号であってもよい。信号経路は、第1デバイス及び/又は構成要素と第2デバイス及び/又は構成要素との間の物理的、電気的、磁気的、電磁的、光学的、有線の、及び/又は無線の接続を含んでもよい。信号経路は、また、第1デバイス及び/又は構成要素と第2デバイス及び/又は構成要素との間に追加的な装置及び/又は構成要素を含んでもよい。
【0018】
本開示に関して、用語「集合」は、構成要素の集まり又は要素の集合についての概念が基礎数学において広く理解されているように、空でない集合を指す。用語「部分集合」又は「一部の部分集合」とは、別途明示されなければ、空でない真部分集合、すなわち、1つ又は複数の要素を有するより大きい集合の部分集合を指すために本明細書において用いられる。集合Sについて、部分集合は、完全集合Sから構成されてもよい。しかし、集合Sの「真部分集合」は、厳密には集合S内に含まれて、集合Sの少なくとも1つの要素を除外する。
【0019】
本開示に関して、「表面データ」は、点群、多角形メッシュ、又は別の表面表現若しくは画像の形式の表面輪郭特性評価を含んでもよい。表面データは、データ収集中に撮像システムによって能動的にアセンブルされた動的に成長する表面輪郭等の表面輪郭の図を含んでもよく、そして、表面輪郭を表す低分解能画像を含んでもよい。表面データは、その代替として、改良ステップの部分、追加のデータ取得若しくは計算の結果として生成されてもよい。高分解能表面データが、修復装置の精密設計のために技術者によって典型的に必要とされる。本発明の一例示的実施形態によると、表面データは、取得された3次元(3D)走査データから抽出された2次元(2D)表面情報を含んでもよい。
【0020】
口腔内スキャナ
図1は、本発明の一例示的実施形態に従う3次元(3D)走査のための撮像装置90を表す概略図である。カメラ16、典型的には、手持ち式デジタルカメラ、カラーデプスカメラ、手持ち式3次元スキャナ、又は口腔内3次元スキャナが、反射画像及び関連する深度情報を含む画像データの集合を取得するために患者14の口腔を通して走査される。カメラ16と信号通信している制御論理プロセッサ80は、カメラ16から画像データを取得し、反射画像を処理して色を関連する深度情報に割り当て、そして、色と関連する深度情報の成長表面輪郭上への配置を計算する。配置がうまく計算され得るならば、制御論理プロセッサ80が、更新された成長表面輪郭及びシェードラベル92を生成する。制御論理プロセッサ80は、典型的に点群として提供される成長表面を結合させ、そして、プロセッサ80と信号通信しているディスプレイ84上に、表面及びその結果として生じるシェードラベルを描画する。
【0021】
表面データ及び色割当て
図1の撮像装置90を参照すると、カメラ16は、反射画像及び関連する深度情報を含む画像データの集合を取得する。制御論理プロセッサ80が、画像データを処理して、表面輪郭に局所シェード指標を提供する。
【0022】
一例示的実施形態では、反射画像が結合されて色画像を形成してもよく、ここに、色チャネルの数は3以上である。色チャネルの数に一致する次元の色ベクトルが用いられて、結合された色画像内に色値を記憶してもよい。一例示的実施形態では、センサは、モノクロームであって、異なる中央波長の照明による複数の露光を必要とする。別の例示的実施形態では、色値はRGB色ベクトル内に記憶される。別の同等の3次元(3D)色空間が、代替的に用いられてもよい。例えば、色距離について、CIELAB3次元(3D)色空間を用いることが有利な場合があり、該色空間は、眼の感度に従って、知覚的に一様な色距離を提供するように設計されてきた。別の例示的実施形態では、4つ以上の中央波長を有する色チャネルのスペクトルが取得されたならば、対応する色値は、色ベクトル内に記憶される。
【0023】
一例示的実施形態では、関連する深度情報は、また、構造化照明を用いて反射画像を処理することによって取得され、該構造化照明は、本発明の譲受人に譲渡された、「3D Intraoral Measurements Using Optical Multiline Method」という名称の米国特許第9,295,532号及び「3D Intraoral Measurements Using Optical Multiline Method」という名称の米国特許第9,349,182号に記載されたようなものであり、その両方は、Milchに発行され、この参照によって全体として本明細書に組み込まれる。別の例示的実施形態では、関連する深度情報は、次の技術のいずれかを含むがこれに限定されないものを用いて取得されてもよく、該技術とは、投影パターンを用いる三角測量、共焦点幾何構造を用いる焦点からの深度、又は能動的若しくは受動的立体写真計測法である。
【0024】
実際には、反射画像及び関連する深度情報が、可能な限り高速に取得されることにより、画像データが生成させられるとき、カメラ露光のシーケンス中にスキャナ変位を最小化する。この処理に続いて、関連する深度情報は、距離画像とも呼ばれる、反射画像から画素位置に関係付けられ、そして、色が距離画像に割り当てられてもよい。距離画像からの画素データが、3次元点座標に変換されてもよい。
【0025】
シェードマッチング方法(先行技術)
近年、シェード情報が、一般に2次元(2D)テクスチャ画像に基づいて取られて解析される。
図21は、シェードマッチング方法についてのフローチャートである。
【0026】
ステップS2110において、テクスチャ画像が識別される。
【0027】
ステップS2120において、3次元(3D)表面からテクスチャ画像上へのマッピングが決定される。
【0028】
ステップS2130において、3次元(3D)表面上のそれぞれの三角形について、走査中に取得された関連する色情報を見出して、それに従ってテクスチャ画像上に対応する三角形を描く。
【0029】
ステップS2140において、3次元(3D)表面からテクスチャ座標へのマッピングは、それぞれの頂点についてメッシュ特性(u,v)テクスチャ座標内に保存される。
【0030】
3次元(3D)表面の頂点とテクスチャ座標との間の対応だけが記憶されるので、テクスチャ画像が保持されて、3次元(3D)表面又はシェード情報測定値を視覚化するためにアクセス可能でなければならない。
【0031】
複数の解剖学的領域についてのシェードマッチング
図11は、本発明の実施形態に従うシェードマッチング方法を表すフローチャートである。
【0032】
ステップS1110
ステップS1110において、3次元表面に規定された、歯の3次元表面表現及び関連する色情報が取得される。これが、3次元(3D)表面及び表面にわたる関連するシェード分布を提供する。シェード分布は、表面にわたって空間的に分解される。分解能は、用いられるシェードデータのタイプに依存する。本発明の一例示的実施形態によると、シェード分布は、テクスチャデータである、すなわち約50μmの分解能を有する画像である。テクスチャは、歯表面のいずれかの位置における色値を提供する空間分布である。本発明の別の例示的実施形態によると、シェード分布は、0.5mmから1mmまでの間の分解能を有するBRDFクラウドである。
【0033】
歯の個々の3次元(3D)表面表現を取得するためだけならば、Carestream Dental LLCからのCS3600モデル等の多くの市販の口腔内3次元スキャナが用いられてもよい。このステップにおいて、3次元(3D)表面表現の他に、3次元(3D)表面上に画定された関連する色情報が、同様に取得される必要がある。関連する色情報は、表面の3次元(3D)幾何構造データをキャプチャするための同じ走査操作中に、同じ口腔内スキャナによって測定されてもよい。確かに、色情報は、別個に取得又は入力されて、そして、再構成された3次元(3D)歯表面の位置に連結されてもよい。例えば、SpectroShade Micro II及びVITA Easyshade分光光度計等のいくつかの分光光度計を用いて歯表面の色情報を取得し、次いで、それらのシェード値を手動で入力するか、又はそれらを3次元(3D)表面の個々の位置に連結させる。本発明の一例示的実施形態によると、歯科シェード値と3次元(3D)表面との間の連結処理は、歯科シェード値と連結された歯表面の2次元(2D)画像を、対応する3次元(3D)表面にマッピングすることによって同様に自動的に実行されてもよい。
【0034】
スキャナによって取得された基本色を意味する色情報が、異なる手段又はフォーマットで表現又は記録されてもよい。典型的な手段のうちの1つは、RGB、CIELAB XYZ(国際照明委員会によって画定された)、又は可視スペクトルの形式の、3次元(3D)表面位置に対応する2次元(2D)画像から取得された色値を用いている。
【0035】
本発明の一例示的実施形態によると、歯の3D表面表現及び3次元(3D)表面上に規定された関連する色情報を取得することが、口腔内スキャナを用いて実行される。本発明の一例示的実施形態によると、3次元(3D)表面上に画定された関連する色情報は、赤、緑、青の色データ値を含む。本発明の一実施形態によると、3次元(3D)表面上に規定された関連する色情報は、CIELAB色データ値を含む。本発明の一例示的実施形態によると、3次元(3D)表面上に規定された関連する色情報は、可視波長を網羅する波長を有するスペクトルを含む。
【0036】
ステップS1120
ステップS1120において、歯の3次元(3D)表面表現上の領域が、選択される。これは、手動、半自動、又は自動であってもよい選択又は区分化タスクである。
図16は、歯の上の3次元(3D)領域についての様々な例を表す概略図である。
【0037】
手動処理について、ユーザによって操作された選択は、多角形又は円形によって画定された領域であってもよい。
【0038】
半自動選択について、ユーザは、最初に3次元(3D)歯表面上の複数点を選択し、次いで、計算アルゴリズムが、初期の多角形を歯の外形上に適合させることを支援することになる。これは、小さい曲率半径の領域に向かって外形を誘引することによって最初に達成される。外形のこの最適化は、歯科アプリケーションに用いられる限界線検出に類似した方策に追従する。本発明の一例示的実施形態によると、アルゴリズムは、ユーザクリックが制御点である経路追跡であり、それは、最小曲率半径の経路に追従する。正則化が適用されて輪郭が過剰に変形することを防止し、維持してもよい。制御点が、追加又は除去されてもよく、そして輪郭がそれに従って更新される。閉じた輪郭内の表面が、選択された領域になる。
【0039】
自動選択について、対象の歯を規定するための単一クリック等の最少のユーザ作用だけが必要である。制御点は、次いで、表面の曲率半径が既定の閾値に到達したとき、又は表面法線がスクリーン法線に対して既定の閾値を越えた角度をなすとき、自動的に半径方向に置かれてもよい。次いで、経路追従アルゴリズムは、閉じた輪郭を決定して、選択された領域を画定してもよい。本発明の一例示的実施形態によると、閉じた輪郭は、自動的に複数の3次元(3D)領域内にカットされてもよく、それは、閉じた輪郭内に含まれた表面の区画を生成する。複数の3次元(3D)領域は、頸部3分の1、中部3分の1、及びエナメル質3分の1であってもよい。本発明の別の例示的実施形態によると、複数の3次元(3D)領域は、歯表面上の3×3グリッドによって画定されてもよい。複数の3次元(3D)領域からのそれぞれの3次元(3D)領域が、次いで処理される。
【0040】
本発明の実施形態によると、歯の3次元(3D)表面表現上の領域を選択することは、区分化処理を含み、そして、区分化処理は、手動、半自動、又は自動であってもよい。
【0041】
ステップS1130
ステップS1130において、全ての歯シェード基準の共通の歯形状との複数の対応が決定される。複数の対応は、歯の3次元(3D)表面表現上の選択された領域と共通の歯形状との間の同じ解剖学的領域からの点を接続する。つまり、対応のそれぞれは、歯の3次元(3D)表面表現上の選択された領域から、シェード基準の共通の歯形状上の同じ解剖学的領域へのマッピングである。本発明の一例示的実施形態によると、シェード基準のそれぞれは、シェードガイドからのシェードタブであり、それで、全ての歯シェード基準は共通の歯形状を有しなければならない。
図15は、シェードガイドからの全てのシェードタブが共通の歯形状を有するけれども、異なるシェード分布を有し、そして同じ座標系内に表されてもよいことを示す概略図である。
【0042】
通常、デジタル化された歯シェード基準は、前もって、すなわち、患者の歯における走査操作の前に取得されてもよい。もちろん、デジタル化された歯シェード基準は、また、患者の歯における走査操作の後に実行されてもよい。本発明の一例示的実施形態によると、複数のデジタル化された歯シェード基準を取得することは、歯の3次元(3D)表面表現、及び3次元表面に規定された関連する色情報を取得するというステップS1110の前又は後に、操作される。
【0043】
それぞれの歯シェード基準、すなわちデジタル化されたシェードガイドからのそれぞれのシェードタブが、共通の歯形状に対応し、ラベルを有し、そして、歯形状にわたって規定された色情報を含む。典型的には、全てのシェードタブは、ヒトの切歯に似ている同じ形状を有し、それについての正しいシェード値が最も重要であり、その理由は、微笑むときにそれらが露わにされるからである。この共通の歯形状は、3次元(3D)歯科歯とシェード基準の共通の歯形状との間で複数の対応する解剖学的領域を決定するための方法を補助する。同じ解剖学的領域は、歯茎、頸部、中部、切端、近心、遠心、歯間、冠状、エナメル質、象牙質、歯髄、半透明部分、舌側、頬側、咬合面等の共通の歯科用語を用いて記述されてもよい。
【0044】
図17は、本発明の一例示的実施形態に従う、シェード分布の粗い空間分解能について示された解剖学的マッピングを表す概略図である。対応の密度は、3次元(3D)領域によって網羅された粗いシェード分布の領域の数にほぼ等しい。ユーザは、それらの対応を容易に描いてもよい。対応についての粗い数は、通常、1から20までの間の範囲であることになる。
【0045】
図18は、本発明の一実施形態に従うシェード分布の細かい空間分解能について示された解剖学的マッピングを表す概略図である。画素同士の間の対応は、数個の制御点だけによって規定された座標系から外挿されてもよい。この場合、アルゴリズムのユーザは、数個の制御点(十字によって表示されたような)を設置して、それぞれの表面上に類似の座標系を規定することになる。対応は、次いで、制御点同士の間での内挿を用いてそれらの座標系からサンプリングされることになる。
図18は、図示目的のための一系列の対応を単に表す。別の対応が、この系列を横に動かすことによって生成されて、制御点によって画定された3次元領域全体を網羅する。密な対応は、自動マッピングを必要とし、そして、通常、20超の対応を有する集合に対応することになる。対応の数は、10,000と同じ、又はそれよりも大きくてもよい。
【0046】
座標系が、また、シェード基準表面について規定され、歯表面上にマッピングされてもよい。
図19は、本発明の一例示的実施形態に従う、シェード基準表面について規定された例示的な解剖学的座標系を表す概略図である。
図20は、本発明の一例示的実施形態に従う、
図19に示す歯基準表面から歯の上にマッピングされた例示的な解剖学的座標系を表す概略図である。この例に用いられる射影変換は、
図19からの元の長方形を
図20の多角形に変形させる。射影変換は、2つの座標系の間のマッピングである。より一般的には、座標系同士の間のマッピングは、単射関数であり、該単射関数は、3次元(3D)座標をとり、そして、3次元(3D)領域内部の全ての所に対応する3次元(3D)座標を提供する。ときには、シェードタブの表面上の3次元(3D)点が、歯表面上の中身のない空間上にマッピングされることがあり、その理由は、幾何構造が正確に同じではないからである。この場合、それらの対応は、保持されない。
【0047】
本発明の一例示的実施形態によると、BRDFライブラリは、基準BRDF及びそれらの関連するシェードラベルの集まりを表す(BRDFライブラリの詳細が、別の節で紹介されることになる)。BRDFライブラリは、製造において直接記録されて、患者の歯の走査中に再利用されてもよい。BRDFライブラリは、また、好ましいシェードタブを用いて実践者によって生成させられてもよい。BRDFライブラリは、シェードラベルの集まりであり、それぞれのシェードラベルは、それの関連するシェード分布を有し、該シェード分布は、空間的に分解されたBRDF分布によって表される。2つのBRDF分布の間の距離、又は本書の別の節において更に詳細に説明される。
【0048】
本発明の一例示的実施形態によると、複数の対応を決定することは、手動処理、自動処理、又は半自動処理である。手動処理については、ユーザは、コンピュータマウス又はタッチスクリーンを用いて、共通の歯形状の上の同じ解剖学的領域を決定して選択する。自動処理については、いくつかの随意のステップが存在し、該ステップは、(a)歯の3次元(3D)表面表現が、色及び形態上の操作を用いて歯肉から区分化されるステップ、及び/又は(b)単射変換が、歯の3次元(3D)表面表現上の選択された領域から共通の歯形状の上の領域にマッピングするために用いられるステップを含む。変換は、歯の3次元(3D)表面表現及びシェード基準の表面によって決定され、そして、通常、全単射空間変換が適することになり、内挿が必要に応じて用いられてもよい。
【0049】
半自動処理については、ユーザが、自動処理によって提供された領域の更なる調整を操作し、そして、調整は、自動処理によって提供された領域の位置、縮尺、又は向きに更なる修正を施すことを含む。例えば、コンピュータマウスホイールのスクロールが、縮尺調整を提供してもよく、そして、コンピュータマウスクリック及び動作の組合せが、向き、位置、又は回転の変更を提供してもよい。本発明の一例示的実施形態によると、ユーザは、マウスを用いて、なんらかの透過を利用して又はスクリーン上のオーバーレイを利用してのいずれかで、全てのシェードタブに共通の表面を選択された3次元(3D)領域へと拡張することになる。透過又はオーバーレイは、ユーザが、拡張が満足なものになった時点を推定するのを補助するために存在する。又は、逆に、3次元(3D)歯表面から選択された3次元(3D)領域を、全てのシェードタブに共通の表面内に拡張する。対応は、次いで、それをサンプリングすることによって単射変換を用いて生成されてもよい。いくつかのサンプルが、歯表面上にない場合があり、それで対応として記録されない。本発明の一例示的実施形態によると、このステップにおいて決定された対応は、選択された3次元(3D)領域のデータ内に規定/記憶される。
【0050】
ステップS1140
複数の歯シェード基準からの歯シェード基準のそれぞれについての色差を計算するステップS1140において、それぞれの色差は、歯シェード基準からの色情報を、歯の3次元(3D)表面表現上の選択された領域からの関連する色情報と比較することによって計算され、ステップS1130から得られた複数の対応は、色情報についてのこの比較において用いられる。
【0051】
ステップS1140についてのより多くの詳細が、
図12を参照して更に説明される。
図12は、本発明の一例示的実施形態に従う複数の基準シェード分布についてシェード距離を計算する処理を表すフローチャートである。
【0052】
ステップS1210において、関連するラベルを有する歯シェード基準が選出される。基準歯表面にわたって、シェード分布が規定される。歯シェード基準は、シェードガイドからデジタル化されたシェードタブであり、典型的には、シェードガイド内の全てのシェードタブは、共通の歯形状を有し、それで、同じ基準歯表面が、一般性を失わずに用いられてもよい。ラベルは、典型的には、Vita Classic setについては「A1」、「B3」等であり、又は、Vita 3DMasterについては「2L1.5」、「3M1」等である。
【0053】
ステップS1220において、解剖学的マッピングに従って、走査されたシェード分布と対応する基準シェード分布との間の距離が計算される。ステップS1220の更なる詳細が
図13を参照して更に説明される。
【0054】
図13は、本発明の一例示的実施形態に従う解剖学的マッピングを用いて、走査されたシェード分布と基準シェード分布との間の距離を計算する処理を表すフローチャートである。
【0055】
ステップS1310において、対応及び関連する重みの群を有する解剖学的マッピングが記述される。3次元(3D)領域における対応の密度は、シェード分布の分解能と同等でなければならない。テクスチャについては、それは、典型的にはテクスチャ画像の1つの画素のサイズであることになる。BRDFについては、それは、表面にわたって規定された様々なBRDFを保持する構造のほぼ空間分解能である。重みは、一様であってもよく、または、解剖学的マッピングにおいて表現された領域に基づいて変化してもよい。重みの合計は、理想的には1に正規化されることにより、以下において平均を単純化する。
【0056】
ステップS1320において、それぞれの対応について、シェード色距離が計算される。色差は、好ましくはCIELAB色空間において表示され、それは、色変動についてのヒトの知覚に適合する距離を提供する。対応は、シェード分布が評価される2つの点を規定する。距離は、3次元(3D)歯表面からサンプリングされたシェード分布と歯シェード基準との間の差のノルムとして規定される。
【0057】
ステップS1330において、シェード色距離の加重平均が計算される。重みが正規化されているならば、それは単に加重和である。
【0058】
ステップS1340において、加重平均が返される。CIELAB空間が用いられたならば、返された距離は、DeltaE(ΔE)単位、すなわち色差についての視覚認知である。
【0059】
図12に戻って参照し、ステップS1220の後に続いて、ステップS1230において、距離が取得された最小のものであるならば、関連するラベルが記録される。
【0060】
ステップS1240において、集合の中に別のラベルが残っているか否かの決定がなされる。「はい」ならば、方法は、ステップS1210に戻り、「いいえ」ならば、方法は、ステップ1250、すなわち終了に進み、それは、ステップ1140における色差の計算が実行されたことを意味する。
【0061】
ステップS1150
ステップS1150において、最小差を有するシェード基準に対応するラベルが記録される。このステップまで、方法は、主に1つの選択された領域に集中する。これは、簡潔で明瞭な説明だけを目的とすることを理解すべきである。本発明の別の例示的実施形態によると、複数の領域が選択されてもよく、そして異なる領域についてのシェードラベルがそれに従って決定される。更に、グリッドが、歯の頬側面上に画定されてもよい。例えば、3×3グリッド又は1×3グリッドが歯科医によって考慮されてもよい。より高密度のグリッドが、必要に応じて用いられてもよい。したがって、本発明の別の例示的実施形態によると、歯についてのシェードマッチング方法は、(a)歯を選択して、歯の頬側面上にグリッドを画定することと、(b)グリッドのマッピングを頬側面から共通の歯形状の上の表面まで画定することと、(c)本発明において以前に導入された処理に従ってグリッドのそれぞれのセルについてのシェードラベルを計算することであって、それぞれのセルが、選択された3次元領域を画定する、ことと、(d)グリッドのセルについてのシェードラベルを記憶することと、を含む。
【0062】
色ベクトルの角度分布を用いるための刺激
テクスチャ特性評価は、歯の真の色シェーディングの正確なモデル化に及ばない。このことは、わずかに異なる照明を有する同じ歯又はシェードタブについての異なる図の対照比較において容易に判ることがある。
【0063】
それの欠点の1つとして、テクスチャ特性評価が、照明及び検出因子を本質的に考慮することができない。歯又は別の口腔内特徴についての正確な色シェード特性評価は、表面幾何構造及び歯に入射する照明の角度についての考慮を含む。形状に関連する影響を示すために、
図2は、一様なアルベド、つまり一様な光学輝度応答を有するランバート球を示し、この場合、入射対反射エネルギの比は一定である。しかし、外観上、輝度の強度プロファイルは、検出に対して面法線のコサインとして減少する。輝度が減少するとき、それに応じてキャプチャされる色テクスチャは変化する。しかし、色シェードは、走査されている物体の材料の特性であり、それの測定は、照明/観測幾何構造から独立しているはずである。
【0064】
本発明の例示的実施形態は、口腔内撮像装置の能力を利用することにより、口腔内撮像カメラ16から、
図3に示すように、異なる角度からの歯の同じ表面等の同じ特徴についての複数の反射画像を取得する。結合された角度照明及び異なる画像から抽出されたリフレクタンス情報は、次いで、それぞれの撮像された歯又は別の表面特徴の色シェードをより厳密に特徴付けるために用いられてもよい。
【0065】
色ベクトルの角度分布は、角度座標を対応する色ベクトルに関連付けるマッピングの特徴を表し、角度座標は、照明方向、観測方向及び面法線に依存し、色ベクトルは、RGB、CIELAB XYZ(国際照明委員会によって規定される)、又は可視スペクトル等の標準色空間における値を表す。本発明の一例示的実施形態によると、色ベクトルの角度分布は、BRDF(双方向反射率分布関数)構造又はBRDFスナップショットによって表されてもよい。
【0066】
本開示に関して、句「色ベクトルの空間分解された角度分布」は、空間変動を有する色ベクトルの角度分布を説明する。空間変動が用いられて、歯の表面にわたって歯の光学応答の変動をパラメータで表記する。色ベクトルの空間分解された角度分布は、空間座標を色ベクトルの対応する角度分布に関連付ける関数である。この関数が用いられて、表面データからの1つ又は複数の点の空間座標を色ベクトルの対応する角度分布と関連付ける。色ベクトルの空間分解された角度分布は、色ベクトルの対応する角度分布の連続した又は離散した変動に、空間座標の変動を提供してもよい。
【0067】
双方向反射率分布関数(BRDF)
双方向反射率分布関数(BRDF)は、様々な角度での照明及び観測の色シェードに及ぼす影響をより正確に特徴付ける方法を提供する。この関数の使用は、照明及び検出角度の寄与から生じる混乱を低減しながら、材料自体の色シェードを特徴付けてもよい。単色に関して、スキャナによる材料の表面特性評価のためのBRDFは、関連する変数の関数として次式のように表現される。
【数1】
Lが放射輝度、すなわち単位垂直面積あたりで単位立体角あたりのパワーであり、
下付き記号rが反射光に関連し、
下付き記号iが入射照明に関連し、
Eが放射照度、すなわち単位面積あたりのパワーであり、
ω
iが入射光方向であり、
ω
rが反射光方向であり、
nが所定の点における局所面法線である。
【0068】
BRDFは、逆ステラジアンsr
-1の単位で表現される。表面上の点についてBRDF変数を取得するための測定に関する基本的な幾何構造が、
図4Aに概略的に表されている。線hは、ω
iとω
rとの間の半分方向であり、続けて更に詳細に説明される。
【0069】
単色表面データについての包括的BRDFは、4次元、すなわち、入射及び反射光角度のそれぞれにつき2つ(方位及び天頂)を有する。口腔内撮像のための出願人のシステムについて、2つの制約条件、(i)固定照明及び検出角度が口腔内カメラ16の設計によって指示されること、及び(ii)表面点についてのBRDFデータが、法線周りの回転に対して不変であるとみなされること、が適用される。
【0070】
単色表面データについてのBRDFデータは、色表面データからのそれぞれの色チャネルを別個に考慮することによって、色表面データについてのBRDF色データに拡張されてもよい。一例示的実施形態では、色ベクトルの角度分布がBRDF色データとして表現され、ここに、BRDF色データが、一方における照明方向、反射方向、及び面法線と、他方における取得された色ベクトルとの間の対応を記録する。本発明の一例示的実施形態では、BRDFデータは、2次元RGB画像によって表現される。
【0071】
図4Bは、左側に角度幾何構造、右側に本開示でBRDF構造と呼ばれる図式形式のBRDF2次元「断面」の内容を表す。2次元(2D)構造は、4次元を有する一般的BRDFの区画についての公知の表現である。本開示に関して、出願人の口腔内撮像システムの固定照明/センサ対称性に起因して、BRDF構造は、色シェードに対応するBRDF情報を表す。
【0072】
図4Bの左側における角度の定義は、半方向hと面法線nとから取得される。天頂角θ及び方位角φは、半方向hに対する面法線nの極座標を提供する。原点及び角φの方向は、入力方向(ω
i,ω
r)に対して、任意に選ばれてもよいけれども、走査全体にわたってスキャナ座標系と整合しなければならない。
【0073】
2次元(2D)BRDF構造は、
図4Aに示すように、入射光方向ω
iについての照明光軸と反射光方向ω
rについての検出光軸との間の中間ベクトルを表現する半方向又は半角hについて規定される。
図4Bのグラフ表示において、水平軸は、0~90度の範囲にわたる、面法線nと半方向hとの間の天頂角θを表し、最も左が0度の向きである。垂直軸は、0~360度の範囲にわたる、面法線nと半方向hとの間の方位角を表す。このタイプのマッピング配列は、鏡面反射ピーク、再帰反射、及び散乱光等の描画における標準寄与の位置を含む。
【0074】
鏡面反射とは、典型的には、観察者が面法線について照明の反対側にあるとき、金属表面で観察される強く明るい反射である。鏡面反射応答は、主として表面研摩に依存するけれども、フライス加工に用いられるブロックシェードの選択に影響を与えない。鏡面反射応答は、しばしば検出器を飽和させて、2次元(2D)断面のその領域におけるシェード測定値を棄損する。この鏡面反射ピークは、
図4Bの2DのBRDFマッピングの左側に沿って表されるように、法線方向nと半方向hとがほぼ整列したときに生じる。
【0075】
拡散応答が、断面の大部分にわたって天頂角θ及び方位角φの広範囲にわたって測定される。微小角再帰反射は、角の狭い範囲にわたって測定され、ここに、入射ωi、反射ωr、及び半方向hは、ハンドピース幾何構造制約条件によって設計されるとき、アラインメント近傍にあるけれども、面法線nは、それらに対して90°だけ傾斜している。物理的特性をモデル化するとき、微小角再帰反射は、通常、マイクロファセット分布のタイプ、すなわち顕微鏡レベルの表面粗度を決定する。これは、外観を特徴付ける様々な物理的効果の角分離を示す。微小角再帰反射は、法線方向に対する微小角入射の下での特性を表し、それは患者の歯を観察する本来の方法でない。更に、深度情報、したがって面法線は、かかる幾何構造において識別及び測定することがより困難である。
【0076】
口腔内シェードマッチングについて、
図4Bのマッピングの拡散領域は、最も関心が高いものである。鏡面反射光及び微小角再帰反射光は、ちょうど説明された理由のために、ずっとより小さい値のものである。
図4Bに示すBRDF構造内の単一の点P1は、それぞれの色についてのBRDF値f
r(ω
i,ω
r,n)を表し、該BRDF値は、表面輪郭に沿った対応する点において、法線nに対する所与の関係について、所定の検出器方向ω
rで所定の照明方向ω
iにおける照明から生じる。
【0077】
割り当てられた色と関連する深度情報は、スキャナ座標系内のカメラによって測定され、それは、共通の座標系内のスキャナの配置から独立している。スキャナ座標系において、入射及び反射光方向は一定であり、それにより、方向ωi、ωr、hは、一定であり、そして、局所面法線nだけが、関連する深度情報に依存する。スキャナ座標系において、関連する深度情報は、所与の点に局所面法線nを提供する。局所面法線n及び割り当てられた色が用いられて、その点についてのBRDF値を計算する。以下の節は、カメラによって取得されたBRDF値が、成長表面輪郭がその中で画定される共通の座標系内に編成され得る方法を説明する。
【0078】
成長表面輪郭を更新するためのスキャナ方向
画像データから抽出された色と関連する深度情報が用いられて、連続して強化される又は成長する表面輪郭を作成する。法線及び色を有する点群が、取得(高速点挿入、削除)中の点群発達に好適な柔軟性を提供するけれども、色付き/テクスチャ付き表面メッシュが、概してディスプレイ84(
図1)上でユーザに示される。
【0079】
点群又はメッシュデータ構造が同等に用いられて、3次元(3D)表面を表してもよい。法線及び色を有する点群は、メッシュからの頂点並びにそれらの平均三角形法線及び頂点色を用いること、三角形データを廃棄すること等によって、色付き/テクスチャメッシュから抽出されていてもよい。色を有するメッシュは、Kazhdan,M.,& Hoppeによる「Screened Poisson Surface Reconstruction」、ACM Transactions on Graphics、32(3)、1-13、(2013)に記載されている等のアルゴリズムを用いて、又は、元のアルゴリズムからの範囲画像の代わりに、法線及び色データを有する点群を入力として取るように適合された、Brian Curless及びMarc Levoyによる「A Volumetric Method for Building Complex Models from Range Images」、Proceedings of SIGGRAPH96に記載されているようなVripの変形を用いて、法線及び色を有する点群から生成させられてもよい。一般性を失わずに、用語「表面輪郭」は、「表面メッシュ」又は「表面点群」を用いて同等に表現されてもよい。点群とメッシュとの間の変換は、表面輪郭撮像技術における当業者に公知である。
【0080】
一実施形態によると、メッシュ及び点群構造の両方が用いられて、ディスプレイ上に示される表面輪郭を生成してもよい。法線及び色を有する点群は、全ての入力ステッチ型画像データから情報を結合する動的構造である。色メッシュは、表示のための一時的構造として低分解能での点群から生成されてもよい。色メッシュは、それぞれの最新情報によって再生されて、色及び法線を有する正確な点群と同期されてもよい。
【0081】
色と関連する深度情報は、色を有する表面輪郭に変換されてもよい。表面輪郭のそれぞれの点についての法線情報は、例えば、the pointclouds.org website under documentation/tutorials/normal_estimation.phpに記載されたもの等のコンピュータグラフィックスにおける周知の技術を用いて評価されてもよい。クエリ点において、点の局所近傍が画定される。共分散マトリックスは、点の局所近傍を用いて計算される。
共分散マトリックスCは、次の形式を有する。
【数2】
ここに、kは局所近傍内の点の数であり、p
i値は点座標であり、Pバーは局所近傍内の点からの平均点位置である。この正方対称3×3マトリクスは、固有ベクトル及び関連する固有値を与え得る。点の局所近傍の最小自乗適合が楕円体を用いて実行されるならば、楕円軸は、固有ベクトルであり、軸線長は、対応する固有値に関連していることになる。共分散マトリックスの最小固有値は、最短楕円軸を表し、関連する固有ベクトルは、局所法線の方向を与える。局所法線の方向は、スキャナからの観測方向をマッチングさせるのに必要ならば、反転させられてもよい。この局所法線は、次いで、クエリ点に割り当てられ、それは、法線及び色を有する表面輪郭の計算を可能にする。
【0082】
ステッチング手順
取得された画像データから可動型表面輪郭上への法線及び色を有する表面輪郭のステッチング手順は、以下の一般的ステップ、すなわち、(a)画像データからの法線及び色を有する表面輪郭について、及び成長表面輪郭について特徴記述子の1つの集合を推定するステップと、(b)相対配置及びスコアを生成するために特徴記述子の両方の集合を用いて特徴マッチングを実行するステップと、(c)スコアに基づいて相対配置を認容又は拒絶するステップと、(d)反復最近点アルゴリズムを用いて相対配置を改善して、距離測度を生成するステップと、(e)生成された距離測度に基づいて相対配置を認容又は拒絶するステップと、を含む。これらのステップについての詳細は、以下のとおりである。
(a)表面輪郭についての特徴記述子が、剛性変換(回転/並進)に対して不変である局所表面記述を表わす。例えば、高速点特徴ヒストグラム(FPFH)は、法線を有する表面輪郭のそれぞれのクエリ点について計算されてもよい。これは、例えば、Rusu,R.B.の論文「Semantic 3D Object Maps for Everyday Manipulation in Human Living Environments」、pp.57-61、(2009,August 17)に記載されている。点群からの色情報をまた含む別の記述子が用いられてもよい。
(b)法線を有する可動表面輪郭からの特徴記述子の1つの集合と、法線を有する目標表面輪郭からの特徴記述子の1つの集合との間の特徴マッチングは、特徴記述子同士の間の対応の生成を含む。FPFH特徴記述子は、ヒストグラムであり、距離は、2つの特徴記述子の間のヒストグラム差のノルムとして規定されてもよい。対応は、1つの特徴記述子から特徴記述子の別の集合までの最小距離として規定される。特徴マッチングは、次いで、相対配置を生成するための対応の群の選択を含む。このステップは、通常、候補相対変換を計算するための3つの対応のランダム選択を構成するランダムサンプルコンセンサス(RANSAC)アルゴリズムを用いて実行され、次いで、この候補相対変換と整合した対応の数を計数する。対応は、2つの特徴記述子から形成され、1つは、可動点群からのものであり、1つは、法線を有する目標点群からのものである。それぞれの特徴記述子は、クエリ点に対応する。対応は、候補相対変換を用いて動かされる可動クエリ点が、目標クエリ点から既定の距離の範囲内にあるならば、候補相対変換と整合している。最大数の整合対応を有する候補相対変換は、最終相対配置になる。スコアは、最終相対配置の品質を示し、そして、整合した対応の対応する数であってもよい。
(c)相対配置は、スコアが予定閾値以下である場合には、拒絶されることがある。
この場合、ステッチングは不可であり、画像データは廃棄される。
(d)反復最近点(ICP)アルゴリズムを用いる相対配置の改良は、相対配置が可動表面輪郭上に適用されるとき、最近適合を見つけることによって可動表面輪郭と目標表面輪郭との間の点対応を規定する。適合間の最小自乗距離最小化は、相対配置の更新を提供する。点対応の選択及び相対配置の更新が、次いで収束まで又は既定の反復回数に到達するまで、繰り返される。距離測度は、最終の更新相対配置に対応する、最小自乗距離最小化に用いられる費用関数の値であってもよい。
(e)更新された相対配置は、距離測度が予定閾値以下であるならば、拒絶されてもよい。この場合、ステッチングは不可であり、画像データは廃棄される。さもなければ、ステッチングは合格である。ステッチングが合格ならば、画像データからの法線及び色を有する表面輪郭の、成長表面輪郭上への最終相対配置は、既知である。このことは、法線及び色を有する全ての計算された表面輪郭についての共通座標系を生じさせ、それに、点が、追加され、更新され、結合され、又は削除されて成長表面輪郭を生成する。スキャナについての元の座標系が、また存在し、それは、ステッチングが実行される前に元来取得されたような画像データの軸線に対応する。共通の座標系は、通常、第1画像データの取得中にスキャナの任意の向きに対して規定される。
【0083】
口腔内撮像のためのBRDFを取得及び使用するためのシーケンス
図5のフローチャートは、改善された色シェード識別のためのBRDF構造を取得して用いるためのシーケンスを表し、そして、本発明の実施形態に従って表示される。取得及び処理ステップS510において、表面輪郭画像が、取得された画像データからの法線及び色情報を有する点群又はメッシュとして取得される。色補正ステップS520は、(ステッチングの前の)画像データの取得中に、それぞれの色チャネルについてのf
r(ω
i,ω
r,n)を用いて、及びスキャナの座標系内の照明方向ω
i及び検出器方向ω
rを用いて点群からの色をBRDF色データに変換する。ステップS520は、後のステージまで延期されてもよいけれども、BRDF値を生成するための直接色補正が、パイプライン処理の初期においてより良好な色の正規化を可能にすることにより、補正された色が、歯材料のより正確な表現となり、照明/検出幾何構造により依存しなくなる。この方法を用いて、生成される全ての後続のデータ構造は、補正された色値から利益を得る。
【0084】
表面輪郭からのそれぞれの識別された点は、少なくとも空間3次元位置、法線ベクトル、及び色ベクトル(典型的にはRGB色)を含む。ステッチングステップS530は、取得された画像データから「成長」表面輪郭の座標系への表面輪郭の相対位置を画定する、つまり、表面輪郭が能動的に生成される。ステッチングが合格すると、成長表面輪郭の座標系内の空間点位置が取得されてもよい。
【0085】
空間変動BRDF(SVBRDF)は、点位置情報を分布関数に追加する空間分解されたBRDFを用いる。SVBRDFは、成長表面輪郭と同じ座標系内で規定された通常のBRDFグリッド構造を用いることによって表現されてもよい。グリッドセルサイズ(ボクセルサイズ)は、典型的には、所望の空間シェード分解能であり、口腔内スキャナを用いるとき、典型的には1mmから20mmまでの間で変化する。歯科技工士又は実施者は、概して歯を1から3つまでのシェードに分離し、それで、この空間分解能に到達するように5mmの典型的なグリッドセルサイズを用いる。ステッチング後の点位置は、BRDFグリッド構造内の座標を提供する。対応するBRDFグリッドセルは、更新されるべきBRDF構造を含む。
【0086】
上記で導入された一般的BRDF関数fr(ωi,ωr,n)は、法線方向nを有する所定の点の周りで、様々な観測/測定幾何構造の下で、走査中にサンプリングされる。それぞれのサンプルは、上記で導入されたBRDF値のうちの1つであり、それらの値は、BRDF関数と同じ次元のBRDF構造内に記憶されてもよい。出願人のシステムについて、BRDF構造は、以前に注記したような2次元画像である。点から生じる、BRDFへの更新は、以下のようにしてなされる。すなわち、スキャナ座標系内の点位置及び点法線が用いられて、BRDF構造内の角度座標を計算する。対応する画素は、その画素についての全重みと共に補正された色の加重和を記憶する。その画素についての平均BRDF色は、補正された色の加重和を全重みで除することによっていつでも取得されてもよい。1つの画素は、BRDF関数の角度範囲を表す。
【0087】
点に対応する重みは、測定の相対信頼度を表す。デフォルトの重みは、1であってもよく、例えば、点位置の相対誤差、点法線方向の不確実性、又はマッチング基準からの不確実性に従って減少させられてもよい。例えば、法線方向の不確実性は、最小固有値と2番目に小さい固有値との比から計算されてもよい。比が1に近いならば、両方の固有値は類似しており、法線の選択は紛らわしい。既定の閾値を超えて、例えば0.5に、その点についての対応する重みが、減少させられてもよい。同様に、ステッチングは、距離測度の推定で完了し、それは、既定の閾値と比較されることにより、その断面内の全ての点についての重みを最終的に減少させてもよい。
【0088】
画素サイズは、角度範囲が、点群の法線の推定における角度ノイズに類似するように選ばれる。典型的には、それぞれの画素は、各軸に沿って5~20度の角度変動を表す。この2次元(2D)画像において、水平軸及び垂直軸は、それぞれ、面法線と半方向との間の天頂角及び方位角を表す。
【0089】
双方向散乱面反射率分布関数(BSSRDF)、又は双方向テクスチャ関数(BTF)、又は双方向散乱分布関数(BSDF)等のより複雑なモデルが存在する。これらのモデルのそれぞれは、走査された物体の様々な特性を表す。それらの関数によってモデル化された物理的特性は、反射、散乱及び/又はシャドーイング、あるいはマスキングを表してもよい。これらの分布関数は、入射及び反射光方向の関数と同じ、色ベクトルの角度分解能の共通原理を共有する。本明細書で用いられる用語「BRDF」は、表面に沿った異なる点における光相互作用を特徴付ける、これらの類似の角度分解双方向分布関数を指すことがある。
【0090】
図4Bの右側に概略的に表された2次元(2D)BRDFデータ構造は、BRDFについての色データを記憶する。その代替として、対応する表面特性のモデルが、反射だけでなく、透過、散乱、及びシャドーイングについての値分布とともに記憶されてもよい。これらの代替のデータ構造は、所定の入射及び出力角度における光について観測された色に適合するように調節されてもよいパラメータを表示してもよい。
【0091】
特定のBRDF関数を表すための代替表現は、データ点同士の間のBRDF距離が測定基準として規定されてもよい場合に、用いられてもよい。デフォルト距離は、本明細書において規定された画素位置でのBRDF関数をサンプリングするBRDF構造について、下記のBRDF距離を用いることによって取得されてもよい。例えば、BRDFについての代替表現は、Torrance-Sparrow BRDF、Cook-Torrance BRDF、Phong BRDF等の解析的表現であってもよく、これらは、コンピュータ描画アプリケーションにおいて普及している。BRDFモデルのより詳細なリストが、参照によって本明細書に組み込まれるGranada大学からの技術レポートLSI-2012-001内のR.Montes及びC.Urenaによる「An Overview of BRDF Models」内に見出されてもよい。このレポートは、自由パラメータを有する解析モデルを説明し、それは、本開示内で説明されたBRDF値の観測値に適合するように調節される。典型的な調整方法は、スキャナから測定されたBRDF値と解析モデルから計算されたBRDF値との間の残余距離の最小自乗最小化を含む。
【0092】
図5シーケンスについて続けると、輪郭形成ステップS540は、関連する色シェードの指標を含む成長表面輪郭の表示を形成する。それぞれのBRDF構造について、関連する色シェードは、別個のBRDFライブラリを用いて計算される。BRDFライブラリは、色シェード値及び関連するBRDF構造を含む集合である。BRDFライブラリの作成は、以下で更に詳細に説明される。
【0093】
BRDF距離
図4Bに示すような、1つの点P1における2つのBRDF関数の評価は、2つのBRDF値を与える。本開示に関して、BRDF値は、また、色ベクトルと呼ばれる。2つのBRDF値の間の距離の概念は、以下で規定される。2つのBRDF関数の間のBRDF距離は、点P1の全ての許容される位置にわたる色距離の積分であると定義されてもよい。言い換えると、積分領域は、入力変数ω
i及びω
rの角度範囲を網羅する。
【0094】
BRDFデータ構造が、2次元(2D)画像(
図4Bに示すBRDF構造に類似している)であり、それぞれの画素が、色の加重和及び全重みを記憶する場合、BRDFスナップショットは、(それぞれの画素値を全重みで除すことによって取得された)平均色ベクトルを有する2次元(2D)画像として規定されてもよい。全重みがゼロ、又は既定の閾値未満であるならば、色の加重和は、信頼性がないとみなされてもよい。この場合、平均色ベクトルは、RGB=(-1.0,-1.0,-1.0)等の無効な色ベクトルと置換されてもよい。
【0095】
BRDF構造は、走査期間全体にわたって情報を蓄積する。記憶された情報は、それぞれの画素への寄与の合計を表す。BRDFスナップショットが、平均算出(元のBRDF構造を不変状態に保持)を実行し、短い寿命を有する。そのデータは、BRDF距離計算中に、それが生成される時にだけ有効である。後続の画像データからの新たな3次元(3D)点がBRDF構造に作用するとすぐに、BRDFスナップショットについての平均が、一新されてもよい。
【0096】
一般の場合、いずれかの次元での色差は、色差の計算されたノルム等による、ベクトル差として表されてもよい。2つの色ベクトルのうちの1つが無効ならば、信頼できないと考えられる値について上記されたように、色距離は、予定距離値に設定されてもよい。2つのBRDFスナップショットの間のBRDF距離が、全ての対応する画素についての色距離の加重和である。
【0097】
この加重和からの重みは、積分領域にわたる色距離の積分の離散化から誘導される。出願人のシステムについて、BRDF構造及びBRDFスナップショットに用いられる極座標によって、積分要素(重みに対する)は、それぞれの画素の中央での角度座標について評価された形式sinθdθdφのものである。
【0098】
BRDFスナップショットが、また用いられて、元のBRDF構造(RGB値等)から、色距離(撮像技術における当業者に精通されている標準CIELAB色空間等)を評価するのにより適している色空間に色を変換する。所定のBRDF構造について、BRDFライブラリからの関連する色シェードは、所定のBRDF構造からのBRDFスナップショットと、BRDFライブラリ内の関連するBRDF構造からのBRDFスナップショットとの間の最小距離に対応するシェード値である。関連する色シェードは、BRDFグリッドからのBRDF構造のそれぞれについてのBRDFライブラリからのシェード値である。
【0099】
関連する色シェードの指標は、関連する色シェードに対応するラベルであってもよい。例えば、ラベルは、対応するテキスト、又はBRDFライブラリからの関連する色シェードを表す任意の色であってもよい。一般に、「シェード値の指標」は、シェード値を識別するラベル付けである。このタイプのラベル付けが、例えば、いくつかのテキストラベル又は色ラベルを組み合わせることによって、複数のシェード値について提供されてもよい。
【0100】
一例として、歯についての色シェード処方は、「D2-A2-A3」等の2つ以上のシェードを含んでもよく、それらは、特定の実施に従う歯の上側3分の1、中部3分の1、及び下側3分の1を表してもよい。その代替として、歯についてのシェード値は、表面データに表示されるテキストラベルを用いて示されてもよく、この場合、それぞれのシェード値は、テキストラベルを提供し、それは、シェード値を決定するために用いられた色ベクトルの角度分布に対応する表面データから点において表される。代替の一例示的実施形態によると、1つ又は複数のシェード値の指標は、表面データ上に表示される1つ又は複数の色ラベルを含んでもよく、それぞれのシェード値は、色ラベルに関連付けられ、該色ラベルは、シェード値を決定するために用いられた色ベクトルの角度分布に対応する表面データから点において表される。
【0101】
成長表面輪郭及びBRDFグリッドは、同じ座標系内にある。このため、関連する色シェードは、対応する表面位置に従って表示されてもよい。色がラベルに用いられるならば、成長表面輪郭からのそれぞれの点は、BRDFグリッド内に対応する座標を有し、そして、その座標におけるBRDF構造と関連するBRDFライブラリから色シェードのラベルの色を割り当てられてもよい。このように、1つのBRDFセル内に含まれる表示された表面の全ては、同じ色ラベルによって描画されてもよい。言い換えると、成長表面輪郭の2つの隣接点は、BRDFグリッド(後述される)内の同じセルに対応する可能性が大きい。2つの点は、そのため、同じ色ラベルを割り当てられてもよい。更に進めると、BRDF構造によってクリップされた表面領域は、同じ色ラベルによって描画されてもよい。テキストがラベルに用いられるならば、成長表面輪郭に対するテキストラベルの位置は、同じ座標空間内のBRDFセルの中心であってもよい。それは、また、操作者によって選択された領域の中心であってもよい。
【0102】
次の位置ステップS550は、ステップS510において処理するためにカメラから画像データの次の集合まで動く処理を繰り返す。代替の一例示的実施形態によると、表面輪郭生成は、当初に取得されたような歯色を用いて、最初に完了されてもよい。BRDFデータが取得されるが、初期の表面輪郭生成中には適用されない。表面輪郭ステッチングに次いで、取得されたBRDFデータを用いるシェードマッチング処理が続けられてもよい。この代替方法について、ステップS540が、次の位置ステップS550及びそれの対応する処理ループの後に事実上実行される。
【0103】
代替の一例示的実施形態によると、シェードマッチングは、従来の3次元(3D)走査処理後に実行され、それにより、シェードデータが、既存の3次元(3D)表面データに追加される。角度情報を用いるシェードマッチングが、次いで、従来の3次元(3D)走査に続いて開始するか、又は、患者についての読み込まれた3次元(3D)走査データを用いてもよい。角度情報を用いるシェードマッチングのためのステッチングが、次いで既存の表面輪郭に対して実行される。このシーケンスによって、操作者は、治療されるべき特定の1つ又は複数の歯に集中してもよい。この手順は、例えば、BRDFデータ取得及びシェードラベル表示が、修復についての関心領域だけに提供されることを可能にする。実際には、同じシェード取得シーケンスが後に続く。初期のBRDFデータ構造は、空であるけれども、表面輪郭は、空ではない。
【0104】
別の代替の一例示的実施形態によると、操作者は、例えば、治療方針等に基づいて、シェードラベルがそのためのものである関心対象の患者の歯列の限られた領域を選択してもよい。かかる場合に、表示された表面上でのシェードラベルの描画は、選択された領域に限定されるか、又は選択領域からの既定の距離範囲内に限定される。選択は、コンピュータマウス等のポインタを用いて、タブレットからの入力を用いて、又はいくつかの別のデジタル入力インタフェースを用いて実行されてもよい。選択は、3次元(3D)走査の前又は後になされてもよい。後者について、3次元(3D)走査処理中には、シェードデータが生成させられるけれども、ステッチングされた表面輪郭上に表示されない。シェードマッチングされた結果は、操作者が関心領域を選択した後に、モニタ画面上の選択された領域又は別個の領域のいずれかに、シェード指標とともに表示されてもよい。代替の一例示的実施形態によると、シェードラベルは、シェードライブラリからのシェードタブに対応するいくつかのテキストである。
【0105】
スキャナからの画像データの流れは、有効な情報が、タイムアウト期間後にもはや検出されないとき等に、自動的に停止させられてもよい。画像データは、また、スキャナを保持器内に戻して再配置すること等によって、操作者によって停止させられてもよい。これらの又は類似の事象が、検知されて走査を停止させてもよい。ユーザは、次いで、表示された表面と相互作用することにより、アプリケーションは、最終のシェードマッチングされた画像を表示する、記憶する、又は伝達する。色シェードされた画像であってもよい、最終のシェードマッチングされた画像は、例えば、表示ステップS560において、表示された表面及び関連する色シェードの指標を含む。
【0106】
BRDFライブラリを形成する
図6の論理フローは、
図5の方法に用いられるBRDFライブラリを形成するためのステップを表す。歯科材料の供給元から商業的に入手可能な従来のシェードタブの集まりが用いられて、
図5の方法のステップS540において値をマッチングするために用いられるべきBRDFライブラリを生成させてもよい。共通のシェード値は、例えば、Vita Classical(登録商標)シェードタブ(「A1」「A3.5」「D2」等)又はVita Linearguide 3D-MASTER(登録商標)(「2L1.5」又は「3M2」等)から取得されてもよい。
【0107】
選択ステップS610において、シェードタブのうちの1つが、後続する処理に対して選択される。色シェード関連ステップS620は、
図5のステップS510、S520、S530、及びS550を組み合わせ、これらは、シェードタブの表面走査中に反復される。走査の完成において、計算基準BRDFステップS630が、走査からのいくつかのBRDF構造を一意的な基準BRDFに自動的に結合する。ステップS630は、シェードタブを、基準シェードタブの全てに共通である基準座標系と整列させる。ステップS630は、更にセルの群を自動的に選択し、BRDF構造を、そのシェードタブについての基準BRDFとして指定された単一のBRDF構造にまとめる。
【0108】
BRDFライブラリは、基準BRDFの集まり及びそれらの関連するシェードラベルを表す。BRDFライブラリは、製作において直接再記録されてもよく、そして、患者の歯の走査中に再利用されてもよい。BRDFライブラリは、また、好ましいシェードタブを用いて、実施者によって生成されてもよい。実施者は、単に3次元(3D)走査デバイスを用いて、ここで外形線を描かれたモデルに追従する必要がある。これは、また、歯科医が単にそれらを走査することによってシェードの集まりを作成することを可能にする。測定システムの光学特徴は、同じ状態のままである。BRDFライブラリ内に記憶された基準BRDFは、元のBRDFデータ、BRDF構造、又は適合モデルの集まりであってもよい。基準BRDFは、BRDF関数を含むセルの一部の結合であってもよい。
【0109】
表面輪郭は、全てのシェードタブに共通する類似の座標系内で優先的に整列させられる。整列は、成長表面輪郭をシェードタブのうちの1つの固定された基準表面上にステッチングすることによって実行される。集合からの全てのシェードタブは、通常、類似の表面状態を有するけれども、それらの外観は勾配を表す。選択されたシェードは、工業記法に基づいている。そのため、全ての成長表面輪郭を類似の座標系に整列させることが重要である。このように、既定の領域内の対応するBRDFセルは、BRDFライブラリにわたって選択されて、整合した意味を有してもよい。
【0110】
図9は、BRDFによって規定された異なるシェード値の領域を有するシェードタブを表す。中央領域は、A2として識別されるけれども、切端縁は、D2又は別のシェード値である。本発明は、同等な解剖学的領域を比較することによって、より正確なシェード測定を目指す。
図10Bからの方策が用いられるならば、そのA2シェードタブについてA2として全体的に検出された3次元(3D)表面を予想することができてもよい。
【0111】
基準BRDFは、既定の領域内で選択されたBRDFセルからの全てのBRDF構造の合計として定義される。合計は、個々に全ての色の加重和及び全重みのピクセル単位の累積によって実行される。
【0112】
統計における大数の法則は、より多くの観測値を収集することは、より正確な平均値、すなわちより小さい標準偏差に至ることを含む。既定の領域内におけるBRDF構造のピクセル単位の累積の目的は、BRDF距離測定中に基準BRDFのBRDFスナップショットを計算するときに、より正確な平均推定値を取得するためである。
【0113】
既定の領域は、基準表面上の既定の位置付近の中心に集中した約2mmの半径の球であってもよい。既定の位置は、例えば、基準表面と(Oz)軸の交線であってもよい。記憶ステップS640は、シェードライブラリ内にそれぞれのBRDF基準及び関連するラベルを記憶する。決定ステップS650は、集合からのシェードタブのアレイ全体の系統的処理について、ループ操作を制御する。測定の終結において、BRDFライブラリが生成されて記憶される。それは、次いで口腔内走査の開始の前にロードされてもよい。
【0114】
球半径は、BRDF情報の累積についての境界を画定するのに役立つ。既定の領域についての球半径は、シェードタブにわたるシェード外観の局所変動性に基づいて決定される。最小において、単一のBRDF構造が、既定の位置を含むセルから選ばれる。シェード決定のための従来の方法は、通常、帯域内に表された犬歯について、多くとも3つのシェードを規定し、半径は、概して、シェードの均一性を保証するために5mm未満である。
【0115】
図7は、BRDFライブラリ100内に含まれる対応するBRDF基準構造を有するシェードタブ94の集合を表す。それぞれのBRDF基準構造は、シェードラベル104(D2、D3、D4、C1、C2、C3、その他)とも呼ばれるテキストラベル、及び/又は色ラベル112と、関連付けられている。それらのシェードラベルは、また、シェードタブ94の金属性支持体上にスタンプされるか、又は別の方法で記録されてもよい。
【0116】
CIELAB値への変換について、90%反射率を有する表面として規定された白色標準からの信号が取得される。同じく、検出器の飽和を回避するために、18%反射率標準(N5灰色カード)からの信号が、また用いられてもよい。18%反射率標準からの信号が、次いで、白色標準の同等物を提供するために5を掛けられる。反射率標準の取得は、(ステップS610の前に、
図6のステップのシーケンスにおいて)シェードライブラリについての基準表面及びシェードタブの取得前に実行されてもよい。反射率標準からの信号は、シェードライブラリ内に記憶されてもよい。反射率標準からのデータが、それで、シェードライブラリがコンピュータメモリ内にロードされているので、シェード取得のために、また実際の歯の走査中にも利用可能である。
【0117】
実際には、反射率標準についてデータが、また、反射率標準の表面を走査することによって、3次元(3D)スキャナを用いて取得される。ステップS510からS560までが完了された後には、BRDFグリッドが作成されている。BRDFグリッドからの全てのBRDF構造が、累積されたBRDF構造に結合されてもよく、それは、次いでBRDFスナップショットに変換される。このBRDFスナップショットからの平均色ベクトルは、平均反射率標準色ベクトルを提供し、それは、CIELAB色空間への変換に用いられてもよい。色ベクトルは、可視波長を包含する波長を有するスペクトルを含んでもよい。本開示に関して、可視波長は、360nmから830nmまでの間の範囲内にある。
【0118】
反射率標準色ベクトルを用いる、CIELAB値への色ベクトルの変換は、公知の手順であり、それは、(1)反射率標準色ベクトルの色成分によって補正された色ベクトルからそれぞれの色成分を分離すること、(2)この正規化色ベクトルを三刺激XYZ値に変換すること、及び(3)三刺激XYZ値をCIELAB色に変換すること、に要約されてもよい。
【0119】
反射率標準の走査は、より複雑な反射率標準データを提供してもよい。一例示的実施形態において、反射率標準の平均BRDF構造が、単一の平均反射率標準色ベクトルの代わりに、直接記録される。これが実行されるとき、BRDFスナップショットからCIELAB色に色ベクトルを変換するときに、反射率標準のBRDFスナップショットから対応する画素が、色ベクトル正規化に用いられてもよい。この技術は、反射率標準の反射率の角度変動の原因を示すのを助けてもよい。実際には、スキャナの伸長式光源、非理想的な照明スペクトル(照明がD65でないので)は、わずかな角度変動を導入してもよい。
【0120】
別の一例示的実施形態では、反射率標準の走査は、空間分解された色データを提供する。特に、空間分解能は、スキャナの座標系内に表示されてもよい。これは、視野にわたる照明及び検出の変動の測定を可能にする。それは、スキャナの座標系と整列した3次元グリッドとして表されてもよく、この場合、X/Y軸は、撮像平面を表し、Z軸は、スキャナの主光軸を表す。反射率標準色ベクトルの空間分解されたプロファイルを用いることは、視野にわたる色ベクトルのより正しい正規化を可能にする。これは、視野内の表面の位置から独立することになるCIELAB色をよりよく生成するのを助ける。
【0121】
BRDFグリッド構造
図8は、同じ座標系内に複数の要素を表す線図である。セル72から成る3次元(3D)BRDFグリッド30は、シェードタブ94によって表される3次元(3D)成長表面輪郭を包含する空間区画を画定する。それぞれのセル72は、走査中のその時点での関連するBRDFスナップショットによって表されるBRDF構造70を含む。それぞれのセル72は、単一の1mm
3部分によって区切られた表面等の、歯表面の小さい部分に対応する。ステッチングステップS530(
図5)中に、法線及び色を有する点群は、3次元(3D)成長表面輪郭上にステッチングされるので、BRDFセル72に対応する点群からの色及び法線を有するそれらの点は、そのセル内でBRDFデータ構造70と結合される。必要に応じて、BRDFグリッド30は、全てのステッチングされた点が有効なBRDFセル72内にあるように拡張される。次いで、点群からの全ての点は、成長表面輪郭内に結合され、それは、ディスプレイ上で更新される。
【0122】
それぞれのセル72内でのBRDF構造への更新情報は、次の、(i)区画に対応する歯領域に対する法線のパラメータ、(ii)照明の入射方向ωi、(iii)検出光の反射方向ωr、及び(iv)RGB、CIELAB、又は別の好適な色空間等の周知の色空間内の色ベクトル、を含む。色チャネル数は、4つ以上であってもよい。
【0123】
照明の入射方向ωi、検出光の反射方向ωr、及び局所面法線nからなる所定の幾何構造について、BRDF構造は、角度分布を記憶し、ここに、角度分布のそれぞれの要素(画素)は、全ての色ベクトルの加重和及び対応する全重みを記憶する。したがって、所定の幾何構造について、BRDF構造が用いられて平均色ベクトルを計算してもよく、それは、BRDFスナップショット内に記憶される。
【0124】
色ベクトルの加重和及び対応する全重みに用いられる重みは、以前に説明されたように取得された3次元(3D)点の信頼(又は品質)レベルに関連してもよく、それは、3次元(3D)点位置、面法線、又は色の正確度における可変信頼レベルを表す。それに加えて、重みは、また(1)正確な点位置が不正確になるので、飽和領域(鏡面反射円錐形)が減少すること、(2)局所法線が入射光又は測定角から離れる方に傾斜するにつれて減少すること、及び(3)法線が局所近傍内で整合しているならば増加することを含む要因によって変化することがある。
【0125】
照明方向ωi、反射方向ωr、及び法線nについての幾何構造は、セル72内のBRDF構造における2次元(2D)角度座標内でコード化されてもよい。2次元(2D)画像構造が用いられて、BRDF構造の角度範囲を表す。それぞれの画素は、色ベクトルの加重和及び関連する全重みを含む。
【0126】
歯の領域について結果として生じるデータ構造は、測定シーケンスにおけるスキャナの位置が、全ての様々な角度組合せを調べないことがあるので、不完全である可能性がある。取得シーケンスの初めに、BRDF距離は、最初にデフォルトの色距離によって駆動される。追加データが走査中にBRDF構造内に累積されるとき、BRDFスナップショットは、より妥当な色値を含み、シェードライブラリからのシェードの識別は、ますます正確になる。計算が最小閾値距離を用いてもよく、それ以下では、ステップS540からの関連する色シェードは無効であってもよい。かかる場合、シェードラベルは、表面のその領域について表示されない。このことは、走査の初めにおいて関連する色シェードの非常に速い変化を防止する。シェードは、十分な向きが、意味があるべきBRDF構造の画素内に累積されたときに現れる。一実施形態によると、BRDF距離は、DeltaE単位で、CIELAB色空間内の色距離についての標準測定基準で表示されてもよい。歯科医の50%が、3DeltaE(3ΔE)の差を視覚的に検出し得ると仮定される。関連する色シェードがそれ以下であると無効である、最大距離についての閾値は、それで、3DeltaE又はそれに類似する値(典型的には、約1DeltaEから8DeltaEまでの間)に設定されてもよい。
【0127】
BRDFデータは、メモリに記憶されてもよく、又は必要に応じて口腔内カメラ及び走査装置から生成されてもよい。
図8は、ステップS540から生じる歯について取得されたBRDFデータを累積及び編成するために用いられてもよい、データ構造についての1つの可視化を提供する。かかるデータ構造自体が操作者に可視的である必要がないことが認識されてもよい。
【0128】
しばしば、鏡面反射は、画像データからの値を飽和状態にし、これは、関連する深度情報が鏡面反射に対応する領域について有効データを有しないことを意味する。表面輪郭の残りのステッチングの後に、対応するBRDF構造内の座標を計算するための点が存在せず、そのため、法線が存在しない。関連する深度情報が、それでも、鏡面反射の領域の外側限界の近くで入手可能な場合、深度情報は、その領域内でしばしば誤って推定される。このことは、法線が、非常にノイズが多い場合があることを意味する。たとえ深度情報が有効であっても、画像データからの反射画像が飽和させられることが、また起こることがある。飽和は、センサの動作範囲が十分でないので起こる。それらの誤った測定値をBRDF構造内に記憶するよりもそれらを拒絶するほうがよい。拒絶は、点法線と半方向とのコサインにおける拒絶閾値を設定する(例えば、0.98超であるならば拒絶される)ことによって実装されてもよい。別の実装は、色及び法線を有する点群からの点の色がカメラの飽和値に近いならば(例えば、最大255までになるカメラの範囲について、全ての色チャネルが値250超であるならば)、BRDF構造内での記憶を拒絶することになる。シェードタブ90から取得された基準BRDFが、
図6のフローチャートを参照して以前に説明されたように、例えば、BRDFライブラリの要素として記憶されてもよい。
【0129】
本発明の一例示的実施形態は、ステップS520における標準BRDF関係を次式に対して調節する。
【数3】
照明が一定であり、スキャナ幾何構造が一定のままであるならば、kは定数項であり、
値E
pixは測定された放射照度(すなわち、カメラピクセル値、特定の色チャネルについて観測された色に比例する)であり、
ω
iとnとの点乗積は、局所法線と照明方向との間の角度のコサインを与え、
r
2項は、スキャナ構成要素から表面位置までの2次距離である。
元の点群色を補正された色に変換するときに、上記の式が用いられてもよい。式は、本開示において以前に与えられた一般的定義f
r(ω
i,ω
r,n)から誘導される。2次距離項は、距離による立体角の変動のための補正である。点乗積からのコサイン補正は、f
r(ω
i,ω
r,n)についての元の定義における分母から生じる。この色補正は、それぞれの色チャネルに個々に適用されてもよい。
【0130】
2つのBRDF構造の間の距離の測定の改善は、固定された数のパラメータによって規定された基礎的モデルを用いてもよい。M.Langovoyらによる論文「Novel metric for analysis,interpretation and visualization of BRDF data」、ACM Transaction on Spatial Algorithms and Systems(2014)が、可能な実装を与える。(測定基準の例として式(8)又は(15)を参照)。これは、パラメータを最適化し、次いでそれらのモデルの間の距離を計算することによって、記録された2次元(2D)BRDF構造をモデルに適合させることを意味する。
【0131】
本開示の実施形態は、そのため、あらゆる点で例示的であって限定的ではないと考えられる。本発明の範囲は、添付の特許請求の範囲によって示され、その均等物の趣意及び範囲に及ぶ全ての変更は、その中に含まれることが意図されている。
【0132】
図9は、シェード指標を有する表面輪郭を表し、この場合、表面輪郭がシェードタブに対応する。BRDFライブラリを作成するための基準位置115の典型的な位置は、検出されるシェードに対するテキストラベル116及び色ラベル112を用いて、シェード指標の例と共に表される。成長表面輪郭114の一部分が、表されている。
図9は、ステップS540からの識別された色シェードについてのラベルと共に3次元(3D)表面輪郭の可能な表現110を表す。BRDFグリッドのそれぞれのセルに対して、それぞれのBRDF構造は、1つのシェード値を提供してもよい。シェード値がうまく識別されたならば、空間の対応する領域内の表面は、そのシェード値と関連するラベル112と共に描画される。例えば、Vita Classical(登録商標)シェードタブからのA2シェードは、淡緑色を用いて描画されてもよく、これは、それの任意の既定の色ラベルである。
【0133】
BRDFグリッドは、ラベルを有する3次元(3D)表面の表現上のラベルの空間変動につながる。最小のBRDF距離が予定距離閾値よりも大きいためにシェード値の決定が成功しないならば、色又はテクスチャは、BRDFシェードライブラリから独立しているので、表面は、ラベルによって描画されず、そのため、色付きメッシュ又はテクスチャ付きメッシュ114の元の外観を維持する。この例では、色付きメッシュ114の元の外観は、この金属性表面がBRDFライブラリ内に存在する類似材料に対応しないという事実から生じる。
【0134】
本発明の一例示的実施形態によると、
図1の口腔内撮像装置90は、3次元(3D)歯表面表現を取得し、そして色ベクトルの空間分解された角度分布を取得し、色ベクトルの空間分解された角度分布は、表面データからの1つ又は複数の点位置を、色ベクトルの対応する角度分布に関連付ける。プロセッサ80は、歯表面表現を取得し、そして、1つ又は複数のシェード値を識別するための処理論理命令によってプログラミングされ、それぞれのシェード値が、色ベクトルの角度分布を色ベクトルの基準角度分布の集合と比較することによって、色ベクトルの空間分解された角度分布からの色ベクトルの1つの角度分布と関連付けられ、その集合内のそれぞれの基準角度分布は、対応するシェード値と関連付けられる。ディスプレイ84は、次いで3次元歯表面表現を表示し、そして、識別されたシェード値の指標を表示する。
【0135】
本発明の1つの例示的実施形態と整合して、画像取得のためのシステム関数及び画像データのための画像データ処理を制御する記憶された命令を有するコンピュータプログラムが、電子メモリに記憶され、それからアクセスされる。画像処理技術における当業者によって理解され得るように、本発明の一実施形態のコンピュータプログラムは、本明細書で説明したようにプロセッサがデータを取得し、処理し、伝送し、記憶し、表示するように動作する好適なソフトウェアプログラムを備えているとき、画像プロセッサとして作用するパーソナルコンピュータ又はワークステーション等の好適な多目的コンピュータシステムによって利用されてもよい。例えば、ネットワーク化プロセッサの配列を含む多くの別のタイプのコンピュータシステム構成が用いられて、本発明のコンピュータプログラムを実行してもよい。
【0136】
本発明の方法を実行するためのコンピュータプログラムは、コンピュータ読取り可能記憶媒体内に記憶されてもよい。この媒体は、例えば、ハードディスク若しくは取外し可能デバイス等の磁気ディスク又は磁気テープ等の磁気記録媒体、光ディスク、光学テープ、又は機械可読光学符号化等の光記憶装置メディア、ランダムアクセスメモリ(RAM)又は読出し専用メモリ(ROM)等のソリッドステート電子式記憶デバイス、あるいはコンピュータプログラムを記憶するために利用される別の物理デバイス又は媒体を備えてもよい。本発明の方法を実行するためのコンピュータプログラムは、また、インターネット若しくは別のネットワーク又は通信媒体によって画像プロセッサに接続されるコンピュータ読取り可能記憶媒体に記憶されてもよい。画像データ処理技術における当業者であれば、かかるコンピュータプログラム製品の均等物が、また、ハードウェア内に構成されてもよいことを更に容易に認識するであろう。
【0137】
本開示に関連する「コンピュータアクセス可能なメモリ」に均等な用語「メモリ」は、データベースを含む、画像データを記憶する及びそれにおいて動作するために用いられる、及び計算機システムにアクセス可能ないずれかのタイプの一時的な又はより永続的なデータ記憶作業領域を指す場合がある。例えば、メモリは、不揮発性であってもよく、該メモリは、磁気又は光学記憶装置等の長期記憶媒体を用いる。その代替として、メモリは、より揮発性の性質のものであってもよく、該メモリは、マイクロプロセッサ又は別の制御論理プロセッサデバイスによって一時的バッファ又は作業領域として用いられるランダムアクセスメモリ(RAM)等の電子回路を用いる。表示データは、例えば、一時的記憶バッファ内に典型的に記憶され、該一時的記憶バッファは、ディスプレイ装置と直接関連付けられ、そして、表示データを提供するために必要に応じて定期的に一新される。この一時的記憶バッファは、また、その用語が本開示において用いられるとき、メモリであると考えられてもよい。メモリは、また、計算及び別の処理の中間及び最終結果を実行及び記憶するためのデータ作業領域として用いられる。コンピュータアクセス可能なメモリは、揮発性、不揮発性、又は揮発性タイプと不揮発性タイプとのハイブリッド結合であってもよい。
【0138】
本発明のコンピュータプログラム製品は、周知である様々な画像処理アルゴリズム及び処理を利用してもよいことがわかる。本発明のコンピュータプログラム製品実施形態が、実装に有用である、本明細書に具体的に表されない又は説明されないアルゴリズム及び処理を具現化してもよいことが更にわかるであろう。かかるアルゴリズム及び処理は、画像処理技術についての通常知識内にある従来のユーティリティを含んでもよい。かかるアルゴリズム及びシステム、並びに画像を生成及び別途処理する、又は本発明のコンピュータプログラム製品と協力するためのハードウェア及び/又はソフトウェアについての追加の態様は、本明細書には具体的に表されておらず、又は記載されておらず、そして、当該技術分野で公知のかかるアルゴリズム、システム、ハードウェア、構成要素、及び要素から選択されてもよい。
【0139】
以上、本発明を、詳細かつ、好適な又は現在のところ好ましい例示的実施形態を特に参照して説明したが、変形及び修正が、本発明の趣旨及び範囲内で作用させられてもよい。現在開示されている実施形態は、そのため、すべての点で例示的だが、限定的でないと考えられる。本発明の範囲は、添付の特許請求の範囲によって示され、そして、その均等物の趣意及び範囲内にある全ての変化は、その中に包含されることが意図されている。
【国際調査報告】