IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ アライン テクノロジー, インコーポレイテッドの特許一覧

特開2024-133655口腔内スキャンの為の異物識別及び画像増強及び/又はフィルタリング
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024133655
(43)【公開日】2024-10-02
(54)【発明の名称】口腔内スキャンの為の異物識別及び画像増強及び/又はフィルタリング
(51)【国際特許分類】
   A61C 7/00 20060101AFI20240925BHJP
   A61C 19/04 20060101ALI20240925BHJP
【FI】
A61C7/00
A61C19/04 Z
【審査請求】有
【請求項の数】20
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2024109576
(22)【出願日】2024-07-08
(62)【分割の表示】P 2021552988の分割
【原出願日】2020-03-05
(31)【優先権主張番号】62/815,954
(32)【優先日】2019-03-08
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】16/809,451
(32)【優先日】2020-03-04
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】16/809,457
(32)【優先日】2020-03-04
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】501214845
【氏名又は名称】アライン テクノロジー, インコーポレイテッド
【氏名又は名称原語表記】Align Technology,Inc.
【住所又は居所原語表記】2820 Orchard Parkway San Jose CA 95134 USA
(74)【代理人】
【識別番号】100107364
【弁理士】
【氏名又は名称】斉藤 達也
(72)【発明者】
【氏名】コペルマン,アヴィ
(72)【発明者】
【氏名】サビナ,マイケル
(57)【要約】      (修正有)
【課題】歯科部位の仮想3Dモデルを生成する一方法を提供する。
【解決手段】口腔内スキャン中に、歯科部位の複数の画像を含むスキャンデータが受け取られる。画像の解析が実施される。この解析に基づいて、画像中で、既知の特性を潜在的に有する異物の表現が識別される。上記の複数の画像に基づいて、歯科部位の仮想3Dモデルが生成される。歯科部位の画像及び/又は仮想3Dモデルを修正することが、異物に関する追加データを口腔内画像及び/又は仮想3Dモデルに追加すること、又は異物に関するデータを口腔内画像及び/又は仮想3Dモデルから除去することによって行われる。画像が修正される場合、仮想3Dモデルが生成される前に画像が修正されてよく、仮想3Dモデルは、修正された画像を使用して生成されてよい。
【選択図】図1B
【特許請求の範囲】
【請求項1】
歯科部位の複数の画像を含む口腔内スキャンデータを受け取るステップと、
前記複数の画像に基づいて前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
前記歯科部位の画像に対して解析を実施するステップと、
前記画像中の基準物体の表現を識別するステップであって、前記基準物体は1つ以上の既知の特性を有する、前記識別するステップと、
前記基準物体の前記1つ以上の既知の特性に基づいて、前記基準物体に関する追加データを、前記歯科部位の前記画像又は前記仮想3Dモデルの少なくとも一方に追加することによって、前記画像又は前記仮想3Dモデルの少なくとも一方を修正するステップと、
を含む方法。
【請求項2】
前記画像は、前記仮想3Dモデルの生成に使用される、前記歯科部位の前記複数の画像のうちの1つであり、前記画像は、前記基準物体に関する前記追加データを前記画像に追加することによって修正され、前記画像は、修正されると、前記歯科部位の前記仮想3Dモデルの生成に使用される、請求項1に記載の方法。
【請求項3】
前記画像に対して画像処理を実施して、前記画像中で表現されているありそうな物体を特定するステップであって、前記ありそうな物体は1つ以上の物理的特性を含む、前記特定するステップと、
前記ありそうな物体の前記1つ以上の物理的特性を、前記基準物体の前記1つ以上の既知の特性と比較するステップと、
前記比較の結果として、前記ありそうな物体の前記1つ以上の物理的特性が前記基準物体の前記1つ以上の既知の特性と一致するかどうかを判定するステップと、
前記ありそうな物体が前記基準物体であるかどうかを判定するステップと、
を更に含む、請求項2に記載の方法。
【請求項4】
前記1つ以上の物理的特性は、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、又は形状のうちの少なくとも1つを含む、請求項3に記載の方法。
【請求項5】
前記画像の前記解析を実施する前記ステップは、1つ以上のタイプの基準物体を識別するようにトレーニングされた機械学習モデルに前記画像を入力するステップを含み、前記機械学習モデルは、前記画像中の前記基準物体の前記表現を示すものを出力する、請求項1に記載の方法。
【請求項6】
前記解析が実施される前記画像を、前記仮想3Dモデルを平面に投射することによって生成するステップ
を更に含む、請求項1に記載の方法。
【請求項7】
口腔内スキャン中に、前記修正された画像に基づいて、前記歯科部位のビューを生成するステップであって、前記ビューは、前記基準物体に関する前記追加データに基づく前記基準物体の輪郭を含む、前記ビューを生成する前記ステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加画像を受け取るステップと、
前記複数の追加画像に基づいて、前記基準物体の形状の1つ以上の部分を置き換えるステップと、
前記歯科部位の前記ビューを更新するステップであって、前記更新されたビューは、前記基準物体の前記形状の前記置き換えられた部分を示している、前記更新するステップと、
を更に含む、請求項6に記載の方法。
【請求項8】
前記基準物体の前記表現を識別する前記ステップは、
歯科部位にある1つ以上の異物を識別するようにトレーニングされた機械学習モデルを使用して前記画像を処理するステップと、
前記機械学習モデルの出力を受け取るステップであって、前記出力は、前記画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、前記基準物体の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、前記基準物体の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する、前記出力を受け取る前記ステップと、
を含む、請求項1に記載の方法。
【請求項9】
前記口腔内スキャンデータを受け取る前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記基準物体の複数の画像を受け取るステップと、
前記基準物体の前記複数の画像に基づいて前記基準物体の仮想モデルを生成するステップと、
前記基準物体の前記仮想モデル、又は前記基準物体の前記複数の画像の少なくとも一方を、複数の基準物体のエントリを含む基準物体ライブラリに追加するステップと、
を実施することを更に含む、請求項1に記載の方法。
【請求項10】
前記基準物体が前記歯科部位にあることを示すものを受け取るステップであって、前記示すものは前記基準物体の識別情報を含む、前記示すものを受け取る前記ステップと、
前記基準物体の前記識別情報を使用して、複数の基準物体のエントリを含む基準物体ライブラリに対してクエリを実行するステップと、
前記クエリに対する回答を受け取るステップであって、前記回答は、前記基準物体に関連付けられたデータを含む、前記回答を受け取る前記ステップと、
前記データを使用して、前記画像中の前記基準物体を識別するステップと、
を更に含む、請求項1に記載の方法。
【請求項11】
前記1つ以上の既知の特性は、光の波長に対する、前記基準物体の既知の反射率、光の波長に対する、前記基準物体の既知の屈折率、光の波長に対する、前記基準物体の既知の反応度、前記基準物体の既知のテクスチャ、前記基準物体の既知の表面パターン、前記基準物体の既知の色、又は前記基準物体の既知の形状のうちの少なくとも1つを含む、請求項1に記載の方法。
【請求項12】
前記基準物体に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回るかどうかを判定するステップと、
a)前記基準物体に関する前記追加データを前記画像又は前記仮想3Dモデルの少なくとも一方に追加するか、b)前記画像又は前記仮想3Dモデルの少なくとも一方にある前記基準物体の表現を不変のまま放置するか、の選択肢を提示するステップと、
前記基準物体に関する前記追加データを前記画像又は前記仮想3Dモデルの少なくとも一方に追加するというユーザ選択を受け取るステップと、
を更に含む、請求項1に記載の方法。
【請求項13】
前記基準物体は、前記基準物体の口腔内スキャンの正確さを低下させる原因となる形状又は材料の少なくとも一方を含む、請求項1に記載の方法。
【請求項14】
処理装置によって実行されたときに、
歯科部位の口腔内画像を含む口腔内スキャンデータを受け取るステップと、
前記口腔内画像の解析を実施して、a)前記口腔内画像中で表現されている異物を識別し、b)前記異物が、1つ以上の既知の特性を有する基準物体のインスタンスかどうかを判定するステップと、
前記基準物体の前記1つ以上の既知の特性に基づいて前記異物に関する追加データを前記口腔内画像に追加することにより、前記口腔内画像を修正するステップと、
前記歯科部位の複数の追加口腔内画像を含む追加口腔内スキャンデータを受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とに基づいて前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記処理装置に実施させる命令を含む非一時的コンピュータ可読媒体。
【請求項15】
前記口腔内画像の前記解析を実施する前記ステップは、
前記口腔内画像に対して画像処理を実施して、前記口腔内画像中の複数のありそうな物体を特定するステップであって、前記複数のありそうな物体のそれぞれが1つ以上の物理的特性を含む、前記特定するステップと、
前記複数のありそうな物体のそれぞれについて、前記ありそうな物体の前記1つ以上の物理的特性を、基準物体の複数の既知の特性と比較するステップと、
前記比較の結果として、前記複数のありそうな物体のうちのありそうな物体の前記1つ以上の物理的特性が前記基準物体の前記1つ以上の既知の特性と一致するかどうかを判定するステップと、
前記ありそうな物体が、前記歯科部位にある前記異物かどうかを判定するステップと、
を含む、請求項14に記載の非一時的コンピュータ可読媒体。
【請求項16】
前記1つ以上の物理的特性は、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、又は形状のうちの少なくとも1つを含む、請求項15に記載の非一時的コンピュータ可読媒体。
【請求項17】
前記口腔内スキャンデータ及び前記追加口腔内スキャンデータは口腔内スキャン中に受け取られ、前記追加データは前記異物の形状を含み、前記形状のうちの少なくとも一部分が前記口腔内画像に示さておらず、前記動作は更に、
前記口腔内スキャン中に、前記修正された口腔内画像に基づいて、前記歯科部位のビューを生成するステップであって、前記ビューは、前記異物に関する前記追加データに基づく前記異物の輪郭を含む、前記ビューを生成する前記ステップと、
前記複数の追加口腔内画像に基づいて、前記異物の前記形状の1つ以上の部分を置き換えるステップと、
前記歯科部位の前記ビューを更新するステップであって、前記更新されたビューは、前記異物の前記形状の前記置き換えられた部分を示している、前記更新するステップと、
を含む、請求項14に記載の非一時的コンピュータ可読媒体。
【請求項18】
前記仮想3Dモデル中で表現されている前記異物の少なくとも一部分が、前記異物に関する前記追加データに基づいていて、受け取られた口腔内画像には基づいていない、請求項17に記載の非一時的コンピュータ可読媒体。
【請求項19】
前記動作は、前記口腔内スキャンデータを受け取る前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の複数の画像を受け取るステップと、
前記複数の画像に基づいて前記異物の仮想モデルを生成するステップと、
前記異物の前記仮想モデル、又は前記異物の前記複数の画像の少なくとも一方を、複数の基準物体のエントリを含む基準物体ライブラリに追加するステップと、
を実施することを更に含む、請求項14に記載の非一時的コンピュータ可読媒体。
【請求項20】
前記動作は、
前記異物が前記歯科部位にあることを示すものを受け取るステップであって、前記示すものは前記異物の識別情報を含む、前記示すものを受け取る前記ステップと、
前記異物の前記識別情報を使用して、複数の基準物体のエントリを含む基準物体ライブラリに対してクエリを実行するステップと、
前記クエリに対する回答を受け取るステップであって、前記回答は、前記異物の1つ以上の既知の特性を含み、前記1つ以上の既知の特性は、光の波長に対する、前記異物の既知の反射率、光の波長に対する、前記異物の既知の屈折率、光の波長に対する、前記異物の既知の反応度、前記異物の既知のテクスチャ、前記異物の既知の表面パターン、前記異物の既知の色、又は前記異物の既知の形状のうちの少なくとも1つを含む、前記回答を受け取る前記ステップと、
前記異物の前記1つ以上の既知の特性を使用して、前記口腔内画像中の前記異物を識別するステップと、
を更に含む、請求項14に記載の非一時的コンピュータ可読媒体。
【請求項21】
前記動作は、前記口腔内画像を修正する前に、
前記異物に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回るかどうかを判定するステップと、
a)前記異物に関する前記追加データを前記口腔内画像に追加するか、b)前記口腔内画像中の前記異物の表現を不変のまま放置するか、の選択肢を提示するステップと、
前記異物に関する前記追加データを前記口腔内画像に追加するというユーザ選択を受け取るステップと、
を実施することを更に含む、請求項14に記載の非一時的コンピュータ可読媒体。
【請求項22】
前記動作は、
前記異物のエントリを既知の異物の基準物体ライブラリに追加するステップ
を更に含む、請求項21に記載の非一時的コンピュータ可読媒体。
【請求項23】
口腔内スキャンを実施する手持ち式スキャナと、
プロセッサによって実行されたときに、
歯科部位の口腔内スキャンに関連付けられた口腔内画像を受け取るステップと、
光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つに基づいて、前記口腔内画像中の異物の表現を識別するステップと、
前記異物のより完全な表現を前記口腔内画像に追加することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加口腔内画像を受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記プロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、
を含むシステム。
【請求項24】
歯科部位の口腔内スキャン中に口腔内画像を含むスキャンデータを受け取るステップと、
前記スキャンデータの解析に基づいて前記口腔内画像中の異物の表現を識別するステップと、
前記異物の前記表現を前記口腔内画像から除去することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に、前記歯科部位の複数の追加口腔内画像を含む追加スキャンデータを受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む方法。
【請求項25】
前記歯科部位の前記複数の追加口腔内画像のうちの1つ以上の追加口腔内画像中の前記異物の追加表現を識別するステップと、
前記異物の前記追加表現を前記1つ以上の追加口腔内画像から除去することによって前記1つ以上の追加口腔内画像を修正するステップと、
を更に含み、
前記異物は、前記口腔内画像と前記1つ以上の追加口腔内画像とで前記歯科部位の同じ位置にある静止物体である、
請求項24に記載の方法。
【請求項26】
前記スキャンデータを解析して、光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つを特定するステップと、
光の前記波長に対する、前記異物の前記反射率、光の前記波長に対する、前記異物の前記屈折率、光の前記波長に対する、前記異物の前記反応度、前記異物の前記テクスチャ、前記異物の前記表面パターン、前記異物の前記色、又は前記異物の前記形状のうちの少なくとも1つに基づいて、前記異物の前記表現を識別するステップと、
を更に含む、請求項24に記載の方法。
【請求項27】
前記口腔内画像に対して画像処理を実施して、前記口腔内画像中の複数の形状を特定するステップであって、前記複数の形状は前記異物の形状を含む、前記特定するステップと、
前記口腔内画像中の前記複数の形状を、基準物体の複数の既知の形状と比較するステップと、
前記比較の結果として、前記異物の前記形状が基準物体の既知の形状と一致するかどうかを判定するステップと、
を更に含む、請求項24に記載の方法。
【請求項28】
前記歯科部位の前記口腔内スキャンの前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の複数の画像を受け取るステップと、
前記複数の画像に基づいて前記異物の仮想モデルを生成するステップと、
前記異物の前記仮想モデル、又は前記異物の前記複数の画像の少なくとも一方を、前記基準物体の前記複数の既知の形状を含む基準物体ライブラリに追加するステップと、
を実施することを更に含む、請求項27に記載の方法。
【請求項29】
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数のテクスチャ又は複数の表面パターンの少なくとも一方を識別するステップと、
前記複数のテクスチャのうちの、前記歯科部位に自然には存在しないテクスチャ、又は前記複数の表面パターンのうちの、前記歯科部位に自然には存在しない表面パターンの少なくとも一方を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、請求項24に記載の方法。
【請求項30】
前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を特定する前記ステップは、
a)前記口腔内画像中で識別された前記複数のテクスチャを、基準物体の複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが基準物体の既知のテクスチャと一致するかどうかを判定するステップ、
b)前記口腔内画像中で識別された前記複数の表面パターンを、基準物体の複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが基準物体の既知の表面パターンと一致するかどうかを判定するステップ、
c)前記口腔内画像中で識別された前記複数のテクスチャを、前記歯科部位に自然に存在する複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが、口腔内に自然に存在するいかなる既知のテクスチャとも一致しないかどうかを判定するステップ、又は
d)前記口腔内画像中で識別された前記複数の表面パターンを、前記歯科部位に自然に存在する複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが、前記口腔内に自然に存在するいかなる既知の表面パターンとも一致しないかどうかを判定するステップ、
のうちの少なくとも1つのステップを含む、請求項29に記載の方法。
【請求項31】
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数の色を識別するステップと、
前記複数の色のうちの、前記歯科部位に自然には存在しない少なくとも1つの色を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記少なくとも1つの色を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、請求項24に記載の方法。
【請求項32】
前記歯科部位に自然には存在しない前記少なくとも1つの色を特定する前記ステップは、前記口腔内画像のピクセル又はボクセルごとに、
色エンコード系の各色チャネルについて、飽和値又は強度値の少なくとも一方を調べるステップと、
前記色エンコード系の各色チャネルの前記飽和値又は前記強度値の少なくとも一方を含むタプルを決定するステップと、
前記タプルが指定の色範囲から外れているかどうかを判定するステップと、
を実施することを含み、
前記口腔内画像のうちの、自然には存在しない前記少なくとも1つの色を有する前記領域の輪郭を決定する前記ステップは、前記指定の色範囲から外れているタプルを有する複数の連続したピクセル又はボクセルを特定するステップを含む、
請求項31に記載の方法。
【請求項33】
前記異物が前記歯科部位にあることを示すものを受け取るステップであって、前記示すものは前記異物の識別情報を含む、前記示すものを受け取る前記ステップと、
前記異物の前記識別情報を使用して基準物体ライブラリに対してクエリを実行するステップと、
前記クエリに対する回答を受け取るステップであって、前記回答は、前記異物の1つ以上の既知の特性を含み、前記1つ以上の既知の特性は、光の波長に対する、前記異物の既知の反射率、光の波長に対する、前記異物の既知の屈折率、光の波長に対する、前記異物の既知の反応度、前記異物の既知のテクスチャ、前記異物の既知の表面パターン、前記異物の既知の色、又は前記異物の既知の形状のうちの少なくとも1つを含む、前記回答を受け取る前記ステップと、
前記異物の前記1つ以上の既知の特性を使用して、前記口腔内画像中の前記異物の前記表現を識別するステップと、
を更に含む、請求項24に記載の方法。
【請求項34】
前記口腔内スキャン中に、前記修正された口腔内画像と前記複数の追加口腔内画像とに基づいて前記歯科部位のビューを生成するステップと、
前記異物の輪郭を生成するステップと、
前記異物の前記輪郭を前記ビューに追加するステップと、
前記異物の前記輪郭をユーザが選択することを可能にするユーザインタフェースを提供するステップであって、前記異物の前記輪郭をユーザが選択することは、前記異物の前記表現が前記口腔内画像に戻されることを引き起こし、更に、フィルタで取り除かれるべきではない既知の物体の基準物体ライブラリに前記異物が追加されることを引き起こす、前記提供するステップと、
を更に含む、請求項24に記載の方法。
【請求項35】
前記口腔内画像を修正する前に、
前記異物の前記表現に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回るかどうかを判定するステップと、
a)前記異物の前記表現を前記口腔内画像から除去するか、b)前記異物の前記表現を前記口腔内画像中に放置するか、の選択肢を提示するステップと、
前記異物の前記表現を前記口腔内画像から除去するというユーザ選択を受け取るステップと、
を実施することを更に含む、請求項24に記載の方法。
【請求項36】
前記異物の1つ以上の特性を特定するステップであって、前記1つ以上の特性は、光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つを含む、前記特定するステップと、
フィルタで取り除くべき既知の異物の基準物体ライブラリに前記異物のエントリを追加するステップと、
を更に含む、請求項35に記載の方法。
【請求項37】
前記異物の前記表現を識別する前記ステップは、
歯科部位にある異物を識別するようにトレーニングされた機械学習モデルを使用して前記口腔内画像を処理するステップと、
前記機械学習モデルの出力を受け取るステップであって、前記出力は、前記口腔内画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、前記異物の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、前記異物の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する、前記出力を受け取る前記ステップと、
を含み、
前記口腔内画像は前記バイナリマスクを使用して修正される、
請求項35に記載の方法。
【請求項38】
処理装置によって実行されたときに、
歯科部位の口腔内スキャン中に口腔内画像を含むスキャンデータを受け取るステップと、
前記スキャンデータの解析に基づいて前記口腔内画像中の異物の表現を識別するステップと、
前記異物の前記表現を前記口腔内画像から除去することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に、前記歯科部位の複数の追加口腔内画像を含む追加スキャンデータを受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記処理装置に実施させる命令を含む非一時的コンピュータ可読媒体。
【請求項39】
前記動作は、
前記歯科部位の前記複数の追加口腔内画像のうちの1つ以上の追加口腔内画像中の前記異物の追加表現を識別するステップと、
前記異物の前記追加表現を前記1つ以上の追加口腔内画像から除去することによって前記1つ以上の追加口腔内画像を修正するステップと、
を更に含み、
前記異物は、前記口腔内画像と前記1つ以上の追加口腔内画像とで前記歯科部位の同じ位置にある静止物体である、
請求項38に記載の方法。
【請求項40】
前記動作は、
前記スキャンデータを解析して、光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つを特定するステップと、
光の波長に対する、前記異物の前記反射率、光の波長に対する、前記異物の前記屈折率、光の波長に対する、前記異物の前記反応度、前記異物の前記テクスチャ、前記異物の前記表面パターン、前記異物の前記色、又は前記異物の前記形状のうちの少なくとも1つに基づいて、前記異物の前記表現を識別するステップと、
を更に含む、請求項38に記載の非一時的コンピュータ可読媒体。
【請求項41】
前記動作は、
前記口腔内画像に対して画像処理を実施して、前記口腔内画像中の複数の形状を特定するステップであって、前記複数の形状は前記異物の形状を含む、前記特定するステップと、
前記口腔内画像中の前記複数の形状を、基準物体の複数の既知の形状と比較するステップと、
前記比較の結果として、前記異物の前記形状が基準物体の既知の形状と一致するかどうかを判定するステップと、
を更に含む、請求項38に記載の非一時的コンピュータ可読媒体。
【請求項42】
前記動作は、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の複数の画像を受け取るステップと、
前記複数の画像に基づいて前記異物の仮想モデルを生成するステップと、
前記異物の前記仮想モデル、又は前記異物の前記複数の画像の少なくとも一方を、前記基準物体の前記複数の既知の形状を含む基準物体ライブラリに追加するステップと、
を更に含む、請求項41に記載の非一時的コンピュータ可読媒体。
【請求項43】
前記動作は、
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数のテクスチャ又は複数の表面パターンの少なくとも一方を識別するステップと、
前記複数のテクスチャのうちの、前記歯科部位に自然には存在しないテクスチャ、又は前記複数の表面パターンのうちの、前記歯科部位に自然には存在しない表面パターンの少なくとも一方を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、請求項38に記載の非一時的コンピュータ可読媒体。
【請求項44】
前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を特定する前記ステップは、
a)前記口腔内画像中で識別された前記複数のテクスチャを、基準物体の複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが基準物体の既知のテクスチャと一致するかどうかを判定するステップ、
b)前記口腔内画像中で識別された前記複数の表面パターンを、基準物体の複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが基準物体の既知の表面パターンと一致するかどうかを判定するステップ、
c)前記口腔内画像中で識別された前記複数のテクスチャを、前記歯科部位に自然に存在する複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが、口腔内に自然に存在するいかなる既知のテクスチャとも一致しないかどうかを判定するステップ、又は
d)前記口腔内画像中で識別された前記複数の表面パターンを、前記歯科部位に自然に存在する複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが、前記口腔内に自然に存在するいかなる既知の表面パターンとも一致しないかどうかを判定するステップ、
のうちの少なくとも1つのステップを含む、請求項43に記載の非一時的コンピュータ可読媒体。
【請求項45】
前記動作は、
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数の色を識別するステップと、
前記複数の色のうちの、前記歯科部位に自然には存在しない少なくとも1つの色を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記少なくとも1つの色を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、請求項38に記載の非一時的コンピュータ可読媒体。
【請求項46】
口腔内スキャンを実施する手持ち式スキャナと、
プロセッサによって実行されたときに、
歯科部位の口腔内スキャン中に口腔内画像を受け取るステップと、
光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つに基づいて、前記口腔内画像中の異物の表現を識別するステップと、
前記異物の前記表現を前記口腔内画像から除去することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加口腔内画像を受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記プロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、
を含むシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示の実施形態は口腔内スキャンの分野に関し、特に、口腔内スキャン中に生成される口腔内画像のリアルタイムフィルタリングを実施するシステム及び方法に関する。
【背景技術】
【0002】
口腔内に歯科補綴物を挿入するように計画された歯科補綴学的処置では、補綴物を植え付ける歯科部位については、多くの場合、正確な測定と慎重な検討が必要であり、それによって、補綴物(例えば、クラウン、義歯、又はブリッジ等)を、定位置にぴったり収まるように適切に設計及び寸法決定することが可能になる。ぴったり収まることにより、機械的応力が補綴物と顎との間を適切に伝わることが可能になり、例えば、機械的応力によって、補綴物と歯科部位との境目からの歯肉の感染を防ぐことが可能である。
【0003】
処置によっては、1つ以上の欠損歯の代わりとなる取り外し可能な補綴物(例えば、部分義歯又は総義歯)を作成することも必要であり、その場合は、作成された補綴物が軟組織に均一な圧力をかけて無歯領域にぴったり被さるように、歯が欠損している範囲の表面輪郭を正確に再現する必要がある。
【0004】
診療によっては、歯科開業医によって歯科部位のプレパレーションが行われて、歯科部位の陽型物理モデルが既知の方法で作成される。或いは、歯科部位をスキャンして、歯科部位の3Dデータ(即ち、高さマップ等の口腔内画像の形式のデータ)が得られる。いずれの場合も、歯科部位の仮想モデル又は現実モデルが歯科技工所に送られ、歯科技工所はそのモデルに基づいて補綴物を製作する。しかしながら、モデルの特定の範囲が不完全又は不確定である場合や、プレパレーションの形状が補綴物を受けることに関して最適でなかった場合には、補綴物の設計が最適ではなくなる可能性がある。例えば、コーピングの緊密な嵌合の為のプレパレーションによって定まる挿入経路の結果として補綴物が隣接歯とぶつかる場合には、ぶつからないようにコーピングのジオメトリを変更しなければならず、その結果として、コーピングの設計が最適ではなくなる可能性がある。更に、フィニッシュラインを含むプレパレーションの範囲が明確でない場合には、フィニッシュラインの適切な決定ができない可能性があり、従って、コーピングの下部エッジの適切な設計ができなくなる。実際、状況によっては、モデルが不合格になって、歯科開業医は、適切な補綴物が製作可能になるように、歯科部位の再スキャン、或いはプレパレーションのやり直しを行う。
【0005】
歯列矯正処置では、一方又は両方の顎のモデルを用意することが重要な場合がある。そのような歯列矯正処置を仮想的に設計する場合には、口腔の仮想モデルも有益である。そのような仮想モデルは、口腔を直接スキャンすることによって、又は、歯列の物理モデルを製作し、そのモデルを適切なスキャナでスキャンすることによって得られる。
【0006】
従って、補綴処置及び歯列矯正処置のいずれにおいても、口腔内の歯科部位の3次元(3D)モデルを取得することが、実施される最初の処置である。3Dモデルが仮想モデルの場合には、歯科部位のスキャンが完全且つ正確であるほど、仮想モデルの品質が高くなり、従って、補綴物又は歯列矯正処置器具の設計が最適である可能性が高くなる。
【0007】
口腔内スキャンセッション中に、患者の口腔内に異物があることが多い。そのような異物があると、生成される仮想モデルの精度が低下する可能性がある。例えば、画像処理アルゴリズムは、異物が歯列弓の一部であると見なし、その異物の形状に基づいて歯列弓の1つ以上の領域の形状を調節する可能性がある。更に、異物は、異なる口腔内画像が生成される間に動く可能性があり、これは画像レジストレーションを妨害しうる。
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明は、上記従来の技術における課題を解決するためになされたものである。
【課題を解決するための手段】
【0009】
本開示の第1の態様では、一方法が、歯科部位の口腔内スキャン中に口腔内画像を含むスキャンデータを受け取るステップと、スキャンデータの解析に基づいて口腔内画像中の異物の表現を識別するステップと、異物の表現を口腔内画像から除去することによって口腔内画像を修正するステップと、口腔内スキャン中に、歯科部位の複数の追加口腔内画像を含む追加スキャンデータを受け取るステップと、修正された口腔内画像と複数の追加口腔内画像とを使用して歯科部位の仮想3次元(3D)モデルを生成するステップと、を含む。
【0010】
本開示の第2の態様は、本開示の第1の態様を拡張してよい。本開示の第2の態様では、本方法は更に、歯科部位の複数の追加口腔内画像のうちの1つ以上の追加口腔内画像中の異物の追加表現を識別するステップと、異物の追加表現を1つ以上の追加口腔内画像から除去することによって1つ以上の追加口腔内画像を修正するステップと、を含み、異物は、口腔内画像と1つ以上の追加口腔内画像とで歯科部位の同じ位置にある静止物体である。
【0011】
本開示の第3の態様は、本開示の第1又は2の態様を拡張してよい。本開示の第3の態様では、本方法は更に、スキャンデータを解析して、光の波長に対する異物の反射率、光の波長に対する異物の屈折率、光の波長に対する異物の反応度、異物のテクスチャ、異物の表面パターン、異物の色、又は異物の形状のうちの少なくとも1つを特定するステップと、光の波長に対する異物の反射率、光の波長に対する異物の屈折率、光の波長に対する異物の反応度、異物のテクスチャ、異物の表面パターン、異物の色、又は異物の形状のうちの少なくとも1つに基づいて、異物の表現を識別するステップと、を含む。
【0012】
本開示の第4の態様は、本開示の第1~3の態様を拡張してよい。本開示の第4の態様では、本方法は更に、口腔内画像に対して画像処理を実施して、口腔内画像中の複数の形状を特定するステップであって、複数の形状は異物の形状を含む、上記特定するステップと、口腔内画像中の複数の形状を、基準物体の複数の既知の形状と比較するステップと、比較の結果として、異物の形状が基準物体の既知の形状と一致するかどうかを判定するステップと、を含む。
【0013】
本開示の第5の態様は、本開示の第4の態様を拡張してよい。本開示の第5の態様では、本方法は更に、歯科部位の口腔内スキャンの前に、トレーニングモードに入るステップと、トレーニングモード中に異物の複数の画像を受け取るステップと、複数の画像に基づいて異物の仮想モデルを生成するステップと、異物の仮想モデル、又は異物の複数の画像の少なくとも一方を、基準物体の複数の既知の形状を含む基準物体ライブラリに追加するステップと、を実施することを含む。
【0014】
本開示の第6の態様は、本開示の第1~5の態様を拡張してよい。本開示の第6の態様では、本方法は更に、口腔内画像の画像処理を実施して、口腔内画像中の複数のテクスチャ又は複数の表面パターンの少なくとも一方を識別するステップと、複数のテクスチャのうちの、歯科部位に自然には存在しないテクスチャ、又は複数の表面パターンのうちの、歯科部位に自然には存在しない表面パターンの少なくとも一方を特定するステップと、口腔内画像のうちの、歯科部位に自然には存在しないテクスチャ又は表面パターンの少なくとも一方を有する領域の輪郭を決定するステップであって、口腔内画像のうちの輪郭内の領域が口腔内画像から除去される、上記決定するステップと、を含む。
【0015】
本開示の第7の態様は、本開示の第6の態様を拡張してよい。本開示の第7の態様では、歯科部位に自然には存在しないテクスチャ又は表面パターンの少なくとも一方を特定するステップは、a)口腔内画像中で識別された複数のテクスチャを、基準物体の複数の既知のテクスチャと比較し、比較の結果として、少なくとも1つのテクスチャが基準物体の既知のテクスチャと一致するかどうかを判定するステップ、b)口腔内画像中で識別された複数の表面パターンを、基準物体の複数の既知の表面パターンと比較し、比較の結果として、少なくとも1つの表面パターンが基準物体の既知の表面パターンと一致するかどうかを判定するステップ、c)口腔内画像中で識別された複数のテクスチャを、歯科部位に自然に存在する複数の既知のテクスチャと比較し、比較の結果として、少なくとも1つのテクスチャが、口腔内に自然に存在するいかなる既知のテクスチャとも一致しないかどうかを判定するステップ、又はd)口腔内画像中で識別された複数の表面パターンを、歯科部位に自然に存在する複数の既知の表面パターンと比較し、比較の結果として、少なくとも1つの表面パターンが、口腔内に自然に存在するいかなる既知の表面パターンとも一致しないかどうかを判定するステップ、のうちの少なくとも1つを含む。
【0016】
本開示の第8の態様は、本開示の第1~7の態様を拡張してよい。本開示の第8の態様では、本方法は更に、口腔内画像の画像処理を実施して、口腔内画像中の複数の色を識別するステップと、複数の色のうちの、歯科部位に自然には存在しない少なくとも1つの色を特定するステップと、口腔内画像のうちの、歯科部位に自然には存在しない少なくとも1つの色を有する領域の輪郭を決定するステップであって、口腔内画像のうちの上記輪郭内の領域が口腔内画像から除去される、上記決定するステップと、を含む。
【0017】
本開示の第9の態様は、本開示の第8の態様を拡張してよい。本開示の第9の態様では、歯科部位に自然には存在しない少なくとも1つの色を特定するステップは、口腔内画像のピクセル又はボクセルごとに、色エンコード系の各色チャネルについて、飽和値又は強度値の少なくとも一方を調べるステップと、色エンコード系の各色チャネルの飽和値又は強度値の少なくとも一方を含むタプルを決定するステップと、タプルが指定の色範囲から外れているかどうかを判定するステップと、を実施することを含み、口腔内画像のうちの、自然には存在しない少なくとも1つの色を有する領域の輪郭を決定するステップは、指定の色範囲から外れているタプルを有する複数の連続したピクセル又はボクセルを特定するステップを含む。
【0018】
本開示の第10の態様は、本開示の第1~9の態様を拡張してよい。本開示の第10の態様では、本方法は更に、異物が歯科部位にあることを示すものを受け取るステップであって、この示すものは異物の識別情報を含む、示すものを受け取る上記ステップと、異物の識別情報を使用して基準物体ライブラリに対してクエリを実行するステップと、クエリに対する回答を受け取るステップであって、回答は、異物の1つ以上の既知の特性を含み、1つ以上の既知の特性は、光の波長に対する、異物の既知の反射率、光の波長に対する、異物の既知の屈折率、光の波長に対する、異物の既知の反応度、異物の既知のテクスチャ、異物の既知の表面パターン、異物の既知の色、又は異物の既知の形状のうちの少なくとも1つを含む、回答を受け取る上記ステップと、異物の1つ以上の既知の特性を使用して、口腔内画像中の異物の表現を識別するステップと、を含む。
【0019】
本開示の第11の態様は、本開示の第1~10の態様を拡張してよい。本開示の第11の態様では、本方法は更に、口腔内スキャン中に、修正された口腔内画像と1つ以上の追加口腔内画像とに基づいて歯科部位のビューを生成するステップと、異物の輪郭を生成するステップと、異物の輪郭をビューに追加するステップと、異物の輪郭をユーザが選択することを可能にするユーザインタフェースを提供するステップであって、異物の輪郭をユーザが選択することは、異物の表現が口腔内画像に戻されることを引き起こし、更に、フィルタで取り除かれるべきではない既知の物体の基準物体ライブラリに異物が追加されることを引き起こす、上記提供するステップと、を含む。
【0020】
本開示の第12の態様は、本開示の第1~11の態様を拡張してよい。本開示の第12の態様では、本方法は更に、口腔内画像を修正する前に、異物の表現に関連付けられた信頼値を決定するステップと、信頼値が信頼閾値を下回るかどうかを判定するステップと、a)異物の表現を口腔内画像から除去するか、b)異物の表現を口腔内画像中に放置するか、の選択肢を提示するステップと、異物の表現を口腔内画像から除去するというユーザ選択を受け取るステップと、を実施することを含む。
【0021】
本開示の第13の態様は、本開示の第12の態様を拡張してよい。本開示の第13の態様では、本方法は更に、異物の1つ以上の特性を特定するステップであって、1つ以上の特性は、光の波長に対する、異物の反射率、光の波長に対する、異物の屈折率、光の波長に対する、異物の反応度、異物のテクスチャ、異物の表面パターン、異物の色、又は異物の形状のうちの少なくとも1つを含む、上記特定するステップと、フィルタで取り除くべき既知の異物の基準物体ライブラリに異物のエントリを追加するステップと、を含む。
【0022】
本開示の第14の態様は、本開示の第12又は13の態様を拡張してよい。本開示の第14の態様では、異物の表現を識別するステップは、歯科部位にある異物を識別するようにトレーニングされた機械学習モデルを使用して口腔内画像を処理するステップと、機械学習モデルの出力を受け取るステップであって、出力は、口腔内画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、異物の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、異物の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する、出力を受け取る上記ステップと、を含み、口腔内画像はバイナリマスクを使用して修正される。
【0023】
本開示の第15の態様では、一方法が、歯科部位の複数の画像を含む口腔内スキャンデータを受け取るステップと、複数の画像に基づいて歯科部位の仮想3次元(3D)モデルを生成するステップと、歯科部位の画像に対して解析を実施するステップと、画像中の基準物体の表現を識別するステップであって、基準物体は1つ以上の既知の特性を有する、上記識別するステップと、基準物体の1つ以上の既知の特性に基づいて、基準物体に関する追加データを、歯科部位の画像又は仮想3Dモデルの少なくとも一方に追加することによって、歯科部位の画像又は仮想3Dモデルの少なくとも一方を修正するステップと、を含む。
【0024】
本開示の第16の態様は、本開示の第15の態様を拡張してよい。本開示の第16の態様では、画像は、仮想3Dモデルの生成に使用される、歯科部位の複数の画像のうちの1つであり、画像は、基準物体に関する追加データを画像に追加することによって修正され、画像は、修正されると、歯科部位の仮想3Dモデルの生成に使用される。
【0025】
本開示の第17の態様は、本開示の第16の態様を拡張してよい。本開示の第17の態様では、本方法は更に、画像に対して画像処理を実施して、画像中で表現されているありそうな物体を特定するステップであって、ありそうな物体は1つ以上の物理的特性を含む、上記特定するステップと、ありそうな物体の1つ以上の物理的特性を、基準物体の1つ以上の既知の特性と比較するステップと、比較の結果として、ありそうな物体の1つ以上の物理的特性が基準物体の1つ以上の既知の特性と一致するかどうかを判定するステップと、ありそうな物体が基準物体であるかどうかを判定するステップと、を含む。
【0026】
本開示の第18の態様は、本開示の第17の態様を拡張してよい。本開示の第18の態様では、1つ以上の物理的特性は、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、又は形状のうちの少なくとも1つを含む。
【0027】
本開示の第19の態様は、本開示の第15~18の態様のいずれかを拡張してよい。本開示の第19の態様では、画像の解析を実施するステップは、1つ以上のタイプの基準物体を識別するようにトレーニングされた機械学習モデルに画像を入力するステップを含み、機械学習モデルは、画像中の基準物体の表現を示すものを出力する。
【0028】
本開示の第20の態様は、本開示の第15又は19の態様を拡張してよい。本開示の第20の態様では、本方法は更に、解析が実施される画像を、仮想3Dモデルを平面に投射することによって生成するステップを含む。
【0029】
本開示の第21の態様は、本開示の第20の態様を拡張してよい。本開示の第21の態様では、本方法は更に、口腔内スキャン中に、修正された画像に基づいて、歯科部位のビューを生成するステップであって、ビューは、基準物体に関する追加データに基づく基準物体の輪郭を含む、ビューを生成する上記ステップと、口腔内スキャン中に歯科部位の複数の追加画像を受け取るステップと、複数の追加画像に基づいて、基準物体の形状の1つ以上の部分を置き換えるステップと、歯科部位のビューを更新するステップであって、更新されたビューは、基準物体の形状の置き換えられた部分を示している、上記更新するステップと、を含む。
【0030】
本開示の第22の態様は、本開示の第15~21の態様のいずれかを拡張してよい。本開示の第22の態様では、基準物体の表現を識別するステップは、歯科部位にある1つ以上の異物を識別するようにトレーニングされた機械学習モデルを使用して画像を処理するステップと、機械学習モデルの出力を受け取るステップであって、出力は、画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、基準物体の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、基準物体の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する、出力を受け取る上記ステップと、を含む。
【0031】
本開示の第23の態様は、本開示の第15~22の態様のいずれかを拡張してよい。本開示の第23の態様では、本方法は更に、口腔内スキャンデータを受け取る前に、トレーニングモードに入るステップと、トレーニングモード中に基準物体の複数の画像を受け取るステップと、基準物体の複数の画像に基づいて基準物体の仮想モデルを生成するステップと、基準物体の仮想モデル、又は基準物体の複数の画像の少なくとも一方を、複数の基準物体のエントリを含む基準物体ライブラリに追加するステップと、を実施することを含む。
【0032】
本開示の第24の態様は、本開示の第15~23の態様のいずれかを拡張してよい。本開示の第24の態様では、本方法は更に、基準物体が歯科部位にあることを示すものを受け取るステップであって、この示すものは基準物体の識別情報を含む、示すものを受け取る上記ステップと、基準物体の識別情報を使用して、複数の基準物体のエントリを含む基準物体ライブラリに対してクエリを実行するステップと、クエリに対する回答を受け取るステップであって、回答は、基準物体に関連付けられたデータを含む、回答を受け取る上記ステップと、データを使用して、画像中の基準物体を識別するステップと、を含む。
【0033】
本開示の第25の態様は、本開示の第15~24の態様のいずれかを拡張してよい。本開示の第25の態様では、1つ以上の既知の特性は、光の波長に対する、基準物体の既知の反射率、光の波長に対する、基準物体の既知の屈折率、光の波長に対する、基準物体の既知の反応度、基準物体の既知のテクスチャ、基準物体の既知の表面パターン、基準物体の既知の色、又は基準物体の既知の形状のうちの少なくとも1つを含む。
【0034】
本開示の第26の態様は、本開示の第15~25の態様のいずれかを拡張してよい。本開示の第26の態様では、本方法は更に、基準物体に関連付けられた信頼値を決定するステップと、信頼値が信頼閾値を下回るかどうかを判定するステップと、a)基準物体に関する追加データを画像又は仮想3Dモデルの少なくとも一方に追加するか、b)画像又は仮想3Dモデルの少なくとも一方にある基準物体の表現を不変のまま放置するか、の選択肢を提示するステップと、基準物体に関する追加データを画像又は仮想3Dモデルの少なくとも一方に追加するというユーザ選択を受け取るステップと、を含む。
【0035】
本開示の第27の態様は、本開示の第15~26の態様のいずれかを拡張してよい。本開示の第27の態様では、基準物体は、基準物体の口腔内スキャンの正確さを低下させる原因となる形状又は材料の少なくとも一方を含む。
【0036】
本開示の更なる態様は、処理装置によって実行されたときに、上述の開示の第1~27の態様のうちの1つ以上の態様の方法を処理装置に実施させる命令を含むコンピュータ可読媒体を含む。
【0037】
本開示の更なる態様は、口腔内スキャンを実施する手持ち式スキャナと、プロセッサによって実行されたときに、本開示の第1~27の態様のうちの1つ以上の態様の方法の動作をプロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、を含むシステムを含む。
【0038】
本開示の更なる態様は、口腔内スキャンを実施する手持ち式スキャナと、本開示の第1~27の態様のうちの1つ以上の態様の方法を実行するコンピューティング装置と、を含むシステムを含む。
【0039】
本開示は、添付図面の各図において限定ではなく例として示されている。
【図面の簡単な説明】
【0040】
図1A】口腔内スキャンの実施、及び歯科部位の仮想3次元モデルの生成の為のシステムの一実施形態を示す。
図1B】本開示の実施形態による、口腔内画像中の異物の表現を識別する方法のフロー図を示す。
図2】本開示の実施形態による、口腔内画像から異物の表現をフィルタで取り除く方法のフロー図を示す。
図3】本開示の実施形態による、口腔内画像中の異物を識別する方法のフロー図を示す。
図4】本開示の実施形態による、異物基準ライブラリに異物のエントリを追加する方法のフロー図を示す。
図5】本開示の実施形態による、異物基準ライブラリを使用して口腔内画像中の異物を識別する方法のフロー図を示す。
図6】本開示の実施形態による、色に基づいて口腔内画像中の異物を識別する方法のフロー図を示す。
図7】本開示の実施形態による、口腔内画像中の異物を管理する為のユーザインタフェースを提供する方法のフロー図を示す。
図8】本開示の実施形態による、口腔内画像中の異物を管理する為のユーザインタフェースを提供する別の方法のフロー図を示す。
図9】本開示の実施形態による、トレーニング済み機械学習モデルの使用に基づいて、口腔内画像から異物の表現をフィルタで取り除く方法のフロー図を示す。
図10】一例示的歯列弓の一部分と、その上に置かれた異物とを示す。
図11】本開示の一実施形態による、異物の第1の表現を含む第1の口腔内画像を示す。
図12】本開示の一実施形態による、図11の第1の口腔内画像の修正版を示しており、第1の口腔内画像の修正版では異物がフィルタで取り除かれている。
図13A】本開示の一実施形態による、一例示的歯列弓の一部分と、その上に置かれた異物とのビューを示す。
図13B】本開示の一実施形態による、異物の未スキャン領域が示されている、図13Aのビューを示す。
図14】本開示の実施形態による、一例示的コンピューティング装置のブロック図を示す。
図15】実施形態による、複数の器具を使用する歯列矯正治療の方法を示す。
図16】実施形態による、歯列矯正器具を設計する方法を示す。
図17】実施形態による、歯列矯正治療をデジタルで計画する方法を示す。
【発明を実施するための形態】
【0041】
本明細書では、1つ以上の異物を含む歯科部位に対して行われる口腔内スキャンの品質を高める方法及び装置について記載する。口腔内スキャン中に妨害状況が発生することが多く、各妨害状況は、口腔内スキャン中に生成される口腔内画像内に1つ以上の異物が存在することを含む。幾つかの実施形態では、口腔内画像は高さマップであってよく、或いは高さマップを含んでよい。例えば、口腔内画像は2D高さマップであってよく、これは、高さマップ中の各画素の深度値を含む。口腔内スキャン中にそのような高さマップを生成する口腔内スキャナの一例として、アライン・テクノロジ・インコーポレイテッド(Align Technology, Inc.)製のiTero(登録商標)口腔内デジタルスキャナがある。
【0042】
口腔内スキャン(例えば、口腔内画像及び/又は高さマップ)における異物として、口腔内に自然に存在するがスキャン対象の歯列弓の一部ではない物体(例えば、唾液、血液、舌、泡等)がありうる。そのような異物としては又、口腔内に自然には存在しない物体もありうる(例えば、コットンロール、口腔内スキャナのオペレータの指、吸引装置、エアブロー装置、歯鏡、コード、手、手袋等)。口腔内スキャンデータ(即ち、口腔内画像)中に異物が存在すると、それらの口腔内画像の処理速度が遅くなって、それらの口腔内画像から生成される仮想3Dモデルの精度が低下する可能性がある。そこで、本明細書に記載の実施形態は、異物が画像レジストレーション及び/又は仮想モデル生成に使用される前に、それらの異物の描写をリアルタイム又は近リアルタイムで(例えば、画像が生成された時点で)フィルタで取り除く(即ち、除去する)手法を提供する。口腔内画像に対して更なる処理を実施する前にそれらの口腔内画像から異物を除去することにより、その更なる処理の速度及び/又は精度を高めることが可能である。例えば、画像レジストレーションの速度を高めることが可能であり、画像レジストレーションの精度を高めることが可能であり、画像のレジストレーションの失敗のインスタンス数を減らすことが可能であり、生成される3D仮想モデルの精度を高めることが可能であり、3D仮想モデルの生成速度を高めることが可能である。更に、異物に起因する問題を考慮し、これを軽減する処理集約的な動作を省略できる為、画像処理の速度を更に高めることが可能である。
【0043】
注目すべきことに、異物を検出し、そのような異物を口腔内画像から除去することは、1つの画像を使用して実施可能であり、静的な(即ち、動いていない)物体に対して実施可能である。このことは、動いている不要な物体を識別して画像から除去する(スペースカービング法と呼ばれる)従来の多くの手法と対照的である。そのような、動いている物体を識別して除去する従来のスペースカービング法は、単一の画像に対しては動作できず、あるビデオの複数フレーム間、又はある領域の複数画像間で動かない物体に対しては有効ではない。対照的に、本明細書に記載の手法は、静止物体を識別して除去することが可能であり、単一の画像に対して動作しうる。
【0044】
別の実施形態では、歯科部位の画像(例えば、口腔内スキャナによって生成された口腔内画像、又は歯科部位の仮想3Dモデルを3D面又は3D平面に投射することによって生成された画像)において、且つ/又は歯科部位の仮想3Dモデルにおいて、既知の基準物体が識別されてよい。次に、基準物体の既知の特性に基づいて、基準物体に関する追加情報を歯科部位の画像及び/又は仮想3Dモデルに追加することによって、歯科部位の画像及び/又は仮想3Dモデルを修正してよい。
【0045】
一実施形態では、コンピュータ実装方法が、歯科部位の口腔内スキャン中に口腔内画像を含むスキャンデータを受け取るステップと、スキャンデータの解析に基づいて口腔内画像中の異物の表現を識別するステップと、を含む。本コンピュータ実装方法は更に、口腔内画像から異物の表現を除去することによって口腔内画像を修正するステップを含む。本コンピュータ実装方法は更に、口腔内スキャン中に歯科部位の複数の追加口腔内画像を含む追加スキャンデータを受け取るステップを含む。本コンピュータ実装方法は更に、修正された口腔内画像と複数の追加口腔内画像とを使用して歯科部位の仮想3次元(3D)モデルを生成するステップを含む。
【0046】
一実施形態では、非一時的コンピュータ可読媒体が、処理装置によって実行されたときに一連の動作を処理装置に実施させる命令を含む。これらの動作は、歯科部位の口腔内スキャン中に口腔内画像を受け取るステップと、口腔内画像に対して画像処理を実施して、口腔内画像中の複数のありそうな物体を特定するステップであって、複数のありそうな物体のそれぞれは1つ以上の物理的特性を含む、上記特定するステップと、を含む。これらの動作は更に、複数のありそうな物体のそれぞれについて、ありそうな物体の1つ以上の物理的特性を、基準物体の複数の既知の特性と比較するステップを含む。これらの動作は更に、比較の結果として、複数のありそうな物体の中のありそうな物体の1つ以上の物理的特性が基準物体の1つ以上の既知の特性と一致するかどうかを判定するステップを含む。これらの動作は更に、そのありそうな物体がその口腔内部位における異物であるかどうかを判定し、その後、基準物体の1つ以上の既知の特性に基づいて、その異物に関する追加データを口腔内画像に追加することによって口腔内画像を修正するステップを含む。
【0047】
一実施形態では、歯科部位の仮想3Dモデルを生成する方法が、歯科部位の複数の画像を含む口腔内スキャンデータを受け取るステップを含む。本方法は更に、その複数の画像に基づいて歯科部位の仮想3次元(3D)モデルを生成するステップを含む。本方法は更に、歯科部位の画像に対して解析を実施するステップを含む。この画像は、受け取った口腔内スキャンデータに含まれる画像のうちの1つであってよい。或いは、この画像は、歯科部位の仮想3Dモデルを2D面又は2D平面に投射することによって生成されてよい。この画像は、歯科部位の高さマップであってよく、又は高さマップを含んでよい。本方法は更に、画像中の基準物体の表現を識別するステップであって、基準物体は1つ以上の既知の特性を有する、上記識別するステップを含む。本方法は更に、基準物体の1つ以上の既知の特性に基づいて、基準物体に関する追加データを、歯科部位の画像又は仮想3Dモデルの少なくとも一方に追加することによって、歯科部位の画像又は仮想3Dモデルの少なくとも一方を修正するステップを含む。これにより、既知の基準物体に関する正確な情報で画像及び/又は仮想3Dモデルを増強することによって、画像及び仮想3Dモデルを改良することが可能になる。従って、本明細書に記載の手法を用いることにより、画像及び仮想3Dモデルにおいて、スキャンが困難な基準物体(例えば、チタンで作られた基準物体)の精度を高めることが可能である。
【0048】
一実施形態では、システムが、口腔内を実施する為の手持ち式スキャナと、プロセッサによって実行されたときに上述の一連の動作をプロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、を含む。
【0049】
図1Aは、口腔内スキャンの実施、及び/又は歯科部位の仮想3次元(3D)モデルの生成の為のシステムの一実施形態100を示す。一実施形態では、システム100は、図1B~9を参照して後述する方法の1つ以上の動作を実施する。システム100では、コンピューティング装置105がスキャナ150及び/又はデータストア110と結合されてよい。
【0050】
コンピューティング装置105は、処理装置、メモリ、二次記憶装置、1つ以上の入力装置(例えば、キーボード、マウス、タブレット等)、1つ以上の出力装置(例えば、ディスプレイ、プリンタ等)、及び/又は他のハードウェアコンポーネントを含んでよい。コンピューティング装置105は、直接又はネットワーク経由でデータストア110と接続されてよい。ネットワークは、ローカルエリアネットワーク(LAN)、公衆ワイドエリアネットワーク(WAN)(例えば、インターネット)、プライベートWAN(例えば、イントラネット)、又はこれらの組み合わせであってよい。コンピューティング装置105及び/又はデータストア110は、幾つかの実施形態では、性能及び移動性を高める為にスキャナ150に組み込まれてよい。
【0051】
データストア110は内部データストアであってよく、又は、直接又はネットワーク経由でコンピューティング装置105と接続された外部データストアであってよい。ネットワークデータストアの例として、ストレージエリアネットワーク(SAN)、ネットワークアタッチトストレージ(NAS)、及びクラウドコンピューティングサービスプロバイダが提供するストレージサービスがある。データストア110は、ファイルシステム、データベース、又は他のデータストレージ構成を含んでよい。
【0052】
幾つかの実施形態では、患者の口腔内の歯科部位の3次元(3D)データを取得するスキャナ150(口腔内スキャナと呼ばれる)もコンピューティング装置105と作用的に接続されてよい。スキャナ150は、(例えば、光ビームのアレイの共焦点集束によって)3次元構造を光学的にキャプチャするプローブ(例えば、手持ち式プローブ)を含んでよい。そのようなスキャナ150の一例として、アライン・テクノロジ・インコーポレイテッド(Align Technology, Inc.)製のiTero(登録商標)口腔内デジタルスキャナがある。口腔内スキャナの別の例として、3M(商標)のトゥルーデフィニションスキャナ(True Definition Scanner)や、Sirona(登録商標)製のアポロDI(Apollo DI)口腔内スキャナ及びCEREC AC口腔内スキャナがある。
【0053】
スキャナ150は、患者の口腔の口腔内スキャンを実施することに使用されてよい。口腔内スキャンの結果は、(例えば、画像ごとにスキャナの「画像生成」ボタンを押すことによって)離散的に生成された一連の口腔内画像であってよい。或いは、口腔内スキャンの結果は、患者の口腔の1つ以上のビデオであってよい。オペレータは、口腔内の第1の位置でスキャナ150によるビデオ記録を開始し、ビデオを撮り続けながらスキャナ150を口腔内で第2の位置まで動かし、そこでビデオ記録を止めてよい。幾つかの実施形態では、スキャナが患者の口腔に挿入されたことをスキャナが識別した時点で記録が自動的に開始されてよい。スキャナ150は、離散的な口腔内画像(例えば、高さマップ)又は口腔内ビデオ(まとめて画像データ135と呼ばれる)をコンピューティング装置105に送ってよい。なお、幾つかの実施形態では、コンピューティング装置はスキャナ150に組み込まれてよい。コンピューティング装置105は、画像データ135をデータストア110に格納してよい。或いは、スキャナ150は、画像データをデータストア110に格納する別のシステムと接続されてよい。そのような実施形態では、スキャナ150は、コンピューティング装置105と接続されなくてよい。
【0054】
コンピューティング装置105は、異物識別モジュール115、画像レジストレーションモジュール120、及び/又はモデル生成モジュール125を含んでよい。モジュール115、120、125は、1つのソフトウェアアプリケーションのコンポーネント(例えば、1つのアプリケーションの様々なライブラリ)であるソフトウェアモジュールであってよく、それぞれ別のソフトウェアアプリケーションであってよく、ファームウェアであってよく、ハードウェアモジュールであってよく、且つ/又はこれらの組み合わせであってよい。
【0055】
異物識別モジュール115は、受け取った画像データ135(例えば、離散的な口腔内画像、又は口腔内ビデオのフレームである口腔内画像)を、本明細書において後述する手法のうちの1つ以上を用いて解析することにより、画像データ135の口腔内画像中の異物を識別することが可能である。幾つかの実施形態では、データストア110は、1つ以上の基準物体130のエントリを含む基準物体ライブラリを含んでよい。基準物体130は、歯科医院及び/又は矯正歯科医院において標準的である、よく知られた器材を含んでよい。そのような基準物体130は、データストア110にあらかじめ格納されているデフォルトの基準物体であってよい。幾つかの基準物体130は、歯科開業医によってトレーニングモードで生成されたものであってよいカスタム基準物体であってよい。基準物体の各エントリは、その基準物体の1つ以上の物理的特性(例えば、形状(例えば、基準物体の3D仮想モデル)、色、テクスチャ、表面パターン等)を含んでよい。異物識別モジュール115で用いられる幾つかの異物識別手法は、受け取った口腔内画像中の物体の物理的特性を特定するステップと、基準物体130のそれらの物理的特性を基準物体ライブラリにおいて比較するステップと、を含んでよい。一致が見つかった場合は、口腔内画像内で表現されている物体が、一致に関連付けられた特定の異物として識別されてよい。
【0056】
一実施形態では、ユーザが異物識別モジュール115をトレーニングモードにしてよい。トレーニングモード中に、ユーザは、スキャナ150を使用して物体の3Dスキャンを実施してよい。次に、3D物体の画像を使用して、異物の仮想3Dモデルを生成してよい。次に、スキャンされた異物のエントリを基準物体130に追加してよい。このエントリは、同じ物体のものであってよく、且つ/又は別のよく似た物体のものであってよい。このエントリは、生成された仮想3Dモデル、物体の名前、及び/又は物体の1つ以上の物理的特性を含んでよい。
【0057】
異物識別モジュール115が口腔内画像中の異物を識別する場合には、異物識別モジュール115は、異物を口腔内画像からフィルタで取り除くか、異物をそのまま放置するか、異物に関する更に詳細な情報を口腔内画像に追加してよい(又は別の方法で口腔内画像中の異物の表現を増強してよい)。
【0058】
画像レジストレーションモジュール120は、異物識別モジュール115によって処理された口腔内画像を、1つ以上の画像レジストレーション手法を用いてレジストレーションする。例えば、画像レジストレーションモジュール120は、口腔内画像から異物の表現が除去された修正口腔内画像を使用して画像レジストレーションを実施してよい。画像レジストレーションの完了後、又は画像レジストレーションの実施時に、モデル生成モジュール125が、画像化された歯科部位の3D仮想モデルを生成する。
【0059】
口腔内スキャンセッションではユーザインタフェース140が機能しうる。スキャナ150が口腔内画像を生成し、それらの口腔内画像が異物識別モジュール115によって処理されると、スキャンされた歯科部位の2次元(2D)又は3D表現を表示するビュー画面が(例えば、コンピューティング装置105の)ディスプレイに出力されてよい。異物識別モジュール115によってフィルタで取り除かれた異物は、2D又は3D表現中に表示されないことが可能である。口腔内スキャンセッション中に画像同士をステッチして、口腔内スキャンセッション中に歯科部位の表現を連続的に更新することが可能である。画像レジストレーション処理及びモデル生成処理が、画像レジストレーションモジュール120及びモデル生成モジュール125によって実施される処理と同様に、但し、より迅速且つより低い精度で実施されてよい。歯科部位の表現は、どの領域が十分に画像化されていて、どの領域に更なる画像化のメリットがあるかを、スキャナ150のユーザに対して示すことが可能である。
【0060】
場合によっては、異物識別モジュール115は、歯科部位にある物体が異物なのか非異物なのかの正確な判定ができない可能性がある。そのような場合には、異物識別モジュール115は、その異物をフィルタで取り除くことも取り除かないことも可能である。その異物をフィルタで取り除いた場合には、ユーザインタフェースは、その異物をビュー画面に、輪郭の白黒表現、半透明表現、メッシュ表現、又は他の普通でない表現で表示し続けてよい。次にユーザが、ビュー画面に表示されているその異物の表現を選択すると、その異物をフィルタで取り除くことに進むか、その異物を口腔内画像に戻すかの選択肢を提示されうる。ユーザが異物をフィルタで取り除くことを選択した場合には、その異物の輪郭の表現又は他の普通でない表現がビュー画面から除去されてよい。更に、その異物に関するデータ(例えば、物理的特性)が基準物体130のエントリに追加されてよい。そして、同じ患者及び/又は別の患者のその後のスキャンでは、その新しい基準物体130とそれに関連付けられたデータとを使用して、その異物の更なるインスタンスを正しく識別することが可能である。従って、異物識別モジュールの精度を連続的に高めることが可能である。ユーザが異物をフィルタで取り除くことを行わない選択をした場合には、その異物が口腔内画像に戻されてよい(又は元の口腔内画像が保存されていてよく、口腔内画像の修正版の代わりにそれが使用されてよい)。ユーザが異物の選択を行わなかった場合には、異物をフィルタで取り除くという最初の決定が成立してよい。そのような場合には、その異物に関して新しい基準物体がデータストア110に追加されてよく、追加されなくてもよい。
【0061】
異物が最初にフィルタで取り除かれなかった場合には、その異物がビュー画面に、その歯科部位の他の特徴及び物体と同じように表示される。但し、その異物は、輪郭、ハイライト、又は他の様式で強調されてよい。次にユーザが、ビュー画面中のその異物の表現を選択すると、その異物をフィルタで取り除くか、その異物を口腔内画像中に放置するかの選択肢を提示されうる。ユーザが異物をフィルタで取り除くことを選択した場合には、その異物が、異物を描写している口腔内スキャンの口腔内画像から除去されてよい。更に、その異物に関するデータ(例えば、物理的特性)が基準物体130のエントリに追加されてよい。そして、同じ患者及び/又は別の患者のその後のスキャンでは、その新しい基準物体130とそれに関連付けられたデータとを使用して、その異物の更なるインスタンスを正しく識別することが可能である。従って、異物識別モジュールの精度を連続的に高めることが可能である。ユーザがその異物を放置することを選択した場合には(これはおそらく、その異物が実際には異物ではなく非異物であることを示している)、その物体の表現を含む口腔内画像が修正されなくてよく、ビュー画面においてその物体の輪郭又は他の強調が除去されてよい。ユーザが異物の選択を行わなかった場合には、異物を放置するという最初の決定が成立してよい。
【0062】
場合によっては、画像化及び/又は歯科治療又は歯列矯正の為に患者の口腔に異物が意図的に加えられることがある。そのような場合には、異物識別モジュール115は、(基準物体であってよい)異物の表現をフィルタで取り除かなくてよい。代わりに、異物識別モジュール115は、その異物を識別し、その異物の既知の物理的特性(例えば、形状、色等)を使用して、その異物に関する更なる情報で画像を増強してよい。追加又は代替として、その異物の既知の特性を使用して、画像から生成された、又は別の形で画像に関連付けられた仮想3Dモデルを増強してよい。例えば、ユーザが異物をスキャンして異物の正確且つ完全な表現を取得したい場合があるが、その異物は、完全なキャプチャが困難なジオメトリを有しているか、且つ/又は画像化が困難な材料(例えば、チタン等)で作られている可能性がある。異物識別モジュール115は、異物を、既知の基準物体130と一致すると識別したら、基準物体の既知の物理的特性を使用して、口腔内画像中且つ/又は仮想3Dモデル中のその異物の表現を強化することが可能である。例えば、画像中の異物の位置及び方位を特定することが可能であり、この位置及び方位を使用して、異物に関するデータ(例えば、形状データ又は表面データ)を画像及び/又は仮想3Dモデルに追加することが可能である。この処理は、例えば、異物がスキャンボディ、ブレース等の場合に有用でありうる。
【0063】
基準物体130を使用して増強されるべき異物が識別されたら、ユーザインタフェース140から、その異物に関する情報をビュー画面に更に追加してよい。例えば、ユーザがスキャンボディのエッジをスキャンして、そのスキャンボディが基準物体130と一致すると識別された場合には、スキャンボディの未スキャン部分がビュー画面の歯科部位上の他の特徴に対して正しい位置及び方位でレジストレーションされ、その位置及び方位で表示されてよい。この、スキャンボディの更なる未スキャン部分は、例えば、メッシュ又は輪郭で表示されてよい。これにより、異物を完全にキャプチャするのに十分な画像を収集する為に取得すべき追加画像をユーザに示すことが可能である。新たな画像が生成された時点で、異物のメッシュ表現又は輪郭表現が、その異物の実際のスキャンデータで置き換えられてよい。最終的にユーザが正しく画像化できない領域がある場合には、基準物体130からの情報を使用して、欠落している情報を埋めてよい。そのような埋められる欠落情報は、口腔内画像上で、且つ/又は、口腔内画像から生成された、又は別の形で口腔内画像に関連付けられた仮想3Dモデル上で埋められてよい。
【0064】
図1B~9は、口腔内スキャン、並びに口腔内スキャン中に生成された口腔内画像中の異物の識別及び処理に関連する方法を示す。本方法は、ハードウェア(例えば、回路、専用ロジック、プログラマブルロジック、マイクロコード等)、ソフトウェア(例えば、処理装置上で実行される命令)、又はこれらの組み合わせを含む処理ロジックによって実施されてよい。様々な実施形態が、図1Aのコンピューティング装置105上で実行される処理ロジックによって実施されてよい。本方法は、画像をスキャナで生成した時点、及び/又は画像をスキャナから受け取った時点でリアルタイム又は近リアルタイムで実施されてよい。
【0065】
図1Bは、本開示の実施形態による、口腔内画像中の異物の表現を識別する方法152のフロー図を示す。ブロック154で、患者の歯列及び/又は口腔及び/又は1つ以上のツールの複数の領域が口腔内スキャンの為に前処理されてよい。歯列及び/又は口腔の前処理は、患者の口腔内に自然には存在しない色の染料をそのような領域にスプレーすることを含んでよい。例えば、患者の舌をスプレーコーティングすること、患者の歯列弓のうちのスキャンされない領域をスプレーコーティングすること等が行われてよい。同様に、患者の口腔に挿入される1つ以上のツールがスプレーコーティングされてよい。ツールによっては既に、患者の口腔内に自然には存在しない特定の色である場合がある。例えば、歯科医がスプレーコーティングの染料と同色の手袋をはめてよい。
【0066】
ブロック156で、歯科開業医が図1Aのスキャナ150を使用して歯列弓(又は歯列弓の一部)をスキャンする。ブロック157で、処理ロジックが、口腔内スキャンで取得された1つ以上の口腔内画像を処理して、異物を全て識別する。口腔内画像は、スキャナ150が生成するスキャンデータに含まれる口腔内画像であってよい。或いは、スキャナ150が生成する口腔内画像から3Dモデルが生成されてよい。そして、その3Dモデルが2D面に投射されて、スキャナ150が生成した複数の口腔内画像からのデータを潜在的に含む新たな画像が生成されてよい。この新たな画像が処理されて、新たな画像の中の異物が全て識別されてよい。図2~9は様々な異物識別手法を示しており、これらは別々に使用されても一緒に使用されてもよい。ブロック158で、識別された異物に関してユーザ入力を行う選択肢がユーザに提示されてよい。例えば、ユーザは、識別された異物に、異物ではないとするマーキングを行う選択肢、識別された非異物に、異物であるとするマーキングを行う選択肢、識別された異物を、異物であると認める選択肢等を有してよい。ユーザがブロック158で何らかのユーザ入力を行った場合には、ブロック166でそのようなユーザ入力が記録される。そのようなユーザ入力は、その後、異物識別モジュール115のトレーニングに使用されてよい。これについては後で詳述する。
【0067】
識別された異物に対して、異なる2つの操作が実施されてよい。第1の操作では、1つ以上の口腔内画像及び/又は関連付けられた仮想3Dモデルに、仮想物体(例えば、異物の仮想3Dモデル又は他の表現)が適切な位置及び方位で加えられてよい(ブロック160)。或いは、検出された異物が口腔内画像からフィルタで取り除かれてよい(即ち、除去されてよい)(ブロック162)。2つ以上の異物が検出された場合には、検出された異物をフィルタで取り除くか、検出された異物に仮想物体をスナップするかの決定を、異物ごとに個別に実施してよい。
【0068】
口腔内画像及び/又は仮想3Dモデルに仮想物体をスナップすることの一例では、患者の歯の上でブラケットが識別されてよい。ブラケットはスキャンが困難な場合があり、ブラケットの画像及び/又は3Dモデルは品質が低い場合がある。しかしながら、識別されたブラケットの既知のデータを使用すれば、画像及び/又は仮想3Dモデルにおいてブラケットの表現を完成させて、完全なブラケットを(例えば、正確に形作られているように)表示することが可能である。
【0069】
次にブロック164で、(例えば、異物に関する追加データを含むか、異物の表現を全く含まない)修正された口腔内画像に基づいて仮想モデルが生成される。幾つかの実施形態では、(ブロック160で)仮想物体を画像にスナップする代わりに、1つ以上の口腔内画像中で識別された異物に基づいてその1つ以上の口腔内画像から構築された仮想モデルが仮想物体にスナップされてよい。例えば、仮想3Dモデルの生成に使用された口腔内画像が、既知の物体の位置及び方位を決定する為に使用されてよく、その情報を使用して、既知の物体に関する情報が仮想3Dモデルに追加されてよい。別の例では、仮想3Dモデルを2D面に投射することによって画像が生成されてよく、その画像を処理することによって、その画像中の既知の物体の識別、並びに既知の物体の位置及び方位の決定が行われてよい。次に、既知の物体の決定された位置及び方位を使用して、既知の物体に関する情報が仮想3Dモデルに追加されてよい。或いは、仮想物体は、口腔内画像及び仮想3Dモデルの両方にスナップされてよい。
【0070】
上述のように、ブロック180で、処理ロジックは、異物識別モジュールを、口腔内画像中の異物をよりよく識別するようにトレーニングしてよい。異物識別モジュールは、異なる多数のソースからのデータを使用してトレーニングされてよい。幾つかの実施形態では、異物識別モジュールは、デフォルト設定170であらかじめトレーニングされて投入される。そのようなデフォルト設定は、口腔内に普通に存在する色、及び/又は口腔内に存在しない色についてのグローバル色データ(又は他の波長反射率、波長反応度、波長屈折率等)を含んでよい。そのようなデフォルト設定は更に、口腔内に普通に存在するテクスチャ、パターン、形状等、及び/又は口腔内に存在しないそれらを含んでよい。一例では、複数の一般的な歯科ツールに関するデータが、デフォルトの基準物体ライブラリにあらかじめ入れられてよい。デフォルトの基準物体ライブラリの各エントリは、特定の歯科ツールについての仮想3Dモデル、形状情報、色情報、表面パターン情報、テクスチャ情報等のような情報を含んでよい。
【0071】
幾つかの実施形態では、ブロック172で、異物識別モジュールが、特定の患者の口腔に含まれる1つ以上の異物(例えば、患者の歯に取り付けられた特定のブラケット)を示す患者データを受け取ってよい。これにより、異物の探索範囲を狭めることができ、示された異物が口腔内にある可能性が100%であるという事実を考慮して探索基準及び/又は探索境界を調節することが可能である。異物は、ユーザがバーコードをスキャンすること、コード又は製品識別子を手動入力すること、ドロップダウンメニューから異物を選択すること等に基づいて示されてよい。提供された情報に基づいて、異物を基準物体ライブラリ内で識別することが可能であり、口腔内画像内で探索すべき物理的特性を決定することが可能である。
【0072】
幾つかの実施形態では、ブロック174で、異物識別モジュールが、特定のスキャン処置が実施されたことを示すものを受け取ってよい。例えば、幾つかのタイプのスキャン処置が、特定の情報を求めてスキャンすることであってよい。例えば、患者の口腔をスキャンして患者の歯列上のリテーナを描写する為にリテーナスキャン処置が実施されてよい。リテーナスキャン処置は、ブラケット情報を(例えば、基準物体ライブラリから)取り出すかルックアップすることを含んでよい。同様に、修復的スキャン処置は、修復的物体情報を(例えば、基準物体ライブラリから)取り出すかルックアップすることを含んでよい。次に異物識別モジュールは、(リテーナスキャン処置のインスタンスにおいて)ブラケットを見つけるように、又は(修復的スキャン処置のインスタンスにおいて)修復的物体を見つけるように、そのパラメータを調節してよい。
【0073】
幾つかの実施形態では、ブロック178でトレーニングモードに入ってよい。異物識別モジュールがトレーニングモードである間に、ユーザがスキャナ150を使用して異物の3Dスキャンを生成してよい。これは、物体の一連の3D画像及び/又は3Dビデオを生成することを含んでよい。次にこの画像及び/又はビデオを使用して、物体の仮想3Dモデルを生成してよい。更に、この画像及び/又はビデオに1つ以上の画像処理アルゴリズムを適用して、物体の1つ以上の物理的特性を特定してよい。次に、この画像、ビデオ、仮想3Dモデル、及び/又は物理的特性を、基準物体ライブラリ中のその異物の新たなエントリに追加してよい。
【0074】
異物識別モジュールは、トレーニングが完了すると、ブロック157で特定の異物をより正確に識別することが可能になる。
【0075】
図2は、本開示の実施形態による、口腔内画像から異物の表現をフィルタで取り除く方法200のフロー図を示す。歯科開業医が歯科部位の(例えば、上顎歯列弓及び/又は下顎歯列弓、上顎歯列弓及び/又は下顎歯列弓の一部分等の)口腔内スキャンを実施してよい。方法200のブロック205で、口腔内スキャン中又は口腔内スキャンの完了後に、処理ロジックが、歯科部位の1つ以上の口腔内画像を含むスキャンデータを受け取ってよい。各口腔内画像は、口腔内スキャナ(例えば、図1のスキャナ150)で生成された3次元(3D)画像であってよい。
【0076】
ブロック210で、処理ロジックは、スキャンデータを解析し、その解析に基づいて口腔内画像中の異物の表現を識別する。幾つかの実施形態では、スキャンデータを解析することは、1つ以上の画像処理アルゴリズムを使用して、スキャンデータ中の1つ以上の口腔内画像を処理することを含む。口腔内画像の処理に使用可能な画像処理アルゴリズムの例として、エッジ検出アルゴリズム、3D物体検出アルゴリズム、特徴抽出アルゴリズム(例えば、高速化ロバスト特徴(speeded up robust features)(SURF)アルゴリズム、スケール不変特徴変換(scale-invariant feature transform)(SIFT)アルゴリズム、ハール状(Haar-like)特徴アルゴリズム、勾配方向ヒストグラム(histogram of oriented gradients)(HOG)アルゴリズム等)等がある。口腔内画像が処理された後に、その口腔内画像の形状、エッジ、特徴等が決定されてよい。次にそれらの形状、エッジ、特徴等が更に解析されて、非異物と異物が識別されてよい。一例では、異物は、多くの場合、異物の少なくとも一部分に均一な表面パターン及び/又はテクスチャを有しうる。そのような均一な表面パターン及び/又はテクスチャは、異物の輪郭を特定の異物する為に使用されてよく、輪郭は、均一な表面パターン及び/又はテクスチャを有する領域の周囲に広がる。
【0077】
一実施形態では、ブロック215で、処理ロジックはスキャンデータを解析して、口腔内画像中で表現されている1つ以上の物理的特性を特定する。これは、上述の画像処理アルゴリズムのいずれかが口腔内画像に対して使用される前又は使用された後に口腔内画像を解析することを含んでよい。異なる複数のタイプの物理的特性が検出されてよく、これには、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、及び/又は形状が含まれる。他の物理的特性及び/又は光学的特性も検出されてよい。
【0078】
場合によっては、異物の識別が、1つの物理的特性だけに基づいて(例えば、色に基づいて)行われてよい。例えば、歯科器具、歯科医の手袋、コットンロール等が全て、口腔内に自然には存在しない色に染められてよい。例えば、青色は、一般に、歯又は歯肉において自然に存在する色ではない。従って、青の色調が使用されてよい。更に、歯科開業医が、口腔に挿入する物体に、口腔内に自然には存在しない色の染料をスプレーしてよい。歯科開業医は又、その染料を患者の舌にスプレーして、舌がその色に基づいて異物として識別されるようにしてよい。口腔内画像中に色が自然でない領域があれば、最小限の処理で、異物に属するものとして容易に識別することが可能である。単純な色フィルタが口腔内画像に適用されてよく、例えば、口腔内に自然には存在しない1つ以上の色(例えば、ある範囲の色)をフィルタで取り除く色フィルタが適用されてよい。
【0079】
場合によっては、物体の複数の物理的特性の組み合わせを使用して、その物体を異物として識別することが可能である。例えば、物体の形状と、その物体の表面パターン又はテクスチャとを一緒に使用して、異物を識別してよい。物体に関して識別可能な物理的特性が多いほど、その物体が異物か非異物かの判定を容易に行うことができ、その判定が正確になりうる。
【0080】
光の波長に対する反応度のデータに関しては、口腔内画像が生成されている間に特定波長の光が歯科部位に当てられていてよい。使用可能な波長の光の一例として、近赤外(NIR)光がある。他の例として、IR光、紫外(UV)光、近紫外(NUV)光、中赤外(MIR)光、遠赤外(FIR)光、極紫外(EUV)光、超高周波(EHF)電磁放射等がある。歯科部位中の非異物は、ある様式で光の波長に反応しうるのに対し、歯科部位にある異物は、別の様式で光の波長に反応しうる。例えば、口腔内の歯及び組織がNIR光に対して特定の反射率を有しうるのに対し、金属物体はNIR光に対して非常に異なる反射率を有しうる。例えば、異物は、典型的には、歯及び組織に比べて、NIR光に対して非常に暗く見えることになる。更に、血液及び唾液の、NIR光に対する反射率は、歯及び組織と異なる場合があり、NIR光を使用して、口腔内画像中の血液及び/又は唾液を検出することが可能である。そのような血液及び/又は唾液は、実施形態によっては異物として識別される場合がある。
【0081】
一実施形態では、処理ロジックは、口腔内画像中の泡を識別する。泡は唾液のサインである可能性があり、一般に、歯又は歯肉組織の一部として存在するものではない。従って、泡の存在は、唾液及び/又は血液を識別する為に検出及び使用されうる別の物理的特性であると言える。
【0082】
ブロック220で、処理ロジックは、1つ以上の物理的特性に基づいて(例えば、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、及び/又は形状に基づいて)、異物の表現を異物に属するものとして識別する。これは、識別された物理的特性を、基準物体ライブラリ中の1つ以上の基準物体の物理的特性と比較することを含んでよい。口腔内画像中の物体の1つ以上の物理的特性と、基準物体の1つ以上の物理的特性との間に一致が見つかった場合には、その物体の表現が異物として識別されてよい。
【0083】
ブロック225で、処理ロジックは、異物の表現を口腔内画像から除去することによって口腔内画像を修正する。ブロック230で、処理ロジックは、口腔内スキャン中に歯科部位の追加口腔内画像を含む追加スキャンデータを受け取る。これらの口腔内画像は、最初に、ブロック210の動作が実施される前に第1の口腔内画像と一緒に受け取られていてよい。或いは、最初の画像が受け取られた後の、第1の口腔内画像に対してブロック210及び/又は225の動作が実施されている間(又は実施された後)に、1つ以上の追加画像が受け取られてよい。
【0084】
ブロック235で、処理ロジックは、ブロック210に関連して説明したのと同じように、追加スキャンデータを解析する。次にブロック240で、処理ロジックは、追加口腔内画像のいずれかに異物の表現が含まれるかどうかを判定する。含まれる場合には、それらの追加画像もブロック245で、追加口腔内画像から異物を除去することによって修正される。含まれない場合には、本方法はブロック255に進む。
【0085】
ブロック255で、処理ロジックは、口腔内画像同士をレジストレーションする(即ち、互いに「ステッチ」する)。これは、例えば、修正された第1の口腔内画像を修正された第2の口腔内画像にレジストレーションすること、又は修正された第1の口腔内画像を修正されていない第2の口腔内画像にレジストレーションすることを含んでよい。一実施形態では、画像レジストレーションを実行することは、複数の画像中の表面の様々な点の3Dデータをキャプチャすることと、それらの画像間の変換を計算することによってそれらの画像同士をレジストレーションすることと、を含む。次に、レジストレーションされた各画像中の点に適切な変換を適用することによって、これらの画像が一体化されて共通基準枠に入れられてよい。次に処理ロジックは、修正された口腔内画像と(修正されていてもいなくてもよい)追加口腔内画像とを使用したレジストレーションに基づいて、歯科部位の仮想3Dモデルを生成する。仮想3Dモデルは、歯科部位の表面特徴を示すデジタルモデルであってよい。
【0086】
図3は、本開示の実施形態による、口腔内画像中の異物を識別する方法300のフロー図を示す。方法300のブロック305で、処理ロジックは口腔内画像に対して画像処理を実施して、その口腔内画像中の形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度を特定する。この画像処理は、エッジ検出アルゴリズム、特徴抽出アルゴリズム、及び/又は他の画像処理アルゴリズム(例えば、上述の画像処理アルゴリズム)を使用して実施されてよい。
【0087】
ブロック310で、処理ロジックは、口腔内画像中の、歯科部位に自然には存在しない形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度を特定する。これは、ブロック315で、口腔内画像中の識別された形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度を、口腔内に自然に存在することが知られている形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度と比較することを含んでよい。次にブロック320で、処理ロジックは、この比較に基づいて、口腔内に自然には存在しない形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度を口腔内画像から識別してよい。
【0088】
ブロック325で、処理ロジックは、口腔内画像のうちの、口腔内に自然には存在しないと判定された形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度のうちの少なくとも1つを有する領域の輪郭を決定する。ブロック330で、処理ロジックは、口腔内画像中の輪郭、形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度を、基準物体の既知の形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度と比較してよい。ブロック335で、処理ロジックは、ブロック330で実施された比較のビューにおいて、口腔内画像中の形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度が、任意の既知の基準物体の形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度と一致するかどうかを判定してよい。一致が見つかった場合には、本方法はブロック340に進み、異物の表現が識別される。その後、その異物の表現が口腔内画像から除去されてよい。但し、幾つかの実施形態では、口腔内に自然には存在しない形状、テクスチャ、表面パターン、色、並びに光の波長に対する反射率、屈折率、及び/又は反応度は、ブロック310又はブロック325において、基準物体のライブラリと比較することなく口腔内画像から除去されてよい。ブロック335において一致が見つからない場合には、本方法はブロック345に進み、異物の識別は行われない。
【0089】
図4は、本開示の実施形態による、異物基準ライブラリに異物のエントリを追加する方法400のフロー図を示す。方法400のブロック405で、処理ロジックは(例えば、ユーザ入力に基づいて)トレーニングモードに入る。ブロック410で、処理ロジックは、既知の基準物体ライブラリに追加すべき異物の1つ以上の画像を受け取る。画像の受け取りは、異物の3Dスキャン中に行われてよい。ブロック415で、処理ロジックは、その画像に基づいて、異物の仮想モデルを生成する。処理ロジックは又、画像及び/又は仮想モデルに対して画像処理を実施して、異物の1つ以上の物理的特性を特定してよい。ブロック420で、処理ロジックは、異物の仮想モデル、異物の画像、及び/又は異物の物理的特性を異物の基準ライブラリに追加してよい。それ以降、その物体の表現は、口腔内画像中で異物の表現として識別される。
【0090】
図5は、本開示の実施形態による、異物基準ライブラリを使用して口腔内画像中の異物を識別する方法500のフロー図を示す。方法500のブロック505で、処理ロジックは、歯科部位に異物があることを示すものを受け取る。この示すものは、(例えば、名称、一意識別子、特性等による)異物の識別情報を含んでよい。例えば、患者が特定のブレース用ブラケットを装着していることが歯科矯正医によって示されてよい。ブロック510で、処理ロジックは、既知の物体の識別情報を使用して基準物体ライブラリに対してクエリを実行する。ブロック515で、処理ロジックは、そのクエリに対する回答を受け取る。回答は、異物の1つ以上の物理的特性、異物の仮想モデル、異物のエントリに関連付けられたメタデータ、及び/又は他の情報を含んでよい。ブロック520で、処理ロジックは、異物の1つ以上の既知の特性を使用して、口腔内画像中の異物を識別する。例えば、処理ロジックは、回答において識別された物理的特性を有する物体に関して口腔内画像を探索してよい。
【0091】
図6は、本開示の実施形態による、色に基づいて口腔内画像中の異物を識別する方法600のフロー図を示す。方法600のブロック605で、処理ロジックは、口腔内画像中のピクセル(又はボクセル)を選択する。ブロック610で、処理ロジックは、色エンコード系の各色チャネルについて、そのピクセル(又はボクセル)に関連付けられた飽和値又は強度値の少なくとも一方を調べる。ブロック615で、処理ロジックは、色エンコード系の各色チャネルの飽和値又は強度値の少なくとも一方を含むタプルを決定する。例えば、RGB色エンコード系が使用される場合には、タプルは3-タプル(r,g,b)であってよい。
【0092】
ブロック620で、処理ロジックは、生成されたタプルを指定の色範囲と比較する。指定の色範囲は、口腔内に自然に存在する色の一部又は全てをカバーしてよい。或いは、指定の色範囲は、口腔内に自然には存在しない色の一部又は全てをカバーしてよい。ブロック625で、処理ロジックは、(色範囲が口腔内に自然に存在する色を示している場合に)タプルが色範囲から外れているかどうかを判定する。(色範囲が口腔内に自然に存在する色を示していて)タプルが色範囲から外れている場合には、本方法はブロック630に進み、ピクセル(又はボクセル)が、異物に潜在的に関連付けられるものとしてマーキングされる。タプルが色範囲内にある場合には、本方法はブロック635に進む。
【0093】
或いは、ブロック625で、処理ロジックは、(色範囲が口腔内に自然には存在しない色を示している場合に)タプルが色範囲内にあるかどうかを判定してよい。(色範囲が口腔内に自然には存在しない色を示していて)タプルが色範囲内にある場合には、本方法はブロック630に進み、ピクセル(又はボクセル)が、異物に潜在的に関連付けられるものとしてマーキングされる。タプルが色範囲から外れている場合には、本方法はブロック635に進む。
【0094】
ブロック635で、処理ロジックは、口腔内画像の全てのピクセルが処理されたかどうかを判定する。処理すべき更なるピクセルがある場合には、本方法はブロック605に戻り、別のピクセルが解析対象として選択される。口腔内画像の全てのピクセルが処理された場合には、本方法はブロック640に進む。ブロック640で、処理ロジックは、(色範囲が口腔内に自然に存在する色を示している場合には)指定の色範囲から外れているタプルを、又は(色範囲が口腔内に自然には存在しない色を示している場合には)指定の色範囲内にあるタプルを有する連続したピクセル又はボクセルを特定する。ブロック645で、処理ロジックは、特定された連続したピクセル又はボクセルの周囲の輪郭を決定する。ブロック650で、処理ロジックは、輪郭内にあるピクセル又はボクセルを、異物の一部分の表現として識別する。代替として、ブロック640~645の動作は省略されてよい。その代わりに、異物に潜在的に関連付けられるものとしてマーキングされた全てのピクセルが口腔内画像からフィルタで取り除かれてよい。
【0095】
図7は、本開示の実施形態による、口腔内画像中の異物を管理する為のユーザインタフェースを提供する方法700のフロー図を示す。方法700のブロック705で、処理ロジックは、歯科部位の口腔内スキャン中に、口腔内画像を含むスキャンデータを受け取る。ブロック710で、処理ロジックは、スキャンデータの解析に基づいて口腔内画像中の異物の表現を識別する。ブロック720で、処理ロジックは、異物の表現を口腔内画像から除去することによって口腔内画像を修正する。ブロック730で、口腔内スキャン中に、処理ロジックは、修正された画像に基づいて歯科部位のビューを生成する。
【0096】
ブロック735で、処理ロジックは、異物の輪郭、メッシュ表現、半透明表現、又は他の表現を生成する。ブロック745で、処理ロジックは、異物の輪郭(又は他の表現)をビューに追加する。ブロック750で、処理ロジックは、ユーザが異物を選択することを可能にするユーザインタフェースを提供する。ブロック755で、処理ロジックは、異物のユーザ選択を受け取る。ユーザ選択は、その物体を口腔内画像から除去すべきでないことを示す(例えば、その物体を非異物として識別してよい)。ブロック760で、処理ロジックは、異物を口腔内画像に戻す。
【0097】
図8は、本開示の実施形態による、口腔内画像中の異物を管理する為のユーザインタフェースを提供する別の方法800のフロー図を示す。方法800のブロック805で、処理ロジックは、歯科部位の口腔内スキャン中に、口腔内画像を含むスキャンデータを受け取る。ブロック810で、処理ロジックは、スキャンデータの解析に基づいて口腔内画像中の異物の表現を識別する。ブロック815で、処理ロジックは、その表現に関連付けられた信頼値を決定する。ブロック820で、処理ロジックは、信頼値が閾値を下回るかどうかを判定する。信頼値が閾値を下回る場合、これは、識別された物体を異物として分類すべきか非異物として分類すべきかを処理ロジックが正しく判定できないことを示している。
【0098】
ブロック830で、口腔内スキャン中に、処理ロジックは、修正された画像に基づいて歯科部位のビューを生成する。ブロック835で、処理ロジックは、可能な異物の輪郭、メッシュ表現、半透明表現、又は他の表現を生成する。ブロック845で、処理ロジックは、異物の輪郭(又は他の表現)をビューに追加する。ブロック850で、処理ロジックは、ユーザがa)異物の表現を口腔内画像から除去すること、又はb)異物の表現を口腔内画像に放置することを可能にするユーザインタフェースを提供する。
【0099】
ブロック855で、処理ロジックは、その表現を口腔内画像から除去するユーザ選択を受け取る。ブロック860で、処理ロジックは、異物の1つ以上の物理的特性を特定する。ブロック865で、処理ロジックは、異物を口腔内画像から除去する。ブロック870で、処理ロジックは、異物のエントリを基準物体ライブラリに追加する。エントリは、異物の特定された物理的特性を含んでよい。そして処理ロジックは、以降の口腔内画像において、向上した信頼性と正確さで異物を識別することが可能になる。
【0100】
幾つかの実施形態では、口腔内画像中の異物を識別する為に、畳み込みニューラルネットワーク(CNN)等の機械学習モデルが使用される。口腔内画像は、口腔内スキャナで生成された画像、及び/又は歯科部位の仮想3Dモデルを2D面又は2D平面に投射することによって生成された画像であってよい。そのような画像は高さマップであってよく、又は高さマップを含んでよい。機械学習モデルは、代替又は追加として、(例えば、仮想3Dモデルを表現するデータを機械学習モデルに入力することによって)仮想3Dモデル中の異物を直接識別してよい。一例示的実施形態では、機械学習モデルをトレーニングする一方法が、複数の口腔内画像を含むトレーニングデータセットを受け取るステップであって、複数の口腔内画像の各画像は、歯科部位の描写と、口腔内画像が異物をそこに含むかどうかを示すラベルと、を含む、上記受け取るステップを含む。異物を含む口腔内画像は更に、与えられた、異物の輪郭を含んでよい。口腔内画像は、現実画像であってよく、且つ/又はコンピュータ生成画像であってよい。与えられた輪郭は、ユーザが画像中の異物の周囲に輪郭を描く手動の処理、或いは、自動又は半自動の処理で生成されていてよい。幾つかの実施形態では、異物がある口腔内画像に更に、異物のクラス、タイプ、又はカテゴリのラベルが付けられてよい。各タイプの異物には、例えば、しかるべきラベルが添付されてよい。
【0101】
機械学習モデルをトレーニングすることは、トレーニングされていない機械学習モデル(例えば、CNN又は他のニューラルネットワーク)にトレーニングデータセットを入力することと、そのトレーニングデータセットに基づいて、トレーニングされていない機械学習モデルをトレーニングして、口腔内画像中の異物を識別するトレーニング済み機械学習モデルを生成することと、を含む。機械学習モデルは又、異物の輪郭を生成するようにトレーニングされてよい。一実施形態では、機械学習モデルは、バイナリマスクを生成するようにトレーニングされ、そこでは、バイナリマスクの第1の値が、異物に関連付けられたピクセルを表し、バイナリマスクの第2の値が、非異物に関連付けられたピクセルを表す。更に、トレーニング済み機械学習モデルは、入力画像に対して、口腔内画像中で識別された異物のタイプを示すものを出力してよい。
【0102】
処理ロジックは、通常、トレーニングデータセットの画像を1つずつ処理する。処理ロジックは、口腔内画像を処理して出力(分類又はラベル)を決定し、決定された分類又はラベル(又は複数の分類又はラベル)を、用意された、口腔内画像に関連付けられている分類又はラベルと比較して、1つ以上の分類エラーを明らかにする。人工ニューラルネットワークの各ノードにおけるエラー項又はデルタが決定されてよい。このエラーに基づいて、人工ニューラルネットワークは、そのノードのうちの1つ以上について、そのパラメータのうちの1つ以上(ノードの1つ以上の入力に対する重み)を調節する。パラメータはバックプロパゲーション方式で更新されてよく、それにより、最上位層にあるノードが最初に更新され、その後に次の層にあるノードへと更新が順次行われる。人工ニューラルネットワークは複数の層の「ニューロン」を含み、各層は直前の層にあるニューロンからの値を入力として受け取る。各ニューロンのパラメータは、直前の層にあるニューロンのそれぞれから受け取られた値に関連付けられた重みを含む。従って、パラメータを調節することは、人工ニューラルネットワークの1つ以上の層にある1つ以上のニューロンに対する入力のそれぞれに割り当てられる重みを調節することを含んでよい。
【0103】
幾つかの実施形態では、最初の機械学習モデルは、最初に、手動でラベル付け及び輪郭付けされた異物を有する小さなデータセットを使用してトレーニングされる。次にこの機械学習モデルを使用して、より正確な機械学習モデルをトレーニングする為に(又は最初の機械学習モデルを更にトレーニングする為に)使用されるトレーニングデータセットの追加画像中の異物の周囲の輪郭が自動的に定義されてよい。そのトレーニングデータセット中の画像に対して生成された輪郭がユーザによって精査されてよく、正しくない場合にはユーザによって修正されてよい。次に拡張データセットを使用して最終モデルをトレーニングすることにより、口腔内画像中の異物の周囲の輪郭が定義されてよく、口腔内画像中の異物が識別されてよい。この、異物の周囲の輪郭を定義する機械学習モデルを生成する反復プロセスにより、画像のアノテーションにユーザが費やす時間が最小限になる大きなトレーニングデータセットを用意することが可能になる。
【0104】
図9は、本開示の実施形態による、トレーニング済み機械学習モデル(例えば、深層学習モデル、人工ニューラルネットワーク、畳み込みニューラルネットワーク等)の使用に基づいて口腔内画像から異物の表現をフィルタで取り除く方法900のフロー図を示す。方法900のブロック902で、処理ロジックは、画像中の特徴を特定する為に、口腔内画像に対して特徴抽出を実施してよい。これは、エッジ検出、物体検出、及び/又は他の、本明細書において上述した特徴抽出手法を実施することを含んでよい。
【0105】
ブロック905で、処理ロジックは、トレーニング済み機械学習モデルを使用して口腔内画像(及び/又は口腔内画像の抽出された特徴)を処理する。一実施形態では、トレーニング済み機械学習モデルは深層ニューラルネットワークである。一実施形態では、トレーニング済み機械学習モデルはCNNである。畳み込みニューラルネットワーク(CNN)は、例えば、畳み込みフィルタの複数の層をホストする。下位層においてプーリングが実施され(そして非線形性が対処されてよく)、下位層の一番上に多層パーセプトロンが通常は付加されて、畳み込み層によって抽出された最上位層の特徴が決定(例えば、分類出力)にマッピングされる。深層学習は、非線形処理装置の複数の層のカスケードを特徴の抽出及び変換に使用するクラスの機械学習アルゴリズムである。連続する各層は、直前の層からの出力を入力として使用する。深層ニューラルネットワークは、教師あり方式(例えば、分類)及び/又は教師なし方式(例えば、パターン解析)で学習可能である。深層ニューラルネットワークは層のヒエラルキを含み、そこでは、異なる層が、異なるレベルの抽象化に対応する異なるレベルの表現を学習する。深層学習では、各レベルは、その入力データをわずかながらより抽象的且つ複合的な表現に変換することを学習する。例えば、画像認識用途では、ロー入力はピクセルのマトリックスであってよく、第1の表現層は、ピクセルを抽象化し、エッジを符号化してよく、第2の層は、エッジの配列を構成及び符号化してよく、第3の層は、より高レベルの形状(例えば、歯、唇、歯肉等)を符号化してよく、第4の層は、画像が顔を含むことを認識してよく、又は画像中の異物の周囲の輪郭を定義してよい。特に、深層学習プロセスでは、どの特徴をどのレベルでそれ自身の上に最適に配置すべきかを学習することが可能である。「深層学習」の「深層」は、幾つかの層にわたってデータが変換されることを意味する。より厳密には、深層学習システムは、実質的なクレジットアサインメントパス(CAP)深度を有する。CAPは、入力から出力までの変換のチェーンである。CAPは、入力と出力の間の潜在的因果関係を記述する。順伝播型ニューラルネットワークの場合、CAPの深度はネットワークの深度であってよく、隠れ層の数に1を加えたものであってよい。信号が1つの層を2度以上通って伝搬しうる回帰型ニューラルネットワークの場合、CAP深度は潜在的に無制限である。一実施形態では、機械学習モデルは領域畳み込みニューラルネットワーク(R-CNN)である。R-CNNは、CNNの一種であり、画像中の物体を探索して検出することが可能である。
【0106】
機械学習モデルは、画像の現在のパラメータ値に基づいて画像に分類又はラベルを適用する。人工ニューラルネットワークは、データ点の値(例えば、口腔内画像の画素のRGB値)からなる入力層を含む。次の層は隠れ層と呼ばれ、隠れ層にある各層が入力値のうちの1つ以上を受け取る。各ノードは、入力値に適用されるパラメータ(例えば、重み)を含む。従って、各ノードは、本質的には、入力値を多変数関数(例えば、非線形数学的変換)に入力して出力値を生成する。次の層は、別の隠れ層又は出力層であってよい。いずれの場合も、次の層にあるノードが直前の層にあるノードからの出力値を受け取り、各ノードは、それらの値に重みを適用して、それ自身の出力値を生成する。これは各層で実施されてよい。最後の層が出力層であり、そこではクラスごとに1つのノードがある。人工ニューラルネットワークの場合は、(異物を含む)第1のクラスと(異物を含まない)第2のクラスとがあってよい。更に、そのクラスは、画像中のピクセルごとに決定されてよい。最後の層は、画像中のピクセルごとに、画像のそのピクセルが第1のクラス(異物)に属する確率と、画像のそのピクセルが第2のクラス(非異物)に属する確率と、を適用する。機械学習モデルが異なる複数のタイプの異物を識別するようにトレーニングされている実施形態では、画像中のピクセルごとに異なるクラスが決定されてよい。
【0107】
ブロック910で、処理ロジックは、機械学習モデルの出力を受け取る。この出力は、口腔内画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含んでよく、異物の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、異物の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する。ブロック915で、処理ロジックは、マスクを使用して口腔内画像を修正する。第1の値を有するピクセル又はボクセルが口腔内画像から除去されてよく、一方、第2の値を有するピクセル又はボクセルが口腔内画像中にとどまってよい。
【0108】
図10は、一例示的歯列弓1005の一部分と、その上に置かれた異物1030とを示す。図に示すように、歯列弓1005の一部分は臼歯1010及び臼歯1020を含む。異物1030は歯鏡であり、これは、臼歯1010と臼歯1020の間の隣接歯間領域に置かれている。歯列弓1005の2つの口腔内画像1058、1060が生成されている。
【0109】
図11は、本開示の一実施形態による、異物1030の第1の表現を含む第1の口腔内画像1058を示す。第1の口腔内画像1058は、口腔内画像1058中の異物1030を識別する為に、本明細書において上述した手法のうちの1つ以上を用いて処理されてよい。
【0110】
図12は、本開示の一実施形態による、図11の第1の口腔内画像の修正版1068を示しており、第1の口腔内画像の修正版1068では異物がフィルタで取り除かれている。次に修正された画像1068を使用して、歯列弓1005の仮想3Dモデルが生成されてよい。口腔内画像1058から異物1030を除去してから仮想3Dモデルを生成することにより、仮想モデルの生成速度、並びに仮想モデルの正確さを高めることが可能である。
【0111】
なお、歯鏡の鏡面は、歯及び/又は歯肉組織の反射を含みうる。この反射は、口腔内画像158中の非異物の物理的特性を有するように現れる場合がある。しかしながら、鏡面は非反射性の縁で囲まれている。実施形態では、処理ロジックは、特定の形状を有する縁、及び/又は他の基準を満たす縁で囲まれた情報を無視することが可能である。これにより、反射性異物中に現れた自然特徴の反射が処理ロジックを混乱させて異物を非異物として誤識別させることがないようにできる。
【0112】
図13Aは、本開示の一実施形態による、一例示的歯列弓1305の一部分と、その上に置かれた異物1310とのビューを示す。異物1310は、例えば、ブラケット、アタッチメント、スキャンボディ、ストックインプラントアバットメント、又は他の永続的にマウントされる物体であってよい。異物は、幾つかの実施形態では、画像化しにくい材料(チタン等)で構成されている場合がある。
【0113】
図13Bは、本開示の一実施形態による、異物1310の未スキャン領域が示されている、図13Aのビューを示す。異物1310は、前述の手法のいずれかを用いて識別されていてよい。そして処理ロジックは、異物の全体表現を歯列弓1305のビューに嵌め込んでいてよい。図に示したように、異物1310の未スキャン部分はメッシュの輪郭で示されている。ユーザが異物の追加口腔内画像を生成するにつれて、メッシュの輪郭に追加口腔内画像からの画像データが埋められてよい。
【0114】
歯科部位の画像(例えば、口腔内画像)を処理して、そこにある異物(例えば、基準物体)を識別することに関して実施形態を説明してきた。複数の口腔内画像同士をステッチすることによって生成された仮想3Dモデルにおいて異物を識別することには、本明細書で上述した手法と同じか同等の手法が使用可能であることに留意されたい。更に、そこにある異物を識別する為に処理される画像は、口腔内スキャナで生成されていてよく、又は歯科部位の仮想3Dモデルを2D面又は2D平面に投射することによって生成されていてよい。識別された異物は、画像及び/又は仮想3Dモデルからフィルタで取り除かれてよく、或いは上述のように画像及び/又は仮想3Dモデルにおいて増強されてよい。
【0115】
図14は、コンピューティング装置1400という例示的形態のマシンの概略図を示しており、このマシンにおいて、本明細書で論じた方法論のうちの任意の1つ以上をマシンに実施させる命令セットが実行されてよい。代替実施形態では、マシンは、ローカルエリアネットワーク(LAN)、イントラネット、エクストラネット、又はインターネットにおいて他のマシンに接続(例えば、ネットワーク接続)されてよい。マシンは、クライアントサーバネットワーク環境においてサーバ又はクライアントマシンとして動作してよく、或いはピアツーピア(又は分散)ネットワーク環境においてピアマシンとして動作してよい。マシンは、パーソナルコンピュータ(PC)、タブレットコンピュータ、セットトップボックス(STB)、パーソナルデジタルアシスタント(PDA)、携帯電話、ウェブ電化製品、サーバ、ネットワークルータ、スイッチ又はブリッジ、或いは、そのマシンで実施すべきアクションを指定する命令セット(順次命令又は他の様式の命令)を実行することが可能な任意のマシンであってよい。更に、図には1つのマシンだけを示しているが、「マシン」という用語は又、本明細書で論じた方法論のうちの任意の1つ以上を実施する命令のセット(又は複数のセット)を個々に又は共同で実行する、マシン(例えば、コンピュータ)の任意の集合体を包含するものと解釈されるべきである。
【0116】
例示的コンピューティング装置1400は、処理装置1402、主メモリ1404(例えば、読み出し専用メモリ(ROM)、フラッシュメモリ、動的ランダムアクセスメモリ(DRAM)(例えば、同期DRAM(SDRAM)等))、静的メモリ1406(例えば、フラッシュメモリ、静的ランダムアクセスメモリ(SRAM)等)、及び二次メモリ(例えば、データストレージ装置1428)を含み、これらはバス1408を介して互いに通信する。
【0117】
処理装置1402は、1つ以上の汎用プロセッサ(例えば、マイクロプロセッサ、中央処理ユニット等)を表す。より具体的には、処理装置1402は、複雑命令セットコンピューティング(CISC)マイクロプロセッサ、縮小命令セットコンピューティング(RISC)マイクロプロセッサ、超長命令語(VLIW)マイクロプロセッサ、他の命令セットを実装したプロセッサ、又は命令セットの組み合わせを実装したプロセッサであってよい。処理装置1402は又、1つ以上の専用処理装置(例えば、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、デジタル信号プロセッサ(DSP)、ネットワークプロセッサ等)であってもよい。処理装置1402は、本明細書で論じた動作及びステップを実施する処理ロジック(命令1426)を実行するように構成されている。
【0118】
コンピューティング装置1400は更に、ネットワーク1464と通信する為のネットワークインタフェース装置1422を含んでよい。コンピューティング装置1400は又、ビデオディスプレイ装置1410(例えば、液晶ディスプレイ(LCD)又はブラウン管(CRT))、英数字入力装置1412(例えば、キーボード)、カーソル制御装置1414(例えば、マウス)、及び信号生成装置1420(例えば、スピーカ)を含んでよい。
【0119】
データストレージ装置1428は、マシン可読記憶媒体(又はより具体的には、非一時的コンピュータ可読記憶媒体)1424を含んでよく、これには、本明細書に記載の方法論又は機能のうちの任意の1つ以上を実施する1つ以上の命令セット1426が格納される。但し、非一時的記憶媒体は、搬送波以外の記憶媒体を意味する。命令1426は又、コンピュータ装置1400によって実行されている間は、全体又は少なくとも一部分が、主メモリ1404内及び/又は処理装置1402内にあってよく、主メモリ1404及び処理装置1402は又、コンピュータ可読記憶媒体を構成する。
【0120】
コンピュータ可読記憶媒体1424は又、異物識別モジュール1450を格納する為に使用されてよく、異物識別モジュール1450は、同様の名称の図1の異物識別モジュール115に相当してよい。コンピュータ可読記憶媒体1424は又、異物識別モジュール1450を呼び出す方法を含むソフトウェアライブラリを格納してよい。コンピュータ可読記憶媒体1424は、一例示的実施形態では単一の媒体であるように示されるが、「コンピュータ可読記憶媒体」という用語は、1つ以上の命令セットを格納する単一の媒体又は複数の媒体(例えば、集中データベース又は分散データベース、及び/又は関連するキャッシュ及びサーバ)を包含するように解釈されるべきである。「コンピュータ可読記憶媒体」という用語は又、マシンによって実行される命令セットを格納又は符号化することが可能であって、本開示の方法論のうちの任意の1つ以上をマシンに実施させる任意の媒体を包含するように解釈されるべきである。従って、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、並びに光学媒体及び磁気媒体を包含するように(但し、これらに限定されないように)解釈されるべきである。
【0121】
図15は、実施形態による、複数の器具を使用する歯列矯正治療の方法1550を示す。方法1550は、患者の歯列弓の仮想3Dモデルに基づいて生成された、カスタマイズされた歯列矯正器具又は器具セットを使用して実施されてよい。仮想3Dモデルは、本明細書に記載の実施形態に従って処理及び任意選択の修正が行われた口腔内画像を使用して生成されていてよい。ブロック1560で、患者の歯を第1の歯配列から第2の歯配列に再配置する為に、第1の歯列矯正器具が患者の歯に適用される。ブロック1570で、患者の歯を第2の歯配列から第3の歯配列に再配置する為に、第2の歯列矯正器具が患者の歯に適用される。方法1550は、患者の歯を初期配列から目標配列までインクリメンタルに再配置する為に、任意の適切な数及び組み合わせの一連の歯列矯正器具を使用して必要なだけ繰り返してよい。歯列矯正器具は、(例えば、処置の一段階の開始時に)全数が同じ段階で、即ち、セット又はバッチとして生成されてよく、又は1度に1つずつ製作されてよく、患者は、各歯列矯正器具を、歯に対する各歯列矯正器具の圧力が感じられなくなるまで、又は、その所与の段階に対して明示された歯移動の最大量が達成されるまで、装着してよい。異なる複数の歯列矯正器具(例えば、セット)が、それらの複数の歯列矯正器具のうちのいずれの歯列矯正器具を患者が装着するよりも前に設計されることが可能であり、更には製作されることが可能である。患者は、ある歯列矯正器具を適切な期間にわたって装着した後に、現在の歯列矯正器具をその一連の歯列矯正器具における次の歯列矯正器具に交換することが可能であり、これは残りの歯列矯正器具がなくなるまで行われることが可能である。歯列矯正器具は、一般に、歯に貼り付けられるものではなく、患者は、処置中に任意のタイミングで歯列矯正器具を設置したり交換したりできる(例えば、患者が取り外し可能な歯列矯正器具)。一連の歯列矯正器具中の最後の歯列矯正器具又は幾つかの歯列矯正器具は、歯配列を過矯正するように選択されたジオメトリを有してよい。例えば、1つ以上の歯列矯正器具が、(完全に達成された場合には)個々の歯を「最終」として選択された歯配列よりも動かすことになるジオメトリを有してよい。そのような過矯正は、再配置方法が終了した後の潜在的な逆戻りを相殺する為に(例えば、個々の歯が本来の矯正位置に向かって戻る動きを可能にする為に)望ましいと考えられる。過矯正は又、矯正速度を高めることに役立ちうる(例えば、所望の中間位置又は最終位置を越えて位置決めされたジオメトリを有する歯列矯正器具が、個々の歯を所望の位置まで、より高速で動かすことが可能である)。そのような場合には、歯列矯正器具によって設定された位置に歯が達する前にその歯列矯正器具の使用を終わらせてよい。更に、過矯正は、歯列矯正器具の不正確さ又は限界がある場合にこれを補償する為に意図的に適用されてよい。
【0122】
図16は、歯列矯正器具を設計する方法1600を示す。方法1600の一部又は全てのブロックが、任意の適切なデータ処理システム又はデータ処理装置(例えば、適切な命令によって構成された1つ以上のプロセッサ)によって実施されてよい。ブロック1610で、1つ以上の歯を初期配列から目標配列まで動かす移動経路が決定される。初期配列は、患者の歯又は口腔組織の型又はスキャンから決定されてよく、これには、例えば、ワックスバイト、直接接触スキャン、X線撮影、X線断層撮影、超音波画像化、及び他の、歯、顎、歯肉、及び他の歯列矯正関連組織の位置及び構造に関する情報を取得する手法が使用される。取得されたデータから、患者の歯及び他の組織の初期(例えば、処置前)の配列を表現するデジタルデータセットが導出されてよい。任意選択で、初期デジタルデータセットは、組織の各構成要素が互いにセグメント化されるように処理される。例えば、個々の歯冠をデジタルで表現したデータ構造が生成されてよい。有利なことに、測定又は外挿された隠面及び歯根構造、並びに周囲の骨及び軟組織を含む歯全体のデジタルモデルが生成されてよい。
【0123】
歯の目標配列(例えば、歯列矯正治療の所望の且つ意図された最終結果)は、臨床医から処方箋の形式で受け取られてよく、基本的な歯列矯正原理から計算されてよく、且つ/又は臨床医の処方箋から計算によって外挿されてよい。歯の所望の最終位置の仕様、及び歯自体のデジタル表現により、治療の最終目標における歯配列の完全なモデルを形成する為の、各歯の最終位置及び表面ジオメトリを指定することが可能である。
【0124】
各歯の初期位置及び目標位置の両方があれば、各歯が動く移動経路を定義することが可能である。幾つかの実施形態では、移動経路は、往復を最小限に抑えた最速の様式で歯を動かして、歯をそれらの初期位置から所望の目標位置まで持っていくように構成される。歯経路は任意選択でセグメント化されてよく、それらのセグメントは、各歯のセグメント内での動きが直線並進及び回転並進の限界値以内にとどまるように計算されてよい。このようにして、各経路セグメントのエンドポイントは、臨床的に実行可能な再配置を構成することが可能であり、セグメントのエンドポイントを集めたものが、臨床的に実行可能な歯位置のシーケンスを構成することが可能であり、それによって、シーケンス内の1つの点から次の点に移動することが歯同士の衝突を引き起こさない。
【0125】
ブロック1620で、移動経路に沿う1つ以上の歯の動きを発生させる力系が決定される。力系は、1つ以上の力及び/又は1つ以上のトルクを含んでよい。様々な力系が様々なタイプの歯移動を引き起こすことが可能であり、例えば、傾斜、並進、回転、廷出、圧下、歯根移動等を引き起こすことが可能である。歯列矯正において一般的に用いられる知識及びアプローチを含む生物機械的原理、モデリング手法、力計算/測定手法等を用いて、歯移動を達成する為に歯に印加すべき適切な力系を決定してよい。印加すべき力系を決定する際には、文献、実験又は仮想モデリングによって決定される力系、コンピュータベースのモデリング、臨床経験、不要な力の最小化等を含むソースが考慮されてよい。
【0126】
力系の決定は、許容できる力(例えば、許容できる方向及び大きさ)に対する制約、並びに印加する力によってもたらされるべき所望の動きを含んでよい。例えば、口蓋拡張器を製作する場合、患者が異なれば、所望の移動ストラテジも異なりうる。例えば、口蓋の分離に必要な力の大きさは患者の年齢によって異なりうる。これは、非常に若い患者の場合には縫合が完全には形成されていない可能性がある為である。従って、年少の患者や他の、口蓋縫合が完全には閉じていない患者の場合には、力の大きさを抑えて口蓋拡張を実施することが可能である。又、口蓋の移動を遅くすることは、骨が成長して、広がっている縫合を埋めることに役立ちうる。別の患者ではより迅速な拡張が望まれる場合があり、これは、より大きな力を印加することによって達成可能である。これらの要件は、歯列矯正器具の構造及び材料を選択する為に必要に応じて組み込まれてよく、例えば、口蓋縫合を離開させる為、及び/又は口蓋の迅速な拡張を引き起こす為に大きな力を印加することが可能な口蓋拡張器を選択することによって組み込まれてよい。後続の歯列矯正器具段階は、異なる大きさの力を印加するように設計されてよく、例えば、最初に縫合を割る為に大きな力を印加し、次に、縫合を分離した状態に保つ為、或いは口蓋及び/又は歯列弓を徐々に拡張する為に、より小さな力を印加するように設計されてよい。
【0127】
力系の決定は又、患者の顔構造(例えば、顎及び口蓋の骨格構造)のモデリングを含んでよい。例えば、口蓋及び歯列弓のスキャンデータ(X線データ又は3D光学スキャンデータ等)を使用して、口蓋及び/又は歯列弓の所望の拡張を実現するのに十分な力が決定されるように、患者の口腔の骨格系及び筋肉系のパラメータを決定することが可能である。幾つかの実施形態では、中口蓋縫合の厚さ及び/又は密度が治療専門者によって測定(入力)されてよい。別の実施形態では、治療専門者は、患者の生理学的特性に基づいて適切な治療を選択してよい。例えば、口蓋の特性は、患者の年齢等の要因に基づいて評価されてもよい。例えば、年少の患者は、典型的には、縫合がまだ完全には形成されていない為に、縫合を拡張する力を、より年齢の高い患者より小さくすることが必要になる。
【0128】
ブロック1630で、力系を生成するように構成された歯列矯正器具が決定される。歯列矯正器具、器具のジオメトリ、材料組成、及び/又は特性の決定は、治療又は力印加のシミュレーション環境を使用して実施されてよい。シミュレーション環境として、例えば、コンピュータモデリングシステム、生物機械的システム又は装置等があってよい。
【0129】
ブロック1640で、歯列矯正器具、又は歯列矯正器具の製造に使用される型を製作する命令が生成される。これらの命令は、歯列矯正器具及び/又は型を製作するように製作システム又は装置を制御するように構成されてよい。幾つかの実施形態では、これらの命令は、本明細書で示した様々な方法に従って、直接製作(例えば、ステレオリソグラフィ、選択的レーザ焼結、熱溶解積層法、3D印刷、連続的直接製作、マルチマテリアル直接製作等)により歯列矯正器具を製造するように構成されている。代替実施形態では、これらの命令は、歯列矯正器具の間接的製作を行うように構成されてよく、例えば、型の直接3D印刷を行い、その後、その型にプラスチックシートを被せて熱成形することによって間接的製作を行うように構成されてよい。
【0130】
方法1600は更なるブロックを含んでよく、1)患者の上顎歯列弓及び口蓋の口腔内スキャンを行うことによって口蓋及び上顎歯列弓の3次元データを生成するブロックと、2)本明細書に記載のギャップと歯との係合構造を与えるように歯列矯正器具の3次元形状プロファイルを決定するブロックと、を含んでよい。
【0131】
図17は、実施形態による、歯列矯正治療、及び/又は歯列矯正器具の設計又は製作をデジタルで計画する方法1700を示す。方法1700は、本明細書に記載のどの治療処置に適用されてもよく、任意の適切なデータ処理システムによって実施されてよい。
【0132】
ブロック1710で、患者の歯のデジタル表現が受け取られる。デジタル表現は、患者の(歯、歯肉組織等を含む)口腔内の表面トポグラフィデータを含んでよい。表面トポグラフィデータは、適切なスキャン装置(例えば、手持ち式スキャナ、デスクトップスキャナ等)を使用して、口腔内、口腔内の物理モデル(陽型又は陰型)、又は口腔内の印象を直接スキャンすることによって生成されてよい。
【0133】
ブロック1720で、歯のデジタル表現に基づいて、1つ以上の治療段階が生成される。これらの治療段階は、患者の歯のうちの1つ以上を初期歯配列から目標歯配列まで動かすように設計された歯列矯正治療処置のインクリメンタルな再配置段階であってよい。例えば、治療段階の生成は、デジタル表現によって示された初期歯配列を決定し、目標歯配列を決定し、目標歯配列を達成する為に必要な、初期歯配列中の1つ以上の歯の移動経路を決定することによって行われよい。移動経路の最適化が、総移動距離を最小限に抑えること、歯同士が衝突しないようにすること、より達成しにくい歯移動を避けること、又は他の任意の適切な基準に基づいて行われてよい。
【0134】
ブロック1730で、生成された治療段階に基づいて少なくとも1つの歯列矯正器具が製作される。例えば、歯列矯正器具のセットが製作されてよく、各器具の形状は、治療段階の1つによって指定された歯配列に従って決定され、それにより、それらの歯列矯正器具を患者が順次装着することによって、歯が初期配列から目標配列までインクリメンタルに再配置されることが可能である。歯列矯正器具のセットは、本明細書に記載の歯列矯正器具のうちの1つ以上を含んでよい。歯列矯正器具の製作は、コンピュータ制御の製作システムへの入力として使用される、歯列矯正器具のデジタルモデルを作成することを含んでよい。歯列矯正器具は、必要に応じて、直接製作方法、間接的製作方法、又はこれらの組み合わせを用いて形成されてよい。
【0135】
場合によっては、様々な配列又は治療段階という段階化は、歯列矯正器具の設計及び/又は製作に必須でなくてよい。図17に破線で示したように、歯列矯正器具の設計及び/又は製作、並びにおそらくは特定の歯列矯正治療は、患者の歯の表現を使用すること(例えば、患者の歯のデジタル表現を受け取ること(1710))と、その後に、受け取った表現によって表現されている配列の中の患者の歯の表現に基づいて歯列矯正器具を設計及び/又は製作することと、を含んでよい。
【0136】
当然のことながら、上述の説明は、制限的ではなく例示的であるものとする。上述の説明を読んで理解すれば、他の多くの実施形態が明らかになるであろう。本開示の実施形態を、実施形態の具体例を参照して説明してきたが、本開示は、説明した実施形態に限定されず、添付の特許請求項の趣旨及び範囲から逸脱しない修正及び変更を加えて実施されてよいことが理解されよう。従って、本明細書及び図面は、制限的な意味ではなく例示的な意味で受け取られたい。従って、本開示の範囲は、添付の特許請求項を、そのような特許請求項が権利を有する均等物の全範囲とともに参照して決定されるべきである。
図1A
図1B
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13A
図13B
図14
図15
図16
図17
【手続補正書】
【提出日】2024-07-08
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
歯科部位の口腔内スキャン中に口腔内スキャナから前記歯科部位の第1の複数の2次元(2D)口腔内画像を受け取るステップであって、前記第1の複数の2D口腔内画像は、少なくとも1つのカラー2D口腔内画像を含む、当該受け取るステップと、
前記少なくとも1つのカラー2D口腔内画像の色解析を実施するステップと、
少なくとも部分的に前記色解析に基づいて、前記少なくとも1つのカラー2D口腔内画像における異物の表現を識別するステップであって、色値範囲内の色値を有する前記少なくとも1つのカラー2D口腔内画像のピクセルが前記異物の一部として識別される、当該識別するステップと、
前記第1の複数の2D口腔内画像のうちの1つ以上の2D口腔内画像から前記異物の前記表現を除去することにより、前記1つ以上の2D口腔内画像を修正するステップと、
前記異物の前記表現が除去された前記修正された1つ以上の2D口腔内画像を3次元(3D)データに変換するステップと、
前記口腔内スキャン中に前記口腔内スキャナから前記歯科部位の第2の複数の2D口腔内画像を受け取るステップと、
前記第2の複数の2D口腔内画像のうちの1つ以上の追加の2D口腔内画像を追加の3Dデータに変換するステップと、
前記3Dデータ及び前記追加の3Dデータに少なくとも部分的に基づいて、前記歯科部位の3D面を生成するステップと、
を含む方法。
【請求項2】
前記少なくとも1つのカラー2D口腔内画像に対して画像処理を実施して、前記少なくとも1つのカラー2D口腔内画像の複数の特徴を決定するステップを、
更に含む、請求項1に記載の方法。
【請求項3】
前記画像処理は、エッジ検出アルゴリズム、物体検出アルゴリズム、又は特徴検出アルゴリズムの少なくとも1つを含む、請求項2に記載の方法。
【請求項4】
前記歯科部位の前記口腔内スキャンの前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の1つ以上の画像を受け取るステップと、
前記異物の前記1つ以上の画像を使用して前記色値範囲を決定するステップと、
を実施することを更に含む、請求項1に記載の方法。
【請求項5】
前記第2の複数の2D口腔内画像は、少なくとも1つの追加のカラー2D口腔内画像を含み、前記方法は、
前記少なくとも1つの追加のカラー2D口腔内画像の前記色解析を実施するステップと、
前記少なくとも1つの追加のカラー2D口腔内画像の前記色解析に基づいて、前記少なくとも1つの追加のカラー2D口腔内画像内の前記異物の追加表現を識別するステップと、
前記1つ以上の追加の2D口腔内画像を前記追加の3Dデータに変換する前に、前記1つ以上の追加の2D口腔内画像から前記異物の前記追加表現を除去することにより、前記1つ以上の追加の2D口腔内画像を修正するステップと、を更に含む、請求項1に記載の方法。
【請求項6】
前記異物は、前記1つ以上の2D口腔内画像と前記1つ以上の追加の2D口腔内画像とで前記歯科部位の同じ位置にある静止物体である、請求項5に記載の方法。
【請求項7】
前記少なくとも1つのカラー2D口腔内画像の少なくとも1つの追加の解析を実施するステップであって、前記少なくとも1つの追加の解析は、光の波長に関連付けられた反射率の解析、光の波長に関連付けられた屈折率の解析、光の波長に関連付けられた反応度の解析、テクスチャの解析、又は形状の解析のうちの少なくとも1つを含む、請求項1に記載の方法。
【請求項8】
前記少なくとも1つのカラー2D口腔内画像における異物の前記表現は、前記色解析及び前記少なくとも1つの追加の解析に基づいて決定される、請求項7に記載の方法。
【請求項9】
前記口腔内スキャン中に前記口腔内スキャナから前記歯科部位の第3の複数の2次元(2D)口腔内画像を受け取るステップであって、前記第3の複数の2D口腔内画像は少なくとも1つの更なるカラー2D口腔内画像を含む、当該受け取るステップと、
前記少なくとも1つの更なるカラー2D口腔内画像の色解析を実施するステップと、
前記少なくとも1つの更なるカラー2D口腔内画像の前記色解析に少なくとも部分的に基づいて、前記少なくとも1つの更なるカラー2D口腔内画像における第2の異物の表現を識別するステップであって、第2の色値範囲内の色値を有する、前記少なくとも1つの更なるカラー2D口腔内画像のピクセルが、前記第2の異物の一部として識別される、当該識別するステップと、
前記第3の複数の2D口腔内画像のうちの1つ以上の2D口腔内画像から前記第2の異物の前記表現を除去することにより、前記第3の複数の2D口腔内画像のうちの前記1つ以上の2D口腔内画像を修正するステップと、
前記第2の異物の前記表現が除去された前記第3の複数の2D口腔内画像のうちの前記修正された1つ以上の2D口腔内画像を更なる3Dデータに変換するステップと、
前記更なる3Dデータに少なくとも部分的に基づいて前記歯科部位の前記3D面を更新するステップと、
を更に含む、請求項1に記載の方法。
【請求項10】
前記異物の前記表現の輪郭を決定するステップであって、前記輪郭内の前記1つ以上の2D口腔内画像の領域が前記1つ以上の2D口腔内画像から除去される、当該決定するステップを、
更に含む、請求項1に記載の方法。
【請求項11】
前記口腔内スキャン中に前記3D面をディスプレイに出力するステップであって、前記異物は前記3D面に含まれない、当該出力するステップを、
更に含む、請求項1に記載の方法。
【請求項12】
前記異物の前記表現に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回っているかどうかを判定するステップと、
を更に含む、請求項1に記載の方法。
【請求項13】
a)前記異物の前記表現を前記1つ以上の2D口腔内画像から除去するか、又は、b)前記異物の前記表現を前記1つ以上の2D口腔内画像中に放置するか、の選択肢を提示するステップと、
前記1つ以上の2D口腔内画像から前記異物の前記表現を除去するためのユーザ選択を受け取るステップと、
更に含む、請求項12に記載の方法。
【請求項14】
口腔内スキャナと、前記口腔内スキャナに動作可能に結合されたコンピューティング装置とを含むシステムであって、前記コンピューティング装置が、請求項1から13のいずれか一項に記載の前記方法を実行するように構成されている、システム。
【請求項15】
処理装置によって実行されたときに、前記処理装置に請求項1から13のいずれか一項に記載の前記方法を実施させる命令を含む、コンピュータ可読媒体。
【請求項16】
歯科部位の口腔内スキャン中に、手持ち式スキャナから歯科部位の第1の複数の口腔内画像を受け取るステップと、
歯科部位の異物を識別するようにトレーニングされた機械学習モデルを使用して、前記第1の複数の口腔内画像のうちの少なくとも1つの口腔内画像を処理するステップと、
前記トレーニングされた機械学習モデルの出力を受け取るステップであって、前記出力は、前記歯科部位における異物に関連付けられた前記少なくとも1つの口腔内画像からの複数のピクセルを示すものを含む、当該受け取るステップと、
前記トレーニングされた機械学習モデルの前記出力に基づいて、前記1つ以上の口腔内画像から前記複数のピクセルに関連付けられたデータを除去することにより、前記第1の複数の口腔内画像のうちの1つ以上の口腔内画像を修正するステップと、
前記口腔内スキャン中に前記手持ち式スキャナから前記歯科部位の第2の複数の口腔内画像を受け取るステップと、
1)前記第1の複数の口腔内画像のうちの前記修正された1つ以上の口腔内画像と、2)前記第2の複数の口腔内画像とに少なくとも部分的に基づいて、前記歯科部位の3次元(3D)面を生成するステップと、
を含む方法。
【請求項17】
前記出力は、前記少なくとも1つの口腔内画像のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、前記異物の一部であるピクセル又はボクセルに関連付けられたエントリは、第1の値を有し、前記異物の一部でないピクセル又はボクセルに関連付けられたエントリは、第2の値を有し、前記1つ以上の口腔内画像は、前記バイナリマスクを使用して修正される、請求項16に記載の方法。
【請求項18】
前記少なくとも1つの口腔内画像は、カラー口腔内画像を含み、前記トレーニングされた機械学習モデルは、少なくとも部分的に色情報に基づいて歯科部位の異物を識別するようにトレーニングされる、請求項16に記載の方法。
【請求項19】
手持ち式スキャナと、前記手持ち式スキャナに動作可能に結合されたコンピューティング装置とを含むシステムであって、前記コンピューティング装置が、請求項14から18のいずれか一項に記載の前記方法を実行するように構成されている、システム。
【請求項20】
口腔内スキャンを実施する手持ち式スキャナと、
プロセッサによって実行されたときに、
歯科部位の口腔内スキャン中に、1つ以上の2次元(2D)口腔内画像を受け取るステップと、
前記1つ以上の2D口腔内画像内の異物の表現を、光の波長に対する前記異物の反射率、光の波長に対する前記異物の屈折率、光の波長に対する前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状の少なくとも1つに基づいて識別するステップと、
前記1つ以上の2D口腔内画像から前記異物の前記表現を除去することにより、前記1つ以上の2D口腔内画像を修正するステップと、
前記異物の前記表現が除去された前記修正された1つ以上の2D口腔内画像を3次元(3D)データに変換するステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加の2D口腔内画像を受け取るステップと、
前記複数の追加の2D口腔内画像を追加の3Dデータに変換するステップと、
前記3Dデータと前記追加の3Dデータを使用して前記歯科部位の仮想3Dモデルを生成するステップと、
を含む動作を前記プロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、
を含むシステム。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0136
【補正方法】変更
【補正の内容】
【0136】
当然のことながら、上述の説明は、制限的ではなく例示的であるものとする。上述の説明を読んで理解すれば、他の多くの実施形態が明らかになるであろう。本開示の実施形態を、実施形態の具体例を参照して説明してきたが、本開示は、説明した実施形態に限定されず、添付の特許請求項の趣旨及び範囲から逸脱しない修正及び変更を加えて実施されてよいことが理解されよう。従って、本明細書及び図面は、制限的な意味ではなく例示的な意味で受け取られたい。従って、本開示の範囲は、添付の特許請求項を、そのような特許請求項が権利を有する均等物の全範囲とともに参照して決定されるべきである。
〔付記1〕
歯科部位の複数の画像を含む口腔内スキャンデータを受け取るステップと、
前記複数の画像に基づいて前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
前記歯科部位の画像に対して解析を実施するステップと、
前記画像中の基準物体の表現を識別するステップであって、前記基準物体は1つ以上の既知の特性を有する、前記識別するステップと、
前記基準物体の前記1つ以上の既知の特性に基づいて、前記基準物体に関する追加データを、前記歯科部位の前記画像又は前記仮想3Dモデルの少なくとも一方に追加することによって、前記画像又は前記仮想3Dモデルの少なくとも一方を修正するステップと、
を含む方法。
〔付記2〕
前記画像は、前記仮想3Dモデルの生成に使用される、前記歯科部位の前記複数の画像のうちの1つであり、前記画像は、前記基準物体に関する前記追加データを前記画像に追加することによって修正され、前記画像は、修正されると、前記歯科部位の前記仮想3Dモデルの生成に使用される、付記1に記載の方法。
〔付記3〕
前記画像に対して画像処理を実施して、前記画像中で表現されているありそうな物体を特定するステップであって、前記ありそうな物体は1つ以上の物理的特性を含む、前記特定するステップと、
前記ありそうな物体の前記1つ以上の物理的特性を、前記基準物体の前記1つ以上の既知の特性と比較するステップと、
前記比較の結果として、前記ありそうな物体の前記1つ以上の物理的特性が前記基準物体の前記1つ以上の既知の特性と一致するかどうかを判定するステップと、
前記ありそうな物体が前記基準物体であるかどうかを判定するステップと、
を更に含む、付記2に記載の方法。
〔付記4〕
前記1つ以上の物理的特性は、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、又は形状のうちの少なくとも1つを含む、付記3に記載の方法。
〔付記5〕
前記画像の前記解析を実施する前記ステップは、1つ以上のタイプの基準物体を識別するようにトレーニングされた機械学習モデルに前記画像を入力するステップを含み、前記機械学習モデルは、前記画像中の前記基準物体の前記表現を示すものを出力する、付記1に記載の方法。
〔付記6〕
前記解析が実施される前記画像を、前記仮想3Dモデルを平面に投射することによって生成するステップ
を更に含む、付記1に記載の方法。
〔付記7〕
口腔内スキャン中に、前記修正された画像に基づいて、前記歯科部位のビューを生成するステップであって、前記ビューは、前記基準物体に関する前記追加データに基づく前記基準物体の輪郭を含む、前記ビューを生成する前記ステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加画像を受け取るステップと、
前記複数の追加画像に基づいて、前記基準物体の形状の1つ以上の部分を置き換えるステップと、
前記歯科部位の前記ビューを更新するステップであって、前記更新されたビューは、前記基準物体の前記形状の前記置き換えられた部分を示している、前記更新するステップと、
を更に含む、付記6に記載の方法。
〔付記8〕
前記基準物体の前記表現を識別する前記ステップは、
歯科部位にある1つ以上の異物を識別するようにトレーニングされた機械学習モデルを使用して前記画像を処理するステップと、
前記機械学習モデルの出力を受け取るステップであって、前記出力は、前記画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、前記基準物体の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、前記基準物体の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する、前記出力を受け取る前記ステップと、
を含む、付記1に記載の方法。
〔付記9〕
前記口腔内スキャンデータを受け取る前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記基準物体の複数の画像を受け取るステップと、
前記基準物体の前記複数の画像に基づいて前記基準物体の仮想モデルを生成するステップと、
前記基準物体の前記仮想モデル、又は前記基準物体の前記複数の画像の少なくとも一方を、複数の基準物体のエントリを含む基準物体ライブラリに追加するステップと、
を実施することを更に含む、付記1に記載の方法。
〔付記10〕
前記基準物体が前記歯科部位にあることを示すものを受け取るステップであって、前記示すものは前記基準物体の識別情報を含む、前記示すものを受け取る前記ステップと、
前記基準物体の前記識別情報を使用して、複数の基準物体のエントリを含む基準物体ライブラリに対してクエリを実行するステップと、
前記クエリに対する回答を受け取るステップであって、前記回答は、前記基準物体に関連付けられたデータを含む、前記回答を受け取る前記ステップと、
前記データを使用して、前記画像中の前記基準物体を識別するステップと、
を更に含む、付記1に記載の方法。
〔付記11〕
前記1つ以上の既知の特性は、光の波長に対する、前記基準物体の既知の反射率、光の波長に対する、前記基準物体の既知の屈折率、光の波長に対する、前記基準物体の既知の反応度、前記基準物体の既知のテクスチャ、前記基準物体の既知の表面パターン、前記基準物体の既知の色、又は前記基準物体の既知の形状のうちの少なくとも1つを含む、付記1に記載の方法。
〔付記12〕
前記基準物体に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回るかどうかを判定するステップと、
a)前記基準物体に関する前記追加データを前記画像又は前記仮想3Dモデルの少なくとも一方に追加するか、b)前記画像又は前記仮想3Dモデルの少なくとも一方にある前記基準物体の表現を不変のまま放置するか、の選択肢を提示するステップと、
前記基準物体に関する前記追加データを前記画像又は前記仮想3Dモデルの少なくとも一方に追加するというユーザ選択を受け取るステップと、
を更に含む、付記1に記載の方法。
〔付記13〕
前記基準物体は、前記基準物体の口腔内スキャンの正確さを低下させる原因となる形状又は材料の少なくとも一方を含む、付記1に記載の方法。
〔付記14〕
処理装置によって実行されたときに、
歯科部位の口腔内画像を含む口腔内スキャンデータを受け取るステップと、
前記口腔内画像の解析を実施して、a)前記口腔内画像中で表現されている異物を識別し、b)前記異物が、1つ以上の既知の特性を有する基準物体のインスタンスかどうかを判定するステップと、
前記基準物体の前記1つ以上の既知の特性に基づいて前記異物に関する追加データを前記口腔内画像に追加することにより、前記口腔内画像を修正するステップと、
前記歯科部位の複数の追加口腔内画像を含む追加口腔内スキャンデータを受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とに基づいて前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記処理装置に実施させる命令を含む非一時的コンピュータ可読媒体。
〔付記15〕
前記口腔内画像の前記解析を実施する前記ステップは、
前記口腔内画像に対して画像処理を実施して、前記口腔内画像中の複数のありそうな物体を特定するステップであって、前記複数のありそうな物体のそれぞれが1つ以上の物理的特性を含む、前記特定するステップと、
前記複数のありそうな物体のそれぞれについて、前記ありそうな物体の前記1つ以上の物理的特性を、基準物体の複数の既知の特性と比較するステップと、
前記比較の結果として、前記複数のありそうな物体のうちのありそうな物体の前記1つ以上の物理的特性が前記基準物体の前記1つ以上の既知の特性と一致するかどうかを判定するステップと、
前記ありそうな物体が、前記歯科部位にある前記異物かどうかを判定するステップと、
を含む、付記14に記載の非一時的コンピュータ可読媒体。
〔付記16〕
前記1つ以上の物理的特性は、光の波長に対する反射率、屈折率、反応度、並びにテクスチャ、表面パターン、色、又は形状のうちの少なくとも1つを含む、付記15に記載の非一時的コンピュータ可読媒体。
〔付記17〕
前記口腔内スキャンデータ及び前記追加口腔内スキャンデータは口腔内スキャン中に受け取られ、前記追加データは前記異物の形状を含み、前記形状のうちの少なくとも一部分が前記口腔内画像に示さておらず、前記動作は更に、
前記口腔内スキャン中に、前記修正された口腔内画像に基づいて、前記歯科部位のビューを生成するステップであって、前記ビューは、前記異物に関する前記追加データに基づく前記異物の輪郭を含む、前記ビューを生成する前記ステップと、
前記複数の追加口腔内画像に基づいて、前記異物の前記形状の1つ以上の部分を置き換えるステップと、
前記歯科部位の前記ビューを更新するステップであって、前記更新されたビューは、前記異物の前記形状の前記置き換えられた部分を示している、前記更新するステップと、
を含む、付記14に記載の非一時的コンピュータ可読媒体。
〔付記18〕
前記仮想3Dモデル中で表現されている前記異物の少なくとも一部分が、前記異物に関する前記追加データに基づいていて、受け取られた口腔内画像には基づいていない、付記17に記載の非一時的コンピュータ可読媒体。
〔付記19〕
前記動作は、前記口腔内スキャンデータを受け取る前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の複数の画像を受け取るステップと、
前記複数の画像に基づいて前記異物の仮想モデルを生成するステップと、
前記異物の前記仮想モデル、又は前記異物の前記複数の画像の少なくとも一方を、複数の基準物体のエントリを含む基準物体ライブラリに追加するステップと、
を実施することを更に含む、付記14に記載の非一時的コンピュータ可読媒体。
〔付記20〕
前記動作は、
前記異物が前記歯科部位にあることを示すものを受け取るステップであって、前記示すものは前記異物の識別情報を含む、前記示すものを受け取る前記ステップと、
前記異物の前記識別情報を使用して、複数の基準物体のエントリを含む基準物体ライブラリに対してクエリを実行するステップと、
前記クエリに対する回答を受け取るステップであって、前記回答は、前記異物の1つ以上の既知の特性を含み、前記1つ以上の既知の特性は、光の波長に対する、前記異物の既知の反射率、光の波長に対する、前記異物の既知の屈折率、光の波長に対する、前記異物の既知の反応度、前記異物の既知のテクスチャ、前記異物の既知の表面パターン、前記異物の既知の色、又は前記異物の既知の形状のうちの少なくとも1つを含む、前記回答を受け取る前記ステップと、
前記異物の前記1つ以上の既知の特性を使用して、前記口腔内画像中の前記異物を識別するステップと、
を更に含む、付記14に記載の非一時的コンピュータ可読媒体。
〔付記21〕
前記動作は、前記口腔内画像を修正する前に、
前記異物に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回るかどうかを判定するステップと、
a)前記異物に関する前記追加データを前記口腔内画像に追加するか、b)前記口腔内画像中の前記異物の表現を不変のまま放置するか、の選択肢を提示するステップと、
前記異物に関する前記追加データを前記口腔内画像に追加するというユーザ選択を受け取るステップと、
を実施することを更に含む、付記14に記載の非一時的コンピュータ可読媒体。
〔付記22〕
前記動作は、
前記異物のエントリを既知の異物の基準物体ライブラリに追加するステップ
を更に含む、付記21に記載の非一時的コンピュータ可読媒体。
〔付記23〕
口腔内スキャンを実施する手持ち式スキャナと、
プロセッサによって実行されたときに、
歯科部位の口腔内スキャンに関連付けられた口腔内画像を受け取るステップと、
光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つに基づいて、前記口腔内画像中の異物の表現を識別するステップと、
前記異物のより完全な表現を前記口腔内画像に追加することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加口腔内画像を受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記プロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、
を含むシステム。
〔付記24〕
歯科部位の口腔内スキャン中に口腔内画像を含むスキャンデータを受け取るステップと、
前記スキャンデータの解析に基づいて前記口腔内画像中の異物の表現を識別するステップと、
前記異物の前記表現を前記口腔内画像から除去することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に、前記歯科部位の複数の追加口腔内画像を含む追加スキャンデータを受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む方法。
〔付記25〕
前記歯科部位の前記複数の追加口腔内画像のうちの1つ以上の追加口腔内画像中の前記異物の追加表現を識別するステップと、
前記異物の前記追加表現を前記1つ以上の追加口腔内画像から除去することによって前記1つ以上の追加口腔内画像を修正するステップと、
を更に含み、
前記異物は、前記口腔内画像と前記1つ以上の追加口腔内画像とで前記歯科部位の同じ位置にある静止物体である、
付記24に記載の方法。
〔付記26〕
前記スキャンデータを解析して、光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つを特定するステップと、
光の前記波長に対する、前記異物の前記反射率、光の前記波長に対する、前記異物の前記屈折率、光の前記波長に対する、前記異物の前記反応度、前記異物の前記テクスチャ、前記異物の前記表面パターン、前記異物の前記色、又は前記異物の前記形状のうちの少なくとも1つに基づいて、前記異物の前記表現を識別するステップと、
を更に含む、付記24に記載の方法。
〔付記27〕
前記口腔内画像に対して画像処理を実施して、前記口腔内画像中の複数の形状を特定するステップであって、前記複数の形状は前記異物の形状を含む、前記特定するステップと、
前記口腔内画像中の前記複数の形状を、基準物体の複数の既知の形状と比較するステップと、
前記比較の結果として、前記異物の前記形状が基準物体の既知の形状と一致するかどうかを判定するステップと、
を更に含む、付記24に記載の方法。
〔付記28〕
前記歯科部位の前記口腔内スキャンの前に、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の複数の画像を受け取るステップと、
前記複数の画像に基づいて前記異物の仮想モデルを生成するステップと、
前記異物の前記仮想モデル、又は前記異物の前記複数の画像の少なくとも一方を、前記基準物体の前記複数の既知の形状を含む基準物体ライブラリに追加するステップと、
を実施することを更に含む、付記27に記載の方法。
〔付記29〕
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数のテクスチャ又は複数の表面パターンの少なくとも一方を識別するステップと、
前記複数のテクスチャのうちの、前記歯科部位に自然には存在しないテクスチャ、又は前記複数の表面パターンのうちの、前記歯科部位に自然には存在しない表面パターンの少なくとも一方を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、付記24に記載の方法。
〔付記30〕
前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を特定する前記ステップは、
a)前記口腔内画像中で識別された前記複数のテクスチャを、基準物体の複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが基準物体の既知のテクスチャと一致するかどうかを判定するステップ、
b)前記口腔内画像中で識別された前記複数の表面パターンを、基準物体の複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが基準物体の既知の表面パターンと一致するかどうかを判定するステップ、
c)前記口腔内画像中で識別された前記複数のテクスチャを、前記歯科部位に自然に存在する複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが、口腔内に自然に存在するいかなる既知のテクスチャとも一致しないかどうかを判定するステップ、又は
d)前記口腔内画像中で識別された前記複数の表面パターンを、前記歯科部位に自然に存在する複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが、前記口腔内に自然に存在するいかなる既知の表面パターンとも一致しないかどうかを判定するステップ、
のうちの少なくとも1つのステップを含む、付記29に記載の方法。
〔付記31〕
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数の色を識別するステップと、
前記複数の色のうちの、前記歯科部位に自然には存在しない少なくとも1つの色を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記少なくとも1つの色を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、付記24に記載の方法。
〔付記32〕
前記歯科部位に自然には存在しない前記少なくとも1つの色を特定する前記ステップは、前記口腔内画像のピクセル又はボクセルごとに、
色エンコード系の各色チャネルについて、飽和値又は強度値の少なくとも一方を調べるステップと、
前記色エンコード系の各色チャネルの前記飽和値又は前記強度値の少なくとも一方を含むタプルを決定するステップと、
前記タプルが指定の色範囲から外れているかどうかを判定するステップと、
を実施することを含み、
前記口腔内画像のうちの、自然には存在しない前記少なくとも1つの色を有する前記領域の輪郭を決定する前記ステップは、前記指定の色範囲から外れているタプルを有する複数の連続したピクセル又はボクセルを特定するステップを含む、
付記31に記載の方法。
〔付記33〕
前記異物が前記歯科部位にあることを示すものを受け取るステップであって、前記示すものは前記異物の識別情報を含む、前記示すものを受け取る前記ステップと、
前記異物の前記識別情報を使用して基準物体ライブラリに対してクエリを実行するステップと、
前記クエリに対する回答を受け取るステップであって、前記回答は、前記異物の1つ以上の既知の特性を含み、前記1つ以上の既知の特性は、光の波長に対する、前記異物の既知の反射率、光の波長に対する、前記異物の既知の屈折率、光の波長に対する、前記異物の既知の反応度、前記異物の既知のテクスチャ、前記異物の既知の表面パターン、前記異物の既知の色、又は前記異物の既知の形状のうちの少なくとも1つを含む、前記回答を受け取る前記ステップと、
前記異物の前記1つ以上の既知の特性を使用して、前記口腔内画像中の前記異物の前記表現を識別するステップと、
を更に含む、付記24に記載の方法。
〔付記34〕
前記口腔内スキャン中に、前記修正された口腔内画像と前記複数の追加口腔内画像とに基づいて前記歯科部位のビューを生成するステップと、
前記異物の輪郭を生成するステップと、
前記異物の前記輪郭を前記ビューに追加するステップと、
前記異物の前記輪郭をユーザが選択することを可能にするユーザインタフェースを提供するステップであって、前記異物の前記輪郭をユーザが選択することは、前記異物の前記表現が前記口腔内画像に戻されることを引き起こし、更に、フィルタで取り除かれるべきではない既知の物体の基準物体ライブラリに前記異物が追加されることを引き起こす、前記提供するステップと、
を更に含む、付記24に記載の方法。
〔付記35〕
前記口腔内画像を修正する前に、
前記異物の前記表現に関連付けられた信頼値を決定するステップと、
前記信頼値が信頼閾値を下回るかどうかを判定するステップと、
a)前記異物の前記表現を前記口腔内画像から除去するか、b)前記異物の前記表現を前記口腔内画像中に放置するか、の選択肢を提示するステップと、
前記異物の前記表現を前記口腔内画像から除去するというユーザ選択を受け取るステップと、
を実施することを更に含む、付記24に記載の方法。
〔付記36〕
前記異物の1つ以上の特性を特定するステップであって、前記1つ以上の特性は、光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つを含む、前記特定するステップと、
フィルタで取り除くべき既知の異物の基準物体ライブラリに前記異物のエントリを追加するステップと、
を更に含む、付記35に記載の方法。
〔付記37〕
前記異物の前記表現を識別する前記ステップは、
歯科部位にある異物を識別するようにトレーニングされた機械学習モデルを使用して前記口腔内画像を処理するステップと、
前記機械学習モデルの出力を受け取るステップであって、前記出力は、前記口腔内画像中のピクセル又はボクセルと同数のエントリを有するバイナリマスクを含み、前記異物の一部であるピクセル又はボクセルに関連付けられたエントリが第1の値を有し、前記異物の一部でないピクセル又はボクセルに関連付けられたエントリが第2の値を有する、前記出力を受け取る前記ステップと、
を含み、
前記口腔内画像は前記バイナリマスクを使用して修正される、
付記35に記載の方法。
〔付記38〕
処理装置によって実行されたときに、
歯科部位の口腔内スキャン中に口腔内画像を含むスキャンデータを受け取るステップと、
前記スキャンデータの解析に基づいて前記口腔内画像中の異物の表現を識別するステップと、
前記異物の前記表現を前記口腔内画像から除去することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に、前記歯科部位の複数の追加口腔内画像を含む追加スキャンデータを受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記処理装置に実施させる命令を含む非一時的コンピュータ可読媒体。
〔付記39〕
前記動作は、
前記歯科部位の前記複数の追加口腔内画像のうちの1つ以上の追加口腔内画像中の前記異物の追加表現を識別するステップと、
前記異物の前記追加表現を前記1つ以上の追加口腔内画像から除去することによって前記1つ以上の追加口腔内画像を修正するステップと、
を更に含み、
前記異物は、前記口腔内画像と前記1つ以上の追加口腔内画像とで前記歯科部位の同じ位置にある静止物体である、
付記38に記載の方法。
〔付記40〕
前記動作は、
前記スキャンデータを解析して、光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つを特定するステップと、
光の波長に対する、前記異物の前記反射率、光の波長に対する、前記異物の前記屈折率、光の波長に対する、前記異物の前記反応度、前記異物の前記テクスチャ、前記異物の前記表面パターン、前記異物の前記色、又は前記異物の前記形状のうちの少なくとも1つに基づいて、前記異物の前記表現を識別するステップと、
を更に含む、付記38に記載の非一時的コンピュータ可読媒体。
〔付記41〕
前記動作は、
前記口腔内画像に対して画像処理を実施して、前記口腔内画像中の複数の形状を特定するステップであって、前記複数の形状は前記異物の形状を含む、前記特定するステップと、
前記口腔内画像中の前記複数の形状を、基準物体の複数の既知の形状と比較するステップと、
前記比較の結果として、前記異物の前記形状が基準物体の既知の形状と一致するかどうかを判定するステップと、
を更に含む、付記38に記載の非一時的コンピュータ可読媒体。
〔付記42〕
前記動作は、
トレーニングモードに入るステップと、
前記トレーニングモード中に前記異物の複数の画像を受け取るステップと、
前記複数の画像に基づいて前記異物の仮想モデルを生成するステップと、
前記異物の前記仮想モデル、又は前記異物の前記複数の画像の少なくとも一方を、前記基準物体の前記複数の既知の形状を含む基準物体ライブラリに追加するステップと、
を更に含む、付記41に記載の非一時的コンピュータ可読媒体。
〔付記43〕
前記動作は、
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数のテクスチャ又は複数の表面パターンの少なくとも一方を識別するステップと、
前記複数のテクスチャのうちの、前記歯科部位に自然には存在しないテクスチャ、又は前記複数の表面パターンのうちの、前記歯科部位に自然には存在しない表面パターンの少なくとも一方を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、付記38に記載の非一時的コンピュータ可読媒体。
〔付記44〕
前記歯科部位に自然には存在しない前記テクスチャ又は前記表面パターンの少なくとも一方を特定する前記ステップは、
a)前記口腔内画像中で識別された前記複数のテクスチャを、基準物体の複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが基準物体の既知のテクスチャと一致するかどうかを判定するステップ、
b)前記口腔内画像中で識別された前記複数の表面パターンを、基準物体の複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが基準物体の既知の表面パターンと一致するかどうかを判定するステップ、
c)前記口腔内画像中で識別された前記複数のテクスチャを、前記歯科部位に自然に存在する複数の既知のテクスチャと比較し、前記比較の結果として、前記テクスチャが、口腔内に自然に存在するいかなる既知のテクスチャとも一致しないかどうかを判定するステップ、又は
d)前記口腔内画像中で識別された前記複数の表面パターンを、前記歯科部位に自然に存在する複数の既知の表面パターンと比較し、前記比較の結果として、前記表面パターンが、前記口腔内に自然に存在するいかなる既知の表面パターンとも一致しないかどうかを判定するステップ、
のうちの少なくとも1つのステップを含む、付記43に記載の非一時的コンピュータ可読媒体。
〔付記45〕
前記動作は、
前記口腔内画像の画像処理を実施して、前記口腔内画像中の複数の色を識別するステップと、
前記複数の色のうちの、前記歯科部位に自然には存在しない少なくとも1つの色を特定するステップと、
前記口腔内画像のうちの、前記歯科部位に自然には存在しない前記少なくとも1つの色を有する領域の輪郭を決定するステップであって、前記口腔内画像のうちの前記輪郭内の前記領域が前記口腔内画像から除去される、前記決定するステップと、
を更に含む、付記38に記載の非一時的コンピュータ可読媒体。
〔付記46〕
口腔内スキャンを実施する手持ち式スキャナと、
プロセッサによって実行されたときに、
歯科部位の口腔内スキャン中に口腔内画像を受け取るステップと、
光の波長に対する、前記異物の反射率、光の波長に対する、前記異物の屈折率、光の波長に対する、前記異物の反応度、前記異物のテクスチャ、前記異物の表面パターン、前記異物の色、又は前記異物の形状のうちの少なくとも1つに基づいて、前記口腔内画像中の異物の表現を識別するステップと、
前記異物の前記表現を前記口腔内画像から除去することによって前記口腔内画像を修正するステップと、
前記口腔内スキャン中に前記歯科部位の複数の追加口腔内画像を受け取るステップと、
前記修正された口腔内画像と前記複数の追加口腔内画像とを使用して前記歯科部位の仮想3次元(3D)モデルを生成するステップと、
を含む動作を前記プロセッサに実施させる命令を含む非一時的コンピュータ可読媒体と、
を含むシステム。
【外国語明細書】