(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-07-19
(54)【発明の名称】写真測量を使用して整形外科手術のための患者固有のガイドを作製するためのシステム及び方法
(51)【国際特許分類】
A61B 34/10 20160101AFI20240711BHJP
A61B 6/00 20240101ALI20240711BHJP
A61B 34/20 20160101ALI20240711BHJP
G06T 19/00 20110101ALI20240711BHJP
【FI】
A61B34/10
A61B6/00 560
A61B6/00 570
A61B34/20
G06T19/00 A
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023579867
(86)(22)【出願日】2022-07-19
(85)【翻訳文提出日】2023-12-26
(86)【国際出願番号】 US2022073868
(87)【国際公開番号】W WO2023004299
(87)【国際公開日】2023-01-26
(32)【優先日】2021-07-20
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】522226683
【氏名又は名称】マイクロポート オーソペディックス ホールディングス インク
(74)【代理人】
【識別番号】110002538
【氏名又は名称】弁理士法人あしたば国際特許事務所
(74)【代理人】
【識別番号】110002848
【氏名又は名称】弁理士法人NIP&SBPJ国際特許事務所
(72)【発明者】
【氏名】マクダニエル、シー.、ブライアン
(72)【発明者】
【氏名】ブライアント、ポール、エス.
(72)【発明者】
【氏名】ボウマン、フレッド、ダブリュー.
(72)【発明者】
【氏名】ハリス、ブライアン、アール.
【テーマコード(参考)】
4C093
5B050
【Fターム(参考)】
4C093AA01
4C093AA10
4C093AA25
4C093CA18
4C093CA23
4C093DA10
4C093FA35
4C093FD03
4C093FF16
4C093FF35
4C093FF42
5B050BA03
5B050BA09
5B050BA12
5B050BA13
5B050CA07
5B050DA05
5B050DA10
5B050EA07
5B050EA18
5B050EA19
5B050EA27
5B050EA28
5B050FA02
5B050FA09
5B050GA08
(57)【要約】
患者固有の外科用ガイドを生成するためのシステム及び方法であって、放射線撮像技術を使用して、整形外科要素の第1及び第2の画像を異なる基準フレームでキャプチャすることと、ニューラルネットワークを使用して、整形外科要素上又は整形外科要素内の解剖学的ランドマークを画定する空間データを検出することと、解剖学的ランドマークによって画定された整形外科要素にマスクを適用することと、第1の画像及び第2の画像からの空間データを投影して体積データを画定することと、ニューラルネットワークを体積データに適用して、整形外科要素の再構成された3次元(「3D」)モデルを生成することと、整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算することとを含む、システム及び方法。
【特許請求の範囲】
【請求項1】
少なくとも2つの2D放射線画像から生成された手術領域を含む整形外科要素の3Dモデルであって、少なくとも第1の放射線画像は第1の位置でキャプチャされ、少なくとも第2の放射線画像は第2の位置でキャプチャされ、前記第1の位置は、前記第2の位置とは異なる、3Dモデルと、
前記整形外科要素の前記3Dモデル上の表面を識別して、識別表面を画定するように構成され、患者固有の外科用ガイドの寸法を計算するように更に構成された計算機であって、前記患者固有の外科用ガイドは、前記識別表面において、前記整形外科要素と当接するように構成されている、計算機と、を含む、システム。
【請求項2】
ディスプレイを更に備え、前記整形外科要素の前記3Dモデルは前記ディスプレイ上に表示される、請求項1に記載のシステム。
【請求項3】
前記ディスプレイは、拡張現実装置又は仮想現実装置である、請求項2に記載のシステム。
【請求項4】
X線撮像機を更に含む、請求項1~3のいずれか一項に記載のシステム。
【請求項5】
製造装置を更に含み、前記製造装置は、患者固有の外科用ガイドの物理モデルを生成するように構成されている、請求項1~4のいずれか一項に記載のシステム。
【請求項6】
前記製造装置は、前記整形外科要素の前記識別表面の少なくとも部分的な物理モデルを生成するように構成されている、請求項5に記載のシステム。
【請求項7】
前記製造装置は積層造形装置である、請求項5又は6に記載のシステム。
【請求項8】
前記患者固有の外科用ガイドの前記物理モデルは、医療用ポリアミドを含む、請求項5~7のいずれか一項に記載のシステム。
【請求項9】
プロセスによって生成される患者固有の外科用ガイドであって、前記プロセスは、
放射線撮像機を較正して、放射線画像点と対応する空間座標との間のマッピング関係を決定して空間データを画定することと、
放射線撮像技術を使用して、対象整形外科要素の第1の放射線画像をキャプチャすることであって、前記第1の放射線画像は第1の基準フレームを画定する、ことと、
前記放射線撮像技術を使用して、前記対象整形外科要素の第2の放射線画像をキャプチャすることであって、前記第2の放射線画像は第2の基準フレームを画定し、前記第1の基準フレームは、前記第2の基準フレームからオフセット角度でオフセットされる、ことと、
前記対象整形外科要素の前記第1の放射線画像からの空間データと、前記対象整形外科要素の前記第2の放射線画像からの空間データとを投影して、体積データを画定することと、
深層学習ネットワークを使用して、前記体積データを使用して前記対象整形外科要素を検出することであって、前記体積データは、前記対象整形外科要素上又は前記対象整形外科要素内で解剖学的ランドマークを画定する、ことと、
前記深層学習ネットワークを使用し、前記体積データを使用して、前記整形外科要素上の表面を識別し、識別表面を画定することと、
前記深層学習ネットワークを前記体積データに適用して、前記識別表面において、前記整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算することと、を含む、患者固有の外科用ガイド。
【請求項10】
製造技術を使用して、前記患者固有の外科用ガイドの物理3Dモデルを生成することを更に含む、請求項9に記載の生成品。
【請求項11】
前記患者固有の外科用ガイドの前記物理3Dモデルは、前記整形外科要素の前記識別表面と嵌合する嵌合面を含む、請求項9又は10に記載の生成品。
【請求項12】
前記患者固有の外科用ガイドの前記物理3Dモデルは嵌合面を含み、前記嵌合面は突出部を更に含む、請求項9~12のいずれか一項に記載の生成品。
【請求項13】
プロセスによって生成される患者固有の外科用ガイドであって、前記プロセスは、
放射線撮像機を較正して、放射線画像点と対応する空間座標との間のマッピング関係を決定して空間データを画定することと、
放射線撮像技術を使用して、対象整形外科要素の第1の放射線画像をキャプチャすることであって、前記第1の放射線画像は第1の基準フレームを画定する、ことと、
前記放射線撮像技術を使用して、前記対象整形外科要素の第2の放射線画像をキャプチャすることであって、前記第2の放射線画像は第2の基準フレームを画定し、前記第1の基準フレームは、前記第2の基準フレームからオフセット角度でオフセットされる、ことと、
前記対象整形外科要素の前記第1の放射線画像からの空間データと、前記対象整形外科要素の前記第2の放射線画像からの空間データとを投影することと、
深層学習ネットワークを使用して、前記空間データを使用して前記対象整形外科要素を検出することであって、前記空間データは、前記対象整形外科要素上又は前記対象整形外科要素内の解剖学的ランドマークを画定する、ことと、
前記深層学習ネットワークを使用し、前記空間データを使用して、前記整形外科要素上の表面を識別し、識別表面を画定することと、
前記深層学習ネットワークを前記空間データに適用して、前記識別表面において、前記整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算することと、を含む、患者固有の外科用ガイド。
【請求項14】
製造技術を使用して、前記患者固有の外科用ガイドの物理3Dモデルを生成することを更に含む、請求項13に記載の生成品。
【請求項15】
前記患者固有の外科用ガイドは、前記整形外科要素の前記識別表面と嵌合する嵌合面を含む、請求項13又は14に記載の生成品。
【請求項16】
前記患者固有の外科用ガイドは嵌合面を含み、前記嵌合面は突出部を更に含む、請求項13~15のいずれか一項に記載の生成品。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の参照)
本出願は、2021年7月20日に出願された米国仮特許出願第63/223,844号の利益を主張する。この関連出願の開示は、その全体が本開示に組み込まれる。
【0002】
(発明の分野)
本開示は、概して、整形外科関節置換手術の分野に関し、より具体的には、整形外科手術を計画及び実行する外科医及び技術者を支援するために写真測量及び三次元(「3D」)再構成技術を使用することに関する。
【背景技術】
【0003】
関節置換手術の新たな目的は、発症前の関節の自然なアラインメント及び回転軸(単数又は複数)を復元することである。しかしながら、この目的は、関節が関節接合骨だけでなく、軟骨、靭帯、筋肉、及び腱を含む補助的な支持骨及び様々な軟組織を含むため、実際に達成することが困難であり得る。従来、外科医は、自然なアラインメントを完全に復元することを回避するか、又は集団のサンプルから導出された平均に基づいてアラインメント角度及び他の寸法を推定していた。しかしながら、これらの平均には、患者が変形性関節症のような慢性骨変形疾患に罹患しているときは特に、特定の患者の解剖学的構造の自然な変動が考慮されないことが多かった。
【0004】
この問題に対処する試みにおいて、一部の医療供給者は、患者の内部の解剖学的構造を調査して整形外科手術を計画するのを助けるために、コンピュータ断層撮影(computed tomography、「CT」)スキャン及び磁気共鳴像(magnetic resonance imaging、「MRI」)技術を使用し始めた。これらのCTスキャン及びMRIからのデータは、デジタル形式で三次元(「3D」)モデルを作製するために更に使用されてきた。これらのモデルは、当該手術のために患者固有の器具(カスタム外科切除ガイドなど)を設計し、生成するために、専門家に送信され得る。積層造形技術(例えば、3D印刷)及び他の従来の製造技術が、患者の特定の解剖学的構造に適合する物理的器具を造るために使用され得る。
【0005】
しかしながら、CTスキャン及びMRIを取得することは、複雑で時間がかかり、高価であり得る。CTスキャンはまた、患者が、それ以外に従来の放射線撮影又は超音波などの他の非侵襲的撮像技術を使用して受け得るよりも、セッションごとにより高いレベルの放射線に患者を被曝させる傾向がある。更に、スケジュールを考慮して、実際の手術の1か月以上前にCTスキャン又はMRIによる調査を行う場合もある。この遅延は、整形外科処置を外来患者用の通院外科診療所(ambulatory surgical center、「ASC」)に徐々に移していく傾向によって悪化する可能性がある。ASCは、多くの場合は、高価なオンサイトCTスキャナ及びMRI機のない小規模な施設である傾向がある。このため、患者は、病院での調査予約をスケジュールすることが強いられることが多い。
【0006】
調査予約と手術との間の時間の増加は、患者の骨組織及び軟組織の解剖学的構造が、通常の使用下で又は病気の進行によって更に悪化又は変化するリスクを高める。更なる悪化は、患者の更なる不快感を引き起こすだけでなく、外科チームにとって調査データの有用性に悪影響を及ぼすことにもなり得る。これは、古くなったデータから作製された患者固有のガイド、及び発症前の関節の自然なアラインメントに基づいた可動域の復元を目指す外科技術で特に問題となり得る。更に、術前調査予約と手術との間の時間の増加は、外因性事象がデータに悪影響を及ぼす可能性を高める。例えば、計画された手術領域で脱臼又は骨折する事故は、通常、事前の調査データの有用性を損なわせる。そのようなリスクは、特に活発又は特に虚弱な個体において高まり得る。
【0007】
更に、全ての患者が、患者固有の器具を作製するためにCTスキャン又はMRIにアクセスできるわけではない。これは、データを取得し、データを医療用装置設計専門家に送信し、所望の解剖学的構造の3Dモデルを生成し、データ又はモデルに基づいて患者固有の器具設計を作成し、患者固有の器具を生成し、当該患者固有の器具を外科診療所に出荷及び輸送し、処置の前に当該器具を滅菌するために必要な時間量に部分的に起因し得る。また、患者の医療保険及び疾患の種類に応じて利用できない場合がある。
【0008】
したがって、これらの技術は、正確な術前データの問題及び利用可能性と相まって、人工関節ライン(joint line)と発症前の自然関節ラインとの正確なアラインメントを危うくする可能性がある。度重なる研究は、発症前の関節の自然回転軸を変える人工関節が、機能不良、早期のインプラント摩耗、及び患者の不満の原因となる傾向があることを示している。
【発明の概要】
【0009】
したがって、整形外科手術を計画及び実行するときに、骨構造、骨量減少、軟組織を含む手術関節及び他の生理学を正確にモデル化するための術前及び術中撮像技術を増強するという、長い間抱えられるも未解決の必要性が存在している。
【0010】
従来の術前CT及びMRI撮像技術への限定的なアクセスの問題、術前撮像の時間と外科処置の時間との間の骨及び軟骨の悪化によるデータ精度の問題、並びに現在利用可能な術中ツール及び技術を使用して発症前の関節の自然関節ラインを決定することの制限についての問題は、患者固有の外科用ドリル又は切除ガイドを生成する例示的なシステム及び方法によって軽減され得、システム及び方法は、深層学習ネットワークを使用して、整形外科要素を識別してモデル化することと、深層学習ネットワークを使用して、対象整形外科要素の少なくとも2つの別個の二次元(「2D」)入力画像の入力から整形外科要素に当接するように構成される患者固有の外科用ガイドの寸法を計算することと、を含み、ここで、少なくとも2つの別個の2D入力画像のうちの第1の画像は、第1の横方向位置からキャプチャされ、少なくとも2つの別個の2D入力画像のうちの第2の画像は、第1の横方向位置からオフセット角度だけオフセットされた第2の横方向位置からキャプチャされる。
【0011】
放射線写真は、インビボ分析を可能にし、インビボ分析では、靭帯拘束、耐荷重力、及び筋肉活動の影響を含む、膝周りに生じる受動的な軟組織構造及び動的外力の外的合計を考慮することができる。
【0012】
患者固有の手術計画及び器具を作ることは、典型的には、膝の輪郭などの軟骨及び骨の解剖学的構造からのデータを使用するが、軟組織構造からのデータも使用することができる。
【図面の簡単な説明】
【0013】
上記は、添付の図面に例解されるように、本開示の例示的な実施形態についての、以下に示すより具体的な説明から明らかになるであろう。図面は必ずしも縮尺どおりではなく、代わりに開示される実施形態を例解することに重点が置かれている。
【
図1】例示的な方法の工程を例解するフロー図である。
【
図2】更なる例示的な方法の工程を例解するフロー図である。
【
図3】簡略化された例示的な左膝関節の前面図である。
【
図4】エピポーラ幾何の原理を使用して、較正された画像検出器の異なる基準フレームから撮られた2つの2D画像から3D空間のある点の位置が確認され得る仕組みを伝えるために使用される、ピンホールカメラモデルの概略図である。
【
図5A】例示的な較正用治具を示す前後(「A-P」)位置から撮られた対象整形外科要素の画像である。
【
図5B】例示的な較正用治具を示す内外(「M-L」)位置から撮られた
図5Aの対象整形外科要素の画像である。
【
図6】深層学習ネットワークを使用して、対象整形外科要素の特徴(例えば、解剖学的ランドマーク)を識別し、対象整形外科要素の3Dモデルを生成するシステムの概略図である。
【
図7】オフセット角度で較正された検出器から同じ対象整形外科要素を撮影した2つ以上の組織貫通平坦化入力画像を使用することから、整形外科要素のモデルを生成し、整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算するように構成されたシステムの概略図である。
【
図8】CNNタイプの深層学習ネットワークを使用して、対象整形外科要素の表面を含む特徴(例えば、解剖学的ランドマーク)が識別され得る仕組みを示す概略図である。
【
図10】例示的な方法の工程を示すフロー図である。
【
図11】本明細書に開示されるいずれかの例示的な方法に従って作製された例示的な患者固有の外科用ガイドの下面図である。
【
図12】本明細書に開示されるいずれかの例示的な方法に従って作製された別の例示的な患者固有の外科用ガイドの下面図である。
【
図13】患者の遠位大腿骨に堅固に係合された例示的な患者固有の大腿骨切除ガイドマウントと、患者の近位脛骨に堅固に固定された例示的な患者固有の脛骨切除ガイドマウントとを示す。
【発明を実施するための形態】
【0014】
好ましい実施形態の以下の詳細な説明は、理解を助ける例解目的でのみ提示されており、網羅的であること、又は本発明の範囲及び趣旨を限定することを意図するものではない。実施形態は、本発明の原理及びその実用的な用途を最良に説明するために選択及び記載されている。当業者は、本発明の範囲及び趣旨から逸脱することなく、本明細書に開示される本発明に多くの変形がなされ得ることを認識するであろう。
【0015】
特に明記しない限り、同様の参照符号は、いくつかの図を通して対応する部分を示す。図面は、本開示による様々な特徴及び構成要素の実施形態を表すが、図面は必ずしも縮尺どおりではなく、特定の特徴は、本開示の実施形態をより良好に例解するために誇張されている場合があり、そのような例示は、本開示の範囲を限定するものとして解釈されるべきではない。
【0016】
本明細書で別途明示的に述べられたものを除いて、以下の解釈の規則が本明細書に適用される。(a)本明細書で使用される全ての語は、かかる状況で必要とされるかかる性別又は数(単数又は複数)であると解釈されるものとする。(b)本明細書及び添付の特許請求の範囲で使用される単数形の用語「a」、「an」、及び「the」は、文脈上明らかにそうでない場合を除き、複数形の参照を含む。(c)列挙された範囲又は値に適用される先行詞「約」は、当該技術分野において既知の、又は測定から予想される範囲又は値の偏差を有する近似値を示す。(d)特に明記しない限り、「本明細書に(herein、hereby、hereto)」、「前述の(hereinbefore)」、及び「後述の(hereinafter)」という語、及び類似する意味の語は、何らかの特定の段落、請求項、又は他の細目を指すのではなく、本明細書全体を指すものである。(e)説明見出しはあくまでも便宜上のものであり、本明細書の一部の構成の意味を制御するものでも影響を与えるものでもない。(f)「又は」及び「任意の」は排他的ではなく、「含む(include、including)」は限定的ではない。更に、「備える、含む(comprising)」、「有する(having)」、「含む(including)」、及び「収容する、含む(containing)」は、制限のない用語(すなわち、「...を含むがこれに限定されない」を意味する)として解釈されるべきである。
【0017】
本明細書における「一実施形態(one embodimet、an embodiment)」、「例示的な実施形態」、などの言及は、記載された実施形態が特定の特徴、構造、又は特性を含み得るが、全ての実施形態が必ずしも特定の特徴、構造、又は特性を含み得るものではないことを示している。更に、そのような語句は、必ずしも同じ実施形態を指すものではない。更に、実施形態に関連して特定の特徴、構造、又は特性が記載される場合、明示的に記載されているかどうかにかかわらず、他の実施形態に関連してそのような特徴、構造、又は特性に影響を及ぼすことは当業者の知識の範囲内であることが示唆される。
【0018】
記述的な支持を提供するのに必要な範囲で、添付の特許請求の範囲の主題及び/又はテキストは、それらの全体が参照により本明細書に組み込まれる。
【0019】
本明細書における値の範囲の列挙は、本明細書において別途明確に示されない限り、その間の任意の部分範囲の範囲内にあるそれぞれの別個の値を個々に参照する簡単な方法としての役割を果たすことを単に意図する。列挙された範囲内のそれぞれの別個の値は、それぞれの別個の値が本明細書に個々に列挙されているかのように、本明細書又は特許請求の範囲に組み込まれる。特定の範囲の値が提供される場合、その範囲の上限と下限との間の下限の単位の10分の1以下までのそれぞれの介在値と、その部分範囲の記載された範囲内の任意の他の記載値又は介在値とは、文脈が別段明確に指示しない限り、本明細書に含まれることが理解される。全ての部分範囲も含まれる。これらのより小さい範囲の上限及び下限も、記載された範囲内の任意の具体的かつ明示的に除外された制限に従うことを条件として、そこに含まれる。
【0020】
本明細書で使用される用語のいくつかは相対的な用語であることに留意されたい。例えば、「上部」及び「下部」という用語は、場所的に互いに相対的であり、すなわち、上部構成要素は、それぞれの配向で下部構成要素よりも高位に位置するが、これらの用語は、配向が反転される場合に変わり得る。
【0021】
「水平」及び「垂直」という用語は、絶対基準、すなわち、地表レベルに対する方向を示すために使用される。しかしながら、これらの用語は、互いに絶対的に平行又は絶対的に垂直である構造を必要とすると解釈されるべきではない。例えば、第1の垂直構造及び第2の垂直構造は、必ずしも互いに平行ではない。「上部」及び「下部」又は「基部」という用語は、上部が絶対基準、すなわち、地球の表面に対して、下部又は基部よりも常に高い場所又は表面を指すために使用される。「上向き」及び「下向き」という用語も、絶対基準に対するものである。上向きの流れは、常に地球の重力に対抗する。
【0022】
整形外科的処置は、患者の関節に対する手術を伴うことが多い。関節は、典型的には多数の整形外科要素を含むことが理解されるであろう。本明細書に記載される例示的な方法及びシステムは、様々な整形外科要素に適用され得ることが更に理解されるであろう。
図3、
図5A及び
図5Bを参照して説明される例は、説明のための例示的な膝関節に関する。本開示全体を通して参照される「整形外科要素」100は、膝関節の解剖学的構造に限定されないが、腱、靭帯、軟骨、及び筋肉などの任意の骨格構造及び関連する軟組織を含み得ることが理解されよう。例示的な整形外科要素100の非限定的なリストは、大腿骨、脛骨、骨盤、椎骨、上腕骨、尺骨、橈骨、肩甲骨、頭蓋骨、腓骨、鎖骨、下顎骨、肋骨、手根骨、中手骨、足根骨、中足骨、指骨、又は任意の関連する腱、靭帯、皮膚、軟骨、又は筋肉を含むがこれらに限定されない、身体の任意の部分的な骨又は完全な骨を含む。例示的な手術領域170は、いくつかの対象整形外科要素100を含み得ることが理解されよう。
【0023】
図3は、伸長状態にある単純化された左膝関節100(すなわち、例示的な関節手術領域170)の前後図である。例示的な膝関節100は、いくつかの整形外科要素を含み、大腿骨105と、脛骨110と、腓骨111と、膝蓋骨(図示せず)と、切除された脛骨プラトー112と、大腿関節軟骨123と、遠位大腿骨105を内側Mで近位脛骨110に係合する内側側副靭帯(medial collateral ligament、「MCL」)113と、遠位大腿骨105を外側Lで腓骨111に係合する外側側副靭帯(lateral collateral ligament、「LCL」)122とを含む。大腿関節軟骨123は厚さTを有し、大腿関節軟骨123は遠位大腿骨105の骨表面106に係合する。遠位大腿骨は、内側顆107と外側顆103とを更に含む(まとめて「大腿骨顆」)。遠位大腿骨105は、大腿骨脛骨間隙120によって近位脛骨110から分離されている。
図3の斜視図は、放射線撮像技術を使用して、整形外科要素(但し、
図3では、複数の整形外科要素、すなわち大腿骨105、脛骨110、腓骨111、関節軟骨123、MCL113及びLCL122が示されている)の第1の画像を第1の基準フレーム内にキャプチャする例である(
図5Aを併せて参照すると、第1の基準フレームから撮られた対象整形外科要素を示し、第1の基準フレームはA-P位置における対象整形外科要素をキャプチャしている)。
【0024】
図5Bは、第2の基準フレーム内の同じ対象整形外科要素を示し、第2の基準フレームは、M-L位置にて対象整形外科要素をキャプチャする。
【0025】
近年、X線写真など、2D画像を使用して、手術領域の3Dモデルを作成することが可能になった。これらのモデルは、実際の手術の日付にはるかに近い手術を計画するために術前に使用され得る。更に、これらの術前3Dモデルは、手術器具自体が正確に適合するように構成され得るネイティブモデルとして機能する。
【0026】
しかしながら、X線写真は、典型的には、画像解像度及び精度に関する懸念のため、3Dモデルの入力として以前は使用されていなかった。X線写真は、3D空間の2D表現である。したがって、2DのX線写真では、三次元に存在する実際の物体と比べて画像対象が必ず歪む。更に、X線が通過する物体は、X線源(典型的には、X線機械のアノード)からX線検出器(非限定的な例として、X線蛍光増倍管、リン材料、フラットパネル検出器(flat panel detector、FPD)(間接変換FPD及び直接変換FPDを含む)、又は任意の数のデジタル若しくはアナログX線センサ若しくはX線フィルムを含み得る)へ移動する際のX線の経路を偏向させ得る。X線機械自体の欠陥又はその較正における欠陥はまた、X線写真測量及び3Dモデル再構成の有用性を損ない得る。加えて、放出されたX線光子は、異なるエネルギーを有する。X線がX線源と検出器との間に配置された物質と相互作用するとき、ノイズ及びアーチファクトは部分的に、コンプトン散乱及びレイリー散乱、光電効果、環境における外因性変異、又はX線生成ユニット、X線検出器、及び/若しくは処理ユニット若しくはディスプレイにおける内因性変異のために生成され得る。
【0027】
更に、単一の2D画像では、実際の対象の3Dデータが失われる。したがって、コンピュータが実際の3D物体の3Dモデルを再構成するために単一の2D画像から使用し得るデータは存在しない。この理由から、CTスキャン、MRI、及び三次元データを保存する他の撮像技術は、多くの場合、1つ以上の対象整形外科要素のモデルを再構成する(すなわち、実際の3Dデータから3Dモデルを再構成して、一般に、より正確でより高い解像度のモデルを生成する)のに好ましい入力であった。しかしながら、以下で論じられる本開示の特定の例示的な実施形態は、深層学習ネットワークを使用して、X線入力画像から生成される再構成された3Dモデルの精度を改善することによって、これらの問題を克服する。
【0028】
例として、畳み込みニューラルネットワークなどの深層学習アルゴリズムを使用して、患者の手術領域の少なくとも2つの2D放射線画像のセットから3Dモデルを生成することができる。そのような方法では、深層学習アルゴリズムは、それぞれの2D画像からの射影幾何データからモデルを生成し得る。深層学習アルゴリズムは、手術領域において異なる整形外科要素(例えば骨、軟組織など)のマスクを生成することができること、並びに撮像された又は対象整形外科要素100の体積を計算することができるという利点を有し得る。
【0029】
図1は、患者固有の外科用ガイド(例えば、患者固有のドリルガイド又は患者固有の切除ガイド)を生成するための例示的な方法のステップを概説するフロー図である。本方法は、放射線撮像機1800を較正して、放射線画像点と対応する空間座標との間のマッピング関係を決定して空間データ43を画定する工程1aと、放射線撮像技術を使用して、整形外科要素100の第1の画像30をキャプチャする工程であって、第1の画像30は、第1の基準フレーム30aを画定する、工程2aと、放射線撮像技術を使用して、整形外科要素100の第2の画像50をキャプチャする工程であって、第2の画像50は、第2の基準フレーム50aを画定し、第1の基準フレーム30aは、第2の基準フレーム50aからオフセット角度θでオフセットされる、工程3aと、対象整形外科要素100の第1の放射線画像30からの空間データ43と、対象整形外科要素100の第2の放射線画像50からの空間データ43とを投影して、体積データ75を画定する工程4aと、深層学習ネットワークを使用して、空間データ43を使用して対象整形外科要素100を検出する工程であって、空間データ43は、対象整形外科要素100上又は対象整形外科要素100内の解剖学的ランドマークを画定する、工程5aと、深層学習ネットワークを使用して、解剖学的ランドマークによって画定された対象整形外科要素100にマスクを適用する工程であって、第1の画像30又は第2の画像50のいずれかのマスク領域内に配置された画像点を含む空間データ43には第1の値が与えられ、第1の画像30と第2の画像50の両方のマスク領域外に配置された画像点を含む空間データ43には第2の値が与えられ、第2の値は第1の値とは異なる、工程6aと、整形外科要素に当接するように構成された患者固有の外科用ガイド500の寸法を計算する工程7aとを含む。
【0030】
例示的な実施形態では、例示的な方法は、深層学習ネットワークを体積データ75に適用して、整形外科要素の再構成された3Dモデルを生成する工程8bを更に含むことができる。他の例示的な実施形態では、工程5a又は5bは、深層学習ネットワークを使用して、整形外科要素100上又は整形外科要素100内の解剖学的ランドマークを画定する空間データ43を検出することを含むことができる(
図2参照)。
【0031】
上の例は、理解を助ける目的で提供されており、本開示の範囲を限定することを意図するものではない。少なくとも2つの横方向位置から撮られた同じ対象の2D放射線画像から3Dモデルを生成するための全ての方法は、本開示の範囲内であると考えられる。
【0032】
図4及び
図6は、第1の入力画像30及び第2の入力画像50を組み合わせて、体積データ75を含む体積61が作成され得る仕組みを示す(
図6)。
図4は、それぞれの入力画像30、50からの空間データ43を体積データ75に変換するために使用され得るエピポーラ幾何の基本原理を示す。空間データ43は、所与の入力画像30、50の対応する空間座標(例えば、x及びy座標)にマッピングされる画像点(例えば、X
L、X
R)の集合によって画定されることが理解されるであろう。
【0033】
図4は、ピンホールカメラモデルによって記載される斜視投影の簡略化された概略図である。
図4は、コンピュータステレオビジョンに関連する基本的な概念を伝えるものであるが、3Dモデルが2Dステレオ画像から再構成され得る唯一の方法を意味するものではない。この簡略化されたモデルでは、光線は、光学的中心(すなわち、対象物体からの電磁放射の光線(例えば、可視光線、X線など)が撮像機のセンサ又は検出器アレイ33(
図9)内で交差することが想定されるレンズ内の点)から放射される。光学的中心は、
図4に点O
L、O
Rで表されている。実際には、画像平面(30a、50aを参照されたい)は、通常、光学的中心(例えば、O
L、O
R)の後ろにあり、実際の光学的中心は、点として検出器アレイ33に投影されるが、原理をより簡潔に示すためにここでは仮想画像平面(30a、50aを参照されたい)が提示されている。
【0034】
第1の入力画像30は、第1の基準フレーム30aから撮られ、第2の入力画像50は、第1の基準フレーム30aとは異なる第2の基準フレーム50aから撮られる。それぞれの画像はピクセル値の行列を含む。第1及び第2の基準フレーム30a、50aは、望ましくは、互いからオフセット角度θだけオフセットされる。オフセット角度θは、第1の基準フレーム30aのx軸と第2の基準フレーム50aのx軸との間の角度を表し得る。換言すれば、第1の画像内の整形外科要素の配向と、第2の画像内の整形外科要素との間の角度は「オフセット角度」として知られ得る。
【0035】
点eLは、第1の入力画像30上の第2の入力画像の光学的中心ORの場所である。点eRは、第2の入力画像50上の第1の入力画像の光学的中心OLの場所である。点eL及びeR は、「エピポール」又はエピポーラ点として知られており、線OL-OR上にある。点X、OL、ORは、エピポーラ面を画定する。
【0036】
実際の光学的中心は、対象物体からの電磁放射の入射光線が検出器レンズ内で交差することが想定される点であるため、このモデルでは、電磁放射の光線は、3D空間における3D点Xの位置が、既知の相対位置の検出器33からキャプチャされた2つ以上の入力画像30、50からどのように確認され得るかを視覚化する目的で、実際に光学的中心OL、ORから放射されると考えられ得る。第1の入力画像30のそれぞれの点(例えば、XL)が3D空間内の線に対応する場合、次いで、対応する点(例えば、XR)が第2の入力画像内で検出され得る場合、これらの対応点(例えば、XL、XR)は、共通の3D点Xの投影である必要がある。したがって、対応する画像点(例えば、XL、XR)によって生成される線は、3D点Xで交差する必要がある。一般に、Xの値が、2つ以上の入力画像30、50内の全ての対応する画像点(例えば、XL、XR)に対して計算される場合、体積データ75を含む3D体積61は、2つ以上の入力画像30、50から複製され得る。任意の所与の3D点Xの値は、様々な方法で三角測量され得る。例示的な計算方法の非限定的なリストは、中点法、直接線形変換法、基本行列法、交点法、及びバンドル調整法を含む。
【0037】
本明細書に記載される「画像点」(例えば、XL、XR)は、空間内の点、ピクセル、ピクセルの一部分、又は隣接するピクセルの集合を指し得ることが理解されよう。本明細書で使用されるとき、3D点Xは、3D空間内の点を表し得ることも理解されよう。特定の例示的な用途において、3D点Xは、ボクセル、ボクセルの一部分、又は隣接するボクセルの集合として表現され得る。
【0038】
しかしながら、エピポーラ幾何の原理が適用され得る前に、他の画像検出器33(複数可)に対する各画像検出器33の位置が決定されなければならない(又は、単一の画像検出器33の位置が、第1の画像30が撮影された時点で決定されなければならず、単一の画像検出器33の調整された位置が、第2の画像50が撮影された時点で既知でなければならない)。また、撮像機1800の焦点距離及び光学的中心を決定することが望ましい。これを実際に確認するために、画像検出器33(又は、複数の画像検出器)は最初に較正される。
図5A及び
図5Bは、対象整形外科要素100に対する較正用治具973A、973Bを示す。これらの図において、例示的な整形外科要素100は、大腿骨105の遠位態様及び膝関節を含む脛骨110の近位態様である。
図5A及び
図5Bの近位腓骨111は、画像化された別の整形外科要素100である。
図5Bに示される膝蓋骨901は、別の整形外科要素100である。
【0039】
図5Aは、例示的な整形外科要素100の前後図である(すなわち、
図5Aは、第1の基準フレーム30a(例えば、第1の横方向位置)から撮られた第1の画像30を表す)。第1の較正用治具973Aは、第1の保持アセンブリ974Aに取り付けられる。第1の保持アセンブリ974Aは、第1のストラップ977Aに係合された第1のパッド付き支持体971Aを含み得る。第1のパッド付き支持体971Aは、第1のストラップ977Aを介して患者の大腿部の外側に取り付けられる。第1の保持アセンブリ974Aは、望ましくは第1の基準フレーム30aに平行に配向された(すなわち、検出器33に直交する)第1の較正用治具973Aを支持する。同様に、第2の保持アセンブリ974Bに取り付けられた第2の較正用治具973Bが提供され得る。第2の保持アセンブリ974Bは、第2のストラップ977Bに係合された第2のパッド付き支持体971Bを含み得る。第2のパッド付き支持体971Bは、第2のストラップ977Bを介して患者のふくらはぎの外側に取り付けられる。第2の保持アセンブリ974Bは、望ましくは第1の基準フレーム30aに平行な(すなわち、検出器33に直交する)第2の較正用治具973Bを支持する。較正用治具973A、973Bは、望ましくは対象整形外科要素100から十分に離して位置付けられ、その結果、較正用治具973A、973Bは、いずれの対象整形外科要素100とも重なり合わない。
【0040】
図5Bは、例示的な整形外科要素100の内外図である(すなわち、
図5Bは、第2の基準フレーム50a(例えば、第2の横方向位置)から撮られた第2の画像50を表す)。図示された例では、内外基準フレーム50aは、前後の第1の基準フレーム30aから90°回転又は「オフセット」される。第1の較正用治具973Aは、第1の保持アセンブリ974Aに取り付けられる。第1の保持アセンブリ974Aは、第1のストラップ977Aに係合された第1のパッド付き支持体971Aを含み得る。第1のパッド付き支持体971Aは、第1のストラップ977Aを介して患者の大腿部の外側に取り付けられる。第1の保持アセンブリ974Aは、望ましくは第2の基準フレーム50aに平行な(すなわち、検出器33に直交する)第1の較正用治具973Aを支持する。同様に、第2の保持アセンブリ974Bに取り付けられた第2の較正用治具973Bが提供され得る。第2の保持アセンブリ974Bは、第2のストラップ977Bに係合された第2のパッド付き支持体971Bを含み得る。第2のパッド付き支持体971Bは、第2のストラップ977Bを介して患者のふくらはぎの外側に取り付けられる。第2の保持アセンブリ974Bは、望ましくは第2の基準フレーム50aに平行な(すなわち、検出器33に直交する)第2の較正用治具973Bを支持する。較正用治具973A、973Bは、望ましくは対象整形外科要素100から十分に離して位置付けられ、その結果、較正用治具973A、973Bは、いずれの対象整形外科要素100とも重なり合わない。
【0041】
膝関節がこの配向で安定しているため(
図9参照)、患者は、望ましくは起立位(すなわち、脚が伸長状態にある)に位置付けられ得る。好ましくは、撮像機に対する患者の距離は、入力画像30、50の取得中に変更されるべきではない。第1及び第2の画像30、50は、脚全体をキャプチャする必要はなく、むしろ、画像は、手術領域170の対象となる関節に焦点を合わせ得る。
【0042】
画像化され、モデル化される対象整形外科要素100に応じて、単一の較正用治具973のみが使用され得ることが理解されよう。同様に、特に長い整形外科要素100の集合が画像化され、モデル化される場合、2つ以上の較正用治具が使用され得る。
【0043】
それぞれの較正用治具973A、973Bは、望ましくは既知のサイズである。それぞれの較正用治具973A、973Bは、望ましくは、全体に分布された少なくとも4つ以上の較正点978を有する。較正点978は、他の点に対する1つの点978からの距離が分かっている既知のパターンで分布している。整形外科要素100からの較正用治具973の距離も、望ましくは既知であり得る。X線写真測量システムの較正のために、較正点978は、望ましくは、較正用治具973上の金属構造によって画定され得る。金属は、典型的には、金属に接触するほとんどのX線ビームを吸収する。したがって、金属は、典型的には、X線をほとんど吸収しない物質(空気腔又は脂肪組織など)と比較して非常に明るく見える。較正点を定義する一般的な例示的構造としては、レゾークロス(reseau crosses)、円、三角形、錐体、及び球体が挙げられる。
【0044】
これらの較正点978は、較正用治具973の2D表面上に存在し得るか、又は、3D較正点978は、所与の画像基準フレームから2D投影としてキャプチャされ得る。いずれの状況においても、3D座標(一般にz座標と呼ばれる)は、画像内にキャプチャされる全ての較正点978に対してゼロに等しくなるように設定され得る。それぞれの較正点978の間の距離は既知である。これらの既知の距離は、画像センサ/検出器33においてx,y座標として表現され得る。3D空間内の点をセンサ33上の2D座標ピクセルにマッピングするために、検出器の較正行列、外因性行列、及び実3D点の相同座標ベクトルの内積が使用され得る。これにより、3D空間内の点の実世界座標は、較正用治具973に対してマッピングされる。換言すれば、これは、一般に、3D空間内の実点のx,y座標が、空間データ43を画定するために画像検出器のセンサ33の2D座標平面に正確に変換されることを可能にする(
図4参照)。
【0045】
上記の較正方法は、一例として提供される。X線写真測量システムを較正するのに好適な全ての方法は、本開示の範囲内であると考えられることが理解されよう。他のX線写真測量システム較正方法の非限定的なリストは、レゾープレートの使用、Zhangの手法、バンドル調整法、直接線形変換法、最大尤度推定、k近傍法(k-nearest neighbor regression approach、「kNN」)、他の深層学習法、又はそれらの組み合わせを含む。
【0046】
図6は、較正された入力画像30、50が、既知のオフセット角度θに沿って配向されたときに、2つのチャネル65、66を含む3D体積61にどのように逆投影され得るかを示す。第1のチャネル65は、第1の入力画像30の全ての画像点(例えば、X
Lなど)を含み、第2のチャネル66は、第2の入力画像50の全ての画像点(例えば、X
Rなど)を含む。すなわち、それぞれの画像点(例えば、ピクセル)は、その関連する逆投影された3D光線の上に複製される。次に、エピポーラ幾何を使用して、これらの逆投影された2D入力画像30、50から体積データ75を含む画像化された手術領域170の体積61が生成され得る。
【0047】
図6を参照すると、第1の画像30及び第2の画像50は、望ましくは、既知の画像寸法を有する。寸法は、ピクセルであり得る。例えば、第1の画像30は、128×128ピクセルの寸法を有し得る。第2の画像50は、128×128ピクセルの寸法を有し得る。特定の計算で使用される入力画像30、50の寸法は、望ましくは、一貫した寸法を有する。一貫した寸法は、通常の体積61の立方体作業領域(例えば、128×128×128の立方体)を後で画定するために望ましい場合がある。
図4に見られるように、オフセット角度θは、望ましくは90°である。しかしながら、他の例示的な実施形態では、他のオフセット角度θが使用されてもよい。
【0048】
図示された例では、128×128ピクセルの入力画像30、50のそれぞれが、隣接する入力画像の長さにわたって128回複製されて、128×128×128ピクセルの寸法を有する体積61が作製される。すなわち、第1の画像30は、コピーされ、1ピクセル当たり1コピーで128ピクセル分それ自体の後ろに積み重ねられる一方、第2の画像50は、コピーされ、積み重ねられた画像が重なり合い、それによって体積61が作製されるように128ピクセル分それ自体の後ろに積み重ねられる。このようにして、体積61は、2つのチャネル65、66を含むと言うことができ、第1のチャネル65は、第2の画像50の長さ(すなわち、第2の画像50のx軸)にわたってn回複製された第1の画像30を含み、第2のチャネル66は、第1の画像30の長さ(すなわち、第1の画像30のx軸)にわたってm回複製された第2の画像50を含み、「n」及び「m」は、指示された画像の長さを含むピクセルの数(又は、他の例示的な実施形態における他の寸法)として表現されるような、指示された画像の長さである。オフセット角度θが既知である場合、体積61のそれぞれの横方向スライス(一部の放射線学者には「軸方向スライス」としても知られる)は、2つのエピポーラ線を含むピクセルから逆投影されるボクセルを含むエピポーラ平面を作成する。このようにして、対象整形外科要素100の第1の画像30からの空間データ43と、対象整形外科要素100の第2の画像50からの空間データ43とを投影して、体積データ75を画定する。この体積データ75を使用することで、3D表現は、上述のようにエピポーラ幾何原理を用いて再構成され得、3D表現は、入力画像30、50における情報と幾何学的に一貫している。
【0049】
深層学習ネットワークがCNNである深層学習ネットワークを使用して患者固有の外科用ガイド500を生成するための例示的なシステム及び方法では、CNNがどのように構造化され、訓練され得るかを示す詳細な例が提供される。CNNの全てのアーキテクチャは、本開示の範囲内にあると見なされる。一般的なCNNアーキテクチャとして、例えば、LeNet、GoogLeNet、AlexNet、ZFNet、ResNet、及びVGGNetが挙げられる。
【0050】
図11は、本明細書に開示される任意の例示的な方法に従って作製された患者固有の外科用ガイド500の下面図である。
図13では、患者固有の外科用ガイド500は、整形外科要素100(図示される例では、大腿骨105である)に堅固に係合されている。患者固有の外科用ガイド500は、弾性ポリマー材料から形成することができる。
図11に示される患者固有の外科用ガイド500は、患者固有の手術対象の大腿骨105の顆107、103に堅固に係合するように構成された患者固有の大腿骨切除ガイドマウント500aである。図示された例示的な患者固有の大腿骨切除ガイドマウント500aは、本体42を通って横方向に延在する切除スロット52を有する本体42と、分岐顆ヨーク25と、ガイドレセプタクル24とを含む。分岐顆ヨーク25は、本体42から外向きに突出する一対の離間したアーム31、41を含む。第1のアーム31は、患者の自然骨の選択された領域(例えば、患者の遠位大腿骨顆のうちの1つ)の解剖学的表面特徴に相補的である第1の嵌合面36を有する。同様に、第2のアーム41は、患者の自然骨の選択された領域(例えば、患者の遠位大腿骨顆の他方)の解剖学的表面特徴に相補的である第2の嵌合面40を有する。貫通孔38が、任意選択的に、各離間したアーム31、41を通って延在してもよい。ピンが、任意選択的に、貫通孔38のそれぞれを通して挿入され、図示される患者固有の外科用ガイド500を患者の自然骨に更に固定してもよい。
【0051】
例示的な実施形態では、患者固有の外科用ガイド500の湾曲した本体42は、患者固有の外科用ガイド500が患者の露出した自然骨の表面トポグラフィ(
図3の106参照)に当接するときに、位置エネルギーを蓄積することができる。このようにして、湾曲した本体42と、患者の露出した自然骨の表面トポグラフィに適合する相補的な嵌合面36、40とによって、患者固有の外科用ガイド500を、患者の露出した大腿顆の所望の位置に「圧入」する(すなわち、摩擦によって固定する)ことができる。
【0052】
患者固有の外科用ガイド500が、所望の位置において患者の露出した骨の相補的な部分に当接して堅固に係合されると、外科医は、切除スロット52を通して外科用鋸を挿入して、インプラントのサイズ決め及び嵌合に備えて所望の位置で患者の遠位大腿骨105を切除することができる。本開示と一致する方法でカスタム外科用ガイド500を作ることにより、外科用鋸をより正確かつ精密に、より近い時間で、かつ以前に可能であったよりも少ないエネルギーを使用して配置することが可能になり得ることが企図される。
【0053】
図12は、本明細書に開示される任意の例示的な方法に従って作製された別の例示的な患者固有の外科用ガイド500の下面図である。
図12では、患者固有の外科用ガイド500は、脛骨切除ガイドマウント500bである。
【0054】
図示された例示的な患者固有の脛骨切除ガイドマウント500bは、本体79を通って横方向に延在する切除スロット51を有する本体79と、分岐顆ヨーク64と、ガイドレセプタクル24とを含む。分岐顆ヨーク64は、本体79から外向きに突出する一対の離間したアーム62、63を含む。第1のアーム62は、患者の自然骨の選択された領域(例えば、患者の近位脛骨半プラトー顆のうちの一方)の解剖学的表面特徴に相補的である第1の嵌合面53を有する。同様に、第2のアーム63は、患者の自然骨の選択された領域(例えば、患者の近位脛骨半プラトーの他方)の解剖学的表面特徴に相補的である第2の嵌合面54を有する。貫通孔38は、任意選択的に、本体79を通って延在してもよい。ピンが、任意選択的に、貫通孔38のそれぞれを通して挿入され、図示される患者固有の脛骨切除ガイドマウント500bを患者の自然骨に更に固定してもよい。
【0055】
実施形態では、患者固有の脛骨切除ガイドマウント500bの第1及び第2の嵌合面53、54は、患者固有の脛骨切除ガイドマウント500bが摩擦を介して患者の近位脛骨の正確な位置に固定されることを可能にすることができる。適切に据え付けられ固定されると、外科医は、脛骨切除スロット51を通して外科用鋸を挿入し、近位脛骨のプラトーを切除してもよい。
【0056】
図13は、患者の遠位大腿骨105に堅固に係合された患者固有の大腿骨切除ガイドマウント500aと、患者の近位脛骨110に堅固に固定された患者固有の脛骨切除ガイドマウント500bとを示す。
【0057】
患者固有の外科用ガイド500は、3D空間データから導出された技術仕様を使用して設計及び製造され、3D空間データは、異なる基準フレームから撮られた整形外科要素100の2つの放射線画像から導出されたものであるため、患者固有の外科用ガイド500は、術前計画ごとに整形外科要素100に正確に適合する。更に、放射線撮影は、一般に、CT又はMRIスキャンよりも効率的かつ容易に取得できるため、術前計画は、予定された外科的処置日により近い日付で行うことができ、それによって術前計画と外科手術日の実際の解剖学的構造との間の変化の可能性を軽減することができることが企図される。
【0058】
特に、積層造形機(例えば、3D印刷機)又は減法製造機(例えば、CNC機)がオンサイト又はローカルに存在する場合、術前計画は、予定された手術と同じ日に行われてもよいことが更に企図される。例えば、患者は、午前中に術前撮像及び計画を受け、午後に手術スケジュールを有することができる。
【0059】
好ましくは、本明細書に開示される方法は、1つ以上の中央演算処理装置(central processing unit、CPU)、ランダムアクセスメモリ(random access memory、RAM)、及び/又は入力/出力(input/output、I/O)インターフェース(複数可)などのハードウェアを有するコンピュータプラットフォームに実装され得る(
図7参照)。
【0060】
更に他の実施形態では、整形外科要素の体積が計算されてもよい。任意の開示された計算又は任意のそのような計算の結果は、任意選択的に、ディスプレイ上に表示され得ることが理解されよう。
【0061】
本明細書に開示される例示的な方法は、インプラントの配置及び機能の術前計画、術中計画若しくは実行、又は術後評価に使用され得ることが更に企図される。
【0062】
図9を参照すると、対象整形外科要素100に当接するか、又は堅固に係合されるように構成される患者固有の外科用ガイド500の寸法を計算するための例示的なシステムは、エミッタ21と、検出器33とを含む放射線撮像機1800(
図9)であって、放射線撮像機1800の検出器33は、第1のトランスバージョン位置30a(
図4及び
図5A)にて第1の画像30(
図4及び
図5A)及び第2の横方向位置50a(
図4及び
図5B)にて第2の画像50(
図4及び
図5B)をキャプチャし、第1の横方向位置30aは第2の横方向位置50aからオフセット角度θでオフセットされている(
図4)放射線撮像機1800と、トランスミッタ29(
図9)と、計算機1600(更なる詳細は
図7参照)とを含むことができ、トランスミッタ29は、第1の画像30及び第2の画像50を検出器33から計算機1600に送信し、計算機1600は対象整形外科要素100の表面トポグラフィを計算するように構成される。特定の例示的な実施形態では、計算機1600は、対象整形外科要素100の一部分の表面トポグラフィに相補的な患者固有の外科用ガイド500の嵌合面の寸法を計算するように構成することができる。
【0063】
特定の例示的な実施形態では、例示的なシステムは、ディスプレイ19を更に備え得る。
【0064】
特定の例示的な実施形態では、例示的なシステムは、製造機18を更に備え得る。製造機18を備える例示的な実施形態では、製造機18は積層造形機であり得る。そのような実施形態では、積層造形機は、対象整形外科要素の3Dモデル1100又は患者固有の外科用ガイド500の物理3Dモデルを製造するために使用され得る。例として、3D製造技術は、ステレオリソグラフィ及びレーザ焼結を含むことができるが、これらに限定されない。
【0065】
図9は、X線チューブなどの、X線源21、フィルタ26、コリメータ27、及び検出器33を含む放射線撮像機1800を備える例示的なシステムの概略図である。
図9では、放射線撮像機1800は、上から下に示されている。患者1は、X線源21と検出器33との間に配置される。放射線撮像機1800は、回転可能なガントリ28上に搭載され得る。放射線撮像機1800は、第1の基準フレーム30aからの患者1の放射線画像を撮り得る。次いで、ガントリ28は、オフセット角度(好ましくは90°)だけ放射線撮像機1800を回転させ得る。次いで、放射線撮像機1800は、第2の基準フレーム50aから第2の放射線画像50を撮り得る。他の例示的な実施形態は、複数のオフセット角度θで撮られた複数の入力画像を使用することを含み得ることが理解されよう。そのような実施形態では、オフセット角度は、隣接する入力画像間で90°未満又は90°超であり得る。
【0066】
オフセット角度は、全ての実施形態において正確に90度である必要はないことが理解されるであろう。±45度の範囲内の値を有するオフセット角度が、十分であると企図される。他の例示的な実施形態では、オペレータは、放射線撮像技術を使用して、整形外科要素の3つ以上の画像を撮影してもよい。第2の画像の後の各後続画像は、後続画像基準フレームを画定することができることが企図される。例えば、第3の画像は第3の基準フレームを画定することができ、第4の画像は第4の基準フレームを画定することができ、n番目の画像はn番目の基準フレームを画定することができるなどである。
【0067】
3つの入力画像及び3つの別個の基準フレームを含む例示的な実施形態では、3つの入力画像の各々は、互いに対して約60度のオフセット角度θを有することが望ましい。4つの入力画像及び4つの別個の基準フレームを含む例示的な実施形態では、オフセット角度θは、隣接する基準フレームから45度であることが望ましい。5つの入力画像及び5つの別個の基準フレームを含む例示的な実施形態では、オフセット角度θは、隣接する基準フレームから約36度であることが望ましい。n個の画像及びn個の別個の基準フレームを含む例示的な実施形態では、オフセット角度θは、180/n度であることが望ましい。
【0068】
複数の画像、特に3つ以上の画像を伴う実施形態は、必ずしも規則的で一貫したオフセット角度を有する必要はないことが更に企図される。例えば、4つの画像及び4つの別個の基準フレームを伴う例示的な実施形態は、85度の第1のオフセット角度、75度の第2のオフセット角度、93度の第3のオフセット角度、及び107度の第4のオフセット角度を有し得る。
【0069】
次いで、トランスミッタ29は、第1の画像30及び第2の画像50を計算機1600に送信する。計算機1600は、深層学習ネットワークを適用して、本開示と一致する任意の様式で、対象整形外科要素100の一部分の表面トポグラフィに相補的である患者固有の外科用ガイド500の嵌合面の寸法を計算することができる。
図9は、計算機1600の出力が製造機18に送信されることを更に示す。製造機18は、3Dプリンタなどの積層造形機(例えば、ステレオリソグラフィ及びレーザ焼結製造装置)であり得るか、又は製造機は、コンピュータ数値制御(computer numerical control、「CNC」)機などの減法製造機であり得る。更に他の例示的な実施形態では、製造機18は鋳造金型であり得る。製造機18は、計算機1600からの出力データを使用して、対象整形外科要素の1つ以上の3Dモデル1100の物理モデルを生成し得る。このようにして、製造機18は、整形外科要素100の識別表面の少なくとも部分的な物理モデルを「生成するように構成される」と言うことができる。実施形態では、この製造機を使用して、患者固有の外科用ガイド500の物理3Dモデルが生成され得る。
【0070】
図9はまた、計算機1600からの出力データがディスプレイ19に送信される別の実施形態を示す。第1のディスプレイ19aは、患者固有の外科用ガイド500の仮想3Dモデルを示す。第2のディスプレイ19bは、識別された対象整形外科要素の仮想3Dモデル1100を示す。
【0071】
このディスプレイ19は、スクリーンの形態をとり得る。他の例示的な実施形態では、ディスプレイ19は、手術室で外科医又は他の人々によって着用又は保持されるガラス又はプラスチック製の表面を含み得る。そのようなディスプレイ19は、拡張現実装置の一部を含み得、そのため、ディスプレイは、ベアラの視野に加えて3Dモデルを示す。特定の実施形態では、そのような3Dモデルは、実際の手術関節上に重ね合わされ得る。更に他の例示的な実施形態では、3Dモデルを手術整形外科要素100の1つ以上の特徴に「ロック」することができ、それによって、ディスプレイ19の動きとは無関係に、手術整形外科要素100の1つ以上の特徴に対して3Dモデルの仮想位置を維持することができる。ディスプレイ19は、視野全体がシミュレートされる仮想現実システムの一部を含み得ることが、なお更に企図される。
【0072】
X線撮像システムからのX線写真は、X線写真がCTスキャンと比べて比較的安価であるため、及び蛍光透視システムなどのいくつかのX線撮像システムの機器は一般に、術中に使用されるのに十分にコンパクトであるため、望ましいものであり得るが、本開示においては、別途明示的に特許請求されない限り、2D画像の使用をX線写真に制限するものではなく、本開示のいずれも、撮像システムのタイプをX線撮像システムに制限するものではない。他の2D画像としては、例えば、CT画像、CT蛍光透視画像、蛍光透視画像、超音波画像、陽電子放出断層撮影(positron emission tomography、「PET」)画像、及びMRI画像が挙げられ得る。他の撮像システムとしては、例えば、CT、CT蛍光透視法、蛍光透視法、超音波、PET、及びMRIシステムが挙げられ得る。
【0073】
好ましくは、例示的な方法は、1つ以上の中央演算処理装置(CPU)、ランダムアクセスメモリ(RAM)、及び/又は入力/出力(I/O)インターフェース(複数可)などのハードウェアを有するコンピュータプラットフォーム(例えば、計算機1600)に実装され得る。例示的な計算機1600のアーキテクチャの例は、
図7を参照して以下に提供される。
【0074】
図7は、概して、本明細書で論じられる方法のうちの1つ以上がいくつかの例示的な実施形態に従って実行され得る例示的な計算機1600のブロック図を示す。特定の例示的な実施形態では、計算機1600は、単一の機械で動作し得る。他の例示的な実施形態では、計算機1600は、接続された(例えば、ネットワーク化された)機械を含み得る。例示的な計算機1600を含み得るネットワーク化された機械の例としては、例えば、クラウドコンピューティング構成、分散ホスト構成、及び他のコンピュータクラスタ構成が挙げられる。ネットワーク構成では、計算機1600のうちの1つ以上の機械は、クライアント機、サーバ機、又はサーバ-クライアント両方の機械として動作し得る。例示的な実施形態では、計算機1600は、パーソナルコンピュータ(personal computer、「PC」)、携帯電話、タブレットPC、ウェブアプライアンス、携帯情報端末(personal digital assistant、「PDA」)、ネットワークルータ、ブリッジ、スイッチ、又は当該機械によって若しくは当該機械に制御される第2の機械によって取られるアクションを指定する命令を実行することができる任意の機械に存在し得る。
【0075】
例示的な計算機1600を含み得る例示的な機械は、例として、論理機能を実行することができる構成要素、モジュール、又は同様の機構が挙げられ得る。そのような機械は、動作中に指定された動作を実行することができる有形のエンティティ(例えば、ハードウェア)を含み得る。一例として、ハードウェアは、特定の動作を実行するように配線され得る(例えば、具体的に構成される)。例として、そのようなハードウェアは、構成可能な実行媒体(例えば、回路、トランジスタ、論理ゲートなど)及び命令を有するコンピュータ可読媒体を有し得、命令は、動作時に特定の動作を実行するように実行媒体を構成する。構成は、ローディング機構を介して、又は実行媒体の指示の下で行われ得る。実行媒体は、機械が動作しているときに、コンピュータ可読媒体に選択的に通信する。例として、機械が動作中にあるとき、実行媒体は、第1の時点で第1のアクション又はアクションのセットを実行するように第1の命令セットによって構成され、次いで第2の時点で、第2のアクション又はアクションのセットを実行するように第2の命令セットによって再構成され得る。
【0076】
例示的な計算機1600は、ハードウェアプロセッサ1697(例えば、CPU、グラフィックスプロセッシングユニット(graphics processing unit、「GPU」)、ハードウェアプロセッサコア、若しくはそれらの任意の組み合わせ)、メインメモリ1696及び静的メモリ1695を含み得、それらの一部又は全ては、インターリンク(例えば、バス)1694を介して互いに通信し得る。計算機1600は、ディスプレイユニット1698、入力装置1691(好ましくは、キーボードなどの英数字又は文字数字入力装置)、及びユーザインターフェース(user interface、「UI」)ナビゲーション装置1699(例えば、マウス又はスタイラス)を更に含み得る。例示的な実施形態では、入力装置1691、ディスプレイユニット1698、及びUIナビゲーション装置1699は、タッチスクリーンディスプレイであり得る。例示的な実施形態では、ディスプレイユニット1698は、ホログラフィーレンズ、眼鏡、ゴーグル、他のアイウェア、又は他のAR若しくはVRディスプレイ構成要素を含み得る。例えば、ディスプレイユニット1698は、ユーザの頭部に着用されてもよく、ヘッドアップディスプレイをユーザに提供し得る。入力装置1691としては、仮想キーボード(例えば、バーチャル現実(virtual reality、「VR」)又は拡張現実(augmented reality、「AR」)設定で仮想的に表示されるキーボード)又は他の仮想入力インターフェースが挙げられ得る。
【0077】
計算機1600は、記憶装置(例えば、ドライブユニット)1692、信号発生器1689(例えば、スピーカ)、ネットワークインターフェース装置1688、及び全地球測位システム(global positioning system、「GPS」)センサ、加速度計、コンパス、又は他のセンサなどの1つ以上のセンサ1687を更に含み得る。計算機1600は、1つ以上の補助装置を通信又は制御するために、シリアル(例えば、ユニバーサルシリアルバス(universal serial bus、「USB」))、並列、又は他の有線若しくは無線(例えば、赤外線(infrared、「IR」)近距離通信(near field communication、「NFC」)、ラジオなど)接続などの出力コントローラ1684を含み得る。
【0078】
記憶装置1692は、本明細書に記載の機能又は方法のうちのいずれか1つ以上によって具現化又は利用されるデータ構造又は命令の1つ以上のセット1682(例えば、ソフトウェア)が記憶される、非一時的である機械可読媒体1683を含み得る。命令1682は、計算機1600によるそれらの実行中に、メインメモリ1696の内部、静的メモリ1695の内部、又はハードウェアプロセッサ1697の内部に完全に、又は少なくとも部分的に存在し得る。例として、ハードウェアプロセッサ1697、メインメモリ1696、静的メモリ1695、又は記憶装置1692のうちの1つ又は任意の組み合わせは、機械可読媒体を構成し得る。
【0079】
機械可読媒体1683は、単一の媒体として示されているが、「機械可読媒体」という用語は、1つ以上の命令1682を記憶するように構成された単一の媒体又は複数の媒体(例えば、分散型若しくは集中型データベース、又は関連付けられたキャッシュ及びサーバ)を含み得る。
【0080】
「機械可読媒体」という用語は、計算機1600が実行する命令を記憶、符号化、若しくは伝達することができ、かつ計算機1600に、本開示の方法のうちの任意の1つ以上を実行させるか、又はそのような命令によって使用されるか若しくはそのような命令に関連付けられたデータ構造を記憶、符号化、若しくは伝達することができる、任意の媒体を含み得る。機械可読媒体の非限定的な例示的なリストは、磁気媒体、光学媒体、ソリッドステートメモリ、不揮発性メモリ、例えば、半導体メモリ装置(例えば、電子的に消去可能なプログラム可能読み取り専用メモリ(electronically erasable programable read-only memory、「EEPROM」)、電子的にプログラム可能な読み取り専用メモリ(electronically programable read-only memory「EPROM」)、並びに内部ハードディスク及び取り外し可能ディスク、フラッシュ記憶装置、光磁気ディスク、CD-ROMディスク、及びDVD-ROMディスクなどの磁気ディスクを含み得る。
【0081】
命令1682は更に、いくつかの転送プロトコル(例えば、インターネットプロトコル(internet protocol、「IP」)、ユーザデータグラムプロトコル((user datagram protocol、「UDP」)、フレームリレー、伝送制御プロトコル(transmission control protocol、「TCP」、ハイパーテキスト転送プロトコル(hypertext transfer protocol、「HTTP」)など)のうちの1つを利用するネットワークインターフェース装置1688を経由する伝送媒体を使用して、通信ネットワーク1681を介して送信又は受信され得る。例示的な通信ネットワークとしては、広域ネットワーク(wide are network、「WAN」)、基本電話サービス(plain old telephone、「POTS」)ネットワーク、ローカルエリアネットワーク(local area network、「LAN」)、パケットデータネットワーク、携帯電話ネットワーク、無線データネットワーク、及び同機種間(peer-to-peer、「P2P」)ネットワークが挙げられ得る。例として、ネットワークインターフェース装置1688は、通信ネットワーク1681に接続するために1つ以上の物理的ジャック(例えば、イーサネット、同軸、又は電話ジャック)又は1つ以上のアンテナを含み得る。
【0082】
例として、ネットワークインターフェース装置1688は、単入力多出力(single-input multiple-output、「SIMO」)、又は多入力単出力(multiple-input single output、「MISO」)方法のうちの少なくとも1つを使用して無線で通信するために複数のアンテナを含み得る。「伝送媒体」という語句は、計算機1600が実行する命令を記憶、符号化、又は伝達することができる任意の無形媒体を含み、そのようなソフトウェアの通信を容易にするために、アナログ若しくはデジタル通信信号又は他の無形媒体を含む。
【0083】
本開示による例示的な方法は、少なくとも部分的に機械又はコンピュータ実装型であり得る。いくつかの例は、本明細書に記載の例示的な方法を実行するように電子装置を構成するように動作可能な命令で符号化された、コンピュータ可読媒体又は機械可読媒体を含み得る。そのような例示的な方法の例示的な実装形態は、アセンブリ言語コード、マイクロコード、高レベル言語コード、又は他のコードなどのコードを含み得る。そのようなコードは、様々な方法を実行するためのコンピュータ可読命令を含み得る。コードは、コンピュータプログラム製品の一部を形成し得る。更に、一例では、コードは、実行中又は他の時間の間など、揮発性、非一時的、又は不揮発性の有形のコンピュータ可読媒体上又はコンピュータ可読媒体内に有形に記憶され得る。これらの有形のコンピュータ可読媒体の例としては、限定するものではないが、取り外し可能な光学ディスク(例えば、コンパクトディスク及びデジタルビデオディスク)、ハードドライブ、取り外し可能な磁気ディスク、メモリカード又はスティック、取り外し可能なフラッシュ記憶ドライブ、磁気カセット、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROMS)、及び他の媒体が挙げられ得る。
【0084】
2Dの術前又は術中の画像から3Dモデルを生成するための様々な方法がある。例として、1つのそのような方法は、放射線撮像システムを用いて患者の手術領域170の2D放射線画像のセットを受信し、放射線撮像システムの座標系とそれぞれの2D画像からの射影幾何データとを用いてエピポーラ幾何原理を使用して、第1の3Dモデルを計算することを含み得る(
図4並びに
図5A及び
図5B参照)。そのような例示的な方法は、2D放射線画像上の第1の3Dモデルを投影し、次いで、第1の3Dモデル上の第1及び第2の放射線画像30、50を画像間位置合わせ技術で位置合わせすることによって、初期の3Dモデルを調整することを更に含み得る。画像間位置合わせ技術が適用されると、修正された3Dモデルが生成され得る。このプロセスは、所望の明確さが達成されるまで繰り返され得る。
【0085】
別の例として、畳み込みニューラルネットワーク(convolutional neural network、「CNN」)、リカレントニューラルネットワーク(recurrent neural network、「RNN」)、モジュール型ニューラルネットワーク(modular neural network)、又はSequence to Sequenceモデルなどの深層学習ネットワーク(「深層ニューラルネットワーク」(「deep neural network、DNN」としても知られる)は、患者の手術領域170の少なくとも2つの2D画像のセットから対象整形外科要素の3Dモデル1100及び/又は患者固有の外科用ガイド500の3Dモデルを生成するために使用され得る。2D画像30、50は、望ましくは、放射線画像(例えば、X線画像又は蛍光透視画像)などの組織貫通画像である。そのような方法では、深層学習ネットワークは、それぞれの2D画像からの射影幾何データ(すなわち、空間データ43又は体積データ75)からモデルを生成し得る。深層学習ネットワークは、手術領域170における異なる対象整形外科要素100(例えば、骨、軟組織など)のマスクを生成することができ、並びに1つ以上の画像化された整形外科要素100の体積(
図6の61参照)を計算することができるという利点を有し得る。
【0086】
図8は、CNNが、対象整形外科要素100の表面トポグラフィを識別するためにどのように使用され得るかを示すCNNの概略図である。理論に束縛されるものではないが、CNNは、所望の整形外科要素100又は所望の表面トポグラフィを識別するために必要な特徴を失うことなく、体積データ75のサイズを縮小させるために望ましい場合があることが企図される。複数の逆投影された入力画像30、50の体積データ75は、「入力テンソル」として知られ得る多次元アレイである。この入力テンソルは、第1の畳み込みのための入力データ(この例では、体積データ75である)を含む。体積データ75に配置されたフィルタ(カーネル69としても知られている)が示されている。カーネル69は、フィルタ又は機能を定義するテンソル(すなわち、多次元アレイ)である(このフィルタ又は機能は、カーネルに与えられる「重量」として知られることがある)。図示された実施形態では、カーネルテンソル69は三次元である。カーネル69を含むフィルタ又は機能は、手動でプログラムされるか、又はCNN、RNN、若しくは他の深層学習ネットワークを通して学習され得る。図示された実施形態では、カーネル69は、3×3×3テンソルであるが、カーネルテンソルサイズが入力テンソルのサイズより小さい限り、全てのテンソルサイズ及び寸法は、本開示の範囲内にあると見なされる。
【0087】
カーネル69のそれぞれのセル又はボクセルは、数値を有する。これらの値は、カーネル69のフィルタ又は機能を定義する。畳み込み又は相互相関動作は、2つのテンソル間で実行される。
図8では、畳み込みは、経路76によって表される。カーネル69がたどる経路76は、数学的動作を可視化したものである。この経路76をたどりながら、カーネル69は、最終的に入力テンソルの全体積61(例えば、体積データ75)を順次横断する。この動作の目標は、入力テンソルから特徴を抽出することである。
【0088】
畳み込み層72は、典型的には、畳み込み段階67、検出器段階68、及びプーリング段階58のうちの1つ以上を含む。これらそれぞれの動作は、
図8の第1の畳み込み層72aで視覚的に表されているが、その後の畳み込み層72b、72cなども、畳み込み段階67、検出器段階68、及びプーリング層58動作、又はそれらの組み合わせ若しくは順列のうちの1つ以上、又は全てを含み得ることが理解されよう。更に、
図8は、様々な解像度の5つの畳み込み層72a、72b、72c、72d、72eを示しているが、他の例示的な実施形態では、より多くの畳み込み層又はより少ない畳み込み層が使用されてもよいことが理解されよう。
【0089】
畳み込み段階67において、カーネル69には、入力データ(すなわち、図示された例では、体積データ75)内のピクセルの複数のパッチが順次乗算される。データから抽出されたピクセルのパッチは、受容野として知られている。カーネル69と受容野との乗算は、受容野のそれぞれのピクセルとカーネル69との間の要素ごとの乗算を含む。乗算後、結果が合計されて、畳み込み出力の1つの要素が形成される。次いで、このカーネル69は、隣接する受容野にシフトし、要素ごとの乗算動作及び合計は、入力テンソルの全てのピクセルがこの動作を受けるまで継続する。
【0090】
この段階まで、入力テンソルの入力データ(例えば、体積データ75)は線形である。次いで、このデータに非線形性を導入するために、非線形活性化関数が用いられる。そのような非線形関数の使用は、検出器段階68の始まりを示す。一般的な非線形活性化関数は、関数によって与えられる正規化線形関数(Rectified Linear Unit function、「ReLU」)である。
【0091】
【0092】
バイアスと共に使用される場合、非線形活性化関数は、カーネル69によって抽出された特徴の存在を検出するための閾値として役立つ。例えば、入力テンソルとカーネル69との間に畳み込み又は相互相関動作を適用することで、畳み込み出力テンソルが生成され、カーネル69は、畳み込み段階67で低レベルのエッジフィルタを含む。次いで、バイアスを伴う非線形活性化関数を畳み込み出力テンソルに適用することにより、特徴マップ出力テンソルが返される。バイアスは、畳み込み出力テンソルのそれぞれのセルに順次追加される。所与のセルについて、合計が0以上である場合(この例では、ReLUが使用されると仮定する)、合計は、特徴マップ出力テンソルの対応するセルに返される。同様に、合計が所与のセルに対して0未満である場合、特徴マップ出力テンソルの対応するセルは0に設定される。したがって、畳み込み出力に非線形活性化関数を適用することは、畳み込み出力がカーネル69の所与のフィルタと一致するか否か、及びどの程度密接に一致するかを決定するための閾値のように挙動する。このようにして、非線形活性化関数は、入力データ(例えば、この例では、体積データ75)から所望の特徴の存在を検出する。
【0093】
全ての非線形活性化関数は、本開示の範囲内にあると見なされる。他の例としては、シグモイド、TanH、Leaky ReLU、parametric ReLU、Softmax、及びSwitch活性化関数が挙げられる。
【0094】
しかしながら、このアプローチの欠点は、この第1の畳み込み層72aの特徴マップ出力が所望の特徴(上記の例では、エッジ)の正確な位置を記録することである。したがって、入力データにおける特徴の小さな動きが、異なる特徴マップを生成することになる。この問題に対処し、かつ計算電力を削減するために、ダウンサンプリングを使用して、重要な構造要素を依然として保存しながら入力データの解像度を低下させる。ダウンサンプリングは、入力テンソルに沿った畳み込みのストライドを変更することによって達成され得る。ダウンサンプリングはまた、プーリング層58を使用することによって達成される。
【0095】
入力テンソル(72aを参照されたい)と比べて畳み込まれたテンソル(72bを参照されたい)の寸法を減少させるために、有効なパディングが適用されてもよい。プーリング層58は、望ましくは、畳み込まれたデータの空間サイズを縮小するために適用され、これは、データを処理するために必要な計算電力を減少させる。最大プーリング及び平均プールを含む一般的なプーリング技術が使用され得る。最大プーリングは、カーネル69によってカバーされた入力テンソルの部分の最大値を返す一方、平均プーリングは、カーネル69によってカバーされた入力テンソルの部分の全ての値の平均を返す。最大プーリングを使用して、画像ノイズが低減され得る。
【0096】
特定の例示的な実施形態では、全結合層は、畳み込み層の出力によって表される高レベルの特徴(画像化された近位脛骨110のプロファイル又は整形外科要素の表面トポグラフィなど)の非線形の組み合わせを学習するために、最終的な畳み込み層72eの後に追加され得る。
【0097】
図8の上半分は、入力体積データ75の圧縮を表し、下半分は、入力体積データ75の元のサイズに到達するまでの復元(decompression)を表す。それぞれの畳み込み層72a、72b、72cなどの出力特徴マップは、より複雑になっていく特徴抽出を可能にするために、後続の畳み込み層72b、72cなどの入力として使用される。例えば、第1のカーネル69は、エッジを検出し得、第1の畳み込み層72b内のカーネルは、所望の配向でエッジの集合を検出し得、第3の畳み込み層72c内のカーネルは、所望の配向でエッジのより長い集合を検出し得る、などとなる。このプロセスは、内側遠位大腿骨顆のプロファイル全体が下流の畳み込み層72によって検出されるまで継続し得る。
【0098】
図8の下半分は、アップサンプル(すなわち、より低い解像度の特徴マップの空間サポートを拡大したもの)である。逆畳み込み動作は、次の下流の畳み込み層に対する入力のサイズを増大するために実行される(72c、72d、72eを参照されたい)。最終畳み込み層72eの場合、畳み込みは、1×1×1カーネル69と共に採用されて、入力体積61と同じサイズのマルチチャネル出力体積59が生成され得る。マルチチャネル出力体積59のそれぞれのチャネルは、所望の抽出された高レベル特徴を表し得る。これに続いて、Softmax活性化関数が、所望の整形外科要素100を検出し得る。例えば、図示された実施形態は、0、1、2、3、4、5と採番された6つの出力チャネルを含み得、チャネル0は識別されたバックグラウンド体積を表し、チャネル1は識別された遠位大腿骨105を表し、チャネル2は識別された近位脛骨110を表し、チャネル3は識別された近位腓骨111を表し、チャネル4は識別された膝蓋骨901を表し、チャネル5は対象整形外科要素100の識別表面トポグラフィを表す。
【0099】
例示的な実施形態では、所望の整形外科要素100の出力体積データ59を含む選択された出力チャネルを使用して、対象整形外科要素の3Dモデル1100が作成され得る。例えば、対象整形外科要素100の識別表面トポグラフィを表すチャネルからのデータは、対象整形外科要素100に堅固に係合されるように構成される患者固有の外科用ガイド500を作製するために、患者固有の外科用ガイド500上で1つ以上の嵌合面(
図11の40及び36並びに
図12の53及び54参照)としてマッピング及び再現され得る。製造技術を介して物理的な患者固有の外科用ガイド500を生成し、当該患者固有の外科用ガイド500を滅菌することにより、外科医は、患者固有の外科用ガイド500を手術領域170に直接設置して使用することができる。このようにして、患者固有の外科用ガイド500は、識別表面において、整形外科要素100に「当接するように構成される」と言うことができる。同様に、このようにして、深層学習ネットワークをこの方法又は関連する方法で使用して個々の整形外科要素100又は整形外科要素の一部分(例えば、対象整形外科要素100の表面トポグラフィ)を分離する計算機1600は、実際の対象整形外科要素100上又は対象整形外科要素の3Dモデル1100上の表面トポグラフィを「識別し」、識別表面を画定するように構成されていると言うことができる。
【0100】
上の例は、入力体積データ75を畳み込むための三次元テンソルカーネル69の使用を説明したものであるが、上述の一般モデルは、それぞれ第1の較正された入力画像30及び第2の較正された入力画像50からの2D空間データ43と共に使用され得ることが理解されよう。他の例示的な実施形態では、機械学習アルゴリズム(すなわち、深層学習ネットワーク(例えば、CNNなど))は、撮像機の較正後、但し、2Dから3Dへの再構成前に使用され得る。すなわち、CNNを使用して、それぞれの2D入力画像30、50の第1の基準フレーム30a及び第2の基準フレーム50aから対象整形外科要素100の特徴(例えば、解剖学的ランドマーク)が検出され得る。例示的な実施形態では、CNNを使用して、2D入力画像30、50から高レベルの整形外科要素(例えば、遠位大腿骨105及び対象整形外科要素100の表面トポグラフィの一部分)が識別され得る。次いで、CNNは、検出された整形外科要素100又は対象整形外科要素100の表面トポグラフィにマスク又は外形を任意選択的に適用し得る。撮像機1800が較正され、CNNが、2つの入力画像30、50間の特徴の複数の対応する画像点(例えば、XL、XR)を識別した場合、対象整形外科要素100の基準フレーム30a、50a間の変換行列を使用して、3D空間内の複数の対応する画像点が位置合わせされ得ることが企図される。
【0101】
深層学習ネットワークを使用して、それぞれの入力画像30、50から検出された2D整形外科要素100にマスク又は外形を追加することを含む特定の例示的な実施形態では、識別された整形外科要素100又は識別された整形外科要素100の表面トポグラフィの2Dマスク又は外形のみが、上記の
図4及び
図6を参照して記載された方法で順次逆投影されて、識別された整形外科要素100の体積61が画定され得る。この例示的な方法では、対象整形外科要素の3Dモデル1100が作成され得る。
【0102】
第1の画像30と第2の画像50がX線画像である実施形態では、CNNを訓練することは、いくつかの課題を提示し得る。比較として、CTスキャンは、典型的には、所望の体積の一連の画像を生成する。典型的なCTスキャンを含むそれぞれのCT画像は、画像化された体積のセグメントとして考えられ得る。これらのセグメントから、要素がそれぞれの連続するCT画像に示されているときに所望の要素の領域を追加することによって、3Dモデルは比較的容易に作製され得る。次いで、モデル化された要素をCTスキャンのデータと比較して、精度が確保され得る。
【0103】
対照的に、放射線撮像システムは、典型的には、画像化された体積の異なるセグメントをキャプチャする連続画像を生成しない。むしろ、画像の情報の全ては、2D平面で平坦化される。加えて、単一の放射線画像30は本質的に3Dデータを欠いているため、上述のエピポーラ幾何再構成技術によって生成されたモデルを、標的整形外科要素100の実際の幾何学的形状を用いてチェックすることは困難である。この問題に対処するために、CNNは、デジタル的に再構成された放射線写真(digitally reconstructed radiograph、「DRR」)画像などのCT画像を用いて訓練され得る。このように深層学習ネットワークを訓練することによって、深層学習ネットワークは、所望の整形外科要素100又は対象整形外科要素100の表面トポグラフィを識別するために、カーネル69に対して独自の重み(例えば、フィルタ)を開発し得る。X線写真はDRRとは異なる外観を有するため、DRRスタイルの外観を有するように入力X線画像をレンダリングするように、画像間変換が実行され得る。例示的な画像間変換方法は、CycleGAN画像変換技術である。画像間のスタイル変換(style transfer)方法が使用される実施形態では、スタイル変換方法は、望ましくは、特徴検出のためにデータを深層学習ネットワークに入力する前に使用される。
【0104】
上の例は、理解を助ける目的で提供されており、本開示の範囲を限定することを意図するものではない。少なくとも2つの横方向位置から撮られた同じ対象整形外科要素100の2D放射線画像(例えば、30a、50a)から対象整形外科要素の3Dモデル1100を生成するための全ての方法は、本開示の範囲内にあると見なされる。
【0105】
図10は、深層学習ネットワークを使用して、オフセット角度θから撮られた2つの平坦化された入力画像(
図4並びに
図5A及び
図5Bの30、50)を使用して、整形外科要素100に当接するための患者固有の外科用ガイド500の寸法を計算する、例示的な方法の工程を概説するフロー図である。例示的な方法は、撮像機1800(
図9)を較正して、画像点(X
L、e
L、X
R、e
R、
図4)と対応する空間座標(例えば、x,y平面上のデカルト座標)との間のマッピング関係を決定して空間データ43を画定する工程1cを含む。撮像機1800は、望ましくは、X線画像を生成することができる放射線撮像機である(「X線画像」は、蛍光透視画像を含むものと理解され得る)が、全ての医療撮像機は、本開示の範囲内にあると見なされる。
【0106】
工程2cは、撮像技術(例えば、X線撮像技術、CT撮像技術、MRI撮像技術、又は超音波撮像技術)を使用して、対象整形外科要素100の第1の画像30(
図5A)をキャプチャすることを含み、第1の画像30は、第1の基準フレーム30a(例えば、第1の横方向位置)を画定する。工程3cでは、対象整形外科要素100の第2の画像50(
図5B)が撮像技術を使用してキャプチャされ、第2の画像50は、第2の基準フレーム50a(例えば、第2の横方向位置)を画定し、第1の基準フレーム30aは、第2の基準フレーム50aからオフセット角度θでオフセットされる。第1の画像30及び第2の画像50は、データ(空間データ43を含む)が抽出され得る入力画像である。他の例示的な実施形態では、2つ以上の画像が使用され得ることが理解されよう。そのような実施形態では、それぞれの入力画像は、望ましくは、オフセット角度θだけ他の入力画像から分離される。工程4cは、対象整形外科要素100の第1の画像30からの空間データ43と、対象整形外科要素100の第2の画像50からの空間データ43とを投影して、エピポーラ幾何を用いて体積データ75(
図6)を画定することを含む。
【0107】
工程5cは、深層学習ネットワークを使用して、体積データ75から整形外科要素100を検出することを含む。工程6cは、深層学習ネットワークを使用して、対象整形外科要素100の体積データ75から他の特徴(例えば、解剖学的ランドマーク)を検出して、対象整形外科要素100の表面トポグラフィを含む、対象整形外科要素の3Dモデル1100を画定することを含む。工程7cは、患者固有の外科用ガイド500の寸法を計算することを含む。そのような実施形態では、患者固有の外科用ガイド500の嵌合面の寸法は、対象整形外科要素100の一部分の表面トポグラフィに相補的にすることができる。このようにして、患者固有の外科用ガイド500は、整形外科要素100に当接し、堅固に係合されるように構成され得る。
【0108】
特定の例示的な実施形態では、体積データ75から対象整形外科要素100の解剖学的ランドマークを検出する深層学習ネットワークは、対象整形外科要素の表面トポグラフィなど、対象整形外科要素100の体積データ75から他の特徴を検出する同じ深層学習ネットワークであり得る。他の例示的な実施形態では、体積データ75から対象整形外科要素100の解剖学的ランドマークを検出する深層学習ネットワークは、対象整形外科要素の表面トポグラフィなど、対象整形外科要素100の体積データ75から他の特徴を検出する深層学習ネットワークと異なっていてもよい。
【0109】
特定の例示的な実施形態では、第1の画像30は、外側横方向位置における対象整形外科要素100を示し得る(すなわち、第1の画像30は、整形外科要素100の側面図である)。他の例示的な実施形態では、第2の画像50は、前後(anterior-posterior、「AP」)横方向位置における整形外科要素100を示し得る(すなわち、第2の画像50は、整形外科要素100のAP図である)。更なる他の例示的な実施形態では、第1の画像30は、AP横方向位置における整形外科要素100を示し得る。なお他の例示的な実施形態では、第2の画像50は、外側横方向位置における整形外科要素100を示し得る。なお更なる他の例示的な実施形態では、第1の画像30が第2の画像50からオフセット角度θだけオフセットされている限り、第1の画像30も第2の画像50も、AP横方向位置又は外側横方向位置にて整形外科要素100を示していなくてもよい。計算機1600は、較正用治具を含む入力画像30、50からのオフセット角度θを計算し得る(
図5A及び
図5Bの973参照)。第1の画像30及び第2の画像50は、集合的に「入力画像(input images)」、又は個別に「入力画像(input image)」と称され得る。これらの入力画像30、50は、望ましくは、同一の対象整形外科要素100を異なる角度から示す。これらの入力画像30、50は、対象整形外科要素100の横方向平面に沿って撮られ得る。
【0110】
特定の例示的なシステム又は方法は、CycleGANなどのスタイル変換深層学習ネットワークを使用することを更に含み得る。スタイル変換深層学習ネットワークを使用するシステム又は方法は、放射線入力画像(例えば、30)で開始し、スタイル変換深層学習ネットワークを使用して、入力画像のスタイルをDRRタイプ画像に変換し得る。なお更なる例示的な方法は、深層学習ネットワークを使用して、対象整形外科要素100(対象整形外科要素100の表面トポグラフィの一部分を含み得る)の特徴(例えば、解剖学的ランドマーク)を識別して、それぞれの対象整形外科要素100にセグメンテーションマスクを提供することを含み得る。
【0111】
理論に束縛されるものではないが、放射線入力画像を利用する実施形態は、CT入力画像又はMRI入力画像から生成された3Dモデルと比較して、整形外科要素の3Dモデル上により平滑な表面を提供することが可能であり得ることが企図される。CTスキャンは、典型的には、1mm増分で対象整形外科要素をスキャンする。第1のCTセグメントスキャンと隣接するCTセグメントスキャンとの間の表面トポグラフィの変化は、1mm未満の間隔で離間された表面トポグラフィの詳細が、対象整形外科要素を1mm増分で増分的にスキャンするCTシステムにおいてキャプチャされないため、従来のCTシステムの出力では情報の損失をもたらし得る。結果として、技術者は、典型的には、術中に実際の対象整形外科要素と嵌合することができる外科用ガイドを作製するために、CT 3Dモデルの表面トポグラフィを手動で平滑化しなければならなかった。実際の対象整形外科要素の1mm未満のトポグラフィデータはキャプチャされたことがないため、この手動の平滑化プロセスは不正確な傾向があり、完全とは言えない適合をもたらし得る。本開示による特定の実施形態は、放射線X線画像をピクセル値の配列として表すことができるため、この問題を未然に防ぐことができる。ピクセル密度は変化するが、一例として、第1及び第2の入力画像が96ドット/インチ(「dpi」)(ピクセル密度の単位)の解像度を有する場合、そのインチ内に25.4mm、すなわち3.78ピクセル/ミリメートルが存在する。換言すれば、この例では、従来のCTスキャンと比較して、1ミリメートル当たり余分に3.78ピクセルの情報が存在する。より高いピクセル密度は、同様に、表面トポグラフィの更に高い解像度をもたらす一方で、本明細書に説明されるような深層学習ネットワーク(複数可)の使用は、深層学習ネットワークを使用しないシステム及び方法と比較して、計算機の計算負荷を低減させることができる。
【0112】
特定の例示的な実施形態では、例示的なシステム及び/又は方法は、外科医の入力及び設定を考慮に入れることができることが更に企図される。例えば、外科医が遠位大腿骨の遠位切除平面を3度内反させて配向することを望む場合、例示的な患者固有の大腿骨切除ガイドマウント500aは、本開示に従って生成することができ、切除スロット52は、患者固有の外科用ガイド500が遠位大腿骨105上に設置されるときに切除スロット52が3度内反させて配向されるように、本体42に対して製造することができる。例示的な実施形態では、切除スロット52の向きを更に変更して、手術領域170への制限されたアクセス又は障害物に対応することができ、これは、最小侵襲処置において一般的であり得る。
【0113】
患者固有の外科用ガイドを生成するための例示的な方法は、放射線撮像機を較正して、画像点と対応する空間座標との間のマッピング関係を決定して空間データを画定することと、放射線撮像技術を使用して、整形外科要素の第1の画像をキャプチャすることであって、第1の画像は、第1の基準フレームを画定する、ことと、放射線撮像技術を使用して、整形外科要素の第2の画像をキャプチャすることであって、第2の画像は第2の基準フレームを画定し、第1の基準フレームは、第2の基準フレームからオフセット角度でオフセットされる、ことと、深層学習ネットワークを使用して、空間データを使用して整形外科要素を検出することであって、空間データは、整形外科要素上又は整形外科要素内の解剖学的ランドマークを画定する、ことと、深層学習ネットワークを使用して、解剖学的ランドマークによって画定された整形外科要素にマスクを適用することと、所望の整形外科要素の第1の画像からの空間データ及び所望の整形外科要素の第2の画像からの空間データを投影して、体積データを画定することであって、第1の画像又は第2の画像のいずれかのマスク領域内に配置された画像点を含む空間データは第1の値を有し、第1の画像又は第2の画像のいずれかのマスク領域外に配置された画像点を含む空間データは第2の値を有し、第1の値は第2の値とは異なる、ことと、深層学習ネットワークを体積データに適用して、整形外科要素の再構成された3Dモデルを生成することと、整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算することとを含む。
【0114】
患者固有の外科用ガイドを生成するための例示的な方法は、放射線撮像機を較正して、画像点と対応する空間座標との間のマッピング関係を決定して空間データを画定することと、放射線撮像技術を使用して、整形外科要素の第1の画像をキャプチャすることであって、第1の画像は第1の基準フレームを画定することと、放射線撮像技術を使用して、整形外科要素の第2の画像をキャプチャすることであって、第2の画像は第2の基準フレームを画定し、第1の基準フレームは、第2の基準フレームからオフセット角度でオフセットされる、ことと、深層学習ネットワークを使用して、空間データを使用して整形外科要素を検出することであって、空間データは、整形外科要素上又は整形外科要素内の解剖学的ランドマークを画定する、ことと、深層学習ネットワークを使用して、解剖学的ランドマークによって画定された整形外科要素にマスクを適用することと、所望の整形外科要素の第1の画像からの空間データ及び所望の整形外科要素の第2の画像からの空間データを投影して、体積データを画定することであって、第1の画像又は第2の画像のいずれかのマスク領域内に配置された画像点を含む空間データは正の値を有し、第1の画像又は第2の画像のいずれかのマスク領域外に配置された画像点を含む空間データは負の値を有する、ことと、深層学習ネットワークを体積データに適用して、整形外科要素の3Dモデルを生成することと、整形外科要素に堅固に係合するように構成された患者固有の外科用ガイドの寸法を計算することと、を含む。
【0115】
例示的な実施形態では、方法は、深層学習ネットワークを使用して、第1の画像及び第2の画像に対してスタイル変換を実行することを更に含む。
【0116】
例示的な実施形態において、スタイル変換は、放射線撮像技術からの空間データをデジタルX線動態撮影(dynamic digital radiography)データに変換する。
【0117】
例示的な実施形態では、第1の値は正の値である。
【0118】
例示的な実施形態では、第2の値は負の値である。
【0119】
例示的な実施形態では、方法は、ディスプレイ上に再構成された3Dモデルを投影することを更に含む。
【0120】
例示的な実施形態では、深層学習ネットワークは深層学習アルゴリズムを含む。
【0121】
例示的なシステムは、少なくとも2つの2D放射線画像から生成された手術領域を含む整形外科要素の3Dモデルであって、少なくとも第1の放射線画像は第1の位置でキャプチャされ、少なくとも第2の放射線画像は第2の位置でキャプチャされ、第1の位置は第2の位置とは異なる、3Dモデルと、整形外科要素の3Dモデル上の表面トポグラフィを識別して、識別表面を画定するように構成され、患者固有の外科用ガイドの寸法を計算するように更に構成された計算機であって、患者固有の外科用ガイドは、識別表面において、整形外科要素と当接するように構成されている計算機と、を含む。
【0122】
例示的なシステムはディスプレイを更に含むことができ、整形外科要素の3Dモデルはディスプレイ上に表示される。例示的なシステムでは、ディスプレイは、拡張現実装置又は仮想現実装置であり得る。例示的なシステムは、X線撮像機を更に含み得る。
【0123】
例示的なシステムは、製造装置を更に含むことができ、製造装置は、患者固有の外科用ガイドの物理モデルを生成するように構成される。
【0124】
製造装置を含む例示的なシステムでは、製造装置は、整形外科要素の識別表面の少なくとも部分的な物理モデルを生成するように構成され得る。製造装置は積層造形装置であり得る。
【0125】
例示的なシステムでは、患者固有の外科用ガイドの物理モデルは、医療用ポリアミドを含むことができる。
【0126】
例示的なプロセスによって生成される患者固有の外科用ガイドは、放射線撮像機を較正して、放射線画像点と対応する空間座標との間のマッピング関係を決定して空間データを画定することと、放射線撮像技術を使用して、対象整形外科要素の第1の放射線画像をキャプチャすることであって、第1の放射線画像は第1の基準フレームを画定する、ことと、放射線撮像技術を使用して、対象整形外科要素の第2の放射線画像をキャプチャすることであって、第2の放射線画像は第2の基準フレームを画定し、第1の基準フレームは、第2の基準フレームからオフセット角度でオフセットされる、ことと、対象整形外科要素の第1の放射線画像からの空間データと、対象整形外科要素の第2の放射線画像からの空間データとを投影して、体積データを画定することと、深層学習ネットワークを使用して、体積データを使用して対象整形外科要素を検出することであって、体積データは、対象整形外科要素上又は対象整形外科要素内で解剖学的ランドマークを画定する、ことと、深層学習ネットワークを使用し、体積データを使用して整形外科要素上の表面を識別し、識別表面を画定することと、深層学習ネットワークを体積データに適用して、識別表面において、整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算することとを含むことができる。
【0127】
例示的なプロダクトバイプロセスは、製造技術を使用して患者固有の外科用ガイドの物理3Dモデルを生成することを更に含むことができる。そのような実施形態では、患者固有の外科用ガイドの物理3Dモデルは、整形外科要素の識別表面と嵌合する嵌合面を含むことができる。
【0128】
例示的なプロダクトバイプロセスでは、患者固有の外科用ガイドの物理3Dモデルは嵌合面を含むことができ、嵌合面は突出部を更に含むことができる。
【0129】
例示的な患者固有の外科用ガイドは、放射線撮像機を較正して、放射線画像点と対応する空間座標との間のマッピング関係を決定して空間データを画定することと、放射線撮像技術を使用して、対象整形外科要素の第1の放射線画像をキャプチャすることであって、第1の放射線画像は第1の基準フレームを画定する、ことと、放射線撮像技術を使用して、対象整形外科要素の第2の放射線画像をキャプチャすることであって、第2の放射線画像は第2の基準フレームを画定し、第1の基準フレームは、第2の基準フレームからオフセット角度でオフセットされる、ことと、対象整形外科要素の第1の放射線画像からの空間データと、対象整形外科要素の第2の放射線画像からの空間データとを投影することと、深層学習ネットワークを使用して、空間データを使用して対象整形外科要素を検出することであって、空間データは、対象整形外科要素上又は対象整形外科要素内の解剖学的ランドマークを画定する、ことと、深層学習ネットワークを使用し、空間データを使用して整形外科要素上の表面を検出識別し、識別表面を画定することと、深層学習ネットワークを空間データに適用して、識別表面において、整形外科要素に当接するように構成された患者固有の外科用ガイドの寸法を計算することと、を含む、例示的なプロセスによって生成され得る。
【0130】
本発明は、本明細書に開示される又は図面に示される特定の構成及び方法ステップに限定されるものではないが、当該技術分野において既知の特許請求の範囲内の任意の修正又は同等物も含むことを理解されたい。本明細書に開示される装置及び方法は、有用性を見出すことが当業者には理解されよう。
【国際調査報告】