(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-10-02
(54)【発明の名称】3次元オブジェクト変換のための2次元画像登録方法およびシステム
(51)【国際特許分類】
A61B 6/00 20240101AFI20240925BHJP
【FI】
A61B6/00 550Z
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024513903
(86)(22)【出願日】2022-09-02
(85)【翻訳文提出日】2024-04-30
(86)【国際出願番号】 US2022042561
(87)【国際公開番号】W WO2023034620
(87)【国際公開日】2023-03-09
(32)【優先日】2021-09-02
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】514290052
【氏名又は名称】アースレックス インコーポレイテッド
【氏名又は名称原語表記】ARTHREX, INC.
【住所又は居所原語表記】1370 Creekside Blvd, Naples, FL 34108, United States of America
(74)【代理人】
【識別番号】100139594
【氏名又は名称】山口 健次郎
(74)【代理人】
【識別番号】100194973
【氏名又は名称】尾崎 祐朗
(72)【発明者】
【氏名】マラニー,マイケル ダヴリュー.
【テーマコード(参考)】
4C093
【Fターム(参考)】
4C093AA01
4C093CA23
4C093FF02
4C093FF11
4C093FF28
4C093FF33
4C093FF42
(57)【要約】
2次元(2D)画像および画像に描かれた3次元(3D)デバイスを登録する変換を構築する方法、システムおよびコンピュータプログラム製品が提供される。本方法は、第1の取得された2D画像に描かれたデバイスと比較して3D数学的デバイスモデルの最良のピッチ、スピンおよびx-y-z位置を決定するステップと、第1の画像に描かれたデバイスと比較して焦点の最良のx-y-z位置を決定するステップと、それに基づいて、第1の画像およびデバイスを登録する変換を構築するステップと、を含む。
【特許請求の範囲】
【請求項1】
2次元(2D)画像および前記画像に描かれた3次元(3D)デバイスを登録する変換を構築する方法であって、
少なくとも4つの同一平面上にない識別可能な基準アーチファクトを有する3Dデバイスを描くデジタル2Dの第1の画像を取得するステップと、
前記画像に描かれた前記デバイスの参照アーチファクトが前記画像平面内で水平に向けられるように、前記画像の前記平面に垂直な軸の周りで前記第1の画像を回転させるステップと、
少なくとも前記デバイスの前記基準アーチファクトの3D数学的デバイスモデルを作成するのに十分な前記デバイスの物理的パラメータを取得するステップと、
前記デバイスの前記取得された物理的パラメータに従って前記デバイスモデルを構築するステップと、
前記基準アーチファクトを含む領域を画定する境界関心領域を前記第1の画像上に作成するステップと、
前記第1の画像内の前記境界関心領域内の前記基準アーチファクトの前記描写を識別し、描かれた各基準アーチファクトにそれぞれの参照ラベルを割り当てるステップと、
前記第1の画像内の前記境界関心領域内の前記描かれた基準アーチファクトの前記位置および軌跡に関する複数のメトリックを決定するステップと、
前記画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成するステップと、
前記第1の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のピッチ、スピン、およびx-y-z位置を決定し、前記第1の画像に描かれた前記デバイスと比較して前記焦点の最良のx-y-z位置を決定し、それに基づいて、前記第1の画像および前記デバイスを登録する変換を構築するステップと
を含む、方法。
【請求項2】
前記第1の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のピッチおよびスピンを決定する前記ステップが、前記デバイスモデルの前記ピッチおよびスピンを反復的に調整し、前記画像空間内のその前記基準の描写の対応する位置を決定するステップを含む、請求項1に記載の方法。
【請求項3】
前記第1の画像内の前記基準の前記決定されたメトリックに最も密接に一致する前記複数のメトリックを有する基準描写を生成するピッチおよびスピン反復を決定するステップをさらに含む、請求項2に記載の方法。
【請求項4】
前記第1の画像内の前記基準の前記決定されたメトリックに最も密接に一致する前記複数のメトリックを有する前記デバイスモデルの前記基準の参照ラベル相関を決定するステップをさらに含む、請求項3に記載の方法。
【請求項5】
前記第1の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のxおよびy位置を決定する前記ステップが、前記決定された最良のピッチおよびスピン決定において、前記決定された最良の参照ラベル相関を用いて、前記デバイスモデルの前記水平(x)および垂直(y)位置を反復的に調整し、前記第1の画像内の前記基準の前記決定されたメトリックと最も密接に一致する前記複数のメトリックを有する基準描写を用いて水平および垂直位置を決定するステップを含む、請求項4に記載の方法。
【請求項6】
前記第1の画像に描かれた前記デバイスと比較して、前記デバイスモデルおよび前記焦点の前記最良のz位置を決定する前記ステップが、前記決定された最良のピッチおよびスピンならびにx-y位置の決定において、前記決定された最良の参照ラベル相関を用いて、前記第1の画像内の前記基準のものと最も良く一致する前記画像平面内の前記デバイスモデルの前記基準の前記描写をスケーリングするために、前記画像平面に対して前記デバイスモデルの前記高さおよび前記焦点を反復的に調整するステップを含む、請求項5に記載の方法。
【請求項7】
前記第1の画像に描かれた前記デバイスと比較して、前記デバイスモデルおよび前記焦点の前記最良のxおよびy位置を決定する前記ステップが、前記決定された最良のピッチおよびスピンならびにx-y-z位置の決定、前記焦点の最良のz位置の決定において、前記決定された最良の参照ラベル相関を用いて、前記デバイスモデルおよび焦点をxおよびy方向に移動させて、前記基準の前記デバイスモデル描写を前記第1の画像内の前記基準描写と最良に重ね合わせるステップを含む、請求項6に記載の方法。
【請求項8】
前記デバイスモデルを構築する前記ステップが、前記デバイスの参照アーチファクト座標系における前記デバイスの前記基準の前記3D位置のマッピングを作成するステップを含む、請求項1に記載の方法。
【請求項9】
前記マッピングが、前記基準の前記サイズの表示を含む、請求項8に記載の方法。
【請求項10】
前記マッピングが点群を含む、請求項8に記載の方法。
【請求項11】
前記複数のメトリックが、前記第1の画像内の前記境界関心領域の共通の態様を利用して、前記識別された基準描写の各々の前記位置軌跡を識別する、請求項1に記載の方法。
【請求項12】
前記第1の画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成する前記ステップが、前記デバイスモデルを前記識別された基準描写にスケーリングするステップを含む、請求項1に記載の方法。
【請求項13】
前記第1の画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成する前記ステップが、ヨーまたはピッチなしで前記デバイスモデルを配向するステップをさらに含む、請求項12に記載の方法。
【請求項14】
前記第1の画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成する前記ステップが、前記第1の画像の視点情報および近似された焦点に基づいて、近似されたロール/スピンで前記デバイスモデルを配向するステップをさらに含む、請求項13に記載の方法。
【請求項15】
前記方法が、第2の2次元(2D)画像および前記第2の画像に描かれた3次元(3D)デバイスを登録する変換を構築するステップであって、
少なくとも4つの同一平面上にない識別可能な基準アーチファクトを有する前記3Dデバイスを描くデジタル2Dの第2の画像を取得するステップと、
前記第2の画像に描かれた前記デバイスの参照アーチファクトが前記画像平面内で水平に向けられるように、前記画像の前記平面に垂直な軸の周りで前記第2の画像を回転させるステップと、
前記基準アーチファクトを含む領域を画定する境界関心領域を前記第2の画像上に作成するステップと、
前記第2の画像内の前記境界関心領域内の前記基準アーチファクトの前記描写を識別し、描かれた各基準アーチファクトにそれぞれの参照ラベルを割り当てるステップと、
前記第2の画像内の前記境界関心領域内の前記描かれた基準アーチファクトの前記位置および軌跡に関する複数のメトリックを決定するステップと、
前記画像と前記画像空間内の選択された焦点との間の画像空間内の前記第2の画像の上の前記デバイスの数学的デバイスモデルを作成するステップと、
前記第2の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のピッチ、スピン、およびx-y-z位置を決定し、前記第2の画像に描かれた前記デバイスと比較して前記焦点の最良のx-y-z位置を決定し、それに基づいて、前記第2の画像および前記デバイスを登録する変換を構築するステップと
を含む、ステップをさらに含む、請求項1に記載の方法。
【請求項16】
前記デバイスが創外固定デバイスである、請求項1に記載の方法。
【請求項17】
前記創外固定デバイスの前記デバイス前記参照アーチファクトが、上側または下側の骨または組織固定プラットフォームである、請求項16に記載の方法。
【請求項18】
1つまたは複数の処理回路によって読み取り可能であり、請求項1から18のいずれかに記載の方法を実行するための1つまたは複数のプロセッサによって実行するための命令を格納するコンピュータ可読記憶媒体
を備える、コンピュータプログラム製品。
【請求項19】
メモリと、
前記メモリと通信している少なくとも1つのプロセッサと、
請求項1から18のいずれかに記載の方法を実行するために前記メモリを介して1つまたは複数のプロセッサによって実行可能なプログラム命令と
を備える、システム。
【発明の詳細な説明】
【関連出願の相互参照】
【0001】
本出願は、2021年9月2日に出願された「Two-Dimensional Image Sequential Determination Methods and Systems for Three-Dimensional Object Transformation」と題する米国仮出願第63/240,167号の優先権利益を達成および主張し、その全体が参照により本明細書に明確に組み込まれる。
【開示の分野】
【0002】
本開示は、一般に、画像に描かれた既知の3次元(3D)構築物を利用する画像登録に関する。より具体的には、本開示は、画像に描かれた特定の3D構築物の既知の物理的パラメータ(例えば、少なくとも4つの形状または点の間の分離距離)を利用する画像(例えば、放射線画像)および3次元モデル登録方法およびシステムに関する。
【0003】
本開示はまた、一般に、1つまたは複数の画像または放射線写真を使用する変形分析のためのシステムおよび方法に関する。本開示の実施形態は、骨格骨折を含む筋骨格状態を治療することに関する。より具体的には、1つまたは複数の骨のセグメントを所望の位置に固定および配置するための方法およびシステムが開示される。本開示のいくつかの実施形態では、方法およびシステムを使用して、固定デバイス、骨セグメント、およびモデルの作成に利用された放射線画像に対応する潜在的に少なくとも1つ(例えば、少なくとも2つ)の放射線画像表現の3次元コンピュータモデルを生成する。モデル上での操作を通じて、一実施形態では、骨のセグメントの所望の配置および創外固定デバイスの操作は、デバイスおよび/または骨に関連して、固定デバイスの初期構成または放射線画像の向きに関係なく、そのような所望の配置を達成するために迅速かつ正確に決定される。次に、骨のセグメントの所望の配置を作成するために必要な操作を、対応する固定デバイスおよび骨セグメントに実施して、筋骨格状態を治療することができる。しかしながら、創外固定デバイス以外の他のデバイスをシステムおよび方法と共に利用することができる。
【背景技術】
【0004】
医学では、整形外科的変形の矯正には通常、少なくとも一対のX線写真が含まれる。通常、これらの放射線写真は、前から後ろ(AP)方向および内側から外側(ML)方向の従来の線に沿って、または他の直交もしくは既知のバンテージポイント(またはバンテージポイント間の既知の違い)に沿って患者を撮影する。慣例に従って、APおよびMLの放射線写真は、患者空間で互いに直交するように撮影または想定される(患者空間は、X軸が右から左に整列し、Y軸が前方から後方に整列し、Z軸は下から上に位置合わせされるものとして定義される)。放射線写真の各ペア内で測定が行われ、変形軸と点に注釈が付けられる。次に、これらの測定値と注釈を使用して、変形の真の3次元表現を再構築し、何らかの手段で変形を操作して状態を矯正できるようにする。
【0005】
しかし、しばしば発生する問題は、放射線写真の不確実性とそれらの相互の空間的関係によるものである。放射線写真は、それらの画像に含まれるアーチファクトの完全な画像ではない。画像に表示されているアーチファクトと実際に画像化されているオブジェクトとの関係は、画像に近いオブジェクトの倍率が遠くにあるオブジェクトよりも小さくなるような遠近法の1つである。さらに、画像のペア間の直交性に関して不確実であるため、真の表現の再構築が困難になる。
【0006】
結果として、そのような放射線写真のこれらの不確実性は、それらの実際の視点/バンテージポイントに起因して、説明することができる手段が必要である。
【0007】
さらに、多くの研究分野では、2次元(2D)画像を既知の3Dオブジェクトに登録することがしばしば望まれる。「登録」とは、2次元画像と一致する座標系内で3Dオブジェクトの位置およびポーズを決定できる座標変換を構築することを意味する。例えば、3D座標系の任意の平面が2D画像と同一平面上にある場合、3D座標系は2D画像と一致していると見なすことができる。この座標系内に3Dオブジェクトを登録すると、視聴者の視点を決定できる1つまたは複数の仮想環境を作成でき、画像とオブジェクトをその環境内に適切に配置できる。
【0008】
医学の分野では、これはインプラント、手術器具、または体組織構造の適切な配置または操作における重要なステップであることがよくある。CTやMRIなどの3Dイメージング技術とは対照的に、イメージングの最も一般的な方法の1つは、基本的なX線写真であり、これには、オペレーティング環境での低コストとリアルタイムのアクセス可能性という利点がある。個々の画像に基づいて、リアルタイム画像に関して既知の3Dオブジェクトまたは身体構造を登録できることが望ましい。
【0009】
現在、3D構造の特定の組み合わせの複数の画像を利用して登録する方法がある。しかしながら、これらの場合、複数の画像間の空間的関係をある程度確実に知る必要がある。いくつかの現在の立体画像誘導システムは、これを外部で達成することができ、通常、使用されているカメラのペア間の既知の関係に依存している。他のいくつかの現在の方法は、通常、前から後ろ(AP)および内側から外側(ML)放射線写真などの複数の画像を撮影することを要求する。そのような画像間の関係は、上記のように、3D登録で誤差をもたらすそのような画像の撮影に固有の変数の影響を受ける。
【0010】
具体的な例として、整形外科では、創外固定器として知られているデバイスを使用して骨の変形を矯正する必要があることがよくある。このような創外固定器は、例えば単純なモノラテラルおよびピンツーバーシステムから、より複雑な円形構築物まで、様々な構成で提供される。そのような骨の変形を正確に矯正するために、構築物が患者に取り付けられた後、骨の解剖学的構造と固定器構築物との間の空間的関係を正確に特徴付けなければならない。この特徴付けのプロセスは、2つ以上の2D放射線写真または骨に取り付けられた固定器構築物の3D画像スキャンなどの複数の画像を撮影することから開始することができる。2D放射線写真は簡単で低コストであるため、このような特性を取得するための主要な手段である。したがって、創外固定器または他の既知の3Dエンティティに基づいて複数の2次元画像のそれぞれを正確に登録して、既知の3Dエンティティに対して他の身体構造を正確に配置することが望ましい。
【0011】
出願人の発明の開示を容易にするために従来の技術の特定の態様が議論されてきたが、出願人はこれらの技術的態様を決して否定せず、それらの発明は1つまたは複数の従来の技術的側面を包含し得ると考えられる。
【0012】
この仕様では、文書、行為、または知識の項目が参照または議論されている場合、この参照または議論は、文書、行為、もしくは知識の項目、またはそれらの任意の組み合わせが、優先日に一般に利用可能であったこと、一般に知られていること、一般的な知識の一部であること、またはその他の方法で適用される法律規定に基づく先行技術を構成するものであること;あるいは、この仕様が関係する問題を解決する試みに関連することが知られていることを認めるものではない。
【発明の概要】
【0013】
本発明は、当技術分野の1つまたは複数の問題および欠陥に対処することができる。しかしながら、本発明は、多くの技術分野における他の問題および欠陥に対処するのに有用であることが証明され得ることが企図されている。したがって、特許請求された発明は、本明細書で論じられている特定の問題または欠陥のいずれかに対処することに限定されると必ずしも解釈されるべきではない。
【0014】
本開示は、一般に、画像に描かれた既知の3次元(3D)構築物を利用する画像登録方法およびシステムに関する。より具体的には、本開示は、例えば、画像に描かれた特定の3D構築物の少なくとも4つの既知の形状または点などの物理的パラメータを利用する画像(例えば、放射線画像)ならびに3次元モデル登録方法およびシステムに関する。
【0015】
本開示はまた、一般に、未知の(または不正確もしくは誤って識別された)バンテージポイントから撮影された1つまたは複数の放射線写真(非直交放射線写真など)を使用する変形分析のためのシステムおよび方法に関する。いくつかの実施形態では、システムおよび方法は、各2次元画像を、画像に描かれた既知の3次元構築物(例えば、既知の基準形状(およびサイズ)および位置)の3次元コンピュータモデルに登録し、各登録画像および3次元モデルを変形分析および/または変形矯正ならびに処方決定のための操作可能なモデルの一部として使用する。
【0016】
本開示のいくつかのそのような実施形態は、骨格骨折を含む筋骨格状態を治療することに関する。より具体的には、1つまたは複数の骨のセグメントを所望の位置に固定および配置するための方法およびシステムが開示される。本開示のいくつかの実施形態では、方法およびシステムを使用して、固定デバイス、骨セグメント、およびモデルの作成に利用された放射線画像に対応する潜在的に少なくとも1つ(例えば、少なくとも2つ)の放射線画像表現の3次元コンピュータモデルを生成する。モデル上での操作を通じて、一実施形態では、骨のセグメントの所望の配置および創外固定デバイスの操作は、デバイスおよび/または骨に関連して、固定デバイスの初期構成または放射線画像の向き/バンテージポイントに関係なく、そのような所望の配置を達成するために迅速かつ正確に決定される。次に、骨のセグメントの所望の配置を作成するために必要な操作を、対応する固定デバイスおよび骨セグメントに実施して、筋骨格状態を治療することができる。しかしながら、創外固定デバイス以外の他のデバイスをシステムおよび方法と共に利用することができる。
【0017】
いくつかの実施形態では、本開示は、特定の2次元放射線写真内に含まれる4つの個別形状または点の平面位置および特性を利用して、固定器構築物(または別の既知のオブジェクトの構築物)内に含まれる4つの個別空間座標に相関する方法および関連システムを提供する。この情報を使用して、方法および関連するシステムは、固定構築物(または別の既知のオブジェクトの構築物)と個々の放射線写真のそれぞれとの間の正確な空間的関係を取得する。
【0018】
いくつかの実施形態では、放射線画像は、撮影されたときにその画像(例えば、フィルム)の上にポーズをとられて配置された3次元オブジェクトの影を含む。その影を落としている画像に対するX線源の見かけの線源の位置と向きは不明である。
【0019】
いくつかの実施形態では、本開示のシステムおよび方法は、オブジェクトとその影との間の空間的関係を決定するように構成される。具体的には、本開示のシステムおよび方法は、3つの並進に関してオブジェクトの位置を決定し、直交3次元(3D)座標系に関して3つの回転に関してポーズを決定するように構成される。本開示のシステムおよび方法は、これらの6つのパラメータ(一般に自由度(DOF)と称される)を利用して、3D空間における3Dオブジェクト配置を一意的に定義することができる。本開示のシステムおよび方法は、複数の影画像を共通の3Dオブジェクトに関連付けることができ、それにより、それらの複数の影を空間的な意味で互いに関連付けることができ、したがって、既知の3Dオブジェクトに対する寸法および空間的関係が未知である他の関連するオブジェクトおよびそれらの影アーチファクトを特徴付けることができる。
【0020】
いくつかの実施形態では、本開示のシステムおよび方法において、6つのDOFは、以下に示すように、x軸、y軸、およびz軸を中心とした3つの回転θx、θy、θzと共に、x軸、y軸、およびz軸と整列したx、y、およびz線形並進成分を含み得る。
【数1】
【0021】
このような6つのDOFの回転および並進を行列形式で乗算すると、以下が得られることに留意されたい。
【数2】
また、このような結果として、高次の超越方程式の4×4行列が得られることにも留意されたい。当業者であれば分かるように、未知数の数が6に等しいそのような行列の系を解くことは、そのような関数の非単調な性質を考えると極めて困難である。例えば、すべての可能な解を介した単純な総当たり多次元探索は、探索において非常に多数の反復をもたらす。そのような例では、各パラメータが各パラメータに対して10ステップの粒度を有するように選択された場合、探索空間は、評価するための10^6セット(すなわち、100万セット)を含むことになり、これは実際には大幅なコース探索である。そのような空間で数値ソルバを使用する場合、正当な懸念は、探索空間の空間トポグラフィの未知の性質である。そのような空間では、トポグラフィは、探索アルゴリズムを非理想的な解に集中させる傾向がある多くの極小値を含む。ほとんどの場合、非理想的な解は許容できない。
【0022】
本発明者は、使用される制約方程式の性質を考慮すると、そのような多数の未知数に対する同時解が、しばしば許容できない解をもたらすかなり困難な手法であることを認識した。このように、本開示のシステムおよび方法では、共通の状態の単一の固定デバイスを描く複数の画像(例えば、放射線写真または他の画像)が利用可能な変形矯正処置の場合、問題は単純化される。例えば、そのような実施形態では、システムおよび方法は、これらのパラメータに固定値を使用するように問題を設定することによって未知の一部を排除する。さらに、いくつかの実施形態では、システムおよび方法は、最小化されるコスト関数にどのように影響するかに関して、未知数を最大から最小までの順序でランク付けし、これは、残りの未知数が固定値に設定されているより小さいセットで暫定的に解決される。また、いくつかの実施形態では、システムおよび方法は、最も境界のないものが最初に解かれ、最も境界のあるものが最後に解かれるように、未知数のランキングおよび適切な境界を確立する。さらに、いくつかの実施形態では、システムおよび方法は、コスト関数の相対的な有効性を最大化するために、異なる未知のために、異なるコスト関数またはそれらの組み合わせを利用する。
【0023】
いくつかの実施形態では、この方法は、投影された3次元空間内の既知のオブジェクトの集合の実際の位置およびポーズの3次元モデルを構築するステップをさらに含む。
【0024】
いくつかの実施形態では、本開示は、1つまたは複数の処理回路によって読み取り可能なコンピュータ可読記憶媒体を含み、上記の方法を実行するための1つまたは複数のプロセッサによって実行するための命令を格納するコンピュータプログラム製品を提供する。
【0025】
本開示では、メモリと、メモリと通信している少なくとも1つのプロセッサと、上記の方法を実行するためにメモリを介して1つまたは複数のプロセッサによって実行可能なプログラム命令と、を含むシステムを提供する。
【0026】
一態様において、本開示は、2次元(2D)画像および画像に描かれた3次元(3D)デバイスを登録する変換を構築する方法であって、
少なくとも4つの同一平面上にない識別可能な基準アーチファクトを有する3Dデバイスを描くデジタル2Dの第1の画像を取得するステップと、
画像に描かれたデバイスの参照アーチファクトが画像平面内で水平に向けられるように、画像の平面に垂直な軸の周りで第1の画像を回転させるステップと、
少なくともデバイスの基準アーチファクトの3D数学的デバイスモデルを作成するのに十分なデバイスの物理的パラメータを取得するステップと、
デバイスの取得された物理的パラメータに従ってデバイスモデルを構築するステップと、
基準アーチファクトを含む領域を画定する境界関心領域を第1の画像上に作成するステップと、
第1の画像内の境界関心領域内の基準アーチファクトの描写を識別し、描かれた各基準アーチファクトにそれぞれの参照ラベルを割り当てるステップと、
第1の画像内の境界関心領域内の描かれた基準アーチファクトの位置および軌跡に関する複数のメトリックを決定するステップと、
画像と画像空間内の選択された焦点との間の画像空間内の第1の画像の上のデバイスの数学的デバイスモデルを作成するステップと、
第1の画像に描かれたデバイスと比較してデバイスモデルの最良のピッチ、スピン、およびx-y-z位置を決定し、第1の画像に描かれたデバイスと比較して焦点の最良のx-y-z位置を決定し、それに基づいて、第1の画像およびデバイスを登録する変換を構築するステップと
を含む、方法を提供する。
【0027】
いくつかの実施形態では、第1の画像に描かれたデバイスと比較してデバイスモデルの最良のピッチおよびスピンを決定するステップは、デバイスモデルのピッチおよびスピンを反復的に調整し、画像空間内のその基準の描写の対応する位置を決定するステップを含む。いくつかの実施形態では、本方法は、第1の画像内の基準の決定されたメトリックに最も密接に一致する複数のメトリックを有する基準描写を生成するピッチおよびスピン反復を決定するステップをさらに含む。いくつかの実施形態では、本方法は、第1の画像内の基準の決定されたメトリックに最も密接に一致する複数のメトリックを有するデバイスモデルの基準の参照ラベル相関を決定するステップをさらに含む。
【0028】
いくつかの実施形態では、第1の画像に描かれたデバイスと比較してデバイスモデルの最良のxおよびy位置を決定するステップは、決定された最良のピッチおよびスピン決定において、決定された最良の参照ラベル相関を用いて、デバイスモデルの水平(x)および垂直(y)位置を反復的に調整し、第1の画像内の基準の決定されたメトリックと最も密接に一致する複数のメトリックを有する基準描写を用いて水平および垂直位置を決定するステップを含む。いくつかの実施形態では、第1の画像に描かれたデバイスと比較して、デバイスモデルおよび焦点の最良のz位置を決定するステップは、決定された最良のピッチおよびスピンならびにx-y位置の決定において、決定された最良の参照ラベル相関を用いて、第1の画像内の基準のものと最も良く一致する画像平面内のデバイスモデルの基準の描写をスケーリングするために、画像平面に対してデバイスモデルの高さおよび焦点を反復的に調整するステップを含む。いくつかの実施形態では、第1の画像に描かれたデバイスと比較して、デバイスモデルおよび焦点の最良のxおよびy位置を決定するステップは、決定された最良のピッチおよびスピンならびにx-y-z位置の決定、焦点の最良のz位置の決定において、決定された最良の参照ラベル相関を用いて、デバイスモデルおよび焦点をxおよびy方向に移動させて、基準のデバイスモデル描写を第1の画像内の基準描写と最良に重ね合わせるステップを含む。
【0029】
いくつかの実施形態では、デバイスモデルを構築するステップは、デバイスの参照アーチファクト座標系におけるデバイスの基準の3D位置のマッピングを作成するステップを含む。いくつかの実施形態では、マッピングは、基準のサイズの表示を含む。いくつかの実施形態では、マッピングは点群を含む。
【0030】
いくつかの実施形態では、複数のメトリックは、第1の画像内の境界関心領域の共通の態様を利用して、識別された基準描写の各々の位置軌跡を識別する。
【0031】
いくつかの実施形態では、第1の画像と画像空間内の選択された焦点との間の画像空間内の第1の画像の上のデバイスの数学的デバイスモデルを作成するステップは、デバイスモデルを識別された基準描写にスケーリングするステップを含む。いくつかの実施形態では、第1の画像と画像空間内の選択された焦点との間の画像空間内の第1の画像の上のデバイスの数学的デバイスモデルを作成するステップは、ヨーまたはピッチなしでデバイスモデルを配向するステップをさらに含む。いくつかの実施形態では、第1の画像と画像空間内の選択された焦点との間の画像空間内の第1の画像の上のデバイスの数学的デバイスモデルを作成するステップは、第1の画像の視点情報および近似された焦点に基づいて、近似されたロール/スピンでデバイスモデルを配向するステップをさらに含む。
【0032】
いくつかの実施形態において、本方法は、第2の2次元(2D)画像および第2の画像に描かれた3次元(3D)デバイスを登録する変換を構築するステップであって、
少なくとも4つの同一平面上にない識別可能な基準アーチファクトを有する3Dデバイスを描くデジタル2Dの第2の画像を取得するステップと、
第2の画像に描かれたデバイスの参照アーチファクトが画像平面内で水平に向けられるように、画像の平面に垂直な軸の周りで第2の画像を回転させるステップと、
基準アーチファクトを含む領域を画定する境界関心領域を第2の画像上に作成するステップと、
第2の画像内の境界関心領域内の基準アーチファクトの描写を識別し、描かれた各基準アーチファクトにそれぞれの参照ラベルを割り当てるステップと、
第2の画像内の境界関心領域内の描かれた基準アーチファクトの位置および軌跡に関する複数のメトリックを決定するステップと、
画像と画像空間内の選択された焦点との間の画像空間内の第2の画像の上のデバイスの数学的デバイスモデルを作成するステップと、
第2の画像に描かれたデバイスと比較してデバイスモデルの最良のピッチ、スピン、およびx-y-z位置を決定し、第2の画像に描かれたデバイスと比較して焦点の最良のx-y-z位置を決定し、それに基づいて、第2の画像およびデバイスを登録する変換を構築するステップと
を含む、ステップをさらに含む。
【0033】
いくつかの実施形態では、方法は、デバイスが創外固定デバイスであることをさらに含む。いくつかの実施形態では、創外固定デバイスの前記デバイス前記参照アーチファクトは、上側または下側の骨または組織固定プラットフォームである。
【0034】
別の態様では、本開示は、1つまたは複数の処理回路によって読み取り可能であり、上記で開示された方法のいずれかを実行するための1つまたは複数のプロセッサによる実行のための命令を格納するコンピュータ可読記憶媒体を含むコンピュータプログラム製品を提供する。
【0035】
別の態様では、本開示は、メモリと、メモリと通信している少なくとも1つのプロセッサと、上記で開示された方法のいずれかを実行するためにメモリを介して1つまたは複数のプロセッサによって実行可能なプログラム命令と、を含むシステムを提供する。
【図面の簡単な説明】
【0036】
本開示は、以下の図面と併せて説明するが、これらは、理解を容易にするために必ずしも一定の縮尺で描かれているわけではなく、同じ参照番号は、様々な図面全体にわたって同じまたは同様の要素の指定および意味を保持している。
【0037】
【
図1】本開示の例示的な実施形態による、少なくとも4つの同一平面上にない識別可能な基準を含む例示的なデバイスを示す図である。
【0038】
【
図2】本開示の例示的な実施形態による、画像に描かれた3Dデバイスを用いて2D画像を登録する変換(変換行列)を構築する例示的な方法を示すフローチャートである。
【0039】
【
図3】本開示の例示的な実施形態による、少なくとも1つの2D画像の取得を示す図である。
【0040】
【
図4】本開示の例示的な実施形態による、取得された2D画像の回転を示す図である。
【0041】
【
図5】本開示の例示的な実施形態による、取得された2D画像に描かれたデバイスの物理的パラメータの取得、および取得された物理的パラメータに基づくデバイスの数学的モデルの構築を示す図である。
【0042】
【
図6】本開示の例示的な実施形態による、取得された2D画像内のデバイスの基準の描写を含む取得された2D画像内の境界領域の作成を示す図である。
【0043】
【
図7】本開示の例示的な実施形態による、取得された2D画像内のデバイスの基準描写の識別を示す図である。
【0044】
【
図8】本開示の例示的な実施形態による、境界領域の共通の基準に関する、境界関心領域内の識別された基準描写の各々の位置および軌跡に関する複数のメトリックを示す図である。
【0045】
【
図9】本開示の例示的な実施形態による、デバイスの数学的モデルを使用した、画像と画像の上の選択された焦点との間の画像空間内の取得された2D画像の上のデバイスの数学的モデルの作成を示す図である。
【0046】
【
図10】本開示の例示的な実施形態による、画像に描かれた3Dデバイスを用いて2D画像を登録する変換(変換行列)を構築するさらなる例示的な方法を図示するフローチャートである。
【0047】
【
図11】本開示の例示的な実施形態による、取得された2D画像および画像に描かれたデバイスの3Dデバイスモデルの登録を示す図である。
【0048】
【
図12】本開示の例示的な実施形態による、取得された2D画像および画像に描かれたデバイスの3Dデバイスモデルの登録の潜在的な適用を示す図である。
【0049】
【
図13】本開示の例示的な実施形態による、画像に描かれた2つの2D画像および追加のアーチファクトの描写および登録、ならびに画像に描かれたデバイスの3Dデバイスモデルを示す図である。
【0050】
【
図14】本開示の態様(例えば、方法)を実行するために利用され得る例示的なコンピュータシステムを示す図である。
【0051】
【
図15】本開示を組み込むことができるコンピュータプログラム製品の実施形態を示す図である。
【発明の詳細な説明】
【0052】
本発明の態様および特定の特徴、利点、およびその詳細は、添付の図面に示されている非限定的な実施形態を参照して、以下でより完全に説明される。本発明を不必要に詳細に曖昧にしないために、周知の材料、製造ツール、処理技術などの説明は省略されている。しかしながら、詳細な説明および特定の例は、本発明の実施形態を示しているが、例示としてのみ与えられており、限定としてではないことを理解されたい。基礎となる本発明の概念の趣旨および/または範囲内の様々な置換、修正、追加、および/または配置は、本開示から当業者には明らかであろう。
【0053】
本開示の方法、システム、および関連するコンピュータプログラム製品は、1つまたは複数の画像を、画像に描かれた3次元の既知のオブジェクト/デバイス/システムに登録し、それによって、1つまたは複数の画像およびデバイスのモデルの操作可能なデジタル3Dモデル/描写、および必要に応じて、画像に描かれた/示された他のアーチファクトの潜在的に他の表現の生成を可能にするように構成される。いくつかの実施形態では、既知の3次元デバイスは、解剖学的構造(例えば、1つまたは複数の骨または骨セグメント)に結合された創外固定デバイス(例えば、ヘキサポッド)であってもよい。しかしながら、当業者は、本開示のシステムおよび関連するコンピュータプログラム製品が他のデバイスまたは他の創外固定デバイスに等しく使用され得る方法を認識しており、開示された発明はそのような実施形態を含むことに留意されたい。
【0054】
説明の目的のために、少なくとも一対の骨セグメント(
図1には示されていない)に結合された、
図1に示すような6つの長さ調整可能な支柱12に(可動/調整可能なジョイントを介して)接続された2つ(例えば、円形)の骨および/または組織固定プラットフォームまたはリング20、22を有する創外固定ヘキサポッド10が、本開示のシステムおよび関連するコンピュータプログラム製品を説明するための本明細書の既知の3次元デバイスとして利用される。具体的には、全く未知の、または最も近似された、または一般的なバンテージポイント/視点からの、創外固定ヘキサポッド10および骨セグメントを描く放射線画像(または他のタイプの画像)が、本明細書では説明の目的で利用される。放射線画像は、創外固定ヘキサポッド10と、画像空間と画像をキャプチャするイメージングデバイスの焦点との間に位置する骨セグメントとを有する画像空間を表す。それにより、画像は、実際の創外固定ヘキサポッド10および実際の骨セグメントのアーチファクトを描くか、または含む。少なくとも2つの画像をそこに描かれている創外固定ヘキサポッド10に適切に登録する(すなわち、画像をそこに描かれているデバイス10の3D座標系に登録する)ことによって、創外固定ヘキサポッド10および骨セグメントのモデルを構築し、骨セグメント状態を適切に分析し、骨セグメント状態を矯正するための長さ調整可能な支柱12の調整処方計画を決定するためにユーザによって利用することができる。
【0055】
図1に示すように、創外固定デバイス10(または任意の他のデバイス)は、固定位置に独自の形状およびサイズの部分または基準14を含む。いくつかの実施形態では、デバイス10は、同一平面上にない(すなわち、共通平面に沿って配置されていない)少なくとも4つのそのような基準14を有することが必要であり得る。基準14は、放射線画像などの画像内で識別できるように成形されている。それにより、基準14は、デバイス10の他の部分と比較して異なってまたは一意に成形されてもよい。さらに、基準14は、デバイス10の向きおよび配置が基準14の向きおよび配置に基づいて決定され得るように、デバイス10上の既知の位置に配置されてもよい(逆もまた同様である)。例示的な実施形態では、基準14は、既知の直径または半径の球形であり、支柱12とプラットフォーム20、22とのジョイントに配置される。さらに、基準14の一方は、デバイス10の向きを導出することができるように、他の基準と比較して固有の(例えば、より小さい)半径/直径を有する(例えば、デバイス10の上部もしくは下部、または上部もしくは下部プラットフォーム20、22を区別するために)。しかしながら、球体以外の他の形状がデバイス10に使用されてもよいことを理解されたい。
【0056】
図2および
図3に示すように、本開示の方法、システム、および関連するコンピュータプログラム製品は、デバイス(例えば、創外固定デバイス)の少なくとも1つの2Dデジタル画像(例えば、少なくとも1つの放射線写真または他の画像タイプ)を取得すること101を含み得る。いくつかのそのような実施形態では、少なくとも1つの画像を取得すること101は、ファイルソースから少なくとも1つの画像を自動的にインポートすること、または画像を入力するユーザから少なくとも1つの画像を取得することを含み得る。ユーザは、特定のファイルソースから少なくとも1つの画像を取得する101ためにグラフィックユーザインターフェース(GUI)と対話し得、それによってユーザが画像を選択することを可能にする。いくつかの実施形態では、少なくとも1つの画像は、おおよそまたはほぼ、特定のバンテージポイントまたは視点から取られたものとして名目上タグ付けまたは識別され得る。例えば、画像は名目上APすなわち前から後ろのビュー画像であってもよく、別の画像は名目上MLすなわち内側から外側のビュー画像であってもよい。いくつかの実施形態では、本開示の方法、システム、および関連するコンピュータプログラム製品は、画像の最大+/-45度の誤差を可能にすることができる。例えば、APすなわち前から後ろのビュー画像は、真のAPから離れた患者座標系のZ軸の周りに+/-45度である許容可能な視点(すなわち、0度のZ回転)を有してもよく、MLすなわち内側から外側のビュー画像は、真のMLから離れた患者座標系のZ軸の周りに+/-45度である許容可能な視点(すなわち、+90度の左Z回転、-90度の右Z回転)を有してもよい。いくつかの実施形態では、本開示の方法、システム、および関連するコンピュータプログラム製品はまた、画像を一次画像(例えば、公称APビュー画像)として指定、識別、またはラベル付けし、別の画像を二次画像(例えば、公称MLビュー画像)として指定、識別、またはラベル付けすることもできる。いくつかのそのような実施形態では、取得された任意の追加の画像101は、傾斜画像として指定されてもよい。
【0057】
上述したように、いくつかの実施形態では、本開示の方法、システム、および関連するコンピュータプログラム製品は、3D関係がデバイスの座標系に関して知られているデバイス(例えば、球形基準などのデバイスの基準)の特別な識別可能なアーチファクトの少なくとも4つ、および3Dデバイス座標系内の他の識別可能なアーチファクトと同一平面上にない識別可能なアーチファクトの少なくとも1つを示す画像を利用する(または必要とする)ことが好ましい場合がある。いくつかの実施形態では、本開示の方法、システム、および関連するコンピュータプログラム製品はまた、デバイスの側面の上端および下端を決定することができるように、デバイスの上側部分と下側部分(例えば、上側および下側リング/プラットフォーム、プレートなど)との間の明確な境界設定を示す画像を好適に利用する(または必要とする)ことができる。
【0058】
いくつかの実施形態では、本開示の方法、システム、および関連するコンピュータプログラム製品は、取得された1つまたは複数の画像がGUIに表示されるように構成され、
図1および
図4に示すように、ユーザが、デバイスの少なくとも一部(例えば、参照アーチファクト)が水平に向けられるように、画像の平面に垂直な軸の周りで各画像を回転させる102ことができるように構成されてもよい。例えば、第1および第2のプラットフォームを有する創外固定ヘキサポッドの画像に関して、方法、システムおよび関連するコンピュータプログラム製品は、ユーザが、画像に描かれた固定デバイスの参照アーチファクト(例えば、上側または下側プラットフォーム/リング)が画像平面内で水平に向けられるように、インポート/取得された画像を画像の平面に対する軸の周りで回転させることを可能にし得る。例えば、創外固定デバイスのリング(すなわち、円形マウント)の場合、リングの長軸が可能な限り水平に近くなるように画像を回転させる必要がある。回転102は、手動で、または創外固定デバイスの幾何学的態様を自動的に識別することができる画像処理アルゴリズムを使用することによって行うことができる。異なる構成を含む創外固定デバイスの場合、例えば、任意の既知の水平基準が使用されてもよい。
【0059】
いくつかの実施形態では、
図2および
図5に示すように、本開示の方法、システムおよび関連するコンピュータプログラム製品は、デバイスの構成要素のメトリックならびに/またはデバイスの調整可能および/もしくは構成可能な構成要素/パラメータの設定など、デバイスの3次元数学的モデルを作成するのに十分な、画像に描かれた実際のデバイスの関連する物理的パラメータを取得または収集すること102を含み得る。例えば、画像に描かれた既知のデバイスとしてのヘキサポッドに関して、特定の支柱および/または支柱設定の長さ(例えば、軸方向長さ)、プラットフォームに関するメトリック(例えば、リング/プレートの直径、形状、厚さ、穴パターンなど)、またはデバイスを仮想的もしくは数学的に再現するのに十分な他の物理的構成データ。実際のデバイスの取得された物理的パラメータは、デバイスの少なくとも4つの同一平面上にないアーチファクト(例えば、基準)の位置が、デバイスの3D座標系に対して計算または他の方法で決定され得るように十分であるべきである。異なるデバイスでは、当業者が理解するように、他のデータが適切であり得る。
【0060】
関連する物理的パラメータ/メトリックを取得または収集すること102は、例えば、
図5に示すように、ファイルソースからパラメータ/メトリックを自動的にインポートすること、またはパラメータ/メトリックを入力するユーザからパラメータ/メトリックを取得することを含み得る。ユーザは、パラメータ/メトリックを入力する102ために、グラフィックユーザインターフェース(GUI)と対話し得る。
【0061】
図2および
図5に示すように、画像に描かれた実際のデバイスの取得された物理的パラメータを用いて、本開示の方法、システムおよび関連するコンピュータプログラム製品は、基準の相対的な3Dデカルト座標を定義するのに十分なデバイスの座標系におけるパラメータに基づいて、デバイスの数学的3Dモデルまたは記述を作成し得る104。モデルは、参照アーチファクトを水平に向けてもよい。
【0062】
デバイスの数学的モデルまたは記述は、参照アーチファクトに対する参照アーチファクト座標系などの、デバイスの3D座標系における基準の相対位置を定義または説明することができ、参照アーチファクト(例えば、プラットフォーム)は、潜在的に水平に向けられている。いくつかの実施形態では、取得されたパラメータに基づいてデバイスの数学的モデルまたは記述を作成すること104は、デバイスの参照アーチファクト座標系におけるデバイスの少なくとも4つの同一平面上にない基準の3D位置のマッピングを作成することを含み得る。マッピング(すなわち、モデル)はまた、基準のサイズ/形状を含み得る。数学的モデル/マッピングは、参照アーチファクト座標系を使用してデバイスの基準を表す点を有する点群の形態をとり得、基準のサイズ/形状(例えば、直径)を含み得る。
【0063】
いくつかの実施形態では、本開示の方法、システム、および関連するコンピュータプログラム製品は、デバイスの座標系における取得されたパラメータに基づいて(またはデバイスの数学的モデルもしくは記述に基づいて)デバイスの仮想/コンピュータ3Dモデル120を作成し、
図5に示すように、仮想/コンピュータ3Dモデル120をGUI上でユーザに表示し得る。いくつかの実施形態では、仮想/コンピュータ3Dモデル120は、ユーザが仮想/コンピュータ3Dモデル120と対話し、それを再度配向する(例えば、GUI上でモデル120をスピン、ピッチ、および/または回転/ヨーイングさせる)ことができるように操作可能であってもよい。これにより、モデル120は、(例えば、実際のデバイスを見ることによって、または画像内のデバイスのアーチファクトに基づいて)パラメータが正しく入力されたこと(パラメータに基づいて作成されたデバイス120の仮想モデルが実際のデバイスの外観と一致すること)をユーザに視覚的に確認する役割を果たすことができる。
【0064】
図2および
図6に示すように、少なくとも1つの画像が取得された状態で、本開示の方法、システム、および関連するコンピュータプログラム製品は、各画像をGUI上に表示し、ユーザが、GUIを介して、表示された各画像の領域の周りの境界関心領域を作成することを可能にするように構成され得、画像はデバイスの少なくとも4つの同一平面上にない基準/固有の既知のアーチファクトの描写を含む。以下でさらに説明するように、各境界関心領域を利用して、方法、システム、および関連するコンピュータプログラム製品を各画像の特定の部分に導いて、基準の描写の識別を検索し得る。同様に上述したように、各境界関心領域は、方法、システム、および関連するコンピュータプログラム製品によって利用されて、共通の基準に関するそれぞれの画像内の基準描写の位置および/またはサイズを定義するパラメータを定義し、それによって、以下でさらに説明するように、画像空間内のデバイスの向きおよびスピンを決定するのを助け得る。
【0065】
取得された各画像内の境界関心領域は、好ましくは、少なくとも1つの水平線形基準を有してもよい。例えば、少なくとも1つの水平基準を有する単純な関心領域は、水平な上端および/または下端を有する長方形であってもよい。いくつかの他の実施形態では、水平二等分線を利用してもよい。いくつかの実施形態では、水平基準が、例えば、二等分線としての赤道または他の何らかの緯度線などの線であり得る円形の関心領域を使用することができる。いくつかの他の実施形態では、境界関心領域は、水平線形基準を含まなくてもよい。水平二等分線が使用される構成では、例えば、参照マウントおよび非参照マウント、またはそれぞれに取り付けられた特定のアーチファクトを境界設定するように二等分線を配置することができる。そのようなプロセスは、手動で、または創外固定デバイスの境界設定態様を自動的に識別することができる画像処理アルゴリズムを使用することによって行うことができる。いくつかの実施形態では、方法、システム、および関連するコンピュータプログラム製品は、境界設定の垂直線を作成することを含み得る。いくつかの実施形態では、境界関心領域を作成した105後に、方法、システム、および関連するコンピュータプログラム製品は、関心領域の中心または重心を計算することを含み得る。
【0066】
境界関心領域を作成した後、方法、システム、および関連するコンピュータプログラム製品は、
図2および
図7に示すように、各画像の境界関心領域で基準/固有のアーチファクトを識別し106、暫定的にラベル付けするように構成され得る。例えば、1、2、3...Nなどのラベルを、識別された各基準に適切に利用することができる。上述したように、少なくとも4つの基準が識別されるべきである。
図7に示すように、方法、システム、および関連するコンピュータプログラム製品は、検出された基準をGUI上に示し得る。さらに、いくつかの実施形態では、方法、システム、および関連するコンピュータプログラム製品は、ユーザがGUIおよび入力デバイスを介して、基準描写を識別し、および/または誤っている可能性がある任意の自動基準識別を(少なくとも部分的に)矯正することを可能にし得る。例えば、画像は、画像内の各基準描写の上に描かれるか、そうでなければ配置され得る。いくつかの実施形態では、基準ラベルをGUIに表示してもよい。
【0067】
いくつかの実施形態では、境界関心領域が作成された後、方法、システム、および関連するコンピュータプログラム製品は、
図2および
図8に示すように、境界領域の共通の基準に関して、境界関心領域内の各画像内の少なくとも4つの基準の検出された描写のそれぞれの位置および軌跡に関する複数のメトリックを決定し得る(107)。例えば、複数のメトリックを決定すること107は、各画像の境界関心領域内に含まれるアーチファクトに関するパラメトリック特性またはパラメータの集合を作成することを含み得る。例えば、境界関心領域内に含まれるアーチファクトのパラメータの第1の例示的な集合は、いくつかの共通の基準に関して、関心領域の重心をアーチファクトの集合の中心または他の適切な態様と結ぶ線の角度であり得る。共通の基準は、例えば、垂直または水平の基準線に対してなされる角度であり得る。別の例として、境界関心領域内に含まれるアーチファクトのパラメータの第2の例示的な集合は、いくつかの共通の基準に関して、アーチファクトの各中心または適切な態様を他のアーチファクトと結ぶ線の角度であり得る。別の例として、境界関心領域内に含まれるアーチファクトのパラメータの第3の例示的な集合は、境界関心領域の何らかの基準特性からの距離(例えば、垂直または水平のいずれか)であり得る。さらに別の例として、境界関心領域内に含まれるアーチファクトのパラメータの集合は、上述したパラメータの第1、第2、および/または第3の例示的な集合の組み合わせとすることができる。共通の基準に関して境界関心領域内の各画像内の少なくとも4つの基準の検出された描写のそれぞれの位置および軌跡を記述または記録する任意の幾何学的方程式/パラメトリック特性/パラメータが利用され得ることに留意されたい。
【0068】
いくつかの実施形態では、
図2および
図9に示すように、方法、システムおよび関連するコンピュータプログラム製品は、デバイス空間内のデバイスの数学的モデルを使用して、画像と画像上の(z方向の)選択された焦点との間の画像空間内の(すなわち、画像に対する座標系において)取得された画像のそれぞれの上にデバイス108の数学的モデルを作成し得る。例えば、画像と画像平面上の選択された焦点との間の画像空間(または画像座標系)内の取得された各画像の上のデバイス108の数学的モデルは、変換行列(例えば、4×4変換行列)によって表され得る。変換行列は、画像空間/座標系とデバイス空間/座標系との間の変換を提供し、および/または画像の上方および画像と焦点との間の画像空間(または画像座標系)におけるデバイス108の数学的モデルの基準の位置を定義し得る。
【0069】
いくつかの実施形態では、デバイス108の数学的モデルは、それぞれの画像内のデバイスに合わせてスケーリングされるように形成または修正されてもよい。例えば、境界ボックスに対する画像内の基準(例えば、個別にまたは集合的に)の相対的なサイズ/スケールは、デバイス108の数学的モデルの相対的なサイズ/スケールと比較され、デバイス108の数学的モデルをスケーリングするために利用され得る。
【0070】
いくつかの実施形態では、デバイス108の数学的モデルの作成は、焦点から基準まで発するベクトル/線がそこから/そこを通ってさらに延在し、画像平面と交差するように、画像空間内のデバイスの上方の任意の焦点位置を選択することを含み得る。そのような実施形態では、焦点は、名目上、デバイス108のモデルの中心にあり、デバイス108のモデルの上方の高さに配置されてもよく、それにより、画像平面内のデバイス108のモデルのキャスト基準描写位置に等しい交点は、合理的な倍率状態にあり、特定のインスタンスピッチおよびスピンの近くに配置されたデバイスを用いて典型的な放射線写真が生成するものと同様である。
【0071】
いくつかの実施形態では、デバイス108の数学的モデルの作成は、デバイスのモデルの参照アーチファクトが水平に向けられるように、任意の高さおよび任意の中心で画像平面/画像アレイの上方にデバイス108の数学的モデルを作成することを含み得る。リングまたは平坦なプラットフォームの場合、これは、水平に向けられたプラットフォームの長軸を有することに留意されたい。
【0072】
いくつかの実施形態では、デバイス108の数学的モデルの作成は、ヨーまたはピッチがなく、近似されたロール/スピンで、画像平面と焦点との間の画像平面/画像アレイの上方にデバイス108の数学的モデルを作成するデバイス108の数学的モデルを作成することを含み得る。近似されたロール/スピンは、例えば、画像(例えば、メタデータまたはタグ付けされたデータとして)と共に提供/取得されてもよく、またはユーザ入力としてユーザによって提供されてもよい。
【0073】
作成されたデバイス108の数学的モデルを用いて、方法、システムおよび関連するコンピュータプログラム製品は、上述したように、選択された焦点からデバイスの数学的モデルの基準位置(画像空間内)を通過し、画像平面を対象とする線/ベクトルの交差位置を取得/収集/決定することを含み得る。そのような交差位置は、画像平面内のデバイス108の数学的モデルの基準の位置を定義する第2の点群として決定され得る。いくつかの実施形態では、第2の点群は、変換行列(またはその一部)と、デバイス空間(またはデバイス座標系)内のデバイスを定義する点群(またはその一部)との積によって形成され得る。方法、システム、および関連するコンピュータプログラム製品は、画像平面内のデバイスのモデルのキャスト基準描写位置のそのような決定された2Dアレイの位置のそれぞれにラベル付けしてもよい。例えば、A、B、C...Zなどのラベルが適切に利用され得る。
【0074】
いくつかの実施形態では、方法、システム、および関連するコンピュータプログラム製品は、画像空間内のデバイスモデルの画像平面交差位置の集合を使用して、上述のように以前に作成されたものと同様の境界関心領域を画像平面内に作成する。そのような二次境界関心領域では、共通の基準に関する境界関心領域内の(キャスト/描写されたモデル基準を表す)決定された交点の各々の位置および軌跡を定義/記述する同じもしくは同様のパラメータまたは式を、上述のように決定/作成してもよい。したがって、いくつかの実施形態では、共通の基準に関して境界関心領域内の画像平面内の少なくとも4つの基準の(キャスト/描写されたモデル基準を表す)決定された交点の各々の位置および軌跡を記述または記録する同じ複数のメトリック(幾何学的方程式/パラメトリック特性/パラメータ)は、上述したように取得された画像内の基準描写と共に利用されるものとして利用され得る。上述したように、画像平面内の基準描写/影の各々の位置および軌跡を記述または記録するこれらの複数のメトリック(幾何学的方程式/パラメトリック特性/パラメータ)は、2D画像および3Dデバイス(モデル)を登録する変換(変換行列)を構築するために比較されることができる。
【0075】
図2に示すように、(画像と選択された焦点との間の画像空間内の画像の上方に)デバイスモデルが作成され、モデルが潜在的にスケーリングされ、ヨーまたはピッチなしで、画像情報(例えば、AP/前方から後方のビュー画像またはML/内側から外側のビュー画像の表示)に基づいて近似的なロール/スピンで配向され、近似された焦点が選択されると、方法、システム、および関連するコンピュータプログラム製品は、3D画像空間内のデバイスモデルの3D配向を繰り返し調整して、モデルの最良のピッチ、スピン、およびx-y-z位置を決定し、焦点の最良のx-y-z位置を決定し、それに基づいて、画像に描かれた2D画像および3Dデバイス(モデル)を登録する変換(変換行列)を構築する150ように構成され得る。上述し、
図10に関してさらに詳細に後述するように、変換の構築150は、デバイスモデル108の反復3D調整を利用し、(境界ボックス参照に関して)画像空間内のモデル基準交点/描写の位置および軌跡を定義/記述するパラメータまたは式を、(境界ボックス参照に関して)実際のそれぞれの画像内の基準描写の位置および軌跡を定義/記述する同じパラメータまたは式と比較する(例えば、最良または最も近い一致を決定するためのスコアリングを行う)ことによって、画像空間内のモデル基準交点/描写を分析した。
【0076】
図10に示すように、変換を構築する150ために、方法、システム、および関連するコンピュータプログラム製品は、仮想モデル108のピッチおよびスピンを反復的に調整し109、実際の画像内の基準描写のものと最も密接に一致するメトリックを用いて画像空間/平面内のその基準の交点/描写の対応する位置を決定して、(画像が撮影されたときの)実際のデバイスのものと最も一致するデバイスモデルの最良のピッチおよびスピン方向を決定し得る。例えば、上述したように、ピッチおよびスピンの反復または調整ごとに、焦点から延在し、画像平面と交差し、モデル基準位置を通過するベクトルを決定し得る。ベクトルの交点を、基準描写、構築された境界ボックス、およびその決定された位置および軌跡に関する複数のメトリックとして利用することができる。次いで、メトリックは、(以前に決定された)それぞれの画像内の実際の基準描写のメトリックと比較されて、各ピッチおよびスピン反復をスコア付けし、それによって(画像が撮影されたときに)実際のデバイスのピッチおよびスピンに最も良く一致する(または複数の最も良く一致する)ピッチおよびスピンを決定することができる。
【0077】
参照マウントのピッチアップおよび/またはピッチダウンに対処するために、画像アレイに垂直なデバイスの参照部分の平面に対する下限および上限に関して、そのようなピッチに対して適切な角度範囲が選択され得る。公称AP(0度)またはML画像からの患者座標系におけるZ軸を中心としたスピン回転に対処するために、例えば+/-45度などの適切な角度範囲が選択され得る。上述した角度範囲の上限と下限との間のピッチおよびスピンのステップの適切な粒度も選択または構成され得る。
【0078】
例えば、可能な相関のそれぞれについて、本開示の方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、デバイスモデル108のピッチおよびスピンステップの入れ子状の集合を介して反復する109ように構成されてもよい。いくつかの実施形態では、各反復ステップにおいて、方法、システム、および関連するコンピュータプログラム製品は、上述のように決定されたパラメータの集合を比較して、各関連付けの一連の各インスタンスのコストまたはスコアを作成してもよい。方法、システムおよび関連するコンピュータプログラム製品はまた、いくつかの実施形態では、すべての可能な関連付けならびにピッチおよびスピンステップのうちの任意の数の最小コストインスタンスをさらに決定するように構成されてもよい。例えば、方法、システムおよび関連するコンピュータプログラム製品は、ピッチおよびスピンステップの広さにわたる上位5つの関連付けコストを収集し、明確な最小コスト(例えば、2番目に低いコストよりも大幅に低いコストなど)があるかどうかを判定するように構成されてもよい。明確な最小コストが著しく低い場合、後で可能な評価のために格納するのに必要な最小コストの関連付けの数を、この場合は単一の関連付けに減らすことができる。しかしながら、同様の最小コストを有する2つ以上の関連付けは、後の評価のためにすべて格納されてもよい。
【0079】
図10に示すように、変換を構築する150ために、方法、システム、および関連するコンピュータプログラム製品は、反復ピッチおよびスピンごとに、「最良の」反復ピッチおよびスピンに関して上述したプロセスなどを介して、ラベルの最良の相関を決定するために、実際の画像内の基準描写のものと最も密接に一致するメトリックを有するモデルの基準の参照ラベル相関を決定し得る。例えば、基準ラベルの可能な相関または一致のリストは、すべての可能な関連付けが識別されるまで、1-A、2-B、3-C、または2-A、1-B、3-C、または3-A、1-B、2-Cなどであってもよい。速度および効率ならびに精度を高めるために、いくつかの実施形態では、境界領域の境界設定を使用していくつかの可能な関連付けを排除することができる。
【0080】
方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、最小関連付けの収集のためのさらなる評価のために、最小コストピッチおよびスピン増分を収集および格納するように構成され得る。この時点で、方法、システム、および関連するコンピュータプログラム製品は、実際の画像内の関連するアーチファクトと比較して、関心領域内のそれらの相対的な位置決めおよび割合に関してアーチファクトの同様の集合を決定している可能性がある。同様に、方法、システム、および関連するコンピュータプログラム製品は、スピンおよびピッチに関して創外固定デバイスの相対的な位置決めの高い信頼性と共に、アーチファクト間の信頼できる関連性を決定している。最小スコアの値に応じて、方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、デバイスモデル108の現在の最適な位置決めおよびポーズに関するより狭い境界およびより高い粒度を使用して前述のステップを繰り返すことによって、デバイスモデル108のアーチファクトおよび/または相対位置決めの間の関連付けをさらに改良するように構成され得る。さらに、任意の数のランク付けされた最小スコアのいくつかの数が、値が近いと判定された場合、方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、そのようなより狭くより高い粒度の境界検索を使用して他の関連付けを評価し得る。
【0081】
図10に示すように、変換を構築する150ために、いくつかの実施形態では、方法、システムおよび関連するコンピュータプログラム製品は、決定された最良のピッチおよびスピン決定において、最良の参照ラベル相関を用いて、(焦点および画像平面に対して)数学的デバイスモデル108の水平および垂直(xおよびy)位置を反復的に調整し(110)、取得された画像内の基準描写の決定されたメトリックと最も密接に一致する複数のメトリックを有する基準描写/交点を用いて水平および垂直位置を決定し得る(それによってスキュー決定または矯正する)。「最良の」水平および垂直(xおよびy)位置は、「最良の」スピンおよびピッチに関して上述したのと同じ方法またはプロセスを介して(基準描写/交点の位置メトリックの類似性をランク付けまたは評価するスコアまたはコストを介して)決定されてもよく、簡潔にするためにここでは繰り返さないことに留意されたい。
【0082】
図10に示すように、変換を構築する150ために、方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、決定された最良のピッチ、スピン、およびx-y位置に向けられ、仮想モデルの高さおよび画像平面に対する焦点を反復的に調整する111ことで、取得された画像内の基準描写のものと最も一致するモデルの基準の描写/交点をスケーリングし得る(それによって、スケール決定または矯正する)。「最良の」スケールを、基準の集合的なサイズ、境界ボックスの相関などを利用するなど、様々な方法で測定または決定することができることに留意されたい。
【0083】
図10に示すように、変換を構築する150ために、方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、決定された最良のピッチ、スピンおよびx-y位置、ならびに仮想モデルの高さおよび焦点(画像空間内)に向けられて、仮想フレームおよび焦点をxおよびy方向に移動させ(112)、モデルの基準描写/交点を取得された画像内の基準描写と最良に重ね合わせ得る。「最良の」重ね合わせを様々な方法により測定または決定することができることに留意されたい。
【0084】
図10および
図11に示すように、変換を構築する150ために、方法、システム、および関連するコンピュータプログラム製品は、いくつかの実施形態では、決定された最良のピッチ、スピンおよび焦点のx-y-z位置において、デバイスモデル108のそのような「最も良く一致する」向きを利用して(例えば、そのような「最も良く一致する」向きの基準の点群)、取得された画像およびデバイスモデルを登録する変換を構築し得る113。
図11に示すように、登録画像およびデバイスモデルは、GUI上でユーザに表示され得る。いくつかの実施形態では、登録画像およびデバイスモデルは、ユーザが登録画像およびデバイスモデルと対話し、それらをユニットとして一緒に再配向する(例えば、GUI上でモデル120および画像をスピン、ピッチおよび/または回転/ヨーイングさせる)ことができるように操作可能であってもよい。デバイスモデルを変更して、示された画像に対してデバイスの変化がどのように現れるかを示すこともできる。
【0085】
図2のプロセス100および
図10のプロセス150を、所望される1つ、2つ、3つ、または多くの画像に使用することができることに留意されたい。しかしながら、変換を単一の画像のみから構築することができる113ことにも留意されたい。
【0086】
いくつかの実施形態では、シミュレートされた基準の集合と実際の基準の集合との類似性をさらに改良するために、上述のように到達した解決策、方法、システム、および関連するコンピュータプログラム製品は、公称デバイスモデル108の位置を決定するために反復並進焦点探索において決定された基準の実際の集合を利用するように構成されてもよい。例えば、焦点の高さを調整すると、シミュレートされた基準の集合のスケールのみが変更されるため、画像の上方の高さ寸法で焦点を移動させると、上述のように到着したシミュレートされた基準と同様のシミュレートされた基準の集合が得られる。しかしながら、シミュレートされた画像の2次元における焦点の並進は、シミュレートされた基準の相対位置を変更し、したがって上述のように測定されるコストを変化させる。いくつかのそのような実施形態では、方法、システム、および関連するコンピュータプログラム製品は、上述のように決定された焦点の垂直および水平位置を利用し、水平および垂直次元の両方について下限と上限との間の適切な粒度およびステップ数を選択し得る(それによって本質的に探索アレイを作成する)。上述のように決定されたシミュレートされた基準と実際の基準との関連付けを使用して、方法、システム、および関連するコンピュータプログラム製品は、入れ子にされた水平および垂直ステップ、ならびにキャスト基準(例えば、上記のように作成されたものと同様)を通して反復し得る。方法、システム、および関連するコンピュータプログラム製品は、各ステップにおいて、コストを計算し得る。最小コストのステップは、創外固定デバイスの基準の実際の集合に最も類似する基準のシミュレートされた集合をもたらすべきであることに留意されたい。
【0087】
最適な類似度を決定すると、方法、システム、および関連するコンピュータプログラム製品は、キャストシャドウが画像内の実際の影の中心にくるように、水平方向および垂直方向の位置合わせを調整するように構成され得る。例えば、方法、システム、および関連するコンピュータプログラム製品は、キャストシャドウおよび実際の影の集合の重心を決定し得る。これは、任意の方法によって達成され得る。例えば、適切な重心を決定することは、例えば、キャストシャドウおよび実際の影の中心の集合を包含する長方形のボックスの中心を利用すること、またはキャストシャドウおよび実際の影の集合の包含する周囲の多角形の重心を利用することを含み得る。キャストシャドウと実際の影の両方について重心が決定されると、方法、システム、および関連するコンピュータプログラム製品は、水平方向および垂直方向の差を決定し得(例えば、計算される)、フレームおよび焦点の両方を、水平方向および垂直方向の差を使用して、差に従って画像に対して平行移動させて、重心を位置合わせし得る。
【0088】
重心が位置合わせされると、方法、システム、および関連するコンピュータプログラム製品は、実際の基準影と一致するように、基準キャストシャドウのスケールを調整し得る。例えば、焦点の高さは、(キャストシャドウおよび実際の影の両方を表す)(上述のように形成された)ボックスまたは多角形の面積が等しくなるまで調整され得る。この後、キャストシャドウと実際の影とが一致しなければならず、焦点の位置と画像の上のフレームの位置およびポーズの両方が方法によって知られ/決定されることに留意されたい。
【0089】
次いで、画像に対するフレームの位置およびポーズを使用して、方法、システムおよび関連するコンピュータプログラム製品は、影をキャストする基準を表す創外固定デバイス/フレーム上の3点の任意の集合の3D座標を決定し得る。方法、システム、および関連するコンピュータプログラム製品は、点と画像座標系に対する任意の特定の点のオフセットとを接続するベクトルの適切な外積を利用することなどによって、変換行列を構築し得る。次いで、方法、システム、および関連するコンピュータプログラム製品は、3D焦点を使用してカメラ原点を決定し、画像内の重心位置を使用してカメラターゲットを決定し、フレームおよび画像を描写する3D仮想世界を設定する際に使用されるカメラの視線ベクトルをもたらし得る。
【0090】
最後に、方法、システム、および関連するコンピュータプログラム製品は、取得された画像ごとに
図2および
図10に示すプロセスを繰り返してもよく、その結果、画像およびそこに示されるデバイスの完全な操作可能な3D描写/モデルが得られる。3D描写/モデルは、当技術分野で知られているように、(解剖学的構造を操作する)デバイスを操作することによって固定処方を分析および決定するなど、構築物を分析および決定するためにユーザによって提示および操作されることができる。
【0091】
上述したように、いくつかの実施形態では、
図2のプロセス100および
図10のプロセス150を、デバイスの2つ以上の画像について繰り返すことができる。
【0092】
例えば、アーチファクトが存在する複数の画像の基準として使用されたデバイス/フレームに対して、患者の解剖学的構造の画像アーチファクトを登録することが望ましい場合がある。これは、患者の骨片が互いに対して、または画像内に含まれる他のアーチファクトに対して特徴付けられる必要がある場合であり得る。
【0093】
例えば、方法100および150を介して、共通の基準デバイスに登録された複数の画像を使用して、基準デバイスを記述するために使用される座標系が最初に利用される。このデバイス座標系に登録された複数の画像は、基準デバイスに属する3次元座標系に変換された画像内の2次元アーチファクトのすべてを有する。
【0094】
骨片の例をとると、これらは、画像上に描かれた線として描写することができ、線の端点は断片の端点を表し、線は断片軸と一致する。すべてが第1の画像内の画像空間内の3次元座標である焦点と共に線端点を取得し、それらを共通の基準デバイスに変換すると、3点のいずれか2つの間に2つのベクトルを構築することができ、
図12に示すように、これらの間の外積を取得すると、共通の基準デバイス内の第1の平面を定義するために点のいずれかと共に使用することができる第1の平面法線ベクトルが得られる。
【0095】
同様に、すべてが第2の画像内の画像空間内の3次元座標である焦点と共に線端点を取得し、それらを共通の基準デバイスに変換すると、2つの追加ベクトルを構築することができ、
図12に示すように、これらの間の外積を取得すると、共通の基準デバイス内の第2の平面を定義するために点のいずれかと共に使用することができる第2の平面法線ベクトルが得られる。
【0096】
第1の画像の線端点で終端する第1の画像焦点で生じるベクトルと第2の画像で決定された平面との3次元軸交点に沿った実際の端点が計算される。共通の基準デバイスにおける骨片の真の3次元軸は、
図13に示すように、これらの2つの端点を用いて構築されたベクトルである。
【0097】
これは、各画像内の骨片アーチファクトごとに繰り返すことができ、共通の基準デバイス内に複数の3次元軸をもたらす。複数の軸間の角度およびオフセットの特徴付けは、端点および軸自体を使用して達成されることができる。しかしながら、複数の軸を中心とした回転を特徴付けることも望まれる場合、回転の臨床観察が必要とされ得る。
【0098】
一対の軸Z1とZ2との間の軸回転を特徴付けるために、Z1軸を法線ベクトルとして使用し、Z1軸の端点を組み合わせて平面を作成して原点O1として使用し得る。第1の原点から発する第1の軸は、回転基準として機能するように第1の平面上に構築されてもよい。第1の原点から発する第2の軸を構築し、Z1軸を見下ろす観察された回転に対応する平面内で第1の軸に対して回転させ得る。次いで、原点O2として使用するために、Z2軸端点と組み合わせてZ2軸を法線ベクトルとして使用して第2の平面を作成し得る。次いで、
図13に示すように、第1の平面上の第1および第2の軸は、Z1軸に沿って第2の平面上に投影される。次いで、回転角度は、実際の回転を表す第2の平面内にある第1の投影軸と第2の投影軸との間で計算され得る。
【0099】
当業者は、本発明の態様が、システム(複数可)、方法(複数可)、および/またはコンピュータプログラム製品(複数可)で実現され得ることを認識されよう。いくつかの実施形態では、本発明の態様は、完全にハードウェアで、完全にソフトウェアで(例えば、ファームウェア、常駐ソフトウェア、マイクロコードなどで)、またはソフトウェアとハードウェアの態様の組み合わせで実現され得、これらはすべて、本明細書では一般に「システム」と呼ばれ、回路(複数可)および/またはモジュール(複数可)を含み得る。
【0100】
図2は、本発明の1つまたは複数の態様を組み込んで使用するためのコンピュータシステムの一例を示している。
図15のコンピュータシステム500は、上記のプロセスを実行するためのプログラムコードなどのプログラムコードを格納および/または実行するのに適しており、バス520を介してメモリ505に直接または間接的に結合された少なくとも1つのプロセッサ502を含む。動作中、プロセッサ(複数可)502は、メモリ505から、プロセッサ(複数可)による実行のための命令を取得することができる。メモリ505は、プログラムコードの実際の実行中に使用されるローカルメモリ、バルクストレージ、およびプログラムコード実行中にバルクストレージからコードを検索しなければならない回数を減らすために少なくともいくつかのプログラムコードの一時ストレージを提供するキャッシュメモリを含み得る。メモリ505の例の非限定的なリストは、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能なプログラム可能な読み取り専用メモリ(EPROMまたはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み取り専用メモリ(CD-ROM)、光記憶装置、磁気記憶装置、または前述の任意の適切な組み合わせを含む。メモリ505は、オペレーティングシステム505と、1つまたは複数のコンピュータプログラム506、例えば、回路設計のデジタルレイアウトへの調整を行うなど、本明細書に記載の態様を実行するための1つまたは複数のプログラムを含み得る。
【0101】
入力/出力(I/O)デバイス512、515(周辺デバイスなど)は、直接またはI/Oコントローラ510を介してシステムに結合され得る。ネットワークアダプタ508はまた、システムに結合されて、コンピュータシステムが、介在するプライベートまたはパブリックネットワークを介して他のコンピュータシステムに結合されることを可能にすることができる。モデム、ケーブルモデム、およびイーサネットカードは、現在利用可能なタイプのネットワークアダプタ508のほんの一部である。一例では、ネットワークアダプタ508は、本発明の態様を容易にするために、リモートソースからのデータの取得を容易にする。
【0102】
コンピュータシステム500は、1つまたは複数のデータベースを有するストレージ516(例えば、磁気ディスクドライブ、光ディスクドライブ、テープドライブなどの不揮発性ストレージ領域)に結合され得る。ストレージ516は、内部記憶装置、または接続された、もしくはネットワークアクセス可能なストレージを含み得る。ストレージ516内のコンピュータプログラムは、メモリ505にロードされ、プロセッサ502によって実行され得る。
【0103】
コンピュータシステム500は、図示よりも少ない構成要素、本明細書に図示されていない追加の構成要素、または図示された構成要素と追加の構成要素とのいくつかの組み合わせを含み得る。コンピュータシステム500は、メインフレーム、サーバ、パーソナルコンピュータ、ワークステーション、ラップトップ、ハンドヘルドコンピュータ、スマートフォン、テーブル、または他のモバイルデバイス、テレフォニーデバイス、ネットワークアプライアンス、仮想化デバイス、ストレージコントローラなどの任意のコンピューティングデバイスを含み得る。
【0104】
さらに、上記のプロセスは、コンピューティング環境の一部として協調して動作する複数のコンピュータシステム500によって実行され得る。
【0105】
いくつかの実施形態では、本発明の態様は、コンピュータ可読媒体(複数可)に実現されたコンピュータプログラム製品の形をとることができる。コンピュータ可読媒体(複数可)は、その上にコンピュータ可読プログラムコードを実現することができる。様々なコンピュータ可読媒体(複数可)またはそれらの組み合わせを利用することができる。例えば、コンピュータ可読媒体(複数可)は、コンピュータ可読記憶媒体を含み得、その例は、1つまたは複数の電子、磁気、光学、もしくは半導体システム、装置、またはデバイス、または上記の任意の適切な組み合わせを含む(ただしこれらに限定されない)。コンピュータ可読記憶媒体(複数可)の例には、例えば、1つまたは複数のワイヤを有する電気接続、ポータブルコンピュータディスケット、ハードディスクまたは大容量記憶装置、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、および/またはEPROMもしくはフラッシュメモリなどの消去可能でプログラム可能な読み取り専用メモリ、光ファイバ、ポータブルコンパクトディスク読み取り専用メモリ(CD-ROM)、光記憶装置、磁気記憶装置(テープデバイスを含む)、または上記の任意の適切な組み合わせが含まれる。コンピュータ可読記憶媒体は、命令実行システム、装置、またはプロセッサなどのデバイスによって、またはそれらに関連して使用するためのプログラムコードを含むまたは格納することができる有形媒体を含むように定義される。したがって、コンピュータ可読媒体に格納されたプログラムコードは、プログラムコードを含む製品(「コンピュータプログラム製品」など)を生成する。
【0106】
ここで
図3を参照すると、一例では、コンピュータプログラム製品600は、例えば、本発明の1つまたは複数の態様を提供および促進するために、コンピュータ可読プログラムコード手段または論理604をその上に格納する1つまたは複数のコンピュータ可読媒体602を含む。
【0107】
コンピュータ可読媒体に含まれる、またはコンピュータ可読媒体上に格納されるプログラムコードは、コンピュータシステム(その構成要素を含むコンピュータ、コンピュータシステムなど)および/または他のデバイスによって取得および実行されて、コンピュータシステム、その構成要素、および/または他のデバイスを特定の方法で動作/機能させることができる。プログラムコードを、無線、有線、光ファイバ、および/または無線周波数を含む(ただしこれらに限定されない)任意の適切な媒体を使用して送信することができる。本発明の態様を実行、達成、または促進するための操作を実行するためのプログラムコードは、1つまたは複数のプログラミング言語で書くことができる。いくつかの実施形態では、プログラミング言語は、C、C++、C#、Javaなどのオブジェクト指向および/または手続き型プログラミング言語を含む。プログラムコードは、完全にユーザのコンピュータ上で、完全にユーザのコンピュータから離れて、または一部はユーザのコンピュータ上にあり、一部はリモートコンピュータ上にある組み合わせで実行することができる。いくつかの実施形態では、ユーザのコンピュータとリモートコンピュータは、ローカルエリアネットワーク(LAN)またはワイドエリアネットワーク(WAN)などのネットワークを介して、および/または外部コンピュータを介して(例えば、インターネットサービスプロバイダを使用したインターネット経由で)通信している。
【0108】
一例では、プログラムコードは、1つまたは複数のプロセッサによる実行のために取得された1つまたは複数のプログラム命令を含む。コンピュータプログラム命令は、例えば1つまたは複数のコンピュータシステムの1つまたは複数のプロセッサに提供されて、機械を製造し、その結果、プログラム命令は、1つまたは複数のプロセッサによって実行されると、本明細書に記載のフローチャートおよび/またはブロック図に記載されているアクションまたは機能などの本発明の態様を実行、達成、または促進することができる。したがって、本明細書に示され、説明されるフローチャート図および/またはブロック図の各ブロック、またはブロックの組み合わせは、いくつかの実施形態では、コンピュータプログラム命令によって実装され得る。
【0109】
図を参照して示され説明されたフローチャートおよびブロック図は、本発明の態様によるシステム、方法、および/またはコンピュータプログラム製品の可能な実施形態のアーキテクチャ、機能、および動作を示している。したがって、これらのフローチャート図および/またはブロック図は、本発明の態様による方法、装置(システム)、および/またはコンピュータプログラム製品のものであり得る。
【0110】
いくつかの実施形態では、上記のように、フローチャートまたはブロック図の各ブロックは、モジュール、セグメント、またはコードの一部を表すことができ、ブロックの指定された動作および/または論理機能を実装するための1つまたは複数の実行可能命令を含む。
当業者は、ブロックによって指定または実行される動作/機能が、示されおよび/または説明されたものとは異なる順序で発生するか、あるいは1つまたは複数の他のブロックと同時に、または部分的/完全に同時に発生する可能性があることを理解されよう。実際、連続して表示される2つのブロックは、実質的に同時に実行される場合もあれば、逆の順序で実行される場合もある。さらに、ブロック図および/またはフローチャート図の各ブロック、ならびにブロック図および/またはフローチャート図中のブロックの組み合わせは、ブロックまたはブロック図もしくはフローチャート全体で指定された動作/機能を実行する専用のハードウェアベースのシステムによって、またはコンピュータ命令と組み合わせて完全に実装され得る。
【0111】
上記の説明は、例示を意図するものであり、限定的なものではないことを理解されたい。以下の特許請求の範囲およびその同等物によって定義される本発明の一般的な趣旨および範囲から逸脱することなく、当業者によって、本明細書において多数の変更および修正を行うことができる。例えば、上記の実施形態(および/またはその態様)は、互いに組み合わせて使用され得る。さらに、特定の状況または材料を、それらの範囲から逸脱することなく、様々な実施形態の教示に適合させるために、多くの修正を行うことができる。本明細書に記載の材料の寸法およびタイプは、様々な実施形態のパラメータを定義することを意図しているが、それらは決して限定するものではなく、単なる例示である。上記の説明を検討すると、他の多くの実施形態が当業者には明らかとされよう。したがって、様々な実施形態の範囲は、そのような請求項が権利を与えられる同等物の全範囲と共に、添付の請求項を参照して決定されるべきである。
【0112】
本明細書で使用される用語は、特定の実施形態を説明することのみを目的としており、本発明を限定することを意図するものではない。本明細書で使用される場合、単数形「a」、「an」および「the」は、文脈が明らかに他のことを示さない限り、複数形も含むことを意図している。さらに、「備える(comprise)」(ならびに「備える(comprises)」および「備えている(comprising)」などの任意の形式のcomprise)、「有する(have)」(ならびに「有する(has)」および「有している(having)」などの任意の形式のhave)、「含む(include)」(ならびに「含む(includes)」および「含んでいる(including)」などの任意の形式のinclude)、「含む(contain)」(ならびに「含む(contains)」および「含んでいる(containing)」などの任意の形式のcontain)、およびその他の文法上の変形は自由形式の連結動詞であることが理解されよう。結果として、1つまたは複数のステップまたは要素を「含む(comprises)」、「有する(has)」、「含む(includes)」または「含む(contains)」方法または物品は、それらの1つまたは複数のステップまたは要素を所有するが、それらの1つまたは複数のステップまたは要素のみを所有することに限定されない。同様に、1つまたは複数の特徴を「含む(comprises)」、「有する(has)」、「含む(includes)」または「含む(contains)」方法のステップまたは物品の要素は、それらの1つまたは複数の特徴を所有するが、それらの1つまたは複数の特徴のみを有することに限定されない。
【0113】
本明細書で使用される場合、用語「含む(comprising)」、「有する(has)」、「含む(including)」、「含む(containing)」、およびそれらの他の文法的変形は、「から構成される(consisting of)」および「本質的に~から構成される(consisting essentially of)」という用語を包含する。
【0114】
本明細書で使用される場合の「本質的に~から構成される(consisting essentially of)」という句またはその文法的変形は、記載された特徴、整数、ステップまたは構成要素を指定するものと解釈されるべきであるが、1つまたは複数の追加の特徴、整数、ステップ、構成要素またはそれらの群の追加を排除するものではなく、ただし、追加の特徴、整数、ステップ、構成要素、またはそれらのグループが、特許請求された構成物または方法の基本的かつ新規な特性を実質的に変更しない場合に限る。
【0115】
本明細書で引用されているすべての刊行物は、あたかも個々の刊行物が完全に記載されているかのように、参照により本明細書に組み込まれることが具体的かつ個別に示されているかのように、参照により本明細書に組み込まれる。
【0116】
参照により組み込まれる主題は、特に明記されていない限り、クレーム制限の代替とは見なされない。
【0117】
本明細書全体で1つまたは複数の範囲が参照される場合、各範囲は、情報を提示するための省略形であることが意図され、範囲は、同じことが本明細書に完全に記載されているかのように、範囲内の各離散点を包含すると理解される。
【0118】
本発明のいくつかの態様および実施形態が本明細書に記載され示されているが、代替の態様および実施形態は、同じ目的を達成するために当業者によって影響を受ける可能性がある。したがって、本開示および添付の特許請求の範囲は、本発明の真の趣旨および範囲内にあるようなすべてのそのようなさらなる代替の態様および実施形態を網羅することを意図している。
【手続補正書】
【提出日】2024-05-02
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
2次元(2D)画像および前記画像に描かれた3次元(3D)デバイスを登録する変換を構築する方法であって、
少なくとも4つの同一平面上にない識別可能な基準アーチファクトを有する3Dデバイスを描くデジタル2Dの第1の画像を取得するステップと、
前記画像に描かれた前記デバイスの参照アーチファクトが前記画像平面内で水平に向けられるように、前記画像の前記平面に垂直な軸の周りで前記第1の画像を回転させるステップと、
少なくとも前記デバイスの前記基準アーチファクトの3D数学的デバイスモデルを作成するのに十分な前記デバイスの物理的パラメータを取得するステップと、
前記デバイスの前記取得された物理的パラメータに従って前記デバイスモデルを構築するステップと、
前記基準アーチファクトを含む領域を画定する境界関心領域を前記第1の画像上に作成するステップと、
前記第1の画像内の前記境界関心領域内の前記基準アーチファクトの前記描写を識別し、描かれた各基準アーチファクトにそれぞれの参照ラベルを割り当てるステップと、
前記第1の画像内の前記境界関心領域内の前記描かれた基準アーチファクトの前記位置および軌跡に関する複数のメトリックを決定するステップと、
前記画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成するステップと、
前記第1の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のピッチ、スピン、およびx-y-z位置を決定し、前記第1の画像に描かれた前記デバイスと比較して前記焦点の最良のx-y-z位置を決定し、それに基づいて、前記第1の画像および前記デバイスを登録する変換を構築するステップと
を含む、方法。
【請求項2】
前記第1の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のピッチおよびスピンを決定する前記ステップが、前記デバイスモデルの前記ピッチおよびスピンを反復的に調整し、前記画像空間内のその前記基準
アーチファクトの描写の対応する位置を決定するステップを含む、請求項1に記載の方法。
【請求項3】
前記第1の画像内の前記基準
アーチファクトの前記決定されたメトリックに最も密接に一致する前記複数のメトリックを有する基準描写を生成するピッチおよびスピン反復を決定するステップをさらに含む、請求項2に記載の方法。
【請求項4】
前記第1の画像内の前記基準
アーチファクトの前記決定されたメトリックに最も密接に一致する前記複数のメトリックを有する前記デバイスモデルの前記基準
アーチファクトの参照ラベル相関を決定するステップをさらに含む、請求項3に記載の方法。
【請求項5】
前記第1の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のxおよびy位置を決定する前記ステップが、前記決定された最良のピッチおよびスピン決定において、前記決定された最良の参照ラベル相関を用いて、前記デバイスモデルの前記水平(x)および垂直(y)位置を反復的に調整し、前記第1の画像内の前記基準
アーチファクトの前記決定されたメトリックと最も密接に一致する前記複数のメトリックを有する基準描写を用いて水平および垂直位置を決定するステップを含む、請求項4に記載の方法。
【請求項6】
前記第1の画像に描かれた前記デバイスと比較して、前記デバイスモデルおよび前記焦点の前記最良のz位置を決定する前記ステップが、前記決定された最良のピッチおよびスピンならびにx-y位置の決定において、前記決定された最良の参照ラベル相関を用いて、前記第1の画像内の前記基準
アーチファクトのものと最も良く一致する前記画像平面内の前記デバイスモデルの前記基準
アーチファクトの前記描写をスケーリングするために、前記画像平面に対して前記デバイスモデルの前記高さおよび前記焦点を反復的に調整するステップを含む、請求項5に記載の方法。
【請求項7】
前記第1の画像に描かれた前記デバイスと比較して、前記デバイスモデルおよび前記焦点の前記最良のxおよびy位置を決定する前記ステップが、前記決定された最良のピッチおよびスピンならびにx-y-z位置の決定、前記焦点の最良のz位置の決定において、前記決定された最良の参照ラベル相関を用いて、前記デバイスモデルおよび焦点をxおよびy方向に移動させて、前記基準
アーチファクトの前記デバイスモデル描写を前記第1の画像内の前記基準描写と最良に重ね合わせるステップを含む、請求項6に記載の方法。
【請求項8】
前記デバイスモデルを構築する前記ステップが、前記デバイスの参照アーチファクト座標系における前記デバイスの前記基準
アーチファクトの前記3D位置のマッピングを作成するステップを含む、請求項1に記載の方法。
【請求項9】
前記マッピングが、前記基準
アーチファクトの前記サイズの表示を含む、請求項8に記載の方法。
【請求項10】
前記マッピングが点群を含む、請求項8に記載の方法。
【請求項11】
前記複数のメトリックが、前記第1の画像内の前記境界関心領域の共通の態様を利用して、前記識別された基準描写の各々の前記位置軌跡を識別する、請求項1に記載の方法。
【請求項12】
前記第1の画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成する前記ステップが、前記デバイスモデルを前記識別された基準描写にスケーリングするステップを含む、請求項1に記載の方法。
【請求項13】
前記第1の画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成する前記ステップが、ヨーまたはピッチなしで前記デバイスモデルを配向するステップをさらに含む、請求項12に記載の方法。
【請求項14】
前記第1の画像と画像空間内の選択された焦点との間の画像空間内の前記第1の画像の上の前記デバイスの数学的デバイスモデルを作成する前記ステップが、前記第1の画像の視点情報および近似された焦点に基づいて、近似されたロール/スピンで前記デバイスモデルを配向するステップをさらに含む、請求項13に記載の方法。
【請求項15】
前記方法が、第2の2次元(2D)画像および前記第2の画像に描かれた3次元(3D)デバイスを登録する変換を構築するステップであって、
少なくとも4つの同一平面上にない識別可能な基準アーチファクトを有する前記3Dデバイスを描くデジタル2Dの第2の画像を取得するステップと、
前記第2の画像に描かれた前記デバイスの参照アーチファクトが前記画像平面内で水平に向けられるように、前記画像の前記平面に垂直な軸の周りで前記第2の画像を回転させるステップと、
前記基準アーチファクトを含む領域を画定する境界関心領域を前記第2の画像上に作成するステップと、
前記第2の画像内の前記境界関心領域内の前記基準アーチファクトの前記描写を識別し、描かれた各基準アーチファクトにそれぞれの参照ラベルを割り当てるステップと、
前記第2の画像内の前記境界関心領域内の前記描かれた基準アーチファクトの前記位置および軌跡に関する複数のメトリックを決定するステップと、
前記画像と前記画像空間内の選択された焦点との間の画像空間内の前記第2の画像の上の前記デバイスの数学的デバイスモデルを作成するステップと、
前記第2の画像に描かれた前記デバイスと比較して前記デバイスモデルの最良のピッチ、スピン、およびx-y-z位置を決定し、前記第2の画像に描かれた前記デバイスと比較して前記焦点の最良のx-y-z位置を決定し、それに基づいて、前記第2の画像および前記デバイスを登録する変換を構築するステップと
を含む、ステップをさらに含む、請求項1に記載の方法。
【請求項16】
前記デバイスが創外固定デバイスである、請求項1に記載の方法。
【請求項17】
前記創外固定デバイス
の前記参照アーチファクトが、上側または下側の骨または組織固定プラットフォームである、請求項16に記載の方法。
【請求項18】
1つまたは複数の処理回路によって読み取り可能であり、請求項1から
17のいずれかに記載の方法を実行するための1つまたは複数のプロセッサによって実行するための命令を格納するコンピュータ可読記憶媒体
を備える、コンピュータプログラム製品。
【請求項19】
メモリと、
前記メモリと通信している少なくとも1つのプロセッサと、
請求項1から18のいずれかに記載の方法を実行するために前記メモリを介して1つまたは複数のプロセッサによって実行可能なプログラム命令と
を備える、システム。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0033
【補正方法】変更
【補正の内容】
【0033】
いくつかの実施形態では、方法は、デバイスが創外固定デバイスであることをさらに含む。いくつかの実施形態では、創外固定デバイスの前記参照アーチファクトは、上側または下側の骨または組織固定プラットフォームである。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0100
【補正方法】変更
【補正の内容】
【0100】
図2は、本発明の1つまたは複数の態様を組み込んで使用するためのコンピュータシステムの一例を示している。
図15のコンピュータシステム500は、上記のプロセスを実行するためのプログラムコードなどのプログラムコードを格納および/または実行するのに適しており、バス520を介してメモリ
504に直接または間接的に結合された少なくとも1つのプロセッサ502を含む。動作中、プロセッサ(複数可)502は、メモリ
504から、プロセッサ(複数可)による実行のための命令を取得することができる。メモリ
504は、プログラムコードの実際の実行中に使用されるローカルメモリ、バルクストレージ、およびプログラムコード実行中にバルクストレージからコードを検索しなければならない回数を減らすために少なくともいくつかのプログラムコードの一時ストレージを提供するキャッシュメモリを含み得る。メモリ
504の例の非限定的なリストは、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能なプログラム可能な読み取り専用メモリ(EPROMまたはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み取り専用メモリ(CD-ROM)、光記憶装置、磁気記憶装置、または前述の任意の適切な組み合わせを含む。メモリ
504は、オペレーティングシステム505と、1つまたは複数のコンピュータプログラム506、例えば、回路設計のデジタルレイアウトへの調整を行うなど、本明細書に記載の態様を実行するための1つまたは複数のプログラムを含み得る。
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0101
【補正方法】変更
【補正の内容】
【0101】
入力/出力(I/O)デバイス512、514(周辺デバイスなど)は、直接またはI/Oコントローラ510を介してシステムに結合され得る。ネットワークアダプタ508はまた、システムに結合されて、コンピュータシステムが、介在するプライベートまたはパブリックネットワークを介して他のコンピュータシステムに結合されることを可能にすることができる。モデム、ケーブルモデム、およびイーサネットカードは、現在利用可能なタイプのネットワークアダプタ508のほんの一部である。一例では、ネットワークアダプタ508は、本発明の態様を容易にするために、リモートソースからのデータの取得を容易にする。
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0102
【補正方法】変更
【補正の内容】
【0102】
コンピュータシステム500は、1つまたは複数のデータベースを有するストレージ516(例えば、磁気ディスクドライブ、光ディスクドライブ、テープドライブなどの不揮発性ストレージ領域)に結合され得る。ストレージ516は、内部記憶装置、または接続された、もしくはネットワークアクセス可能なストレージを含み得る。ストレージ516内のコンピュータプログラムは、メモリ504にロードされ、プロセッサ502によって実行され得る。
【国際調査報告】