【課題】軽量かつシンプルな構造であって操作性や利便性に優れる光軸位置測定装置を用いて、硬性内視鏡等の長尺状器具の光軸位置と位置姿勢検出用標識体との3次元相対位置関係を精度よく求める。
【解決手段】光軸位置測定装置80は、硬性内視鏡11により撮像可能なターゲット画像と、3次元形状測定可能な光軸位置測定用標識体91とを有する。演算手段は、ターゲット画像と光軸位置測定用標識体91との3次元相対位置関係を予め記憶し、3次元形状測定により得られる3次元データを処理して硬性内視鏡11の先端部14と標識球12との3次元相対位置関係及び標識球12と光軸位置測定用標識体91との3次元相対位置関係を取得し、硬性内視鏡11が撮像したターゲット画像から撮像画像の中心位置に相当するターゲット画像上の点を取得する。演算手段は、記憶してあるデータと取得したデータに基づき、硬性内視鏡11の光軸と標識球12との3次元相対位置関係を求める。
対象物を撮像する撮像手段を有する長尺状器具であって、前記長尺状器具の位置と姿勢を検出するための位置姿勢検出用標識体が設けられた長尺状器具における、先端部を起点とする前記撮像手段の実際の光軸である実光軸の位置を測定する光軸位置測定システムにおいて、
前記長尺状器具を定められた範囲の任意の位置に支持する支持機構と、前記支持機構に前記長尺状器具を支持した状態で前記長尺状器具の撮像手段により撮像可能なターゲット画像と、光軸位置測定用標識体とを有する光軸位置測定装置と、
前記光軸位置測定装置に前記長尺状器具を支持した状態で前記光軸位置測定装置と前記長尺状器具の3次元表面形状を測定する3次元形状測定装置と、
前記ターゲット画像と光軸位置測定用標識体との3次元相対位置関係である第1の3次元相対位置関係が記憶され、前記3次形状測定装置による測定で得られた3次元データを用いて演算処理を行う演算手段とを備え、
前記演算手段は、
前記3次元形状測定装置による測定で得られる3次元データを処理することで、前記位置姿勢検出用標識体と前記長尺状器具の先端部との3次元相対位置関係である第2の3次元相対位置関係を取得する演算と、
前記長尺状器具の先端部が前記ターゲット画像から離間した位置にて前記長尺状器具が撮像した前記ターゲット画像を画像処理して撮像画像の中心位置に相当する前記ターゲット画像上の点を取得する演算と、
前記撮像画像の中心位置に相当する前記ターゲット画像上の点を取得するときの前記長尺状器具の支持位置のまま前記3次元形状測定装置による測定で得られる3次元データを処理することで、前記位置姿勢検出用標識体と前記光軸位置測定用標識体との3次元相対位置関係である第3の3次元相対位置関係を取得する演算と、
前記第1から第3の3次元相対位置関係と前記撮像画像の中心位置に相当する前記ターゲット画像上の点とに基づき、前記実光軸の位置と前記位置姿勢検出用標識体との3次元相対位置関係を取得する演算と
を行うことを特徴とする光軸位置測定システム。
前記ターゲット画像は、格子点パターン、格子線パターンまたはチェッカーパターンであり、前記演算手段が行う画像処理は、歪み補正処理、中心線取得処理及びコーナー取得処理を行ったうえで撮像画像の中心位置に相当する前記ターゲット画像上の点を取得する処理であることを特徴とする請求項1または2に記載の光軸位置測定システム。
対象物を撮像する撮像手段を有する長尺状器具であって、前記長尺状器具の位置と姿勢を検出するための位置姿勢検出用標識体が設けられた長尺状器具における、先端部を起点とする前記撮像手段の実際の光軸である実光軸の位置を測定する光軸位置測定方法において、
前記長尺状器具を定められた範囲の任意の位置に支持する支持機構と、前記支持機構に前記長尺状器具を支持した状態で前記長尺状器具の撮像手段により撮像可能なターゲット画像と、光軸位置測定用標識体とを有する光軸位置測定装置を準備する準備ステップと、
前記ターゲット画像と光軸位置測定用標識体との3次元相対位置関係である第1の3次元相対位置関係を取得するステップと、
前記光軸位置測定装置に前記長尺状器具を支持した状態で前記光軸位置測定装置と前記長尺状器具の3次元表面形状を測定し、得られる3次元データを処理することで、前記位置姿勢検出用標識体と前記長尺状器具の先端部との3次元相対位置関係である第2の3次元相対位置関係を取得するステップと、
前記光軸位置測定装置に前記長尺状器具を支持した状態で、前記長尺状器具の先端部が前記ターゲット画像から離間した位置にて前記長尺状器具が撮像した前記ターゲット画像を画像処理して撮像画像の中心位置に相当する前記ターゲット画像上の点を取得するステップと、
前記撮像画像の中心位置に相当する前記ターゲット画像上の点を取得するステップにおける前記長尺状器具の支持位置のまま前記光軸位置測定装置と前記長尺状器具の3次元表面形状を測定し、得られる3次元データを処理することで、前記位置姿勢検出用標識体と前記光軸位置測定用標識体との3次元相対位置関係である第3の3次元相対位置関係を取得するステップと、
前記第1から第3の3次元相対位置関係と前記撮像画像の中心位置に相当する前記ターゲット画像上の点とに基づき、前記実光軸の位置と前記位置姿勢検出用標識体との3次元相対位置関係を取得するステップと
を行うことを特徴とする光軸位置測定方法。
対象物を撮像する撮像手段を有する長尺状器具であって、前記長尺状器具の位置と姿勢を検出するための位置姿勢検出用標識体が設けられた長尺状器具における、先端部を起点とする前記撮像手段の実際の光軸である実光軸の位置を測定する光軸位置測定システムが備える演算手段により実行される光軸位置測定プログラムにおいて、
前記長尺状器具を定められた範囲の任意の位置に支持する支持機構と、前記支持機構に前記長尺状器具を支持した状態で前記長尺状器具の撮像手段により撮像可能なターゲット画像と、光軸位置測定用標識体とを有する光軸位置測定装置における前記ターゲット画像と光軸位置測定用標識体との3次元相対位置関係である第1の3次元相対位置関係が予め記憶されており、
前記光軸位置測定装置に前記長尺状器具を支持した状態で前記光軸位置測定装置と前記長尺状器具の3次元表面形状を測定した際に得られる3次元データを処理して、前記位置姿勢検出用標識体と前記長尺状器具の先端部との3次元相対位置関係である第2の3次元相対位置関係を取得する演算と、
前記光軸位置測定装置に前記長尺状器具を支持した状態で、前記長尺状器具の先端部が前記ターゲット画像から離間した位置にて前記長尺状器具が撮像した前記ターゲット画像を画像処理して撮像画像の中心位置に相当する前記ターゲット画像上の点を取得する演算と、
前記撮像画像の中心位置に相当する前記ターゲット画像上の点を取得するときの前記長尺状器具の支持位置のまま前記光軸位置測定装置と前記長尺状器具の3次元表面形状を測定した際に得られる3次元データを処理して、前記位置姿勢検出用標識体と前記光軸位置測定用標識体との3次元相対位置関係である第3の3次元相対位置関係を取得する演算と、
前記第1から第3の3次元相対位置関係と前記撮像画像の中心位置に相当する前記ターゲット画像上の点とに基づき、前記実光軸の位置と前記位置姿勢検出用標識体との3次元相対位置関係を取得する演算と
を行うことを特徴とする光軸位置測定プログラム。
対象物を撮像する撮像手段を有する長尺状器具であって、前記長尺状器具の位置と姿勢を検出するための位置姿勢検出用標識体が設けられた長尺状器具における、先端部を起点とする前記撮像手段の実際の光軸である実光軸の位置を測定する際に使用される光軸位置測定装置において、
ベース部材と、前記ベース部材に設けられた、前記長尺状器具をその長手方向に沿って移動可能な状態で支持するガイド部とを備える支持機構と、
前記ベース部材の主面に対して傾斜した状態で設けられ、前記長尺状器具を前記ガイド部に支持したとき前記長尺状器具の撮像手段により撮像可能であるターゲット画像が被撮像面に描かれたターゲット部材と、
3次元形状測定装置により測定されることにより取得された3次元データから前記光軸位置測定装置の位置と姿勢を検出することが可能な立体形状を有し、前記ベース部材及び前記ターゲット部材の少なくともいずれかに設けられ、前記ターゲット画像との3次元相対位置関係が既知である光軸位置測定用標識体と
を備えることを特徴とする光軸位置測定装置。
【背景技術】
【0002】
従来より、内視鏡等の手術器具が患者の体内に挿入されたときに、当該手術器具の先端の正確な位置を術前に撮影されたCT(Computed Tomography)やMRI(Magnetic Resonance Imaging)による画像上に表示し、術者を支援する手術ナビゲーション(手術支援情報表示)が知られている。例えば特許文献1には、本発明者らによる手術支援システムが記載されており、3次元形状測定装置による患者の3次元表面形状と、予め撮像した3次元断層データとを位置合わせする技術が記載されている。また、患者の3次元表面形状を測定する3次元形状測定装置により、手術器具に取り付けられた位置姿勢検出用の標識部(
図1の球体12)を測定して、手術器具の位置姿勢を算出する技術も記載されている。しかしながら、これらの方法は何れも手術器具やポインタなど器具の先端の位置を表示するのみで、内視鏡で撮像している部位が、CTやMRIによる術前画像のどの部分に相当するかを表示するものではない。
【0003】
もし、内視鏡で撮像している部位(内視鏡のモニタに表示されている術野)が術前のCT等による画像のどこに相当するのかを確認することができれば、例えば術者は左手に持った内視鏡で操作を加える場所を直視下に確認し、それが術前のCT等による画像のどの部位を観察しているかを認識しながら、右手で自由に任意の手術器具を持ち替えて手術操作を連続して行うことができる。
【0004】
このような内視鏡で撮像している部位を画像上に表示することが示されている従来技術として、特許文献2及び3が挙げられる。また、本発明者らによる従来技術として、WO2008/093517がある。
【0005】
特許文献2には、手術ナビゲーション装置において、使用中の硬性内視鏡の光軸方向を3次元断層像上に表示する技術が記載されている。
【0006】
特許文献3には、患者の体内に挿入される内視鏡挿入部の先端から患者体内の術部までの距離を測定する距離測定手段(スポット光照射による三角測量法や超音波センサ等)を有する内視鏡を用いて、内視鏡で観察している場所を決定し、術前CT/MRIに表示する技術が記載されている。
【0007】
上記特許文献2および3では、内視鏡の位置姿勢の検出に、内視鏡に取り付けられた発光素子などのマーカーと、前記マーカーを検出する位置センサとを用いているが、これらのシステムでは3次元断層データの座標系と患者の位置を特定するための座標系とを一致させるために、患者に何らかのマーカーを取り付けるか、別途、患者の形状を測定する装置を設ける必要があり、患者に不便を強いるという問題や、システムが複雑になるという問題がある。
【0008】
これに対し本発明者らによる従来技術であるWO2008/093517では硬性内視鏡の位置姿勢検出に患者の3次元表面形状を測定する3次元形状測定装置を用いており、患者に不便を強いることがなく、またシステムが複雑にならないようにすることができる。
【0009】
ただし、WO2008/093517においては上記特許文献2及び3と同様、内視鏡の光軸は公称値通りであることを前提としており、内視鏡の光軸の較正については考慮されていない。例えば直視鏡では、内視鏡の光軸が内視鏡の鏡筒中心軸の延長線上にある、すなわち内視鏡光軸と内視鏡の鏡筒中心線のなす角が0度であるということを前提として内視鏡の光軸情報を画像上に表示している。
【0010】
手術ナビゲーションにおいて内視鏡で撮像している部位を画像上に精度よく表示する場合、内視鏡の先端から遠方までの実際の光軸情報が必要になるが、これまでは、内視鏡はレンズから比較的近い部分のものを見ることが多いため、内視鏡の先端から近傍付近における光軸の較正やレンズ位置等の較正については考慮されることがあっても、内視鏡の先端から遠方までの光軸の較正については考慮されたことはなかった。例えば特許文献4には、細長いシャフト及び遠位端レンズを有する内視鏡のレンズ位置、及び内視鏡の先端から近傍付近における光軸及び視野を較正する装置が記載されている。しかしながら、内視鏡の先端から遠方までの光軸を較正する方法については記載も示唆もされていない。
【0011】
一般に、内視鏡は、レンズから比較的近い部分のものを見ることが多いので、実際の光軸の公称値の光軸からのずれが大きく影響することは少ないが、手術支援システムなどのように、内視鏡の移動のナビゲーションのために光軸を画像上に直線として表示する場合は、実際の光軸とナビゲーション画面に表示された光軸方向との差が顕著になってしまう。本発明者らは、手術支援システムを開発する上で、この実際の光軸の公称値からのずれが無視できない程度の量であることを見出した。本発明者らは、多くの内視鏡について光軸位置を調査した結果、視野角120度の内視鏡の場合、実際の光軸の公称値からのずれは最大で約6度(視野角の5%)程度あることがわかった。これは内視鏡先端から遠方にある位置においては光軸位置の誤差が数mm程度になる可能性があることを意味する。手術は精密な作業であるため、数mm程度の誤差でも手術に悪影響を及ぼしてしまう可能性がある。
【0012】
このような事情のもと、本発明者らは、硬性内視鏡の実際の光軸を測定する方法及び装置として、被測定物体の長軸部先端からの光軸と第1標識部との3次元相対関係を測定する3次元相対関係測定方法及びそのための装置を過去に提案している(特許文献5:特許5560424号公報を参照)。
【0013】
この従来技術の方法では、固定手段、第1の較正用物体、第2の較正用物体及び移動手段を備えた3次元相対関係測定装置が使用される。固定手段には、被測定物体である硬性内視鏡などが固定される。この被測定物体の長軸部には、3次元表面形状スキャナ等のような撮像手段を含んで構成される3次元形状測定装置により位置及び立体形状が測定可能な第1標識部が設けられている。第1の較正用物体は、被測定物体の長軸部先端からの光軸が当たるターゲットと、3次元形状測定装置により位置及び立体形状が測定可能な第2標識部とを有している。ターゲットの中心座標と第2標識部との3次元相対関係は、既知のものとされている。あるいは、3次元形状測定装置によりターゲットの中心座標と第2標識部との3次元相対関係が測定可能なものとされている。第2の較正用物体は、3次元形状測定装置により位置及び立体形状が測定可能な第3標識部を有しており、固定手段により被測定物体が固定される。この固定状態において、被測定物体の長軸部先端の座標または長軸部先端からの光軸に含まれる座標と、第3標識部との3次元相対関係が既知のものとされている。あるいは、3次元形状測定装置により被測定物体の長軸部先端の座標または長軸部先端からの光軸上に含まれる座標と、第3標識部との3次元相対関係が測定可能なものとされている。
【0014】
そして、この装置を用いて測定を行う場合には、まず、移動手段により第1の較正用物体を移動させて、ターゲットに長軸部先端からの光軸が当たるようにする。次に、3次元形状測定装置で第1〜第3標識部の3次元相対位置を測定することにより、被測定物体の光軸と第1標識部との3次元相対関係を測定する。その結果、物体の位置及び姿勢を定義する手段である複数の座標または複数の座標及びベクトルと、長軸部先端からの遠方までの光軸位置とを同一座標系で精度よく検出することが可能となる。ゆえに、硬性内視鏡で撮像している部位を画像上に表示しながら手術ナビゲーションを行う手術支援システムにおいて、画像上に表示される撮像部位(硬性内視鏡の光軸と体内腔との交点)を高精度にすることができ、高い精度の手術ナビゲーションを行うことができるようになっている。
【発明を実施するための形態】
【0034】
本発明は、硬性内視鏡のように撮像手段を備える長尺状器具における、先端部を起点とする撮像手段の実際の光軸である実光軸の位置を測定する光軸位置測定システム及び光軸位置測定方法であるが、該システム及び方法を説明する前に、長尺状器具の実光軸の位置を精度よく取得する必要性を説明するため、本発明により取得された実光軸の位置が適用される手術支援システムについて、
図1〜
図5に基づいて説明する。
【0035】
図1は、本発明により取得された実光軸の位置が適用される手術支援システム1の実施形態を概略的に示す構成図である。手術支援システム1は、患者60に対する手術の際に、硬性内視鏡11により撮像された画像に関する情報を術者75等に提供する装置である。手術支援システム1が用いられる手術は、例えば、耳鼻咽頭科における副鼻腔の内視鏡手術等のように、硬性内視鏡11による撮像が行われるものを対象とする。
【0036】
図1に示すように、手術支援システム1は、長尺状器具としての硬性内視鏡11と、標識球12と、3次元形状測定装置20と、CT装置30と、演算手段としてのPC(Personal Computer)40と、表示装置50とを含んで構成されている。また、3次元形状測定装置20の測定範囲内に後述する光軸位置測定装置80を配置すれば、硬性内視鏡11の実光軸と標識球12(位置姿勢検出用標識体)との3次元相対位置関係を測定する本発明による光軸位置測定システムにすることもできる。
【0037】
硬性内視鏡11は、術者75により操作され、患者60(対象物)の内部に挿入されて当該内部を撮像する装置である。硬性内視鏡11は、患者60の生体内に挿入できるように細長い形状をしており、その先端部には患者60の内部を撮像するための機構が設けられている。その機構は、例えば、被撮像部に向くように位置決めして設けられたレンズ及び、レンズの結像位置に設けられたCCDイメージセンサ(Charge Coupled Device Image Sensor)等の撮像素子である。なお、CCDイメージセンサの代わりにCMOSイメージセンサ(Complementary Metal Oxide Semiconductor Image Sensor)を用いてもよい。硬性内視鏡11の位置決めのされ方によって、硬性内視鏡11の撮像方向Aが決まる。通常は、レンズの光軸方向が、硬性内視鏡11の撮像方向Aとなる。硬性内視鏡11により撮像された画像の情報は、ケーブルにより硬性内視鏡11と電気的に接続されたPC40に出力される。なお、上記の硬性内視鏡11としては、特殊な構成を有している必要はなく、従来から用いられている硬性内視鏡11を用いることができる。
【0038】
標識球12は、硬性内視鏡11の撮像方向A(実光軸)に対してあらかじめ定められた相対的な位置関係の位置に固定されて設けられる3つ以上の定点を定義可能な物体である。標識球12は、3次元形状測定装置20によりスキャンされて、スキャンにより得られたデータから表面の複数点の3次元座標を求められ、これらの複数の3次元座標から球体中心座標が求められる。具体的には、標識球12は、硬性内視鏡11に対して棒状部材13を介して固定される球状の部材であって、それぞれ大きさが異なっている。大きさが異なるようにしているのは、3次元形状測定装置20によりスキャンにより得られたデータから複数点の3次元座標(以下、3次元データという)を算出し、3次元データから球体の3次元データを抽出して球体中心座標を算出する際、球体の径も算出し、それぞれの球体中心座標を区別して検出するためである。
【0039】
標識球12が硬性内視鏡11に設けられる位置は、患者60に挿入される部分からさらに後方の、患者60に挿入されない位置である。また、標識球12と硬性内視鏡11の先端部からの撮像方向A(実光軸)との位置関係が一定となるように、硬性内視鏡11における、患者60の内部に挿入される部分から標識球12が設けられる部分までは、硬質の材質で形成されており屈曲できないようになっている。
【0040】
なお、硬性内視鏡11に設けられる3つ以上の定点を定義可能な物体は、硬性内視鏡11の先端部からの撮像方向A(実光軸)に対して定められた相対的な位置関係の位置にあり、3次元形状測定装置20によるスキャンにより得られたデータから3つ以上の定点座標を区別して求められるものであればよい。従って、必ずしも
図1の標識球12のような球状のものでなくてもよく、直方体、円柱体、円錐体といった形状のものでもよい。また、硬性内視鏡11の位置と姿勢を検出することができればよく、3つ以上の定点座標に替えて2つ以上の定点座標と1つ以上のベクトルまたは1つ以上の定点座標と2つ以上のベクトルを検出することができる形状であってもよい。
【0041】
3次元形状測定装置20は、患者60に硬性内視鏡11が差し込まれるときに、患者60の表面及び標識球12を3次元スキャンする装置である。
図1に示すように、患者60の鼻の穴から硬性内視鏡11を挿入して、硬性内視鏡11により患者60の頭部を形状測定する場合には、患者60の顔面と標識球12とが形状測定できるような位置に3次元形状測定装置20が設けられる。3次元形状測定装置20は、PC40と電気的に接続されており、スキャンして得られた3次元データの元になるデータをPC40に送信する。
【0042】
3次元形状測定装置20によるスキャンにより得られたデータは、PC40内にてスキャンされたものの表面の複数点の3次元座標(3次元データ)と位置姿勢の情報を算出するために用いられる。3次元形状測定装置20としては、例えば、特開2003−254732号公報に記載された位相シフト法による装置を用いることができる。これは、キセノンライトから発せられる自然太陽光に似た白色光に似た格子模様を投影して3次元スキャンするものである。
【0043】
なお、位相シフト法による3次元形状測定装置であるパルステック工業(株)製のFscanを用いれば、1秒未満の計測時間で、90±10cmの距離から形状測定が可能となる。また、分解能は0.1〜0.6mmであり、通常のデジタルカメラとしての機能も備える。即ち、1秒未満で3次元データを持った解像度の高い画像が取得できる。また、使用される光は可視光であり、レーザ等を使うことがないため安全に人体の3次元形状測定を行うことができる。
【0044】
CT装置30は、硬性内視鏡11が挿入される患者60の3次元断層データを取得するものである。CT装置30による患者60の3次元断層データを第1座標系によるデータとする。
【0045】
CT装置30は、放射線等を利用して物体を走査し、コンピュータを用いて処理された内部構造を等間隔(例えば、1mm)毎に輪切りにしたような画像(CT画像)を、患者60の内部の3次元形状を示す情報である3次元断層データとして作成するものであり、既存のCT装置を用いることができる。CT装置30はPC40と電気的に接続されており、取得した患者60の3次元断層データを、PC40に送信する。なお、CT装置30は、3次元形状測定装置20と同じ場所に設置されている必要はなく、通常、3次元形状測定装置20によるスキャンと、CT装置30による3次元断層データの取得とは別々に行われる。なお、CT画像からの3次元断層データの作成には、例えば特開2005−278992号公報に記載の方法を用いることができる。
【0046】
なお、手術支援システム1では、患者60の内部を含む3次元形状を示す情報が取得できればよいので、患者の内部の形状取得手段(3次元断層データ取得手段)として必ずしもCT装置30に限られず、例えば、MRI装置や超音波診断装置を用いてもよい。
【0047】
PC40は、3次元形状測定装置20によるスキャンにより得られたデータ及びCT装置30により取得された患者60の3次元断層データを受信して、これらの情報に対して情報処理を行う装置である。PC40は、具体的には、CPU(Central Processing Unit)、メモリ等のハードウェアにより構成され、これらの情報処理装置が動作することにより、下記のPC40の機能が実現される。
図1に示すように、PC40は、機能的な構成要素として、患者形状取得部41と、撮像画像取得部42と、表面形状算出部43と、座標軸一致部44と、内視鏡ベクトル算出部45と、交点算出部46と、出力部47とを備えている。
【0048】
患者形状取得部41は、CT装置30から送信される、患者60の3次元断層データを受信する手段である。患者形状取得部41は、受信した患者60の3次元断層データを、必要に応じて座標軸一致部44及び交点算出部46等に出力する。なお、手術支援システム1では、必ずしも
図1に示すように、患者形状取得手段としてCT装置30自体を備えている必要はなく、患者形状取得部41により(手術支援システム1に含まれないCT装置で撮像等された)患者60の3次元断層データが受信さえされればよい。
【0049】
撮像画像取得部42は、3次元形状測定装置20によるスキャンにより得られたデータを受信する手段である。撮像画像取得部42は、受信したデータを表面形状算出部43及び内視鏡ベクトル算出部45等に出力する。
【0050】
表面形状算出部43は、3次元形状測定装置20によるスキャンにより得られたデータから、患者60の表面の3次元形状を表す複数の座標データを算出する表面形状算出手段である。患者60の表面は、この手術支援システム1の適用形態の場合、患者60の顔面である。表面形状算出部43により取得される3次元形状を表す複数の座標データは、例えば3次元形状測定装置20に設定されている座標系における座標データとして算出される。この座標系は、上述した第1座標系とは異なるものであり、この座標系を第2座標系とする。即ち、3次元形状測定装置20によるスキャンにより得られたデータにより算出された患者60の3次元形状を表す複数の座標データは、第2座標系におけるデータである。表面形状算出部43は、算出した患者60の表面の3次元形状を示すデータを、座標軸一致部44に出力する。
【0051】
座標軸一致部44は、患者形状取得部41により取得された患者60の3次元断層データと表面形状算出部43により算出された患者60の表面の3次元形状を示すデータとのいずれかまたは両方を座標変換して、第1座標系によるデータと第2座標系によるデータとを座標軸を一致させたデータにする座標軸一致手段である。即ち、座標軸一致部44は、CT装置30による3次元断層データと、3次元形状測定装置20によるスキャンにより得られたデータから算出された3次元形状を示すデータとを同じ座標系によるデータにして処理できるようにするための手段である。
【0052】
具体的には、座標軸一致部44は、CT装置30による3次元断層データ、及び3次元形状測定装置20によるスキャンにより得られたデータから算出された3次元形状を示すデータの双方に共通する患者60の顔面の位置を対応させることによって座標軸の一致を行うための座標変換係数を算出する。共通する顔面の位置を対応させる処理は、例えばパターンマッチングの方法を用いることにより行われ、当該処理の結果として第1座標系及び第2座標系のいずれか一方の座標系のデータをもう一方の座標系のデータに座標変換する座標変換係数が算出される。座標軸一致部44は、算出された座標変換係数等を、必要に応じて内視鏡ベクトル算出部45、交点算出部46及び出力部47等に出力する。上記の座標軸を一致させる処理以降は、内視鏡ベクトル算出部45、交点算出部46及び出力部47等において上記の座標変換係数等が、3次元形状を示すデータに適用されることによって、CT装置30による3次元断層データと、3次元形状測定装置20によるスキャンにより得られたデータから算出された3次元形状を示すデータとは同じ座標系で処理される。以下、この座標系を座標系Fという。
【0053】
内視鏡ベクトル算出部45は、3次元形状測定装置20によりスキャンされた標識球12の複数の座標データから標識球12の中心座標を算出し、座標軸一致部44で算出された座標系Fによるデータにするための座標変換係数により座標変換して、この座標変換された標識球12の中心座標と予め記憶されている標識球12の中心と硬性内視鏡11の先端部からの撮像方向との位置関係とから座標軸一致部44で算出された座標系Fによる硬性内視鏡11の撮像方向ベクトルAを算出する内視鏡ベクトル算出手段である。なお、ここで言う撮像方向ベクトルAには、ベクトルの起点となる位置も含まれる。即ち、硬性内視鏡11の撮像方向Aのベクトルは、どの点からどの方向に撮像が行われるかを示したものである。内視鏡ベクトル算出部45は、標識球12の中心と硬性内視鏡11の撮像方向ベクトルAとの位置関係を示す情報をあらかじめ記憶している。当該位置関係を示す情報としては、具体的には例えば、同一の座標系における硬性内視鏡11の先端部の座標と硬性内視鏡11の光軸(撮像方向ベクトルA)が当たるターゲットの座標と標識球12の中心座標である。内視鏡ベクトル算出部45は、算出した座標系Fによる撮像方向ベクトルAのデータを、交点算出部46に出力する。
【0054】
ここで、硬性内視鏡11の光軸(撮像方向における撮像中心を示す直線)が、メーカーが公表している公称値通りであればよいが、実際には公称値からずれている。例えば、視野角120度の内視鏡の場合、最大で約6度(視野角の5%)程度の光軸方向の誤差が生じ得る。したがって、公称値通りであることを前提にして撮像方向ベクトルAを決定してしまうと、実際の内視鏡の視野とナビゲーションされる情報とに齟齬を生じてしまう。したがって、あらかじめ記憶しておく標識球12の中心と硬性内視鏡11の撮像方向ベクトルAとの位置関係は、実際の光軸位置(撮像方向ベクトルA)を標識球12の中心座標とともに同一の座標系で測定し、記憶しておく必要がある。
【0055】
硬性内視鏡11が直視鏡である場合の、光軸ずれの例を、
図2及び
図3を用いて説明する。直視鏡であれば、光軸(撮像方向における撮像中心を示す直線)は、鏡筒中心線と一致するはずであるが、実際には様々な要因により少しずれが生じる。
図2は対物レンズ等の要因により、鏡筒先端部で角度ずれが生じる例である。
図2は、光軸が、鏡筒中心に対してθ度ずれており(
図2(A)参照)、そのずれている方向が天頂方向からφ度である(
図2(B)参照)例である。
図2の例は、鏡筒の先端面と鏡筒中心との交点から光軸ずれが生じることを前提にしたが、光軸ずれは必ずしもこの点からずれるとは限らず、
図3(A)のようにより接眼レンズに近い側でずれ始めることもあるし、
図3(B)のように、光軸(撮像方向における撮像中心を示す直線)が鏡筒の先端面と鏡筒中心との交点を通らないこともある。光軸位置の測定は、後述する3次元形状測定装置20を用いた光軸位置測定システムを用いて行われる。なお、
図2及び
図3では、直視鏡の場合について説明したが、斜視鏡や側視鏡でも同様の光軸ずれが生じる得ることは言うまでもない。
【0056】
交点算出部46は、内視鏡ベクトル算出部45により算出された座標系Fによる硬性内視鏡11の撮像方向ベクトルAと患者形状取得部41により取得された3次元形状を示す情報に係る患者60の内部を構成する面との交点を算出する交点算出手段である。この交点は、CT装置30による3次元形状を示す情報における、硬性内視鏡11が撮像を行っている点(中心点)である。具体的には、交点算出部46は、患者60の内部を構成する面を三次元立体データにして、当該三次元立体データを構成する各面と硬性内視鏡11の撮像方向ベクトルAとの交点座標を算出する。交点座標の算出については、より詳細には後述する。交点算出部46は、算出した交点座標のデータを出力部47に出力する。
【0057】
出力部47は、交点算出部46により算出された交点座標のデータを、患者形状取得部41により取得された患者60の内部を構成する面を示す情報であるCT画像データに重畳して、表示装置50に出力する出力手段である。また、出力部47は、硬性内視鏡11により撮像されてPC40に入力された内視鏡画像データを併せて、表示装置50に出力するようにしてもよい。
【0058】
表示装置50は、PC40から入力された情報を表示する。術者は表示装置50を参照することにより、硬性内視鏡11が患者60内部のどの部分を撮像しているのかを知ることができる。
【0059】
引き続いて、手術支援システム1の動作について、
図4のフローチャートを参照して説明する。この動作は、例えば、患者60に対する手術の際に硬性内視鏡11を挿入して治療等を行うときの動作である。この説明においては、手術前の処理と手術時の処理とに分けて説明する。
【0060】
まず手術前に、CT装置30を用いた、患者60に対するCTスキャン撮影が行われる(ステップS10参照)。このCTスキャン撮影は、硬性内視鏡11が挿入される患者60の部位に対して行われる。これにより、患者60の表面である顔面と、硬性内視鏡11が挿入される患者60の内部を構成する面との3次元形状を示す情報が取得される。CTスキャン撮影により取得された患者60の内部の3次元形状を示す情報(3次元断層データ)は、PC40に送信される。PC40では、患者形状取得部41により当該情報が取得されて、PC40内に格納される(ステップS20参照)。上記が手術前の処理であり、例えば、手術の前日等に行われる。
【0061】
引き続いて、手術時の処理を説明する。まず、患者60を手術室に入室させて、
図1に示すように、硬性内視鏡11を鼻の穴から挿入できるように手術台70の上の仰向けに配置する。患者60を配置した後、硬性内視鏡11を挿入する前に、3次元形状測定装置20によって、配置された患者60がスキャンされる(ステップS30参照)。スキャンにより得られたデータは、3次元形状測定装置20からPC40に送信されて、PC40において撮像画像取得部42によって受信される。受信されたデータは、撮像画像取得部42から表面形状算出部43に出力される。
【0062】
表面形状算出部43では、当該データから患者60の表面である顔面の3次元形状を示すデータが算出される(ステップS40参照)。算出された患者60の顔面の3次元形状を示すデータは、表面形状算出部43から座標軸一致部44に出力される。これと同じタイミングで、PC40内に格納されていた、CT装置30による患者60の内部の3次元形状を示すデータ(3次元断層データ)が、患者形状取得部41から座標軸一致部44に出力される。
【0063】
この時点ではCT装置30による患者60の3次元形状を示すデータと、3次元形状測定装置20によるデータから患者60の表面である顔面の3次元形状を示すデータとに係るそれぞれの座標系の座標軸は、一致していない。CT装置30によるデータと、3次元形状測定装置20のデータとは個々の座標系による値になっている状態である。
【0064】
ここで、座標軸一致部44によって、これら2つのデータにおける顔面の形状がマッチングされることにより座標変換係数が算出され、データが座標変換されて、2つのデータが一致された座標軸である座標系Fによるデータになる(ステップS50参照)。顔面の形状のマッチングは、上述したようにパターンマッチングの手法により行われる。なお、マッチングする部位は、顔面全体や顔面の鼻や頬等の特徴ある部位等、あらかじめ設定しておく。座標系Fによるデータにするための座標変換係数は、座標軸一致部44から、内視鏡ベクトル算出部45、交点算出部46及び出力部47にそれぞれ出力されてデータの座標変換等が行われて、これ以降、座標系Fによるデータを基準として3次元形状に対する情報処理が行われる。上記が手術開始までの処理である。
【0065】
また、手術開始前までに、後述する光軸位置測定装置80を用いて、硬性内視鏡11の実際の光軸位置を測定して記憶しておく。
【0066】
続いて、手術が開始され、術者75によって、硬性内視鏡11が患者60に挿入される。この際、患者60の頭部は、ステップS30〜S55の処理を行ったときから大きく動かさないようにする。これは既に得られている座標系Fによる患者表面の3次元データと手術中に得られる患者表面の3次元データを座標系Fによるデータにしたときのずれが大きくなることを防止するためである。なお、微小なずれは、手術中に得られる患者表面の3次元データを用いて座標系Fによるデータにするための座標変換係数を補正すれば、問題ない。硬性内視鏡11が患者60に挿入されてから以降継続して、3次元形状測定装置20によって、患者60及び標識球12がスキャンされる(ステップS60参照)。スキャンされたデータは、3次元形状測定装置20からPC40に送信されて、PC40において撮像画像取得部42によって受信される。受信されたデータは、撮像画像取得部42から内視鏡ベクトル算出部45に出力される。
【0067】
続いて、内視鏡ベクトル算出部45によって、標識球12の中心の3次元座標が算出される(ステップS70)。続いて、内視鏡ベクトル算出部45によって、算出された標識球12の中心の3次元座標から、あらかじめ記憶していた標識球12の中心座標と硬性内視鏡11の撮像方向ベクトルAとの位置関係を示す情報に基づいて、座標系Fによるデータとして硬性内視鏡11の撮像方向ベクトルAが算出される(ステップS80参照)。この際、あらかじめ記憶されている内視鏡ごとの標識球12の中心座標と実際の光軸位置(撮像方向ベクトルA)との位置関係を示す情報を用いて、座標系Fによる硬性内視鏡11の撮像方向ベクトルAを算出する。
【0068】
算出された撮像方向ベクトルAの情報は、内視鏡ベクトル算出部45から交点算出部46に出力される。これと同じタイミングで、PC40内に格納されていたCT装置30による患者60の3次元形状を示す情報が、患者形状取得部41から交点算出部46に出力される。続いて、交点算出部46によって、硬性内視鏡11の撮像方向ベクトルAと、患者60の内部を構成する面との交点が算出される(ステップS90参照)。
【0069】
交点の算出は、以下のように行われる。まず、交点算出部46によって、CT装置30による患者60の3次元形状を示す情報が、三次元立体データに変換される。なお、三次元立体データへの変換は手術前に行い、あらかじめPC40に格納しておいてもよい。三次元立体データが例えばポリゴンデータである場合には患者60の内部が多数の三角面で構成され、ボクセルデータである場合には患者60の内部が多数の六面体で構成される。次に、このような三角面や六面体の面と、硬性内視鏡11の撮像方向ベクトルAとの交点が算出される。なお、この交点の算出については、例えば特許5561458号公報に開示された方法を用いることができる。
【0070】
算出された交点の座標の情報は、交点算出部46から出力部47に出力される。このタイミングで、患者60の内部を構成する面を示す情報であるCT画像が、患者形状取得部41から出力部47に出力される。交点の情報は、出力部47によって、患者60の内部を構成する面を示す情報であるCT画像に当該交点の座標に応じた箇所に重畳されて、表示装置50に入力される。入力された画像は、表示装置50によって表示される(ステップS100参照)。交点の情報は、例えば
図5に示されているように、硬性内視鏡11の光軸と併せて、3次元断層データ及び内視鏡撮像画像上に表示される。術者75は表示された画像を参照することにより、硬性内視鏡11が患者60内部のどの部分を撮像しているのかを知ることができる。
【0071】
また、硬性内視鏡11により撮像された画像も、PC40によって受信されて出力部47から表示装置50に出力されるようにして、上記の硬性内視鏡11により撮像されている箇所がどの点に位置しているかの表示と併せて表示されるようにすることが望ましい。
【0072】
上記のステップS60〜S100までの処理は、例えば、1秒間間隔等の等間隔で繰り返し行われる。なお、PC40におけるステップS30〜S50の処理と、ステップS60〜S100の処理とは異なっているが、例えば、ステップS50の座標軸の一致の処理が行われたら、自動的にステップS60以降の処理に移るようにしてもよい。また、術者75等の操作により処理の切替が行われてもよい。
【0073】
上述したように本発明により取得された実光軸の位置が適用される手術支援システム1では、CT装置30による患者60の内部を構成する面及び患者の表面の3次元形状を示す情報(3次元断層データ)と、3次元形状測定装置20により外部から患者60をスキャンして得られたデータとを用いて、硬性内視鏡11で撮像している部分が、患者60のどの部位に相当するかを表示することができる。従って、手術支援システム1によれば、新たに特殊な内視鏡を用いることなく、上記の表示を行うことができる。また、手術支援システム1によれば、上記の表示において、患者60の体内の脳脊髄液等のような液体の影響を受けることがないので、正確に上記の表示を行うことができる。従って、手術支援システム1を用いれば、安全かつ正確に手術を行うことができる。
【0074】
また、CTスキャン撮影(ステップS10)の際に、患者60にマーク等をつける必要がなく、通常通りのCTスキャン撮影を行えばよいので、簡便である。また、位置合わせ等のために患者60をピンなどで固定する必要がない。患者60を手術中に動かしたとしても、容易に位置合わせを行うことができる。上記の手術支援システム1の各構成要素は、比較的安価であり、低コストで実現することができる。
【0075】
以上は、本発明による光軸位置測定システムにより取得された硬性内視鏡11の実光軸の位置が適用される手術支援システム1についての説明であるが、上述したように硬性内視鏡11の実光軸の位置が精度よく得られていないと、硬性内視鏡11で撮像している患者60の部位を精度よく表示することはできなくなり、安全かつ正確に手術を行うことができなくなる。本発明は、軽量かつシンプルな構造であって操作性や利便性に優れた光軸位置測定装置80を用いて硬性内視鏡11の実光軸の位置を精度よく取得することができる光軸位置測定システム及び光軸位置測定方法である。
【0076】
光軸位置測定システムは、3次元形状測定装置、光軸位置測定装置80及び後述する演算処理を行うプログラムがインストールされているPC(Personal Computer)からなる。
図1に示すように3次元形状測定装置及びPCは、手術支援システム1の3次元形状測定装置20とPC40をそのまま用いることができる。ただし、3次元形状測定を精度よく行うことができるならば、手術支援システム1の3次元形状測定装置20とは別の3次元形状測定装置を使用することもでき、後述する演算処理を行うプログラムがインストールされているならば、手術支援システム1のPC40とは別のPCを用いることもできる。以下に、
図6〜
図13に基づいて、本発明の実施形態である光軸位置測定システムにおける光軸位置測定装置80及びそれを使用した光軸位置測定方法について説明する。この説明においては、3次元形状測定装置20とPC40は手術支援システム1のものがそのまま使用されるとする。
【0077】
この光軸位置測定装置80は、長尺状器具である硬性内視鏡11の実光軸の位置をキャリブレ―ションするため、すなわち、実光軸の位置と位置姿勢検出用標識体である標識球12との3次元相対位置関係を測定するため、硬性内視鏡11が支持される装置である。そして、硬性内視鏡11が支持された状態で3次元形状測定装置20により3次元形状が測定され、3次元形状測定装置20からPC40に入力したデータをPC40にて演算処理することで、光軸位置測定装置80と硬性内視鏡11の立体形状を表す3次元データ(x,y,zからなる座標値データの群)が取得される。
【0078】
まず、光軸位置測定装置80の構造について説明する。
図6〜
図9に示されるように、この光軸位置測定装置80は、ステンレス等の金属板材からなるベース部材81を備えている。このベース部材81の前端における両側には一対の腕部84が形成され、それら腕部84の間には軽量化等のために肉抜部83が設けられている。ベース部材81の上側に位置する面である主面82の中央部には、V字溝状のガイド部95がベース部材81の前後方向に向かって延びるように設けられている。このガイド部95は、硬性内視鏡11の鏡筒15をその長手方向に沿って移動可能な状態で支持するための部分であり、硬性内視鏡11の鏡筒15を支持したとき鏡筒15の中心軸は主面82に平行であるとともに、主面82と後述する被撮像面86とに垂直な平面に対しても平行ある。
【0079】
ベース部材81における上記一対の腕部84の先端には、長方形状をなすターゲット部材85の下端側が支持固定されている。このターゲット部材85は、全体的に黒色に着色されたステンレス等の金属板材からなるとともに、ベース部材81の主面82に対して傾斜した状態で設けられ、その傾斜角度は例えばθ=30°〜70°の範囲内(本実施形態では60°)となるように設定されている(
図7(c)参照)。ターゲット部材85において斜め下方を向く面は被撮像面86であり、その被撮像面86の中央部には硬性内視鏡11により撮像可能な所定のターゲット画像88が描かれている。本実施形態では、ターゲット画像88として
図6に示すようなもの、即ち正方形状をなす白黒のチェッカー部を2列縦隊で配列したチェッカーパターンが描かれている。このチェッカーパターンは、個々のパターンごとに文字(数字)が付されており、ターゲット画像88の下端側から上端側に向かって細長く直線的に延びている。なお、上述したガイド部95の先端側の延長線上には、ターゲット画像88の中心線が存在している。また、定まった断面径の硬性内視鏡11の鏡筒15をガイド部95に支持したとき、鏡筒15の中心線がターゲット画像88の中心線にある白黒のチェッカーパターンのコーナーと交差するよう、ターゲット部材85のベース部材81への取り付けが調整されている。この調整は、光軸位置測定装置80の製作時において、同じ断面径の長尺状の円柱体で先端部分の中心軸位置が尖っている物体をガイド部95に支持し、被撮像面86に当接させることで行う。
【0080】
ベース部材81の主面82上において離間した複数の位置には、3次元形状測定装置20による立体形状測定により得られた3次元データを処理することで定点座標を取得することが可能であって、ターゲット画像88との3次元相対位置関係が既知とされている光軸位置測定用標識体91が設けられている。本実施形態では、このような光軸位置測定用標識体91として白色の標識球が3つ設けられている。具体的には、ターゲット部材85において斜め上方を向く面87をその正面から視たときに、ベース部材81はターゲット部材85の左右両側に張り出した部分を有しており、それらの部分に3つの標識球が配置されている。従って、当該方向から3次元形状測定装置20が光軸位置測定装置80をスキャンしたときに、ターゲット部材85に光軸位置測定用標識体91が隠れにくくなり、光軸位置測定用標識体91と硬性内視鏡11の位置姿勢検出用標識体である標識球12の立体形状の測定が可能となり、光軸位置測定用標識体91と標識球12との3次元相対位置関係を取得することが可能となる。
【0081】
また、ベース部材81における上記一対の腕部84の上面には、ステンレス等の金属材料からなりターゲット部材85を支持する側部支持片96がそれぞれ設けられている。側部支持片96には上下方向に延びる複数のスリットが等間隔に形成されており、これらのスリットがあることで硬性内視鏡11の鏡筒15の移動距離がある程度把握できるようになっている。
【0082】
なお、この光軸位置測定装置80は、術者75が片手で把持できて簡単に持ち運べる程度の大きさ・重さとなるように構成されている。
【0083】
次にこの光軸位置測定装置80を用いた、硬性内視鏡11の光軸の位置と標識球12との3次元相対位置関係を測定する方法について説明する。これは端的には、
図8に示すように、光軸位置測定装置80に硬性内視鏡11を支持した状態で光軸位置測定装置80の3次元形状測定を行い、取得される3次元データを演算処理することで同一の座標系で硬性内視鏡11の光軸位置を表す値と標識球12の定点座標(中心座標)を得ることである。光軸位置を表す値は、例えば硬性内視鏡11の鏡筒15の先端部14における光軸上の座標Tと光軸に平行なベクトル成分Vであり、これが上述した撮像方向ベクトルAである。この方法は次の5つの手順から成る。
【0084】
(手順1)
光軸位置測定装置80のターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係を取得する。
(手順2)
光軸位置測定装置80のV字溝状のガイド部95に、先端部14がターゲット部材85に当接するよう硬性内視鏡11の鏡筒15をセットしたときの(
図9(a)の状態にしたときの)、硬性内視鏡11の先端部14と標識球12との3次元相対位置関係を取得する。
(手順3)
光軸位置測定装置80のV字溝状のガイド部95に硬性内視鏡11の鏡筒15を支持した状態で、鏡筒15を適切な距離移動させたとき(
図9(b),
図9(c)の状態にしたとき)の、硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点を取得する。
(手順4)
手順3で硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点を取得したときの、光軸位置測定用標識体91と標識球12との3次元相対位置関係を取得する。
(手順5)
手順1から手順4で得られた3次元相対位置関係と、硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点とから、硬性内視鏡11の光軸の位置と、標識球12との3次元相対位置関係を取得する。
【0085】
まず、手順1の、ターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係を取得する方法から説明する。ターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係を取得するとは、具体的には同一の座標系で、ターゲット画像88の各位置における座標と、光軸位置測定用標識体91の定点座標(中心座標)とを取得することである。ただし、ターゲット画像88における各位置は無限大にあるため、実質的にすべての位置を同一の座標系で得ることは不可能である。よって、光軸位置測定用標識体91の中心座標を取得することと、ターゲット画像88における各位置を被撮像面86内にX,Y軸を設定してx,y座標値で表せるようにし、このx,y座標値を、光軸位置測定用標識体91の中心座標を表す座標系の座標値へ座標変換する座標変換係数を取得することを行う。これが、ターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係を取得することである。
【0086】
被撮像面86内に設定するX,Y軸は様々な方法が考えられるが、本実施形態では、定まった断面径の硬性内視鏡11の鏡筒15をガイド部95に支持したとき、鏡筒15の中心軸が被撮像面86と交差する点を座標原点Oとし、白黒のチェッカー部の境界ラインが上端から下端まで連続しているターゲット画像88の中心線をY軸とし、この中心線の垂直方向をX軸とする。以後、ターゲット画像88の各位置における平面座標を表すため被撮像面86内に設定したX,Y座標軸を、座標系Sという。そして、座標系Sの座標値を座標変換する先の座標系であり、光軸位置測定用標識体91の中心座標を表す座標系を座標系Dといい、座標変換に用いる座標変換係数を座標変換係数Fsdという。以下、座標系Dによる光軸位置測定用標識体91の中心座標を取得し、座標変換係数Fsdを取得する方法を説明する。
【0087】
光軸位置測定装置80のガイド部95に定まった断面径の硬性内視鏡11の鏡筒15又は定まった断面径の長尺状の円柱体を支持し、光軸位置測定装置80を3次元形状測定装置20に対し、鏡筒15(又は円柱体)、光軸位置測定用標識体91、被撮像面86、及びベース部材81の主面82が3次元形状測定可能になるよう適切な位置に設置する。次に3次元形状測定装置20による測定を実行し、光軸位置測定装置80の3次元データを取得する。3次元形状測定装置20の座標系が座標系Dであり、取得した3次元データは座標系Dによるデータある。この取得した3次元データを用いて、PC40にて次の(1)〜(7)の演算処理を実行する。
【0088】
(1)すべての3次元データの中から、それぞれの光軸位置測定用標識体91の3次元データを抽出し、抽出した3次元データを用いてそれぞれの光軸位置測定用標識体91の中心座標を計算する。演算処理を行うPC40には、光軸位置測定用標識体91の径が記憶されており、球体という情報および径の数値により3次元データの抽出が行われる。そして、抽出した3次元データを球体の式(x−a)
2+(y−b)
2+(z−c)
2=d
2に当てはめ、最小2乗法により中心座標(a,b,c)を求める。この、すべての3次元データの中から光軸位置測定用標識体91の3次元データのみを抽出する方法は公知技術であり、詳細は特許第3952467号に記載されているのでそちらを参照する。取得された光軸位置測定用標識体91の中心座標は、座標系Dによる座標である。なお、中心座標を計算して記憶するとともに、それぞれの中心座標を結ぶことで形成される三角形の辺の長さと角度も計算して記憶しておく。これは、3つの光軸位置測定用標識体91の位置関係からそれぞれの光軸位置測定用標識体91を識別することができるようにするためであり、この後、別の座標系で光軸位置測定用標識体91の中心座標を取得するときも常にそのようにする。これは異なる座標系同士で3つの光軸位置測定用標識体91の中心座標をそれぞれ対応できるようにし、座標変換係数を計算することができるようにするためである。
【0089】
(2)すべての3次元データの中から、ベース部材81の主面82の3次元データを抽出し、ベース部材81の主面82の法線ベクトルを計算する。これは、次の順に演算処理を行うことで行う。まず、すべての3次元データから(1)で抽出した3次元データを除いた残りのデータの中から、1つの光軸位置測定用標識体91の中心座標の近傍にある一部の3次元データを抽出し、平面の式a・x+b・y+c・z+1=0に代入して最小2乗法により係数a,b,cを計算する。このとき(1)で計算した中心座標を結ぶベクトルの成分とベクトル(a,b,c)との成す角度が略垂直になっていれば、すべての3次元データから平面の式a・x+b・y+c・z+1=0による平面からの距離が所定の微小範囲内にある3次元データを抽出する。このとき抽出された3次元データが所定数以上あれば、最初に抽出した3次元データはすべて主面82のものと判定して、抽出した3次元データすべてを、平面の式a・x+b・y+c・z+1=0に代入して最小2乗法により係数a,b,cを計算する。もし、(1)で計算した中心座標を結ぶベクトルの成分とベクトル(a,b,c)とが略垂直でなかったり、抽出された3次元データが所定数未満であれば、最初に抽出した3次元データは主面82以外のものを含むと判定して、最初に抽出した3次元データの近傍にあるデータを抽出して同一の処理を行う。この処理を係数a,b,cが計算されるまで行う。計算されたa,b,cが主面82の法線ベクトルの成分(a,b,c)である。なお、法線ベクトルは(a,b,c),(−a,−b,−c)の2つがあり、主面82の上方に向かう法線ベクトルを選定する。それには、3次元形状測定装置20の原点座標から光軸位置測定用標識体91のいずれかに向かうベクトルと(a,b,c),(−a,−b,−c)の法線ベクトルとの成す角度をベクトルの内積の式により計算し、角度が90度未満である方の法線ベクトルを選定する。
【0090】
(3)すべての3次元データの中から、被撮像面86の3次元データを抽出し、被撮像面86の法線ベクトルを計算する。これは、次の順に演算処理を行うことで行う。まず、すべての3次元データから(1)と(2)で抽出した3次元データを除いた残りのデータの中から、光軸位置測定用標識体91の中心座標の近傍から所定距離以上離れた位置にある一部の3次元データを抽出し、平面の式e・x+f・y+g・z+1=0に代入して最小2乗法により係数e,f,gを計算する。このとき(2)で計算した法線ベクトル(a,b,c)とベクトル(e,f,g)との成す角度がベース部材81の主面82と被撮像面86が成す角度θ又は(180°−該角度θ)になっていれば(本実施形態では略60°又は略120°になっていれば)、すべての3次元データから平面の式e・x+f・y+g・z+1=0による平面からの距離が所定の微小範囲内にある3次元データを抽出する。このとき抽出された3次元データが所定数以上あれば、最初に抽出した3次元データはすべて被撮像面86のものと判定して、抽出した3次元データすべてを、平面の式e・x+f・y+g・z+1=0に代入して最小2乗法により係数e,f,gを計算する。もし、(2)で計算した法線ベクトル(a,b,c)とベクトル(e,f,g)との成す角度が所定の角度でなかったり、抽出された3次元データが所定数未満であれば、最初に抽出した3次元データは被撮像面86以外のものを含むと判定して、最初に抽出した3次元データの近傍にあるデータを抽出して同一の処理を行う。この処理を係数e,f,gが計算されるまで行う。計算されたe,f,gが被撮像面86の法線ベクトルの成分(e,f,g)である。なお、法線ベクトルは(e,f,g),(−e,−f,−g)の2つがあり、被撮像面86からベース部材81の主面82に向かう法線ベクトルを選定する。それには、(2)で計算した法線ベクトル(a,b,c)と、(e,f,g),(−e,−f,−g)の法線ベクトルとの成す角度を計算し、角度が90°を超える方の法線ベクトルを選定する。本実施形態では、略60°か略120°のどちらかになるので、略120°になる方を選定する。
【0091】
(4)法線ベクトル(a,b,c)と法線ベクトル(e,f,g)の外積によるベクトルを計算し、このベクトルの単位ベクトルαdを計算する。これは、座標系Dにおけるベース部材81の主面82と被撮像面86の両方に垂直な平面の法線ベクトルの単位ベクトルαdを計算することである。この単位ベクトルαdは被撮像面86に設定したX軸と平行である。
(5)(4)で計算した単位ベクトルαdと(3)で計算した法線ベクトル(e,f,g)の外積によるベクトルを計算し、このベクトルの単位ベクトルβdを計算する。これは、被撮像面86にあるターゲット画像88の中心線に平行なベクトルの単位ベクトルβdを計算することである。この単位ベクトルβdは被撮像面86に設定したY軸と平行である。
【0092】
(6)定まった断面径r0の硬性内視鏡11の鏡筒15又は定まった断面径r0の円柱体の中心軸が被撮像面86と交差する点の座標値Odを計算する。これは、次の順に演算処理を行うことで行う。まず、単位ベクトルαdを法線ベクトルとし、被撮像面86に向かって右側前方と左側にある光軸位置測定用標識体91の中心座標の中間点の座標を含む平面の式を計算する。次にすべての3次元データの中から、(1)〜(3)で抽出した光軸位置測定用標識体91、主面82及び被撮像面86の3次元データを除き、残ったデータにおいて計算した平面から設定された距離内にある3次元データを抽出する。これにより硬性内視鏡11の鏡筒15又は定まった断面径の円柱体の3次元データを含むデータが抽出される。次に単位ベクトルαdと主面82の法線ベクトルの外積によるベクトルを計算し、このベクトルを法線ベクトルとし、被撮像面86に向かって右側前方と左側にある光軸位置測定用標識体91の中心座標の中間点の座標を含む平面と、この平面を法線ベクトルの方向に所定の距離づつ移動したときの複数の平面の式を計算する。次に、抽出した3次元データの中からこれらの平面からの距離が微小範囲内にある3次元データを、各平面ごとに抽出する。これにより、定まった断面径の硬性内視鏡11の鏡筒15又は円柱体を中心軸方向に複数の箇所で輪切りしたときの切り口に相当する箇所の3次元データが抽出される。次に、各平面ごとに抽出された3次元データを球体の式(x−a)
2+(y−b)
2+(z−c)
2=r0
2に当てはめ、最小2乗法により中心座標(a,b,c)を求める。得られた複数の中心座標は硬性内視鏡11の鏡筒15又は円柱体の中心軸上の座標とみなせるので、これらの複数の座標を通る直線の式を最小2乗法で計算する。次に計算された直線の式と(3)で計算した被撮像面86の平面の式から成る連立方程式を解くことで、定まった断面径r0の鏡筒15又は円柱体の中心軸が被撮像面86と交差する点の座標値Odを取得する。
【0093】
(7)(4)〜(6)で得られた単位ベクトルαd、単位ベクトルβd、定まった断面径r0の鏡筒15又は円柱体の中心軸が被撮像面86と交差する点の座標値Odから、座標系Sによる座標値を座標系Dによる座標値に変換するための座標変換係数Fsdを計算する。(4)〜(6)で得られた単位ベクトルαd、単位ベクトルβd、座標値Odは座標系Dによる値であり、これらの座標系Sによる値は、単位ベクトルαはX軸に平行な単位ベクトルであるため(1,0,0)、単位ベクトルβはY軸に平行な単位ベクトルであるため(0,1,0)、座標値Oは座標原点であるため(0,0,0)である。2つのベクトルの成分と1つの点の座標値が座標系D、座標系Sでそれぞれ得られているので、これらの値を座標変換の式に代入して連立方程式を解けば、座標変換係数Fsdを計算することができる。この計算は公知技術であり、詳細は例えば特許第4291178号等に記載されているのでそちらを参照する。
【0094】
これにより、座標系Dによる光軸位置測定用標識体91の中心座標と、座標系Sによる座標値を座標系Dによる座標値に変換する座標変換係数Fsdを取得することができる。すなわち、光軸位置測定装置80のターゲット画像88と、光軸位置測定用標識体91との3次元相対位置関係を取得することができる。なお、ターゲット画像88を撮影したときの撮像画像の指定した位置の座標を、座標系Sによる座標値で取得することができるよう、白黒のチェッカーパターンのコーナーの座標系Sによる座標値は予めPC(Personal Computer)40に記憶されている。これは、上述した定まった断面径r0の鏡筒15又は円柱体の中心軸が被撮像面86と交差する白黒のチェッカーパターンのコーナーを座標原点とし、ターゲット画像88の中心線をY軸、座標原点でY軸と直交する軸をX軸とした平面座標を想定し、白黒のチェッカーパターンのコーナーごとに、座標原点からのX軸方向距離とY軸方向距離を精度よく測定すればよい。また、ターゲット画像88を被撮像面86に描く際、それぞれの白黒のチェッカーパターンの各辺の長さを精度よく描くことができれば、設定値をそのままX軸方向距離とY軸方向距離にすることができる。
【0095】
手順1は硬性内視鏡11の光軸位置をキャリブレーションするための準備であり、一度行って必要なデータをPC(Personal Computer)40に記憶すれば2回目以降は行う必要はない。すなわち手順1の準備作業が完了すれば、手順2以降の作業を繰り返し行い、硬性内視鏡11ごとに光軸位置をキャリブレーションすることができる。
【0096】
次に、手順2の、光軸位置測定装置80のV字溝状のガイド部95に、先端部14がターゲット部材85に当接するよう、硬性内視鏡11の鏡筒15をセットしたときの(
図9(a)の状態にしたときの)、硬性内視鏡11の先端部14と、標識球12との3次元相対位置関係を取得する方法について説明する。硬性内視鏡11の先端部14と、標識球12との3次元相対位置関係を取得するとは、具体的には同一の座標系で硬性内視鏡11の先端部14の座標と標識球12の中心座標とを取得することである。この同一の座標系を座標系Pとする。なお、
図3に示すように硬性内視鏡11の実光軸が先端部14の面と鏡筒15の中心軸との交点を通らない場合は、硬性内視鏡11の先端部14の座標に替えて硬性内視鏡11の先端部14の座標を含み、硬性内視鏡11の鏡筒15の中心軸に垂直な平面の式を取得するようにする。
【0097】
光軸位置測定装置80のガイド部95に、先端部14がターゲット部材85に当接するよう、キャリブレーション対象の硬性内視鏡11の鏡筒15を支持し(
図9(a)の状態にし)、光軸位置測定装置80を3次元形状測定装置20に対し、鏡筒15、光軸位置測定用標識体91及び標識球12が3次元形状測定可能になるよう適切な位置に設置する。鏡筒15が定まった断面径r0であれば、光軸位置測定用標識体91及び標識球12が3次元形状測定可能であればよいので、
図1に示すように光軸位置測定装置80を斜め上方を向く面87の側から3次元形状測定を行う位置に設置してもよい。次に3次元形状測定装置20による測定を実行し、光軸位置測定装置80及び硬性内視鏡11の3次元データを取得する。この3次元形状測定装置20の座標系が座標系Pであり、取得した3次元データは座標系Pによるデータである。この取得した3次元データを用いて次の(1)〜(4)の演算処理を実行する。
【0098】
(1)すべての3次元データの中から、それぞれの光軸位置測定用標識体91の3次元データを抽出し、抽出した3次元データを用いてそれぞれの光軸位置測定用標識体91の中心座標を計算する。これは、手順1の(1)で行った演算処理と同一である。
(2)すべての3次元データの中から、それぞれの標識球12の3次元データを抽出し、抽出した3次元データを用いてそれぞれの標識球12の中心座標を計算する。これも、抽出に用いる球体の径の情報が手順2の(1)と異なるのみで、手順1の(1)で行った演算処理と同一である。
【0099】
(3)手順1の(1)及び手順2の(1)で取得した光軸位置測定用標識体91の中心座標と、手順1の(6)の演算処理の途中で求めた、定まった断面径の鏡筒15又は円柱体の中心軸方向のベクトル成分を用いて、座標系Pによる硬性内視鏡11の鏡筒15の中心軸方向のベクトルの成分を計算する。これは、次の順に演算処理を行うことで行う。まず、手順2の(1)で取得された座標系Pによる光軸位置測定用標識体91の中心座標と、手順1の(1)で取得されている座標系Dによる光軸位置測定用標識体91の中心座標とを座標変換の式に代入し連立方程式を解くことで、座標系Dによる値を座標系Pによる値に変換する座標変換係数Fdpを取得する。次に、手順1の(6)の演算処理の途中で求めた座標系Dによる定まった断面径r0の鏡筒15の中心軸方向のベクトル成分は、鏡筒15の断面径が異なっても同一であるので、このベクトル成分を座標変換係数Fdpにより座標変換して座標系Pによるベクトル成分にする。これで、硬性内視鏡11の鏡筒15の中心軸方向のベクトルの成分が取得される。
【0100】
(4)手順1で取得したデータ、及び手順2の(3)で取得した座標変換係数Fdpと鏡筒15の中心軸方向のベクトルの成分を用いて、又は手順1で取得したデータと手順2で取得した3次元データを用いて、先端部14の中心軸上の座標Tpを計算する。この演算処理は、硬性内視鏡11の鏡筒15の断面径が定まった断面径r0である場合と、この断面径r0と異なる場合又は未知なる場合とで処理方法が異なる。硬性内視鏡11の鏡筒15の断面径が定まった断面径r0である場合は、まず、手順1の(6)で取得した被撮像面86の座標系Dによる座標系Sの原点の座標Odを、手順2の(3)で取得した座標変換係数Fdpで座標変換して座標系Pによる座標Opにする。次に、座標Opから先端部14の中心軸上の座標Tpまでの距離Lを、L=r0/tanθの計算式で計算する。θは主面82と被撮像面86の成す角度であり、手順1の(3)の演算処理の途中で取得した値を用いるか、光軸位置測定用標識体91が設定値通り精度よく制作されていれば、設定値を用いる。次に、手順2の(3)で取得した鏡筒15の中心軸方向のベクトルの単位ベクトルγpの成分を計算し、ベクトルγpの向きが被撮像面86側を向いていれば、座標OpからL×γpのベクトル成分を減算する。また、反対側を向いていれば加算する。これにより、先端部14の中心軸上の座標Tpが得られる。
【0101】
硬性内視鏡11の鏡筒15の断面径rが定まった断面径r0でない場合、又は断面径rが未知なる場合は、まず、手順2の(1)と(3)で取得した光軸位置測定用標識体91の中心座標と鏡筒15の中心軸方向のベクトルとを用いて、手順1の(6)で行った演算処理と同じ演算処理を行い、鏡筒15を複数の箇所で輪切りにしたときの切り口に相当する箇所の3次元データを抽出する。次に手順2の(3)で取得した座標変換係数Fdpにより、手順1の(4)で取得した単位ベクトルαdを座標変換して座標系Pによる単位ベクトルαpにする。そして、手順2の(3)で取得した鏡筒15の中心軸方向のベクトルの単位ベクトルγpを計算する。次に単位ベクトルαp、単位ベクトルγp及び任意の3次元データ(座標)をベクトル(1,0,0)、ベクトル(0,0,1)及び座標(0,0,0)に変換するための座標変換係数Fpkを計算し、この座標変換係数Fpkにより抽出した3次元データを座標変換する。これにより抽出した3次元データはZ軸方向が硬性内視鏡11の鏡筒15の中心軸方向に平行な座標系による値となり、抽出した3次元データは鏡筒15の輪切りの箇所ごとにz座標値が略同一の値となり、x,y座標値の平面座標で処理することができる。次に、円の式(x−a)
2+(y−b)
2=r
2に、輪切りの箇所ごとに3次元データを代入し、最小2乗法により鏡筒15の円の中心座標(a,b)と半径値rを計算する。計算した半径値rの平均値ravが定まった断面径r0と許容範囲内で一致していれば、上述した鏡筒15の断面径rが定まった断面径r0である場合の処理を行う。
【0102】
平均値ravが定まった断面径r0と許容範囲内で一致していない場合は、鏡筒15の輪切りの箇所ごとに略同一の値であるz座標値を平均し、このz座標値の平均値z’を円の中心座標(a,b)に加えて3次元座標(a,b,z’)にし、この座標値を座標変換係数Fpkの逆の座標変換係数である座標変換係数Fkpにより座標変換して座標径Pによる座標値にする。次に、得られた複数の中心座標は座標系Pによる硬性内視鏡11の鏡筒15の中心軸上の座標とみなせるので、これらの複数の座標を通る直線の式を最小2乗法で計算する。次に、手順1の(3)により取得されている被撮像面86の平面の式を、手順2の(3)で取得した座標変換係数Fdpにより座標変換することで座標系Pによる平面の式にし、計算された直線の式と被撮像面86の平面の式から成る連立方程式を解くことで、鏡筒15の中心軸が被撮像面86と交差する点の座標値Cpを取得する。次に、座標Cpから先端部14の中心軸上の座標までの距離Lを、L=rav/tanθの計算式で計算する。θは上述したように主面82と被撮像面86の成す角度である。次に、既に取得されている単位ベクトルγpの向きを考慮して、座標CpからL×γpのベクトル成分を減算又は座標CpにL×γpのベクトル成分を加算する。これにより、先端部14の中心軸上の座標Tpが得られる。
【0103】
なお、硬性内視鏡11の先端部14の座標に替えて硬性内視鏡11の先端部14の座標を含み、硬性内視鏡11の鏡筒15の中心軸に垂直な平面の式を取得する場合は、手順2の(3)で取得した鏡筒15の中心軸方向のベクトルを法線ベクトルとし、先端部14の中心軸上の座標Tpを含む平面の式を計算すればよい。
【0104】
次に、手順3の、光軸位置測定装置80のV字溝状のガイド部95に硬性内視鏡11の鏡筒15を支持した状態で、鏡筒15を適切な距離移動させたときの(
図9(b)の状態にしたときの)、硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点を取得する方法について説明する。硬性内視鏡11の撮像システムを作動させ、鏡筒15を適切な距離移動させると、表示装置50には
図10のような硬性内視鏡11によるターゲット画像88の撮像画像が表示される。
図10(a)は撮像データからそのまま画像を作成したもので、この撮像データに歪み補正処理を行うことで撮像画像は
図10(b)のように適正な画像になる。この
図10(b)の画像データを処理することで、ターゲット画像88において白黒のチェッカーパターンが切り替わるラインである中心線を検出する。この中心線が座標系SのY軸に相当する。次に、画像データを処理し、
図10(d)に示すように白黒のチェッカーパターンのコーナーの画像位置を検出する。そして、このコーナーの画像位置に予め記憶されている座標系Sの座標値をあてはめる。この座標値をあてはめる際、それぞれの白黒のチェッカーパターンが何番目のパターンであるかを認識する必要がある。それには、作業者が入力装置から撮像画像上の白黒のチェッカーパターンの1つを指定し、それが何番目のパターンであるかを入力すればよいが、硬性内視鏡11の先端部14が被撮像面86から離れると、ターゲット画像88の撮像画像が小さくなり、白黒のチェッカーパターンに付した番号を認識しにくくなる。そこで、硬性内視鏡11の先端部14を被撮像面86から少し離した時点で、作業者は入力装置から撮像画像上の白黒のチェッカーパターンの1つを指定し、それが何番目のパターンであるかを入力する。そして、硬性内視鏡11の先端部14を被撮像面86から離していく過程で画像データを処理して、
図10(c)に示すように指定した白黒のチェッカーパターンをトラッキング処理し、鏡筒15を適切な距離移動させ終わった段階で、指定した白黒のチェッカーパターンがどこにあるかを認識できるようにする。
【0105】
硬性内視鏡11が直視鏡であれば、指定した白黒のチェッカーパターンは硬性内視鏡11の鏡筒15を移動させる過程で常に撮像画像内にあるが、硬性内視鏡11が斜視鏡や側視鏡である場合は、指定した白黒のチェッカーパターンは撮像画像から消えてしまう。そこで
図12に示すように、指定した白黒のチェッカーパターンの上下のチェッカーパターンを含めてトラッキング処理する。すなわち、指定した白黒のチェッカーパターンが画像の上方又は下方の所定位置より上方または下方になるとトラッキング処理する対象を1つ下又は1つ上のチェッカーパターンにし、入力されたチェッカーパターンの番号を1つ上げる又は1つ下げるようにする。これにより、硬性内視鏡11が斜視鏡や側視鏡である場合でも、鏡筒15を適切な距離移動させ終わった段階で、トラッキング処理した対象の白黒のチェッカーパターンが何番目のパターンであるか認識できるようにする。
【0106】
白黒のチェッカーパターンのコーナーの画像位置に、予め記憶されている座標系Sの座標値をあてはめた後、
図11に示すように撮像画像の中心点が、ターゲット画像88のどの位置にあるか、すなわち、撮像画像の中心点のx,y座標値が被撮像面86内に設定した平面座標である座標系Sにおいていくつであるかを計算する。これは、ターゲット画像88の中心線がY軸であり、白黒のチェッカーパターンのコーナーの位置の座標値がわかっているので、撮像画像の中心点が、ターゲット画像88の中心線方向のどの位置にあり、この中心線の垂直方向のどの位置にあるかにより計算することができる。取得した撮像画像の中心点の座標値は、座標系Sによる硬性内視鏡11の光軸が被撮像面86と交差する点の座標値Gsである。
【0107】
次に、手順4の、手順3で硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点を取得したときの、光軸位置測定用標識体91と標識球12との3次元相対位置関係を取得する方法について説明する。光軸位置測定用標識体91と標識球12との3次元相対位置関係を取得するとは、具体的には同一の座標系で、光軸位置測定用標識体91の中心座標と、標識球12の中心座標とを取得することである。この同一の座標系を座標系Wとする。
【0108】
手順3で硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点を取得したときの状態で、3次元形状測定装置20による測定を実行し、光軸位置測定装置80及び硬性内視鏡11の3次元データを取得する。3次元形状測定装置20の座標系が座標系Wであり、取得した3次元データは座標系Wによるデータある。この取得した3次元データを用いて次の(1)と(2)の演算処理を実行する。
【0109】
(1)すべての3次元データの中から、それぞれの光軸位置測定用標識体91の3次元データを抽出し、抽出した3次元データを用いてそれぞれの光軸位置測定用標識体91の中心座標を計算する。これは、手順1の(1)及び手順2の(1)で行った演算処理と同一である。
(2)すべての3次元データの中から、それぞれの標識球12の3次元データを抽出し、抽出した3次元データを用いてそれぞれの標識球12の中心座標を計算する。これは、手順2の(2)で行った演算処理と同一である。
【0110】
次に、手順5の、手順1から手順4で得られた3次元相対位置関係と、硬性内視鏡11の撮像画像の中心位置に相当するターゲット画像88上の点とから、硬性内視鏡11の光軸の位置と標識球12との3次元相対位置関係を求める方法について説明する。硬性内視鏡11の光軸の位置と標識球12との3次元相対位置関係を求めるとは、具体的には同一の座標系で、硬性内視鏡11の光軸の位置を表す値と標識球12の中心座標を得ることであり、硬性内視鏡11の光軸の位置を表す値は、硬性内視鏡11の光軸に平行なベクトルVの成分と硬性内視鏡11の先端部14における光軸上の点Tの座標値である。これには以下の(1)〜(3)の演算処理を行う。
【0111】
(1)手順2の(2)で得られた座標系Pによる標識球12の中心座標と手順4の(2)で得られた座標系Wによる標識球12の中心座標とを、座標変換の式に代入し連立方程式を解くことで、座標系Wによる値を座標系Pによる値に変換するための座標変換係数Fwpを取得する。そして、この座標変換係数Fwpにより手順4の(1)で得られた座標系Wによる光軸位置測定用標識体91の中心座標を座標変換し、座標系Pによる座標にする。
【0112】
(2)手順5の(1)で得られた座標系Pによる光軸位置測定用標識体91の中心座標と、手順1の(1)で得られた座標系Dによる光軸位置測定用標識体91の中心座標とを、座標変換の式に代入し連立方程式を解くことで、座標系Dによる値を座標系Pによる値に変換するための座標変換係数Fdp’を取得する。手順5の(1)で得られた座標系Pによる光軸位置測定用標識体91の中心座標は、視覚的に考えると、手順2での標識球12の位置と手順4での標識球12の位置は変化しないとした場合の座標系Pによる座標であるので、手順2で得られた座標系Pによる光軸位置測定用標識体91の中心座標とは異なっている。よって、座標変換係数Fdp’は座標変換係数Fdpとは異なる。
【0113】
(3)手順3で取得した撮像画像の中心点の座標Gsは、座標系Sによる平面座標であるため、この座標Gsを座標変換により座標系Pによる3次元座標Gpにする。そのためには、まず、取得した撮像画像の中心点の座標Gsを(x,y,0)の3次元座標にし、手順1の(7)で取得した座標変換係数Fsdにより座標変換を行い、座標系Dによる3次元座標Gdにする。次に手順5の(2)で取得した座標変換係数Fdp’により座標変換を行い、座標系Pによる3次元座標Gpにする。これにより、撮像画像の中心点の座標、すなわち硬性内視鏡11の光軸が被撮像面86と交差する点の座標が、座標系Pによる座標値Gpとして得られる。また、手順2の(4)で得られている硬性内視鏡11の先端部14における光軸上の座標Tpは、座標系Pによる座標であるので、座標Gpから座標Tpを減算することで硬性内視鏡11の光軸と平行なベクトルVpを座標系Pによる成分として得ることができる。これで、硬性内視鏡11の光軸の位置を表す値が座標系Pによる値として得られる。また、手順2の(2)で得られている標識球12の中心座標は座標系Pによる座標であるので、これにより、同一の座標系で、硬性内視鏡11の光軸の位置を表す値と標識球12の中心座標が得られる。
【0114】
ただし、上述した手順5の演算処理による、硬性内視鏡11の光軸の位置を表す値の計算は、硬性内視鏡11の先端部14において、光軸上の点の座標と鏡筒15の中心軸上の点の座標とが一致していることを前提にしている。実際は
図3に示すように、先端部14において光軸上の点の座標と鏡筒15の中心軸上の点の座標は一致していないことが多く、特に硬性内視鏡11が斜視鏡や側視鏡である場合はその可能性が高い。そこで、更に精度のよい光軸の位置のキャリブレーションのためには、
図9(c)に示すように、光軸位置測定装置80のV字溝状のガイド部95に硬性内視鏡11の鏡筒15を支持した状態で、さらに鏡筒15を適切な距離移動させ、手順3〜手順5を再度行う。以降の説明において、先端部14において、光軸上の点の座標をMpとし、鏡筒15の中心軸上の点の座標をこれまで通りTpとして区別する。
【0115】
手順3〜手順5を再度行うことにより、もう1つの硬性内視鏡11の光軸が被撮像面86と交差する点の座標が、座標系Pによる座標値Gpとして得られる。先に取得された座標をGp1とし、2回目に取得された座標をGp2とすると、座標Gp2から座標Gp1を減算すれば、硬性内視鏡11の光軸に平行なベクトルVpが得られ、座標Gp2と座標Gp1を通る直線の式も取得される。そして、手順2の(4)で先端部14における鏡筒15の中心軸上の点の座標Tpを含み、鏡筒15の中心軸に垂直な平面の式が得られているので、この平面の式と取得された直線の式とからなる連立方程式を解くことで、先端部14における光軸上の点の座標Mpを取得することができる。これにより、同一の座標系で、硬性内視鏡11の光軸の位置を表す値と標識球12の中心座標を更に精度よく得ることができる。
【0116】
手順2を行い、手順3〜手順5を硬性内視鏡11の鏡筒15の位置を変えて2回行うことにより、同一の座標系で硬性内視鏡11の光軸の位置を表す値と標識球12の中心座標とを取得することを視覚的に示したものが
図13である。硬性内視鏡11は、光軸位置のキャリブレーションの作業全体を通して動かないものとし、硬性内視鏡11の先端部14を被撮像面86に接触させた状態、鏡筒15を適切な距離移動させた2つの状態は、光軸位置測定装置80が移動したものとする。そして、被撮像面86に先端部14が接触した状態で先端部14における鏡筒15の中心軸上の点を含む平面を取得し、被撮像面86が先端部14から異なる距離離れた2つの状態で硬性内視鏡11の光軸が被撮像面86と交差する点(注視点)の座標Gp1及びGp2を取得し、この2つの座標を結ぶ直線から、先端部14における光軸上の点の座標Mpを取得する。
【0117】
上述した手順1〜手順5の測定作業及び演算処理により得られた座標系Pによる硬性内視鏡11の光軸の位置を表す値と標識球12の中心座標とはPC40に記憶される。そして、上述したように手術中における硬性内視鏡11の撮像方向ベクトルAと硬性内視鏡11の撮像位置を演算処理により求め、表示装置50に表示するのに使用され、高い精度の手術ナビゲーションを行うことができるようになる。
【0118】
上記の、本実施形態の光軸位置測定装置80を用いた光軸位置測定システム及び光軸位置測定方法によれば以下の効果を得ることができる。
【0119】
(1)本実施形態の光軸位置測定システム及び光軸位置測定方法の場合、手順1に示されているように3次元形状測定装置20による測定により得られる3次元データを処理することで、ターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係を予め取得することができ、手順2及び手順4に示されているように光軸位置測定装置80に長尺状器具である硬性内視鏡11を支持した状態で3次元形状測定装置20による測定により得られる3次元データを処理することで、位置姿勢検出用標識体である標識球12と硬性内視鏡11の先端部14との3次元相対位置関係、及び標識球12と光軸位置測定用標識体91との3次元相対位置関係が取得でき、手順3に示されているように硬性内視鏡11が撮像したターゲット画像88を画像処理することで撮像画像の中心位置に相当するターゲット画像88上の点を取得できる。そして、手順5に示されているように、これらの3次元相対位置関係及び撮像画像の中心位置に相当するターゲット画像88上の点を用いた演算処理により、硬性内視鏡11の実際の光軸である実光軸と標識球12との3次元相対位置関係を取得することができる。そして、光軸位置測定装置80での硬性内視鏡11の支持は定められた範囲の任意の位置で行うことができ、術者75自らの操作により、従来技術の較正用物体に相当するターゲット画像88に対する硬性内視鏡11の位置を設定して、3次元形状測定装置20による測定と硬性内視鏡11による撮像を行うものとされている。それゆえ、従来必須とされていた較正用物体を移動させる手段や、標識部を有する第2の較正用物体を省略することができ、軽量かつシンプルな構造であって操作性や利便性に優れた光軸位置測定装置80を用いて硬性内視鏡11の実光軸と標識球12との3次元相対位置関係を測定することが可能となる。そして、このような光軸位置測定装置80を使用した場合であっても、先端部を起点とする光軸を有する硬性内視鏡11等の長尺状器具における実光軸の位置と標識球12等の位置姿勢検出用標識体との3次元相対位置関係を精度よく測定することができる。
【0120】
(2)また、この光軸位置測定システム及び光軸位置測定方法における光軸位置測定装置80は、較正用物体移動手段と標識部を有する第2の較正用物体の省略によって小型軽量かつシンプルな構造とされているため、術者75が一人で簡単に持ち運べるものになり、可搬性や操作性が向上する。従って、例えば3次元形状測定装置20の撮像可能範囲内にその光軸位置測定装置80が確実に入るように配置することができ、またその際の移動や位置調整を困難なく行うことができる。加えて、硬性内視鏡11の光軸をターゲット中心に合致させるための事前位置調整作業が不要になることから、煩雑さが解消され、操作性や利便性が向上する。また、可動部分を備えていないことから問題なく滅菌を行うことができる。
【0121】
(3)また、この光軸位置測定システムにおける光軸位置測定装置80では、ベース部材81にガイド部95が設けられていることに加え、ターゲット画像88を有するターゲット部材85がベース部材81の主面82に対して傾斜した状態で設けられている。それゆえ、ガイド部95に硬性内視鏡11の鏡筒15を支持させた状態で操作することにより、術者75が手ぶれすることなく硬性内視鏡11を鏡筒15の中心軸方向へ直線的に簡単かつ正確に移動させ、硬性内視鏡11の鏡筒15をガイド部95の任意の位置に支持することができる。さらに、硬性内視鏡11の鏡筒15の中心軸方向に対して実光軸が角度をなしていても、硬性内視鏡11の注視点である画像中心点の位置を徐々にずらすことができる。よって、硬性内視鏡11の鏡筒15の中心軸方向に対して光軸が平行な場合であっても、様々な角度をなしている場合であっても適用可能となり、汎用性が高い光軸位置測定装置80とすることができる。つまり、光軸の角度がほぼ0°の直視鏡、30°や70°の斜視鏡、90°の側視鏡などの測定について適用可能なものとすることができる(
図8参照)。
【0122】
(4)また、この光軸位置測定システムにおける光軸位置測定装置80では、ターゲット部材85において斜め下方を向く被撮像面86にターゲット画像88が描かれているため、硬性内視鏡11による撮像は被撮像面86の側から行われる。それに対し、硬性内視鏡11の鏡筒15が定まった断面径r0であれば3次元形状測定装置20による測定は斜め上方を向く面87の側から行うことができる。このため、3次元形状測定装置20による立体形状測定時に入射光が発せられても、ターゲット部材85自身によってその光が遮られることから、被撮像面86のターゲット画像88が反射により光ることがなく、撮像画像を正確に認識することができる。また、斜め上方を向く面87の正面側から視たときに、複数ある光軸位置測定用標識体91がターゲット部材85に隠れにくくなり、3次元形状測定装置20による立体形状測定において必要な3次元データを確実に取得することができる。
【0123】
なお、本発明の各実施の形態は以下のように変更してもよい。
【0124】
・上記実施形態では、実光軸の位置を測定する長尺状器具は標識球12が設けられた硬性内視鏡11とし、本発明は手術支援システム1に使用される該硬性内視鏡11の実光軸の位置を精度よく求めることを目的とした。しかし、先端部から撮像機能における光軸を有し、位置姿勢検出用標識体が設けられた長尺状器具であれば、どのようなものであっても本発明は適用することができる。例えば工業用製品の内部を撮像機能のある長尺状器具で観察する際の撮像位置を外部から精度よく検出するシステムにおいても本発明は適用することができる。
【0125】
・上記実施形態では、長尺状器具の位置姿勢検出用標識体は3つ以上の標識球12とした。しかし、3次元形状測定が可能で、3次元形状測定により取得される3次元データを演算処理することで、3つ以上の定点、2つ以上の定点と1つ以上のベクトル、又は2つ以上のベクトルと1つ以上の定点を検出することができる立体形状のものであればどのような形状のものでもよい。例えば、直方体、円柱体、円錐体、角錐体、多面体等の形状であってもよい。
【0126】
・上記実施形態の光軸位置測定装置80では、3つの光軸位置測定用標識体91全てをベース部材81上に設けたが、3次元形状測定装置20による立体形状測定を被撮像面86側から測定するようにすれば、これら全てをターゲット部材85上に設けてもよく、あるいは3つの内の一部をベース部材81上に設けかつ残りのものをターゲット部材85上に設けるようにしてもよい。
【0127】
・上記実施形態の光軸位置測定装置80では、光軸位置測定用標識体91を3つの球体としたが、3次元形状測定が可能で、3次元形状測定により取得される3次元データを演算処理することで、3つ以上の定点、2つ以上の定点と1つ以上のベクトル、又は2つ以上のベクトルと1つ以上の定点を検出することができる立体形状のものであればどのような形状のものでもよい。例えば、直方体、円柱体、円錐体、角錐体、多面体等の形状であってもよい。
【0128】
・上記実施形態の光軸位置測定装置80では、ベース部材81の主面82に対するターゲット部材85の傾斜角度θを60°としたが、これに限定されず、例えば、30°や70°にしても勿論よい。
【0129】
・上記実施形態の光軸位置測定装置80では、ガイド部95が溝状であったが、これに限定されず例えば筒状などであってもよい。また、ベース部材81の主面82に一対の凸部を設けることでガイド部としてもよい。
【0130】
・上記実施形態の光軸位置測定装置80では、被撮像面86のターゲット画像88は中心線がある白黒のチェッカーパターンに下から順に番号を付したものにしたが、硬性内視鏡11の撮像画像から撮像画像の中心を被撮像面86に定義した平面座標である座標系Sの座標値で得ることができるならば、ターゲット画像88はどのようなものにしてもよい。例えば、線の色又は反射率を1つづつ変化させた縦横の格子線でもよいし、上記実施形態の白黒のチェッカーパターンのコーナーの箇所に中心が合致するような色又は反射率を変化させた微小な円(格子点)を配置したパターンでもよい。
【0131】
・上記実施形態では、定まった断面径の鏡筒15又は円柱体をベース部材81のガイド部95に支持したとき、鏡筒15又は円柱体の中心軸がターゲット画像88の中心線にある白黒のチェッカーパターンのコーナーと交差するようにし、定まった断面径の鏡筒15又は円柱体をベース部材81のガイド部95に支持した状態で3次元形状測定を行って取得した3次元データを処理することで、ターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係、すなわち座標系Dによる光軸位置測定用標識体91の中心座標と、被撮像面86に定義した平面座標である座標系Sによる座標値を座標系Dによる座標値に変換する座標変換係数Fsdを取得した。しかし、ターゲット画像88と光軸位置測定用標識体91との3次元相対位置関係を取得できるならば、どのような方法を用いてもよい。例えば、定まった断面径の鏡筒15又は円柱体をベース部材81のガイド部95に支持したときの鏡筒15の中心軸が交差する被撮像面86の位置は調整せず、ターゲット画像88の白黒のチェッカーパターンのコーナーの1つに反射率の異なる印をつけ、3次元形状測定の際、3次元データとともに反射光強度データも同時に検出して、1つの点における座標系Sによる座標値と座標系Dによる座標値を得るようにし、上記実施形態と同様に座標系Sと座標系Dによる2つのベクトルと1つの点の座標値とから座標変換係数Fsdを計算してもよい。また、3次元データからベース部材81と被撮像面86の平面の法線ベクトルを取得する代わりに、ターゲット画像88の白黒のチェッカーパターンのコーナーの3つに反射率の異なる印をつけ、座標系Sと座標系Dによる3つの点の座標値から座標変換係数Fsdを計算してもよい。また、白黒のチェッカーパターンのコーナーの1つに反射率の異なる印をつける代わりに、チェッカーパターンのコーナーにおける被撮像面86の垂線が球体中心を通るよう球体を被撮像面86に取り付け、同一点における座標系Sによる座標値と座標系Dによる座標値を取得するようにしてもよい。
【0132】
・上記実施形態では、硬性内視鏡11の先端部14を被撮像面86に当接させた状態で3次元形状測定を行い、取得された3次元データを処理することで、硬性内視鏡11の先端部14と標識球12との3次元相対位置関係、すなわち座標系Pによる硬性内視鏡11の先端部14の座標又は該座標を含む平面の式と標識球12の中心座標を取得した。しかし、硬性内視鏡11の先端部14と標識球12との3次元相対位置関係を取得することができるならば、硬性内視鏡11の先端部14は被撮像面86に当接させなくてもよい。例えば、硬性内視鏡11の先端部14を撮像面86に当接させた状態から、鏡筒15の中心軸方向に既知の距離だけ移動させた状態で3次元形状測定し、取得された3次元データを処理するようにしてもよい。既知の距離は精度よく得られている必要があるので、例えば硬性内視鏡11の先端部14はベース部材81の肉抜部83における縁に合う位置とし、肉抜部83における縁から鏡筒15の中心軸方向における被撮像面86までの距離を精度よく取得しておくようにするとよい。精度よく取得する方法としては、ベース部材81の肉抜部83における側面にブロックゲージを押し当てた状態で3次元形状測定を行い、ベース部材81の主面82、被撮像面86及びブロックゲージの該側面に押し当てた面の3次元データを抽出し、これらの平面の3次元データからそれぞれの平面の式を計算し、これらの平面の式から肉抜部83における縁から鏡筒15の中心軸方向における被撮像面86までの距離を計算するようにすればよい。
【0133】
・上記実施形態では、硬性内視鏡11の先端部14における実光軸の点と鏡筒15の中心軸の点が一致している場合は手順3〜手順5を1回だけ行い、一致していない場合又は一致しているか不明な場合は、鏡筒15の位置(先端部14の位置)を変えて手順3〜手順5を2回行ったが、鏡筒15の位置を変えて手順3〜手順5を3回以上行ってもよい。この場合は実光軸が被撮像面86と交差する座標Gpは3つ以上得られるので、最小2乗法により実光軸に平行なベクトルVpの成分及び実光軸を表す直線の式を計算すればよい。この場合も先端部14における実光軸の点の座標Mpは上記実施形態と同様に計算できる。