(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための最良の形態】
【0008】
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(
図2A)内に挿入される内視鏡3を備えた内視鏡装置4と、この内視鏡装置4と共に使用され、内視鏡3の挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4は、内視鏡3と、この内視鏡3に照明光を供給する光源装置6と、内視鏡3に搭載された撮像手段を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8と、CCU8により生成された内視鏡画像を表示するモニタ9と、を有する。
【0009】
内視鏡3は、可撓性を有する細長の挿入部(又は内視鏡挿入部)11と、この挿入部11の後端に設けられた操作部12とを有し、挿入部11の先端部13には照明窓と観察窓とが設けられる。挿入部11,操作部12内には照明光を伝達するライトガイド14が挿通され、このライトガイド14の入射端は光源装置6に接続され、光源装置6内の図示しない光源ランプ又はLEDにより発生した照明光が入射端に入射される。このライトガイド14により伝達された照明光は、照明窓に取り付けられた出射端(先端面)から前方に出射される。
また、観察窓には、被写体を結像する対物光学系を形成する対物レンズ15が取り付けられ、その結像位置にCCD等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内を撮像する撮像手段(又は撮像部)としての撮像装置16が形成される。
【0010】
撮像素子7は、挿入部11,操作部12内を挿通された信号線を介してCCU8に接続される。CCU8は、その内部の図示しない画像信号生成回路により撮像素子7の撮像面に結像された光学像に対応する撮像画像の画像信号を生成し、この画像信号をモニタ9に出力する。モニタ9は、画像信号の画像(動画像)を、内視鏡画像(撮像画像とも言う)として表示する。
なお、内視鏡3の挿入部11には、先端部13の後端に湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ20を回転する操作を行うことにより、湾曲部19を上下、左右の任意の方向に湾曲することができる。
上記挿入支援装置5は、内視鏡3による検査が行われる患者に対して、公知のCT(Computed Tomography)で生成された患者の3次元画像情報としてのCTデータを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCTデータ取込部21と、このCTデータ取込部21によって取り込まれたCTデータを記憶するCT画像データ記憶部22とを有する。
【0011】
なお、CT画像データ記憶部22は、CTで生成された(被検体としての患者の3次元画像情報としての)CTデータを通信回線、インタネット等を経由して記憶しても良い。このCT画像データ記憶部22は、ハードディスク装置や、フラッシュメモリ、DVD等により構成することができる。
また、画像記憶手段を構成するCT画像データ記憶部22は、CTデータより画像データを分離したCT画像データと、CTデータより位置情報を分離した該CT画像データに対応する第1の座標系を用いた3次元の位置データとを対応付けた対応付け画像情報として記憶する対応付け画像情報記憶部22aを有する。
また、挿入支援装置5は、CT画像データ記憶部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出手段としての管腔臓器抽出回路、中央演算処理装置(CPUと略記)等からなる気管支抽出部23を有する。
【0012】
この気管支抽出部23は、抽出した気管支2の3次元データ(より具体的には3次元のボリュームデータ)から、気管支2の中空形状を表す3次元形状の情報(形状データ)と、3次元形状の画像情報(画像データ)を生成する。つまり、気管支抽出部23は、抽出した気管支2の3次元データから中空の3次元形状の気管支形状の画像としての気管支形状画像を生成する気管支形状画像生成手段としての気管支形状画像生成部23aを有する。
また、この気管支抽出部23は、気管支2の3次元データを抽出する際、3次元データに対応する第1の座標系(又はCT座標系)での3次元の位置データと対応付けて抽出する。そして、この気管支抽出部23は、気管支2の3次元形状のデータ(つまり気管支形状データ)と3次元の位置データとを対応付けした対応付け情報を記憶するメモリなどからなる対応付け情報記憶部23bを有する。
【0013】
また、挿入支援装置5は、内視鏡3における挿入部11の先端部13に設けた撮像装置16の撮像により生成される内視鏡画像に対応する仮想的な内視鏡画像としての仮想内視鏡画像(VBS画像と言う)を生成する仮想内視鏡画像生成手段としてのVBS画像生成部24を有する。
VBS画像生成部24には、内視鏡3の撮像装置16に関する結像系の特性情報(対物レンズ15の焦点距離、撮像素子7の画素数、画素サイズ等)が、例えば入力装置31から入力される。
VBS画像生成部24は、実際に気管支2内に挿入された内視鏡3の撮像装置16の位置(挿入部11の先端の位置とも言える)の情報と、撮像装置16による気管支2内の被写体を結像する特性情報と、前記気管支形状データに基づいて、前記位置を視点位置として気管支2内を内視鏡的に撮像した内視鏡画像を仮想的に描画するVBS画像を生成する画像生成回路、CPU等により構成される。
【0014】
また、挿入支援装置5は、CCU8から入力される内視鏡画像と、VBS画像生成部24のVBS画像との位置合わせを画像マッチングで行うCPU、画像処理回路等により構成される画像処理部25と、画像処理部25等の制御を行う制御手段としてのCPU等により構成される制御部26と、制御部26の制御下で挿入支援するための提示用候補情報等を記憶する記憶手段としてのメモリ等により構成される記憶部27とを有する。
また、挿入支援装置5は、CT画像データ記憶部22に記憶されたCT画像データに基づき多断面再構築画像としてのCT断層画像(MPR画像という)を生成するMPR画像生成部28と、MPR画像生成部28が生成したMPR画像を有する挿入経路の設定画面としての経路設定画面を生成し、内視鏡3の気管支2内の目標部位側へ挿入する際の経路を設定するマウス等のポインティングデバイス等の経路設定部29とを有する。
【0015】
そして、例えばCT画像データから
図2A又は
図10A等に示すように目標部位36を指定した場合、経路設定部29はCT画像データと気管支形状画像2aとから気管支2における(挿入部11の)挿入開始位置から目標部位36近傍となる目標位置までの経路データを生成する経路データ生成回路等の経路データ生成部29aの機能を有する。例えば、
図10A等においては、Rにより目標部位36近傍となる目標位置までの経路を示している。
また、内視鏡システム1は、経路設定部29に対して設定情報を入力するキーボードやポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部26に対して制御動作を選択、指示することができる。
【0016】
また、術者が経路設定を行った場合、経路設定部29は設定された経路の情報をVBS画像生成部24、MPR画像生成部28、制御部26に送る。VBS画像生成部24及びMPR画像生成部28は、それぞれ経路に沿ったVBS画像、MPR画像を生成し、制御部26は経路に沿って各部の動作の制御を行う。
上記画像処理部25には、CCU8により生成された内視鏡画像と、VBS画像生成部24により生成されたVBS画像とが入力される。また、気管支形状画像生成部23aにより生成された気管支形状画像も、画像処理部25に入力される。
本実施形態においては、撮像装置16が配置された挿入部11の先端部13に、挿入部11の先端の位置を検出するセンサを搭載していないため、画像処理部25による位置合わせ処理部25aにおける画像マッチングによって挿入部11の先端の3次元位置を推定(又は算出)する。
【0017】
あらかじめ、気管支2の入口やカリーナK(
図2A参照)等、気管支形状画像2aからCT座標系により特定できる3次元位置(既知となる位置)又はその近傍位置を動画マッチングの開始位置として設定しておくと、その位置情報を基にVBS画像生成部はVBS画像を生成する。
そして、術者は内視鏡画像がVBS画像と同じように見えるように挿入部11の先端を挿入する。このような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、内視鏡画像とVBS画像とが設定された条件(所定の精度を確保できる誤差以内)で一致するように画像マッチングを開始する。このような処理を行うことにより、位置合わせ処理部25aは、挿入部11の先端の位置を推定により検出又は算出する位置推定部25bの機能を有する。
後述する
図5に示す変形例のように先端部13に位置検出の位置センサ41を設け、該位置センサ41を用いて挿入部11の先端の3次元位置を検出(推定)する位置推定部42bを構成しても良い。なお、本明細書においては、挿入部11の先端は、内視鏡3の先端と同じ意味で用いる。
【0018】
また、画像処理部25は、制御部26における表示を制御する表示制御部26a等の制御の下で、モニタ32に表示する画像を生成する。
表示制御部26aの制御下で、画像処理部25は、通常は、気管支形状画像生成部23aにより生成された気管支形状画像2aの画像信号(映像信号)をモニタ32に出力し、モニタ32には
図2Aに示すように気管支形状画像2aが例えば(主要な)管腔の中心を通る方向に沿った断面で切り出した2次元断層画像として表示される。なお、2次元断層画像で表示する場合に限定されるものでなく、3次元画像で表示しても良い。3次元画像で表示する場合には、例えば平行投影法による投影図や、管腔内部が分かるように透視図で表示しても良い。
また、
図2Aに示すように、モニタ32において表示される気管支形状画像2aには、気管支2の管腔の中心を通る芯線35も表示するようにしている。なお、芯線35は、例えば気管支形状画像生成部23aが生成するが、画像処理部25において芯線35を生成しても良い。
【0019】
術者等のユーザは、挿入部11をその先端から気管支2内に挿入する場合、芯線35が表示されるため、その表示を参考にすることによって、挿入部11の挿入の操作が行い易くなる。また、芯線35に沿って挿入する操作を行うことにより、画像マッチングによる挿入部11の先端の位置の推定を短時間に行うことができる。
画像処理部25は、気管支2の深部側(末端側)に挿入する操作において、内視鏡画像とVBS画像との両画像のマッチング(画像マッチング)を利用して、CT座標系のもとで挿入部11の先端の移動した位置又は移動距離を推定する処理を行う。
つまり、ある位置において両画像がマッチングしている場合、挿入部11の先端を芯線35に沿って(挿入のために)移動する操作に伴って、撮像装置16が移動するため、内視鏡画像が変化する。
【0020】
この場合、位置合わせ処理部25aは、芯線35に沿った経路上で移動した場合の(VBS画像生成部24から出力される)VBS画像を用いて前記内視鏡画像と最も良くマッチングするVBS画像を画像処理により選出し、選出したVBS画像に対応する3次元位置を挿入部11の先端の位置として算出(推定)する。従って、移動した移動距離も2つの位置の差分量から算出(推定)することができる。
なお、挿入部11の先端は、芯線35上から外れた位置において移動される場合もあるため、芯線35から適宜の距離だけ偏心した位置においてのVBS画像をVBS画像生成部24が生成し、生成したVBS画像を位置合わせ処理部25aに出力するようにしても良い。このようにすると、画像マッチングによる位置推定の範囲を拡大できる。上記制御部26は、位置合わせ処理部25aにより算出した挿入部11の先端の位置により経路データ生成部29aによって、(内視鏡3の挿入部11の挿入前に)生成された経路データを補正するようにしても良い。
【0021】
また、制御部26は、画像処理部25により推定された挿入部11の先端が所定の条件を満たすか否かの判定を行う比較回路等により構成される条件判定部26cの機能を有し、所定の条件を満たす判定結果の場合に、該当する挿入部11の先端の位置を記憶部27に記憶する。この場合、挿入部11の先端の位置と共に、該先端の位置に対応するVBS画像を記憶部27に、提示が必要な場合に提示する(提示用の)候補情報として記憶する。
換言すると、記憶部27は、所定の条件を満たす判定結果の場合に、その判定結果が得られた場合に推定(算出)された挿入部11の先端の位置を、後で提示する場合の候補位置情報として記憶し、またこの候補位置情報と、該候補位置情報に対応するVBS画像とを提示用の候補情報として記憶する記憶手段としての候補情報記憶部27aの機能を有する。この場合には、提示用の候補情報は、候補位置の情報(候補位置情報)と該候補位置の情報に対応するVBS画像とからなるが、候補位置の情報に対応する(換言すると候補位置において生成される)VBS画像も候補VBS画像としても良い。
【0022】
なお、候補情報記憶部27aに記憶する(提示用の)候補情報として、前記候補位置の情報に対応するVBS画像と共に、該候補位置の情報に対応する(換言すると候補位置において生成される)内視鏡画像も記憶するようにしても良い。この場合における内視鏡画像も、上記候補VBS画像の場合と同様に候補内視鏡画像と呼ぶようにしても良い。
また、画像処理部25は、表示制御部26aの候補情報提示制御部26bにより候補情報提示の制御を受けて、モニタ32に候補情報として表示するための候補情報を生成する候補情報生成部25cの機能を有する。また、画像処理部25は、内視鏡画像とVBS画像との画像マッチングを行う際に、内視鏡画像やVBS画像を一時的に記憶したり、画像処理のワークエリアとして用いる画像メモリ25dを有する。なお、画像処理部25の外部に画像メモリ25dを設けるようにしても良い。
【0023】
上記条件判定部26cは、所定の条件として、気管支2における分岐に関する特徴的な領域としての特徴領域内に挿入部11の先端が位置しているか否かの判定を行う特徴領域判定部26dの機能を有する。そして、後述するように特徴領域判定部26dにより挿入部11の先端が特徴領域内に位置している(又は存在している)判定結果の場合に、候補情報記憶部27aに候補情報が記憶される。
本実施形態においては、上記所定の条件として、2つの位置(又は点)間の距離に対して一定値dthが設定されている。そして、挿入部11の先端の位置と、
図2B、
図2Cに示すようにカリーナKのように分岐しているスパーSpiの位置や、芯線35が分岐している分岐点Biとの位置間の距離がdth1,dth2等の一定値dth以内になった場合に、上記所定の条件を満たす特徴領域内に挿入部11の先端が位置すると判定して、候補情報を記憶部27に記憶するように設定される。
【0024】
なお、上記特徴領域の設定や一定値dthの値は、術者が例えば入力装置31から指定することができる。このように本実施形態においては、挿入部11を気管支2内に挿入する操作の過程において、現在の挿入部11の先端の位置以前の候補情報を記憶部27に記憶しておくことにより、画像マッチングによる最初の位置合わせ後から挿入部11の移動操作により挿入部11の先端の(画像マッチングを利用した)位置推定の精度が低下して、再度の位置合わせ(つまり再位置合わせ)を行うことが必要になった場合等においては、その再位置合わせのための候補情報を提示することができるようにしている。
また、再位置合わせを行う指示を術者が入力装置31を構成するキーボード、マウス等から画像処理部25又は制御部26に指示入力しても良い。
【0025】
再位置合わせの指示等がされる(又はトリガ入力される)と、制御部26の表示制御部26aは、現在の挿入部11の先端位置付近における候補情報を記憶部27の候補情報記憶部27aから読み出し、画像処理部25を経てモニタ32において候補情報を提示する制御を行う。
モニタ32において候補情報を提示する制御を行う表示制御部26aは、候補情報提示の制御を行う候補情報提示制御部26bの機能を有する。なお、表示制御部26aが候補情報記憶部27aから(提示用の)候補情報を読み出し、画像処理部25を経ることなくモニタ32において候補情報として提示する制御を行うようにしても良い。モニタ32において候補情報を提示する場合、例えば2次元断層画像として
図2Dに示す気管支形状画像2a上に、画像比較を行う際の候補となる候補位置の情報及び該候補位置の情報に対応するVBS画像を表示する。
【0026】
上述したように、画像処理部25の位置合わせ処理部25aは、挿入部11の先端が移動された場合、画像マッチングを利用して挿入部11の先端を推定(算出)するが、設定された精度以内で画像マッチングすることができなくなる画像マッチングエラーが発生する場合がある。
この場合には、画像処理部25の位置合わせ処理部25aは、画像マッチングエラーの信号を発生し、モニタ32において画像マッチングエラーが発生したことを表示する。また、位置合わせ処理部25aは、画像マッチングエラーの信号を制御部26に送り、制御部26の候補情報提示制御部26bは、モニタ32において候補情報を提示する制御を行う。
このため、上記モニタ32は、術者に対して候補情報を提示する候補情報提示手段を形成する。なお、候補情報提示手段は、モニタ32と共に、(提示用の)候補情報を記憶する候補情報記憶部27aや候補情報の画像信号を出力する画像処理部25や候補情報提示制御部26bを含めるように定義しても良い。
術者は、候補情報を用いて再度の位置合わせ処理を行う。再度の位置合わせ処理を行うことにより、術者はこの再度の位置合わせ処理を行った位置付近から挿入部11の挿入操作を続行することができるようになる。
また、術者が画像マッチングの精度が悪化したと判断した場合は、再位置合わせの指示をして上記の処理をさせてもよい。なお、
図1における画像処理部25の位置合わせ処理部25a、候補情報生成部25c、気管支抽出部23、VBS画像生成部24、制御部26をCPUを用いて構成しても良いし、FPGA(Field Programmable Gate Array)のようなハードウェア化された装置、専用の電子回路素子を用いて構成しても良い。
【0027】
このような構成の内視鏡システム1は、予め取得した被検体における3次元画像情報を記憶する画像記憶手段としてのCT画像データ記憶部22と、前記3次元画像情報に対して所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成手段としてのVBS画像生成部24と、内視鏡3内に設けられ、前記所定の管腔臓器内を撮像する撮像手段としての撮像装置16と、前記被検体の所定の管腔臓器内における内視鏡挿入部11の先端の位置を検出する位置検出手段としての位置推定部25bと、前記位置検出手段による前記内視鏡挿入部11の先端の位置情報に基づいて前記3次元画像情報を所定方向に切り出した2次元断層画像上に、前記仮想内視鏡画像と前記撮像手段の撮像により生成される内視鏡画像との画像比較を行う際の候補となる候補位置情報及び当該候補位置情報に対応する前記仮想内視鏡画像を候補情報として提示する候補情報提示手段としてのモニタ32と、を備えることを特徴とする。
【0028】
次に本実施形態における代表的な処理を
図3のフローチャートを参照して説明する。
図1の内視鏡システム1における内視鏡装置4,挿入支援装置5の電源が投入され、各部が動作状態になると、
図3に示す最初のステップS1において、内視鏡3の挿入部11の先端を患者の気管支2の入口の位置等、術者が内視鏡画像で位置を判断しやすい部位を少なくとも1つ基準位置に設定する。
そして、画像処理部25の位置合わせ処理部25aは、基準位置におけるVBS画像生成部24のVBS画像(の画像信号)をモニタ32に出力する。術者は、入力装置31から基準位置の1つを指定し、挿入部11の先端を指定した基準位置に挿入するとともに、画像処理部25の位置合わせ処理部25aに対して位置合わせの処理を行うように指示する。
【0029】
ステップS1の位置合わせの処理を行った後、ステップS2に示すように位置合わせ処理部25aは、位置合わせ処理の結果を基に挿入部11の先端の位置を画像マッチングにより推定(算出)する。具体的には、画像マッチングの初期値として位置合わせの情報を使用して、内視鏡画像と最も良くマッチングするVBS画像を画像処理により算出する。
【0030】
ステップS3において位置合わせ処理部25aは、画像マッチングにより挿入部11の先端の推定が所定条件以内(例えば推定位置が気管支内部にあるか)でできたか否か(つまり位置の推定が成功したか否か)の判定を行う。ステップS3の判定が成功の場合には、モニタ32には、画像処理部25の位置推定部25bにより推定された挿入部11の先端の位置が、気管支形状画像2a上において、推定された位置に重畳して表示されるとともに、ステップS4の処理が行われる。一方、判定が失敗の場合にはステップS6の処理を実行する。
【0031】
ステップS4において位置推定部25bにより推定された挿入部11の先端の位置情報は、制御部26の特徴領域判定部26dに入力される。そして、特徴領域判定部26dは、推定された挿入部11の先端の位置が、気管支2におけるスパーSpiや分岐点Biから(dth1,dth2等の)一定値dth以内となる特徴領域内に位置するか否かの判定を行う。ステップS4において、一定値dth以内となる判定結果の場合には、ステップS5に示すように候補情報が記憶部27に記憶される。
例えば、
図2Bに示すように挿入部11の先端P1がカリーナK(第1のスパーSp1)から一定値dth1(=dth)以内と判定された場合に、推定された挿入部11の先端の位置P1が候補位置Pc1となり、該候補位置Pc1(の情報)と共に、対応するVBS画像I1とが候補情報として記憶部27に記憶される。
【0032】
また、カリーナKよりも深部側に挿入部11の先端が挿入され、挿入部11の先端P2が、次のスパーSp2から一定値dth1以内となった場合に、推定された挿入部11の先端の位置P2が候補位置Pc2となり、該候補位置Pc2と共に、対応するVBS画像I2が候補情報として記憶部27に記憶される。ステップS5の処理の後、ステップS8の処理に映る。
一方、ステップS4において、挿入部11の先端がスパーSpiから一定値dth1以内に達していない場合にはステップS5の候補情報を記録する処理を行うことなくステップS8の処理を実行する。なお、
図2Bにおいては、スパーSpiから一定値dth1以内と判定された場合に、候補位置Pciを記憶する例を示しているが、
図2Cに示すように推定された挿入部11の先端が分岐点Biから一定値dth2(=dth)以内と判定された場合に、候補位置Pci′を記憶するようにしても良い。なお、
図2Cでは挿入部11の先端P1′,P2′が分岐点B1,B2から一定値dth2以内となった場合を示している。また、一定値dth1と一定値dth2は、同じ値に設定しても良いし、異なる値に設定しても良い。
【0033】
ステップS8において、術者が入力装置31から候補情報の提示の指示信号(トリガ)を発生させているか検出する。これは画像マッチングの推定が失敗していることを検出できない場合、例えば、内視鏡が急激に動くと画像マッチングによる推定位置が所定条件(気管支内部にあるか)を満たしているが、明らかに別の位置であるという場合、術者が位置合わせを再度行うと判断したときに指示信号を発生させる。
【0034】
ステップS8のトリガがない場合には、次のステップS9において位置推定部25bは、挿入部11の先端が目標位置まで挿入されたか否かの判定(推定)を行う。
挿入部11の先端が目標位置まで挿入されていない場合には、術者は、モニタ32に表示される表示を参考にして、ステップS10に示すように挿入部11の先端を気管支2の深部側に挿入する。ステップS10の処理の後に、ステップS2に戻り、挿入部11の先端位置の推定を行うが、画像マッチングの初期値は位置合わせの情報の代わりに前回の画像マッチングによる推定位置を使用する。一方、ステップS19において目標位置まで挿入された場合には、
図3の挿入の操作を終了する。
【0035】
これに対して、ステップS3の位置推定が成功しないで失敗した場合、またはステップS8のトリガがある場合には、モニタ32に処理を停止した旨、例えばマッチングエラーが表示される。この場合には、ステップS6に示すように表示制御部26aが候補情報を提示する指示信号を自動的に発生する。
【0036】
そして、記憶部27の候補情報記憶部27aから候補情報が読み出される。そして、ステップS7に示すようにモニタ32には候補情報が表示される。例えば、
図2BにおけるスパーSp2から一定値dth1以内となった後に挿入部11の先端の位置P3においてマッチングエラーが発生した場合には、マッチングエラーが発生する前において最も後において記憶部27(の候補情報記憶部27a)に記憶された候補位置(この場合には候補位置Pc2)と該候補位置Pc2に対応するVBS画像I2とが候補情報として提示されることになる。
この場合の提示例を
図2Dに示す。
図2Dに示すように気管支形状画像2a上において、候補位置Pc2と共に、該候補位置Pc2に対応するVBS画像が候補情報として表示される。なお、候補情報を提示する場合、上述したようにさらに該候補位置Pc2に対応する内視鏡画像も点線で示すように表示するようにしても良い。
【0037】
また、この場合、VBS画像に隣接した位置に、同じ表示倍率で比較し易いように表示するようにしても良い。
さらに、VBS画像又は内視鏡画像の一方を移動自在に表示し、ユーザがマウス等で一方の画像を他方の画像上に重畳表示(合成表示)することができるようにしても良い。このようにすると、画像マッチングの程度をユーザが確認し易くなる。また、
図2Dにおいては、1つの候補情報の提示例を示しているが、後述する
図10A−
図10Fに示すように複数の候補情報を提示するようにしても良い。
候補情報が表示された場合、ステップS1に戻り、術者は、モニタ32に表示された候補情報を参考にして、再度の位置合わせの処理を行う。
【0038】
このように動作する本実施形態によれば、術者が挿入部11を挿入する操作を行った場合の最中において、提示用の候補情報を記憶部27に記憶し、挿入部11の先端の位置の推定が失敗したような場合に、位置合わせに適した提示用の候補情報を候補情報として提示することができるようにしているので、挿入の操作を円滑に行うことができる。
また、本実施形態においては、画像マッチングの画像処理を利用して挿入部11の先端の位置推定を行うようにしているため、画像処理のアルゴリズムにより最初の位置合わせの状態から誤差が次第に大きくなり易くなる。このような場合にも、再度の画像マッチングによる再度の位置合わせにより、誤差を十分に小さくして、再度の位置合わせした位置付近からより深部側への挿入の操作を行うことが可能になる。
上述の説明における条件を以下のように変更しても良い。
【0039】
(a)推定された挿入部11の先端の位置がスパーSpi又は分岐点Biからそれぞれ一定値dth1又はdth2以内の1つの条件を満たす場合に記憶部27に(提示用の)候補情報を記憶する例で説明したが、この条件に限らず、
(b)推定された挿入部11の先端の位置がスパーSpi及び分岐点Biからそれぞれ一定値dth1,dth2以内となった2つの条件を満たす場合に候補情報を記憶するようにしても良い。
(c)また、(a)又は(b)において、さらに推定された挿入部11の先端の位置と芯線35との距離が一定値dth3以内の場合に候補情報を記憶するようにしても良い。
(d)また、(a),(b),(c)のいずれかにおいて、内視鏡画像中に分岐の画像が見えた場合に候補情報を記憶するようにしても良い。
(e)また、(a),(b),(c),(d)のいずれかにおいて、一定値dth1−dth3は同じ値に設定しても良いし、スパーSpi又は分岐点Biでの気管支径に応じた値、又は気管支が分岐する分岐部位、又はカリーナからの分岐まで距離に応じて設定しても良い。
(f)また、
図2B,
図2Cの例では2点間の直線距離が一定値以内か否かにより記憶する条件とした場合で示しているが、
図4に示すように挿入部11の先端の位置に最も近い芯線35上の点Pと、分岐点Biまでの芯線35上での道のり(芯線35に沿って計測した距離)dwが一定値dwth以内か否かにより報候補情報を記憶する条件としても良い。
【0040】
このようにすると、屈曲した管腔部分内に挿入する場合においても適切に候補情報を記憶、及び提示が可能になる。
図5Aは第1の実施形態における変形例の内視鏡システム1Bの構成を示す。
図5Aに示す内視鏡システム1Bは、
図1の内視鏡システム1において、さらに挿入部11の先端部13内における撮像装置16の近傍の位置に、撮像装置16又は挿入部11の先端の位置を検出するための位置センサ41が設けてある。
また、内視鏡3及び被検体の外部となり、挿入支援装置5内の所定の位置には、この位置センサ41の3次元位置(単に位置とも記す)を計測(検出)する処理を行う計測処理装置又は計測処理部42が設けてある。位置センサ41による検出信号は、計測処理部42に入力される。
【0041】
この計測処理部42は、位置センサ41を用いて所定の管腔臓器としての気管支2内に挿入される撮像手段を構成する撮像装置16の3次元位置、又は挿入部11の先端の3次元位置を検出又は推定する位置検出手段としての位置推定部42bの機能を有する。なお、本変形例の
図5Aにおいては、
図1における画像処理部25内の位置推定部25bを有しない。
位置検出(位置推定)の手段又は方法としては、例えば磁気を利用したものを利用できる。計測処理部42に接続された複数のアンテナ42aから発せられる交流磁場をコイルで構成された位置センサ41が検知し、この位置センサ41で検知した信号における、その信号の振幅及び位相を(振幅検出回路及び位相検出回路を備えた)計測処理部42が検出することによりアンテナ42aから位置センサ41までの距離を計測する。計測処理部42は、3つ以上となる複数のアンテナ42aをそれぞれ異なる既知の位置に設けることにより、位置センサ41の3次元位置を特定することが可能になる。
【0042】
なお、位置センサ41を構成するコイルに交流信号を印加して、その周囲に交流磁場を発生させ、アンテナ42a側で交流磁場を検知して位置センサ41の位置を検出する構成にしても良い。一例としてコイルを用いた磁気式位置検出装置を説明したが、位置センサ41及び計測処理部42の構成は、上記説明の場合に限定されるものでない。
例えば、挿入部11の長手方向に沿って所定間隔で位置検出のための複数のコイルを配置し、複数のコイルの位置から挿入部11の形状を推定し、先端部13等の位置を検出することができるようにしても良い。計測処理部42により検出(推定)された挿入部11の先端の位置情報は、制御部26と画像処理部25とに出力される。
【0043】
本変形例の場合には、気管支2の3次元形状の画像データを管理するCT座標系としての第1の座標系での位置(位置情報)と、位置センサ41のアンテナ42aを基準としたセンサ座標系としての第2の座標系での位置(位置情報)との位置合わせを行う。例えば制御部26は、両座標系の位置合わせ(レジストレーション)及びその制御を行う位置合わせ部(及び位置合わせ制御部)26eの機能を持つ。
図5Bはレジストレーションの動作の説明図を示す。例えば気管支2の入り口付近における例えば4点Q0−Q3に、術者は内視鏡3の先端部13(又は位置センサ41)を順次設定して、第1の座標系O−XYZと第2の座標系o−xyzにおいてそれぞれ位置対応付けする指示又は指示入力を入力装置31から行う。このため、入力装置31は、位置対応付けの指示を行う指示入力部又は指示入力手段を形成する。
例えば、先端部13(又は位置センサ41)を、第1の座標系O−XYZにおける原点Oの位置Q0(0,0,0),X座標上の位置Q1(1,0,0)、Y座標上の位置Q2(0,1,0)、Z座標上の位置Q3(0,0,1)、に順次設定して、術者が位置対応付けの指示を行う。この指示において、各位置において計測処理部42が順次計測した位置を(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とすると、制御部27は位置対応付けを行い、位置対応付け情報を記憶部27に記憶するように制御する。
【0044】
この場合の位置対応付け情報(具体的には、第1の座標系O−XYZにおけるQ0(0,0,0)、Q1(1,0,0)、Q2(0,1,0)、Q3(0,0,1)は、第2の座標系o−xyzにおいては(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)がそれぞれ対応する情報)を記憶部27は記憶する。
また、位置合わせ部26eは、記憶部27に記憶した位置対応付け情報を用いて両座標系の任意の位置を対応つける変換情報を決定する。位置合わせ部26eは、この変換情報を記憶部27に記憶する。
【0045】
図5Bにおいては、座標位置Q0(0,0,0),Q1(1,0,0),Q2(0,1,0),Q3(0,0,1)と、それぞれ対応する座標位置(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とを簡略化してQ0⇔(x0,y0,z0)、Q1⇔(x1,y1,z1)、Q2⇔(x2,y2,z2)、Q3⇔(x3,y3,z3)で示している。なお、
図5Bに示す4点でなく、そのうちの1点を省略した3点で位置対応付けを行う(決定する)ようにしても良い。
具体的には、術者は第1の座標系で指定された位置に内視鏡3の先端部13を順次接触させることになる。このとき、第1の座標系で指定された位置を表現する方法として、VBS画像を用いる。つまり、術者はVBS画像と内視鏡画像が同じに見えるよう内視鏡を操作する。
【0046】
このように位置対応付けの処理が終了した後、術者は、内視鏡2の挿入部11を気管支2内に挿入して内視鏡検査を行うことを開始する。
本変形例においては、位置推定部42bにより推定された挿入部11の先端の位置に対応するCT座標系(第1の座標系)の位置が気管支2の管腔の内側となる条件から外れる場合のように、両座標系の位置ずれが明らかとなる場合に位置推定が失敗した状態と判定する。その他の構成は、
図1に第1の実施形態と同様である。
本変形例の動作は、挿入部11の先端の位置を位置センサ41を用いて推定すること、位置合わせが失敗した場合に行う位置合わせを制御部26の位置合わせ部26eが行うことに変更したことを除けば第1の実施形態の動作を示す
図3と殆ど同じ処理を行う。
【0047】
第1の実施形態における第2の変形例は、構成は第1の変形例と同じであるが、本変形例の場合、画像処理部25の位置合わせ処理部25aは、画像マッチングにより、位置センサ41を用いた位置合わせの精度を向上するための処理を行う。
つまり、第1の実施例においては指定された位置に内視鏡3の先端部が接触するよう操作する必要があるが、その操作は難しく、推定位置の精度が悪化する要因でもある。そこで、画像マッチングで内視鏡3の先端部13のCT座標系での位置を推定し、その位置を基に指定された位置を変更することにより、確実に内視鏡3の先端部13を指定された位置に接触させる。それにより、位置ずれの誤差を所定値以下に調整することができる。
【0048】
本変形例の場合には、画像処理部25の位置合わせ処理部25aは、画像マッチングによる位置合わせを行う第2の位置合わせ部の機能を有し、また、上述したように計測処理部42は、挿入部11の先端の位置を検出(又は推定)する位置推定部42bの機能を有する。
また、位置合わせ処理部25aは、両座標系の位置合わせの状態を、画像マッチングにより監視する位置合わせ監視処理部の機能を有する。例えば、挿入部11の先端が気管支2内に挿入された場合、挿入部11の先端の移動と共に、内視鏡画像と位置推定部42bによる第2の座標系での位置が変化する。
また、第2の座標系での位置の変化に対応してCT座標系(第1の座標系)の位置情報により生成されて画像処理部25に入力されるVBS画像も変化する。画像処理部25の位置合わせ処理部25aは両画像を監視し、両画像のずれ量が予め設定された値以上にずれた場合に、位置合わせが失敗した状態(又は位置合わせが必要な状態)と判定する。
【0049】
また、本変形例においては、位置推定部42bにより推定された挿入部11の先端の位置に対応するCT座標系(第1の座標系)の位置が気管支2の管腔の内側となる条件から外れる場合のように、両座標系の位置ずれが明らかとなる場合も位置合わせが失敗した状態(又は位置合わせが必要な状態)と判定する。その他の構成は、
図1に第1の実施形態と同様である。
本変形例の動作は、挿入部11の先端の位置を位置センサ41を用いて推定すること、位置合わせが失敗した場合に行う位置合わせを制御部26の位置合わせ部26eが行うことに変更したことを除けば第1の実施形態の動作を示す
図3と殆ど同じ処理を行う。
【0050】
第1、又は第2の変形例によれば、術者が挿入部11を挿入する操作を行った場合の最中において、提示用の候補情報を記憶部27に記憶し、挿入部11の先端の位置の推定が失敗したような場合に、位置合わせに適した提示用の候補情報を提示することができるようにしているので、挿入の操作を円滑に行うことができる。
また、第1、又は第2の変形例においては、最初の位置合わせ後に位置センサ41を用いて挿入部11の先端の位置推定を行うようにしており、位置合わせした位置からの距離が大きくなると、最初の位置合わせの状態から誤差が大きくなり易くなる。このような場合にも、位置センサ41を用いると共に、画像マッチングを用いた再度の位置合わせにより、誤差を十分に小さくして、再度の位置合わせした位置付近からより深部側への挿入の操作を円滑に行うことが可能になる。
【0051】
なお、
図1又は
図5Aの構成において、上述した所定の条件を満たす場合には、提示用の候補情報を記憶部27の候補情報記憶部27aに記憶するが、候補情報を記憶した後には、殆ど同じ候補位置ないしは類似した候補位置での候補情報を記憶することを制限する候補情報の記憶制限手段を設けるようにしても良い。
例えば、候補情報を記憶した後には、推定された挿入部11の先端の位置が当該候補位置から、予め設定された制限距離未満での次の候補情報の記憶を禁止(抑制)し、設定された制限距離以上移動した場合に候補情報の禁止(抑制)を解除して、上述した所定の条件を満たす場合に次の候補情報を記憶する候補情報の記憶制限部を設けるようにしても良い。または、初めに特徴領域内に到達した位置、最後に特徴領域内にあった位置、分岐点Biに最も近傍である位置、先の分岐が判別しやすい位置でもよい。この選択は術者が入力装置31を構成するキーボード、マウス等から画像処理部25又は制御部26に指示入力しても良い。
【0052】
例えば
図1、
図5Aにおいて制御部26内に(候補情報の)記憶制限部26fを設けた構成を点線で示している。
【0053】
このようにすると、記憶部27の候補情報記憶部27aに記憶された候補情報を読み出してモニタ32に提示する場合の候補情報が多くなりすぎることを抑制でき、術者は位置合わせに適した適度の数の候補情報から位置合わせの作業を行うことができるようになる。従って、術者は、位置合わせの作業が行い易くなる効果を有する。
なお、記憶を制限する制限距離としては、気管支2の分岐点BiやスパーSpiの情報等から設定しても良い。具体的には、例えば気管支の芯線35に沿って存在する隣接する分岐点BiとBi+1間の距離等に基づいて制限距離を設定するようにしても良い。具体例として、例えば隣接する分岐点間距離の1/2を制限距離に設定しても良い。
また、記憶部27の候補情報記憶部27aに候補情報を記憶する条件を制限する代わりに、提示に適した候補情報のみを選択的に抽出(つまり制限)して提示するように提示選択情報又は提示制限情報を(候補情報に)追加して記憶するようにしても良い。このため、例えば
図1,
図5Aにおいて、候補情報記憶部27aがさらに提示選択情報又は提示制限情報を記憶する提示制限情報記憶部27bを含むように提示選択情報又は提示制限情報を記憶するようにしても良い。
【0054】
上述した所定の条件として例えば分岐点Biから一定値dth2以内となる条件(特徴領域内に存在する条件)を最初に満たす位置Pi′とした場合、この位置Pi′を候補位置として候補情報として記憶する場合、提示制限情報として例えば(Bi,1)も追加して記憶する。ここで、(Bi,1)は(分岐点Bi、条件を満たす最初の位置の番号)を意味する。
さらに挿入部11の先端が深部側に移動された場合、適宜の時間間隔で次の位置Pi+1′とした場合、この位置Pi+1′を候補位置として候補情報として記憶する場合、提示制限情報として例えば(Bi,2)も追加して記憶する。このようにして、分岐点Biから一定値dth2以内となる条件を満たす複数の候補情報を記憶した場合において、再度の位置合わせのための候補情報の提示の指示がされた場合には、例えば分岐点Bi付近において条件を満たす最初の位置の番号1の候補情報のみを提示(表示)するように制限しても良い。なお、術者が例えば入力装置31から提示する数の条件を変更することによりモニタ32で提示する候補情報の数を変更するようにすることもできる。
このようにした場合にも、モニタ32で候補情報を提示する場合の提示用の候補情報が多くなりすぎることを抑制でき、術者は位置合わせに適した適度の数の候補情報から位置合わせの作業を行うことができるようになる。従って、術者は、位置合わせの作業が行い易くなる効果を有する。
さらに、気管支形状画像やVBS画像を生成するに当たり、CT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出するのでなく、CT画像データよりボリュームレンダリングで直接生成してもよい。この場合、
図1または
図5Aにおける気管支抽出部23は不要であり、VBS画像生成部24が前記2種類の画像を生成する。
【0055】
(第2の実施形態)
次に本発明の第2の実施形態を説明する。本実施形態は、
図1の内視鏡システム1又は
図5Aの内視鏡システム1Bと同じ構成である。
本実施形態は、上述した(b)の内容に近くなるが、2点間の距離が第1の閾値を満たす条件と、第2の閾値とを満たす場合に候補情報を記憶する。本実施形態においては、推定された挿入部11の先端の位置が、例えばPiで分岐点Biから第1の閾値dt2以内となった後、さらにPi+1まで進んで分岐点Biから第2の閾値dt1以上となった条件を満たした場合に、挿入部11の先端が分岐点Biに到達したと判断して第1の閾値dt2以内となったときの候補情報を記憶する。
図6は、第2の実施形態における挿入の操作中における候補情報を記憶する動作の説明図を示す。
図6に示すように例えば挿入部11の先端がスパーSpi−1よりも深部側に挿入された場合、推定された挿入部11の先端の位置Piと次の分岐点Biの位置間の距離が一定値dth2以内か否かの第1の判定が制御部26の特徴領域判定部26dにより行われる。
【0056】
また、特徴領域判定部26dは、第1の判定により推定された挿入部11の先端の位置Piと分岐点Biの位置の距離が第1の閾値dt2以内となった後、さらに推定された挿入部11の先端の位置Piと分岐点Biの位置間の距離が第2の閾値dt1以上か否かの第2の判定を行う。
そして、第2の判定により推定された挿入部11の先端の位置Pjと分岐点Biの位置間の距離が第2の閾値dt1以上となった場合に第1の閾値dt2以内となったときの候補情報を記憶する。
この場合、
図6に示すように第1の閾値dt1と第2の閾値dt2とをdt1>dt2に設定しておくと、
図6に示すように挿入部11の先端が分岐点Bi近傍に到達した状態での候補情報を記憶することができる。
【0057】
本実施形態によれば、第1の実施形態のように術者が挿入部11を挿入する操作を行った場合の最中において、提示用の候補情報を記憶部27に記憶し、挿入部11の先端の位置の推定が失敗したような場合に、提示用の候補情報を提示することができるようにしているので、挿入の操作を円滑に行うことができる。
更に、本実施形態によれば、挿入部11の先端が分岐点Biの近傍の位置に到達した状態を精度良く検出できる。
なお、本実施形態の具体例として、挿入部11の先端の位置と分岐点Biとの距離に関して2つの閾値を設定した場合で説明したが、挿入部11の先端の位置とスパーSpi間の距離や、挿入部11の先端に最も近い芯線35上の位置と分岐点Bi間の距離等を用いるようにしても良い。
【0058】
(第3の実施形態)
次に本発明の第3の実施形態を説明する。本実施形態の内視鏡システムは、
図1の内視鏡システム1又は
図5Aの内視鏡システム1Bと同じ構成である。本実施形態においては、挿入部11の先端がある分岐点付近を通り、当該分岐点付近から枝分かれした次の気管支枝(小枝)に移動したような場合、その前に取得した挿入部11の先端の位置で候補情報を記憶する。
図7は本実施形態の場合の動作説明図を示す。例えば挿入部11の先端が位置Pkにおいて、その位置が推定された後、さらに挿入部11の先端が移動して、枝分かれした1つの気管支枝(小枝)内の位置Pk+1に達した(又は移動した)場合に、位置Pkでの候補情報を記憶する。なお、
図7以降においては、挿入部11の先端の位置を小円で示す。
【0059】
1つの気管支枝(小枝)内の位置Pk+1に達した(又は移動した)場合とは、
図7に示すように挿入部11の先端の位置に最も近い芯線35が小枝のものであった場合に該当する。この状態を判定するために、
図7に示すように例えば分岐点Biを中心にした距離として半径dtの円の領域を設定し、特徴領域判定部26dは、推定された挿入部11の先端がこの円の領域内に位置に存在する第1の状態を判定した後、この円の領域以上の外側に移動した第2の状態を判定するようにしても良い。
図7の例では半径dtは、分岐点BiとスパーSpiの位置間の距離ないしはこの距離よりも若干大きい値に設定されている。
また、内視鏡画像により判定するようにしても良い。例えば上記半径dtの円内において内視鏡画像中に分岐した気管支枝の画像としての例えば2つの暗い円形画像を確認した後、挿入部11の先端の移動により1つの暗い円形画像となった場合においては、前記2つの暗い円形画像を確認した状態中において、位置合わせのエラーが発生していない状態の位置で取得した当該位置と対応するVBS画像を候補情報として記憶するようにしても良い。
【0060】
また、
図7に示す円形に設定した領域の変形例として例えば分岐点Biからの芯線35上での距離がdtとなる境界Bt(
図7において点線で示す)を設定しても良い。このように境界Btを設定した場合もほぼ同様の作用効果を有する。
また、本実施形態の変形例として挿入部11の先端が順次通過した2つの分岐点からの距離が両者とも増加した場合に、増加する直前において位置合わせのエラーが発生していない状態で取得した位置での当該位置と対応するVBS画像を候補情報として記憶するようにしても良い。
図8は本変形例の場合の動作説明図を示す。
図8に示すように推定された挿入部11の位置Pkが、分岐点Bi−1と、該分岐点Bi−1の次の分岐点Biを通過して気管支のより深部(末端)側に挿入された場合、特徴領域判定部26dは、以下の条件を監視する。
【0061】
特徴領域判定部26dは、分岐点Bi−1と位置Pkとの第1の距離d1と、分岐点Biと位置Pkとの第2の距離d2とが共に増加する条件を満たした場合に、この条件を満たす直前において位置合わせのエラーが発生していない状態の位置(例えばPk−1)で取得した当該位置と対応するVBS画像を候補情報として記憶する。
本変形例は、第2の実施形態とほぼ同様の効果を有する。
この他に、
図9に示すように内視鏡画像における分岐の特徴量となる(気管支2が分岐した)小枝の重心間の距離dgが変化した場合に、候補情報を記憶するようにしても良い。なお、
図9において上下の各内視鏡画像Ik、Ik+1は、例えば挿入部11の先端が位置Pk、Pk+1においてそれぞれ取得した場合の画像であり、画像処理部25は、2値化処理等により抽出した暗部を小枝(の部分)の画像Ia,Ibとして算出する。
【0062】
さらに画像処理部25は、各小枝の画像Ia,Ibの重心Ga,Gbを算出し、重心間の距離dgを推定する。そして、画像処理部25は、重心Ga,Gb間の距離dgが位置Pkから位置Pk+1に移動した場合に所定値以上又は所定の比率以上に変化した場合に、例えば位置Pkにおいての候補情報を記憶する。このようにした場合にも、第3の実施形態とほぼ同様の効果を有する。なお、
図9における2つの小枝の画像Ia,Ibの外側の円形は、気管支2の管腔内壁を示す。
図9のように重心Ga,Gb間の距離dgが変化した場合の代わりに、小枝を楕円形とみなした場合の代表半径又は代表半径の比が変化した場合に候補情報を記憶するようにしても良い。
また、画像Ia、Ibの画素の和が変化した場合に候補情報を記憶するようにしても良い。
次に上述した実施形態においてマッチングエラーや位置合わせが失敗した場合、又はユーザが位置合わせを行うために候補情報の提示の指示がされたような場合における候補情報の提示例を説明する。
図2Dにおいては、候補情報の1つの提示例を示したが、以下のように提示するようにしても良い。
【0063】
図10Aは、上述した実施形態において所定の条件を満たす場合において候補情報として記憶された候補位置をPc1、Pc2,Pc3で示し、また対応するVBS画像をV1,V2,V3で示している。そして、例えば術者が候補情報の提示の指示を行った場合、気管支形状画像2a上に上記候補位置Pc1、Pc2,Pc3を重畳表示し、また、対応するVBS画像V1,V2,V3も上記候補位置Pc1、Pc2,Pc3に対応付けて(例えば候補位置Pci(i=1,2,3)とVBS画像Viとを線で結ぶ等して)表示する。なお、
図2Dにおいて示したように候補位置Pciに対応する内視鏡画像もVBS画像Viと比較し易い位置に同時に表示するようにしても良い。
また、
図10Aに示すように目標部位36を気管支形状画像2a画像上に重畳表示すると共に、気管支形状画像2a画像上に内視鏡3の挿入部11を挿入する経路Rを重畳表示する。また、図示していない内視鏡3の先端部13の軌跡を表示してもよい。
【0064】
このように候補情報を提示することによりユーザは再度の位置合わせを短時間に効率良く行い易くなり、目標部位36への挿入を円滑に行い易くなる。なお、内視鏡3の挿入部11の先端が(経路データとしての)経路Rから(例えば管腔径程度などの)所定距離遠ざかったと判定した場合にも、例えば
図10Aに示すような候補情報を提示するようにしても良い。
また、
図10Bに示すように記憶された候補位置Pc1、Pc2,Pc3′、Pc3の間を、移動に沿った線L12,L23′、L23で結ぶように表示するようにしても良い。
図10Bの場合においては、候補位置Pc1,Pc2,Pc3′の順に候補情報を記憶した後、候補位置Pc3′から再び候補位置Pc2に戻り、候補位置Pc3′側の小枝とは異なる小枝側の候補位置Pc3に移動した場合の例を示す。上記のように移動したため、線L12,L23′、L23を表示(提示)する。なお、候補位置Pc3′に対応するVBS画像をV3′で示している。その他は、
図10Aにおいて説明した内容と同様であり、同様の効果を有する。
【0065】
また、
図10Cは、例えば
図10Aの場合においてさらに内視鏡3の挿入部11の先端が候補位置Pciで候補情報を記憶した時点から所定の時間が経過した時点において挿入部11の先端の位置を取得することによって、候補位置Pciからの動き方向Miを算出し、候補情報として、又は候補情報の付帯情報として記憶する。そして、
図10Cに示すように候補情報の提示の際に
図10Aで説明した候補情報の提示の際に、動き方向Miも表示(提示)する。その他は、
図10Aにおいて説明した内容と同様であり、
図10Aの場合と同様の効果を有すると共に、動き方向Miを参考にすることによってより位置合わせを行い易くなる。
図10Dは、例えば
図10Aの場合においてさらに内視鏡3の挿入部11の先端の位置Pciで候補情報を記憶する場合、撮像装置16の(対物レンズ15に基づく)視線方向Ciも記憶する。そして、
図10Dに示すように候補情報の提示の際に
図10Aで説明した候補情報の提示の際に、視線方向Ciも表示(提示)する。その他は、
図10Aにおいて説明した内容と同様である。視線方向Ciの提示により位置合わせを行い易くなる。
【0066】
図10Dにおいては、候補情報を提示する場合に視線方向Ciも提示することができる例を説明した。
図10Dにおいては、2次元的に視線方向Ciを表示する場合を示した。これに対して、
図10Eに示すように、例えば四角錐等を用いて視線方向Ci′を表示し、視線方向Ci′を3次元的な方向としてユーザが認識し易いように表示(提示)するようにしても良い。
図10Eに示すように提示すると、ユーザは視線方向Ci′をより認識し易くなる。
図10Fは、例えば
図10Aの場合においてさらに候補情報を記憶した場合に気管支2の管腔径の情報として気管支2の3次元形状より算出した内径Diの情報を記憶し、候補情報を提示する場合に、記憶した内径Diの情報も提示する例を示す。
図10Fのように内径Diの情報も表示することにより、ユーザは挿入部11の先端の位置をより把握し易くなる。その他は、
図10Aの場合と同様の作用効果を有する。
図10Gに示すように4つの位置に文字情報(具体的にはA,B,C,D)を付け、対応するVBS画像にも同じ文字情報で関係付けて表示しても良い。
図10Gでは
図10Bの場合のように、候補位置Pc1,Pc2,Pc3′の順に候補情報を記憶した後、候補位置Pc3′から再び候補位置Pc2に戻り、候補位置Pc3′側の小枝とは異なる小枝側の候補位置Pc3に移動した場合の例を示す。なお、VBS画像を気管支形状画像2aの下側に配置しても良い。
図10Gに示すように提示すると、ユーザは時系列で位置を確認することができ、挿入部11の先端の位置をより把握し易くなる。また、図示はしないがVBS画像に候補情報を記憶した順番や時刻を付加して表示してもよい。更に、位置に対する文字情報の割り当てはPc3、Pc3’、Pc2、Pc1と時系列で逆となるようにしてよいし、最後に位置推定に成功した位置から近い順にしてもよい。
【0067】
上述した提示例は、気管支形状画像2a上に候補位置等の候補情報を重畳表示する例を説明したが、以下に示すように候補位置となる位置を気管支2を含む断層像画像(MPR画像)上に表示するようにしても良い。
図11は、上述した第1−第3の実施形態に適用できるモニタ32に表示する例を示す。
図11の左上は患者の気管支を含む横断面のCT断層画像を示し、
図11の右上は患者の正面に垂直な縦断面のCT断層画像を示し、
図11の左下は患者の正面に並行な縦断面のCT断層画像を示し、
図11の右下はユーザが座標を設定する場合のメニュー画面を示す。
図11は、挿入部11の先端(又は先端に設けた撮像装置16)の推定された位置(点)を断層画像上に、例えば同じ色の円その他の形状で表示する。
図11では、4つの位置を、断層画像の表示色と異なる色(例えば青色)で表示する。
【0068】
なお、先端の位置を候補情報における候補位置(情報)として提示する場合、
図10A−
図10Fのように位置と、位置に対応するVBS画像とを線を用いて関係付けて表示しても良いし、
図12に示すように4つの位置に文字情報(具体的にはA,B,C,D)を付け、対応するVBS画像にも同じ文字情報で関係付けて表示しても良い。
以下に説明する場合においては、位置を断層画像上に重畳して表示する様子を示す例であり、位置と対応するVBS画像との文字情報等で関連付けて提示する表示を省略する。
図11では、推定された位置が、切断面上に有る場合と、それ以外の場合とで同じ色、形状で示しているが、
図13に示すように、切断面上に有る場合と、切断面上に無い場合とで、異なる形状(例えば前者を円、後者を四角)で表示するようにしても良いし、色を変えるようにしても良い。また、切断面上に有る場合のみを表示するようにしても良い。
【0069】
また、例えば
図11のように表示する場合、更に
図14において矢印で示すように移動方向の情報も表示するようにしても良い。上述したように分岐点等から一致値以内などの所定の条件を満たしたときの(挿入部11の先端の)位置で候補情報を記憶した場合、その直後の位置の情報も記憶し、候補情報を表示する場合、2点間を結ぶ矢印を
図13に示すように移動方向として表示する。なお、移動方向を示すものの代わりに、挿入部11の先端に設けた撮像装置16の視線方向を表示するようにしても良い。
また、2点間を結ぶ矢印でなく、候補位置での撮像装置16の視野範囲又はVBS画像の視野範囲を
図15に示すように表示しても良い。
また、
図15ではMPR画像での表示であるため、視野範囲も切断面に投影した形状となっているが、
図16に示すように1つの断層像上で表示する場合には視野範囲を四角錐を用いて立体的に表示しても良い。
【0070】
また、記憶した位置を点で表示(提示)する代わりに、領域で表示(提示)するようにしても良い。
図17は、この場合の提示例を示す。
図17において、斜線で示す領域は、既に記憶部27に候補位置に相当する候補領域として記憶済み(登録済み)の領域であり、これに対してクロスハッチングした領域は、未登録の領域を示す。
このように登録済みの領域と未登録の領域とを識別できるように表示すると、ユーザが望む気管支2の小枝部分において、登録が完了しているか否かが容易に分かる。そのため、ユーザに対する利便性を向上できる。
なお、表示(提示)する場合の領域としては、ユーザなどが再度の位置合わせの指示した位置から一定範囲内となる条件を満たす範囲内でも良いし、気管支2における小枝でも良いし、気管支2における抽出された部分に同時に表示しても良い。
【0071】
また、
図11から
図17における断層画像(MPR画像)が肺野のどの部分であるかをユーザが容易に把握できるよう、
図18に示すように断層画像と気管支樹と組み合わせて表示するようにしても良い。
この場合、断層画像と気管支樹の位置関係は、記憶した点が断層画像上になるように設定しても良いし、その点から任意の方向にオフセット分移動しても良い。
また、
図18では1つの断層画像を示す例を示しているが、
図19に示すように2つ以上の断層画像と組み合わせるようにしても良い。
上述した
図11−
図19のMPR画像の断面としては、体に水平な体軸断面(アキシャル断面, axial 断面)と、縦切りの矢状断面(サジタル断面, sagittal 断面)と、横切りの冠状断面(コロナル断面, coronal 断面)という3つの断面のいずれかが用いられる。しかし、気管支樹の形状を考慮していないため、気管支樹の分岐の認識が容易でない場合がある。そこで、分岐を認識し易いように
図20に示すように記憶(登録)した点の気管支枝を含むような切断面を設定しても良い。
【0072】
図20に示す切断面は、以下の設定方法により設定される。
a.
図21(A)に示すように記憶部27に候補位置として記憶(登録)された位置(点)Q1が存在する気管支枝T1を1つ求める。
b.
図21(A)に示すように求めた気管支枝T1と同じ分岐点Bを共有する気管支枝T2を求める。
c.2つの気管支枝T1、T2の方向ベクトル(例えば気管支枝における開始点と終点とを結ぶベクトルや、開始点と気管支枝の中間の芯線35上の点を結ぶベクトルなど)から外積を求める。
d.分岐点Bを含み、cで求めた方向ベクトルを法線とする平面を求める。
e.
図21(B)に示すようにdにおいて求めた平面上にあり、かつ登録された点Q1が存在する気管支枝T1の芯線35の長さや方向ベクトルに応じた領域R1で断層画像を切り出す。
【0073】
f.上述のa−eの処理を全ての登録された点Q1等が存在する気管支枝T1等に対して行う。
図21(C)は、
図21(A)の末端側の点Q2が存在する気管支枝T3において、
図21(B)に示した場合と同様の設定方法で切り出す領域R2を示す。
g.
図21(D)に示すように切り出した領域R1,R2を貼り合わせて、貼り合わせ断層画像を生成する。このようにして、
図20に示した記憶(登録)された位置(点)を含む気管支枝を示す切断面が設定される。
図20のように表示すると、候補位置を気管支枝との関連性から把握し易くなる。このため、位置合わせの処理をより円滑に行い易くなる効果を有する。
なお、上述した変形例を含む実施形態を部分的に組み合わせて構成される実施形態等も本発明に属する。
【0074】
本出願は、2013年3月12日に日本国に出願された特願2013−49290号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。