(58)【調査した分野】(Int.Cl.,DB名)
前記距離比較部は、一定時間毎に前記位置情報取得部により取得される前記内視鏡の挿入部の先端の位置から前記管腔が分岐する分岐領域までの第1の距離、又は前記内視鏡の挿入部の先端の位置と前記管腔の中心を通る芯線との間の第2の距離、又は前記内視鏡の挿入部の先端の位置と前記管腔の中心を通る芯線が分岐する芯線分岐点との間の第3の距離を前記第1の距離、又は前記第2の距離、又は前記第3の距離に対応して設定された前記設定距離と比較し、
前記条件判定部は、前記距離比較部が前記第1の距離、又は前記第2の距離、又は前記第3の距離が前記設定距離以内と判定した場合に、前記第1の条件を満たすと判定することを特徴とする請求項5に記載の内視鏡システム。
前記条件判定部が、前記第1の条件を満たすと判定した場合、前記情報記録部は、更に前記挿入部の先端の軸方向の情報を記録することを特徴とする請求項12に記載の内視鏡システム。
前記条件判定部が前記第2の条件を満たすと判定した場合、前記情報記録部は、更に前記挿入部の先端の軸方向の情報を記録することを特徴とする請求項11に記載の内視鏡システム。
【発明を実施するための最良の形態】
【0008】
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(
図2A)内に挿入される内視鏡3Aを備えた内視鏡装置4Aと、この内視鏡装置4Aと共に使用され、内視鏡3Aの挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4Aは、内視鏡3Aと、この内視鏡3Aに照明光を供給する光源装置6と、内視鏡3Aに搭載された撮像手段を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8Aと、CCU8Aにより生成された内視鏡画像を表示するモニタ9Aと、を有する。
【0009】
内視鏡3Aは、可撓性を有する細長の挿入部(又は内視鏡挿入部)11と、この挿入部11の後端に設けられた操作部12とを有し、挿入部11の先端部13には照明窓と観察窓とが設けられる。挿入部11,操作部12内には照明光を伝達するライトガイド14が挿通され、このライトガイド14の入射端は光源装置6に接続され、光源装置6内の図示しない光源ランプ又はLEDにより発生した照明光が入射端に入射される。このライトガイド14により伝達された照明光は、照明窓に取り付けられた出射端(先端面)から前方に出射される。
また、観察窓には、被写体を結像する対物光学系を形成する対物レンズ15が取り付けられ、その結像位置にCCD等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内を撮像する撮像手段(又は撮像部)としての撮像装置16が形成される。
【0010】
撮像素子7は、挿入部11,操作部12内を挿通された信号線を介してCCU8Aに接続される。CCU8Aは、その内部の図示しない画像信号生成回路により撮像素子7の撮像面に結像された光学像に対応する撮像画像の画像信号を生成し、この画像信号をモニタ9Aに出力する。モニタ9Aは、画像信号の画像(動画像)を、内視鏡画像(撮像画像とも言う)として表示する。
内視鏡3Aの挿入部11には、先端部13の後端に湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ20を回転する操作を行うことにより、湾曲部19を上下、左右の任意の方向に湾曲することができる。なお、湾曲操作ノブ20は、上下方向に湾曲させるための上下方向用湾曲操作ノブと、左右方向に湾曲させるための左右方向用湾曲操作ノブとを備えている。
図1に示す内視鏡装置4Aの代わりに、
図3Aに示す内視鏡装置4Bを採用しても良い。
【0011】
内視鏡装置4Bは、立体計測(ステレオ計測)が可能なステレオ内視鏡3Bと、光源装置6と、ステレオ内視鏡3B
に設けた2つの撮像素子7a,7bに対する信号処理を行うCCU8BとCCU8Bより生成されたステレオ画像信号を表示するステレオ表示用モニタ9Bを有する。
ステレオ内視鏡3Bの挿入部11の先端部13には、左右方向に所定間隔だけ離間して左右の対物レンズ15a、15bが配置され、それぞれの結像位置に左右の撮像素子7a,7bが配置されて、左右の撮像装置16a,16bを有するステレオ撮像装置16′が構成される。なお、左右の対物レンズ15a、15bと左右の撮像装置16a,16bとはそれぞれ特性が揃ったものが用いられている。
また、挿入部11内には光源装置6からの照明光を伝送するライトガイド14が挿通されている。ライトガイド14の先端は、先端部13の照明窓に取り付けられ、伝送した照明光を照明窓から出射し、体腔内における患部等の被写体を照明する。
【0012】
照明された被写体を撮像する左右の撮像素子7a,7bは、光電変換した撮像信号をCCU8B内の撮像制御部18a、18bに入力され、撮像制御部18a、18bは、左右の画像信号を生成してステレオ画像信号生成部18cに出力する。
ステレオ画像信号生成部18cは、左右の画像信号からステレオ表示用の画像信号を生成し、ステレオ表示用モニタ9Bに出力する。そして、ステレオ表示用モニタ9Bは、ステレオ表示用の画像信号を表示し、術者等のユーザはステレオ表示用の画像信号の表示により被写体を立体視することが可能となる。
また、撮像制御部18a、18bにより生成された左右の画像信号は、計測演算部18dに入力され、左右の画像信号を用いて、三角測量の原理を利用したステレオ計測により、撮像した内視鏡画像上における2点間の距離等を計測可能にする。後述するように例えば気管支径Daを計測(算出)することが可能となる。計測演算部18dにより算出された気管支径Da等の情報は、画像処理部25に出力される。なお、内視鏡画像から計測(算出)される気管支径Daは、気管支2の平均的な内径でなく、管腔における2点から算出される内径の値である。このため、気管支2が分岐する分岐領域付近においては、気管支の実際の内径よりも大きな気管支径Daが計測(算出)される場合がある。
図3Aにおいて、撮像制御部18a(又は18b)により生成された映像信号も画像処理部25に出力される。
【0013】
次に
図3Bを用いてステレオ計測による計測対象の点(位置)の3次元座標の求め方を説明する。左右の対物レンズ15a、15bを用いて撮像素子7a,7bの撮像面の画像に対して、三角測量の方法により、計測点60の3次元座標(X,Y,Z)が以下の(1)式〜(3)式で計算される。ただし、歪み補正が施された左右の画像上の計測点61,62の2次元座標をそれぞれ(X
L,Y
L)、(X
R,Y
R)とし、左右の対物レンズ15a,15bの光学中心63,64間の距離をDとし、焦点距離をFとし、t=D/(X
L−X
R)とする。すると、以下の関係式が成立する。
X=t×X
R+D/2 ・・・(1)
Y=t×Y
R ・・・(2)
Z=t×F ・・・(3)
上記のように計測点60に対する画像上での2次元座標の計測点61,62が決定すると、パラメータとしての距離Dおよび焦点距離Fを用いて計測点60の3次元座標が求まる。
【0014】
いくつかの点の3次元座標を求めることによって、それらにおける2点間の距離、2点を結ぶ線と1点の距離、面積、深さ、表面形状等の様々な計測が可能である。また、左の対物レンズ15aの光学中心63、または右の対物レンズ15bの光学中心64から被写体までの距離(物体距離)を求めることも可能となる。上記のステレオ計測を行うためには、内視鏡3Bの先端部13と対物レンズ15a,15bの特性を示す光学データを用いる。なお、
図3Bにおいては、2つの撮像面を共に含む面をPLで示し、また、(
図3Bにおいては表示していない対物レンズ15a,15bの光軸上となる)右の撮像面の中心をO
L,O
Rで示している。
ステレオ画像から3次元座標を演算する方法としては、日本国特開2011−027911号公報に示される方法などがある。
本実施形態においては、後述する気管支径Daを計測する場合には、
図3Bの撮像面上での気管支径の一方の計測点60に対応する点61および62と、他方の計測点に対応する点を指定することにより指定された2点間の気管支径Daを算出する。
【0015】
この方法に関して
図3Cおよび
図3Dを用いて説明する。モニタ9Bの表示画面71には内視鏡画像中の気管支72と、この気管支72の抹消側となる次の気管支分岐部73が表示されている様子を示している。この画面71の範囲に対して、メッシュ74で示すようなブロックで区切り、各ブロック内の平均輝度が所定値以下のエリアを抽出する。このようにして抽出された検出ブロック75を斜線をつけて示したのが
図3Dとなる。
そして、検出ブロック75の一番直径の大きくなる2次元座標の2点を気管支径Daとして判定して、その2点を計測点60aおよび、計測点60bを設定する。なお、
図3Dは、左画面および右画面における一方の画面を示し、他方の画面でも同様に計測点60a,60bを設定する。一般的に、管腔臓器を内視鏡で観察すると奥に行くほど暗い画像となるため、上記のように説明した方法で計測点を設定することが可能となる。計測点60a,60bを指定する場合、該計測点60a,60b間が最も大きくなる方向に指定するようにしても良い。
【0016】
上記演算をステレオ画像を構成する左画面および右画面の両方で実施し、左画面および右画面においてそれぞれ2次元の計測点60aおよび計測点60bを求める。そして、左画面の計測点60aに相当する点を
図3Bの2次元の点61、右画面の計測点60aに相当する点を2次元の点62として演算すると、計測点60の(3次元座標)位置を求めることができる。同様の演算を計測点60bに相当する左画面および、右画面に対して行うことで、気管支径両端の計測点60に相当する3次元座標を得ることができるため、この2点間の距離から(該2点を結ぶ計測方向の)気管支径Daを算出することができる。
以上の動作を内視鏡画像が更新される毎に行うことで、内視鏡画像から算出した計測方向の気管支径Daの変化を監視することが可能となる。
また、
図3Aに示した対となる左右の撮像装置16a,16bを有するステレオ撮像装置16′を備えたステレオ内視鏡3Bを用いる代わりに、
図1の単眼(単一)の撮像装置16を備えた内視鏡3Aを用いて、以下のようにステレオ計測を行うようにしても良い。
【0017】
図3Eに示すように気管支2内に内視鏡3Aを挿入した場合において、術者が挿入部11の先端側の湾曲部19を左右に湾曲させて
図3Bの左右の撮像装置で撮像する状態とほぼ等価な状態に設定して、ステレオ計測により気管支径を算出するようにしても良い。
例えば湾曲部19を湾曲しない状態において、挿入部11の先端を気管支2の中心線付近に設定し、術者は湾曲部19を例えば左側に湾曲させて、挿入部11の先端が気管支2の左側の内壁に接触させて、
図3Bの左の撮像装置16aで撮像する状態に相当する第1の撮像位置16a′に設定する。第1の撮像位置16a′における対物レンズ15と撮像素子7とをそれぞれ15a′、7a′で示している。
【0018】
この第1の撮像位置16a′において撮像を行った後に、術者は湾曲部19を右側に湾曲させて、
図3Eにおいて2点鎖線で示すように先端を気管支2の右側の内壁に接触させて
図3Bにおける右の撮像装置16bで撮像する状態に相当する第2の撮像位置16b′に設定する。第2の撮像位置16b′における対物レンズ15と撮像素子7とをそれぞれ15b′、7b′で示している。この第2の撮像位置16b′において撮像を行う。
湾曲操作ノブ20の操作によって湾曲部19を左右にそれぞれ湾曲させた場合の先端部13の左右方向の移動量や、撮像装置16の対物レンズ15の焦点距離、撮像素子7の左右及び垂直方向の画素数、画素のピッチ等の情報を予め調べて情報記録部27等に格納しておく。
【0019】
このようにした場合、
図3Bの左右の光学中心63,64に対応する
図3Eにおける光学中心63′、64′や左右の光学中心間の距離Dに対応する距離D′を湾曲部19の湾曲角(又は湾曲操作ノブ20の操作量)等から算出することができる。また
図3Bの計測点60の場合に対応する計測点60′に対する撮像素子7a′、7b′上での計測点61′,62′の情報から計測点60′の3次元位置を算出できる。また、計測点60′として気管支径の一方の位置と他方の位置との2点を指定することにより、気管支径を算出することが可能となる。このように、
図1の内視鏡3Aを用いて、気管支径を算出しても良い。なお、左右の方向に湾曲させた場合で説明したが、他の方向に湾曲させた場合にも、同様に該他の方向に沿った気管支径を算出することが可能となる。
図1に示すように上記挿入支援装置5は、内視鏡3A又は3Bによる検査が行われる患者に対して、公知のCT(Computed Tomography)で生成された患者の3次元画像情報としてのCTデータを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCTデータ取込部21と、このCTデータ取込部21によって取り込まれたCTデータを記録する画像記録手段としてのCT画像データ記録部22とを有する。
【0020】
なお、CT画像データ記録部22は、CTで生成された(被検体としての患者の3次元画像情報としての)CTデータを通信回線、インタネット等を経由して記憶しても良い。このCT画像データ記録部22は、ハードディスク装置や、フラッシュメモリ、DVD等により構成することができる。
また、画像記録手段を構成するCT画像データ記録部22は、CTデータより画像データを分離したCT画像データと、CTデータより位置情報を分離した該CT画像データに対応する第1の座標系(CT座標系)を用いた3次元の位置データとを対応付けた対応付け画像情報として記録する対応付け画像情報記録部22aを有する。
また、挿入支援装置5は、CT画像データ記録部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出手段としての管腔臓器抽出回路、中央演算処理装置(CPU略記)等からなる気管支抽出部23を有する。
【0021】
この気管支抽出部23は、抽出した気管支2の3次元データ(より具体的には3次元のボリュームデータ)から、気管支2の中空形状を表す3次元形状の情報(形状データ)と、3次元形状の画像情報(画像データ)を生成する。つまり、気管支抽出部23は、抽出した気管支2の3次元データから中空の3次元形状の気管支形状の画像としての気管支形状画像2aを生成する気管支形状画像生成手段としての気管支形状画像生成部23aを有する。
また、この気管支抽出部23は、気管支2の3次元データを抽出する際、3次元データに対応する第1の座標系(又はCT座標系)での3次元の位置データと対応付けて抽出する。そして、この気管支抽出部23は、気管支2の3次元形状のデータ(つまり気管支形状データ)と3次元の位置データとを対応付けした対応付け情報を記録するメモリなどからなる対応付け情報記録部23bを有する。
【0022】
また、挿入支援装置5は、内視鏡3A又は3Bにおける挿入部11の先端部13に設けた撮像装置16又は16a,16bの撮像により生成される内視鏡画像に対応する仮想的な内視鏡画像としての仮想内視鏡画像(VBS画像と言う)を生成する仮想内視鏡画像生成手段としてのVBS画像生成部24を有する。以下においては、内視鏡3A又は3Bにおけるいずれでも良い場合においては、内視鏡3Aの場合で説明する。
VBS画像生成部24には、内視鏡3Aの先端部13の撮像装置16に関する結像系を含む特性情報(対物レンズ15の焦点距離、撮像素子7の画素数、画素サイズ等)が、例えば入力装置31から制御部26を経て入力される。なお、制御部26を経由することなく、入力装置31から撮像装置16に関する特性情報をVBS画像生成部24に入力するようにしても良い。
【0023】
VBS画像生成部24は、実際に気管支2内に挿入された内視鏡3Aの先端部13内に配置された撮像装置16の3次元位置(挿入部11の先端の3次元位置とも言える)の情報と、撮像装置16による気管支2内の被写体を結像する特性情報と、前記気管支形状データに基づいて、前記3次元位置(単に位置ともいう)を視点位置として気管支2内を内視鏡的に撮像した内視鏡画像を仮想的に描画するVBS画像を生成する画像生成回路、又はCPU等により構成される。なお、VBS画像生成部24は、同じ視点位置においても先端の軸方向(撮像装置16の光軸方向とほぼ一致)を変化した場合には、その変化に対応したVBS画像を生成することができる。
従って、例えば挿入部11の先端の位置と、先端の(軸)方向とをCT座標系により指定すると、VBS画像生成部24は、位置と方向の指定に対応したVBS画像を生成する。
【0024】
また、挿入支援装置5は、CCU8Aから入力される内視鏡画像と、VBS画像生成部24のVBS画像との位置合わせを画像マッチングで行うCPU、画像処理回路等で構成される画像処理部25と、画像処理部25等の制御を行う制御手段としてCPU等で構成される制御部26と、制御部26の制御下で挿入支援するためのVBS画像等の情報を候補情報又は位置及び画像情報として記録する情報記録手段を構成するメモリ等で構成される情報記録部27とを有する。
また、挿入支援装置5は、CT画像データ記録部22に記録されたCT画像データに基づき多断面再構築画像としてのCT断層画像(MPR画像という)を生成するMPR画像生成部28と、MPR画像生成部28が生成したMPR画像を有する挿入経路の設定画面としての経路設定画面を生成し、内視鏡3Aの気管支2内の目標部位側へ挿入する際の経路を設定するマウス等のポインティングデバイス等の経路設定手段としての経路設定部29とを有する。
【0025】
そして、例えばCT画像データから
図2Aに示すように目標部位36を指定した場合、経路設定部29はCT画像データと気管支形状画像2aとから気管支2における(挿入部11の)挿入開始位置から目標部位36近傍となる目標位置までの経路データを生成する経路データ生成回路等の経路データ生成部29aの機能を有する。
また、内視鏡システム1は、経路設定部29に対して設定情報を入力するキーボードやポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部26に対して制御動作を選択、指示することができる。
また、術者が経路設定を行った場合、経路設定部29は設定された経路の情報をVBS画像生成部24、MPR画像生成部28、制御部26に送る。VBS画像生成部24及びMPR画像生成部28は、それぞれ経路に沿ったVBS画像、MPR画像を生成し、制御部26は経路に沿って各部の動作の制御を行う。
【0026】
上記画像処理部25には、CCU8Aにより生成された内視鏡画像(実画像又は単に画像とも言う)と、VBS画像生成部24により生成されたVBS画像とが入力される。また、気管支形状画像生成部23aにより生成された気管支形状画像2aも、画像処理部25に入力される。
本実施形態においては、撮像装置16が配置された挿入部11の先端部13に、挿入部11の先端の位置を検出するセンサを搭載していないため、画像処理部25による位置合わせ処理部25aにおける画像マッチングによって挿入部11の先端の3次元位置(単に位置とも言う)を推定(又は算出)する。
あらかじめ、気管支2の入口やカリーナK(
図2A参照)等、気管支形状画像2aからCT座標系により特定できる3次元位置(既知となる位置)又はその近傍位置を動画マッチングの開始位置として設定しておくと、その位置情報を基にVBS画像生成部はVBS画像を生成する。画像処理部25の位置合わせ処理部25aは、気管支2の入口やカリーナ等、気管支形状画像2aからCT座標系(第1の座標系)により特定できる3次元位置(既知となる位置)又はその近傍位置に挿入部11の先端を設定して、CT座標系により挿入部11の先端の位置を推定(又は算出)できる状態に設定する。
【0027】
そして、術者は内視鏡画像がVBS画像と同じように見えるように挿
入部11の先端を挿入する。このような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、内視鏡画像とVBS画像とを比較し、比較結果が設定された条件(所定の精度を確保できる誤差)以内で一致するように画像マッチングを開始する。
このため、画像処理部25は、内視鏡画像とVBS画像とを比較する画像比較手段としての画像比較回路等により構成される画像比較部25bを有し、位置合わせ処理部25aは、画像比較部25bによる画像比較を利用して画像マッチングによる位置合わせの処理を行う。
上記のような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、挿入部11の先端の位置と、先端の軸方向(撮像装置16の視点方向又は視線方向)とをCT座標系(第1の座標系)での位置座標と軸方向(姿勢とも言う)を示す情報により特定できる状態にする。
【0028】
このようにして位置合わせした後は、該位置合わせした情報を用いて、画像比較部25bによる画像比較結果により、以後の挿入部11の先端の位置を、CT座標系(第1の座標系)での位置に対応付けた情報として取得することが可能になる。つまり、画像処理部25は、挿入部11の先端の位置(情報)を取得する位置情報取得手段として、挿入部11の先端の位置を推定により取得する位置推定部25cを有する。位置推定部25cも画像比較部25bによる画像比較結果に基づいて挿入部11の先端の位置を取得する。更に説明すると、画像処理部25は、挿入部11が気管支2の深部側(末梢側)に挿入される操作において、位置合わせ処理部25aにより位置合わせ後の状態におけるCT座標系のもとで挿入部11の先端の移動した位置を、内視鏡画像とVBS画像との両画像の比較結果により、推定する。
【0029】
つまり、位置合わせ処理した位置から、挿入部11の先端を芯線35にほぼ沿って(挿入のために)移動する操作に伴って、撮像装置16が移動するため、内視鏡画像が変化する。
この場合、位置推定部25cは、芯線35にほぼ沿った経路上で挿入部11の先端を移動した場合の(VBS画像生成部24から出力される)VBS画像を用いて現在の内視鏡画像と最も良くマッチングするVBS画像を画像処理により選出し、選出したVBS画像に対応する3次元位置を挿入部11の先端の位置として算出(推定)する。上記ように位置推定部25cは、挿入部11の先端の位置と共にその姿勢(挿入部11の先端付近の軸方向又は長手方向)も算出(推定)する。
挿入部11の先端は、芯線35上から外れた位置に移動される場合もあるため、芯線35から適宜の距離だけ偏心した位置においてのVBS画像をVBS画像生成部24が生成し、生成したVBS画像を位置合わせ処理部25aに出力するようにしても良い。このようにすると、画像マッチングによる位置推定の範囲を拡大できる。
【0030】
また、位置推定部25cにより推定された2つの位置の差分量から挿入部11の先端の移動量及び移動した位置を算出(推定)する。また、位置推定部25cは、推定された1つの位置と、気管支2における特徴領域における分岐点(CT座標系により特定できる位置)のような特定の位置との間の距離を算出(推定)することもできる。
このため、位置推定部25cは、この位置推定部25cにより推定される挿入部11の先端の位置と、所定の管腔臓器としての気管支2内における分岐している分岐領域などの特徴領域までの距離を算出する距離算出手段としての距離算出部の機能を有する。上述したように、画像処理部25は、挿入部11の先端の位置の情報を推定により取得する位置情報取得手段としての位置推定部25cの機能を有する。この場合、位置合わせ処理部25aが位置推定部25cの機能を含む構成と定義しても良い。
なお、本明細書においては、挿入部11の先端は、内視鏡3Aの先端と同じ意味で用いる。
【0031】
また、画像処理部25は、制御部26における表示を制御する表示制御部26a等の制御の下で、画像表示手段としてのモニタ32に表示する画像を生成する。
表示制御部26aの制御下で、画像処理部25は、通常は、気管支形状画像生成部23aにより生成された気管支形状画像2aの画像信号(映像信号)をモニタ32に出力する。そして、モニタ32には図
2Aに示すように気管支形状画像2aが例えば管腔の中心を通る方向に沿った断面で切り出した2次元断層画像として表示される。なお、2次元断層画像で表示する場合に限定されるものでなく、3次元画像で表示しても良い。3次元画像で表示する場合には、例えば平行投影法による投影図や、管腔内部が分かるように透視図で表示しても良い。
また、
図2Aに示すように、モニタ32において表示される気管支形状画像2aには、気管支2の管腔の中心を通る芯線35も表示するようにしている。
【0032】
なお、芯線35は、例えば気管支形状画像生成部23aが生成するが、画像処理部25において芯線35を生成しても良い。また、画像処理部25は、気管支形状画像2a上に、芯線35と共に、位置推定部25cにより推定された挿入部11の先端の位置を重畳する画像等を生成する画像生成部25dの機能を有する。
術者等のユーザは、挿入部11をその先端から気管支2内に挿入する場合、気管支2の3次元形状を表す気管支形状画像2a上に芯線35と挿入部11の先端の位置とが表示されるため、その表示を参考にすることによって、挿入部11の挿入の操作が行い易くなる。また、芯線35に沿って挿入する操作を行うことにより、画像マッチングによる挿入部11の先端の位置の推定を短時間に行うことができる。
また、画像処理部25は、位置推定部25cにより推定される挿入部11の先端の位置と、所定の管腔臓器としての気管支2内における特徴領域までの距離を設定距離と比較する距離比較手段としての距離比較部25eを有する。
【0033】
なお、画像処理部25が距離比較部25eを有する構成とする代わりに、制御部26が距離比較手段としての距離比較部25eを有する構成にしても良い。上述したように画像処理部25における位置推定部25cが距離を算出(推定)すると説明したが、距離比較部25eが距離の算出(推定)と、距離の比較とを行うようにしても良い。
また、本実施形態においては、画像処理部25は、撮像装置16により撮像された内視鏡画像(単に画像とも言う)内における特徴部の変化量を検知する変化量検知手段としての変化量検知部25gを有する。変化量検知部25gは、特徴部としての気管支径(気管支2の内径)の変化量を検知する気管支径変化量検知部25h、特徴部としての分岐領域の明るさの変化量を検知する明るさ変化量検知部25i、分岐領域の形状の変化量を検知する形状変化量検知部25jを有する。
また、形状変化量検知部25jは、気管支2の管腔が分かれる(分岐する)スパー(分岐点又は分岐境界)の長さや角度の変化量を検知するスパー変化量検出部25kを有し、また明るさ変化量検知部25iは、後述する視野不良検知部25lの機能を有する。視野不良検知部25lの機能を明るさ変化量検知部25iが備える場合に限定されない。
【0034】
なお、上記制御部26は、位置推定部25cにより推定した挿入部11の先端の位置により経路データ生成部29aによって、(内視鏡3Aの挿入部11の挿入前に)生成された経路データを補正するようにしても良い。
また、制御部26は、距離比較部25eによる比較結果と、変化量検知部25gによる検知結果とが記録するための所定の条件を満たすか否かの判定を行う条件判定部26bの機能を有する。
制御部26における条件判定部26bは、所定の条件を満たすと判定した場合には、所定の条件を満たすと判定した場合の位置推定部25cにより推定した挿入部11の先端の位置及び姿勢の情報と、該位置及び姿勢の情報に対応するVBS画像とを関連付けた情報を(位置及び画像情報又は再度の位置合わせの際に提示する候補情報として)情報記録部27に記録させる。
【0035】
このため、情報記録部27は、距離比較部25eによる比較結果と、変化量検知部25gによる検知結果とに基づいて、挿入部11の先端の位置及び姿勢の情報と、該位置及び姿勢の情報に対応するVBS画像とを関連付けた候補情報となる位置及び画像情報(単に情報とも記す)を記録する情報記録手段の機能を有する。
また、制御部26の条件判定部26bは、情報記録部27に位置及び画像情報を記録する制御を行う情報記録制御部26cの機能を有する。
また、制御部26の例えば表示制御部26aは、例えば術者が現在の挿入部11の先端の推定された位置の精度が低いと思うような場合等、再度の位置合わせを行うために、入力装置31から、再度の位置合わせを行う指示信号が入力されたような場合には、情報記録部27に記録された情報を読み出し、画像処理部25を介してモニタ32に候補情報として表示するように制御する。
【0036】
この場合、画像処理部25は、気管支形状画像2a上に情報記録部27から読み出した候補情報を、重畳して表示する画像を生成する画像生成部25dを有する。具体的には、気管支形状画像2a上に、挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像とを重畳して表示する。なお、後述するように
図2Dは、モニタ32に表示される気管支形状画像2a上に、挿入部11の先端の位置を該位置に対応した位置に表示すると共に、該位置に対応するVBS画像を該位置に(線で)関連付けて重畳して表示した様子を示す。
術者は、候補情報を参考にして、再度の位置合わせを行い、位置合わせ処理部25a又は位置推定部25bは挿入部11の先端の位置及び姿勢の情報を気管支2の座標系と対応付けた状態で取得することができる。そして、再度の位置合わせにより、位置推定部25bは、所定の精度を確保して、再度の位置合わせした位置から再び挿入部11の先端を気管支2の深部側に挿入する操作を行うことができる。
本実施形態においては、上述したように情報記録制御部26c又は条件判定部26bは、距離比較部25eによる比較結果が第1の条件を満たし、変化量検知部25gによる検知結果第2の条件を満たす(つまり第1の条件と第2の条件からなる所定の条件を満たす)判定結果の場合に、その判定結果が得られた場合の(推定された)挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像とを含む情報を候補情報として情報記録部27が記録するようにしている。なお、上記先端の位置及び姿勢における少なくとも位置を含む候補情報を形成する情報を情報記録部27に記録するようにしても良い。
【0037】
本実施形態においては、上記のように互いに異なる複数の条件を満たす場合に情報を記録することにより、再度の位置合わせを行う場合、適度の情報量(又は適度の数)の候補情報を表示手段(又は表示装置)としてのモニタ32において表示(又は提示)することができるようにしている。
本実施形態においては、撮像装置16により撮像された内視鏡画像における所定の管腔臓器としての気管支2に関する気管支径等の特徴部の変化量を変化量検知部25gにより検知し、少なくとも該変化量検知部25gによる検知結果に基づいて、前記検知結果の際の挿入部11の先端に位置及び姿勢(の情報)と、該位置及び姿勢に対応するVBS画像とを含む情報を(再度の位置合わせを行う際に提示する場合の候補情報として)情報記録部27に記録する。
術者等のユーザは、撮像装置16により撮像した内視鏡画像を観察しながら挿入部11を挿入する操作を行うために、情報を記録する条件または状況を把握し易い。また、再度の位置合わせを行う際に提示される候補情報は、内視鏡画像中における特徴部の変化量が挿入部11の先端の位置の移動に対して敏感に変化するようなものに対応させることができるため、画像比較による位置合わせも行い易いものとなる。
【0038】
なお、情報記録部27に記録する情報は、挿入部11の先端の位置及び姿勢と、対応するVBS画像とを含むが、前記位置及び姿勢の情報に対応する内視鏡画像も含むように記録しても良い。
また、画像処理部25は、内視鏡画像とVBS画像との両画像を比較して画像マッチングを行う際に、内視鏡画像やVBS画像を一時的に記憶したり、画像処理のワークエリアとして用いる画像メモリ26fを有する。なお、画像処理部25の外部に画像メモリ25fを設けるようにしても良い。
また、本実施形態において、例えば入力装置31は、距離比較部25eが比較する挿入部11の先端と特徴領域に関する第1の条件と、変化量検知部25gが検知する特徴部の変化量に関する第2の条件とのそれぞれを選択的に指定(又は設定)する指定部31aを有する様な構成にしても良い。
【0039】
また、例えば情報記録部27は、上述した候補情報となる情報を記録する他に、第1の条件に関する第1の条件の候補情報と、第2の条件に関する第2の条件の候補情報とを予め記録する条件情報記録手段としての条件情報記録部27aを有するようにしても良い。なお、情報記録部27と別体で条件情報記録部27aを備える構成にしても良い。
第1の条件の候補情報は、(a)挿入部11の先端と、芯線35が分かれる分岐点Bi(i=1,2,…)との距離da、(b)挿入部11の先端と、気管支2が分かれるスパーSpi(i=1,2,…)との距離db、(c)挿入部11の先端と、芯線35又は気管支壁との距離dc、(d)挿入部11の先端と、予め設定された領域との距離dd等である。そして、術者等のユーザが、(a)〜(d)の第1の条件の候補情報の中から第1の条件(の情報)として使用することができるように指定部31aから選択的に指定することができるようにしても良い。この他に、第1の条件の候補情報として、(e)挿入部11の先端と、目標部位までの距離、(f)挿入部11の先端と、挿入開始位置までの距離等を含めるようにしても良い。
【0040】
また、第2の条件の候補情報は、(a)気管支径Daの変化、(b)画像(内視鏡画像)又は内視鏡画像を表示する表示画面の明るさ変化、(c)分岐の形状の変化、(d)スパーSpの長さの変化、(e)スパーSpの角度の変化、(f)視野の不良、(g)内視鏡画像の大きなぶれ、(h)内視鏡画像に気管支以外が映ったような変化等である。そして、術者等のユーザが、(a)〜(h)の第2の条件の候補情報の中から第2の条件(の情報)として使用することができるように指定手段としてのマウスやキーボード等からなる指定部31aから選択的に指定することができるようにしても良い。
この場合、制御部26は、指定部31aによる指定に対応して、第1の条件と第2の条件の設定を行う条件設定部26dの機能を有する。条件設定部26dは、第1の条件と第2の条件の設定を行う際に、条件判定部26bが判定する際に用いる閾値情報の設定も行う。なお、閾値情報も情報記録部27に、第1の条件の候補情報と対応付けて記録するようにしても良い。
なお、
図1において、例えば画像処理装置25は、CPU(中央演算処理装置)により構成することができるが、画像処理部25内部の位置合わせ処理部25a−変化量検知部25gをそれぞれCPU以外の専用のハードウェアを用いて構成しても良い。また、
図1における制御部26に関しても、CPUにより構成しても良いし、CPU以外の専用のハードウェアを用いて構成しても良い。
【0041】
このような構成の内視鏡システム1は、予め取得した被検体における3次元画像情報を記録する画像記録手段としてのCT画像データ記録部22と、前記3次元画像情報から所定の管腔臓器としての気管支2を抽出する管腔臓器抽出手段としての気管支抽出部23と、前記管腔臓器抽出手段により抽出された前記所定の管腔臓器の情報に対して所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成手段としてのVBS画像生成部24と、内視鏡3A又は3B内に設けられ、前記所定の管腔臓器内を撮像する撮像手段としての撮像装置16又は16′と、前記所定の管腔臓器内における前記内視鏡3Aの挿入部11の先端の位置の情報を位置情報として取得する位置情報取得手段としての位置推定部25cと、前記管腔臓器抽出手段により抽出された前記所定の管腔臓器における特徴領域と前記位置情報取得手段により取得される前記内視鏡3A又は3Bの挿入部11の先端の位置から前記特徴領域までの距離を設定距離と比較する距離比較手段としての距離比較部25eと、前記撮像手段により撮像された画像としての内視鏡画像内において、前記所定の管腔臓器における特徴部の変化量を検知する変化量検知手段としての変化量検知部25gと、前記距離比較手段の比較結果及び前記変化量検知手段の検知結果に基づいて、前記内視鏡の挿入部の先端の位置情報に対応する前記仮想内視鏡画像とを含む位置及び画像情報を記録する情報記録手段としての情報記録部27と、を備えることを特徴とする。
【0042】
次に本実施形態の動作を説明する。
図4Aは、本実施形態における代表的な処理を示し、
図4Bは
図4Aにおける一部の処理部分、つまり所定の条件を満たす場合に候補情報となる(位置及び画像)情報を記録する処理部分を示す。
図1の内視鏡システム1の電源が投入され、内視鏡装置4A(又は4B)と、挿入支援装置5とが動作状態になると、
図4Aにおける処理がスタートする。
図4Aにおける最初のステップS1において初期設定処理が行われる。この初期設定処理として、術者は、入力装置31から本実施形態において挿入支援に用いる情報の入力を行う。この場合、術者は指定部31aから第1の条件と第2の条件との指定を行う。また、条件判定部26bは、指定された第1の条件と第2の条件に対応した判定を行う状態になる。
【0043】
術者が、第1の条件として、挿入部11の先端と、芯線35が分かれる分岐点Biとの距離daを指定し、第2の条件として気管支径Daの変化を指定した場合を(A)として、以下に説明する。
(A)第1の条件と第2の条件として挿入部11の先端(の位置)と分岐点Bi間の距離daと、気管支径Daの変化が指定された場合
気管支形状画像生成部23aは、
図2Aに示すように気管支2の形状画像としての気管支形状画像2aを生成し、画像処理部25を経てモニタ32には、気管支形状画像2aが表示される。また、上述したように気管支形状画像2a上に、気管支2の管腔の中心を通る芯線35が表示される。また、芯線35が分岐する分岐点Biもモニタ32上に表示される。芯線35と、分岐点Biの各位置は、CT座標系において特定される既知の3次元位置となる。
【0044】
次のステップS2において術者は、挿入部11の先端を気管支2内に挿入する。この時、術者は、画像マッチング開始位置としてあらかじめ設定された気管支2の入口やカリーナK(
図2A参照)等のVBS画像と、撮像装置16(又は16′)による内視鏡画像が同じに見えるように挿入部11の先端を挿入する。このような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、内視鏡画像とVBS画像とが設定された条件(所定の精度を確保できる誤差以内)で一致するように画像マッチングを開始する。なお、撮像装置16′を用いる場合には、撮像装置16′における一方の撮像装置16a又は16bによる内視鏡画像を採用すれば良い。
ステップS2の位置合わせ処理後に、術者は挿入部11の先端を位置合わせした位置よりも気管支2の深部側に挿入する。挿入部11が挿入された場合、ステップS3に示すように画像処理部25の位置推定部25cは、挿入部11の先端の位置及び姿勢を画像比較部25bを用いた画像マッチングにより推定する。画像マッチングにより推定できた場合には、
図2Aに示すように推定した位置を気管支形状画像2a上における該当する位置に表示する。また、この情報を例えば画像メモリ25fに記憶する。
また、次のステップS4に示すように制御部26は、術者等から再度の位置合わせを行う指示信号が入力されたか否かをモニタしている。
【0045】
上述したようにステップS2において位置合わせした状態の位置からの移動距離が大きくないような場合には、術者は再度の位置合わせの指示を行う必要がない。なお、画像処理部25の画像比較部25bが、内視鏡画像とVBS画像との画像を比較し、画像比較により両画像のマッチングの程度が予め設定された閾値以上にずれた場合、換言すると、挿入部11の先端の位置を推定することに失敗した場合には再度の位置合わせの指示信号を発生し、この指示信号を制御部26に入力する構成にしても良い。この場合においても、位置合わせした状態の位置からの移動距離が大きくないような場合には、指示信号が制御部26に入力されない。
制御部26に指示信号が入力されない場合には、ステップS5において制御部26の条件判定部26bは、距離比較部25eによる比較結果及び変化量検知部25gによる検知結果が所定の条件を満たすか否かの判定を行う。
【0046】
ステップS5において、所定の条件を満たさない判定結果の場合には、ステップS3の処理に戻る。一方、所定の条件を満たす判定結果になると、ステップS6に進み、例えば条件判定部26bは、所定の条件を満たす判定結果の場合においての挿入部11の先端の位置及び姿勢と、対応するVBS画像の情報を情報記録部27に記録するように制御する。
なお、所定の条件を満たす判定結果は、後述するように少なくとも時間的に異なる2つ以上のタイミングにおいての比較結果となるため、比較を行った2つ以上の時間における1つの時間での挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像の情報が情報記録部27に記録されることになる。ステップS6の処理後にステップS3の処理に戻る。このようにして、最初に位置合わせした位置から、挿入部11の先端がかなり移動したような場合においては、画像比較部25bによるマッチングの精度が低下し易くなる。
【0047】
マッチングの精度が低下したような場合には、再度の位置合わせを行うための指示信号が制御部26に入力され、制御部26は指示信号の入力を検知する。そして、ステップS7に示すように制御部26の表示制御部26aは、情報記録部27に記録された情報を候補情報として読み出し、モニタ32において候補情報を提示又は表示するように制御する。
次のステップS8において術者は、モニタ32に表示された候補情報を参考にして、再度の位置合わせを行った後、ステップS3に戻り、ステップS2においての古い位置合わせの情報を更新する。なお、ステップS7の処理の後、(ステップS3でなく)ステップS2に戻り、候補情報を参照して再度の位置合わせを行うようにしても良い。このようにして、
図4Aの処理を繰り返し行い、挿入部11を気管支2の末梢側(深部側)に挿入する操作を円滑に行うことが可能になる。
【0048】
次に
図4AにおけるステップS5,S6の処理を
図4Bを参照してより詳細に説明する。なお、
図4Bにおける気管支径に関する処理に関しては、
図3Aにおいて説明した内視鏡装置4Bによるステレオ計測、又は
図3Eによるステレオ計測を用いるとして説明する。
図4AにおけるステップS4において制御部26に再度の位置合わせの指示信号が入力されない場合には、
図4BのステップS11において画像処理部25の位置推定部25cは、ステップS3において取得した挿入部11の先端の位置(の情報)と気管支抽出部23が抽出した気管支2の3次元データにおける分岐点Bi(の位置情報)とから両者間の距離daを算出する。この場合の気管支2(とその気管支形状画像2a)と、気管支2内に挿入された挿入部11を
図2Aに示す。
【0049】
図2Aに示すように挿入部11の先端が、分岐点Biよりも挿入口側の位置Pjにあると、この挿入部11の先端の位置Pjよりも前方側に位置する分岐点Biとの距離daに対して、(該分岐点Biにおいて予め)設定された閾値距離としての設定距離dthが(第1の条件の指定に伴って)設定されている。
次のステップS12において距離比較部25eは、算出された挿入部11の先端の位置Pjと分岐点Biとの間の距離daが、設定距離dth以内か否かの第1の条件を満たすか否かを判定する。
ステップS12の判定処理において、第1の条件を満たさない判定結果の場合には、ステップS3の処理に戻る。一方、ステップS12の判定処理において、第1の条件を満たす判定結果の場合には、次のステップS13において内視鏡装置4B(の計測演算部18d)または内視鏡3Aによる湾曲部19の湾曲を利用したスレテオ計測によって、上述したように内視鏡画像の情報から気管支径Daを算出する。そして、算出した気管支径Daの情報を画像処理部25の変化量検知部25gに送る。
【0050】
次のステップS14において変化量検知部25g(の気管支径変化量検知部25h)は、算出された気管支径Daが、該気管支径Daに対して予め設定された閾値情報としての設定値Dth以上変化したか否かの第2の条件を満たすか否かを判定する。
図2Bは、
図2Aに示したように挿入部11の先端が第1の条件を満たす状態の位置から挿入部11を気管支2の末梢側に挿入した場合の様子を示す。
図2Bに示すように挿入部11の先端の位置Pjは、位置推定部25cにより例えば一定の時間間隔毎に推定されて取得され、推定された位置Pjは、位置P1,P2,…,P6、P7を経て現在の先端の位置P8のように移動する。なお、一定の時間間隔毎の場合に限定されるものでなく、一定の距離毎でも良いし、挿入部11の先端位置を演算した場合の所定の演算回数毎や、気管支径を算出する演算を行った場合における所定の演算回数毎等でも良い。
【0051】
また、
図2Bにおいて白丸で示す各位置Pj(
図2Bにおいては、j=1,2,…,6)は、分岐点Biにおける第1の条件を満たす位置であり、黒丸で示す位置P7,P8は、分岐点Biにおける第1の条件から外れる位置となる。但し、次の分岐点Bi+1において分岐点iの場合と同様の処理が行われることになる。
また、上述の各位置Pjにおいて、計測演算部18dにより算出された気管支径Daの変化の様子の概略は
図2Bのようになり、
図2Cは第1の条件を満たす状態における挿入部11の先端の移動中において、気管支径を算出した各気管支径算出時の位置P1〜P6と、算出された気管支径Daの変化の様子を示す。なお、第1の条件を満たす各位置P1〜P6での情報は、画像メモリ25f等に一時的に記憶される。
図2B及び
図2Cに示すように気管支径Daは、分岐点Bi付近においてピークとなるように気管支径Daが大きく変化する。この場合、位置P3から位置P4に移動した場合に、気管支径Daは設定値Dthより小さい状態から設定値Dthを超える大きな値に変化する。
【0052】
このため、制御部26の条件判定部26bは、位置P3から位置P4に変化した場合における位置P3及び姿勢又は位置P4及び姿勢と共に、位置P3及び姿勢又は位置P4及び姿勢における対応するVBS画像との情報を(候補情報として)情報記録部27に記録する。つまり、
図4BにおけるステップS15に示すように気管支径Daが設定値Dth以上変化する前後の挿入部11の先端の位置(P3又はP4)及び姿勢と、対応するVBS画像との情報が(候補情報として)情報記録部27に記録される。
なお、位置P4から位置P5に変化した場合にも気管支径Daは大きい値から小さい値に変化するが第1の条件を満たす状態になった位置P1の場合からの変化は設定値Dth以内であるので記録しない。上記のように情報記録部27に位置P3及び姿勢又は位置P4及び姿勢と共に、位置P3及び姿勢又は位置P4及び姿勢における対応するVBS画像との情報を(候補情報として)情報記録部27に記録する代わりに、位置P3とP4との間の位置及び姿勢の情報と共に、対応するVBS画像との情報を記録するようにしても良い。
【0053】
このようにステップS15での分岐点Bi付近での情報の記録が行われた後、ステップS3の処理に戻る。そして、同様の処理が繰り返される。例えば、
図2Bのように減算の位置がP8となった場合には、次の分岐点Bi+1において分岐点Biの場合と同様の処理が繰り返される。このようにして、挿入部11は、気管支2の抹消側の位置に挿入され、挿入部11の先端が目標部位近傍まで挿入されると
図4A又は
図4Bの処理が終了する。上記の説明から分かるように気管支2における各分岐点Bi付近において気管支径が大きく変化し、本実施形態においては、各分岐点Bi付近において情報を記録する。
このため、例えば
図2Aにおける分岐点Bi+1よりも抹消側に挿入された状態(例えば
図2Aにおける位置Pk)で、再度の位置合わせの指示信号が制御部26に入力された場合には、分岐点Bi付近で情報記録部27に記録された情報と、分岐点Bi+1付近で情報記録部27に記録された情報とが候補情報としてモニタ32に表示される。
【0054】
図2Dは、この場合の候補情報の表示例を示す。
図2Dの候補情報の表示例においては、位置Pkに至るまでに情報記録部27に記録された挿入部11の先端の位置(
図2Dでは分岐点BiとBi+1と、それぞれに対応するVBS画像とが例えば線で結ぶようにして表示される。なお、分岐点Biよりも基幹側(挿入口側)の分岐点Bi−1等も同様に表示しても良い。
図2Dに示すように気管支2における特徴的な領域となる管腔が分岐する分岐点Bi、Bi+1付近でそれぞれ記録した情報を、再度の位置合わせする場合の候補情報として表示する。このように再度の位置合わせに適した各分岐点付近における必要最小限に絞った候補情報を表示する。従って、術者は、再度の位置合わせを円滑かつ短時間に行い易くなる。換言すると、第1の条件と第2の条件とにより、記録する情報を絞り込むようにしているので、再度の位置合わせを行うのに適した(多すぎない)情報量の情報を記録することができる。
【0055】
なお、
図2Dにおいては、分岐点BiとBi+1とにおける候補画像の提示例を示したが、挿入部11の先端の位置Pkに対して、推定された位置Pkに最も近い状態において情報記録部27に記録された情報を候補情報として提示するようにしても良い。
図2Dに適用した場合には、分岐点Bi+1付近で記録された情報のみを候補情報として提示するようにしても良い。
これに対して、従来例においては、本実施形態における挿入部11の先端と特徴領域としての分岐点Biとの距離に対する第1の条件と、内視鏡画像における特徴部としての管腔の内径の変化量(より具体的には気管支径の変化量)に対する第2の条件とにより、(情報記録部27に)記録する情報を絞り込むようにしていないので、再度の位置合わせの際に表示される候補情報が多すぎてしまい、適切なもので再度の位置合わせを行うまでに時間がかかってしまう。
【0056】
また、本実施形態においては、挿入部11の先端の位置の移動に対して、内視鏡画像における特徴部が大きく変化した場合において、情報を記録するようにしているので、術者等のユーザは、情報を記録する条件を視覚的に把握し易い。従って、本実施形態は、ユーザが視覚的に把握し易い条件で再度の位置合わせを行うのに適した情報量の情報を記録するができる。
また、本実施形態においては、記録された情報を候補情報として表示(提示)して再度の位置合わせを行う場合、挿入部11の先端の位置の移動に対して、内視鏡画像における特徴部が大きく変化する特性を反映しているので、ユーザは、画像マッチングによる再度の位置合わせを視覚的に行い易くなる。
なお、
図2Cに示すように気管支径Daが変化した場合、気管支径Daが先端の位置の移動の軌跡に対して最大(ピーク)となる位置P4の状態での情報を情報記録部27に記録するようにしても良い。
このように記録すると、再度の位置合わせを行うための候補情報として提示した場合、この候補情報に近い位置付近で、挿入部11の先端の位置を動かした場合、内視鏡画像中の気管支径が挿入部11の位置の変化に対して大きく変化するため、再度の位置合わせの際の画像比較に対する変化の割合を増大できる。また、内視鏡画像中の気管支径が最大となるような位置付近であるので、特定し易い状態の位置ともなる。
【0057】
また、モニタ32において、
図2Dにおいて更に2点鎖線で示すように現在の内視鏡画像を、情報記録部27から読み出して表示する候補情報としてのVBS画像(及び内視鏡画像)と共に、気管支形状画像2a上に重畳した合成画像として表示するようにしても良い。このように現在の内視鏡画像を候補情報に隣接して表示すると、候補情報との画像比較による位置合わせを行い易くできる。
また、この場合、候補情報側のVBS画像を現在の内視鏡画像の表示位置に重ねるように表示位置を移動可能にしたり、候補情報側の内視鏡画像を現在の内視鏡画像の表示位置に重ねるように表示位置を移動可能にする画像移動部を画像処理部25に設けた構成にしても良い。或いは現在の内視鏡画像の表示位置を候補情報側のVBS画像の表示位置や、候補情報側の内視鏡画像の表示位置に移動可能にすることができる画像移動部を備えた構成にしても良い。
【0058】
また、
図2Dにおいては、2つの分岐点Bi、Bi+1付近の候補情報を表示(提示)した例を示しているが、最後に記録した情報のみを候補情報として表示(提示)するようにしても良い。
図2Dに適用すると、分岐点Bi+1付近の情報のみを候補情報として表示(提示)することになる。
なお、分岐点Biと挿入部11の先端の位置Pjとの距離daを算出(計測)する場合、以下に説明する
図5(A)−
図5(C)のいずれかで算出するようにしても良い。
図5(A)に示す例では、分岐点Biと挿入部11の先端の位置Pjとの距離daは、両者を結ぶ最短距離で算出される。
図5(B)においては、挿入部11の先端の位置Pjから芯線35上における最短距離となる位置Pj1が設定され、該位置Pj1と分岐点Bi間の距離da1を距離daの代わりに採用するようにしても良い。
【0059】
また、
図5(B)においては、挿入部11の先端の位置Pjから芯線35上における最短距離となる位置Pj1を設定したが、その代わりに
図5(C)に示すように気管支2の3次元データに対応するCT座標系の座標面と平行な面で挿入部11の先端の位置Pjを芯線35上に移した位置Pj2と分岐点Bi間の距離da2を距離daとして採用するようにしても良い。
また、気管支径Daを算出(計測)する場合、
図6に示すように挿入部11の先端(の軸方向)と垂直な面において算出した気管支径Da1を採用しても良いし、先端と、該先端から最短距離となる芯線35上の点を通り、芯線35と垂直な面に沿って算出した気管支径Da2を採用しても良い。
【0060】
上述においては、第1の条件として
図2Aに示したように分岐点Biと挿入部11の先端間の距離daの場合で説明したが、分岐点Biの代わりに気管支2が分岐するスパーSpiを採用しても良い。
(B)第1の条件と第2の条件として、挿入部11の先端(の位置)とスパー間の距離と、気管支径の変化が指定された場合
この場合には
図2Aの代わりに
図7に示すようにスパーSpiと先端Pj間の距離dbがスパーSpiを中心とした半径dthの設定距離dth以内か否かの判定が行われる。なお、スパーSpiの場合の設定距離dthを分岐点Biの場合の設定距離dthと異なる値に設定しても良い。
この場合には、
図4A,
図4Bにおける分岐点BiをスパーSpiに読み替えた内容になる。このため、
図4Bのフローチャートは、
図8に示すようになる。
【0061】
図8におけるステップS11は、
図4Bにおける分岐点間の距離daがスパー間の距離dbに変更した内容となる。また、
図8におけるステップS12は、
図4Bにおける(挿入部11の先端位置と分岐点間の距離)daが(挿入部11の先端位置とスパー間の距離)dbに変更した内容となる。
そして、この場合の作用効果は、分岐点Biの場合で説明したものと殆ど同じとなる。なお、挿入部11の先端位置PjとスパーSpi間の距離dbは、
図9Aに示すように挿入部11の先端の位置PjとスパーSpi間の最短距離db1を距離dbとして良い。また、
図9Bに示すように挿入部11の先端位置Pjから最短距離となる芯線35上の位置Pj1とスパーSpi間の最短距離db2を距離dbとして良い。
また、
図9Cに示すように気管支2の3次元データに対応するCT座標系の座標面と平行な面で挿入部11の先端位置Pjを芯線35上に移した位置Pj2と分岐点Bi間の距離da3を距離dbとして採用するようにしても良い。
【0062】
(C)第1の条件と第2の条件として、挿入部11の先端(の位置)と芯線35間の距離dcと、気管支径Daの変化が指定された場合
この場合には、
図4A,
図4Bにおいて分岐点Biを芯線35に読み替えた処理を行うことになる。この場合には、位置推定部25cが挿入部11の先端の位置Pjを推定した場合、距離比較部25eは先端の位置Pjと芯線35からの距離dcを算出し、該距離dcの値の変化を監視する動作を継続して行う。
図10は気管支2内に挿入して先端の位置Pjの位置推定と共に、先端の位置Pjと芯線35からの距離dcが設定値dct以内となる第1の条件を満たすか否かを判定した場合の様子を示す。また、この場合においても気管支径Daの変化も監視している。位置Pjが時間的に位置P1,P2,…,P7を経てP8の現在の位置Pjのように移動した場合、距離dcは位置P7においてのみdc>dctとなっている。
【0063】
この場合には、位置P1〜P6においては第1の条件を満たすため、(A)において説明した場合と同様に
図10における位置P3から位置P4に移動した場合の気管支径Daが設定値Dth以上に変化するため、分岐点Bi付近の位置P4(又はP3)において情報を記録する。この場合においても、(A)において説明した場合と同様の作用効果を有する。
なお、上述した説明においては、第1の条件を満たす状態において、内視鏡画像中における気管支径Daが設定値Dth以上変化した場合に、情報を記録する場合を説明したが、さらに第1の条件が変化した場合、つまり距離dcが設定値dct以下からdct以上に変化した場合に対しても、変化した場合の前の位置Pjにおいて情報を記録するようにしても良い。
【0064】
このように記録した場合には、必要最小限に近い情報を記録することができると共に、再度の位置合わせを行う直前の位置での情報を記録することができる。具体的には、
図10の場合においては、位置P4(又はP3)での情報の他に、位置P7のように芯線35から外れた位置となる直前の位置P6での情報を記録することができる。この場合には、位置P6での情報も候補情報として表示して、再度の打ち合わせを行うことができる。そして、この場合には、位置P4まで戻すことなく、再度の打ち合わせを行うことができる。
なお、芯線35と先端の位置Pjの距離dcを監視する代わりに、位置Pjと気管支壁との距離ddを監視するようにしても良い。またこの場合、距離ddが予め設定された距離ddtより小さい(短い)か否かを判定するようにしても良い。
【0065】
図11Aと
図11Bは、先端の位置Pjと芯線35間の距離dc、又は先端の位置Pjと気管支壁間の距離ddを算出(計測)する様子を示す。
図11Aにおいて示すように先端の位置Pjから垂線により芯線35に至る距離dc1や、先端の位置Pjから該先端の軸に対する垂線で芯線35に至る距離dc2を距離dcとして採用しても良い。
また、
図11Aにおいて示すように先端の位置Pjから垂線により気管支壁に至る距離dd1や、先端の位置Pjから該先端の軸に対する垂線で気管支壁に至る距離dd2を距離ddとして採用しても良い。
また、
図11Bに示すように先端の位置Pjから3次元データのある座標面と平行な面上で先端の位置Pjと芯線35間の距離dc3を距離dcとしたり、先端の位置Pjから3次元データのある座標面と平行な面上で先端の位置Pjと気管支壁間の距離dd3を距離ddとして採用しても良い。
【0066】
(D)第1の条件と第2の条件として、挿入部11の先端(の位置)に対してユーザ(術者)により予め設定された領域の中心までの距離deと、気管支径Daの変化が指定された場合
この場合には、ユーザとしての術者は、入力装置31から気管支2内に挿入部11を挿入しようとする場合、
図12に示すように挿入の経路に沿って、所定の設定領域Ri、Ri+1等を予め設定する。
そして、距離比較部25eは、挿入部11の先端の位置Pjと設定領域Riの中心Ricとの距離が設定領域Ri内となる距離か否かを監視する動作を継続して行う。
この場合、上述した(A)において分岐点Biを中心として設定距離dthが設定された場合と同様の動作となる。なお、球形の設定領域Riでなく、設定領域Ri+1のように非球形の形状に設定することもできる。
【0067】
また、
図12に示す形状の設定領域の場合に限らず、直方体などの形状で設定領域を設定しても良い。また、例えば芯線上の分岐点等を中心にして、予め設定した半径の球形の初期領域を設定し、設定後にユーザが所望の大きさ、形状に変更したり、削除等の修正を行えるようにしても良い。
この場合には、ユーザの要望に対応した情報の記録や、候補情報の表示(提示)が可能になる。
(E)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像の明るさの変化が指定された場合
この場合には
図13に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gの明るさ変化量検知部25iは、内視鏡画像における明るさの変化量を検知する。
【0068】
具体的には、
図13に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像処理部25における)明るさ変化量検知部25iは、内視鏡画像を取得し、取得した内視鏡画像内で暗部の面積を監視する動作を継続して行う。
図13においては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、既定値以下となる暗部を抽出した状態で示す。
暗部の面積とは、内視鏡画像における明るさが、既定値以下となる画像部分の合計面積を指す。
図13においては、気管支2内における挿入部11の先端前方側の管腔部分における分岐部分が暗部として認識される。例えば、位置P1から位置P2に移動した場合における暗部の面積変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較して暗部の面積が大きく変化している。明るさ変化量検知部25iは、暗部の面積が大きく変化したことを検知した場合、変化の前後において、情報記録部27にVBS画像を含む情報を記録する。
【0069】
なお、暗部として検出される分岐部分の数の変化(例えば2個から1個,又は1個から2個の変化)に基づいて、暗部の面積の大きな変化量として検知することにより、その際に情報記録部27にVBS画像を含む情報を記録するようにしても良い。
また、明るさの変化量として、暗部の面積の変化量から検出する場合に限定されるものでなく、内視鏡画像の明るさの平均値を算出し、平均値が閾値以上の変化量となった場合に、情報記録部27にVBS画像を含む情報を記録するようにしても良い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。さらに、第1の条件として
図13に示すように先端位置と分岐点Bi間の距離daが設定距離dth以内とする場合に限定されるものでなく先端位置とスパー間の距離dbが設定距離以内に設定しても良い。
また、第1の条件として、距離da、db以外を用いて設定しても良い。
【0070】
(E)の場合には、画像中の特徴部の変化量として暗部の面積等、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(F)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像における分岐形状の変化が指定された場合
図14においては気管支2の分岐形状の部分を抽出した状態で示している。この場合には
図14に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gの形状変化量検知部25jは、内視鏡画像における特徴部の形状の変化量を検知する。
より具体的には、
図14に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像処理部25における)形状変化量検知部25jは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2の分岐形状を監視する動作を継続して行う。
【0071】
図14おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、気管支2の分岐形状を抽出した状態で示す。
具体的には、位置P1から位置P2に移動した場合における気管支分岐形状の変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較して気管支分岐形状が大きく変化している。形状変化量検知部25jは、気管支分岐形状が大きく変化したことを検知した場合、変化の前後において、情報記録部27にVBS画像を含む情報を記録する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。さらに、第1の条件として
図13に示すように先端位置と分岐点Bi間の距離daが設定距離dth以内とする場合に限定されるものでなく先端位置とスパー間の距離dbが設定距離以内に設定しても良い。
また、第1の条件として、距離da、db以外を用いて設定しても良い。
【0072】
(F)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(G)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像におけるスパーの長さの変化が指定された場合
この場合には
図15(A)に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gのスパー変化量検知部25kは、内視鏡画像におけるスパーの長さの変化量を検知する。
図15(A)おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、スパーの長さを抽出した状態で示す。なお、スパーの長さとは、気管支2の管腔が二股の分岐している分岐部における境界の長さである。
【0073】
図15(A)に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像処理部25における)スパー変化量検知部25kは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2のスパーの長さを監視する動作を継続して行う。
図15(B)は挿入部11の先端の位置Pjと、スパーの長さの関係を示す。
図15(A),
図15(B)から分かるように例えば、位置P1から位置P2に移動した場合におけるスパーの長さの変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較してスパーの長さが大きく変化している。スパー変化量検知部25kは、スパーの長さが大きく変化したことを検知した場合、変化の前後において、情報記録部27にVBS画像を含む情報を記録する。
【0074】
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。さらに、第1の条件として
図15に示すように先端位置と分岐点Bi間の距離daが設定距離dth以内とする場合に限定されるものでなく先端位置とスパー間の距離dbが設定距離以内に設定しても良い。
また、第1の条件として、距離da、db以外を用いて設定しても良い。
(G)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
【0075】
(H)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像におけるスパーの角度の変化が指定された場合
この場合には
図16(A)に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gのスパー変化量検知部25kは、内視鏡画像におけるスパーの角度(向き)の変化量を検知する。
図16(A)おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、スパーの角度を抽出した状態で示す。なお、スパーの角度とは、気管支2の管腔が二股の分岐している分岐部における境界部分の長手方向の向き又は、基準方向となす角度である。
図16(A)に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像処理部25における)スパー変化量検知部25kは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2のスパーの角度を監視する動作を継続して行う。
【0076】
図16(B)は挿入部11の先端の位置Pjと、スパーの角度の関係を示す。
図16(A),
図16(B)から分かるように例えば、位置P1から位置P2に移動した場合におけるスパーの角度の変化は小さいが、位置P3においては分岐している分岐領域に近づけるために術者は挿入部11を捩るために、位置P2と比較してスパーの角度が大きく変化している。スパー変化量検知部25kは、スパーの角度が大きく変化したことを検知した場合、変化の前後において、情報記録部27にVBS画像を含む情報を記録する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。さらに、第1の条件として
図16(A)に示すように先端位置と分岐点Bi間の距離daが設定距離dth以内とする場合に限定されるものでなく先端の位置とスパー間の距離dbが設定距離以内に設定しても良い。
【0077】
また、第1の条件として、距離da、db以外を用いて設定しても良い。
(H)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(I)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像における視野不良の変化が指定された場合
この場合には
図17に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gの視野不良検知部25lは、内視鏡画像における視野不良の発生を検知する。視野不良(の発生)は、気管支内で撮像した内視鏡画像において、管腔の先端側の分岐や暗部が識別できる程度に映っているか否かで判定し、汚れが視野全体を覆ってしまうことを想定して、視野不良検知部25lは、内視鏡画像の明るさが所定の明るさよりも暗くなり、暗い領域がほぼ内視鏡画像の全体に及ぶ場合に視野不良と判定する。
【0078】
このため、例えば明るさ変化量検知部25iが視野不良検知部25lの機能を備える。
図17においては各位置Pj(j=1,2,…,5)で取得した内視鏡画像の概略を示す。位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像処理部25における)視野不良検知部25lは、内視鏡画像を取得し、取得した内視鏡画像内で視野不良を監視する動作を継続して行う。
図17に示す例では、位置P2から位置P3に移動した場合に視野不良の発生を検知して、変化の直前の位置P2において、情報記録部27にVBS画像を含む情報を記録する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。さらに、第1の条件として
図16(A)に示すように先端位置と分岐点Bi間の距離daが設定距離dth以内とする場合に限定されるものでなく先端の位置とスパー間の距離dbが設定距離以内に設定しても良い。また、第1の条件として、距離da、db以外を用いて設定しても良い。
【0079】
(I)の場合には、画像中の特徴部の変化量として視野不良のように、術者が視覚的に比較し易い変化量を採用しているので、情報を記録した状態を把握し易い。
なお、上述した形状変化量検知部25jは、気管支内の分岐形状の変化量を検知していたが、以下のように分岐形状から分岐形状以外の構造、形状に変化した場合、換言すると、分岐形状以外に変化したことを検知した場合に情報を記録するようにしても良い。
(J)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像における気管支分岐形状からの変化が指定された場合
この場合には
図18に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gの形状変化量検知部25jは、気管支2内を撮像した内視鏡画像における気管支2の分岐が内視鏡画像内に存在しているか否かを監視する動作を継続して行う。そして、術者により挿入部11の湾曲部19が湾曲されたり、挿入部11が捩られたりして、分岐が内視鏡画像内に存在していないと判定した場合には、その直前の位置でのVBS画像を含む情報を情報記録部27に記録する。
【0080】
図18に示すように位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像処理部25における)形状変化量検知部25jは、内視鏡画像を取得し、取得した内視鏡画像内で例えば分岐形状部分を抽出し、分岐の有無を監視する動作を継続して行う。そして、
図18において位置P2から位置P3に移動した場合分岐が存在しない状態に変化したことを判定し、その変化の直前の位置P2において、情報記録部27にVBS画像を含む情報を記録する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。さらに、第1の条件として
図16(A)に示すように先端位置と分岐点Bi間の距離daが設定距離dth以内とする場合に限定されるものでなく先端の位置とスパー間の距離dbが設定距離以内に設定しても良い。また、第1の条件として、距離da、db以外を用いて設定しても良い。
【0081】
(J)の場合には、画像中の特徴部の変化量として分岐形状の有無の変化のように、術者が視覚的に比較し易い変化量を採用しているので、情報を記録した状態を把握し易い。
(K)第1の条件と第2の条件として、挿入部11の先端位置と分岐点又はスパー間の距離と、内視鏡画像における特徴部のぶれの変化が指定された場合
この場合には
図19に示すように画像処理部25は、CCU8Aから順次所定の時間間隔(例えば1/30s又は1/60s)で入力される画像信号を画像メモリ25fにおける第1メモリ81aと第2メモリ81bに交互に記憶する。例えば、最新となるn番目の画像Inは、第2メモリ81bに記憶され、その1フレーム又は1フィールド前のn−1番目の画像In−1は第2メモリ81bに記憶されている。
【0082】
隣接するフレーム又はフィールドで撮像されたn−1番目の画像In−1と、n番目の画像Inとはぶれ量演算処理部82に入力され、ぶれ量演算処理部82は、一方の画像(例えば画像In)中において設定した点に対して、他方の画像における対応点をぶれ量を表す動きベクトル量として算出する演算を行う。
ぶれ量演算処理部82により算出された動きベクトル量は、ぶれ量判定部83に入力され、ぶれ量判定部83は、算出された動きベクトル量をぶれ量と見なして、動きベクトル量の大きさ(絶対値)が規定値を超えるか否かを判定し、判定結果に応じてVBS画像を含む情報を候補情報として記録したりする。なお、
図1に示す条件判定部26bがぶれ量判定部83の機能を備える構成にしても良い。
【0083】
ぶれ量演算処理部82は、画像Inの中心点を中心としたW×Hピクセルの範囲をテンプレートに設定し、その中心点に対応する画像In−1上の対応点を探索する。対応点の探索は、例えば輝度のSAD(Sum of Absolute Differences)を算出することにより行われる。テンプレートの画素値をt(x,y)、探索対象の画像の画素値をg(x,y)とすると、座標(u,v)におけるSADであるF(u,v) は一般に(4)式で算出される。
F(u,v)=Σ
iΣ
j|g(i+u,j+v)−t(i,j)| (4)
なお、Σ
i,Σ
jは、それぞれiがN
W以内、N
H以内のテンプレートの幅W、高さHにおいて|g−t|を加算する演算を行うことを表し、またテンプレートの幅をW、高さをHとし、−W/2≦N
W≦W/2,−H/2≦N
H≦H/2とする。また、画像Inに相当する画像In−1の中心座標を (Ox,Oy)とし、Ox−W/2≦u≦Ox+W/2,Oy−H/2≦v≦Oy+H/2の範囲でF(u,v)が算出される。F(u,v)が最小となるときの座標(Ex,Ey)が対応点となる。
【0084】
画像Inの中心座標(Ox,Oy)に対する対応点の座標(Ex,Ey)から、動きベクトルmは(5)式で算出される。
m=(Ex−Ox,Ey−Oy) ・・・(5)
以上が動きベクトルmの算出方法である。
動きベクトルmの算出により、該動きベクトルmをぶれ量として算出する処理が終了すると、ぶれ量判定部83にて動きベクトルmの大きさを規定値と比較を行い、ぶれ量判定部83は、動きベクトルmの大きさが規定値より大きいと判定した場合は、ぶれ量判定部83は、情報記録部27に対して規定値を超えるぶれ変化が発生したと判定して、情報記録部27に対して、VBS画像を記録する記録指示信号(又は保存指示信号)を出力する。この記録指示信号を受けた情報記録部27は、規定値を超えるぶれが発生前の、画像メモリ25fの第1メモリ81aの画像を候補画像として記録する。この候補画像を記録する動作は、記録指示信号が入力される度に行われ、情報記録部27には候補画像が蓄積されていく。
【0085】
以上の動作を繰り返すことで、内視鏡画像のぶれが規定値より大きくなった場合の直前の内視鏡画像を候補画像として蓄積していくことが可能となる。尚、内視鏡画像のぶれを検出する方法としては、SHIFT(Scale-Invariant Feature Transform)による演算や、各画像に対応する特徴点を演算することができなかった場合あるいは、画像の周波数解析で高周波成分が規定値以上に減少した場合に、同様に記録するようにしても良い。そのような場合にも同様の効果が得られる。
なお、上述した実施形態において、第1の条件と第2の条件に関して代表的な組み合わせの場合を説明したが、上述した組み合わせ以外の組み合わせにより、情報を記録するようにしても良い。
つまり、本発明は上述した実施形態における第1の条件と第2の条件に関する組み合わせが異なる構成、方法の場合も含む。更に、第1の条件と第2の条件はユーザが設定するだけでなく、予め機器内の例えば条件設定部26dや、情報記録制御部26c等へ記憶させておくことでユーザが設定を行わなくても設定されるようにしても良い。
また、条件情報記録手段としての条件情報記録部27aは、第1の条件と第2の条件として設定可能な複数の候補条件の情報や候補情報をそれぞれ記録すると説明したが、候補条件の情報や候補情報を用いることなく、第1の条件と第2の条件として設定可能な複数の条件情報(又は情報)をそれぞれ記録すると述べても良い。
【0086】
なお、上述の説明においては、入力装置31等から再度の位置合わせを行う指示信号が制御部26に入力された場合に、情報記録部27に記録された情報を候補情報として表示手段としてのモニタ32に表示(提示)することを説明した。
本発明はこの場合に限定されるものでなく、例えば、所定のタイミングで情報記録部27に記録された情報を候補情報として表示手段としてのモニタ32で表示(提示)するようにしても良い。
例えば入力装置31等からユーザが制御部26に対して、候補情報を表示する時間間隔や条件を設定するための入力を行い、制御部26は、設定された時間間隔又は条件に合致する場合に、情報記録部27から情報を読み出す制御を行い、画像処理部25を経てモニタ32にVBS画像を含む候補情報を表示するようにしても良い。
また、撮像手段により撮像された画像情報及び仮想内視鏡画像を比較する画像比較手段と、情報取得手段に記録された仮想内視鏡画像を所定のタイミングで表示する表示手段と、備えた構成において、情報取得手段が、画像比較手段の比較結果に基づいて撮像手段の少なくとも位置情報を取得する構成にしても良い。
また、本発明は、上述した例えば
図1に示した構成に限定されるものでなく、請求項1に記載した基本的な構成のみにしても良いし、この基本的な構成において、単数又は複数の構成要素を選択的に追加した構成にしても良い。
【0087】
本出願は、2013年3月6日に日本国に出願された特願2013−44601号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。