(19)【発行国】日本国特許庁(JP)
【公報種別】再公表特許(A1)
(11)【国際公開番号】WO/0
(43)【国際公開日】2019年7月4日
【発行日】2020年12月17日
(54)【発明の名称】推奨操作呈示システム、推奨操作呈示制御装置及び推奨操作呈示制御方法
(51)【国際特許分類】
A61B 1/00 20060101AFI20201120BHJP
A61B 1/045 20060101ALI20201120BHJP
G02B 23/24 20060101ALI20201120BHJP
【FI】
A61B1/00 552
A61B1/045 623
G02B23/24 Z
【審査請求】有
【予備審査請求】未請求
【全頁数】48
【出願番号】特願2019-561402(P2019-561402)
(21)【国際出願番号】PCT/0/0
(22)【国際出願日】2017年12月25日
(81)【指定国】
AP(BW,GH,GM,KE,LR,LS,MW,MZ,NA,RW,SD,SL,ST,SZ,TZ,UG,ZM,ZW),EA(AM,AZ,BY,KG,KZ,RU,TJ,TM),EP(AL,AT,BE,BG,CH,CY,CZ,DE,DK,EE,ES,FI,FR,GB,GR,HR,HU,IE,IS,IT,LT,LU,LV,MC,MK,MT,NL,NO,PL,PT,RO,RS,SE,SI,SK,SM,TR),OA(BF,BJ,CF,CG,CI,CM,GA,GN,GQ,GW,KM,ML,MR,NE,SN,TD,TG),AE,AG,AL,AM,AO,AT,AU,AZ,BA,BB,BG,BH,BN,BR,BW,BY,BZ,CA,CH,CL,CN,CO,CR,CU,CZ,DE,DJ,DK,DM,DO,DZ,EC,EE,EG,ES,FI,GB,GD,GE,GH,GM,GT,HN,HR,HU,ID,IL,IN,IR,IS,JO,JP,KE,KG,KH,KN,KP,KR,KW,KZ,LA,LC,LK,LR,LS,LU,LY,MA,MD,ME,MG,MK,MN,MW,MX,MY,MZ,NA,NG,NI,NO,NZ,OM,PA,PE,PG,PH,PL,PT,QA,RO,RS,RU,RW,SA,SC,SD,SE,SG,SK,SL,SM,ST,SV,SY,TH,TJ,TM,TN,TR,TT
(71)【出願人】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(74)【代理人】
【識別番号】100108855
【弁理士】
【氏名又は名称】蔵田 昌俊
(74)【代理人】
【識別番号】100103034
【弁理士】
【氏名又は名称】野河 信久
(74)【代理人】
【識別番号】100179062
【弁理士】
【氏名又は名称】井上 正
(74)【代理人】
【識別番号】100153051
【弁理士】
【氏名又は名称】河野 直樹
(74)【代理人】
【識別番号】100199565
【弁理士】
【氏名又は名称】飯野 茂
(74)【代理人】
【識別番号】100162570
【弁理士】
【氏名又は名称】金子 早苗
(72)【発明者】
【氏名】東條 良
(72)【発明者】
【氏名】藤田 浩正
【テーマコード(参考)】
2H040
4C161
【Fターム(参考)】
2H040BA21
2H040DA03
2H040DA15
2H040DA51
4C161AA04
4C161CC06
4C161DD03
4C161FF21
4C161HH55
4C161JJ17
4C161LL02
4C161WW10
4C161WW13
4C161WW18
(57)【要約】
推奨操作呈示システム(1)は、挿入部(11)を有する挿入機器(10)と、挿入部の少なくとも一部の形状を形状情報として検出する挿入部形状検出部(20,103)と、挿入部の所定の状態に係る参照注目状態情報と、参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含む推奨操作参照データを取得する参照データ取得部(108)と、形状情報に基づいて挿入部の所定の状態に係る注目状態情報を演算し、少なくとも、注目状態情報と目標状態情報とに基づいて操作管理情報を演算する、注目状態・操作管理情報演算部(104)と、少なくとも注目状態情報に基づく推奨操作方向と少なくとも操作管理情報に基づく推奨操作量とを含む推奨操作情報を演算する推奨操作演算部(105)と、推奨操作情報を含む情報を出力する出力情報処理部(106)とを有する。
【特許請求の範囲】
【請求項1】
被挿入体に挿入される挿入部を有する挿入機器と、
前記挿入部の少なくとも一部の形状を形状情報として検出する挿入部形状検出部と、
前記挿入部の所定の状態に係る参照注目状態情報と、前記参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含む推奨操作参照データを取得する参照データ取得部と、
前記形状情報に基づいて前記挿入部の前記所定の状態に係る注目状態情報を演算し、少なくとも、前記注目状態情報に対応する前記参照注目状態情報と、前記目標状態情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、
推奨する挿入操作の操作方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を演算する推奨操作演算部であって、前記推奨操作方向は、前記注目状態情報と、前記操作方向とに基づいて演算し、前記推奨操作量は、少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、
前記推奨操作情報を含む情報を出力する出力情報処理部と、
を具備する、推奨操作呈示システム。
【請求項2】
前記推奨操作演算部は、前記推奨操作情報を出力した後に、前記挿入部形状検出部が検出した現在の形状情報から、前記推奨操作情報にしたがった推奨操作が完了しているか否かを判断し、前記推奨操作が完了していないと判断されたとき、前記注目状態・操作管理情報演算部が、前記現在の形状情報に基づいて前記注目状態情報及び前記操作管理情報を演算し直し、前記推奨操作演算部が、前記推奨操作情報を演算し直し、前記出力情報処理部が、前記推奨操作情報を含む情報を出力し直す、請求項1に記載の推奨操作呈示システム。
【請求項3】
前記推奨操作情報は、推奨する挿入操作の速度である推奨操作速度を含み、
前記推奨操作演算部は、前記注目状態情報と前記操作管理情報の少なくとも一方に基づいて前記推奨操作速度を演算する、請求項1又は2に記載の推奨操作呈示システム。
【請求項4】
推奨操作要否判断情報が、前記参照注目状態情報に対応するように予め設定され、
前記推奨操作演算部は、前記注目状態情報と、対応する前記推奨操作要否判断情報とに基づいて、前記推奨操作情報の要否を判断し、前記推奨操作情報が必要と判断されたとき、前記推奨操作情報を演算する、請求項1乃至3のいずれか1項に記載の推奨操作呈示システム。
【請求項5】
前記推奨操作演算部は、前記推奨操作情報にしたがった推奨操作が完了していないと判断したとき、前記推奨操作が実施できない状態か否かを判断し、実施できない状態と判断されたとき、前記推奨操作が完了していないと判断されたときとは異なる、試すための操作に係る推奨操作方向を含む推奨操作情報を演算する、請求項1乃至4のいずれか1項に記載の推奨操作呈示システム。
【請求項6】
前記試すための操作は、前記挿入部の引き操作と左捻り操作と右捻り操作との少なくとも1つである、請求項5に記載の推奨操作呈示システム。
【請求項7】
前記推奨操作が実施できる状態と判断されたとき、前記出力情報処理部は、操作方向についての視覚的又は聴覚的な警告を出力する、請求項5又は6に記載の推奨操作呈示システム。
【請求項8】
前記推奨操作情報にしたがった推奨操作が完了していると判断されたとき、前記推奨操作演算部は、前記注目状態情報に対応するように予め設定された推奨操作継続情報に基づいて、さらなる注目状態情報演算の要否を判断する、請求項1乃至7のいずれか1項に記載の推奨操作呈示システム。
【請求項9】
前記注目状態情報は、前記挿入部が形成するループの種類とサイズとを含み、
前記目標状態情報は、前記ループの種類とサイズとを含む目標形状情報であり、
前記操作管理情報は、前記形状情報に係る形状と前記目標形状情報に係る目標形状との差に基づく情報である、請求項1乃至8のいずれか1項に記載の推奨操作呈示システム。
【請求項10】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第1の形状情報に基づいて所定のサイズ以上の逆のの字形状である第1の注目状態情報を演算し、前記操作管理情報として、前記第1の注目状態情報に係る逆のの字形状と前記目標形状情報に係る所定のサイズ未満の逆のの字形状とのサイズの差である第1の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第1の推奨操作方向と、前記第1の操作管理情報に基づく第1の推奨操作量とを含む第1の推奨操作情報を演算し、
前記第1の注目状態情報、前記第1の操作管理情報及び前記第1の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第2の形状情報に基づいて前記所定のサイズ未満の逆のの字又はN字形状である第2の注目状態情報を演算し、前記操作管理情報として、前記第2の注目状態情報に係る逆のの字又はN字形状と前記目標形状情報に係るN字形状との座標の角度の差である第2の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第2の推奨操作方向と、前記第2の操作管理情報に基づく第2の推奨操作量とを含む第2の推奨操作情報を演算し、
前記第2の注目状態情報、前記第2の操作管理情報及び前記第2の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第3の形状情報に基づいてN字形状である第3の注目状態情報を演算し、前記操作管理情報として、前記第3の注目状態情報に係るN字形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第3の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第3の推奨操作方向と、前記第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する、請求項9に記載の推奨操作呈示システム。
【請求項11】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第2の形状情報に基づいて所定のサイズ未満の逆のの字又はN字形状である第2の注目状態情報を演算し、前記操作管理情報として、前記第2の注目状態情報に係る逆のの字又はN字形状と前記目標形状情報に係るN字形状との座標の角度の差である第2の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第2の推奨操作方向と、前記第2の操作管理情報に基づく第2の推奨操作量とを含む第2の推奨操作情報を演算し、
前記第2の注目状態情報、前記第2の操作管理情報及び前記第2の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第3の形状情報に基づいてN字形状である第3の注目状態情報を演算し、前記操作管理情報として、前記第3の注目状態情報に係るN字形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第3の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第3の推奨操作方向と、前記第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する、請求項9に記載の推奨操作呈示システム。
【請求項12】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第3の形状情報に基づいてN字形状である第3の注目状態情報を演算し、前記操作管理情報として、前記第3の注目状態情報に係るN字形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第3の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第3の推奨操作方向と、前記第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する、請求項9に記載の推奨操作呈示システム。
【請求項13】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第4の形状情報に基づいて所定の大きさ以上のαループ又は逆αループ形状である第4の注目状態情報を演算し、前記操作管理情報として、前記第4の注目状態情報に係るαループ又は逆αループ形状と前記目標形状情報に係る所定の大きさ未満のαループ又は逆αループ形状とのサイズの差である第4の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第4の推奨操作方向と、前記第4の操作管理情報に基づく第4の推奨操作量とを含む第4の推奨操作情報を演算し、
前記第4の注目状態情報、前記第4の操作管理情報及び前記第4の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第5の形状情報に基づいてαループ又は逆αループ形状である第5の注目状態情報を演算し、前記操作管理情報として、前記第5の注目状態情報に係るαループ又は逆αループ形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第5の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第5の推奨操作方向と、前記第5の操作管理情報に基づく第5の推奨操作量とを含む第5の推奨操作情報を演算する、請求項9に記載の推奨操作呈示システム。
【請求項14】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第5の形状情報に基づいて所定の大きさ未満のαループ又は逆αループ形状である第5の注目状態情報を演算し、前記操作管理情報として、前記第5の注目状態情報に係るαループ又は逆αループ形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第5の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第5の推奨操作方向と、前記第5の操作管理情報に基づく第5の推奨操作量とを含む第5の推奨操作情報を演算する、請求項9に記載の推奨操作呈示システム。
【請求項15】
前記第5の注目状態情報が、前記挿入部の交差部において挿入部先端側が上側にあるαループ又は挿入部先端側が下側にある逆αループのとき、前記回転方向は右捻り方向であり、
前記第5の注目状態情報が、前記挿入部の交差部において挿入部先端側が下側にあるαループ又は挿入部先端側が上側にある逆αループのとき、前記回転方向は左捻り方向である、請求項14に記載の推奨操作呈示システム。
【請求項16】
前記注目状態情報は、
前記挿入部がαループ、裏αループ、逆αループ、逆裏αループ、N字形状、逆のの字形状を含むループを形成しているか否か、及び、前記ループの面積、周囲、幅を含むサイズと、
前記挿入部先端の移動量と、
挿入量に対する前記挿入部先端の移動量の割合と、の少なくとも1つである、請求項1乃至8のいずれか1項に記載の推奨操作呈示システム。
【請求項17】
前記推奨操作参照データを記憶している記憶部を有し、
前記参照データ取得部は、前記記憶部から、前記推奨操作参照データを取得する、請求項1乃至16のいずれか1項に記載の推奨操作呈示システム。
【請求項18】
前記操作管理情報は、前記挿入部の挿抜操作量、回転操作量、アングル操作量、送気、送水、吸引、患者体位、用手圧迫、挿入部の剛性の少なくとも1つである、請求項1乃至17のいずれか1項に記載の推奨操作呈示システム。
【請求項19】
前記出力情報処理部は、前記推奨操作情報を、棒グラフと円グラフとの少なくとも1つで表示するための処理を行う、請求項1乃至18のいずれか1項に記載の推奨操作呈示システム。
【請求項20】
前記注目状態情報に基づいて前記挿入機器の操作者の操作技能レベルである操作者レベルを判断する操作者レベル判定部をさらに有し、
前記出力情報処理部は、前記操作者レベルに基づいて出力内容を変更する、請求項1乃至19のいずれか1項に記載の推奨操作呈示システム。
【請求項21】
前記操作者レベルは、操作者による一連の挿入操作中に発生している注目状態情報の種類、回数、発生時間、発生箇所、被検体の状態の少なくとも1つに基づいて、又は、操作者の予め設定された過去の挿入履歴データに基づいて判断される、請求項20に記載の推奨操作呈示システム。
【請求項22】
前記注目状態情報に基づいて被挿入体の挿入難易度を判断する挿入難易度判定部をさらに有し、
前記出力情報処理部は、前記挿入難易度に基づいて出力内容を変更する、請求項1乃至19のいずれか1項に記載の推奨操作呈示システム。
【請求項23】
前記挿入難易度は、操作者による一連の挿入操作中に発生している前記注目状態情報の種類、回数、発生時間、発生箇所、被挿入体の状態の少なくとも1つに基づいて、又は、被挿入体の予め設定された過去の挿入操作履歴データに基づいて判断される、請求項22に記載の推奨操作呈示システム。
【請求項24】
前記挿入部は、撮像部を有し、
前記出力情報処理部は、前記注目状態情報と前記推奨操作情報との少なくとも一方を、前記撮像部が撮像した画像に重畳して表示させる、あるいは重畳して一時的に表示させる、請求項1乃至23のいずれか1項に記載の推奨操作呈示システム。
【請求項25】
前記出力情報処理部は、前記注目状態情報と前記推奨操作情報との少なくとも一方を、動画で表示する、請求項1乃至23のいずれか1項に記載の推奨操作呈示システム。
【請求項26】
前記出力情報処理部は、事前に設定した時間以上、前記推奨操作情報を表示させる、請求項1乃至25のいずれか1項に記載の推奨操作呈示システム。
【請求項27】
前記出力情報処理部は、前記推奨操作情報を出力する対象の注目状態の発生時間が、事前に設定した時間以下であれば、前記推奨操作情報を表示させない、請求項1乃至25のいずれか1項に記載の推奨操作呈示システム。
【請求項28】
前記出力情報処理部は、前記推奨操作情報を出力する要因となった前記注目状態情報に係る注目状態の発生後、所定の設定時間は前記推奨操作情報を出力せず、前記設定時間の経過後に前記注目状態が継続していたときに、前記推奨操作情報を出力する、請求項27に記載の推奨操作呈示システム。
【請求項29】
前記挿入部は、撮像部を有し、
前記推奨操作演算部は、前記注目状態情報とともに前記撮像部が撮像した画像情報とに基づいて、前記推奨操作情報を判断する、請求項1乃至23のいずれか1項に記載の推奨操作呈示システム。
【請求項30】
前記挿入機器は、内視鏡であり、前記挿入部は、前記内視鏡の可撓管部である、請求項1乃至29のいずれか1項に記載の推奨操作呈示システム。
【請求項31】
被挿入体に挿入される挿入部を有する挿入機器の前記挿入部の所定の状態に係る参照注目状態情報と、前記参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含む推奨操作参照データを取得する参照データ取得部と、
前記挿入部の少なくとも一部の形状に係る形状情報に基づいて前記挿入部の前記所定の状態に係る注目状態情報を演算し、少なくとも、前記注目状態情報と、前記注目状態情報に対応する前記参照注目状態情報と、前記目標状態情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、
推奨する挿入操作の挿入方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を演算する推奨操作演算部であって、前記推奨操作方向は、前記注目状態情報と、前記操作方向とに基づいて演算し、前記推奨操作量は、少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、
前記推奨操作情報を含む情報を出力する出力情報処理部と、を具備する、推奨操作呈示制御装置。
【請求項32】
被挿入体に挿入される挿入部を有する挿入機器の前記挿入部の所定の状態に係る参照注目状態情報と、前記参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含む推奨操作参照データを取得し、
前記挿入部の少なくとも一部の形状に係る形状情報に基づいて前記挿入部の前記所定の状態に係る注目状態情報を演算し、少なくとも、前記注目状態情報と、前記注目状態情報に対応する前記参照注目状態情報と、前記目標状態情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算し、
前記注目状態情報と前記操作方向とに基づいて、推奨する挿入操作の挿入方向である推奨操作方向と、少なくとも前記操作管理情報に基づいて、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を演算し、
前記推奨操作情報を含む情報を出力する、推奨操作呈示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、挿入機器の推奨操作を出力する推奨操作呈示システム、推奨操作呈示制御装置及び推奨操作呈示制御方法
【背景技術】
【0002】
例えば、日本国特開2004−358095号公報には、内視鏡検査時に挿入部が被検体内でループを形成したり被検体の観察部位が伸展されたりした際に挿入動作に応じた形状情報と操作指示情報とを表示する内視鏡挿入形状解析装置が開示されている。
【発明の概要】
【0003】
日本国特開2004−358095号公報に記載の装置は、内視鏡の挿入形状を解析し、解析結果に応じた操作指示情報を呈示する。しかしながら、この装置では、どの程度操作が必要であるかは呈示されない。
【0004】
そこで、本発明は、適切な推奨操作情報を出力する推奨操作呈示システム、推奨操作呈示制御装置及び推奨操作呈示制御方法を提供することを目的とする。
【0005】
本発明の一被挿入体に挿入される挿入部を有する挿入機器と、前記挿入部の少なくとも一部の形状を形状情報として検出する挿入部形状検出部と、前記挿入部の所定の状態に係る参照注目状態情報と、前記参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含む推奨操作参照データを取得する参照データ取得部と、前記形状情報に基づいて前記挿入部の前記所定の状態に係る注目状態情報を演算し、少なくとも、前記注目状態情報に対応する前記参照注目状態情報と、前記目標状態情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、推奨する挿入操作の操作方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を演算する推奨操作演算部であって、前記推奨操作方向は、前記注目状態情報と、前記操作方向とに基づいて演算し、前記推奨操作量は、少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、前記推奨操作情報を含む情報を出力する出力情報処理部と、を具備する、推奨操作呈示システム。
【0006】
本発明の他の被挿入体に挿入される挿入部を有する挿入機器の前記挿入部の所定の状態に係る参照注目状態情報と、前記参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含む推奨操作参照データを取得する参照データ取得部と、前記挿入部の少なくとも一部の形状に係る形状情報に基づいて前記挿入部の前記所定の状態に係る注目状態情報を演算し、少なくとも、前記注目状態情報と、前記注目状態情報に対応する前記参照注目状態情報と、前記目標状態情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、推奨する挿入操作の挿入方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を演算する推奨操作演算部であって、前記推奨操作方向は、前記注目状態情報と、前記操作方向とに基づいて演算し、前記推奨操作量は、少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、前記推奨操作情報を含む情報を出力する出力情報処理部と、を具備する、推奨操作呈示制御装置である。また、本発明のさらなる他のこれに対応する推奨操作呈示制御方法である。
【0007】
本発明によれば、適切な推奨操作情報を出力する推奨操作呈示システム、推奨操作呈示制御装置及び推奨操作呈示制御方法を提供することができる。
【図面の簡単な説明】
【0008】
【図1】図1は、内視鏡システムの一例を概略的に示す図である。
【図2】図2は、内視鏡システムの一例を示すブロック図である。
【図3A】図3Aは、挿入部のαループの一例を示す図である。
【図3B】図3Bは、挿入部のαループの一例を示す図である。
【図3C】図3Cは、挿入部のαループの一例を示す図である。
【図3D】図3Dは、挿入部のαループの一例を示す図である。
【図3E】図3Eは、挿入部のNループの一例を示す図である。
【図3F】図3Fは、挿入部のNループの一例を示す図である。
【図4A】図4Aは、内視鏡システムの制御装置による推奨操作情報の処理の一例を示すフローチャートである。
【図4B】図4Bは、内視鏡システムの制御装置による推奨操作情報の処理の一例を示すフローチャートである。
【図5】図5は、推奨操作参照データの一例を示す図である。
【図6】図6は、推奨操作参照データの他の例を示す図である。
【図7A】図7Aは、Nループ解除に関する挿入部の状態の一例を示す図である。
【図7B】図7Bは、Nループ解除に関する挿入部の状態の一例を示す図である。
【図7C】図7Cは、右捻り操作に関する操作量を説明するための図である。
【図7D】図7Dは、Nループ解除に関する挿入部の状態の一例を示す図である。
【図7E】図7Eは、Nループ解除に関する挿入部の状態の一例を示す図である。
【図8A】図8Aは、αループ解除に関する挿入部の状態の一例を示す図である。
【図8B】図8Bは、αループ解除に関する挿入部の状態の一例を示す図である。
【図8C】図8Cは、αループ解除に関する挿入部の状態の一例を示す図である。
【図9】図9は、表示装置の表示画面の一例を示す図である。
【図10A】図10Aは、推奨操作情報の表示の一例を示す図である。
【図10B】図10Bは、推奨操作情報の表示の一例を示す図である。
【図10C】図10Cは、推奨操作情報の表示の一例を示す図である。
【図11A】図11Aは、推奨操作情報の表示の一例を示す図である。
【図11B】図11Bは、推奨操作情報の表示の一例を示す図である。
【図11C】図11Cは、推奨操作情報の表示の一例を示す図である。
【図12A】図12Aは、推奨操作情報の表示の一例を示す図である。
【図12B】図12Bは、推奨操作情報の表示の一例を示す図である。
【図12C】図12Cは、推奨操作情報の表示の一例を示す図である。
【図13】図13は、内視鏡画像に重畳表示された推奨操作情報の一例を示す図である。
【図14】図14は、推奨操作情報の表示の一例を示す図である。
【図15】図15は、ループ発生時間と注目状態情報/推奨操作情報の表示時間の一例を示す図である。
【図16】図16は、ループ発生時間と注目状態情報/推奨操作情報の表示時間の一例を示す図である。
【図17】図17は、管腔を含む内視鏡画像の一例を示す図である。
【図18】図18は、変形例1による内視鏡システムの一例を示すブロック図である。
【図19A】図19Aは、変形例1による推奨操作情報の処理の一例を示すフローチャートである。
【図19B】図19Bは、変形例1による推奨操作情報の処理の一例を示すフローチャートである。
【図20】図20は、変形例2による内視鏡システムの一例を示すブロック図である。
【図21】図21は、変形例2による表示装置の表示画面の一例を示す図である。
【図22】図22は、変形例3による内視鏡システムの一例を概略的に示す図である。
【発明を実施するための形態】
【0009】
本発明の実施形態について図面を参照して説明する。
以下では、挿入機器として医療用の大腸用軟性内視鏡(大腸内視鏡)を例に挙げ、これを含む挿入システムの一例として内視鏡システムを参照して本発明の推奨操作呈示システムを説明する。なお、挿入機器は医療用内視鏡に限定されるものではなく、カテーテル、処置具、工業用内視鏡など、被検体に挿入するものであって、少なくとも一部が可撓性をもつ挿入部を有していればよい。また、被検体は人に限らず、動物、エンジン、配管などの構造物を含む被挿入体でもよい。
【0010】
図1は、内視鏡システム1の一例を概略的に示す図である。図2は、内視鏡システム1の一例を示すブロック図である。内視鏡システム1は、内視鏡10と、位置検出装置20と、表示装置30と、制御装置100とを有している。
【0011】
[内視鏡]
内視鏡10は、先端の挿入部11と、挿入部11の基端側の操作部16と、ケーブル17とを有している。挿入部11は、先端硬質部12と、その基端側の操作湾曲部13と、操作湾曲部13の基端側の受動湾曲部14とを有している。先端硬質部12は、照明光学系、観察光学系、撮像素子15等を内蔵している。操作湾曲部13は、例えば、挿入部11において先端硬質部12の基端から15cm程度の範囲である。操作湾曲部13は、操作者が操作部16の不図示の操作ノブを操作(例えば回転操作)することにより、所望の方向に湾曲可能である。受動湾曲部14は、被検体から受ける外力等により湾曲自在である。内視鏡10は、ケーブル17を介して制御装置100に接続される。
【0012】
挿入部11の内部には、例えば操作湾曲部13及び受動湾曲部14に、位置検出装置20の一部である複数の発信コイル21が設けられている。発信コイル21は、挿入部11の長手方向に沿って互いに離間して配置されている。図1では、操作湾曲部13に3個の発信コイル21が長手方向において異なる位置に配置されている。また、受動湾曲部14に10個の発信コイル21(図1ではその一部が省略されている)が長手方向において異なる位置に配置されている。
【0013】
[位置検出装置]
本実施形態では、位置検出装置20は磁気式である。位置検出装置20は、発信コイル21と、発信信号生成部22と、受信アンテナ23とを有している。発信コイル21は、上述したように内視鏡10の挿入部11に組み込まれている。発信信号生成部22は、例えば、制御装置100に組み込まれている。もちろん、これに限定されず、制御装置100と別体であってもよい。受信アンテナ23は、内視鏡10や制御装置100とは別体である。なお、受信アンテナ23を送信アンテナとし、内視鏡10の挿入部11に受信コイルを設けて、送受信を逆にしてもかまわない。
【0014】
発信信号生成部22は、発信コイル21から磁界を発生させるための信号、例えば正弦波の電流を生成する。生成した信号は、各発信コイル21に対して決められた順番で、例えば挿入部11の先端側の発信コイル21から順番に出力される。発信コイル21は、発信信号生成部22から流れる電流により、磁界を発生させる。なお、図1では発信コイル21につながる配線を1本しか描いていないが、1つの発信コイル21に付き2本の配線がつながっている。
【0015】
受信アンテナ23は、図示しない複数の受信コイルで構成されている。受信アンテナ23は、発信コイル21が発生した磁界信号を検出する。受信アンテナ23は、部屋やベッドに対して動かないように位置決めして設置される。受信アンテナ23が検出した磁界の強度に基づいて、制御装置100の後述する形状演算部103が各発信コイル21の位置等を計算する。図1では受信アンテナ23と制御装置100とが有線接続されているが、無線接続であってもよい。
【0016】
位置検出装置20は、挿入部11の少なくとも一部の形状を検出する挿入部形状検出部として機能するために挿入部11の湾曲状態を検出可能なものであればよく、磁気式以外であってもよい。位置検出装置20は、例えば、磁気を利用したセンシング(磁気センサ)、超音波を利用したセンシング(超音波センサ)、光ファイバを導光する光の損失を利用したセンシング(光ファイバセンサ)、歪みを利用したセンシング(歪みセンサ)、あるいはX線吸収材料を利用したセンシングのいずれか1つ又はこれらの組合せによって構成されることができる。また、ここでは位置検出装置と称しているが、形状検出装置と称される、同様の機能を有する装置であってもよい。
【0017】
[制御装置]
制御装置100は、システム制御部101と、画像処理部102と、形状演算部103と、注目状態・操作管理情報演算部104と、推奨操作演算部105と、出力情報処理部106と、参照データ取得部108とを有している。これら各部は、CPUなどの1又は複数の集積回路を含むプロセッサにより構成されている。制御装置100はまた、記憶部107を有している。記憶部107は、半導体メモリ等のストレージである。
【0018】
制御装置100の上述の各部、特に、形状演算部103、注目状態・操作管理情報演算部104、推奨操作演算部105及び参照データ取得部108は、制御装置100とは別の制御装置に含まれてもよい。例えば、形状演算部103、注目状態・操作管理情報演算部104、推奨操作演算部105及び参照データ取得部108は、画像処理部102を含む内視鏡ビデオ画像プロセッサとは別の制御装置に含まれてよい。あるいは、形状演算部103、注目状態・操作管理情報演算部104、推奨操作演算部105及び参照データ取得部108の各々が別の制御装置に含まれてもよい。すなわち、制御装置100の上述の各部、特に、形状演算部103、注目状態・操作管理情報演算部104、推奨操作演算部105及び参照データ取得部108として機能するプロセッサあるいはハードウエア回路は、各部としての機能を実施可能である限り、1つの筐体に含まれてもよいし、複数の筐体に含まれてもよい。
【0019】
[システム制御部]
システム制御部101は、制御装置100に接続される、内視鏡システム1の各種機器の動作を制御する。システム制御部101は、例えば、内視鏡10の先端硬質部12の照明光学系に照明光を供給するために制御装置100に接続される不図示の光源装置を制御する。
【0020】
[画像処理部]
画像処理部102は、内視鏡10の先端硬質部12の撮像素子15で被写体からの光を変換した電気信号をビデオ信号に変換処理し、被写体像に基づく内視鏡画像を生成し、表示装置30に内視鏡画像を表示させる。
【0021】
[形状演算部]
形状演算部103は、受信アンテナ23から入力された磁界の強度情報に基づいて、各発信コイル21の位置情報として、各発信コイル21の位置と方向ベクトルとを計算する。複数の発信コイル21により得られる複数の位置情報は挿入部11の形状を表すものであるから、本実施形態では、複数の位置情報を形状情報と称する。必要に応じて発信コイル21の位置情報をスプライン処理等により補間してよい。形状情報は、注目状態・操作管理情報演算部104及び推奨操作演算部105に出力される。このように、本実施形態では、形状演算部103は、位置検出装置20とともに、挿入部11の少なくとも一部の形状を形状情報として検出する挿入部形状検出部として機能する。
【0022】
[注目状態・操作管理情報演算部]
注目状態・操作管理情報演算部104は、形状情報から注目状態情報と操作管理情報とを演算する。注目状態情報及び操作管理情報は、推奨操作演算部105及び出力情報処理部106に出力される。注目状態・操作管理情報演算部104は、注目状態情報を演算する注目状態演算部と、操作管理情報を演算する操作管理情報演算部とに分けてもよい。
【0023】
注目状態情報は、後述する推奨操作情報が必要か否かを判断するための情報、又は推奨操作情報を判断するための情報であって、挿入部11の所定の状態、例えば、挿入部11が被検体に挿入されたときに起こることが予め想定される特徴的な状態に係る情報である。注目状態情報は、例えば、内視鏡10の挿入部11のループの有無、ループの種類とサイズ(ループの面積、周囲、幅など)、挿入長あるいは挿入部先端の移動量、挿入長の変化に対する挿入部先端の変化あるいは挿入量に対する挿入部先端の移動量の割合などの情報である。挿入長は、例えば、挿入部11において被検体に挿入されている部分の長さである。挿入長の変化に対する挿入部先端の変化は、例えば、挿入操作に対して挿入部11の先端が進んでいるか否か、すなわち、挿入が妨げられていないかを判断するための情報である。
【0024】
図3A乃至図3Fには、挿入部11のループのいくつかの例が示されている。図3A乃至図3Fでは、紙面上側が挿入部11の先端側、紙面下側に挿入部11の基端側(手元側)である。図3Aには挿入部11の交差部11bにおいて挿入部先端11aの側が上側にあるαループ、図3Bには交差部11bにおいて挿入部先端11aの側が下側にあるαループ(いわゆる裏αループ)、図3Cには交差部11bにおいて挿入部先端11aの側が上側にある逆αループ(いわゆる裏逆αループ)、図3Dには交差部11bにおいて挿入部先端11aの側が下側にある逆αループ、図3Eには本出願では逆のの字と称する、Nループの挿入部先端11aの側が内側にあるループ(すなわち、日本語の表記に用いられる平仮名「の」を裏返した形状のループ)、図3Fには挿入部先端11aの側が外側にあるN字形状のNループがそれぞれ示されている。なお、逆のの字、N字形状は厳密にはループではないが、これらは一般にループとして扱い、本出願ではNループの一種とする。これらは、内視鏡10の大腸挿入時にS状結腸において形成されうるループである。例えば被検体が大腸である場合、図3Aのαループ及び図3Cの逆αループは、挿入部11の交差部11bにおいて挿入部先端11aの側が腹側にあるループであり、図3Bのαループ及び図3Dの逆αループは、交差部11bにおいて挿入部先端11aの側が背側にあるループである。このようなループが形成されると、操作者が挿入部11を腸管内に容易に挿入できなくなってしまう。このため、本実施形態では、このようなループを注目状態として注目状態・操作管理情報演算部104で注目状態情報を算出する。
【0025】
操作管理情報は、内視鏡10の操作に係る情報であって、内視鏡10に対する操作者の操作に関連して直接的に、又は間接的に変化する情報である。操作者の操作とは、主に湾曲操作、捻り操作、挿抜操作である。湾曲操作とは、上述したように、操作者が操作部16を操作することにより操作湾曲部13を湾曲させる操作である。捻り操作とは、操作者が受動湾曲部14を手元側から左に、又は右に捻る操作である。捻り操作は回転操作とも称される。挿抜操作とは、操作者が受動湾曲部14を手元側から押し込む操作(押し操作)、又は引き抜く操作(引き操作)である。その他、操作は、操作部16の不図示の操作ボタンによる内視鏡10の送気、送水、吸引、挿入部11の硬度変更、被検体の例えば腹部を手で押さえることで挿入部11の形状変化を抑制する用手圧迫などの操作でもよい。
【0026】
例えば、図3A乃至図3Dに示されるようなαループが形成されている状態から引き操作が行われると、αループの面積や周囲が小さくなる。このαループの面積や周囲は、操作者の操作に関連して直接的に変化する操作管理情報である。あるいは、推奨操作を判断するために、挿入部11の目標形状が設定される。その目標形状と現時点の形状との差(例えば、挿入部11の目標形状と現時点の形状とにおける各座標の差の合計)は、適切な操作を行うことによって小さくなる。したがって、この差は、操作者の操作に関連して間接的に変化する操作管理情報である。このように、操作に関する情報を間接的に検出することで、直接的に検出することが困難な場合でも操作管理情報を得ることができる。
【0027】
操作管理情報として、例えば、注目状態・操作管理情報演算部104が形状情報の変化から湾曲操作方向と湾曲量とを演算してもよい。挿入部11に1軸の発信コイル21が配置されていると湾曲操作方向の検出ができないが、例えば、その近傍に異なる方向で2軸目のコイルを設けて2軸コイルとすることにより、湾曲方向の検出も可能となる。また、1軸コイルの場合には、コイルの軸回りの回転を検出できないため、捻り操作の検出が困難であるが、2軸コイルとすることにより、捻り操作の検出も可能となる。挿抜操作は、例えば挿入開始時の肛門の位置を記憶部107に記憶させることで、肛門の位置と挿入部11の座標との位置関係から演算可能である。
【0028】
操作管理情報は、操作者の内視鏡10に対する各種操作を検出するセンサを内視鏡10に設けて、センサの検出結果に基づく情報であってもよい。例えば、操作部16の不図示の操作ノブの回転により操作湾曲部13が湾曲する場合、操作ノブの回転量を検出するロータリーエンコーダを操作部16に設ける。これにより、湾曲操作に関する操作管理情報が検出可能である。
【0029】
[推奨操作演算部]
推奨操作演算部105は、形状演算部103及び注目状態・操作管理情報演算部104での演算の結果、すなわち、形状情報、注目状態情報及び操作管理情報に基づいて、挿入部11の挿入をスムーズに進めるために推奨する操作に関する情報である推奨操作情報を演算する。推奨操作情報は、例えば、推奨する挿入操作の操作方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量とを含む。推奨操作情報は、出力情報処理部106に出力される。
【0030】
[出力情報処理部]
出力情報処理部106は、推奨操作情報を含む情報を出力する。例えば、出力情報処理部106では、推奨操作情報を表示装置30へ表示するための画像処理をし、表示装置30に推奨操作情報を表示させる。推奨操作情報の他に、形状情報や注目状態情報などの情報を表示装置30へ表示するための画像処理を行ってもよい。
【0031】
[記憶部]
記憶部107は、制御装置100に接続される各種機器や制御装置100の各部の動作に必要な各種プログラムやデータを記憶している。記憶部107は、例えば図5又は図6に示されるような、内視鏡10の大腸への挿入に関する推奨操作参照データを記憶している。推奨操作参照データは、Nループやαループといった上述のような注目状態が生じた場合にループ解除するために予めパターン化された操作方向及び目標状態情報を含むものである。なお、推奨操作参照データは、記憶部107以外の外部記憶装置に記憶されて読み出される形式であってもよい。また、記憶部107は、挿入中に発生する種々のデータを記憶してよい。
【0032】
図5には、推奨操作参照データの一例として、注目状態情報に対応するように予め設定された参照注目状態情報、及びこれに対応させて予め設定された操作方向、目標形状情報(目標状態情報)及び推奨操作継続情報が示されている。図6には、推奨操作参照データの他の例として、注目状態情報に対応するように予め設定された参照注目状態情報、及びこれに対応させて予め設定された推奨操作要否判断情報、操作方向、目標形状情報(目標状態情報)及び推奨操作継続情報が示されている。参照注目状態情報は、挿入部11の所定の状態に係る情報であって、注目状態・操作管理情報演算部104が演算する注目状態情報に対応するものである。目標状態情報も、注目状態情報に対応するものである。このように、参照注目状態情報及び目標状態情報は、注目状態情報に対応しているため、例えば、内視鏡10の挿入部11のループの有無、ループの種類とサイズ、挿入長、挿入長の変化に対する挿入部先端の変化などの情報である。推奨操作参照データは、注目状態・操作管理情報演算部104及び推奨操作演算部105による演算で参照される。もちろん、推奨操作参照データは、これに限定されるものではなく、被検体に応じて種々の推奨操作参照データが用いられる。
【0033】
例えば、推奨操作参照データの(i)、(ii)、(iii)、(iv)は、挿入部11が形成したNループ解除(Nループの直線化)のための推奨操作参照データである。本実施形態における推奨操作呈示システムでは、後述するように、注目状態・操作管理情報演算部104で演算された参照注目状態情報に対応させて、(i)、(ii)、(iii)の順に、又は(ii)、(iii)の順に、あるいは(iii)の参照データを参照して、操作管理情報及び推奨操作情報が演算される。必要に応じて(iv)の参照データも参照される。同様に、推奨操作参照データの(v)、(vi)は、挿入部11が形成したαループ解除(αループの直線化)のための推奨操作参照データである。本実施形態における推奨操作呈示システムでは、後述するように、注目状態・操作管理情報演算部104で演算された参照注目状態情報に対応させて、(v)、(vi)の順に、又は(vi)の参照データを参照して、操作管理情報及び推奨操作情報が演算される。
【0034】
[参照データ取得部]
参照データ取得部108は、記憶部107又は記憶部107以外の外部記憶装置に記憶されている推奨操作参照データを取得する。注目状態・操作管理情報演算部104及び推奨操作演算部105は、参照データ取得部108が取得した推奨操作参照データに基づいて注目状態情報の演算、操作管理情報の演算、推奨操作情報の演算を行う。
【0035】
[表示装置]
表示装置30は、液晶ディスプレイなどのモニタであり、出力装置とも称される。表示装置30は、出力情報処理部106が出力した推奨操作情報を表示する。その他、内視鏡画像、内視鏡挿入形状、注目状態情報などを表示してもよい。
【0036】
内視鏡システム1の動作、例えば大腸内視鏡検査における動作について説明する。
内視鏡10の挿入部11は、操作者によって大腸の腸管内に、肛門から直腸、結腸、盲腸へと挿入される。挿入部11は、腸管の形状に追従して湾曲しながら腸管内を進行する。先端硬質部12の観察光学系で得られた被検体の光学像は、撮像素子15で電気信号に変換される。画像処理部102は、撮像素子15から出力された電気信号に基づく画像信号を生成し、生成した画像信号に基づいて腸管内の内視鏡画像を表示装置30に表示させる。
【0037】
(推奨操作呈示システムによる処理の一例)
以下、推奨操作呈示システムとしての内視鏡システム1の制御装置100による処理の一例について、図4A及び図4Bを参照して概略的に説明する。
【0038】
ステップS11において、形状演算部103は、受信アンテナ23から受信した磁界の強度情報に基づいて挿入部11の形状を演算する。演算の結果が形状情報として注目状態・操作管理情報演算部104に伝達される。
【0039】
ステップS12において、注目状態・操作管理情報演算部104は、形状情報に基づいて特徴的な形状(例えばNループやαループ)、挿入長などである注目状態情報を検出する。
【0040】
ステップS13において、推奨操作演算部105は、参照データ取得部108を介して予め記憶部107に記憶された図5に示されるような推奨操作参照データを取得し、これを参照して、ステップS12で検出した注目状態情報が推奨操作参照データの参照注目状態情報に該当するか否かを判断する。これにより、推奨操作演算部105は、推奨操作情報が必要か否かを判断する。
【0041】
あるいは、図6に示されるように、推奨操作参照データに推奨操作情報が必要でない場合の参照注目状態情報(略直線形状など)を含め、これに対応させて予め設定された推奨操作要否判断情報を予め記憶部107に記憶させておき、推奨操作演算部105が注目状態情報と参照注目状態情報を参照して対応する推奨操作要否判断情報とに基づいて推奨操作情報が必要か否かを判断してもよい。例えば、推奨操作要否判断情報に基づいて推奨操作情報が必要か否かを判断し、必要と判断した場合にのみ操作管理情報を演算して推奨操作情報を出力することにより、操作者にとって不要な情報を表示することが低減される。換言すれば、表示装置30から必要な情報を得やすくなる。
【0042】
注目状態情報が参照注目状態情報に該当しない、あるいは該当しても推奨操作要否判断情報から推奨操作が不要と判断された場合には(ステップS13−NO)、処理はステップS20に進む。注目状態情報が参照注目状態情報に該当する、あるいは該当して推奨操作要否判断情報から推奨操作が必要と判断された場合には(ステップS13−YES)、処理はステップS14に進む。
【0043】
ステップS14において、注目状態・操作管理情報演算部104は、推奨操作参照データから、少なくともステップS13で該当すると判断された参照注目状態情報に対応する目標形状情報を読み出して、少なくとも目標形状情報とステップS11で演算した形状情報とから操作管理情報を演算する。操作管理情報は、推奨操作演算部105に伝達される。また、操作管理情報は、記憶部107に記憶される。
【0044】
ステップS15において、推奨操作演算部105は、ステップS12で演算した注目状態情報に対応する参照注目状態情報に基づいて推奨操作参照データから読み出した操作方向と、ステップS14で演算した操作管理情報に基づく操作量とを含む推奨操作情報を演算する。推奨操作情報は、出力情報処理部106に伝達される。
【0045】
ステップS16において、出力情報処理部106は、推奨操作情報を出力情報として処理し、表示装置30に表示させる。操作者は、表示された推奨操作情報にしたがって、挿入部11の所定操作量の湾曲操作、捻り操作、挿抜操作などを行う。
【0046】
ステップS17において、形状演算部103は、受信アンテナ23から受信した磁界の強度情報に基づいて挿入部11の現在の形状を演算する。演算の結果が現在の形状情報として推奨操作演算部105に伝達される。
【0047】
ステップS18において、推奨操作演算部105は、ステップS17で取得した現在の形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になっているか否かを判断する。すなわち、推奨操作演算部105は、現在の注目状態(すなわち、ステップS12で検出した注目状態情報に係る注目状態)に対する操作推奨情報にしたがった操作が完了しているか否かを判断する。完了している場合には(ステップS18−YES)、処理はステップS19に進む。その他の場合には(ステップS18−NO)、処理はステップS21に進む。
【0048】
ステップS19において、推奨操作演算部105は、ステップS13で該当すると判断された参照注目状態情報に対応する推奨操作継続情報を読み出して、現在の注目状態に対する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。「完了」である場合には(ステップS19−YES)、処理はステップS20に進む。「継続」である場合には(ステップS19−NO)、処理はステップS14に戻る。
【0049】
ステップS20において、推奨操作演算部105は、挿入操作が完了したか否か、すなわち、挿入部11が盲腸まで到達したか否かを判断する。この判断は、挿入部11の形状や形状の履歴(例えば挿入部11の形状の時間変化)、先端の位置などに基づいて行われてよい。あるいは、内視鏡システム1にスイッチやキーボードなどの入力装置を設け、操作者の判断によりスイッチが押されたりキーボードに所定の入力がされたりした場合に挿入操作完了と判断する仕様であってもよい。また、画像認識技術を用いて、内視鏡画像に盲腸が検出されれば挿入完了と判断してもよい。挿入操作が完了している場合には(ステップS20−YES)、処理は終了する。完了していない場合には(ステップS20−NO)、処理はステップS11に戻る。
【0050】
ステップS18で現在の注目状態に対する推奨操作情報にしたがった操作が完了していないと判断された場合には(ステップS18−NO)、処理はステップS21に進む。ステップS21において、注目状態・操作管理情報演算部104は、ステップS17での現在の形状情報を取得し、ステップS12と同様にして、現在の形状情報に基づいて注目状態情報を検出する。
【0051】
ステップS22において、注目状態・操作管理情報演算部104は、ステップS14と同様にして、少なくとも目標形状情報とステップS17で演算した現在の形状情報とから操作管理情報を演算する。操作管理情報は、記憶部107に記憶される。
【0052】
ステップS23において、推奨操作演算部105は、操作者が行った操作が推奨操作に一致しているか否かを判断する。具体的には、直前のステップS22で演算された操作管理情報の値と、操作管理情報の演算に関する1つ前のステップS14(あるいはステップS22)で演算された操作管理情報の値とに基づいて操作管理情報の値とを比較し、操作者が行った操作の方向(操作者操作方向)と推奨操作情報の操作方向(推奨操作方向)とが合っているか否かを判断する。一致していると判断された場合には(ステップS23−YES)、処理はステップS24に進み、一致していないと判断された場合には(ステップS23−NO)、処理はステップS25に進む。なお、目標形状に到達していないにもかかわらず、ステップS21で検出した注目状態情報に対応する参照注目状態情報がその直前のステップS12で参照した参照注目状態情報とは異なるものとなっていた場合には、操作者が行った操作が推奨操作に一致していないと判断される。
【0053】
ステップS24において、推奨操作演算部105は、ステップS22で算出した操作管理情報に基づいて操作量を更新する。そして、処理はステップS16に進み、出力情報処理部106が、操作方向及び更新した操作量を含む推奨操作情報を出力情報として処理し、表示装置30に表示させる。ステップS16の後、上述のステップS17以降の処理が行われる。
【0054】
一方、ステップS25において、推奨操作演算部105は、推奨操作情報にしたがう操作が実施できる状態であるか否かを判断する。実施できない状態と判断された場合には(ステップS25−NO)、処理はステップS14に進む。ステップS14において、注目状態・操作管理情報演算部104は、実施できなかった操作を含む操作管理情報とは異なる操作管理情報を演算する。ステップS14の後、上述のステップS15以降の処理が行われる。
【0055】
一方、実施可能な状態と判断された場合には(ステップS25−YES)、処理はステップS26に進む。ステップS26において、推奨操作演算部105は、推奨操作情報を修正する。例えば、操作者操作方向が推奨操作方向とは逆であった場合には、推奨操作演算部105は、ステップS22で算出した操作管理情報に基づいて操作量を修正し、操作方向が逆であることの警告を表示装置30に出力することを決定する。注目状態情報が変化して対応する参照注目状態情報が変更された場合には、推奨操作演算部105は、推奨操作参照データを参照し直し、該当する参照注目状態情報から操作方向と操作量とを演算し直す。推奨操作演算部105は、推奨操作と一致していない旨の警告を表示装置30に出力することを決定してもよい。ステップS26の後、処理はステップS16に進む。
【0056】
ステップS26の後のステップS16では、出力情報処理部106は、推奨操作情報及び警告を出力情報として処理し、表示装置30に表示させる。以後、上述のステップS17以降の処理が行われる。
【0057】
(Nループ解除時の処理の一例)
ここまで、図4A及び図4Bに示される一連の処理を概略的に説明してきたが、以下、挿入時のNループ解除に関する推奨操作呈示システムでの処理について、図7A乃至図7Eとともに図4A及び図4Bのフローチャート、図5の推奨操作参照データを参照して具体的に説明する。
【0058】
ステップS11において、形状演算部103が挿入部11の第1の形状情報を演算する。ステップS12において、注目状態・操作管理情報演算部104は、第1の形状情報に基づいて、第1の注目状態情報として図7Aに示されるような逆のの字のNループを検出する。すなわち、第1の注目状態は「a1−b1間がX1(X1≧10cm以上)の逆のの字形状」である。ここで、a1、b1は、図7Aに示されるxy平面における点である。a1は、挿入部11が形成しているNループのy座標が最も大きい点(y座標:ya1)であり、b1は、挿入部11が形成しているNループのy座標が最も小さい点(y座標:yb1)である。
【0059】
ステップS13において、推奨操作演算部105は、図5の参照注目状態情報を参照して、ステップS12で検出した第1の注目状態情報が推奨操作参照データの参照注目状態情報に該当するか否かを判断する。ここでは、これが推奨操作参照データの(i)の参照注目状態情報「a1−b1間が10cm以上の逆のの字形状」に該当するため(ステップS13−YES)、処理はステップS14に進む。換言すれば、ステップS13で推奨操作情報が必要であると判断され、処理がステップS14に進む。
【0060】
ステップS14において、注目状態・操作管理情報演算部104は、推奨操作参照データの(i)に対応する目標形状情報を読み出す。ここでは、「a2−b2間が10cm未満の逆のの字形状」が読み出される。ここで、a2、b2は、図7Aに示されるxy平面における点である。a2は、目標形状におけるNループのy座標が最も大きい点(y座標:ya2)であり、b2は、目標形状におけるNループのy座標が最も小さい点(y座標:yb2)である。そして、注目状態・操作管理情報演算部104は、第1の注目状態情報に係る逆のの字形状と目標形状情報に係る逆のの字形状とのサイズの差を演算して第1の操作管理情報とする。図7Aには、第1の形状情報に係る逆のの字形状が白抜きの実線で、目標形状情報に係る逆のの字形状が破線でそれぞれ示されている(以下の図面でも同様である)。注目状態・操作管理情報演算部104は、例えば、図7Aに示されるように、点a1のy座標ya1と点b1のy座標yb1との差Δya1b1と、点a2のy座標ya2と点b2のy座標yb2との差Δya2b2と、の差Δya1b1−Δya2b2を第1の操作管理情報とする。
【0061】
ステップS15において、推奨操作演算部105は、推奨操作参照データの(i)に対応する操作方向として引き操作を読み出す。また、推奨操作演算部105は、第1の操作管理情報Δya1b1−Δya2b2に基づいて引き操作の操作量を演算する。ここでは、第1の操作管理情報に基づいて算出した操作量は、何cm引くべきか、といった直接的な操作量である。このように、推奨操作演算部105は、推奨操作情報として第1の注目状態情報に基づく引き操作である第1の推奨操作方向と第1の操作管理情報に基づく第1の推奨操作量とを含む第1の推奨操作情報を演算する。図7Aには、挿入部11の手元側に引き操作を表す下向き矢印が示されている。
【0062】
ステップS16において、出力情報処理部106は、第1の推奨操作情報を出力情報として処理し、表示装置30に表示させる。操作者は、表示された推奨操作情報にしたがって、挿入部11の所定操作量の引き操作を行う。
【0063】
ステップS17において、形状演算部103は挿入部11の現在の形状を演算する。そして、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。例えば、ここでの形状情報に基づいて上述のようにして算出した第1の操作管理情報の値が0、あるいは0以下になった場合に、推奨操作が完了したと判断される。操作者が少しずつ引き操作(すなわち、推奨操作方向にしたがう挿入操作)を行うと推奨操作が完了したと判断されるまでステップS21からステップS24の処理が繰り返され、操作が完了していると判断されると(ステップS18−YES)、処理はステップS19に進む。
【0064】
ステップS19において、推奨操作演算部105は、推奨操作参照データの(i)に対応する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。ここでは、「継続」であるから(ステップS19−NO)、処理はステップS14に戻る。推奨操作継続情報が「継続」である場合には、推奨操作参照データに(i)に続く(ii)が用意されているから、処理はステップS14に進み、新たな注目状態情報に基づく推奨操作情報の演算を続ける。
【0065】
ここで、上述のステップS17において算出された現在の形状に係る形状情報を第2の形状情報とする。第2の形状情報は、推奨操作参照データの(i)の目標形状情報「a2−b2間が10cm未満の逆のの字形状」に対応している。
【0066】
ステップS14において、注目状態・操作管理情報演算部104は、推奨操作参照データの(i)の次の(ii)に対応する参照注目状態情報、操作方向及び目標形状情報を読み出す。すなわち、ここでは、「a1−b1間が10cm未満の逆のの字/N字形状」、「右捻り」及び「θが±10°以内のN字形状」が読み出される。ここでは、読み出した参照注目状態情報が第2の注目状態情報である。注目状態・操作管理情報演算部104は、第2の注目状態情報に係る逆のの字形状と目標形状情報に係るN字形状との座標の角度の差を演算して第2の操作管理情報とする。
【0067】
ここで、第2の操作管理情報について詳しく説明する。図7Bに示されるようにxy平面を設定し、点c1、c2、d1、d2をとる。点c2、d2は、それぞれ、図7Bに示されるxy平面における、第2の形状情報に係る逆のの字形状の点c1、d1に関する目標形状の点である。c1は、第2の形状情報に係る逆のの字形状における挿入部11の先端の点(y座標:yc1)であり、d1は、挿入部11が形成している逆のの字のNループにおいてy座標が点c1のy座標yc1と等しい点(y座標:yd1)である。c2は、目標形状における挿入部11の先端の点(y座標:yc2)であり、d2は、d1と同じ点(y座標:yd2)である。右捻りの操作により、点c1は、図7Cに示されるようなxz平面上で略円運動を行うと考えられる。このため、点c1が捻り操作によって点d1を中心に円運動を行ってx軸上の点c2となると想定し、点c2と点d2を結ぶ線、すなわちx軸と、点d1と点c1とを結ぶ線とがなす角度θを求め、第2の操作管理情報とする。
【0068】
ステップS15において、推奨操作演算部105は、推奨操作参照データの(ii)に対応する操作方向として右捻り操作を読み出す。また、推奨操作演算部105は、第2の操作管理情報に基づいて捻り操作の操作量を演算する。ここでは、第2の操作管理情報である角度θをそのまま回転操作量としてよい。このように、推奨操作演算部105は、推奨操作情報として第2の注目状態情報に基づく右捻り操作である第2の推奨操作方向と第2の操作管理情報に基づく第2の推奨操作量とを含む第2の推奨操作情報を演算する。図7Bには、挿入部11の手元側に右捻り操作を表す矢印が示されている。
【0069】
ステップS16において、出力情報処理部106は、第2の推奨操作情報を出力情報として処理し、表示装置30に表示させる。操作者は、表示された推奨操作情報にしたがって、挿入部11の所定操作量の右捻り操作を行う。
【0070】
ステップS17において、形状演算部103は挿入部11の現在の形状を演算する。そして、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。例えば、ここでの形状情報に基づいて上述のようにして算出した第2の操作管理情報の値が0、あるいは0を含む所定範囲になった場合に、推奨操作が完了したと判断される。操作者が少しずつ右捻り操作(すなわち、推奨操作方向にしたがう操作)を行うと推奨操作が完了したと判断されるまでステップS21からステップS24の処理が繰り返され、操作が完了していると判断されると(ステップS18−YES)、処理はステップS19に進む。
【0071】
ステップS19において、推奨操作演算部105は、推奨操作参照データの(ii)に対応する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。ここでは、「継続」であるから(ステップS19−NO)、処理はステップS14に戻る。推奨操作継続情報が「継続」である場合には、推奨操作参照データに(ii)に続く(iii)が用意されているから、処理はステップS14に進み、新たな注目状態情報に基づく推奨操作情報の演算を続ける。
【0072】
ここで、上述のステップS17において算出された現在の形状に係る形状情報を第3の形状情報とする。第3の形状情報は、推奨操作参照データの(iii)の目標形状情報「θが±10°以内のN字形状」に対応している。
【0073】
ステップS14において、注目状態・操作管理情報演算部104は、推奨操作参照データの(ii)の次の(iii)に対応する参照注目状態情報、目標形状情報を読み出す。すなわち、ここでは、「θが±10°以内のN字形状」、「略直線の座標データ」が読み出される。ここでは、読み出した参照注目状態情報が第3の注目状態情報である。そして、注目状態・操作管理情報演算部104は、第3の注目状態情報に係るN字形状と目標形状情報に係る略直線形状との差を演算して第3の操作管理情報とする。
【0074】
図7Dに示されるxy平面には、第3の形状情報に係るN字形状である、c1−d1間がX3の挿入部11が示されている。図7Dには、挿入部11の第3の形状情報に係るN字形状の任意の点e1、f1、g1、h1、i1と、各点に関する目標形状の任意の点e2、f2、g2、h2、i2とが示されている。第3の操作管理情報は、例えば、各点のxy座標データの差の合計値である。図7Dに示される、各点e1−e2、f1−f2、g1−g2、h1−h2、i1−i2間の矢印は、第3の操作管理情報を概念的に表している。
【0075】
ステップS15において、推奨操作演算部105は、推奨操作参照データの(iii)に対応する操作方向として引き操作を読み出す。また、推奨操作演算部105は、第3の操作管理情報に基づいて引き操作の操作量を演算する。例えば各点のxy座標データの差の合計値が第3の操作管理情報である場合、第3の操作管理情報に基づいて算出した操作量は、何cm引くべきか、といった引き操作に対する直接的な操作量ではなく、前記差の合計値で表される間接的な操作量である。このように、推奨操作演算部105は、推奨操作情報として第3の注目状態情報に基づく引き操作である第3の推奨操作方向と第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する。図7Dには、挿入部11の手元側に引き操作を表す下向き矢印が示されている。
【0076】
ステップS16において、出力情報処理部106は、第3の推奨操作情報を出力情報として処理し、表示装置30に表示させる。操作者は、表示された推奨操作情報にしたがって、挿入部11の所定操作量の引き操作を行う。
【0077】
ステップS17において、形状演算部103は挿入部11の現在の形状を演算する。そして、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。例えば、第3の操作管理情報の値が0に近づくほど、挿入部11は目標形状に近くなる。ただし、通常は目標形状に正確に一致する必要はないため、第3の操作管理情報の値に対する閾値を設け、閾値を下回れば図7Eに示されるように目標形状まで操作が完了した、すなわち、Nループに対する推奨操作が完了してNループが略直線化されたと判断される。ここでは操作が完了していないと判断されて(ステップS18−NO)、処理はステップS21に進む。
【0078】
ステップS21において、注目状態・操作管理情報演算部104は、ステップS17での現在の形状情報を取得し、ステップS12と同様にして、現在の形状情報に基づいて注目状態情報を検出する。
【0079】
ステップS22において、注目状態・操作管理情報演算部104は、ステップS14と同様にして、ステップS17での現在の形状情報と目標形状情報との差から操作管理情報を演算する。
【0080】
ステップS23において、推奨操作演算部105は、操作者が行った操作が推奨操作に一致しているか否かを判断する。ここでは、直前のステップS22で演算された操作管理情報の値と、操作管理情報の演算に関する1つ前のステップS14で演算された操作管理情報の値とに基づいて操作管理情報の値の増減を算出し、操作者操作方向と推奨操作方向とが合っているか否かを判断する。例えば、操作者操作方向と推奨操作方向とが合っていれば、操作管理情報の値は減少している。一方、これら方向が合っていなければ、操作管理情報の値は増加している。ここでは操作管理情報の値が増加しており両方向が合っていないと判断されて(ステップS23−NO)、処理はステップS25に進む。
【0081】
ステップS25において、推奨操作演算部105は、推奨操作情報にしたがった推奨操作が実施できない状態であるか否かを判断する。これは、例えば、形状演算部103からの形状情報が所定時間変化していないこと、画像認識技術により内視鏡画像が所定時間変化していないことや内視鏡画像から挿入困難状態が認識されること、などにより判断される。以下、推奨操作情報にしたがった推奨操作が実施できる状態の場合(ステップS25−YES)と、実施できない状態の場合(ステップS25−NO)との2通りの処理の例について説明する。
【0082】
(推奨操作情報にしたがった推奨操作が実施できる状態の場合の一例)
推奨操作情報にしたがった推奨操作が実施できる状態の場合には(ステップS25−YES)、処理はステップS26に進む。
【0083】
ステップS26において、推奨操作演算部105は、推奨操作情報を再演算して修正する。例えば、操作者操作方向が推奨操作方向とは逆であった場合には、推奨操作演算部105は、ステップS22で算出した操作管理情報に基づいて操作量を増加させる。また、推奨操作演算部105は、操作方向が逆であることの警告を表示装置30に出力することを決定する。そして、処理はステップS16に進む。
【0084】
ステップS16において、出力情報処理部106は、増加した操作量を含む推奨操作情報及び警告を出力情報として処理し、表示装置30に表示させる。
【0085】
ステップS17において、形状演算部103は挿入部11の現在の形状を演算する。そして、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。ここでは操作が完了していないと判断されて(ステップS18−NO)、処理はステップS21に進む。
【0086】
上述したようなステップS21、S22を経て、ステップS23において、推奨操作演算部105は、操作者が行った操作が推奨操作に一致しているか否かを判断する。ここでは操作者が行った操作が推奨操作に一致していると判断されて(ステップS23−YES)、処理はステップS24に進む。
【0087】
ステップS24において、推奨操作演算部105は、ステップS22で算出した操作管理情報に基づいて操作量を再演算して更新する。ここでは操作量が減少される。そして、処理はステップS16に進み、出力情報処理部106が、操作方向及び更新した操作量を含む推奨操作情報を出力情報として処理し、表示装置30に表示させる。そして、上述したようなステップS17を経て、ステップS18において、推奨操作演算部105は、挿入部11の現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。ここでは操作が完了していると判断されて(ステップS18−YES)、処理はステップS19に進む。
【0088】
ステップS19において、推奨操作演算部105は、推奨操作参照データの(iii)に対応する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。ここでは、「完了」であるから(ステップS19−YES)、処理はステップS20に進む。すなわち、推奨操作継続情報が「完了」である場合には、推奨操作参照データに(iii)に続くものが存在しないため、処理はステップS20に進む。
【0089】
ステップS20において、注目状態・操作管理情報演算部104は、挿入操作が完了したか否かを判断する。完了していないと判断されると(ステップS20−NO)、ステップS11に戻り、ステップS11以降の処理が繰り返されるが、完了していると判断されると(ステップS20−YES)、処理は終了する。
【0090】
(推奨操作情報にしたがった推奨操作が実施できない状態の場合の一例)
推奨操作情報にしたがった推奨操作が実施できない状態の場合には(ステップS25−NO)、処理はステップS14に進む。これは、例えば、癒着など被検体の状態が原因となり推奨操作情報通りの挿入操作を行うことができない場合である。
【0091】
ステップS14において、注目状態・操作管理情報演算部104は、行えなかった操作を含む推奨操作情報とは異なる操作管理情報を演算する。例えば、大腸の癒着が原因でNループの直線化が行えない場合には、注目状態・操作管理情報演算部104は、操作方向として「押す」を含む推奨操作参照データに基づいて操作管理情報を演算する。これは、Nループは引いて直線化するほうが被検体、例えば患者に対する負担が少ないが、癒着などにより引き操作による直線化が行えない場合には押し操作が有効であることに因る。
【0092】
記憶部107には、図5に示されるように、推奨操作参照データの(iii)を参照した推奨操作情報にしたがう操作が実施できなかった場合に用いる推奨操作参照データの(iv)が記憶されている。(iv)では、例えば、参照注目状態情報、目標形状情報、推奨操作継続情報は(iii)と同じであるが、操作方向が(iii)の「引く」とは異なり、「押す」である。注目状態・操作管理情報演算部104は、推奨操作参照データの(iv)よりも(iii)を優先して参照するが、推奨操作参照データの(iii)を参照した推奨操作情報にしたがう操作が実施できなかった場合には(iv)を参照する。
【0093】
ステップS15において、推奨操作演算部105は、推奨操作として注目状態情報に基づく押し操作と操作管理情報に基づく操作量とを含む推奨操作情報を演算する。そして、ステップS16、S17を経て、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。操作者が少しずつ押し操作(すなわち、推奨操作方向にしたがう操作)を行うと推奨操作が完了したと判断されるまでステップS21からステップS24の処理が繰り返され、操作が完了していると判断されると(ステップS18−YES)、処理はステップS19に進む。
【0094】
ステップS19において、推奨操作演算部105は、推奨操作参照データの(iv)に対応する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。ここでは、「完了」であるから(ステップS19−YES)、処理はステップS20に進む。
【0095】
ステップS20において、注目状態・操作管理情報演算部104は、挿入操作が完了したか否かを判断する。完了していないと判断されると(ステップS20−NO)、ステップS11に戻り、ステップS11以降の処理が繰り返されるが、完了していると判断されると(ステップS20−YES)、処理は終了する。
【0096】
(αループ解除時の処理の一例)
以下、挿入時のαループ解除に関する推奨操作呈示システムでの処理について、図8A乃至図8Cとともに図4A及び図4Bのフローチャート、図5の推奨操作参照データを参照して具体的に説明する。
【0097】
ステップS11において、形状演算部103が挿入部11の第4の形状情報を演算する。ステップS12において、注目状態・操作管理情報演算部104は、第4の形状情報に基づいて、第4の注目状態情報として図8Aに示されるようなαループを検出する。すなわち、第4の注目状態は「ループの面積がX4(X4≧300cm
2以上)のαループ」である。ここで、ループの面積とは、ループを形成している範囲の座標に対して近似平面を演算し、近似平面に投影させたときにできるループ形状の面積である。例えば、挿入部11が3次元空間において螺旋状となっている場合には、投影しないとループの面積を求められないため、このような手法をとる。
【0098】
ステップS13において、推奨操作演算部105は、図5の参照注目状態情報を参照して、ステップS12で検出した第4の注目状態情報が推奨操作参照データの参照注目状態情報に該当するか否かを判断する。ここでは、これが推奨操作参照データの(v)の参照注目状態情報「ループの面積が300cm
2以上のαループ」に該当するため(ステップS13−YES)、処理はステップS14に進む。
【0099】
ステップS14において、注目状態・操作管理情報演算部104は、推奨操作参照データの(v)に対応する目標形状情報を読み出す。ここでは、「ループの面積が300cm
2未満のαループ」が読み出される。図8Aには、第4の形状情報に係る形状が白抜きの実線で、挿入部11の目標形状が破線でそれぞれ示されている。注目状態・操作管理情報演算部104は、例えば、第4の注目状態情報に係るαループの面積X4と目標形状情報に係るαループの面積300cm
2との差を第4の操作管理情報とする。なお、αループの面積そのものを第4の操作管理情報としてもよい。
【0100】
ステップS15において、推奨操作演算部105は、推奨操作参照データの(v)に対応する操作方向として引き操作を読み出す。また、推奨操作演算部105は、第4の操作管理情報に基づいて引き操作の操作量を演算する。例えば、面積の差が第4の操作管理情報である場合、第4の操作管理情報に基づいて算出した操作量は、何cm引くべきか、といった引き操作に対する直接的な操作量ではなく、前記面積の差で表される間接的な操作量である。このように、推奨操作演算部105は、推奨操作情報として第4の注目状態情報に基づく引き操作である第4の推奨操作方向と第4の操作管理情報に基づく第4の推奨操作量とを含む第4の推奨操作情報を演算する。図8Aには、挿入部11の手元側に引き操作を表す下向き矢印が示されている。
【0101】
ステップS16において、出力情報処理部106は、第4の推奨操作情報を出力情報として処理し、表示装置30に表示させる。操作者は、表示された推奨操作情報にしたがって、挿入部11の所定操作量の引き操作を行う。
【0102】
ステップS17において、形状演算部103は挿入部11の現在の形状を演算する。そして、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで、推奨操作情報にしたがった操作が完了しているか否かを判断する。例えば、現在の形状情報に基づいて上述のようにして算出した第4の操作管理情報の値が0、あるいは0以下になった場合に、推奨操作が完了したと判断される。操作者が少しずつ引き操作(すなわち、推奨操作方向にしたがう挿入操作)を行うと推奨操作が完了したと判断されるまでステップS21からステップS24の処理が繰り返され、操作が完了していると判断されると(ステップS18−YES)、処理はステップS19に進む。
【0103】
ステップS19において、推奨操作演算部105は、推奨操作参照データの(v)に対応する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。ここでは、「継続」であるから(ステップS19−NO)、処理はステップS14に戻る。ここで、上述のステップS17において算出された現在の形状に係る形状情報を第5の形状情報とする。第5の形状情報は、推奨操作参照データの(vi)の目標形状情報「ループの面積が300cm
2未満のαループ」に対応している。
【0104】
ステップS14において、注目状態・操作管理情報演算部104は、推奨操作参照データの(vi)に対応する参照注目状態情報及び目標形状情報を読み出す。すなわち、ここでは、「ループの面積が300cm
2未満のαループ」及び「略直線の座標データ」が読み出される。ここでは、読み出した参照注目状態情報が第5の注目状態情報である。そして、注目状態・操作管理情報演算部104は、第5の注目状態情報に係るαループの形状と目標形状情報に係る略直線形状との差を演算して第5の操作管理情報とする。
【0105】
図8Bに示されるxy平面には、第5の形状情報に係る形状である、ループ面積がX5のαループが形成された挿入部11が示されている。図8Bには、第5の形状情報に係る形状の任意の点e3、f3、g3、h3と、各点に関する目標形状の点e4、f4、g4、h4とが示されている。第5の操作管理情報は、例えば、各点のxy座標データの差の合計である。図8Bに示される、各点e3−e4、f3−f4、g3−g4、h3−h4間の矢印は、第5の操作管理情報を概念的に表している。
【0106】
ステップS15において、推奨操作演算部105は、推奨操作参照データの(vi)に対応する操作方向として右捻り操作を読み出す。また、推奨操作演算部105は、第5の操作管理情報に基づいて右捻り操作の操作量を演算する。例えば各点のxy座標データの差の合計値が第5の操作管理情報である場合、第5の操作管理情報に基づいて算出した操作量は、どのくらいの角度捻るべきか、といった右捻り操作に対する直接的な操作量ではなく、前記差の合計値で表される間接的な操作量である。このように、推奨操作演算部105は、推奨操作情報として第5の注目状態情報に基づく右捻り操作である第5の推奨操作方向と第5の操作管理情報に基づく第5の推奨操作量とを含む第5の推奨操作情報を演算する。図8Bには、挿入部11の手元側に右捻り操作を表す矢印が示されている。
【0107】
ステップS16において、出力情報処理部106は、第5の推奨操作情報を出力情報として処理し、表示装置30に表示させる。操作者は、表示された推奨操作情報にしたがって、挿入部11の所定操作量の右捻り操作を行う。
【0108】
ステップS17において、形状演算部103は挿入部11の現在の形状を演算する。そして、ステップS18において、推奨操作演算部105は、現在の形状に関する形状情報に基づいて、挿入部11の現在の形状がステップS14で参照した目標形状情報に係る目標形状になるまで(例えば、第2の操作管理情報の値に関する閾値を下回るまで)、推奨操作情報にしたがった操作が完了しているか否かを判断する。ここでは操作が完了したと判断されて(ステップS18−YES)、処理はステップS19に進む。
【0109】
ステップS19において、推奨操作演算部105は、推奨操作参照データの(vi)に対応する推奨操作継続情報が「完了」であるか「継続」であるかを判断する。ここでは、「完了」であるから(ステップS19−YES)、処理はステップS20に進む。
【0110】
ステップS20において、注目状態・操作管理情報演算部104は、挿入操作が完了したか否かを判断する。完了していないと判断されると(ステップS20−NO)、ステップS11に戻り、ステップS11以降の処理が繰り返されるが、完了していると判断されると(ステップS20−YES)、処理は終了する。
【0111】
なお、ここでは挿入部先端側が上側にあるαループ(図3A、図8A及び図8B参照)の直線化のために、所定量の引く操作の後に所定量の右捻り操作を行ったが、例えば、挿入部先端側が下側にあるαループ(図3B参照)のループ解除のためには、所定量の引く操作の後に所定量の左捻り操作を行うことが有効である。また、挿入部先端側が上側にある逆αループ(図3C参照)のループ解除のためには、所定量の引く操作の後に所定量の左捻り操作を行うことが有効である。また、挿入部先端側が上側にある逆αループ(図3D参照)のループ解除のためには、所定量の引く操作の後に所定量の右捻り操作を行うことが有効である。本実施形態による推奨操作呈示システムでは、上述のような処理フローに基づいて各ループの直線化に最適な上述のような操作方向を含む推奨操作情報を呈示可能である。
【0112】
本実施形態によれば、推奨操作呈示システムは、参照注目状態情報、操作方向、目標状態情報などを予め設定した推奨操作参照データを参照して注目状態情報と操作管理情報とを算出し、さらに、注目状態情報に基づく操作方向と操作管理情報に基づく操作量とを含む推奨操作情報を算出することができる。推奨操作呈示システムは、推奨操作情報を演算して出力することにより、操作者に推奨操作情報を呈示する。これにより、操作者は的確な挿入支援情報に基づいた挿入操作を行うことが可能となる。特に、本実施形態では、操作方向のみならず直接的又は間接的な操作量も呈示するから、挿入操作に不慣れな操作者をアシストすることが可能である。
【0113】
特に、大腸内視鏡の場合には、S状結腸や横行結腸などの屈曲部を有する可動腸管に挿入部11を挿入するため、Nループやαループといった、そのままでは挿入を継続し難い状況が起こりやすい。本推奨操作呈示システムによれば、そのような状況であっても、挿入部11の形状情報と、各種状況に応じて予め設定した操作方向及び目標状態情報とに基づいて算出された推奨操作方向及び推奨操作量を含む推奨操作情報にしたがってNループやαループの直線化を容易に行うことができ、特に、未熟な操作者であっても熟練した操作者のように挿入操作を行うことができる。また、推奨操作情報にしたがう挿入操作が行われれば、腸管を不必要に伸展させずに済む。したがって、腸管の伸展に伴う患者の痛みを低減することができる。
【0114】
本実施形態では、推奨操作呈示システムは、推奨操作情報を出力した後、操作者操作方向と推奨操作方向とが一致しているかどうかを判断し、適宜、操作量を更新したり修正したりする。このようなフィードバックにより、操作者は、推奨操作情報通りの操作が行えているかや残りの操作量がどれくらいかを認識しながら操作を進めることができる。
【0115】
また、推奨操作呈示システムは、推奨操作情報を出力した後、操作者操作方向が推奨操作方向とは異なり、かつ、推奨操作方向への挿入操作が困難な状況ではない場合に、操作者に両方向が異なっている旨の警告をすることが可能である。例えば、操作者が推奨操作方向を誤って認識している場合などに、このような警告により操作者が実際の推奨操作方向を正しく認識して適宜操作を修正することができる。
【0116】
また、推奨操作呈示システムは、推奨操作情報を出力した後、操作者操作方向が推奨操作方向とは異なり、かつ、推奨操作方向への挿入操作が困難な状況である場合に、他の推奨操作情報を呈示することが可能である。これにより、大腸の癒着や走行異常などが生じている場合であっても状況に応じてさまざまな挿入操作を呈示することができ、操作者が深部への挿入を試みることが可能となる。
【0117】
また、推奨操作呈示システムは、Nループ解除やαループ解除における挿入部11の直線化を段階的に進めるために、特定の推奨操作情報にしたがった推奨操作が完了していると判断した後、その推奨操作情報に対応する推奨操作継続情報に基づいてさらなる注目状態情報(参照注目状態情報)の有無を判断し、さらなる注目状態情報があれば、これに基づいて推奨操作情報を演算して呈示する。これにより、一連の推奨操作情報を呈示して挿入完了まで導くことが可能となる。
【0118】
以下、表示装置30への推奨操作情報等の表示について説明する。
図9は、表示装置30の表示画面200の一例を示す図である。表示画面200には、内視鏡画像201と、内視鏡形状画像202とが表示される。内視鏡形状画像202は、内視鏡形状203を含む。また、表示画面200には、推奨操作情報210が示される。図9には、例えば、挿抜操作及び挿抜量を表す棒グラフ211と、捻り操作及び捻り量を表す円グラフ212と、湾曲操作及び湾曲量を表す矢印形状の4つの棒グラフ213とが示されている。4つの棒グラフ213は、内視鏡画像201の周囲に上下左右に1つずつ配置されている。
【0119】
棒グラフ211には、中央の実線よりも上に所定範囲の斜線で操作量214が示されている。これは、例えば、推奨操作情報として所定量の押し操作を示すものである。円グラフ212には、円内の実線から右側に所定角度範囲の斜線で操作量214が示されている。これは、例えば、推奨操作情報として所定量の左捻り操作を示すものである。内視鏡画像201の右側の棒グラフ213には、矢印内に左側から所定範囲の斜線で操作量214が示されている。これは、例えば、推奨操作情報として所定量の右湾曲操作を示すものである。
【0120】
図10A乃至図10Cには、推奨操作情報の表示の一例が示される。棒グラフ211、円グラフ212及び矢印形状の棒グラフ213の操作量214は、図10A乃至図10Cに示されるように、操作者が推奨操作を行うのに伴って減っていく。すなわち、操作量214が、目標形状までの残りの操作量を表している。このような表示により、操作者は残りの操作量を視覚的に捉えることができる。
【0121】
図11A乃至図11Cには、推奨操作情報の表示の他の例が示される。棒グラフ211、円グラフ212及び矢印形状の棒グラフ213には、湾曲操作、捻り操作、又は挿抜操作を検出可能な各種センサによる検出操作量218と、推奨操作量219とが示されている。この場合、操作者は、検出操作量218が推奨操作量219になるまで推奨操作を行うことができる。
【0122】
もちろん、推奨操作情報210の表示は、棒グラフや円グラフに限定されるものではなく、操作方向(湾曲操作、捻り操作、又は挿抜操作の方向)とその操作量とがわかる表示であればよい。
【0123】
再び図9を参照して、表示画面200には、注目状態情報215が表示されてよい。図9では、Nループ(逆のの字)が発生していることが呈示されている。これにより、操作者は、内視鏡形状203を含む内視鏡形状画像202に加えて、N字ループが発生していることを文字でも認識することができる。
【0124】
表示画面200には、推奨操作方向と操作者操作方向とが一致している否かを表す推奨操作適合情報216が表示されてよい。図9では、推奨操作適合情報216である「操作OK」と「推奨操作と不一致」とのうち、「操作OK」の枠内が斜線で示されている。これは、推奨操作方向と操作者操作方向とが一致していることを表している。これにより、操作者は、自身が行っている操作が推奨操作に合致していることを確認しながら挿入を進めることができる。
【0125】
表示画面200には、推奨操作情報210や注目状態情報215が表示されていることを操作者に知らせる告知部217が表示されてよい。図9では、告知部217が内視鏡画像201の左下側に配置されている。告知部217は、内視鏡画像201に重畳する、又は内視鏡画像201の近傍に配置するのが望ましい。これにより、操作者が内視鏡画像201を注視していても推奨操作情報210や注目状態情報215が表示されていることに気づき易くなる。
【0126】
例えば、Nループ解除では、ゆっくり操作したら直線化に成功するが、早く操作すると失敗する、例えば、挿入部11が大腸に対して後退するような場合がある。また、複数の操作を行う、例えば、引き操作と湾曲操作とを同時に行うような場合があり、このような場合には、引き操作に対する湾曲操作の量が重要となる。
【0127】
そこで、図12A乃至図12Cに示されるように、推奨操作情報210として、検出操作量218と推奨操作量219とに加えて推奨操作速度220が表示されてもよい。換言すれば、操作している瞬間ごとの推奨操作量が推奨操作速度220として表示される。図12A乃至図12Cでは、推奨操作速度220が点線で表示されている。この点線は、推奨操作情報210(各グラフ211、212、213)の表示を開始してから、時間経過に伴う推奨操作量の方向に変化して表示される。
【0128】
このように、推奨操作情報は、推奨する挿入操作の速度である推奨操作速度を含むことができる。推奨操作速度は、例えば、推奨操作演算部105により、注目状態情報と操作管理情報との少なくとも一方の時間変化に基づいて算出される。操作者は、推奨操作速度と、検出操作量が一致するように操作を行う。これにより、より詳細な操作方法を呈示できるので、挿入性が向上する。
【0129】
図13に示されるように、推奨操作情報210は、表示が必要なときに内視鏡画像201に一時的に重畳表示してもよい。操作者は通常内視鏡画像201を注視しているため、内視鏡画像201に推奨操作情報210を重畳することにより、気づき易くなる。また、内視鏡画像201から目を離す必要がなくなる。推奨操作情報210に加えて、注目状態情報215を重畳表示してもよい。一方、推奨操作情報210や注目状態情報215を内視鏡画像201に重畳表示すると、重畳箇所で内視鏡画像201が見えなくなったり、半透明であっても見づらくなったりするので、内視鏡画像201から得られる情報が少なくなる。そのため、必要なときに一時的に重畳表示することにより、内視鏡画像201から得られなくなる情報量を少なくできる。図13では、左から順に、推奨操作情報210の非表示状態(左)、表示状態(中央)、非表示状態(右)が示されており、これら状態が操作者により適宜切り替えられる。
【0130】
図14に示されるように、推奨操作情報210又は注目状態情報は、動画で表示してもよい。図14は、操作者の手222が挿入部11を引き操作するアニメーション221を示している。動画の種類は、実写、CG、アニメーションなどであってよい。動画表示をすることで、操作者は推奨操作や注目状態の内容をより視覚的に理解することができる。
【0131】
短時間(例えば1秒)発生した推奨操作情報や注目状態情報は、当該短時間よりも長い一定時間以上(例えば5秒)表示されるようにしてもよい。例えば、図15に示されるように、出力情報処理部106は、ループが10秒発生した場合にはループに対する推奨操作情報や注目状態情報を発生開始から終了までの10秒間出力して表示装置30に表示させる。これは、操作者が認識するためには十分な時間である。しかしながら、例えば1秒程度、あるいはそれ以下の短い時間しかループが発生しなかった場合には、操作者は、表示されたことを見逃したり、何か表示されたことは認識できるが、その内容までは認識できなかったりすることが懸念される。そこで、短時間発生したループに対しては、発生開始時に表示を開始し、操作者が内容を認識するために必要と思われる一定時間、例えば5秒間表示を継続させる。これにより、操作者は、表示された内容をより認識し易くなる。
【0132】
一方、短時間発生した推奨操作情報や注目状態情報は、操作者が認識する必要がない情報であることも考えられる。このため、このような情報は表示させないようにしてもよい。例えば、図16に示されるように、出力情報処理部106は、ループ発生後一定時間(例えば1秒)推奨操作情報や注目状態情報を出力しない。そして、一定時間経過後に推奨操作情報や注目状態情報が継続、すなわちループが継続して発生していたら、推奨操作情報や注目状態情報を出力する。一方、一定時間経過後にループが継続していない場合は、注目状態情報や推奨操作情報を出力しない。これにより、操作者が認識する必要がないと思われる、短時間発生だけ発生した状態に対する情報を表示しないようできる。換言すれば、操作者は必要な情報をより認識し易くなる。
【0133】
出力情報処理部106は、注目状態情報や推奨操作情報などに応じて、表示方法を変えてよい。例えば、短時間でも必要な情報は一定時間以上出力し、短時間であれば不要な情報である場合には出力しないようにしてよい。
【0134】
このように、推奨操作情報が操作者にとって認識しやすい時間表示されることにより、操作者はどの方向にどの程度の量の操作を行えばよいかを適切に認識しながら操作を行うことができる。そのため、操作性が向上する。また、適切な操作が行えるので安全性も向上する。
【0135】
以上の説明では、推奨操作情報の例として、挿入部11の押し、引き、捻りを示したが、その他に、操作部16による湾曲操作、送気、送水、吸引、挿入部11の硬度変更、用手圧迫なども推奨操作情報として表示してよい。
【0136】
ここまで、挿入部11の形状に基づいて注目状態情報及び操作管理情報が演算されて推奨操作情報が決定される推奨操作呈示システムの一例を示したが、さらに内視鏡画像201から得られる情報を加えて推奨操作情報が決定されるようにしてもよい。例えば、図17に示されるように、内視鏡画像201から管腔の位置を含む管腔領域223が検出される。図17では検出結果の管腔が破線の枠で囲って表示されているが、この枠は必要に応じて表示/非表示を変更してよい。推奨操作演算部105は、検出した管腔領域223の画像上の位置情報に基づいて、挿入部11の先端を管腔方向に向かせるための操作を推奨操作情報として決定する。このように、内視鏡画像201から得られる情報を加えて推奨操作情報を決定することにより、より詳細な推奨操作情報を生成することができ、推奨操作情報の精度が向上する。
【0137】
また、推奨操作情報を表示装置30に画像情報として表示する推奨操作呈示システムの一例を示したが、推奨操作情報は音で出力してもよい。換言すれば、出力情報処理部106から出力される推奨操作情報は、視覚的情報と聴覚的情報との少なくとも一方であってよい。例えば、推奨操作情報が出力開始されると、周期tの間隔で音が出力される。そして、挿入部11の現在の形状が目標形状に近くなるほど周期tが短くなり、目標形状に到達すると連続音が出力される。周期に限らず、音程の変化でもよい。例えば、目標形状に近くなるほど高い音を出力する。このような音の変化により、操作者はモニタの推奨操作情報を見なくても推奨操作情報を認識することが可能となり、内視鏡画像の観察に注力しながら挿入操作を進めることができるため、操作性が向上する。
【0138】
[変形例1]
変形例1では、内視鏡システム1aの制御装置100aは、図18に示されるように、上述の各部に加えて、挿入状況判定部109を有している。以下、変形例1による、推奨操作呈示システムとしての内視鏡システム1の制御装置100による処理の一例について、図19A及び図19Bを参照して概略的に説明する。
【0139】
ステップS31乃至S33は、それぞれ、図4A及び図4Bに示されるステップS11乃至S13と同様である。ステップS33において、注目状態情報が参照注目状態情報に該当しない、あるいは該当しても推奨操作要否判断情報から推奨操作が不要と判断された場合には(ステップS33−NO)、処理はステップS41に進む。注目状態情報が参照注目状態情報に該当する、あるいは該当して推奨操作要否判断情報から推奨操作が必要と判断された場合には(ステップS33−YES)、処理はステップS34に進む。
【0140】
ステップS34において、挿入状況判定部109は、挿入が難航している状況か否かを判断する。例えば、推奨操作情報を出力後、一定時間以上、次の推奨操作へ進まない状況が続いた場合や、次の推奨操作に進んでも、再び戻ってしまうことが一定回数以上発生した場合には、挿入が難航している状況と判断される。また、注目状態が推奨操作参照データにない場合に挿入が難航している状況と判断してもよい。この場合は、一般的な挿入で発生する注目状態を推奨操作参照データとして記憶部107又は他の記憶装置に十分に記憶させておくことが望ましい。また、画像認識技術により内視鏡画像から管腔を検出し、一定時間管腔が検出されなければ挿入が難航している状況と判断してもよい。
【0141】
挿入が難航している状況と判断された場合には(ステップS34−YES)、処理はステップS48に進む。挿入操作において、挿入が難航している状況となった場合の対応の一つとして、一旦引く操作が用いられることがある。手前の状況(すなわち、挿入が難航している状況になる前の状況)に戻して挿入操作をやり直すことで前に進めることがあるからである。また、管腔を見失った場合も、一旦引くことにより管腔を見つけられる可能性が高い。それ故、ステップS48では、推奨操作演算部105は、推奨操作情報を、挿入状況を変えるための試す操作(例えば、引き操作、右捻り操作、左捻り操作)に変更する。試す操作は、これ以外の操作でもよい。試す操作に係る操作方向も、推奨操作参照データに含ませてよい。このような試す操作により、見失った管腔を見つけられたり、挿入部11に絡みついた腸管がほどけることで、挿入し易くなったりする。
【0142】
このように、挿入状況判定部109が挿入が難航している状況を判断し、推奨操作情報を試す操作にすることで、挿入が難航しているかつ推奨操作情報が出せない状況であっても挿入状況を変化させることができる。これにより、推奨操作情報を出力できる状態、又は、推奨操作情報が不要な、挿入が容易な状態になる可能性が高くなる。
【0143】
一方、挿入が難航している状況でない判断された場合には(ステップS34−NO)、処理はステップS35に進む。ステップS35乃至47は、それぞれ、図4A及び図4Bに示されるステップS14乃至S26と同様である。
【0144】
[変形例2]
変形例2では、内視鏡システム1bの制御装置100bは、図20に示されるように、上述の各部に加えて、操作者技能判定部110と、挿入難易度判定部111とを有している。
【0145】
[操作者技能判定部]
操作者技能判定部110では、内視鏡10の操作者の挿入操作技能のレベル(操作者レベル)を、挿入中に発生する注目状態情報に基づいて判断する。操作者技能判定部110は、例えば、Nループの直線化にかかった時間、N字形状からの直線化に失敗し、再び逆のの字からやり直した回数などを総合的に判定して操作者レベルを判断する。挿入部11の一部に座屈状態が発生した回数や、腸管の伸展が発生した回数などを判断の要素に加えてもよい。換言すれば、操作者レベルは、操作者による一連の挿入操作中に発生している注目状態情報の種類、回数、発生時間、発生箇所、被検体の状態の少なくとも1つに基づいて判断される。また、前述した注目状態の発生や、挿入完了あるいはループ解除に要した時間などを操作者の過去の挿入操作履歴データとして記憶部107又は他の記憶装置に記憶させておき、これを参照して判断してもよい。
【0146】
[挿入難易度判定部]
挿入難易度判定部111は、例えば、被検体である大腸が挿入困難な状態か否かを、挿入中に発生する注目状態情報に基づいて判断する。換言すれば、挿入難易度は、操作者による一連の挿入操作中に発生している前記注目状態情報の種類、回数、発生時間、発生箇所、被挿入体の状態の少なくとも1つに基づいて判断される。例えば、2重のαループが発生したら、腸が癒着していると推測できるため、大腸が挿入困難な状態と判断される。また、挿入時間、手術歴(例えば、手術歴に起因して癒着が発生して挿入が難しくなることがある)、CTデータなどを患者の過去の挿入操作履歴データとして記憶部107又は他の記憶装置に記憶させておき、これを参照して判断してもよい。
【0147】
出力情報処理部106は、操作者技能判定部110が判断した結果や挿入難易度判定部111が判断した結果に基づいて、推奨操作情報の出力内容を変更する。例えば、操作者の技能レベルが高く、被挿入体の難易度が低いと判断されたら、出力情報処理部106は、推奨操作情報は必要ないと判断し、推奨操作情報を出力せず、図21に示されるように、表示画面200には内視鏡画像201及び内視鏡形状画像202のみが表示される。操作者技能判定部110が判断した結果や挿入難易度判定部111が判断した結果に応じて、一部の推奨操作情報のみを適宜出力するようにしてもよい。このような出力/表示により、操作者は必要な情報を得やすくなる。
【0148】
[変形例3]
変形例3では、推奨操作情報は、図22に示されるように、内視鏡10を自動で、又は一部自動で挿入する装置である自動挿入装置40に、自動挿入装置40の制御信号として出力される。自動挿入装置40は、表示部41を有してよく、表示部41は表示装置30を代替するものであってよい。このような自動挿入装置40による挿入操作であっても、上述したような本発明の推奨操作呈示システムによる処理を行うことができ、同様の作用効果が得られる。
【0149】
本願発明は、実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は可能な限り適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。さらに、実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適当な組み合わせにより種々の発明が抽出され得る。
【図1】
【図2】
【図3A】
【図3B】
【図3C】
【図3D】
【図3E】
【図3F】
【図4A】
【図4B】
【図5】
【図6】
【図7A】
【図7B】
【図7C】
【図7D】
【図7E】
【図8A】
【図8B】
【図8C】
【図9】
【図10A】
【図10B】
【図10C】
【図11A】
【図11B】
【図11C】
【図12A】
【図12B】
【図12C】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19A】
【図19B】
【図20】
【図21】
【図22】
【手続補正書】
【提出日】2020年6月12日
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
被挿入体に挿入される挿入部を有する挿入機器と、
前記挿入部の少なくとも一部の形状を形状情報として検出する挿入部形状検出部と、
前記形状情報と、予め準備された推奨操作参照データとに基づいて目標状態情報を設定し、設定された前記目標状態情報と前記形状情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、
推奨する挿入操作の操作方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、
前記推奨操作情報を含む情報を出力する出力情報処理部と、
を具備する、推奨操作呈示システム。
【請求項2】
前記推奨操作参照データを取得する参照データ取得部をさらに備え
前記推奨操作参照データは、前記挿入部の所定の状態に係る参照注目状態情報と、前記参照注目状態情報に対応するように予め設定された操作方向及び目標状態情報とを含み、
前記注目状態・操作管理情報演算部は、前記形状情報に基づいて前記挿入部の前記所定の状態に係る注目状態情報を演算し、少なくとも、前記注目状態情報に対応する前記参照注目状態情報と、前記目標状態情報とに基づいて前記操作管理情報を演算し、
前記推奨操作演算部は、前記注目状態情報と前記操作方向とに前記推奨操作方向を基づいて演算し、少なくとも前記操作管理情報に基づいて前記推奨操作量を演算する、請求項1に記載の推奨操作呈示システム。
【請求項3】
前記推奨操作参照データは、前記形状情報に応じた複数の目標状態情報の選択肢を有し、
前記注目状態・操作管理情報演算部は、予め準備された前記複数の目標状態情報の選択肢の中から、前記形状情報に応じて目標状態情報を選択する、請求項1に記載の推奨操作呈示システム。
【請求項4】
前記推奨操作演算部は、前記推奨操作情報を出力した後に、前記挿入部形状検出部が検出した現在の形状情報から、前記推奨操作情報にしたがった推奨操作が完了しているか否かを判断し、前記推奨操作が完了していないと判断されたとき、前記注目状態・操作管理情報演算部が、前記現在の形状情報に基づいて前記注目状態情報及び前記操作管理情報を演算し直し、前記推奨操作演算部が、前記推奨操作情報を演算し直し、前記出力情報処理部が、前記推奨操作情報を含む情報を出力し直す、請求項2に記載の推奨操作呈示システム。
【請求項5】
前記推奨操作情報は、推奨する挿入操作の速度である推奨操作速度を含み、
前記推奨操作演算部は、前記注目状態情報と前記操作管理情報の少なくとも一方に基づいて前記推奨操作速度を演算する、請求項2に記載の推奨操作呈示システム。
【請求項6】
推奨操作要否判断情報が、前記参照注目状態情報に対応するように予め設定され、
前記推奨操作演算部は、前記注目状態情報と、対応する前記推奨操作要否判断情報とに基づいて、前記推奨操作情報の要否を判断し、前記推奨操作情報が必要と判断されたとき、前記推奨操作情報を演算する、請求項2に記載の推奨操作呈示システム。
【請求項7】
前記推奨操作演算部は、前記推奨操作情報にしたがった推奨操作が完了していないと判断したとき、前記推奨操作が実施できない状態か否かを判断し、実施できない状態と判断されたとき、前記推奨操作が完了していないと判断されたときとは異なる、試すための操作に係る推奨操作方向を含む推奨操作情報を演算する、請求項1に記載の推奨操作呈示システム。
【請求項8】
前記試すための操作は、前記挿入部の引き操作と左捻り操作と右捻り操作との少なくとも1つである、請求項7に記載の推奨操作呈示システム。
【請求項9】
前記推奨操作が実施できる状態と判断されたとき、前記出力情報処理部は、操作方向についての視覚的又は聴覚的な警告を出力する、請求項7に記載の推奨操作呈示システム。
【請求項10】
前記推奨操作情報にしたがった推奨操作が完了していると判断されたとき、前記推奨操作演算部は、前記注目状態情報に対応するように予め設定された推奨操作継続情報に基づいて、さらなる注目状態情報演算の要否を判断する、請求項2に記載の推奨操作呈示システム。
【請求項11】
前記注目状態情報は、前記挿入部が形成するループの種類とサイズとを含み、
前記目標状態情報は、前記ループの種類とサイズとを含む目標形状情報であり、
前記操作管理情報は、前記形状情報に係る形状と前記目標形状情報に係る目標形状との差に基づく情報である、請求項2に記載の推奨操作呈示システム。
【請求項12】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第1の形状情報に基づいて所定のサイズ以上の逆のの字形状である第1の注目状態情報を演算し、前記操作管理情報として、前記第1の注目状態情報に係る逆のの字形状と前記目標形状情報に係る所定のサイズ未満の逆のの字形状とのサイズの差である第1の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第1の推奨操作方向と、前記第1の操作管理情報に基づく第1の推奨操作量とを含む第1の推奨操作情報を演算し、
前記第1の注目状態情報、前記第1の操作管理情報及び前記第1の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第2の形状情報に基づいて前記所定のサイズ未満の逆のの字又はN字形状である第2の注目状態情報を演算し、前記操作管理情報として、前記第2の注目状態情報に係る逆のの字又はN字形状と前記目標形状情報に係るN字形状との座標の角度の差である第2の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第2の推奨操作方向と、前記第2の操作管理情報に基づく第2の推奨操作量とを含む第2の推奨操作情報を演算し、
前記第2の注目状態情報、前記第2の操作管理情報及び前記第2の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第3の形状情報に基づいてN字形状である第3の注目状態情報を演算し、前記操作管理情報として、前記第3の注目状態情報に係るN字形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第3の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第3の推奨操作方向と、前記第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する、請求項11に記載の推奨操作呈示システム。
【請求項13】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第2の形状情報に基づいて所定のサイズ未満の逆のの字又はN字形状である第2の注目状態情報を演算し、前記操作管理情報として、前記第2の注目状態情報に係る逆のの字又はN字形状と前記目標形状情報に係るN字形状との座標の角度の差である第2の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第2の推奨操作方向と、前記第2の操作管理情報に基づく第2の推奨操作量とを含む第2の推奨操作情報を演算し、
前記第2の注目状態情報、前記第2の操作管理情報及び前記第2の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第3の形状情報に基づいてN字形状である第3の注目状態情報を演算し、前記操作管理情報として、前記第3の注目状態情報に係るN字形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第3の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第3の推奨操作方向と、前記第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する、請求項11に記載の推奨操作呈示システム。
【請求項14】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第3の形状情報に基づいてN字形状である第3の注目状態情報を演算し、前記操作管理情報として、前記第3の注目状態情報に係るN字形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第3の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第3の推奨操作方向と、前記第3の操作管理情報に基づく第3の推奨操作量とを含む第3の推奨操作情報を演算する、請求項11に記載の推奨操作呈示システム。
【請求項15】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第4の形状情報に基づいて所定の大きさ以上のαループ又は逆αループ形状である第4の注目状態情報を演算し、前記操作管理情報として、前記第4の注目状態情報に係るαループ又は逆αループ形状と前記目標形状情報に係る所定の大きさ未満のαループ又は逆αループ形状とのサイズの差である第4の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、引く方向である第4の推奨操作方向と、前記第4の操作管理情報に基づく第4の推奨操作量とを含む第4の推奨操作情報を演算し、
前記第4の注目状態情報、前記第4の操作管理情報及び前記第4の推奨操作情報が演算された後、
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第5の形状情報に基づいてαループ又は逆αループ形状である第5の注目状態情報を演算し、前記操作管理情報として、前記第5の注目状態情報に係るαループ又は逆αループ形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第5の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第5の推奨操作方向と、前記第5の操作管理情報に基づく第5の推奨操作量とを含む第5の推奨操作情報を演算する、請求項11に記載の推奨操作呈示システム。
【請求項16】
前記注目状態・操作管理情報演算部は、
前記注目状態情報として、前記挿入部形状検出部が検出した第5の形状情報に基づいて所定の大きさ未満のαループ又は逆αループ形状である第5の注目状態情報を演算し、前記操作管理情報として、前記第5の注目状態情報に係るαループ又は逆αループ形状と前記目標形状情報に係る略直線状の形状との座標の差の合計である第5の操作管理情報を演算し、
前記推奨操作演算部は、
前記推奨操作情報として、回転方向である第5の推奨操作方向と、前記第5の操作管理情報に基づく第5の推奨操作量とを含む第5の推奨操作情報を演算する、請求項11に記載の推奨操作呈示システム。
【請求項17】
前記第5の注目状態情報が、前記挿入部の交差部において挿入部先端側が上側にあるαループ又は挿入部先端側が下側にある逆αループのとき、前記回転方向は右捻り方向であり、
前記第5の注目状態情報が、前記挿入部の交差部において挿入部先端側が下側にあるαループ又は挿入部先端側が上側にある逆αループのとき、前記回転方向は左捻り方向である、請求項16に記載の推奨操作呈示システム。
【請求項18】
前記注目状態情報は、
前記挿入部がαループ、裏αループ、逆αループ、逆裏αループ、N字形状、逆のの字形状を含むループを形成しているか否か、及び、前記ループの面積、周囲、幅を含むサイズと、
前記挿入部先端の移動量と、
挿入量に対する前記挿入部先端の移動量の割合と、の少なくとも1つである、請求項2に記載の推奨操作呈示システム。
【請求項19】
前記推奨操作参照データを記憶している記憶部を有し、
前記参照データ取得部は、前記記憶部から、前記推奨操作参照データを取得する、請求項2に記載の推奨操作呈示システム。
【請求項20】
前記操作管理情報は、前記挿入部の挿抜操作量、回転操作量、アングル操作量、送気、送水、吸引、患者体位、用手圧迫、挿入部の剛性の少なくとも1つである、請求項1に記載の推奨操作呈示システム。
【請求項21】
前記出力情報処理部は、前記推奨操作情報を、棒グラフと円グラフとの少なくとも1つで表示するための処理を行う、請求項1に記載の推奨操作呈示システム。
【請求項22】
前記注目状態情報に基づいて前記挿入機器の操作者の操作技能レベルである操作者レベルを判断する操作者レベル判定部をさらに有し、
前記出力情報処理部は、前記操作者レベルに基づいて出力内容を変更する、請求項2に記載の推奨操作呈示システム。
【請求項23】
前記操作者レベルは、操作者による一連の挿入操作中に発生している注目状態情報の種類、回数、発生時間、発生箇所、被検体の状態の少なくとも1つに基づいて、又は、操作者の予め設定された過去の挿入履歴データに基づいて判断される、請求項22に記載の推奨操作呈示システム。
【請求項24】
前記注目状態情報に基づいて被挿入体の挿入難易度を判断する挿入難易度判定部をさらに有し、
前記出力情報処理部は、前記挿入難易度に基づいて出力内容を変更する、請求項2に記載の推奨操作呈示システム。
【請求項25】
前記挿入難易度は、操作者による一連の挿入操作中に発生している前記注目状態情報の種類、回数、発生時間、発生箇所、被挿入体の状態の少なくとも1つに基づいて、又は、被挿入体の予め設定された過去の挿入操作履歴データに基づいて判断される、請求項24に記載の推奨操作呈示システム。
【請求項26】
前記挿入部は、撮像部を有し、
前記出力情報処理部は、前記注目状態情報と前記推奨操作情報との少なくとも一方を、前記撮像部が撮像した画像に重畳して表示させる、あるいは重畳して一時的に表示させる、請求項2に記載の推奨操作呈示システム。
【請求項27】
前記出力情報処理部は、前記注目状態情報と前記推奨操作情報との少なくとも一方を、動画で表示する、請求項2に記載の推奨操作呈示システム。
【請求項28】
前記出力情報処理部は、事前に設定した時間以上、前記推奨操作情報を表示させる、請求項1に記載の推奨操作呈示システム。
【請求項29】
前記出力情報処理部は、前記推奨操作情報を出力する対象の注目状態の発生時間が、事前に設定した時間以下であれば、前記推奨操作情報を表示させない、請求項2に記載の推奨操作呈示システム。
【請求項30】
前記出力情報処理部は、前記推奨操作情報を出力する要因となった前記注目状態情報に係る注目状態の発生後、所定の設定時間は前記推奨操作情報を出力せず、前記設定時間の経過後に前記注目状態が継続していたときに、前記推奨操作情報を出力する、請求項29に記載の推奨操作呈示システム。
【請求項31】
前記挿入部は、撮像部を有し、
前記推奨操作演算部は、前記注目状態情報とともに前記撮像部が撮像した画像情報とに基づいて、前記推奨操作情報を判断する、請求項2に記載の推奨操作呈示システム。
【請求項32】
前記挿入機器は、内視鏡であり、前記挿入部は、前記内視鏡の可撓管部である、請求項1に記載の推奨操作呈示システム。
【請求項33】
被挿入体に挿入される挿入部を有する挿入機器の前記挿入部の少なくとも一部の形状に係る形状情報と、予め準備された推奨操作参照データとに基づいて目標状態情報を設定し、設定された前記目標状態情報と前記形状情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、
推奨する挿入操作の挿入方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、
前記推奨操作情報を含む情報を出力する出力情報処理部と、
を具備する、推奨操作呈示制御装置。
【請求項34】
被挿入体に挿入される挿入部を有する挿入機器の前記挿入部の少なくとも一部の形状に係る形状情報と、予め準備された推奨操作参照データとに基づいて目標状態情報を設定し、設定された前記目標状態情報と前記形状情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算することと、
少なくとも前記操作管理情報に基づいて、推奨する挿入操作の挿入方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を演算することと、
前記推奨操作情報を含む情報を出力することと、
を備える、推奨操作呈示制御方法。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0005
【補正方法】変更
【補正の内容】
【0005】
本発明の一被挿入体に挿入される挿入部を有する挿入機器と、前記挿入部の少なくとも一部の形状を形状情報として検出する挿入部形状検出部と、
前記形状情報と、予め準備された推奨操作参照データとに基づいて目標状態情報を設定し、設定された前記目標状態情報と前記形状情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、推奨する挿入操作の操作方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、前記推奨操作情報を含む情報を出力する出力情報処理部と、を具備する、推奨操作呈示システム。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0006
【補正方法】変更
【補正の内容】
【0006】
本発明の他の
被挿入体に挿入される挿入部を有する挿入機器の前記挿入部の少なくとも一部の形状に係る形状情報と、予め準備された推奨操作参照データとに基づいて目標状態情報を設定し、設定された前記目標状態情報と前記形状情報とに基づいて、前記挿入機器の操作に関連して変化する情報である操作管理情報を演算する、注目状態・操作管理情報演算部と、推奨する挿入操作の挿入方向である推奨操作方向と、推奨する挿入操作の操作量である推奨操作量と、を含む推奨操作情報を少なくとも前記操作管理情報に基づいて演算する、推奨操作演算部と、前記推奨操作情報を含む情報を出力する出力情報処理部と、を具備する、推奨操作呈示制御装置である。また、本発明のさらなる他のこれに対応する推奨操作呈示制御方法である。
【国際調査報告】