(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-13
(45)【発行日】2022-10-21
(54)【発明の名称】超音波内視鏡システムおよび超音波内視鏡システムの作動方法
(51)【国際特許分類】
A61B 8/12 20060101AFI20221014BHJP
A61B 1/00 20060101ALI20221014BHJP
A61B 1/045 20060101ALI20221014BHJP
【FI】
A61B8/12
A61B1/00 530
A61B1/00 552
A61B1/045 623
(21)【出願番号】P 2021542583
(86)(22)【出願日】2020-06-30
(86)【国際出願番号】 JP2020025725
(87)【国際公開番号】W WO2021039101
(87)【国際公開日】2021-03-04
【審査請求日】2022-02-10
(31)【優先権主張番号】P 2019154475
(32)【優先日】2019-08-27
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】100152984
【氏名又は名称】伊東 秀明
(74)【代理人】
【識別番号】100148080
【氏名又は名称】三橋 史生
(72)【発明者】
【氏名】内原 匡信
【審査官】下村 一石
(56)【参考文献】
【文献】国際公開第2017/195540(WO,A1)
【文献】米国特許出願公開第2013/0035596(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 8/00-8/15
A61B 1/00
A61B 1/045
(57)【特許請求の範囲】
【請求項1】
超音波振動子を先端に有する超音波内視鏡と、
前記超音波振動子により超音波を送受信させ、前記超音波の受信信号から診断用超音波画像を生成する超音波観測装置と、
被検体の体腔内における前記超音波内視鏡の先端部の位置と観察対象部位の観察順序に基づくラベル番号とを対応付けて、学習用超音波画像と前記学習用超音波画像の撮像時の前記超音波内視鏡の先端部の位置に対応するラベル番号との関係を複数の前記学習用超音波画像について予め学習しておき、学習結果に基づいて、前記診断用超音波画像から、前記診断用超音波画像の撮像時の前記超音波内視鏡の先端部の位置に対応するラベル番号を認識する超音波画像認識部と、
前記超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置をモニタに表示させる表示制御部と、を備える、超音波内視鏡システム。
【請求項2】
前記表示制御部は、前記認識されたラベル番号に対応する観察対象部位の名称を文字情報として前記モニタに表示させる、請求項1に記載の超音波内視鏡システム。
【請求項3】
前記表示制御部は、前記認識されたラベル番号に対応する超音波内視鏡の先端部の位置が画像情報として重ねて表示された解剖学シェーマ図を前記モニタに表示させる、請求項1に記載の超音波内視鏡システム。
【請求項4】
前記超音波画像認識部は、前記超音波内視鏡の先端部の位置および向きと前記ラベル番号とを対応付けて、前記学習用超音波画像と前記学習用超音波画像の撮像時の前記超音波内視鏡の先端部の位置および向きに対応するラベル番号との関係を前記複数の学習用超音波画像について予め学習しておき、学習結果に基づいて、前記診断用超音波画像から、前記診断用超音波画像の撮像時の前記超音波内視鏡の先端部の位置および向きに対応するラベル番号を認識し、
前記表示制御部は、前記超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置および向きを前記モニタに表示させる、請求項1に記載の超音波内視鏡システム。
【請求項5】
前記表示制御部は、前記認識されたラベル番号に対応する観察対象部位の名称を文字情報として前記モニタに表示させる、請求項4に記載の超音波内視鏡システム。
【請求項6】
前記表示制御部は、前記認識されたラベル番号に対応する超音波内視鏡の先端部の位置および向きが画像情報として重ねて表示された解剖学シェーマ図を前記モニタに表示させる、請求項4に記載の超音波内視鏡システム。
【請求項7】
さらに、1のラベル番号に対応する観察対象部位から、前記観察順序が前記1のラベル番号の次のラベル番号に対応する観察対象部位へ前記超音波内視鏡の先端部を移動させるための操作手順を記憶する操作手順記憶部を備え、
前記表示制御部は、現在のラベル番号に対応する観察対象部位から、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位へ前記超音波内視鏡の先端部を移動させるための操作手順を前記操作手順記憶部から取得し、前記取得された操作手順を前記モニタに表示させる、請求項1ないし6のいずれか一項に記載の超音波内視鏡システム。
【請求項8】
前記表示制御部は、さらに、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位の名称を文字情報として前記モニタに表示させる、請求項7に記載の超音波内視鏡システム。
【請求項9】
前記表示制御部は、前記操作手順を文字情報として前記モニタに表示させる、請求項7または8に記載の超音波内視鏡システム。
【請求項10】
前記操作手順は、前記超音波内視鏡の先端部を移動させる際に描出される1以上の臓器の名称を含む、請求項9に記載の超音波内視鏡システム。
【請求項11】
前記表示制御部は、前記操作手順が画像情報として重ねて表示された解剖学シェーマ図を前記モニタに表示させる、請求項7または8に記載の超音波内視鏡システム。
【請求項12】
前記表示制御部は、解剖学シェーマ図上において、前記超音波内視鏡の先端部を移動させる際に描出される1以上の臓器の領域を着色し、前記領域が着色された解剖学シェーマ図を前記モニタに表示させる、請求項11に記載の超音波内視鏡システム。
【請求項13】
前記表示制御部は、解剖学シェーマ図上において、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位の領域と、前記超音波内視鏡の先端部を移動させる際に描出される1以上の臓器の領域とを異なる色に着色し、前記領域が異なる色に着色された解剖学シェーマ図を前記モニタに表示させる、請求項12に記載の超音波内視鏡システム。
【請求項14】
さらに、前記現在のラベル番号に対応する観察対象部位から、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位へ前記超音波内視鏡の先端部が移動された場合に、警告を発する警告発生部を備える、請求項7ないし13のいずれか一項に記載の超音波内視鏡システム。
【請求項15】
前記警告発生部は、前記警告を音声情報として発するか、もしくは、前記警告として、文字情報および音声情報の両方を同時に発する、請求項14に記載の超音波内視鏡システム。
【請求項16】
前記表示制御部は、前記超音波内視鏡の先端部が各々のラベル番号に対応する観察対象部位に到達する毎に、前記到達した観察対象部位に対応するラベル番号にチェックマークを付与し、前記チェックマークが付与されたラベル番号を文字情報として前記モニタに表示させる、請求項7ないし15のいずれか一項に記載の超音波内視鏡システム。
【請求項17】
前記表示制御部は、前記超音波内視鏡の先端部が各々のラベル番号に対応する観察対象部位に到達する毎に、解剖学シェーマ図上において、前記到達した観察対象部位の領域を着色し、前記到達した観察対象部位の領域が着色された解剖学シェーマ図を前記モニタに表示させる、請求項7ないし16のいずれか一項に記載の超音波内視鏡システム。
【請求項18】
前記表示制御部は、解剖学シェーマ図上において、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を強調し、前記観察対象部位の領域が強調された解剖学シェーマ図を前記モニタに表示させる、請求項7ないし17のいずれか一項に記載の超音波内視鏡システム。
【請求項19】
前記表示制御部は、解剖学シェーマ図上において、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位の領域とは異なる色に着色し、前記観察対象部位の領域が着色された解剖学シェーマ図を前記モニタに表示させる、請求項18に記載の超音波内視鏡システム。
【請求項20】
前記表示制御部は、前記観察対象部位の観察順序に基づいて前記超音波内視鏡の先端部が理想的に移動された場合の移動ルート、および、実際の操作に基づいて前記超音波内視鏡の先端部が実際に移動された場合の移動ルートを画像情報として解剖学シェーマ図上に並べて前記モニタに表示させる、請求項7ないし19のいずれか一項に記載の超音波内視鏡システム。
【請求項21】
さらに、前記観察対象部位の観察順序に基づいて前記超音波内視鏡の先端部が理想的に移動された場合の移動ルートを予め登録する移動ルート登録部を備える、請求項20に記載の超音波内視鏡システム。
【請求項22】
前記超音波画像認識部は、前記超音波観測装置に内蔵されている、請求項1ないし21のいずれか一項に記載の超音波内視鏡システム。
【請求項23】
前記超音波内視鏡が、さらに照明部および撮像部を先端に有し、
さらに、前記照明部から照射される照明光の反射光を前記撮像部によって受信させ、前記反射光の撮像信号から診断用内視鏡画像を生成する内視鏡プロセッサを備え、
前記超音波画像認識部は、前記内視鏡プロセッサに内蔵されている、請求項1ないし21のいずれか一項に記載の超音波内視鏡システム。
【請求項24】
前記超音波内視鏡が、さらに照明部および撮像部を先端に有し、
さらに、前記照明部から照射される照明光の反射光を前記撮像部によって受信させ、前記反射光の撮像信号から診断用内視鏡画像を生成する内視鏡プロセッサを備え、
前記超音波画像認識部は、前記超音波観測装置および前記内視鏡プロセッサの外部に設けられている、請求項1ないし21のいずれか一項に記載の超音波内視鏡システム。
【請求項25】
超音波画像認識部が、被検体の体腔内における超音波内視鏡の先端部の位置と観察対象部位の観察順序に基づくラベル番号とを対応付けて、学習用超音波画像と前記学習用超音波画像の撮像時の前記超音波内視鏡の先端部の位置に対応するラベル番号との関係を複数の前記学習用超音波画像について予め学習しておくステップと、
超音波観測装置が、前記超音波内視鏡の先端に有する超音波振動子により超音波を送受信させ、前記超音波の受信信号から診断用超音波画像を生成するステップと、
前記超音波画像認識部が、学習結果に基づいて、前記診断用超音波画像から、前記診断用超音波画像の撮像時の前記超音波内視鏡の先端部の位置に対応するラベル番号を認識するステップと、
表示制御部が、前記超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置をモニタに表示させるステップと、を含む、超音波内視鏡システムの作動方法。
【請求項26】
前記超音波内視鏡の先端部の位置および向きと前記ラベル番号とを対応付けて、前記学習用超音波画像と前記学習用超音波画像の撮像時の前記超音波内視鏡の先端部の位置および向きに対応するラベル番号との関係を前記複数の学習用超音波画像について予め学習しておき、
学習結果に基づいて、前記診断用超音波画像から、前記診断用超音波画像の撮像時の前記超音波内視鏡の先端部の位置および向きに対応するラベル番号を認識し、
前記超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置および向きを前記モニタに表示させる、請求項25に記載の超音波内視鏡システムの作動方法。
【請求項27】
さらに、操作手順記憶部が、1のラベル番号に対応する観察対象部位から、前記観察順序が前記1のラベル番号の次のラベル番号に対応する観察対象部位へ前記超音波内視鏡の先端部を移動させるための操作手順を記憶するステップを含み、
前記認識されたラベル番号を現在のラベル番号として、前記現在のラベル番号に対応する観察対象部位から、前記観察順序が前記現在のラベル番号の次のラベル番号に対応する観察対象部位へ前記超音波内視鏡の先端部を移動させるための操作手順を前記操作手順記憶部から取得し、
前記取得された操作手順を前記モニタに表示させる、請求項25または26に記載の超音波内視鏡システムの作動方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、超音波を用いて、被検体の体内の観察対象部位の状態を観察する超音波内視鏡システムおよび超音波内視鏡システムの作動方法に関する。
【背景技術】
【0002】
超音波内視鏡システムは、経消化管による膵臓又は胆嚢等の観察を主な目的として、内視鏡観察部および超音波観察部を先端に有する超音波内視鏡を被検体の消化管内へ挿入し、消化管内の内視鏡画像、および消化管壁の外側にある部位の超音波画像を撮像する。
【0003】
超音波内視鏡システムでは、超音波内視鏡の先端に有する照明部から消化管内の観察対象隣接部位に照明光を照射し、その反射光を超音波内視鏡の先端に有する撮像部によって受信し、反射光の撮像信号から内視鏡画像が生成される。また、超音波内視鏡の先端に有する複数の超音波振動子により、消化管壁の外側にある臓器等の観察対象部位に超音波を送受信し、超音波の受信信号から超音波画像が生成される。
【0004】
内視鏡画像を観察する場合、超音波内視鏡を被検体の消化管内に挿入すると、例えば食道の内壁が見えてきて、さらに超音波内視鏡の先端部を押し進めると、胃の内壁が見えてくるというように、術者(超音波内視鏡システムのユーザ)は、今現在、超音波内視鏡の先端部が被検体の消化器内のどの位置にあって、どの方向を向いていて、どの部位を観察しているのかが比較的分かりやすい。
【0005】
これに対し、超音波画像に不慣れな術者は、超音波画像に何が表示されているのか、例えば膵臓なのか胆嚢なのか、あるいは血管なのか胆管なのか膵管なのか等が非常に分かりづらいという問題がある。また、超音波画像に不慣れな術者は、超音波画像の観察中に、今現在、超音波内視鏡の先端部がどの位置にあって、どの方向を向いていて、どの部位を観察しているのかが分からなくなり、被検体の体内において迷うという問題がある。
【0006】
ここで、本発明に関連性のある先行技術文献として、特許文献1~4がある。
【0007】
特許文献1には、被検体内の診断部位の画像中の目的部位を大まかに抽出し、ニューラルネットワークを用いて目的部位を認識するための大局情報を予測し、大局情報を用いて目的部位の輪郭を認識し、原画像と共にその認識結果を表示することが記載されている。
【0008】
特許文献2には、コイルからの電気信号に基づいて、超音波内視鏡の先端部の位置・配向データを生成し、この位置・配向データから、超音波内視鏡の挿入形状を示すための挿入形状データを生成し、被検者の臓器群等の組織構造の3次元生体組織モデルデータと組み合わせることによりガイド画像を生成し、超音波画像とガイド画像とを合成した合成画像の映像信号を生成してモニタに表示することが記載されている。
また、特許文献2には、立体ガイド画像及び断面ガイド画像が画面の左側の領域に配置され、超音波画像が画面の右側の領域に配置されつつ表示されることが記載されている。
さらに、特許文献2には、超音波画像の表示レンジを拡大または縮小するためのボタンが記載されている。
【0009】
特許文献3には、表示装置の画面内に被検体の超音波断層像とその光学的画像とを一箇所に隣接表示し、両画像を同時に観察しうるようにすることが記載されている。
【0010】
特許文献4には、超音波画像と、模式図とが同一画面に表示され、模式図が、シェーマ図もしくは人体の実際の光学画像であり、模式図において、超音波内視鏡の走査面と挿入形状をあわせて表示することが記載されている。
また、特許文献4には、コイルを用いて検出された超音波内視鏡の位置及び方向の信号から、超音波内視鏡の走査位置の領域を検出して超音波走査領域データを出力し、部位名記憶部から超音波走査領域データに対応した部位名データを読み出し、超音波画像上に部位名を重畳して表示することが記載されている。
【先行技術文献】
【特許文献】
【0011】
【文献】特開平06-233761号公報
【文献】特開2010-069018号公報
【文献】特開平02-045045号公報
【文献】特開2004-113629号公報
【発明の概要】
【発明が解決しようとする課題】
【0012】
本発明の第1の目的は、上記従来技術の問題を解消し、超音波画像に不慣れな術者であっても、超音波内視鏡の先端部の位置さらには方向を確実に把握することができる超音波内視鏡システムおよび超音波内視鏡システムの作動方法を提供することにある。
本発明の第2の目的は、上記第1の目的に加え、超音波画像に不慣れな術者であっても、被検体の体内において迷うことなく、現在の観察対象部位から次の観察対象部位へ超音波内視鏡の先端部を正しく移動させることができる超音波内視鏡システムおよび超音波内視鏡システムの作動方法を提供することにある。
【課題を解決するための手段】
【0013】
上記目的を達成するために、本発明は、超音波振動子を先端に有する超音波内視鏡と、
超音波振動子により超音波を送受信させ、超音波の受信信号から診断用超音波画像を生成する超音波観測装置と、
被検体の体腔内における超音波内視鏡の先端部の位置と観察対象部位の観察順序に基づくラベル番号とを対応付けて、学習用超音波画像と学習用超音波画像の撮像時の超音波内視鏡の先端部の位置に対応するラベル番号との関係を複数の学習用超音波画像について予め学習しておき、学習結果に基づいて、診断用超音波画像から、診断用超音波画像の撮像時の超音波内視鏡の先端部の位置に対応するラベル番号を認識する超音波画像認識部と、
超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置をモニタに表示させる表示制御部と、を備える、超音波内視鏡システムを提供する。
【0014】
ここで、表示制御部は、認識されたラベル番号に対応する観察対象部位の名称を文字情報としてモニタに表示させることが好ましい。
【0015】
また、表示制御部は、認識されたラベル番号に対応する超音波内視鏡の先端部の位置が画像情報として重ねて表示された解剖学シェーマ図をモニタに表示させることが好ましい。
【0016】
また、超音波画像認識部は、超音波内視鏡の先端部の位置および向きとラベル番号とを対応付けて、学習用超音波画像と学習用超音波画像の撮像時の超音波内視鏡の先端部の位置および向きに対応するラベル番号との関係を複数の学習用超音波画像について予め学習しておき、学習結果に基づいて、診断用超音波画像から、診断用超音波画像の撮像時の超音波内視鏡の先端部の位置および向きに対応するラベル番号を認識し、
表示制御部は、超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置および向きをモニタに表示させることが好ましい。
【0017】
また、表示制御部は、認識されたラベル番号に対応する観察対象部位の名称を文字情報としてモニタに表示させることが好ましい。
【0018】
また、表示制御部は、認識されたラベル番号に対応する超音波内視鏡の先端部の位置および向きが画像情報として重ねて表示された解剖学シェーマ図をモニタに表示させることが好ましい。
【0019】
さらに、1のラベル番号に対応する観察対象部位から、観察順序が1のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡の先端部を移動させるための操作手順を記憶する操作手順記憶部を備え、
表示制御部は、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡の先端部を移動させるための操作手順を操作手順記憶部から取得し、取得された操作手順をモニタに表示させることが好ましい。
【0020】
表示制御部は、さらに、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の名称を文字情報としてモニタに表示させることが好ましい。
【0021】
また、表示制御部は、操作手順を文字情報としてモニタに表示させることが好ましい。
【0022】
また、操作手順は、超音波内視鏡の先端部を移動させる際に描出される1以上の臓器の名称を含むことが好ましい。
【0023】
また、表示制御部は、操作手順が画像情報として重ねて表示された解剖学シェーマ図をモニタに表示させることが好ましい。
【0024】
また、表示制御部は、解剖学シェーマ図上において、超音波内視鏡の先端部を移動させる際に描出される1以上の臓器の領域を着色し、領域が着色された解剖学シェーマ図をモニタに表示させることが好ましい。
【0025】
また、表示制御部は、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域と、超音波内視鏡の先端部を移動させる際に描出される1以上の臓器の領域とを異なる色に着色し、領域が異なる色に着色された解剖学シェーマ図をモニタに表示させることが好ましい。
【0026】
さらに、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位へ超音波内視鏡の先端部が移動された場合に、警告を発する警告発生部を備えることが好ましい。
【0027】
また、警告発生部は、警告を音声情報として発するか、もしくは、警告として、文字情報および音声情報の両方を同時に発するのが好ましい。
【0028】
また、表示制御部は、超音波内視鏡の先端部が各々のラベル番号に対応する観察対象部位に到達する毎に、到達した観察対象部位に対応するラベル番号にチェックマークを付与し、チェックマークが付与されたラベル番号を文字情報としてモニタに表示させることが好ましい。
【0029】
また、表示制御部は、超音波内視鏡の先端部が各々のラベル番号に対応する観察対象部位に到達する毎に、解剖学シェーマ図上において、到達した観察対象部位の領域を着色し、到達した観察対象部位の領域が着色された解剖学シェーマ図をモニタに表示させることが好ましい。
【0030】
また、表示制御部は、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を強調し、観察対象部位の領域が強調された解剖学シェーマ図をモニタに表示させることが好ましい。
【0031】
また、表示制御部は、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位の領域とは異なる色に着色し、観察対象部位の領域が着色された解剖学シェーマ図をモニタに表示させることが好ましい。
【0032】
また、表示制御部は、観察対象部位の観察順序に基づいて超音波内視鏡の先端部が理想的に移動された場合の移動ルート、および、実際の操作に基づいて超音波内視鏡の先端部が実際に移動された場合の移動ルートを画像情報として解剖学シェーマ図上に並べてモニタに表示させることが好ましい。
【0033】
さらに、観察対象部位の観察順序に基づいて超音波内視鏡の先端部が理想的に移動された場合の移動ルートを予め登録する移動ルート登録部を備えることが好ましい。
【0034】
また、超音波画像認識部は、超音波観測装置に内蔵されていることが好ましい。
【0035】
超音波内視鏡が、さらに照明部および撮像部を先端に有し、
さらに、照明部から照射される照明光の反射光を撮像部によって受信させ、反射光の撮像信号から診断用内視鏡画像を生成する内視鏡プロセッサを備え、
超音波画像認識部は、内視鏡プロセッサに内蔵されていることが好ましい。
【0036】
超音波内視鏡が、さらに照明部および撮像部を先端に有し、
さらに、照明部から照射される照明光の反射光を撮像部によって受信させ、反射光の撮像信号から診断用内視鏡画像を生成する内視鏡プロセッサを備え、
超音波画像認識部は、超音波観測装置および内視鏡プロセッサの外部に設けられていることが好ましい。
【0037】
また、本発明は、超音波画像認識部が、被検体の体腔内における超音波内視鏡の先端部の位置と観察対象部位の観察順序に基づくラベル番号とを対応付けて、学習用超音波画像と学習用超音波画像の撮像時の超音波内視鏡の先端部の位置に対応するラベル番号との関係を複数の学習用超音波画像について予め学習しておくステップと、
超音波観測装置が、超音波内視鏡の先端に有する超音波振動子により超音波を送受信させ、超音波の受信信号から診断用超音波画像を生成するステップと、
超音波画像認識部が、学習結果に基づいて、診断用超音波画像から、診断用超音波画像の撮像時の超音波内視鏡の先端部の位置に対応するラベル番号を認識するステップと、
表示制御部が、超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置をモニタに表示させるステップと、を含む、超音波内視鏡システムの作動方法を提供する。
【0038】
ここで、超音波内視鏡の先端部の位置および向きとラベル番号とを対応付けて、学習用超音波画像と学習用超音波画像の撮像時の超音波内視鏡の先端部の位置および向きに対応するラベル番号との関係を複数の学習用超音波画像について予め学習しておき、
学習結果に基づいて、診断用超音波画像から、診断用超音波画像の撮像時の超音波内視鏡の先端部の位置および向きに対応するラベル番号を認識し、
超音波画像認識部によって認識されたラベル番号に対応する超音波内視鏡の先端部の位置および向きをモニタに表示させることが好ましい。
【0039】
さらに、操作手順記憶部が、1のラベル番号に対応する観察対象部位から、観察順序が1のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡の先端部を移動させるための操作手順を記憶するステップを含み、
認識されたラベル番号を現在のラベル番号として、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡の先端部を移動させるための操作手順を操作手順記憶部から取得し、
取得された操作手順をモニタに表示させることが好ましい。
【0040】
また、超音波画像認識部、表示制御部および警告発生部は、ハードウェア、または、プログラムを実行するプロセッサであることが好ましく、操作手順記憶部および移動ルート登録部は、ハードウェア、または、メモリであるのが好ましい。
【発明の効果】
【0041】
本発明においては、超音波内視鏡の先端部の位置さらには向きがモニタに表示される。これにより、本発明によれば、たとえ超音波画像に不慣れな術者であっても、今現在、超音波内視鏡の先端部がどの位置にあって、どの方向を向いていて、どの部位を観察しているのかを確実に把握することができる。
また、本発明においては、超音波内視鏡の先端部を移動させるための操作手順をモニタに表示させることができる。これにより、本発明によれば、たとえ超音波画像に不慣れな術者であっても、被検体の体内において迷うことなく、現在の観察対象部位から次の観察対象部位へ超音波内視鏡の先端部を正しく移動させることができる。
【図面の簡単な説明】
【0042】
【
図1】本発明の一実施形態に係る超音波内視鏡システムの概略構成を示す図である。
【
図2】超音波内視鏡の挿入部の先端部及びその周辺を示す平面図である。
【
図3】超音波内視鏡の挿入部の先端部を
図2に図示のI-I断面にて切断したときの断面を示す図である。
【
図4】内視鏡画像認識部の構成を表す一実施形態のブロック図である。
【
図5】超音波観測装置の構成を示すブロック図である。
【
図6】超音波画像認識部の構成を表す一実施形態のブロック図である。
【
図7】超音波内視鏡システムを用いた診断処理の流れを示す図である。
【
図8】診断処理中の診断ステップの手順を示す図である。
【
図9】内視鏡画像、超音波画像および解剖学シェーマ図を表す一実施形態の概念図である。
【
図10】チェックマークが付与されたラベル番号を表す一実施形態の概念図である。
【
図11】超音波画像認識部が超音波観測装置に内蔵されている場合の超音波内視鏡システムの構成を表す一実施形態のブロック図である。
【
図12】超音波画像認識部が内視鏡プロセッサに内蔵されている場合の超音波内視鏡システムの構成を表す一実施形態のブロック図である。
【
図13】超音波画像認識部が超音波観測装置および内視鏡プロセッサの外部に設けられている場合の超音波内視鏡システムの構成を表す一実施形態のブロック図である。
【発明を実施するための形態】
【0043】
本発明の一実施形態(本実施形態)に係る超音波内視鏡システムについて、添付の図面に示す好適な実施形態を参照しながら、以下に詳細に説明する。
なお、本実施形態は、本発明の代表的な実施態様であるが、あくまでも一例に過ぎず、本発明を限定するものではない。
【0044】
<<超音波内視鏡システムの概要>>
本実施形態に係る超音波内視鏡システム10について、
図1を参照しながら、その概要を説明する。
図1は、超音波内視鏡システム10の概略構成を示す図である。
【0045】
超音波内視鏡システム10は、超音波を用いて、被検体である患者の体内の観察対象部位の状態を観察(以下、超音波診断ともいう)するために用いられる。ここで、観察対象部位は、患者の体表側からは検査が困難な部位であり、例えば膵臓又は胆嚢等である。超音波内視鏡システム10を用いることにより、患者の体腔である食道、胃、十二指腸、小腸、及び大腸等の消化管を経由して、観察対象部位の状態及び異常の有無を超音波診断することが可能である。
【0046】
超音波内視鏡システム10は、超音波画像および内視鏡画像を取得するものであり、
図1に示すように、超音波内視鏡12と、超音波観測装置14と、内視鏡プロセッサ16と、光源装置18と、モニタ20と、送水タンク21aと、吸引ポンプ21bと、操作卓100と、を有する。
【0047】
超音波内視鏡12は、患者の体腔内に挿入される挿入部22と、医師又は技師等の術者(ユーザ)によって操作される操作部24と、挿入部22の先端部40に取り付けられた超音波振動子ユニット46(
図2および
図3を参照)と、を備える。超音波内視鏡12は、超音波観察部36として、超音波振動子ユニット46が備える複数の超音波振動子48を先端に有する(
図2および
図3参照)。また、超音波内視鏡12は、内視鏡観察部38として、照明窓88等を含む照明部と、観察窓82、対物レンズ84および固体撮像素子86等を含む撮像部と、を先端に有する(
図2および
図3参照)。術者は、超音波内視鏡12の機能によって、内視鏡画像および超音波画像を取得する。
【0048】
ここで、「内視鏡画像」は、患者の体腔内壁を光学的手法によって撮影することで得られる画像である。また、「超音波画像」は、患者の体腔内から観察対象部位に向かって送信された超音波の反射波(エコー)を受信し、その受信信号を画像化することで得られる画像である。
なお、超音波内視鏡12については、後の項で詳しく説明する。
【0049】
超音波観測装置14は、ユニバーサルコード26及びその端部に設けられた超音波用コネクタ32aを介して超音波内視鏡12に接続される。超音波観測装置14は、超音波内視鏡12の超音波振動子ユニット46を制御して超音波を送信させる。また、超音波観測装置14は、送信された超音波の反射波(エコー)を超音波振動子ユニット46が受信したときの受信信号を画像化して超音波画像を生成する。言い換えると、超音波観測装置14は、超音波振動子ユニット46が備える複数の超音波振動子48により超音波を送受信させ、超音波の受信信号から診断用超音波画像(以下、単に超音波画像ともいう)を生成する。
なお、超音波観測装置14については、後の項で詳しく説明する。
【0050】
内視鏡プロセッサ16は、ユニバーサルコード26及びその端部に設けられた内視鏡用コネクタ32bを介して超音波内視鏡12に接続される。内視鏡プロセッサ16は、超音波内視鏡12(詳しくは、後述する固体撮像素子86)によって撮像された観察対象隣接部位の画像データを取得し、取得した画像データに対して所定の画像処理を施して内視鏡画像を生成する。言い換えると、内視鏡プロセッサ16は、超音波内視鏡12の先端に有する照明部から照射される照明光の反射光を、同じく超音波内視鏡12の先端に有する撮像部によって受信させ、反射光の撮像信号から診断用内視鏡画像(以下、単に内視鏡画像ともいう)を生成する。
ここで、「観察対象隣接部位」とは、患者の体腔内壁のうち、観察対象部位と隣り合う位置にある部分である。
【0051】
なお、本実施形態では、超音波観測装置14及び内視鏡プロセッサ16が、別々に設けられた2台の装置(コンピュータ)によって構成されている。ただし、これに限定されるものではなく、1台の装置によって超音波観測装置14及び内視鏡プロセッサ16の双方が構成されてもよい。
【0052】
光源装置18は、ユニバーサルコード26及びその端部に設けられた光源用コネクタ32cを介して超音波内視鏡12に接続される。光源装置18は、超音波内視鏡12を用いて観察対象隣接部位を撮像する際に、赤光、緑光及び青光の3原色光からなる白色光又は特定波長光を照射する。光源装置18が照射した光は、ユニバーサルコード26に内包されたライトガイド(不図示)を通じて超音波内視鏡12内を伝搬し、超音波内視鏡12(詳しくは、後述する照明窓88)から出射される。これにより、観察対象隣接部位が光源装置18からの光によって照らされる。
【0053】
モニタ20は、超音波観測装置14及び内視鏡プロセッサ16に接続されており、超音波観測装置14により生成された超音波画像、内視鏡プロセッサ16により生成された内視鏡画像の他、解剖学シェーマ図等を表示する。
超音波画像及び内視鏡画像の表示方式としては、1の画像を他の画像のうちの1つに切り替えてモニタ20に表示する方式でもよく、2以上の画像を同時に並べて表示する方式でもよい。
なお、本実施形態では、一台のモニタ20に超音波画像及び内視鏡画像を表示するが、超音波画像表示用のモニタと、内視鏡画像表示用のモニタと、解剖学シェーマ図用のモニタと、が別々に設けられてもよい。また、モニタ20以外の表示形態、例えば、術者が携帯する端末のディスプレイに表示する形態にて超音波画像及び内視鏡画像を表示してもよい。
【0054】
操作卓100は、術者(ユーザ)から入力される指示を取得する指示取得部の一例であり、超音波診断に際して術者が必要な情報を入力したり、超音波観測装置14に対して超音波診断の開始指示を行ったりするためなどに設けられた装置である。操作卓100は、例えば、キーボード、マウス、トラックボール、タッチパッド及びタッチパネル等によって構成されている。操作卓100が操作されると、その操作内容に応じて超音波観測装置14のCPU(制御回路)152(
図5参照)が装置各部(例えば、後述の受信回路142及び送信回路144)を制御する。
【0055】
具体的に説明すると、術者は、超音波診断を開始する前段階で、検査情報(例えば、年月日及びオーダ番号等を含む検査オーダ情報、及び、患者ID及び患者名等を含む患者情報)を操作卓100にて入力する。検査情報の入力完了後、術者が操作卓100を通じて超音波診断の開始を指示すると、超音波観測装置14のCPU152が、入力された検査情報に基づいて超音波診断が実施されるように超音波観測装置14各部を制御する。
【0056】
また、術者は、超音波診断の実施に際して、各種の制御パラメータを操作卓100にて設定することが可能である。制御パラメータとしては、例えば、ライブモード及びフリーズモードの選択結果、表示深さ(深度)の設定値、及び、超音波画像生成モードの選択結果等が挙げられる。
ここで、「ライブモード」は、所定のフレームレートにて得られる超音波画像(動画像)を逐次表示(リアルタイム表示)するモードである。「フリーズモード」は、過去に生成された超音波画像(動画像)の1フレームの画像(静止画像)を、後述のシネメモリ150から読み出して表示するモードである。
【0057】
本実施形態において選択可能な超音波画像生成モードは、複数存在し、具体的には、B(Brightness)モード、CF(Color Flow)モード及びPW(Pulse Wave)モードである。Bモードは、超音波エコーの振幅を輝度に変換して断層画像を表示するモードである。CFモードは、平均血流速度、フロー変動、フロー信号の強さ又はフローパワー等を様々な色にマッピングしてBモード画像に重ねて表示するモードである。PWモードは、パルス波の送受信に基づいて検出される超音波エコー源の速度(例えば、血流の速度)を表示するモードである。
なお、上述した超音波画像生成モードは、あくまでも一例であり、上述した3種類のモード以外のモード、例えば、A(Amplitude)モード、M(Motion)モード及び造影モード等が更に含まれてもよい。
【0058】
<<超音波内視鏡12の構成>>
次に、超音波内視鏡12の構成について、既出の
図1、および
図2、
図3および
図5を参照しながら説明する。
図2は、超音波内視鏡12の挿入部22の先端部及びその周辺を拡大して示した平面図である。
図3は、超音波内視鏡12の挿入部22の先端部40を
図2に図示のI-I断面にて切断したときの断面を示す断面図である。
図5は、超音波観測装置14の構成を示すブロック図である。
【0059】
超音波内視鏡12は、前述したように挿入部22及び操作部24を有する。挿入部22は、
図1に示すように先端側(自由端側)から順に、先端部40、湾曲部42及び軟性部43を備える。先端部40には、
図2に示すように超音波観察部36及び内視鏡観察部38が設けられている。超音波観察部36には、
図3に示すように、複数の超音波振動子48を備える超音波振動子ユニット46が配置されている。
【0060】
また、
図2に示すように先端部40には処置具導出口44が設けられている。処置具導出口44は、鉗子、穿刺針、若しくは高周波メス等の処置具(不図示)の出口となる。また、処置具導出口44は、血液及び体内汚物等の吸引物を吸引する際の吸引口にもなる。
【0061】
湾曲部42は、先端部40よりも基端側(超音波振動子ユニット46が設けられている側とは反対側)に連設された部分であり、湾曲自在である。軟性部43は、湾曲部42と操作部24との間を連結している部分であり、可撓性を有し、細長く延びた状態で設けられている。
【0062】
挿入部22及び操作部24の各々の内部には、送気送水用の管路及び吸引用の管路が、それぞれ複数形成されている。さらに、挿入部22及び操作部24の各々の内部には、一端が処置具導出口44に通じる処置具チャンネル45が形成されている。
【0063】
次に、超音波内視鏡12の構成要素のうち、超音波観察部36、内視鏡観察部38、送水タンク21a及び吸引ポンプ21b、並びに操作部24に関して詳しく説明する。
【0064】
(超音波観察部36)
超音波観察部36は、超音波画像を取得するために設けられた部分であり、挿入部22の先端部40において先端側に配置されている。超音波観察部36は、
図3に示すように超音波振動子ユニット46と、複数の同軸ケーブル56と、FPC(Flexible Printed Circuit)60とを備える。
【0065】
超音波振動子ユニット46は、超音波探触子(プローブ)に相当し、患者の体腔内において、後述する複数の超音波振動子48が配列された超音波振動子アレイ50を用いて超音波を送信し、且つ、観察対象部位にて反射した超音波の反射波(エコー)を受信して受信信号を出力する。本実施形態に係る超音波振動子ユニット46は、コンベックス型であり、放射状(円弧状)に超音波を送信する。ただし、超音波振動子ユニット46の種類(型式)については特にこれに限定されるものではなく、超音波を送受信できるものであれば他の種類でもよく、例えば、ラジアル型、リニア型等であってもよい。
【0066】
超音波振動子ユニット46は、
図3に示すようにバッキング材層54と、超音波振動子アレイ50と、音響整合層74と、音響レンズ76とを積層させることで構成されている。
【0067】
超音波振動子アレイ50は、一次元アレイ状に配列された複数の超音波振動子48(超音波トランスデューサ)からなる。より詳しく説明すると、超音波振動子アレイ50は、N個(例えばN=128)の超音波振動子48が先端部40の軸線方向(挿入部22の長手軸方向)に沿って凸湾曲状に等間隔で配列されることで構成されている。なお、超音波振動子アレイ50は、複数の超音波振動子48を二次元アレイ状に配置して構成されたものであってもよい。
【0068】
N個の超音波振動子48の各々は、圧電素子(圧電体)の両面に電極を配置することで構成されている。圧電素子としては、チタン酸バリウム(BaTiO3)、チタン酸ジルコン酸鉛(PZT)、ニオブ酸カリウム(KNbO3)等が用いられる。
電極は、複数の超音波振動子48の各々に対して個別に設けられた個別電極(不図示)と、複数の超音波振動子48に共通の振動子グランド(不図示)とからなる。また、電極は、同軸ケーブル56及びFPC60を介して超音波観測装置14と電気的に接続される。
【0069】
各超音波振動子48には、パルス状の駆動電圧が、入力信号(送信信号)として超音波観測装置14から同軸ケーブル56を通じて供給される。この駆動電圧が超音波振動子48の電極に印加されると、圧電素子が伸縮して超音波振動子48が駆動(振動)する。この結果、超音波振動子48からパルス状の超音波が出力される。このとき、超音波振動子48から出力される超音波の振幅は、その超音波振動子48が超音波を出力した際の強度(出力強度)に応じた大きさとなっている。ここで、出力強度は、超音波振動子48から出力された超音波の音圧の大きさとして定義される。
【0070】
また、各超音波振動子48は、超音波の反射波(エコー)を受信すると、これに伴って振動(駆動)し、各超音波振動子48の圧電素子が電気信号を発生する。この電気信号は、超音波の受信信号として各超音波振動子48から超音波観測装置14に向けて出力される。このとき、超音波振動子48から出力される電気信号の大きさ(電圧値)は、その超音波振動子48が超音波を受信した際の受信感度に応じた大きさとなっている。ここで、受信感度は、超音波振動子48が送信する超音波の振幅に対する、その超音波振動子48が超音波を受信して出力した電気信号の振幅の比として定義される。
【0071】
本実施形態では、N個の超音波振動子48をマルチプレクサ140(
図5参照)などの電子スイッチで順次駆動させることで、超音波振動子アレイ50が配された曲面に沿った走査範囲、例えば曲面の曲率中心から数十mm程度の範囲で超音波が走査される。より詳しく説明すると、超音波画像としてBモード画像(断層画像)を取得する場合には、マルチプレクサ140の開口チャンネル選択により、N個の超音波振動子48のうち、連続して並ぶm個(例えば、m=N/2)の超音波振動子48(以下では、駆動対象振動子と言う)に駆動電圧が供給される。これにより、m個の駆動対象振動子が駆動され、開口チャンネルの各駆動対象振動子から超音波が出力される。m個の駆動対象振動子から出力された超音波は、直後に合成され、その合成波(超音波ビーム)が観察対象部位に向けて送信される。その後、m個の駆動対象振動子の各々は、観察対象部位にて反射された超音波(エコー)を受信し、その時点での受信感度に応じた電気信号(受信信号)を出力する。
【0072】
そして、上記一連の工程(すなわち、駆動電圧の供給、超音波の送受信、及び電気信号の出力)は、N個の超音波振動子48における駆動対象振動子の位置を1つずつ(1個の超音波振動子48ずつ)ずらして繰り返し行われる。具体的に説明すると、上記一連の工程は、N個の超音波振動子48のうち、一方の端に位置する超音波振動子48を中心とする、その両側のm個の駆動対象振動子から開始される。そして、上記一連の工程は、マルチプレクサ140による開口チャンネルの切り替えによって駆動対象振動子の位置がずれる度に繰り返される。最終的に、上記一連の工程は、N個の超音波振動子48のうち、他端に位置する超音波振動子48を中心とする、その両側のm個の駆動対象振動子に至るまで、計N回繰り返して実施される。
【0073】
バッキング材層54は、超音波振動子アレイ50の各超音波振動子48を裏面側から支持する。また、バッキング材層54は、超音波振動子48から発せられた超音波、若しくは観察対象部位にて反射された超音波(エコー)のうち、バッキング材層54側に伝播した超音波を減衰させる機能を有する。なお、バッキング材は、硬質ゴム等の剛性を有する材料からなり、超音波減衰材(フェライト及びセラミックス等)が必要に応じて添加されている。
【0074】
音響整合層74は、超音波振動子アレイ50の上に重ねられており、患者の人体と超音波振動子48との間の音響インピーダンス整合をとるために設けられている。音響整合層74が設けられていることにより、超音波の透過率を高めることが可能となる。音響整合層74の材料としては、音響インピーダンスの値が超音波振動子48の圧電素子に比して、より患者の人体のものの値に近い様々な有機材料を用いることができる。音響整合層74の材料としては、具体的にはエポキシ系樹脂、シリコンゴム、ポリイミド及びポリエチレン等が挙げられる。
【0075】
音響整合層74上に重ねられた音響レンズ76は、超音波振動子アレイ50から発せられる超音波を観察対象部位に向けて収束させるためのものである。なお、音響レンズ76は、例えば、シリコン系樹脂(ミラブル型シリコンゴム(HTVゴム)、液状シリコンゴム(RTVゴム)等)、ブタジエン系樹脂、及びポリウレタン系樹脂等からなり、必要に応じて酸化チタン、アルミナ若しくはシリカ等の粉末が混合される。
【0076】
FPC60は、各超音波振動子48が備える電極と電気的に接続される。複数の同軸ケーブル56の各々は、その一端にてFPC60に配線されている。そして、超音波内視鏡12が超音波用コネクタ32aを介して超音波観測装置14に接続されると、複数の同軸ケーブル56の各々は、その他端(FPC60側とは反対側)にて超音波観測装置14と電気的に接続される。
【0077】
(内視鏡観察部38)
内視鏡観察部38は、内視鏡画像を取得するために設けられた部分であり、挿入部22の先端部40において超音波観察部36よりも基端側に配置されている。内視鏡観察部38は、
図2および
図3に示すように観察窓82、対物レンズ84、固体撮像素子86、照明窓88、洗浄ノズル90及び配線ケーブル92等によって構成されている。
【0078】
観察窓82は、挿入部22の先端部40において軸線方向(挿入部22の長手軸方向)に対して斜めに傾けられた状態で取り付けられている。観察対象隣接部位にて反射されて観察窓82から入射された光は、対物レンズ84で固体撮像素子86の撮像面に結像される。
【0079】
固体撮像素子86は、観察窓82及び対物レンズ84を透過して撮像面に結像された観察対象隣接部位の反射光を光電変換して、撮像信号を出力する。固体撮像素子86としては、CCD(Charge Coupled Device:電荷結合素子)、及びCMOS(Complementary MetalOxide Semiconductor:相補形金属酸化膜半導体)等が利用可能である。固体撮像素子86で出力された撮像画像信号は、挿入部22から操作部24まで延設された配線ケーブル92を経由して、ユニバーサルコード26により内視鏡プロセッサ16に伝送される。
【0080】
照明窓88は、観察窓82の両脇位置に設けられている。照明窓88には、ライトガイド(不図示)の出射端が接続されている。ライトガイドは、挿入部22から操作部24まで延設され、その入射端は、ユニバーサルコード26を介して接続された光源装置18に接続されている。光源装置18で発せられた照明光は、ライトガイドを伝わり、照明窓88から観察対象隣接部位に向けて照射される。
【0081】
洗浄ノズル90は、観察窓82及び照明窓88の表面を洗浄するために挿入部22の先端部40に形成された噴出孔であり、洗浄ノズル90からは、空気又は洗浄用液体が観察窓82及び照明窓88に向けて噴出される。なお、本実施形態において、洗浄ノズル90から噴出される洗浄用液体は、水、特に脱気水である。ただし、洗浄用液体については、特に限定されるものではなく、他の液体、例えば、通常の水(脱気されていない水)であってもよい。
【0082】
(送水タンク21a及び吸引ポンプ21b)
送水タンク21aは、脱気水を貯留するタンクであり、送気送水用チューブ34aにより光源用コネクタ32cに接続されている。なお、脱気水は、洗浄ノズル90から噴出される洗浄用液体として用いられる。
【0083】
吸引ポンプ21bは、処置具導出口44を通じて体腔内の吸引物(洗浄用に供給された脱気水を含む)を吸引する。吸引ポンプ21bは、吸引用チューブ34bにより光源用コネクタ32cに接続されている。なお、超音波内視鏡システム10は、所定の送気先に空気を送気する送気ポンプなどを備えていてもよい。
【0084】
挿入部22及び操作部24内には、処置具チャンネル45と送気送水管路(不図示)が設けられている。
【0085】
処置具チャンネル45は、操作部24に設けられた処置具挿入口30と処置具導出口44との間を連絡している。また、処置具チャンネル45は、操作部24に設けられた吸引ボタン28bに接続している。吸引ボタン28bは、処置具チャンネル45のほかに、吸引ポンプ21bに接続されている。
送気送水管路は、その一端側で洗浄ノズル90に通じており、他端側では、操作部24に設けられた送気送水ボタン28aに接続している。送気送水ボタン28aは、送気送水管路のほかに、送水タンク21aに接続されている。
【0086】
(操作部24)
操作部24は、超音波診断の開始時、診断中及び診断終了時等において術者によって操作される部分であり、その一端にはユニバーサルコード26の一端が接続されている。また、操作部24は、
図1に示すように、送気送水ボタン28a、吸引ボタン28b、一対のアングルノブ29、並びに処置具挿入口(鉗子口)30を有する。
【0087】
一対のアングルノブ29の各々を回動すると、湾曲部42が遠隔的に操作されて湾曲変形する。この変形操作により、超音波観察部36及び内視鏡観察部38が設けられた挿入部22の先端部40を所望の方向に向けることが可能となる。
処置具挿入口30は、鉗子等の処置具(不図示)を挿通するために形成された孔であり、処置具チャンネル45を介して処置具導出口44と連絡している。処置具挿入口30に挿入された処置具は、処置具チャンネル45を通過した後に処置具導出口44から体腔内に導入される。
【0088】
送気送水ボタン28a及び吸引ボタン28bは、2段切り替え式の押しボタンであり、挿入部22及び操作部24の各々の内部に設けられた管路の開閉を切り替えるために操作される。
【0089】
<<内視鏡プロセッサ16の概略構成>>
ここでは、内視鏡プロセッサ16の詳細構成の説明は省略するが、内視鏡プロセッサ16は、内視鏡画像を撮像する従来公知の一般的な構成要素に加えて、内視鏡画像認識部170を備えている。
【0090】
内視鏡画像認識部170は、学習用内視鏡画像と、学習用内視鏡画像に表示されている病変領域と、の関係を複数の学習用内視鏡画像について予め学習しておき、学習結果に基づいて、内視鏡プロセッサ16によって生成された診断用内視鏡画像から、この診断用内視鏡画像に表示されている病変領域を認識する。
学習用内視鏡画像は、内視鏡画像認識部170が、内視鏡画像と、内視鏡画像に表示されている病変領域と、の関係を学習するための既存の内視鏡画像であり、例えば過去に撮影された各種の内視鏡画像を利用することができる。
【0091】
内視鏡画像認識部170は、
図4に示すように、病変領域検出部102と、位置情報取得部104と、選択部106と、病変領域検出制御部108と、を備えている。
【0092】
病変領域検出部102は、学習結果に基づいて、診断用内視鏡画像から病変領域を検出する。病変領域検出部102は、体腔内の複数の位置にそれぞれ対応した複数の検出部を備えている。ここでは、一例として、
図4に示すように、第1~第11検出部102A~102Kを備えている。第1検出部102Aは直腸に、第2検出部102BはS字結腸に、第3検出部102Cは下行結腸に、第4検出部102Dは横行結腸に、第5検出部102Eは上行結腸に、第6検出部102Fは盲腸に、第7検出部102Gは回腸に、第8検出部102Hは空腸に、第9検出部102Iは十二指腸に、第10検出部102Jは胃に、第11検出部102Kは食道に、それぞれ対応している。
【0093】
第1~第11検出部102A~102Kは、それぞれ学習済みモデルである。この複数の学習済みモデルは、それぞれ異なる学習用内視鏡画像からなるデータセットを用いて学習したモデルである。詳しくは、複数の学習済みモデルは、それぞれ体腔内の異なる位置を撮影した学習用内視鏡画像からなるデータセットを用いて、学習用内視鏡画像と、学習用内視鏡画像に表示されている病変領域と、の関係を予め学習したモデルである。
【0094】
すなわち、第1検出部102Aは直腸の学習用内視鏡画像からなるデータセット、第2検出部102BはS字結腸の学習用内視鏡画像からなるデータセット、第3検出部102Cは下行結腸の学習用内視鏡画像からなるデータセット、第4検出部102Dは横行結腸の学習用内視鏡画像からなるデータセット、第5検出部102Eは上行結腸の学習用内視鏡画像からなるデータセット、第6検出部102Fは盲腸の学習用内視鏡画像からなるデータセット、第7検出部102Gは回腸の学習用内視鏡画像からなるデータセット、第8検出部102Hは空腸の学習用内視鏡画像からなるデータセット、第9検出部102Iは十二指腸の学習用内視鏡画像からなるデータセット、第10検出部102Jは胃の学習用内視鏡画像からなるデータセット、第11検出部102Kは食道の学習用内視鏡画像からなるデータセットを用いて学習したモデルである。
【0095】
学習方法は、複数の学習用内視鏡画像から、内視鏡画像と、病変領域と、の関係を学習し、学習済みモデルを生成することができるものであれば特に限定されない。
学習方法としては、例えば人工知能(AI:Artificial Intelligence)の技術の1つである機械学習(マシンラーニング)の一例としての、階層構造型のニューラルネットワークを用いるディープラーニング(深層学習)等を利用することができる。
なお、ディープラーニング以外の機械学習を利用してもよいし、機械学習以外の人工知能の技術を利用してもよいし、人工知能の技術以外の学習方法を利用してもよい。
【0096】
また、学習用内視鏡画像だけを使用して学習済みモデルを生成してもよい。この場合、学習済みモデルは更新されず、常に同じ学習済みモデルを使用することができる。
あるいは、学習用内視鏡画像に加えて、診断用内視鏡画像を使用して学習済みモデルを生成するように構成してもよい。この場合、診断用内視鏡画像と、この診断用内視鏡画像に表示されている病変領域と、の関係を学習して学習済みモデルが随時更新される。
【0097】
続いて、位置情報取得部104は、内視鏡画像の体腔内の位置の情報を取得する。ここでは、医師等の術者が操作卓100を用いて位置の情報を入力する。位置情報取得部104は、操作卓100から入力された位置の情報を取得する。
【0098】
画像の体腔内の位置の情報として、直腸、S字結腸、下行結腸、横行結腸、上行結腸、盲腸、回腸、空腸、十二指腸、胃、及び食道等の情報が入力される。これらの位置候補を選択可能にモニタ20に表示し、医師等の術者が操作卓100を用いて選択するように構成してもよい。
【0099】
続いて、選択部106は、病変領域検出部102から、位置情報取得部104が取得した位置の情報に対応した検出部を選択する。即ち、選択部106は、位置の情報が直腸の場合は第1検出部102Aを、S字結腸の場合は第2検出部102Bを、下行結腸の場合は第3検出部102Cを、横行結腸の場合は第4検出部102Dを、上行結腸の場合は第5検出部102Eを、盲腸の場合は第6検出部102Fを、回腸の場合は第7検出部102Gを、空腸の場合は第8検出部102Hを、十二指腸の場合は第9検出部102Iを、胃の場合は第10検出部102Jを、食道の場合は第11検出部102Kを選択する。
【0100】
続いて、病変領域検出制御部108は、選択部106が選択した検出部によって、内視鏡画像から病変領域を検出させる。ここでの病変領域とは、病気が原因のものに限定されず、外観上正常な状態とは異なる状態の領域を含んでいる。病変領域としては、例えば、ポリープ、癌、大腸憩室、炎症、EMR(Endoscopic Mucosal Resection)瘢痕又はESD(Endoscopic Submucosal Dissection)瘢痕等の治療痕、クリップ箇所、出血点、穿孔、及び血管異型性等を例示することができる。
【0101】
<<超音波観測装置14の構成>>
超音波観測装置14は、超音波振動子ユニット46に超音波を送受信させ、且つ、超音波受信時に超音波振動子48(詳しくは駆動対象素子)が出力した受信信号を画像化して超音波画像を生成する。また、超音波観測装置14は、生成した超音波画像に加え、内視鏡プロセッサ16から転送される内視鏡画像、および解剖学シェーマ図等をモニタ20に表示する。
【0102】
超音波観測装置14は、
図5に示すように、マルチプレクサ140、受信回路142、送信回路144、A/Dコンバータ146、ASIC(Application Specific Integrated Circuit)148、シネメモリ150、CPU(Central Processing Unit)152、DSC(Digital Scan Converter)154、超音波画像認識部168、操作手順記憶部174、警告発生部176、移動ルート登録部178、及び表示制御部172を有する。
【0103】
受信回路142及び送信回路144は、超音波内視鏡12の超音波振動子アレイ50と電気的に接続する。マルチプレクサ140は、N個の超音波振動子48の中から最大m個の駆動対象振動子を選択し、そのチャンネルを開口させる。
送信回路144は、FPGA(フィールドプログラマブルゲートアレイ)、パルサー(パルス発生回路158)、及びSW(スイッチ)等からなり、MUX(マルチプレクサ140)に接続される。なお、FPGAの代わりにASIC(特定用途向け集積回路)を用いても良い。
【0104】
送信回路144は、超音波振動子ユニット46から超音波を送信するために、CPU152から送られてくる制御信号に従って、マルチプレクサ140により選択された駆動対象振動子に対して超音波送信用の駆動電圧を供給する回路である。駆動電圧は、パルス状の電圧信号(送信信号)であり、ユニバーサルコード26及び同軸ケーブル56を介して駆動対象振動子の電極に印加される。
【0105】
送信回路144は、制御信号に基づいて送信信号を生成するパルス発生回路158を有しており、CPU152の制御により、パルス発生回路158を用いて、複数の超音波振動子48を駆動して超音波を発生させる送信信号を生成して複数の超音波振動子48に供給する。より詳しくは、送信回路144は、CPU152の制御により、超音波診断を行う場合に、パルス発生回路158を用いて、超音波診断を行うための駆動電圧を有する送信信号を生成する。
【0106】
受信回路142は、超音波(エコー)を受信した駆動対象振動子から出力される電気信号、すなわち受信信号を受信する回路である。また、受信回路142は、CPU152から送られてくる制御信号に従って、超音波振動子48から受信した受信信号を増幅し、増幅後の信号をA/Dコンバータ146に引き渡す。A/Dコンバータ146は、受信回路142と接続しており、受信回路142から受け取った受信信号をアナログ信号からデジタル信号に変換し、変換後のデジタル信号をASIC148に出力する。
【0107】
ASIC148は、A/Dコンバータ146と接続しており、
図5に示すように、位相整合部160、Bモード画像生成部162、PWモード画像生成部164、CFモード画像生成部166及びメモリコントローラ151を構成している。
なお、本実施形態では、ASIC148のようなハードウェア回路によって上述の機能(具体的には、位相整合部160、Bモード画像生成部162、PWモード画像生成部164、CFモード画像生成部166及びメモリコントローラ151)を実現しているが、これに限定されるものではない。中央演算装置(CPU)と各種データ処理を実行させるためのソフトウェア(コンピュータプログラム)とを協働させることで上記の機能を実現させてもよい。
【0108】
位相整合部160は、A/Dコンバータ146によりデジタル信号化された受信信号(受信データ)に対して遅延時間を与えて整相加算する(受信データの位相を合わせてから加算する)処理を実行する。整相加算処理により、超音波エコーの焦点が絞り込まれた音線信号が生成される。
【0109】
Bモード画像生成部162、PWモード画像生成部164及びCFモード画像生成部166は、超音波振動子ユニット46が超音波を受信した際に複数の超音波振動子48のうちの駆動対象振動子が出力する電気信号(厳密には、受信データを整相加算することで生成された音線信号)に基づいて、超音波画像を生成する。
【0110】
Bモード画像生成部162は、患者の内部(体腔内)の断層画像であるBモード画像を生成する画像生成部である。Bモード画像生成部162は、順次生成される音線信号に対し、STC(Sensitivity Time gain Control)によって、超音波の反射位置の深度に応じて伝搬距離に起因する減衰の補正を施す。また、Bモード画像生成部162は、補正後の音線信号に対して包絡線検波処理及びLog(対数)圧縮処理を施して、Bモード画像(画像信号)を生成する。
【0111】
PWモード画像生成部164は、所定方向における血流の速度を表示する画像を生成する画像生成部である。PWモード画像生成部164は、位相整合部160によって順次生成される音線信号のうち、同一方向における複数の音線信号に対して高速フーリエ変換を施すことで周波数成分を抽出する。その後、PWモード画像生成部164は、抽出した周波数成分から血流の速度を算出し、算出した血流の速度を表示するPWモード画像(画像信号)を生成する。
【0112】
CFモード画像生成部166は、所定方向における血流の情報を表示する画像を生成する画像生成部である。CFモード画像生成部166は、位相整合部160によって順次生成される音線信号のうち、同一方向における複数の音線信号の自己相関を求めることで、血流に関する情報を示す画像信号を生成する。その後、CFモード画像生成部166は、上記の画像信号に基づき、Bモード画像生成部162によって生成されるBモード画像信号に血流に関する情報を重畳させたカラー画像としてのCFモード画像(画像信号)を生成する。
【0113】
メモリコントローラ151は、Bモード画像生成部162、PWモード画像生成部164又はCFモード画像生成部166が生成した画像信号をシネメモリ150に格納する。
【0114】
DSC154は、ASIC148に接続されており、Bモード画像生成部162、PWモード画像生成部164又はCFモード画像生成部166が生成した画像の信号を通常のテレビジョン信号の走査方式に従う画像信号に変換(ラスター変換)し、画像信号に階調処理等の各種の必要な画像処理を施した後に超音波画像認識部168に出力する。
【0115】
超音波画像認識部168は、被検体の体腔内における超音波内視鏡12の先端部の位置および向きと臓器等の観察対象部位の観察順序に基づくラベル番号とを対応付けて、学習用超音波画像と学習用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号との関係を複数の学習用超音波画像について予め学習しておき、学習結果に基づいて、DSC154によってラスター変換された超音波画像、つまり、超音波観測装置14によって生成される診断用超音波画像から、この診断用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号を認識する。超音波画像認識部168によって認識されるラベル番号は、後述する表示制御部172および警告発生部176(
図5参照)に出力される。
【0116】
観察対象部位の観察順序とは、被検体の体腔内において超音波画像を撮像(観察)する観察対象部位の順番である。観察対象部位の観察順序については、後に一例を挙げて説明する。
ラベル番号は、観察対象部位の観察順序に基づいて付与される。例えば、観察順序が1番目の観察対象部位が肝左葉であるとすると、肝左葉には、1番目のラベル番号が付与される。ラベル番号は、順番さえわかれば「番号」でなくても、何らかのラベルでよい。
学習用超音波画像は、超音波画像認識部168が、超音波画像と、超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号と、の関係を学習するための既存の超音波画像であり、例えば過去に撮像された各種の超音波画像を利用することができる。
【0117】
超音波画像認識部168は、
図6に示すように、ラベル番号検出部112と、臓器名称検出部120と、位置及び向き検出部122と、を備えている。
【0118】
ラベル番号検出部112は、学習結果に基づいて、診断用超音波画像から、診断用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号を検出する。
【0119】
ラベル番号検出部112は、学習済みモデルである。この学習済みモデルは、それぞれ被検体の体内の観察対象部位となる異なる位置を撮像した学習用超音波画像からなるデータセットを用いて、学習用超音波画像の撮像時の超音波内視鏡12の先端部40の各々の位置および向きに対応する各々のラベル番号を付与し、学習用超音波画像と、学習用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号と、の関係を予め学習したモデルである。
【0120】
学習方法は、複数の学習用超音波画像から、超音波画像と、超音波内視鏡12の撮像時の先端部40の位置および向きに対応するラベル番号と、の関係を学習し、学習済みモデルを生成することができるものであれば特に限定されない。
学習方法としては、例えば人工知能(AI:Artificial Intelligence)の技術の1つである機械学習(マシンラーニング)の一例としての、階層構造型のニューラルネットワークを用いるディープラーニング(深層学習)等を利用することができる。
なお、ディープラーニング以外の機械学習を利用してもよいし、機械学習以外の人工知能の技術を利用してもよいし、人工知能の技術以外の学習方法を利用してもよい。
【0121】
また、学習用超音波画像だけを使用して学習済みモデルを生成してもよい。この場合、学習済みモデルは更新されず、常に同じ学習済みモデルを使用することができる。
あるいは、学習用超音波画像に加えて、診断用超音波画像を使用して学習済みモデルを生成するように構成してもよい。この場合、診断用超音波画像と、この診断用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号と、の関係を学習して学習済みモデルが随時更新される。
【0122】
超音波画像を撮像する場合の体内の観察順序(超音波内視鏡12の先端部40の移動経路)、及び代表的な観察ポイント(超音波内視鏡12の先端部40の位置および向き)は大体決められている。そのため、代表的な観察ポイントにおける超音波画像と、その観察ポイントにおける超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号と、を関連付けて学習することができる。
【0123】
以下、観察順序に従って超音波画像を撮像する場合の体内の代表的な観察ポイント(超音波内視鏡12の先端部40の位置および向き)について説明する。
【0124】
体内の代表的な観察ポイントとしては、例えば以下の(1)~(12)などがある。
(1)肝左葉
(2)大動脈、腹腔動脈、上腸間膜動脈の合流部
(3)膵体部
(4)膵尾部
(5)脾静脈、上腸間膜静脈、及び門脈の合流部(コンフルエンス)
(6)膵頭部
(7)胆嚢
(8)門脈
(9)総胆管
(10)胆嚢
(11)膵鉤部
(12)乳頭
ここで、(1)肝左葉、(2)大動脈、腹腔動脈、上腸間膜動脈の合流部、(3)膵体部、(4)膵尾部、(5)脾静脈、上腸間膜静脈、及び門脈の合流部、(6)膵頭部および(7)胆嚢は、胃内からの代表的な観察ポイントであり、(8)門脈、(9)総胆管および(10)胆嚢は、十二指腸球部からの代表的な観察ポイントであり、(11)膵鉤部および(12)乳頭は、十二指腸下行部からの代表的な観察ポイントである。
(1)~(12)は、ラベル番号(観察対象部位の観察順序)に対応し、(1)~(12)の観察ポイントは、観察対象部位(臓器)に対応する。
【0125】
なお、上記の観察対象部位の観察順序は一例であり、術者によって、観察対象部位の観察順序は多少異なる場合もある。このため、術者に応じて、それぞれ異なる観察対象部位の観察順序のリストを複数用意し、各々のリストについて、学習用超音波画像と、学習用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きに対応するラベル番号と、の関係を複数の学習用超音波画像について学習しておき、術者によって、使用するリスト、つまり、観察対象部位の観察順序を切り替えるようにしてもよい。あるいは、術者が、所望のリストを登録できるようにしてもよい。
また、リストにおける観察対象部位の数は、上記の観察対象部位の観察順序よりも多くしてもよいし、逆に少なくしてもよい。つまり、1の観察対象部位と、観察順序が1の観察対象部位の次の観察対象部位との間に、1以上の他の観察対象部位を追加してもよいし、逆に観察順序が連続する複数の観察対象部位の中から1以上の観察対象部位を削除してもよい。
【0126】
続いて、臓器名称検出部120は、ラベル番号検出部112によって検出されたラベル番号(1)~(12)に対応する臓器の名称を検出する。ラベル番号は、観察対象部位の観察順序に対応付けられているため、ラベル番号から、このラベル番号に対応する観察対象部位(臓器)の名称を得ることができる。
【0127】
続いて、位置及び向き検出部122は、ラベル番号検出部112によって検出されたラベル番号(1)~(12)に基づいて、診断用超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きを検出する。ラベル番号は、超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きと対応付けられているため、ラベル番号から、このラベル番号に対応する超音波内視鏡12の先端部40の位置および向きを得ることができる。
【0128】
本実施形態の場合、超音波内視鏡12の先端部40の位置および向きとして、上記のラベル番号(1)~(12)に対応する観察ポイント、つまり、(1)肝左葉、(2)大動脈、腹腔動脈、及び上腸間膜動脈の合流部、(3)膵体部、(4)膵尾部、(5)脾静脈、上腸間膜静脈、及び門脈の合流部、(6)膵頭部および(7)胆嚢(胃内からの代表的な観察ポイント)、(8)門脈、(9)総胆管および(10)胆嚢(十二指腸球部の代表的な観察ポイント)、(11)膵鉤部および(12)乳頭(十二指腸下行部からの代表的な観察ポイント)における超音波画像の撮像時の超音波内視鏡12の先端部40の位置および向きが検出される。
【0129】
本実施形態のように、超音波振動子ユニット46がコンベックス型である場合、超音波内視鏡12の先端部40の位置および向きをラベル番号に対応させ、ラベル番号に対応する位置および向き検出するのが望ましい。
一方、超音波振動子ユニット46がラジアル型である場合、超音波内視鏡12の先端部40の向きを検出する必要がないため、超音波内視鏡12の先端部40の位置のみをラベル番号に対応させ、ラベル番号に対応する位置のみを検出するのが望ましい。
【0130】
操作手順記憶部174は、1のラベル番号に対応する観察対象部位から、観察順序が1のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡12の先端部40を移動させるための操作手順を記憶する。操作手順は、表示制御部172へ出力される。
【0131】
1のラベル番号は、観察順序に従って観察する観察対象部位のうち、任意の1の観察対象部位に対応するラベル番号であり、観察順序が1のラベル番号の次のラベル番号は、この任意の1の観察対象部位の次の観察対象部位に対応するラベル番号である。
例えば、1番目のラベル番号に対応する1番目の観察対象部位が肝左葉であり、2番目のラベル番号に対応する2番目の観察対象部位が大動脈、腹腔動脈、上腸間膜動脈の合流部であるとする。この場合、操作手順記憶部174は、1番目のラベル番号に対応する肝左葉から、2番目のラベル番号に対応する大動脈、腹腔動脈、上腸間膜動脈の合流部へ超音波内視鏡12の先端部40を移動させるための操作手順を記憶する。操作手順記憶部174は、2番目以降の各々のラベル番号に対応する観察対象部位についても同様に操作手順を記憶する。なお、観察順序が最後のラベル番号に対応する観察対象部位についての操作手順は記憶されない。
【0132】
操作手順には、超音波内視鏡12の先端部40を移動させるための各種の指示が含まれる。例えば、超音波内視鏡12を前進させる、超音波内視鏡12を時計回りまたは反時計回りに回す、超音波内視鏡12の先端部40を湾曲させる等の指示が含まれる。
【0133】
警告発生部176は、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位へ超音波内視鏡12の先端部40が移動された場合に、警告を発する。
【0134】
現在のラベル番号とは、観察順序に従って観察する観察対象部位のうち、現在観察している観察対象部位に対応するラベル番号、言い換えると、現在、超音波画像認識部168によって認識されているラベル番号である。観察順序が現在のラベル番号の次のラベル番号は、現在観察している観察対象部位の次に観察する観察対象部位に対応するラベル番号である。
同様に、1番目のラベル番号に対応する1番目の観察対象部位が肝左葉であり、2番目のラベル番号に対応する2番目の観察対象部位が大動脈、腹腔動脈、上腸間膜動脈の合流部であるとする。この場合、現在肝左葉を観察しているとすると、肝左葉に対応する1番目のラベル番号が現在のラベル番号であり、大動脈、腹腔動脈、上腸間膜動脈の合流部に対応する2番目のラベル番号が、観察順序が現在のラベル番号の次のラベル番号である。
【0135】
前述のように、観察対象部位の観察順序は大体決められている。従って、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位へ超音波内視鏡12の先端部40が移動された場合、警告発生部176は、術者の操作による超音波内視鏡12の先端部40の移動方向が間違っていると判断し、警告を発する。
警告発生部176が警告を発することにより、術者は、間違った方向へ超音波内視鏡12の先端部40を移動させていることに気付くことができ、正しい方向に超音波内視鏡12の先端部40を移動させることができるようになる。
【0136】
本実施形態の場合、警告発生部176によって発せられる警告は表示制御部172へ出力され、表示制御部172の制御により、例えば「移動方向が間違っています!」等のような警告が文字情報としてモニタ20に表示される。なお、警告を発する手段は特に限定されず、例えば警告を音声情報としてスピーカから発してもよいし、もしくは、警告として、文字情報および音声情報の両方を同時に発してもよい。
【0137】
移動ルート登録部178は、観察対象部位の観察順序に基づいて超音波内視鏡12の先端部40が理想的に移動された場合の移動ルートを予め登録する。この理想的な移動ルートは、表示制御部172に出力される。
理想的な移動ルートとは、観察対象部位の観察順序の通りに、超音波内視鏡12の先端部40が正しく操作されて移動された場合の移動ルートである。
【0138】
続いて、表示制御部172は、超音波画像認識部168によって認識されたラベル番号に対応する超音波内視鏡12の先端部40の位置および向きをモニタ20に表示させる。
【0139】
また、表示制御部172は、術者からの指示に応じて、内視鏡画像に病変領域を重ねて表示したり、超音波画像に臓器の名称を重ねて表示したり、解剖学シェーマ図に超音波内視鏡12の先端部40の位置および向きを重ねて表示したりする。
言い換えると、表示制御部172は、術者からの指示に応じて、病変領域が表示されていない内視鏡画像、病変領域が重ねて表示された内視鏡画像、臓器の名称が表示されていない超音波画像、臓器の名称が重ねて表示された超音波画像、超音波内視鏡12の先端部40の位置および向きが表示されていない解剖学シェーマ図、および超音波内視鏡12の先端部40の位置および向きが重ねて表示された解剖学シェーマ図の中から、1の画像または2以上の画像をモニタ20の画面内に並べて表示させる。
【0140】
臓器の名称は、例えば超音波画像の上に重ねてその臓器の近傍、例えばその臓器の上に表示され、超音波内視鏡12の先端部40の位置および向きは、例えば解剖学シェーマ図の上に重ねて表示される。病変領域は、例えば内視鏡画像の上に重ねて病変領域を枠線で囲んで表示される。
【0141】
シネメモリ150は、1フレーム分又は数フレーム分の画像信号を蓄積するための容量を有する。ASIC148が生成した画像信号は、DSC154に出力される一方で、メモリコントローラ151によってシネメモリ150にも格納される。フリーズモード時には、メモリコントローラ151がシネメモリ150に格納された画像信号を読み出し、DSC154に出力する。これにより、モニタ20には、シネメモリ150から読み出された画像信号に基づく超音波画像(静止画像)が表示されるようになる。
【0142】
CPU152は、超音波観測装置14の各部を制御する制御部として機能し、受信回路142、送信回路144、A/Dコンバータ146、及びASIC148等と接続しており、これらの機器を制御する。具体的に説明すると、CPU152は、操作卓100と接続しており、操作卓100にて入力された検査情報および制御パラメータ等に従って超音波観測装置14各部を制御する。
【0143】
また、CPU152は、超音波内視鏡12が超音波用コネクタ32aを介して超音波観測装置14に接続されると、PnP(Plug and Play)等の方式により超音波内視鏡12を自動認識する。
【0144】
<<超音波内視鏡システム10の動作例について>>
次に、超音波内視鏡システム10の動作例として、超音波診断に関する一連の処理(以下、診断処理とも言う)の流れを、
図7および
図8を参照しながら説明する。
図7は、超音波内視鏡システム10を用いた診断処理の流れを示す図である。
図8は、診断処理中の診断ステップの手順を示す図である。
【0145】
超音波内視鏡12が超音波観測装置14、内視鏡プロセッサ16及び光源装置18に接続された状態で超音波内視鏡システム10各部の電源が投入されると、それをトリガとして診断処理が開始される。診断処理では、
図7に示すように、先ず入力ステップが実施される(S001)。入力ステップでは、術者が操作卓100を通じて検査情報及び制御パラメータ等を入力する。入力ステップが完了すると、診断開始の指示があるまで、待機ステップが実施される(S002)。
【0146】
続いて、術者からの診断開始指示があると(S003でYes)、CPU152が超音波観測装置14各部を制御して診断ステップを実施する(S004)。診断ステップは、
図8に図示の流れに沿って進行し、指定された画像生成モードがBモードである場合には(S031でYes)、Bモード画像を生成するように超音波観測装置14各部を制御する(S032)。また、指定された画像生成モードがBモードではなく(S031でNo)CFモードである場合には(S033でYes)、CFモード画像を生成するように超音波観測装置14各部を制御する(S034)。さらに、指定された画像生成モードがCFモードではなく(S033でNo)PWモードである場合には(S035でYes)、PWモード画像を生成するように超音波観測装置14各部を制御する(S036)。なお、指定された画像生成モードがPWモードではない場合には(S035でNo)、ステップS037へ進む。
【0147】
続いて、CPU152は、超音波診断が終了したか否かを判定する(S037)。超音波診断が終了していない場合(S037でNo)、診断ステップS031へ戻り、各画像生成モードによる超音波画像の生成は、診断終了条件が成立するまで繰り返し実施される。診断終了条件としては、例えば、術者が操作卓100を通じて診断終了を指示すること等が挙げられる。
【0148】
一方、診断終了条件が成立して超音波診断が終了すると(S037でYes)、診断ステップが終了する。
続いて、
図7に戻って、超音波内視鏡システム10各部の電源がオフとなると(S006でYes)、診断処理が終了する。一方で、超音波内視鏡システム10各部の電源がオン状態で維持される場合には(S005でNo)、入力ステップS001に戻り、上述した診断処理の各ステップを繰り返すことになる。
【0149】
<<内視鏡画像、超音波画像および解剖学シェーマ図の表示方法>>
次に、内視鏡画像、超音波画像および解剖学シェーマ図の表示方法について説明する。
【0150】
術者は、操作卓100を操作して指示を与えることにより、内視鏡画像、超音波画像、及び解剖学シェーマ図の少なくとも1つをモニタ20の画面内に表示させることができる。
この場合、表示制御部172により、術者からの指示に応じて、内視鏡画像(病変領域の表示のあり/なし)、超音波画像(臓器の名称の表示のあり/なし)、及び解剖学シェーマ図(超音波内視鏡12の先端部40の位置および向きの表示のあり/なし)の中から、1の画像、もしくは2以上の画像がモニタ20の画面内に並べて表示される。
また、術者からの指示に応じて、表示制御部172により、モニタ20に表示された2以上の画像の中から、1の画像を注目画像として他の画像よりも大きく表示させることができる。
【0151】
超音波内視鏡システム10では、超音波画像または解剖学シェーマ図がモニタ20の画面内に表示される場合に超音波画像認識部168が動作し、内視鏡画像がモニタ20の画面内に表示される場合に内視鏡画像認識部170が動作する。
これにより、術者からの指示に応じて、その上に病変領域が重ねて表示された内視鏡画像をモニタ20に表示させたり、その上に臓器の名称が重ねて表示された超音波画像をモニタ20に表示させたり、その上に超音波内視鏡12の先端部40の位置および向きが重ねて表示された解剖学シェーマ図をモニタ20に表示させることができる。
【0152】
例えば、術者は、
図9に示すように、内視鏡画像、超音波画像および解剖学シェーマ図をモニタ20の画面内に表示させることができる。
【0153】
図9に示すモニタ20の画面内の左部から中央部には超音波画像が表示され、超音波画像の上に臓器の名称Panc, PD, SV, SAが重ねて表示されている。Pancは膵臓、PDは膵管、SVは脾静脈、SAは脾動脈の名称を表す。モニタ20の画面内の右上部には解剖学シェーマ図が表示され、解剖学シェーマ図の上に超音波内視鏡12の先端部40の位置および向きが重ねて表示されている。モニタ20の画面内の右下部には、病変領域が表示されていない内視鏡画像が表示されている。この例の場合、超音波画像は、注目画像として、解剖学シェーマ図および内視鏡画像よりも大きく表示されている。また、モニタ20の画面内の右中央部の解剖学シェーマ図と内視鏡画像との間には、超音波内視鏡12の先端部40を移動させるための操作手順が、「次の観察対象部位:4番目の膵尾部 SVに沿って時計回りに回してください。」という文字情報として表示されている。
【0154】
なお、
図9の例に限定されず、術者は、1の画像、または2以上の画像を任意に組み合わせてモニタ20の画面内に並べて表示させることができる。また、術者は、内視鏡画像、超音波画像、解剖学シェーマ図および操作手順をどの位置に配置するのかを任意に設定することができる。また、術者は、モニタ20に表示されている画像の中から、注目画像を切り替えて表示させることができる。
【0155】
<<表示制御部による表示制御方法>>
次に、表示制御部172による様々な表示の制御方法について説明する。
まず、超音波内視鏡12の先端部40の位置および向きの表示方法について説明する。
【0156】
表示制御部172は、超音波画像認識部168によって認識されたラベル番号に対応する超音波内視鏡12の先端部40の位置および向きを文字情報としてモニタ20に表示させることができる。この場合、表示制御部172により、例えば「現在、超音波内視鏡の先端部は胃内より肝左葉の方向を描出しています。」等のように、超音波内視鏡12の先端部40の位置および向きを説明する文字情報がモニタ20に表示される。また、表示制御部172は、超音波画像認識部168によって認識されたラベル番号に対応する観察対象部位の名称を文字情報としてモニタ20に表示させることができる。
【0157】
また、表示制御部172は、超音波画像認識部168によって認識された超音波内視鏡12の先端部40の位置および向きが画像情報として重ねて表示された解剖学シェーマ図をモニタ20に表示させることができる。この場合、表示制御部172により、
図9の右上部に示すように、解剖学シェーマ図がモニタ20に表示され、超音波内視鏡12の先端部40の位置および向きが画像情報として解剖学シェーマ図上に重ねて表示される。
【0158】
このように、超音波内視鏡12の先端部40の位置および向きをモニタ20に表示させることにより、たとえ超音波画像に不慣れな術者であっても、今現在、超音波内視鏡12の先端部40がどの位置にあって、どの方向を向いていて、どの部位を観察しているのかを確実に把握することができる。
なお、表示制御部172は、超音波内視鏡12の先端部40の位置および向きを文字情報としてモニタ20に表示させ、かつ画像情報としてモニタ20に表示させてもよい。つまり、文字情報および画像情報の両方を同時に表示させてもよい。
【0159】
続いて、操作手順の表示方法について説明する。
【0160】
表示制御部172は、超音波内視鏡12の先端部40を移動させるための操作手順をモニタ20に表示させることができる。この場合、表示制御部172により、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡12の先端部40を移動させるための操作手順が操作手順記憶部174から取得され、操作手順記憶部174から取得された操作手順がモニタ20に表示される。
これにより、たとえ超音波画像に不慣れな術者であっても、被検体の体内において迷うことなく、現在の観察対象部位から次の観察対象部位へ超音波内視鏡12の先端部40を正しく移動させることができる。
【0161】
例えば、表示制御部172は、操作手順を、この操作手順を説明する文字情報としてモニタ20に表示させることができる。
【0162】
この場合、操作手順は、
図9の右中央部に示すように、操作の目印となる1以上の臓器の名称を含んでいてもよい。
図9の操作手順の例では、「SVに沿って時計回りに回してください。」のうちの「SV」が操作の目印となる臓器の名称である。
これにより、術者は、超音波内視鏡12の先端部40を移動させる方向を容易に把握することができ、超音波内視鏡12の先端部40を正しい方向へ移動させることができる。
【0163】
操作の目印となる臓器は、超音波内視鏡12の先端部40を移動させる際の目標物となる臓器であって、超音波内視鏡12の先端部40を移動させる際に描出される臓器、言い換えると、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位へ向かう方向に存在する臓器であれば特に限定されないが、現在の超音波画像に表示されている臓器、現在の超音波画像の超音波内視鏡12の先端部40の位置から一定の範囲内に表示されている臓器、および、定められた複数の臓器、の中から選択された1以上の臓器を例示することができる。
【0164】
また、表示制御部172は、操作手順が、超音波内視鏡12の先端部40の移動ルートを表す画像情報として重ねて表示された解剖学シェーマ図をモニタ20に表示させることができる。
【0165】
この場合、表示制御部172は、解剖学シェーマ図上において、操作の目印となる1以上の臓器の領域を着色し、この領域が着色された解剖学シェーマ図をモニタ20に表示させてもよい。
また、表示制御部172は、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域と、上記の操作の目印となる1以上の臓器の領域とを異なる色に着色し、これらの領域が異なる色に着色された解剖学シェーマ図をモニタ20に表示させてもよい。
【0166】
このように、超音波内視鏡12の先端部40を移動させる方向に存在する臓器の領域を着色することにより、術者は、超音波内視鏡12の先端部40を移動させる方向を容易に把握することができる。
なお、表示制御部172は、超音波内視鏡12の先端部40の位置および向きと、操作手順と、の両方を同時にモニタ20に表示させてもよい。
【0167】
表示制御部172は、
図9の右中央部に示すように、さらに、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の名称を文字情報としてモニタ20に表示させてもよい。
図9の操作手順の例では、「次の観察対象部位:4番目の膵尾部」が、次のラベル番号に対応する観察対象部位の名称である。ラベル番号は、観察対象部位の観察順序に対応付けられているため、ラベル番号から、観察順序がこのラベル番号の次のラベル番号に対応する観察対象部位の名称を得ることができる。
これにより、術者は、次の観察対象部位がどこなのかを容易に把握することができる。
【0168】
その他、表示制御部172は、超音波内視鏡12の先端部40が各々のラベル番号に対応する観察対象部位に到達する毎に、到達した観察対象部位に対応するラベル番号にチェックマークを付与し、
図10に示すように、チェックマークが付与されたラベル番号を文字情報としてモニタ20に表示させてもよい。つまり、超音波内視鏡12の先端部40が到達した観察対象部位に対応するラベル番号にはチェックマークが付与される。
図10の例の場合、ラベル番号の(1)肝左葉、(2)大動脈、腹腔動脈、上腸間膜動脈の合流部、(3)膵体部の左側にチェックマークが付けられ、ラベル番号の(4)膵尾部以降にはチェックマークが付けられていないことから、超音波内視鏡12の先端部40は、ラベル番号の(3)膵体部に対応する観察対象部位まで到達していることが分かる。
また、表示制御部172は、超音波内視鏡12の先端部40が各々のラベル番号に対応する観察対象部位に到達する毎に、解剖学シェーマ図上において、到達した観察対象部位の領域を着色し、到達した観察対象部位の領域が着色された解剖学シェーマ図をモニタ20に表示させてもよい。つまり、超音波内視鏡12の先端部40が到達した観察対象部位の領域は着色される。
【0169】
これにより、術者は、超音波内視鏡12の先端部40が、現在、観察順序が何番目のラベル番号に対応する観察対象部位まで到達しているのかを容易に把握することができる。つまり、術者は、超音波内視鏡12の先端部40が、チェックマークが付与されたラベル番号に対応する観察対象部位まで、または、着色された観察対象部位まで到達していることを確認することができる。これに応じて、術者は、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位が、どの観察対象部位なのかを容易に把握することができる。
【0170】
また、表示制御部172は、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を強調し、観察対象部位の領域が強調された解剖学シェーマ図をモニタ20に表示させてもよい。
例えば、表示制御部172は、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位の領域とは異なる色に着色し、例えば観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域を、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位以外の観察対象部位の領域よりも濃い色あるいは薄い色に着色し、これらの観察対象部位の領域が着色された解剖学シェーマ図をモニタ20に表示させてもよい。
【0171】
これにより、解剖学シェーマ図上において、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位の領域が、これ以外の観察対象部位の領域よりも強調して表示される。このため、術者は、現在のラベル番号に対応する観察対象部位から、観察順序が現在のラベル番号の次のラベル番号に対応する観察対象部位へ超音波内視鏡12の先端部40を容易に移動させることができる。
観察対象部位の領域を強調する方法は上記に限らず、例えば強調したい観察対象部位の領域を太枠で囲む、強調したい観察対象部位の領域だけを着色する、強調したい観察対象部位を示す矢印を付ける等を例示することができる。
【0172】
また、表示制御部172は、移動ルート登録部178から、観察対象部位の観察順序に基づいて超音波内視鏡12の先端部40が理想的に移動された場合の移動ルートを取得し、観察対象部位の観察順序に基づいて超音波内視鏡12の先端部40が理想的に移動された場合の移動ルート、および、術者による実際の操作に基づいて超音波内視鏡12の先端部40が実際に移動された場合の移動ルートを、これらのルートを表す画像情報として解剖学シェーマ図上に並べてモニタ20に表示させてもよい。
これにより、術者は、理想的な移動ルートを確認しながら、かつ、自分自身の操作による移動ルートを確認しながら、超音波内視鏡12の先端部40を移動させることができる。従って、術者は、実際のルートが理想的なルートに一致するように、超音波内視鏡12の先端部40を移動させることができ、その結果、実際の移動ルートを理想的な移動ルートに近づけることができる。
【0173】
<<超音波画像認識部168および内視鏡画像認識部170の配置場所>>
次に、超音波画像認識部168および内視鏡画像認識部170の配置場所について説明する。
【0174】
超音波画像認識部168は、本実施形態の場合、超音波観測装置14に内蔵されているが、これに限らず、例えば内視鏡プロセッサ16に内蔵されていてもよいし、あるいは、超音波観測装置14および内視鏡プロセッサ16の外部に設けられていてもよい。
【0175】
本実施形態のように、超音波画像認識部168が超音波観測装置14に内蔵されている場合、
図11に示すように、内視鏡画像が、内視鏡プロセッサ16から、超音波観測装置14へ転送される。
【0176】
また、超音波画像認識部168が内視鏡プロセッサ16に内蔵されている場合、
図12に示すように、超音波画像が、超音波観測装置14から、内視鏡プロセッサ16へ転送される。
【0177】
超音波画像認識部168が超音波観測装置14および内視鏡プロセッサ16の外部に設けられている場合、
図13に示すように、内視鏡画像が、内視鏡プロセッサ16から超音波観測装置14へ転送され、さらに、内視鏡画像および超音波画像が、超音波観測装置14から、超音波画像認識部168へ転送される。
この場合、超音波画像を、超音波観測装置14から内視鏡プロセッサ16へ転送し、さらに、内視鏡画像および超音波画像を、内視鏡プロセッサ16から超音波画像認識部168へ転送してもよい。あるいは、内視鏡画像を、内視鏡プロセッサ16から超音波観測装置14へ転送し、さらに、超音波観測装置14から超音波画像認識部168へ転送するのではなく、内視鏡プロセッサ16から超音波画像認識部168へ転送してもよい。
【0178】
表示制御部172は、モニタ20へ出力される最終的な画像信号と、モニタ20と、の間に配置される。
【0179】
表示制御部172は、超音波画像認識部168が超音波観測装置14に内蔵されている場合、例えば超音波観測装置14に内蔵されるか、あるいは、超音波観測装置14とモニタ20との間に設けることができる。
また、表示制御部172は、超音波画像認識部168が内視鏡プロセッサ16に内蔵されている場合、例えば内視鏡プロセッサ16に内蔵されるか、あるいは、内視鏡プロセッサ16とモニタ20との間に設けることができる。
さらに、表示制御部172は、超音波画像認識部168が超音波観測装置14および内視鏡プロセッサ16の外部に設けられている場合、例えば超音波観測装置14および内視鏡プロセッサ16の外部に設けることができる。
【0180】
表示制御部172は、術者からの指示に応じて、内視鏡画像(病変領域の表示のあり/なし)、超音波画像(臓器の名称の表示のあり/なし)、および解剖学シェーマ図(超音波内視鏡12の先端部40の位置および向きの表示のあり/なし)の中から、1の画像または2以上の画像を並べてモニタ20の画面内に表示させる。
【0181】
内視鏡画像認識部170の配置場所も、超音波画像認識部168の配置場所と同様に決定することができる。つまり、内視鏡画像認識部170は、本実施形態の場合、内視鏡プロセッサ16に内蔵されているが、これに限らず、例えば超音波観測装置14に内蔵されていてもよいし、あるいは、超音波観測装置14および内視鏡プロセッサ16の外部に設けられていてもよい。
【0182】
このように、超音波内視鏡システム10において、超音波画像認識部168および内視鏡画像認識部170の配置場所は固定的ではなく、超音波画像認識部168および内視鏡画像認識部170を任意の配置場所に設けることができる。
【0183】
本発明の装置において、例えば、内視鏡画像認識部170(病変領域検出部102、位置情報取得部104、選択部106、および病変領域検出制御部108)、超音波画像認識部168(ラベル番号検出部112、位置情報取得部114、選択部116、ラベル番号検出制御部118、臓器名称検出部120、および位置及び向き検出部122)、表示制御部172、警告発生部176および操作卓(指示取得部)100等の各種の処理を実行する処理部(Processing Unit)のハードウェア的な構成は、専用のハードウェアであってもよいし、プログラムを実行する各種のプロセッサまたはコンピュータであってもよい。また、操作手順記憶部174および移動ルート登録部178のハードウェア的な構成は、専用のハードウェアであってもよいし、あるいは半導体メモリ等のメモリであってもよい。
【0184】
各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理をさせるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
【0185】
1つの処理部を、これら各種のプロセッサのうちの1つで構成してもよいし、同種または異種の2つ以上のプロセッサの組み合わせ、例えば、複数のFPGAの組み合わせ、または、FPGAおよびCPUの組み合わせ等によって構成してもよい。また、複数の処理部を、各種のプロセッサのうちの1つで構成してもよいし、複数の処理部のうちの2以上をまとめて1つのプロセッサを用いて構成してもよい。
【0186】
例えば、サーバおよびクライアント等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。また、システムオンチップ(System on Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。
【0187】
さらに、これらの各種のプロセッサのハードウェア的な構成は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(Circuitry)である。
【0188】
また、本発明の方法は、例えば、その各々のステップをコンピュータに実行させるためのプログラムにより実施することができる。また、このプログラムが記録されたコンピュータ読み取り可能な記録媒体を提供することもできる。
【0189】
以上、本発明について詳細に説明したが、本発明は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良および変更をしてもよいのはもちろんである。
【符号の説明】
【0190】
10 超音波内視鏡システム
12 超音波内視鏡
14 超音波観測装置
16 内視鏡プロセッサ
18 光源装置
20 モニタ
21a 送水タンク
21b 吸引ポンプ
22 挿入部
24 操作部
26 ユニバーサルコード
28a 送気送水ボタン
28b 吸引ボタン
29 アングルノブ
30 処置具挿入口
32a 超音波用コネクタ
32b 内視鏡用コネクタ
32c 光源用コネクタ
34a 送気送水用チューブ
34b 吸引用チューブ
36 超音波観察部
38 内視鏡観察部
40 先端部
42 湾曲部
43 軟性部
44 処置具導出口
45 処置具チャンネル
46 超音波振動子ユニット
48 超音波振動子
50 超音波振動子アレイ
54 バッキング材層
56 同軸ケーブル
60 FPC
74 音響整合層
76 音響レンズ
82 観察窓
84 対物レンズ
86 固体撮像素子
88 照明窓
90 洗浄ノズル
92 配線ケーブル
100 操作卓
102 病変領域検出部
102A~102K 第1~第12検出部
104、114 位置情報取得部
106、116 選択部
108 病変領域検出制御部
112 ラベル番号検出部
112A~112L 第1~第12検出部
118 ラベル番号検出制御部
120 臓器名称検出部
122 位置及び向き検出部
140 マルチプレクサ
142 受信回路
144 送信回路
146 A/Dコンバータ
148 ASIC
150 シネメモリ
151 メモリコントローラ
152 CPU
154 DSC
158 パルス発生回路
160 位相整合部
162 Bモード画像生成部
164 PWモード画像生成部
166 CFモード画像生成部
168 超音波画像認識部
170 内視鏡画像認識部
172 表示制御部
174 操作手順記憶部
176 警告発生部
178 移動ルート登録部