特許第5985084号(P5985084)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オリンパス株式会社の特許一覧

<>
  • 特許5985084-内視鏡プロセッサ 図000002
  • 特許5985084-内視鏡プロセッサ 図000003
  • 特許5985084-内視鏡プロセッサ 図000004
  • 特許5985084-内視鏡プロセッサ 図000005
  • 特許5985084-内視鏡プロセッサ 図000006
  • 特許5985084-内視鏡プロセッサ 図000007
  • 特許5985084-内視鏡プロセッサ 図000008
  • 特許5985084-内視鏡プロセッサ 図000009
  • 特許5985084-内視鏡プロセッサ 図000010
  • 特許5985084-内視鏡プロセッサ 図000011
  • 特許5985084-内視鏡プロセッサ 図000012
  • 特許5985084-内視鏡プロセッサ 図000013
  • 特許5985084-内視鏡プロセッサ 図000014
  • 特許5985084-内視鏡プロセッサ 図000015
  • 特許5985084-内視鏡プロセッサ 図000016
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5985084
(24)【登録日】2016年8月12日
(45)【発行日】2016年9月6日
(54)【発明の名称】内視鏡プロセッサ
(51)【国際特許分類】
   A61B 1/04 20060101AFI20160823BHJP
【FI】
   A61B1/04 370
【請求項の数】7
【全頁数】25
(21)【出願番号】特願2015-558278(P2015-558278)
(86)(22)【出願日】2015年6月17日
(86)【国際出願番号】JP2015067403
(87)【国際公開番号】WO2015194580
(87)【国際公開日】20151223
【審査請求日】2015年11月30日
(31)【優先権主張番号】特願2014-126365(P2014-126365)
(32)【優先日】2014年6月19日
(33)【優先権主張国】JP
【早期審査対象出願】
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(74)【代理人】
【識別番号】100074099
【弁理士】
【氏名又は名称】大菅 義之
(72)【発明者】
【氏名】尾島 舞
(72)【発明者】
【氏名】本田 恭子
(72)【発明者】
【氏名】小泉 雄吾
【審査官】 門田 宏
(56)【参考文献】
【文献】 特開平10−258030(JP,A)
【文献】 特開2010−172673(JP,A)
【文献】 特開2009−201994(JP,A)
【文献】 特開2012−010733(JP,A)
【文献】 特開2002−085343(JP,A)
【文献】 国際公開第2013/150745(WO,A1)
【文献】 国際公開第2012/153568(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00 − 1/317
(57)【特許請求の範囲】
【請求項1】
被写体の撮影により得られた映像信号が入力される映像信号入力部と、
ユーザのレリーズ操作によるレリーズ信号が入力されるレリーズ信号入力部と、
前記映像信号入力部に接続されるとともに入力された前記映像信号における各フレーム画像について特徴量が所定の閾値を超える関心領域を検出する関心領域検出部と、
前記関心領域検出部により検出された関心領域をズーム処理した拡大画像を生成するズーム処理部と、
前記ズーム処理部で生成された拡大画像と前記関心領域を検出したフレーム画像とを関連付けて保持する記憶部と、
前記レリーズ信号入力部に対して前記レリーズ信号が入力されたタイミングに対応する前記フレーム画像及び前記拡大画像を前記記憶部からあわせて外部に出力する出力部と、
を有することを特徴とする内視鏡プロセッサ。
【請求項2】
前記関心領域検出部は、前記フレーム画像を複数のグリッドに分割し、前記複数のグリッドのうち前記特徴量が前記所定の閾値を上回るグリッドの集合を前記関心領域として検出する、ことを特徴とする請求項1記載の内視鏡プロセッサ。
【請求項3】
前記関心領域検出部は、赤色(R)レベルの値、または特殊光観察時の色彩パターンを用いて前記特徴量を算出することを特徴とする請求項1記載の内視鏡プロセッサ。
【請求項4】
前記関心領域検出部は、前記フレーム画像が白色光観察画像であるときは、前記複数のグリッドの各々における赤色(R)のレベルの代表値が前記フレーム画像における前記赤色(R)の代表値に対して高く、且つ、エッジ構造物を含む場合に、該当するグリッドを前記関心領域として検出することを特徴とする請求項3記載の内視鏡プロセッサ。
【請求項5】
前記関心領域検出部は、前記フレーム画像が狭帯域光観察画像であるときは、前記複数のグリッドの各々における青色(B)及び緑色(G)の反射レベルの代表値が前記フレーム画像における前記青色(B)及び緑色(G)の代表値に対して低い場合、または、前記複数のグリッドの各々における前記青色(B)及び緑色(G)の吸収レベルの代表値が前記フレーム画像における前記青色(B)及び緑色(G)の吸収レベルの代表値に対して高い場合に、該当するグリッドを前記関心領域として検出することを特徴とする請求項3記載の内視鏡プロセッサ。
【請求項6】
前記関心領域検出部は、前記フレーム画像が光線力学的診断画像であるときは、前記複数のグリッドの各々における赤色(R)のレベルの代表値が前記フレーム画像における前記赤色(R)のレベルの代表値に対して高い場合に、該当するグリッドを前記関心領域として検出することを特徴とする請求項3記載の内視鏡プロセッサ。
【請求項7】
前記出力部は、前記フレーム画像のうち、前記関心領域を中心にマーキングされた画像を出力することを特徴とする請求項1乃至6のいずれか1項に記載の内視鏡プロセッサ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、スコープで撮影して得られた被写体の内視鏡画像に画像処理を施し、得られる内視鏡映像や静止画のモニタへの表示や記録をすることのできる内視鏡システムに関する。
【背景技術】
【0002】
従来より、内視鏡検査においては、スコープで被写体である患者等の体腔内を撮影し、得られた映像信号に対してプロセッサにて必要な画像処理を施し、これをモニタ等に表示する。そして、モニタ等への表示を行いつつ、検査において病変部と思われる部位が発見されると、その箇所の静止画の記録や印刷等を行っている。内視鏡検査を行った医師等は、検査後に記録した静止画等を改めて確認する。このとき、従来技術では検査時の所見等を静止画と併せて記録することはできなかったため、改めて後日確認を行う際に画像のうちのどの部分に着目していたか等を把握することはできなかった。
【0003】
内視鏡画像のうちのカーソルで指定した特定の領域を関心領域として、その領域の座標情報を観察画像とともに記録しておく技術について開示されている(例えば、特許文献1)。
【0004】
また、内視鏡先端部の被検体の体内の位置を、その位置における内視鏡画像の静止画像と関連付けて記録しておく技術についても開示されている(例えば、特許文献2)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平10−258030号公報
【特許文献2】特開2006−223850号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
近年は、内視鏡検査における手技が複雑化の傾向にある。このため、検査中に、スコープの操作を行う医師が所望の位置における画像のうちの着目した領域を自らの操作によって記録しておくのは困難になってきている。また、検査後に改めて静止画の確認をする際には、検査時に着目した領域がどこであるのかを即座に見つけるのは容易ではない。
【0007】
本発明は、内視鏡検査において医師が病変部の疑いありと判断した領域がわかるようにモニタへの表示や記録装置への記録をすることにより、検査後の業務の効率化や診断の見落としを防ぐことを可能とする技術を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明の一態様に係る内視鏡プロセッサによれば、被写体撮影により得られた映像信号が入力される映像信号入力部と、ユーザのレリーズ操作によるレリーズ信号が入力されるレリーズ信号入力部と、前記映像信号入力部に接続されるとともに、入力された前記映像信号における各フレーム画像について特徴量が所定の閾値を超える関心領域を検出する関心領域検出部と、前記関心領域検出部により検出された関心領域をズーム処理した拡大画像を生成するズーム処理部と、前記ズーム処理部で生成された拡大画像と前記関心領域を検出したフレーム画像とを関連付けて保持する記憶部と、前記レリーズ信号入力部に対して前記レリーズ信号が入力されたタイミングに対応する前記フレーム画像及び前記拡大画像を前記記憶部からあわせて外部に出力する出力部と、を有することを特徴とする。
【発明の効果】
【0009】
本発明によれば、内視鏡検査後の業務の効率化や診断の見落としを防ぐことが可能となる。
【図面の簡単な説明】
【0010】
図1】第1の実施形態に係る内視鏡システムの構成図である。
図2】映像処理回路の詳細ブロック図である。
図3】第1の実施形態に係る内視鏡システムにおけるビデオプロセッサによる映像信号の処理動作を示したフローチャートである。
図4】Rエンハンス領域算出部によるRエンハンス領域算出処理を示したフローチャートである。
図5】Rエンハンス領域の算出方法について説明する図である。
図6】エッジ領域算出部によるエッジ検出領域算出処理を示したフローチャートである。
図7】エッジ検出領域の算出方法について説明する図である。
図8】関心領域位置情報算出部による関心領域の位置情報を算出する処理を示したフローチャートである。
図9】白色光(通常光)モードにおいて検出される関心領域について説明する図である。
図10】バッファメモリに保存した画像のデータを記録先に送信する処理を示したフローチャートである。
図11】検出された関心領域の出力方法を例示する図である。
図12】NBI吸収領域算出部による特殊光吸収/反射領域算出処理を示したフローチャートである。
図13A】第2の実施形態に係る内視鏡システムによる内視鏡検査のレポートの作成方法を説明する図(その1)である。
図13B】第2の実施形態に係る内視鏡システムによる内視鏡検査のレポートの作成方法を説明する図(その2)である。
図14】第3の実施形態に係る内視鏡システムによるバイタル情報の異常への対処方法推奨案のユーザへの提示方法を説明する図である。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について、図面を参照して詳しく説明する。
<第1の実施形態>
図1は、本実施形態に係る内視鏡システムの構成図である。図1に示す内視鏡システム100は、ビデオプロセッサ1、スコープ2、モニタ3、画像記録装置4及びサーバ5を有する。内視鏡システム100は、スコープ2で撮影して得られる映像信号をビデオプロセッサ1で画像処理し、得られた内視鏡画像の映像信号モニタ3への表示や、画像記録装置4等への記録を行う。
【0012】
スコープ2は、CCD(Charge Coupled Device)21及びレリーズスイッチ22を含む。スコープ2は、ユーザによるレリーズスイッチ22の操作等のレリーズトリガをビデオプロセッサ1に通知する。スコープ2は、CCD21にて被写体を撮影し、得られる映像信号をビデオプロセッサ1に送信する。
【0013】
ビデオプロセッサ1は、FPGA(Field-Programmable Gate Array)等の制御デバイス内にCPU12が内蔵されており、このほか、映像処理回路11及び不揮発性メモリ13を有する。ビデオプロセッサ1は、外部インターフェースとしては、キーボード等の入力手段7、モニタ3への出力手段、画像記録装置4への通信手段及び映像信号の出力手段、外部記憶装置であるサーバ5への通信手段等を有する。ビデオプロセッサ1は、上記レリーズトリガの通知にしたがって映像を静止画として記録し、設定された保存場所に保存する。
【0014】
映像処理回路11は、スコープ2から入力される映像信号に対して必要な画像処理を施す。映像処理回路11は、前段処理部61、カラーエンハンス処理部62、エッジ検出部63、NBI(Narrow Band Imaging、狭帯域光観察)処理部64、その他処理部65、後段処理部66、位置情報生成部67、ズーム処理部68及びバッファメモリ69を有する。
【0015】
詳しくは図2等を参照して説明するが、本実施形態においては、映像処理回路11の構成のうち、位置情報生成部67及びズーム処理部68により、スコープ2から受信した映像信号を処理して得られる内視鏡画像について、医師等の内視鏡システム100のユーザが病変部と思われる箇所を特定し、その拡大画像を得る。映像処理回路11を構成する各部についても、図2等を参照して詳しく説明する。
【0016】
不揮発性メモリ13は、映像処理回路11にて画像処理して得られた内視鏡画像のうち、サーバ5に記録すべき静止画等を一時的に記憶する画像記憶領域31と、ログ情報記憶領域32とを有する。ログ情報記憶領域32に記憶されるログ情報については、第2の実施形態の説明において述べることとする。
【0017】
CPU12は、ビデオプロセッサ1と接続されているスコープ2等からのレリーズ要求等を受け付けるとともに、受け付けたレリーズ要求に基づき、映像処理回路11や画像記録装置4にレリーズ信号を伝送する。また、CPU12は、ビデオプロセッサ1を構成する各部の制御を行う。
【0018】
モニタ3は、ビデオプロセッサ1において必要な処理の施された内視鏡画像の映像信号を受信し、これに基づき内視鏡映像等を表示する。
画像記録装置4は、CPU42、不揮発性メモリであるキャプチャメモリ41及び印刷処理部44を有する。外部インターフェースとしては、ビデオプロセッサ1との通信手段及びビデオプロセッサ1からの映像信号の入力手段、自装置のフロントパネルに設けられたボタン等の入力手段8を有する。印刷処理部44は、入力手段8を介してユーザからの要求があった場合は、キャプチャメモリ41の画像記憶領域43に格納されている画像データを印刷するために必要な処理を実行する。
【0019】
サーバ5は、CPU52、不揮発性メモリ51及び出力処理部54を有する。外部インターフェースとしては、サーバ5に接続されるクライアントPC9等との通信手段を有する。出力処理部54は、クライアントPC9等を介してユーザからの要求があった場合は、不揮発性メモリ51の画像記憶領域53に格納されている画像データを所望の装置等宛に出力するための処理を実行する。
【0020】
図2は、映像処理回路11の詳細ブロック図である。
映像処理回路11の前段処理部61は、スコープ2から入力された映像信号に対して必要な画像処理を施す前の前段処理を実施する。カラーエンハンス処理部62は、画像の色強調処理を実施する。エッジ検出部63は、画像に現れる突起や凹凸等の輪郭によるエッジ構造物を強調するための処理を行う。NBI処理部64は、観察光モードがNBI(Narrow Band Imaging、狭帯域光)である場合には、狭帯域光を照射して得られる画像の処理を行う。その他映像処理部65は、カラーエンハンス処理やエッジ検出、NBI画像用の処理以外の必要な画像処理を施す。その他映像処理部65が実施する処理については、公知の技術を用いているため、ここでは、詳細な説明については省略する。
【0021】
本実施形態に係る内視鏡システム100では、その他映像処理部65から出力された映像信号は、レリーズ信号の有無にかかわらず、後段処理部66に入力される。ビデオプロセッサ1は、後段処理部66で必要な後段処理を施して得られる映像信号をモニタ3に送信する。これととともに、スコープ2のレリーズスイッチ22等のレリーズ要求に基づくレリーズ信号をCPU12から受信したか否かによらず、その他映像処理部65から出力された映像信号は、ズーム処理部68を介してバッファメモリ69にも送信される。
【0022】
その一方で、位置情報生成部67は、画像処理の過程で生成されるデータを用いて関心領域の位置を表す情報を生成し、生成した情報をズーム処理部68に出力する。ズーム処理部68は、画像が関心領域を含む場合には、関心領域のズーム画像を生成し、バッファメモリ69に出力する。ズーム処理部68は、生成した関心領域のズーム画像のデータと、その他映像処理部65から入力された全体画像のデータとを同期させてバッファメモリ69に送信する。こうして、本実施形態においては、ビデオプロセッサ1は、内視鏡画像(全体画像)に加えて、関心領域を検出した場合は、関心領域のズーム画像についても、レリーズスイッチ22等からのレリーズ要求に基づくレリーズ信号にしたがって、外部に出力することができる。
【0023】
関心領域の位置を表す情報を生成する位置情報生成部67は、Rエンハンス領域算出部71、エッジ領域算出部72、NBI吸収領域算出部73、関心領域位置情報算出部74及びデータ出力部75を有する。位置情報生成部67は、上述のカラーエンハンス処理部62、エッジ検出部63及びNBI処理部64それぞれにおける処理の結果を画像の種類に応じて利用して、フレーム画像の中から関心領域の有無及び関心領域が存在する場合はその位置を表す情報を定義し、出力する。
【0024】
具体的には、位置情報生成部67のRエンハンス領域算出部71は、カラーエンハンス処理部62における色強調処理において求めた画像中の赤色(R)の値が高い領域を求める。エッジ領域算出部72は、エッジ検出部63がエッジ検出処理で求めた画像中のエッジの現れる領域を求める。NBI吸収領域算出部73は、NBI処理部64でNBI画像処理を施した後の画像を用いて、NBI画像のうちの緑色(G)や青色(B)の吸収率の高い領域を求める。
【0025】
関心領域位置情報算出部74は、処理対象の画像の種類に応じて、Rエンハンス領域算出部71、エッジ領域算出部72及びNBI吸収領域算出部73の中から必要な情報を取得し、これを用いて、関心領域のフレーム画像中の位置情報を算出する。データ出力部75は、関心領域位置情報算出部74で求めた関心領域の位置情報を、ズーム処理部68に出力する。
【0026】
上記のとおり、ズーム処理部68は、その他映像処理部65から出力される画像処理の施された映像信号と、位置情報生成部67のデータ出力部75から出力される関心領域の位置情報とから、関心領域のズーム画像を生成する。生成された拡大領域のズーム画像のデータは、対応する全体画像のデータとともにバッファメモリ69に一時的に保持されたのち、レリーズ信号や画像出力信号にしたがって、それぞれ画像記録装置4や不揮発性メモリ13に向けて出力される。
【0027】
このように、本実施形態に係る内視鏡システム100においては、ビデオプロセッサ1が、連続したフレーム画像のそれぞれについて関心領域の探索を行う。そして、関心領域の存在するフレーム画像のうち、レリーズ信号や画像出力信号に対応するフレームの画像については、関心領域のズーム画像とともに画像記録装置4やビデオプロセッサ1内の不揮発性メモリ13等に出力する。
【0028】
以下に、映像処理回路11内の位置情報生成部67の動作を中心に、画像の中から関心領域の探索を行ってそのズーム画像を生成し、画像記録装置4等に記録を行う方法について、図面を参照して具体的に説明する。
【0029】
図3は、本実施形態に係る内視鏡システム100におけるビデオプロセッサ1による、映像信号の処理動作を示したフローチャートである。ビデオプロセッサ1の映像処理回路11は、スコープ2から1フレーム分の観察画像が入力されるごとに、図3に示す一連の処理を実行する。
【0030】
まず、ステップS1で、映像処理回路11は、前段処理部61において、映像信号のデジタル処理の前処理を実行させる。そして、ステップS2で、映像処理回路11は、観察光モードの判定を行う。ステップS2の判定は、CPU12から通知される観察光モード信号に基づき行う。実施例では、図3にも示すとおり、白色光(通常光)モード、NBIモード及びPPD(photodynamic diagnosis、光線力学的診断)モードの3とおりの観察光モードのうち、いずれが設定されているかを判定する。白色光モード、NBIモード及びPPDモードの場合、それぞれステップS3、ステップS4及びステップS5へと処理を移行させる。
【0031】
以下の説明においては、観察光モードごとに、どのようにして画像から関心領域を検出し、検出した関心領域の画像を出力するかについて説明していくこととする。
(白色光(通常光)観察画像の処理)
【0032】
白色光モードで撮影を行って得られる内視鏡画像においては、一般的に、病変部は他の箇所に比べて赤みが強く、また病変部には凹凸がある、という特徴を有している。この特徴を利用して、赤みの強い領域、画像に凹凸等のある領域を判定して、内視鏡画像の中から関心領域の検出を行う。
【0033】
図3のステップS3では、映像処理回路11は、Rエンハンス領域算出部71及びエッジ領域算出部72に対し、演算を行わせる。Rエンハンス領域算出部71及びエッジ領域算出部72は、上記のとおり、それぞれカラーエンハンス処理部62及びエッジ検出部63において処理を実施した結果得られる画像データを利用して演算を行う。Rエンハンス領域算出部71によるRエンハンス領域算出処理及びエッジ領域算出部72によるエッジ検出領域算出処理を、図4乃至図7を参照して後に詳しく説明する。
【0034】
ステップS3においてRエンハンス領域及びエッジ検出領域を算出すると、ステップS6に進む。ステップS6では、映像処理回路11は、関心領域位置情報算出部74に、関心領域の位置情報を算出させる。関心領域の位置情報の算出は、ステップS3において求めたRエンハンス領域及びエッジ検出領域に基づき算出する。関心領域の位置情報の算出方法については、図8及び図9等を参照して後に詳しく説明する。
【0035】
ステップS7で、映像処理回路11は、ステップS6において算出した関心領域の位置情報を参照し、画像に関心領域が含まれるか否かを判定する。画像が関心領域を含む場合は、ステップS8へ、関心領域を含まない場合は、ステップS10へとそれぞれ処理を移行させる。
【0036】
ステップS8で、映像処理回路11は、ズーム処理部68に対し、関心領域のズーム画像を生成させる。関心領域のズーム画像は、映像処理回路11のその他映像処理部65から出力された全体画像のデータと、データ処理部75から出力された関心領域の位置情報とに基づき、関心領域のズーム画像を生成する。そして、ステップS9で、映像処理回路11は、バッファメモリ69に全体画像のデータとステップS8にて生成した関心領域のズーム画像のデータとを送信し、処理を終了する。
【0037】
なお、画像が関心領域を含まない場合は、ステップS10で、映像処理回路11は、バッファメモリ69に全体画像のデータのみを送信し、処理を終了する。
また、実施例では、ステップS8において関心領域のズーム画像を生成しているが、必ずしもズーム画像を生成する必要はない。
【0038】
このように、映像処理回路11では、各フレームの画像について関心領域の探索を行う。画像から関心領域を検出すると、全体画像のデータだけでなく、関心領域の(ズーム)画像のデータについても、全体画像と同期して出力することにより、全体画像と関連付けてバッファメモリ69に保持させる。全体画像のデータを映像処理回路11外部に出力する際に、バッファメモリ69に全体画像のデータと関連付けられた関心領域の(ズーム)画像のデータがある場合には、全体画像のデータと併せてこれを出力する。
【0039】
白色光(通常光)モードにおいて、内視鏡画像から関心領域を検出する際に利用するRエンハンス領域及びエッジ検出領域の算出方法について、図4乃至図7を参照して説明する。
【0040】
図4は、Rエンハンス領域算出部71によるRエンハンス領域算出処理を示したフローチャートである。Rエンハンス領域算出部71は、図3においてステップS2からステップS3へと処理が移行したことを契機として、図4に示す一連の処理を開始する。
【0041】
まず、ステップS11で、Rエンハンス領域算出部71は、カラーエンハンス処理部62からカラーエンハンス処理後の画像データを取得する。そして、ステップS12で、Rエンハンス領域算出部71は、画像全体についての赤色(R)成分の平均値Raveを算出すると、ステップS13に進む。
【0042】
Rエンハンス領域算出処理では、まず、ステップS13〜ステップS16の処理により、セルごとの赤みが所定レベル以上であるかを判断していく。以下の実施例では、複数の画素からなる1区画を「セル」とし、所定数のセルを含む所定サイズの領域を「グリッド」ということとする。
【0043】
ステップS13では、Rエンハンス領域算出部71は、セルごとの赤色(R)成分の値の平均値REHとステップS12で算出した平均値Raveとの比REH/Raveが所定の設定値以上であるか否かを判定する。比REH/Raveが所定の設定値以上である場合は、ステップS15へと処理を移行させ、比REH/Raveが所定の設定値未満である場合は、ステップS14へと処理を移行させる。これについて、図5を参照して説明する。
【0044】
図5は、Rエンハンス領域の算出方法について説明する図である。
上記のとおり、実施例では、セルCごとにR成分の値REHと画像全体のR成分の平均値Raveとを比較する。セルCのR成分の値REHの画像全体のR成分の平均値Raveに対する比「REH/Rave」が所定の設定値以上であれば、そのセルCは、赤みが強いセルであると判定する。また、比「REH/Rave」が所定の設定値未満であれば、そのセルCは、赤みの弱いセルであると判定する。所定の設定値は、任意の値を設定可能であり、以降の処理で使用する設定値についても同様である。図5においては、赤みの強いセルを黒点で表し、グリッドG内の他の箇所(黒点の存在しない白色の箇所)は、赤みの弱いセルを表している。
【0045】
こうして、ステップS14(REH/Rave<設定値のとき)では、Rエンハンス領域算出部71は、ステップS13で比較に用いたセルCのRエンハンスレベルとして、値「0」を設定し、ステップS15(REH/Rave≧設定値のとき)では、値「1」を設定する。セルのRエンハンスレベルは、そのセルCが赤みの強いセルであるか否かを示す。
【0046】
ステップS16で、Rエンハンス領域算出部71は、画像の全てのセルに対してステップS13の判定を行ったか、すなわち、全てのセルCに対してRエンハンスレベルを設定したか否かを判定する。未判定のセルCが存在する場合は、ステップS13に戻り、未判定のセルCについて上記の処理を実行する。全てのセルCに対しRエンハンスレベルを設定する処理が完了すると、ステップS17に進む。
【0047】
ステップS17〜ステップS20の処理では、グリッドごとに、赤みが所定のレベル以上であるか否かを判断していく。
【0048】
ステップS17では、Rエンハンス領域算出部71は、先のステップにおいて設定したRエンハンスレベルを用いて、グリッドごとのRエンハンスレベル値「1」のセルCの密度NREH=1が所定の設定値以上であるか否かを判定する。例えば図5中のグリッドG21とG32とを比較して考える。グリッドG21のうち、Rエンハンスレベル値が「1」のセルCは1個のみであり、このグリッドG21については、密度NREH=1は相対的に低いといえる。一方で、グリッドG32については、Rエンハンスレベル値が「1」のセルCが多数存在し、このグリッドG32の密度NREH=1は相対的に高いといえる。実施例では、グリッドG21における密度NREH=1は所定の設定値未満で、赤みの弱い領域であり、グリッドG32の密度NREH=1は所定の設定値以上で、赤みの強い領域であるとする。
【0049】
こうして、ステップS18(NREH=1<設定値のとき)では、Rエンハンス領域算出部71は、ステップS17で判定に用いたグリッドGについて、Rエンハンス領域情報に値「0」を設定し、ステップS19(NREH=1≧設定値のとき)では、値「1」を設定する。グリッドGのRエンハンス領域情報とは、関心領域の算出処理においてそのグリッドGが赤みの強いグリッドであるか否かを示す。上記の例では、グリッドG21のRエンハンス領域情報には、値「0」を設定し、グリッドG32については、値「1」を設定する。
【0050】
ステップS20で、Rエンハンス領域算出部71は、画像の全てのグリッドに対してステップS17の判定を行ったか、すなわち、全てのグリッドGに対してRエンハンス領域情報を設定したか否かを判定する。未判定のグリッドGが存在する場合は、ステップS17に戻り、未判定のグリッドGについて上記の処理を実行する。全てのグリッドGに対しRエンハンス領域情報の設定を終えると、処理を終了する。図5では、Rエンハンス領域情報に値「1」の設定されたグリッドG、すなわち、Rエンハンス領域として検出された領域「AREAren」を太線で囲って強調している。
【0051】
なお、図4においては、まず、セルごとに赤みの強さを判断し、次に、グリッドごとに赤みの強いセルを多く含む(密度NREH=1≧設定値)グリッドを判定しているが、Rエンハンス領域の検出方法は、これには限定されない。例えば、セルごとの赤みの強さの判定は行わず、各グリッドについての赤色(R)成分の平均値Rgaveと、画像全体についての平均値Raveとを比較して、比Rgave/Raveが所定値以上である場合にはそのグリッドをRエンハンス領域と判定する構成とすることもできる。図4の方法でRエンハンス領域の判定を行う場合には、高精度なRエンハンス領域の検出が可能となり、グリッドごとに比Rgave/Raveを判定する場合には、計算時間を短縮することができる。
【0052】
図6は、エッジ領域算出部72によるエッジ検出領域算出処理を示したフローチャートである。エッジ領域算出部72は、図3においてステップS2からステップS3へと処理が移行したことを契機として、図6に示す一連の処理を開始する。
【0053】
まず、ステップS31で、エッジ領域算出部72は、エッジ検出部63からエッジ検出処理後の画像データを取得する。そして、ステップS32で、エッジ領域算出部72は、画像データのエッジレベルの平均値Eaveを算出する。
【0054】
以降の処理においては、上記のRエンハンス領域の算出処理(図4)と同様に、実施例では、ステップS33〜ステップS35の処理で、セルCごとにエッジの強さを判定する。そして、ステップS36〜ステップS40の処理で、セルCごとのエッジの強さの判定結果を用いて、グリッドGごとにエッジ検出領域であるか否かを判定していく。
【0055】
ステップS33では、エッジ領域算出部72は、セルごとのエッジの強さEdgeとステップS32で算出した画像全体のエッジの強さの平均値Eaveとの比「Edge/Eave」が所定の設定値以上であるか否かを判定する。比「Edge/Eave」が所定の設定値以上である場合は、ステップS35へ、所定の設定値未満である場合は、ステップS34へと処理を移行させる。
【0056】
図7は、エッジ検出領域の算出方法について説明する図である。
上記のとおり、まず、セルCのエッジの強さEdgeと画像全体のエッジの強さEaveとを比較する。セルCのエッジの強さが画像全体のエッジの強さEaveに対する比Edge/Eaveが所定の設定値以上であれば、そのセルCは、エッジが検出されたセルであると判定する。また、比Edge/Eaveが所定の設定値未満であれば、そのセルCからはエッジが検出されなかったと判定する。図7においては、エッジの検出されたセルを黒点で表し、グリッドG内の他の箇所(黒点の存在しない白色の箇所)はエッジの検出されなかったセルを表している。
【0057】
こうして、ステップS34(Edge/Eave<設定値のとき)では、エッジ領域算出部72は、ステップS33で比較に用いたセルCのエッジレベルとして、値「0」を設定し、ステップS35(Edge/Eave≧設定値のとき)では、値「1」を設定する。セルのエッジレベルとは、そのセルCからエッジが検出されたか否かを示す。
【0058】
ステップS36で、エッジ領域算出部72は、画像の全てのセルに対してステップS33の判定を行ったか、すなわち、全てのセルCに対してエッジレベルを設定したか否かを判定する。未判定のセルCが存在する場合は、ステップS33に戻り、未判定のセルCについて上記の処理を実行する。全てのセルCに対しエッジレベルを設定する処理が完了すると、ステップS37に進む。
【0059】
ステップS37では、エッジ領域算出部72は、先のステップにおいて設定したエッジレベルを用いて、グリッドごとのエッジレベル値「1」のセルCの密度NEdge=1が所定の設定値以上であるか否かを判定する。例えば図7のグリッドG21では、エッジレベル値が「1」のセルの数、すなわちエッジレベルの高いセルの密度NEdge=1が、所定の設定値未満であると判定する。これに対し、グリッドG22では、エッジレベルの高いセルの密度NEdge=1が、所定の設定値以上であると判定する。
【0060】
こうして、ステップS38(NEdge=1<設定値のとき)では、エッジ領域算出部72は、ステップS37で判定に用いたグリッドGについて、エッジ検出領域情報に値「0」を設定し、ステップS39(NEdge=1≧設定値のとき)では、値「1」を設定する。グリッドGのエッジ検出領域情報とは、関心領域の算出処理においてそのグリッドGがエッジ構造物を有するか否かを示すものである。あるグリッドGについて、エッジ領域算出部72によりエッジ領域として検出されるか否かと、そのグリッドGからエッジ検出部63によりエッジ構造物が検出されるか否かは必ずしも一致しない。
【0061】
ステップS40で、エッジ領域算出部72は、画像の全てのグリッドに対してステップS37の判定を行ったか、すなわち、全てのグリッドGに対してエッジ検出領域情報を設定したか否かを判定する。未判定のグリッドGが存在する場合は、ステップS37に戻り、未判定のグリッドGについて上記の処理を実行する。全てのグリッドGに対しエッジ検出領域情報の設定を終えると、処理を終了する。図7では、エッジ検出領域に値「1」の設定されたグリッド、すなわち、エッジ検出領域として検出された領域「AREAedg」を太線で囲って強調している。
【0062】
上記のとおり、エッジ検出領域の算出処理についても、Rエンハンス領域の算出処理と同様に、実施例では、まずセルごとに判断を行い、次に、グリッドごとに判断を行っているが、これに限定されるものではない。例えば、セルごとのエッジの強さの判定は行わず、グリッドごとに、各グリッドにおけるエッジの強さの平均値Egaveと、画像全体についてのエッジの強さEaveとを比較して、比Egave/Eaveが所定値以上である場合にはそのグリッドをエッジ検出領域と判定する構成とすることもできる。図6の方法でエッジ検出領域の判定を行う場合には、高精度なエッジ検出領域の検出が可能となり、グリッドごとに比Egave/Eaveを判定する場合には、計算時間を短縮することができる。
【0063】
また、図4のRエンハンス領域算出処理と図6のエッジ検出領域算出処理とについては、シリアルに実行する構成としてもよいし、2つの算出処理をパラレルに実行する構成としてもよい。
【0064】
図4及び図6の処理によりそれぞれ設定したRエンハンス領域情報及びエッジ検出領域情報を用いて、白色光(通常光)モードにおける関心領域を検出する方法について、図8及び図9を参照して説明する。
【0065】
図8は、関心領域位置情報算出部74による関心領域の位置情報を算出する処理を示したフローチャートである。関心領域情報算出部74は、図3においてステップS3(乃至ステップS5のいずれか)からステップS6へと処理が移行したことを契機として、図8に示す一連の処理を開始する。
【0066】
まず、ステップS51で、関心領域位置情報算出部74は、観察光モードの判定を行う。ステップS51では、図3のステップS2の判定と同様の方法により判定を行う。観察光モードが白色光(通常光)モード、NBIモードまたはPPDモードのいずれであるかに応じて、それぞれステップS52、ステップS57及びステップS59へと処理を移行させる。ここでは、白色光(通常光)モードの場合、すなわち、ステップS52以降の処理について説明することとし、NBIモードの場合やPPDモードの場合については、それぞれの観察光モードでの関心領域位置情報の算出方法の説明において述べることとする。
【0067】
ステップS52では、関心領域位置情報算出部74は、Rエンハンス領域算出部71及びエッジ領域算出部72から、それぞれにおける算出結果であるRエンハンス領域情報及びエッジ検出領域情報を取得する。
【0068】
ステップS53で、関心領域位置情報算出部74は、グリッドGごとに、そのグリッドGがRエンハンス領域AREAren且つエッジ検出領域AREAedgであるか否かを判定する。具体的には、Rエンハンス領域情報及びエッジ検出領域情報の双方に値「1」が設定されているか否かを判定する。2つの領域情報に値「1」が設定されている場合は、ステップS55へ進み、それ以外の場合は、ステップS54へ進む。
【0069】
ステップS54では、関心領域位置情報算出部74は、ステップS53で判定に用いたグリッドGについて、関心領域情報に値「0」を設定し、ステップS55では、値「1」を設定する。あるグリッドGの関心領域情報とは、そのグリッドGが関心領域であるか否かを示す。
【0070】
ステップS54またはステップS55において関心領域情報の値を設定すると、ステップS56に進む。そして、関心領域位置情報算出部74は、画像の全てのグリッドに対してステップS53の判定を行ったか、すなわち、全てのグリッドGに対して関心領域情報を設定したか否かを判定する。未判定のグリッドGが存在する場合は、ステップS53に戻り、未判定のグリッドGについて上記の処理を実行する。全てのグリッドGに対し関心領域情報を設定する処理が完了すると、ステップS61へと処理を移行させる。
【0071】
ステップS61では、関心領域位置情報算出部74は、関心領域情報の値に「1」が設定されているグリッドGを関心領域位置と定義し、処理を終了する。
【0072】
図9は、白色光(通常光)モードにおいて検出される関心領域について説明する図である。図9に示すように、図5のRエンハンス領域AREAren且つ図7のエッジ検出領域AREAedgである領域(グリッドG)が、関心領域AREAntcと判定される。図9においては、関心領域AREAntcと判定した8つのグリッドGを色分けして示している。
【0073】
こうして、図8のステップS51乃至ステップS56及びステップS61の処理によって関心領域位置を定義すると、上記の図3の説明のとおり、図3のステップS7において、関心領域の有無を判定し、判定結果に応じて必要な画像のデータをバッファメモリ69に送信する。図10を参照して、バッファメモリ69に一時記憶された画像のデータを所定の記録先に送信する方法について説明する。
【0074】
図10は、バッファメモリ69に保存した画像のデータを記録先に送信する処理を示したフローチャートである。上記のとおり、映像処理回路11は、入力される各フレーム画像について図3の処理を実行している。ビデオプロセッサ1のCPU12は、スコープ2のレリーズスイッチ22等からレリーズ要求を受け付けると、これに基づき映像処理回路11にレリーズ信号を送信する。そして、レリーズ要求のあったタイミングに対応するフレーム画像について、図10に示す一連の処理を開始する。
【0075】
まず、ステップS71で、CPU12は、図3のステップS9において映像処理回路11がバッファメモリ69に向けて送信した全体画像及び関心領域のズーム画像のデータを、バッファメモリ69に一時保存する。そして、ステップS72で、CPU12は、バッファメモリ69に一時保存したデータの記録先を判定する。データの記録先は、予めビデオプロセッサ1に設定されており、実施例では、ビデオプロセッサ1の内部メモリか、あるいは、図1の画像記録装置4のいずれかが設定されているものとする。ここで、ビデプロセッサ1の内部メモリを記録先とする場合には、最終的に内部メモリにデータを記録させる場合だけでなく、内部メモリを経由して最終的にはサーバ5にデータを記録させる場合も含む。バッファメモリ69に一時保存したデータの記録先が「内部メモリ」である場合は、ステップS73へ、記録先が「画像記録装置」である場合は、ステップS78へとそれぞれ処理を移行させる。
【0076】
ステップS73では、CPU12は、バッファメモリ69の全体画像及び関心領域のズーム画像のデータを、内部メモリである不揮発性メモリ13へと送信させ、不揮発性メモリ13の画像記憶領域31に保存する。そして、ステップS74で、CPU12は、バッファメモリ69から送信された画像データの記録先を更に判定する。実施例では、画像データの記録先としては、内部メモリである不揮発性メモリ13自体であるか、あるいは、外部記憶装置であるサーバ5であるかが予めビデオプロセッサ1に設定されているものとする。画像データの記録先が「内部メモリ」である場合は、CPU12は、特に処理を行わず、処理を終了する。画像データの記録先が「外部記憶装置」である場合は、CPU12は、処理をステップS75へと移行させる。
【0077】
ステップS75で、CPU12は、記録画像の出力要求の有無を判定する。図1の入力手段7等から記録画像を出力する旨の要求が入力されると、CPU12は、これに基づき、不揮発性メモリ13に対して画像出力信号を送信する。ステップS75においては、CPU12は、入力手段7等からの記録画像の出力要求の有無に基づき、判定を行う。記録画像出力要求があった場合には、ステップS77へ、なかった場合には、ステップS76へと処理を移行させる。
【0078】
ステップS77では、CPU12は、不揮発性メモリ13の画像記憶領域31に保存した全体画像及び関心領域のズーム画像のデータを、外部記憶装置であるサーバ5に送信し、処理を終了する。サーバ5においては、CPU52が、不揮発性メモリ51の画像記憶領域53に受信したデータを保存し、クライアントPC9等から画像を出力する旨の要求を受信すると、画像記憶領域53から画像のデータを読み出して、出力処理部54へと出力する。出力処理部54は、関心領域を有する画像のデータをクライアントPC9等に送信するときは、関心領域のズーム画像を対応する全体画像に対応づける等のデータの出力に関する各種処理を実行する。
【0079】
一方、ステップS76では、CPU12は、特に処理を行わず、図10の処理を終了する。これは、入力手段7から記録画像出力要求を受信しなかったタイミングのフレーム画像については、その画像(及び関心領域のズーム画像)についてはサーバ5に記録は行わないことを意味する。この場合、不揮発性メモリ13の画像記憶領域31に保存されたデータは、その後上書きされる等により削除される。
【0080】
ステップS72において、記録先が画像記録装置4である場合には、ステップS78に進み、CPU12は、バッファメモリ69の全体画像及び関心領域のズーム画像のデータを、画像記録装置4へと送信する。そして、ステップS79では、画像記録装置4のCPU42において、ビデオプロセッサ1からステップS78で送信されたデータをキャプチャメモリ41の画像記憶領域43に保存し、処理を終了する。その後、画像記録装置4のフロントパネルボタン等の入力手段8を介して画像の印刷要求を受信すると、画像記録装置4のCPU42は、印刷処理部44に印刷指示を出す。印刷処理部44は、全体画像及び関心領域のズーム画像を対応付けて、例えば並べて配置して印刷をするために必要な各種処理を実行することにより、キャプチャメモリ41の画像記憶領域43に保存した画像を印刷させる。
【0081】
なお、図10においては、上記の方法により関心領域が抽出された場合におけるバッファメモリ69から各記録先へのデータの送信方法について説明しているが、関心領域が検出されなかった場合についても、同様である。
【0082】
上述の方法により得られた全体画像及びこれに関連付けられた関心領域のズーム画像のデータについては、ビデオプロセッサ1の外部の画像記録装置4やサーバ5または内部メモリである不揮発性メモリ13に出力して記録するだけでなく、モニタ3に表示することも可能である。これについて、図11を参照して説明する。
【0083】
図11は、検出された関心領域の出力方法を例示する図である。
図11においては、スコープ2で撮影して得られた映像信号にビデオプロセッサ1にて必要な画像処理を施してモニタ3に出力したモニタ映像と、全体画像I及びビデオプロセッサ1の位置情報生成部67にて検出した関心領域AREAntcのズーム画像IEXとを示す。
【0084】
上記のとおり、検出した関心領域AREAntcを含む所定の範囲をズーム画像生成の対象範囲AREAEXとし、その範囲AREAEXを拡大してズーム画像IEXを生成している。
【0085】
上述のとおり、本実施形態に係る内視鏡システム100では、ユーザからの指示にしたがって、不揮発性メモリ13からデータを読み出してモニタ3に図11の右側に示す出力結果を表示させる構成とすることもできる。また、ユーザからの指示にしたがって、例えば画像記録装置4等からデータを読み出して、図11の右側に示す出力結果を印刷する構成とすることもできる。
【0086】
また、全体画像及びこれに関連付けられた関心領域の(ズーム)画像の出力(表示及び記録)方法については、任意の方法をとることができる。例えば、PinP(ピクチャー・イン・ピクチャー)やPoutP(ピクチャー・アウト・ピクチャー)で2つの画像を重ねた画像をビデオプロセッサ1にて生成し、これをモニタ3に表示したり、画像記録装置4やサーバ5に記録する構成としてもよい。
【0087】
更には、検出された関心領域を医師等が確認し易くするためには、上記の全体画像の他に関心領域の(ズーム)画像を生成する以外の方法をとってもよい。例えば、関心領域が検出された場合には、全体画像のうちの関心領域を中心にマーキングをした画像を生成し、生成したマーキング画像をモニタ3や画像記録装置4等に出力する構成としてもよい。このような方法によっても、上記の全体画像と関心領域の画像とを関連付けてこれを併せて出力する場合と同様に、医師等にとっては、検査後の関心領域の確認がし易くなる。
(NBI画像の処理)
【0088】
次に、観察光モードがNBIモードである場合について説明する。
NBIモードで撮影を行って得られる内視鏡画像においては、腫瘍等の周辺に形成される血管等に緑色(G)や青色(B)が多く吸収されることにより、病変部が強調表示される。この特徴を利用して、撮影により得られた内視鏡画像の中から関心領域を検出する。
【0089】
図3のステップS1及びステップS2の処理、すなわち、スコープ2から受信した映像信号に対して前段処理を実行し、観察光モードの判定を行う処理までについては、白色光(通常光)モードについての説明において述べたとおりである。
【0090】
以下に、図3のステップS4及びステップS6の処理の詳細、すなわち、観察光モードがNBIモードである場合にどのようにして関心領域位置情報を算出していくかを中心に説明する。
【0091】
図12は、NBI吸収領域算出部73による特殊光吸収/反射領域算出処理を示したフローチャートである。NBI吸収領域算出部73は、図3においてステップS2からステップS4へと処理が移行したことを契機として、図12に示す一連の処理を開始する。
【0092】
まず、ステップS81で、NBI吸収領域算出部73は、NBI処理部64からNBI画像処理後の画像データを取得する。このとき、後のステップS82やステップS86で用いる緑色(G)及び青色(B)のホワイトバランス値GNBIWB、BNBIWBを画像データと併せて取得してもよい。あるいは、NBI吸収領域算出部73において、取得したホワイトバランス測定時の画像データより算出してもよい。
【0093】
まず、ステップS82〜ステップS85の処理により、セルごとの緑色(G)の吸収レベルが所定レベルを超えるか否かを判断していく。
【0094】
ステップS82では、NBI吸収領域算出部73は、セルごとに、画像データの緑色(G)成分の反射レベル値GNBIと、緑色(G)についてのホワイトバランス値であるGNBIWBとの比GNBI/GNBIWBが所定の設定値以下であるか否かを判定する。これは、実施例では、ホワイトバランス処理においては、白色の被写体に赤色(R)緑色(G)青色(B)の光を照射し、反射光の色みのバランスに応じて色を調整していることに基づく。また、NBI観察光のホワイトバランスデータを用いても良い。すなわち、画像のあるセルの緑色(G)の反射レベルが、白色の被写体に対する緑色(G)の光の反射レベルに対して所定の設定値以下であれば、そのセルについては吸収レベルが高い(反射レベルが低い)と判定できることに基づく。比「GNBI/GNBIWB」が所定の設定値以下である場合は、ステップS84へ、比「GNBI/GNBIWB」が所定の設定値を超える場合は、ステップS83へと処理を移行させる。
【0095】
ステップS83(GNBI/GNBIWB>設定値のとき)及びステップS84(GNBI/GNBIWB≦設定値のとき)では、NBI吸収領域算出部73は、ステップS82で比較に用いたセルのG吸収レベルとして、それぞれ値「0」及び「1」を設定する。
【0096】
そして、ステップS85で、NBI吸収領域算出部73は、画像の全てのセルに対してステップS82の判定を行ったか、すなわち、全てのセルに対してG吸収レベルを設定したか否かを判定する。未判定のセルが存在する場合は、ステップS82に戻り、未判定のセルについて上記の処理を実行し、全てのセルに対しG吸収レベルを設定する処理が完了すると、ステップS86に進む。
【0097】
ステップS86〜ステップS89の処理では、NBI吸収領域算出部73は、青色(B)の吸収レベルについて、ステップS82〜ステップS85において緑色(G)の吸収レベルに関して実行した処理と同様の処理を実行する。具体的には、セルごとに青色(B)の反射レベル値BNBIと、青色(B)についてのホワイトバランス値BNBIWBとの比「BNBI/BNBIWB」が所定の設定値以下である場合は、B吸収レベル値に「1」を、所定の設定値を超える場合は、値「0」を設定していく。
【0098】
なお、ステップS82〜ステップS85のセルごとに緑色(G)の吸収レベルを設定する処理と、ステップS86〜ステップS89のセルごとに青色(B)の吸収レベルを設定する処理とは、並行処理としてもよい。
【0099】
緑色(G)及び青色(B)について全てのセルについて吸収レベルの設定を終えると、処理をステップS90へと移行させる。
ステップS90で、NBI吸収領域算出部73は、グリッドごとに、G吸収レベル値「1」のセルの密度NGNBI=1が所定値以上であり、且つB吸収レベル値「1」のセルの密度NBNBI=1が所定値以上であるかを判定する。緑色(G)及び青色(B)ともに吸収レベル値が「1」のセルの密度がそれぞれの色について設定した所定値以上である場合は、ステップS92に進み、それ以外の場合は、ステップS91に進む。
【0100】
ステップS91及びステップS92で、NBI吸収領域算出部73は、それぞれステップS90で判定を行ったグリッドについてのNBI吸収領域情報に値「0」及び「1」を設定する。あるグリッドのNBI吸収領域情報とは、そのグリッドの緑色(G)及び青色(B)の吸収レベルが高い領域であるか否かを示す。
【0101】
ステップS93で、NBI吸収領域算出部73は、画像の全てのグリッド対してステップS90の判定を行ったか、すなわち、全てのグリッドに対してNBI吸収領域情報を設定したか否かを判定する。未判定のグリッドが存在する場合は、ステップS90に戻り、未判定のグリッドについて上記の処理を実行し、全てのグリッドに対してNBI吸収領域情報の設定を終えると、処理を終了する。
【0102】
なお、白色光モードでのRエンハンス領域算出処理やエッジ検出領域算出処理と同様に、上記の特殊光吸収/反射領域(実施例ではNBI吸収領域)の算出処理においても、実施例では、まずセルごとに判断を行い、次に、グリッドごとに判断を行っている。しかし、特殊光吸収/反射領域の算出方法は、これに限定されるものではない。例えば、グリッドごとに、各グリッドにおける緑色(G)や青色(B)の吸収レベルGgNBI、BgNBIを求め、これとそれぞれGやBのホワイトバランス値GNBIWB、BNBIWBとの比較を行う構成とすることもできる。この場合、比GgNBI/GNBIWB及びBgNBI/BNBIWBの双方がそれぞれの所定値以下であれば、そのグリッドをNBI吸収領域と判定する図12の方法でNBI吸収領域を判定する場合には、高精度なNBI吸収領域の検出が可能となり、グリッドごとに比GgNBI/GNBIWB及びBgNBI/BNBIWBを判定する場合には、計算時間を短縮することができる。
【0103】
こうして、画像内の各グリッドに対してNBI吸収領域情報が設定されると、図3のステップS4からステップS6に進む。ステップS6では、関心領域位置情報算出部74が、NBI吸収領域情報を利用して、関心領域位置情報を算出する処理を実行する。観察光モードがNBIモードである場合の関心領域位置情報の算出処理では、図8のフローのうち、ステップS51からステップS57へと処理を移行させる。
【0104】
図8のステップS57で、関心領域位置情報算出部74は、NBI吸収領域算出部73からNBI吸収領域情報を取得する。そして、ステップS58で、関心領域位置情報算出部74は、NBI吸収領域情報に値「1」が設定されているグリッドについては、関心領域情報に値「1」を設定し、ステップS61に進む。ステップS61では、上記の白色光(通常光)モードの場合と同様に、関心領域位置情報算出部74が、関心領域情報の値に「1」の設定されているグリッドを関心領域位置と定義し、処理を終了する。
【0105】
図8のステップS61において関心領域位置を定義した後の処理については、白色光(通常光)モードの場合と同様である。
(光線力学的診断(PDD)における画像の処理)
【0106】
次に、観察光モードが、PDDモードである場合について説明する。
光線力学的診断(PDD)においては、がんに集積する薬剤を投与して、それに反応する青色の光を照射することにより、がん組織を赤く発光させる。このため、PDDモードで撮影を行って得られる内視鏡画像においては、病変部の赤みが強調されることとなる。この特徴を利用して、撮影により得られた内視鏡画像の中から関心領域を検出する。
【0107】
図3のステップS1及びステップS2の処理、すなわち、スコープ2から受信した映像信号に対して前段処理を実行し、観察光モードの判定を行う処理までについては、白色光(通常光)モードについての説明において述べたとおりである。
【0108】
以下に、図3のステップS5及びステップS6の処理の詳細、すなわち、観察光モードがPDDモードである場合にどのようにして関心領域位置情報を算出していくかを中心に説明する。
【0109】
上述のとおり、PDDモードで撮影して得られる内視鏡画像においては、病変部は赤みが強調されている。このことから、図3のステップS5において、Rエンハンス領域算出部71が、図4のRエンハンス領域算出処理を実行することにより、Rエンハンス領域情報の設定を行う。そして、図3のステップS6においては、関心領域位置情報算出部74が、Rエンハンス領域情報を利用して、関心領域位置情報を算出する処理を実行する。観察光モードがPDDモードである場合の関心領域位置情報の算出処理では、図8のフローのうち、ステップS51からステップS59へと処理を移行させる。
【0110】
ステップS59で、関心領域位置情報算出部74は、Rエンハンス領域算出部71からRエンハンス領域情報を取得する。そして、ステップS60で、関心領域位置情報算出部74は、Rエンハンス領域情報に値「1」が設定されているグリッドについては、関心領域情報に値「1」を設定し、ステップS61に進む。ステップS61において、関心領域位置情報算出部74が関心領域情報に値「1」の設定されているグリッドを関心領域位置情報と定義する点については、上記NBIモードの場合と同様である。関心領域位置情報の定義を行うと、図8の処理を終了する。
【0111】
図8の処理を終了した後の処理については、白色光(通常光)モードやNBIモードの場合と同様である。
【0112】
以上説明したように、本実施形態に係る内視鏡システム100によれば、ビデオプロセッサ1において、スコープ2で撮影して得られる映像信号に画像処理を施す際に得られるデータを利用して、各観察光モードにおける画像の特徴より、医師等のユーザが内視鏡画像の中から病変部等の現れている領域として関心を持つ領域、関心領域を検出する。具体的には、色みやエッジの有無、あるいは光の吸収/反射のレベルに基づき、関心領域を検出する。内視鏡画像のビデオプロセッサ1は、検出された関心領域の(ズーム)画像を生成し、全体画像(内視鏡画像)と関連付けて保持しておく。そして、ユーザがスコープ2のレリーズスイッチ22等によりレリーズ操作を行った場合には、ビデオプロセッサ1は、そのタイミングのフレームの全体画像(内視鏡画像)と検出した関心領域の画像とを外部の画像記録装置4等に出力する。これにより、医師等のユーザにとっては、内視鏡検査中に関心領域を特定しておく等の作業や、検査後に病変部の疑いのある画像を探す等の作業が不要となり、検査後に病変部の疑いのある領域の現れている画像を確認し易くなる。したがって、検査後の業務の効率化や、診断の見落としの防止に資することとなる。
<第2の実施形態>
【0113】
上記の第1の実施形態によれば、ビデオプロセッサ1において内視鏡画像から関心領域を検出することにより、検査後の業務の効率化や診断の見落としを防ぐ効果を得る。これに対し、本実施形態に係る内視鏡システムによれば、内視鏡システム100において、検査の内容や実施日時等ログ情報に基づき検査のレポートを作成することにより、検査後の業務の効率化を図っている。
【0114】
以下に、本実施形態に係る内視鏡システムにおいて、ログ情報を生成し、これに基づきレポートを作成する方法について、具体的に説明する。
なお、内視鏡システムの構成については、図1図2に示すとおりであり、上記の実施形態と同様であるため、ここでは説明を省略する。
【0115】
図13A及び図13Bは、本実施形態に係る内視鏡システム100による内視鏡検査のレポートの作成方法を説明する図である。図13A及び図13BのレポーティングPC120は、図1においては、クライアントPC9がこれに相当する。
【0116】
図13Aに示す一の態様によれば、内視鏡システム100において内視鏡検査が開始すると、ビデオプロセッサ1においては、検査に関する各種のイベントの発生するごとに、ビデオプロセッサ1のCPU12がログ情報を生成してサーバ5に送信する。そして、順次レポーティングPC120(図1においてはクライアントPC9がこれに対応)に向けて送信していく。
【0117】
具体的には、まず、検査が開始すると、ビデオプロセッサ1は、検査が開始した旨及び日時等の時刻情報、患者や医師を識別する情報等をサーバ5に送信する。レポーティングPC120は、検査開始の通知及び通知とともに送信された情報を、サーバ5から取得する。検査が開始した旨の通知を受信すると、レポーティングPC120は、レポートの作成を開始し、受信した情報に基づき、患者や医師を識別する情報、検査日、検査開始時刻等の情報を、レポートに入力する。レポートは、予め所定のフォーマットが用意されており、レポーティングPC120は、フォーマットのうちの各情報が入力されるべき所定の位置に対応する情報を設定していくことで、レポートを作成する。
【0118】
その後、レポーティングPC120は、検査終了の通知を受信するまで、検査においてイベントが発生するごとにビデオプロセッサ1からサーバ5を介して通知されるログ情報に基づき、受信した情報を順次レポートの所定の位置に設定していく。ログ情報としてレポーティングPC120に向けて送信される情報としては、上記の検査開始時に通知される情報の他には、例えば、内視鏡検査の終了、NBI等の特殊光観察モードでの観察の開始や終了、拡大観察の開始や終了や、これらイベントの発生した時刻を表す時刻情報等が挙げられる。
【0119】
レポーティングPC120は、サーバ5を介して検査終了の通知と終了時刻を表す時刻情報とをビデオプロセッサ1から受信すると、これらの情報をレポートの所定の位置に設定する。実施例では、レポートに記載される事項には、図13Aに示すように、検査時間やNBI観察に要した時間、拡大観察に要した時間も含む。検査開始時刻と終了時刻、NBI観察の開始時刻と終了時刻、及び拡大観察の開始時刻と終了時刻よりこれらの所要時間を算出し、各位置に情報を設定すると、レポーティングPC120は、レポート作成処理を終了する。
【0120】
図13Bに示す他の態様によれば、内視鏡検査中においては、ビデオプロセッサ1の不揮発性メモリ13のログ情報記憶領域32に、ログ情報として各イベントが発生した旨及びその時刻情報を記憶させておく。内視鏡検査が終了すると、ビデオプロセッサ1は、不揮発性メモリ13のログ情報記憶領域32に記憶させておいたログ情報を、サーバ5を介してレポーティングPC120に送信する。本態様におけるログ情報の内容は、図13Aを参照して説明した態様におけるそれと同様である。レポーティングPC120は、内視鏡検査の終了後にビデオプロセッサ1側から受信したログ情報に基づき、所定のフォーマットのレポートの各位置に情報を設定していくことにより、レポートを作成する。
【0121】
図13Bに示すような、検査後にログ情報を送信する態様においては、例えば、予めどのような情報(イベント)をログ情報として送信するのか、あるいはしないのかを選択可能な構成とすることもできる。例えば、NBI観察を開始した旨及び開始時刻についてはログ情報に含めるが、NBI観察を終了した旨及びその終了時刻についてはログ情報に含めない、等の設定が可能である。
【0122】
なお、図13Bに示す態様においては、ビデオプロセッサ1がログ情報をレポーティングPC120に向けて送信する前に、例えば次の検査のため、ビデオプロセッサ1を含む内視鏡システム100の電源がオフに切り替えられてしまうことも起こり得る。そこで、図13Bに示す態様の更に他の態様によれば、ビデオプロセッサ1がログ情報を送信するタイミングを、ビデオプロセッサ1の電源がオン状態となり、起動した後のタイミングとすることもできる。内視鏡システム100の使用態様により、ログ情報が未送信となってしまう事態を効果的に防ぐ。
【0123】
以上説明したように、本実施形態に係る内視鏡システム100によれば、ビデオプロセッサ1にて内視鏡検査の開始や終了、特殊光観察の開始や終了、また、拡大観察の開始や終了等の、検査において発生したイベントを表すログ情報を生成する。レポーティングPC120は、ビデオプロセッサ1から受信したログ情報に含まれる情報を所定のフォーマットの所定の位置に設定していくことで、内視鏡検査のレポートを作成する。これにより、医師等が検査後にレポートを作成する手間を省き、検査後の業務の効率化を図ることが可能となる。
<第3の実施形態>
【0124】
上記第1及び第2の実施形態においては、それぞれ画像の関心領域の検出やレポートの作成を内視鏡システムにおいて行うことにより、医師や看護師等の内視鏡検査後の業務の効率化を図っている。これに対し、本実施形態に係る内視鏡システムにおいては、内視鏡検査中に発生した患者のバイタル情報の異常に対応する際の対処方法の推奨案を内視鏡システムが提示することで、業務の効率化を図っている。
【0125】
以下に、本実施形態に係る内視鏡システムにおいて、バイタル情報の異常が発生した際にユーザに対処方法の推奨案を提示する方法について、具体的に説明する。本実施形態の内視鏡システムの構成については、図1図2に示すとおりであり、上記の実施形態と同様であるため、ここでは説明を省略する。
【0126】
図14は、本実施形態に係る内視鏡システム100によるバイタル情報の異常への対処方法推奨案のユーザへの提示方法を説明する図である。図1に示すシステム構成と比較すると、図14に示す内視鏡システム100の構成のうち、バイタル機器6とバイタル情報監視装置10とが追加されている点で異なる。バイタル機器6は、内視鏡検査等において患者(被検体)に装着される等により、患者のバイタル情報を測定等によって取得するための機器である。バイタル機器6は、図14の構成では、入力手段9がこれに相当し、取得した情報をバイタル監視装置10に送信する。バイタル情報の例としては、血圧や脈拍等が挙げられる。バイタル情報監視装置10は、バイタル機器6から得たバイタル情報を監視して、正常値であるか否かを監視し、異常を検知すると、サーバ5にその旨を通知する。
【0127】
図14においては、内視鏡検査を受けている患者のバイタル情報を監視し、その異常を検出した場合に対処方法を内視鏡システム100において判断し、推奨案をユーザに提示するまでの手順(1)乃至(5)を、各手順を実行する装置・機器の箇所に記載している。
【0128】
まず、手順(1)では、PCやタブレット端末等から、内視鏡検査を受ける患者についての病歴情報、ショック分類情報、バイタル情報異常時の対処方法の推奨案の情報と、対処方法の推奨案の表示先の情報とを、サーバ5に登録しておく。PCやタブレット端末は、図1においてはクライアントPC9である。
【0129】
バイタル情報異常時の対処方法の推奨案としては、例えば投与する薬についての情報や、機器の例えば設定値をどのように変更するかの情報等を含む。また、対処方法の推奨案の表示先については、内視鏡システム100に複数のモニタ3を備える場合等には、「モニタA」等のように、推奨案を表示させるモニタがユーザによって指定される。対処方法の推奨案の表示先については、PCやタブレット端末等を指定可能な構成とすることもできる。
【0130】
また、手順(1)においては、この他にも患者を識別する情報についてもサーバ5に登録を行う。患者を識別する情報については、患者登録システム等の他のシステムから取得する構成としてもよい。
【0131】
更には、図14に示すように、手順(1)において、検査室を識別する情報と検査に使用するバイタル機器とを関連付けて、サーバ5の検査情報に登録しておく。
手順(2)においては、バイタル機器6が、バイタル情報の取得を開始する。バイタル機器6が取得したバイタル情報は、バイタル情報監視装置10に送信される。
【0132】
手順(3)においては、バイタル情報監視装置10が、バイタル情報を監視し、数値等の異常を検知すると、サーバ5にその旨の通知を行う。
手順(4)においては、サーバ5は、サーバ5内のデータベースの検査情報を検索し、手順(3)において通知されたバイタル機器と手順(1)において登録されている病歴情報とから、対応するショック分類を導き出す。そして、検査情報の中から、導出されたショック分類に対応する対処方法の推奨案を取得する。図14においては、患者ID「80」により識別される患者の内視鏡検査中に、図14の検査情報において患者IDと対応付けられているバイタル機器Aにおいて異常が検出された場合を例示する。この場合、バイタル機器Aに関するバイタル情報に異常が検知された旨の手順(4)の通知に対し、サーバ5は、検査情報のバイタル情報が示す「バイタル機器A」と、手順(1)で登録したショック分類とに対応付けられた対処方法の推奨案を取得する。図14では、「投与薬対応A」を取得する。
【0133】
サーバ5は、投与薬対応の詳細が登録されている投与薬対応テーブルを参照し、取得した「投与薬対応A」の詳細(投与薬、投与経路、効能効果、薬効薬理及び保管情報)を取得する。
【0134】
最後に、手順(5)において、サーバ5は、手順(4)において取得した対処方法の推奨案を所定のモニタ(図14の「モニタA」)3に送信する。モニタ3は、サーバ5から受信した情報を表示する。
【0135】
なお、上記の手順(1)では、検査室を識別する情報と検査に使用するバイタル機器とを関連付けて、サーバ5の検査情報に登録している。バイタル機器6の異常に対応する方法の一つとして、バイタル機器6の設定値を変更する方法も有りうる。このような場合に、予め検査室を識別する情報とバイタル機器とを関連付けておくことで、検査室、すなわち、内視鏡検査を行う環境に応じた対処方法を設定することが可能となる。
【0136】
内視鏡検査においては、検査中に手術を併せて行うこともある。このような場合には、バイタル機器6を使用して患者のバイタル情報に異常がないかを監視し、異常が発生した場合にはこれに対処する必要がある。これに対し、以上説明した本実施形態に係る方法によれば、医師や看護師等のユーザは、モニタ3に表示された対処方法の推奨案を確認して、バイタル情報の異常に対処することが可能となる。各患者や検査室等の環境に応じて対処方法として最も推奨される案がモニタ3に表示されることで、内視鏡検査中に発生したバイタル情報の異常への対処方法の判断時間や対処内容の理解や実行等に要する時間が短縮され、業務の効率化を図ることが可能となる。
【0137】
本発明は、上述した実施形態そのままに限定されるものではく、実施段階でのその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素を適宜組み合わせても良い。更に、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。このような、発明の趣旨を逸脱しない範囲内において種々の変形や応用が可能であることはもちろんである。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13A
図13B
図14