(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024112325
(43)【公開日】2024-08-21
(54)【発明の名称】医療画像処理装置、内視鏡システム、及び医療画像処理装置の作動方法
(51)【国際特許分類】
A61B 1/045 20060101AFI20240814BHJP
A61B 1/00 20060101ALI20240814BHJP
A61B 1/06 20060101ALI20240814BHJP
【FI】
A61B1/045 618
A61B1/00 551
A61B1/045 614
A61B1/045 621
A61B1/06 610
A61B1/00 553
【審査請求】未請求
【請求項の数】19
【出願形態】OL
(21)【出願番号】P 2021074339
(22)【出願日】2021-04-26
(71)【出願人】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001988
【氏名又は名称】弁理士法人小林国際特許事務所
(72)【発明者】
【氏名】吉岡 将人
(72)【発明者】
【氏名】福田 剛志
【テーマコード(参考)】
4C161
【Fターム(参考)】
4C161CC06
4C161DD03
4C161HH52
4C161LL02
4C161MM05
4C161NN01
4C161QQ07
4C161QQ09
4C161RR04
4C161WW02
4C161WW10
4C161WW13
4C161WW18
4C161YY07
4C161YY16
(57)【要約】
【課題】効率的な内視鏡検査を可能にする医療画像処理装置、内視鏡システム、及び医療画像処理装置の作動方法を提供する。
【解決手段】医療画像処理装置は、第1プロセッサを備え、取得した医療画像に基づき注目領域を検出し、注目領域を検出した場合、医療画像に基づき注目領域のサイズを測定し、注目領域の種類を判別し、注目領域のサイズの測定と注目領域の種類の判別とを予め設定した手順により行なうよう制御し、注目領域と注目領域のサイズ及び/又は注目領域の種類とをユーザに通知する制御を行なう。
【選択図】
図6
【特許請求の範囲】
【請求項1】
第1プロセッサを備え、
前記第1プロセッサは、
被写体を撮影した医療画像を取得し、
前記医療画像に基づき、前記被写体が有する注目領域を検出し、
前記注目領域を検出した場合、前記医療画像に基づき前記注目領域のサイズを測定し、
前記注目領域を検出した場合、前記医療画像に基づき前記注目領域の種類を判別し、
前記注目領域のサイズの測定と前記注目領域の種類の判別とを予め設定した手順により行なうよう制御し、
前記注目領域を検出した場合、前記注目領域、前記注目領域のサイズ及び/又は前記注目領域の種類をユーザに通知する制御を行なう医療画像処理装置。
【請求項2】
前記第1プロセッサは、前記注目領域を検出した場合、前記注目領域のサイズの測定と前記注目領域の種類の判別とを、医師が前記注目領域の診断を行なう一連の動作に従う手順により行なうよう制御する請求項1に記載の医療画像処理装置。
【請求項3】
前記第1プロセッサは、前記注目領域を検出した場合、前記注目領域のサイズの測定の後、前記注目領域の種類の判別を行なうよう制御する請求項1に記載の医療画像処理装置。
【請求項4】
前記第1プロセッサは、前記注目領域を検出した場合、前記注目領域のサイズの測定と前記注目領域の種類の判別とを、並行して行なうよう制御する請求項1に記載の医療画像処理装置。
【請求項5】
前記第1プロセッサは、前記注目領域を検出した場合、前記注目領域のサイズの測定及び前記注目領域の種類の判別を、前記被写体の診断のために設定されているガイドラインに準拠した手順により行なうよう制御する請求項1に記載の医療画像処理装置。
【請求項6】
前記第1プロセッサは、前記注目領域を検出した場合、前記医療画像に基づき、前記注目領域の形状を判別し、
前記注目領域のサイズの測定、前記注目領域の種類の判別、及び前記注目領域の形状の判別を予め設定した手順により行なうよう制御する請求項1ないし5のいずれか1項に医療画像処理装置。
【請求項7】
前記第1プロセッサは、前記注目領域の検出の有無、前記注目領域のサイズの測定により測定された前記サイズ、及び/又は前記注目領域の種類の判別により判別された前記注目領域の種類とにより、前記被写体の検査間隔を決定する請求項1ないし6のいずれか1項に記載の医療画像処理装置。
【請求項8】
前記第1プロセッサは、前記医療画像の入力により前記注目領域を検出し出力する検出モデルを備え、
前記検出モデルは、前記注目領域を出力する出力層と少なくとも1つの中間層とを有する層状構造を有し、かつ、前記注目領域の正解が関連付けられた前記医療画像に基づいて学習することにより生成したパラメータを有する請求項1ないし7のいずれか1項に記載の医療画像処理装置。
【請求項9】
前記第1プロセッサは、前記医療画像の入力により前記注目領域のサイズを測定し出力する測定モデルを備え、
前記測定モデルは、前記注目領域のサイズを出力する出力層と少なくとも1つの中間層とを有する層状構造を有し、かつ、前記注目領域のサイズの正解が関連付けられた前記医療画像に基づいて学習することにより生成したパラメータを有する請求項1ないし8のいずれか1項に記載の医療画像処理装置。
【請求項10】
前記第1プロセッサは、前記医療画像を入力することにより前記注目領域の種類の判別結果を出力する判別モデルを備え、
前記判別モデルは、前記注目領域の種類の判別結果を出力する出力層と少なくとも1つの中間層とを有する層状構造を有し、かつ、前記注目領域の前記状態の正解が関連付けられた前記医療画像に基づいて学習することにより生成したパラメータを有する請求項1ないし9のいずれか1項に記載の医療画像処理装置。
【請求項11】
前記検出モデル、前記測定モデル、及び/又は前記分類モデルは、畳込みニューラルネットワークモデルである請求項8ないし10のいずれか1項に記載の医療画像処理装置。
【請求項12】
前記第1プロセッサは、互いに異なる撮影条件により撮影した複数種類の前記医療画像を取得し、
それぞれ予め設定された種類の前記医療画像に基づき、前記被写体が有する注目領域を検出し、前記注目領域のサイズを測定し、及び前記注目領域の種類の判別を行なう請求項1ないし11のいずれか1項に記載の医療画像処理装置。
【請求項13】
前記撮影条件は、照明光のスペクトルである請求項12に記載の医療画像処理装置。
【請求項14】
電子カルテサーバと接続し、
前記第1プロセッサは、前記注目領域の検出の有無、並びに、前記注目領域を検出した場合の前記注目領域、前記注目領域サイズ、及び/又は前記注目領域の状態を電子カルテに入力する制御を行なう請求項1ないし13のいずれか1項に記載の医療画像処理装置。
【請求項15】
互いに異なる波長帯域の光を発する複数の光源と、
複数の前記光源の光強度比の組み合わせが互いに異なる複数種類の照明光のそれぞれを発する制御を行う第2プロセッサを備えるプロセッサ装置と、
前記照明光により照明された前記被写体を撮影する内視鏡と、
請求項1ないし14のいずれか1項に記載の医療画像処理装置とを備え、
前記医療画像処理装置は、それぞれ予め設定した種類の前記照明光により前記被写体を撮影して得た前記医療画像に基づき、前記被写体が有する注目領域の検出、前記注目領域のサイズの測定、及び前記注目領域の種類の判別を行なう内視鏡システム。
【請求項16】
前記第2プロセッサは、前記第1プロセッサが、前記注目領域のサイズの測定、及び前記注目領域の種類の判別を予め設定した手順により行なうよう制御するのに同期して、複数種類の前記照明光のそれぞれの種類を発する制御を行なう請求項15に記載の内視鏡システム。
【請求項17】
前記第1プロセッサは、前記第2プロセッサが、互いに異なる複数種類の照明光のそれぞれを交互に繰り返して発するよう制御するのに同期して、前記被写体が有する注目領域を検出し、前記注目領域のサイズを測定し、及び前記注目領域の種類の判別をする制御を行なう請求項15に記載の内視鏡システム。
【請求項18】
前記被写体との距離を測定する距離測定部を備える請求項15ないし17のいずれか1項に記載の内視鏡システム。
【請求項19】
第1プロセッサを備える医療画像処理装置の作動方法であって、
被写体を撮影した医療画像を取得する医療画像取得ステップと、
前記医療画像に基づき、前記被写体が有する注目領域を検出する検出ステップと、
予め設定した手順により、前記医療画像に基づく前記注目領域のサイズの測定と、前記医療画像に基づく前記注目領域の種類の判別とを行なうよう制御する第1制御ステップと、
前記注目領域を検出した場合、前記注目領域と、前記注目領域のサイズ及び/又は前記注目領域の種類とをユーザに通知する制御する第2制御ステップとを備える医療画像処理装置の作動方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医療画像処理装置、内視鏡システム、及び医療画像処理装置の作動方法に関する。
【背景技術】
【0002】
医療画像を用いて特定の疾患の診断等を行なうためのガイドラインが策定されている。医師は、ガイドラインに基づいて、特定の疾患の診断及び処置方法を決定することが求められる場合がある。
【0003】
被写体である観察対象を内視鏡で撮影して得た画像(以下、内視鏡画像という)に基づく診断及び処置方法のガイドラインとしては、例えば、大腸ポリープ切除術と内視鏡的粘膜切除術に関する欧州のESGE(European Society of Gastrointestinal Endoscopy)によるガイドラインが挙げられる(非特許文献1)。このガイドラインには、大腸ポリープの形状と大きさに応じた推奨切除法が記載され、表層型大腸新生物について、無茎であり突起状又は平板状のポリープでは、5mm以下、6-9mm、及び10mm以上の3段階でそれぞれに推奨される切除法等の処置方法が記載されている。また、ポリープの種類、大きさ、及び個数等により、推奨される検査間隔も記載されている。
【0004】
このように、医療画像の分野では、医療画像により発見した病変部等の注目領域のサイズは、診断や処置方法決定のための判断基準の一つとして重要な情報となる。しかし、内視鏡画像では、内視鏡画像特有の歪みや、既知サイズのランドマークがない等の問題により、目視によるサイズ推定が難しい場合があった。そのため、内視鏡下での注目領域等のサイズ推定手法の提案がなされており、近年、人工知能(AI、artificial intelligence)を用いたサイズ推定も提案されている。
【0005】
例えば、病変とサイズが既知である参照オブジェクトとの両方が写る画像から、病変のサイズを決定するAIプラットフォームが知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】米国特許出願公開第2020/279373号明細書
【非特許文献】
【0007】
【非特許文献1】European Society of Gastrointestinal Endoscopy, ”Colorectal polypectomy and endoscopic mucosal resection (EMR): European Society of Gastrointestinal Endoscopy (ESGE) Clinical Guideline”, Endoscopy 2017; 49(03): 270-297
【発明の概要】
【発明が解決しようとする課題】
【0008】
従来の内視鏡検査では、内視鏡画像を目視することにより、まず病変部を探し、発見した病変部の形状、表面模様、及び色等から病変部の鑑別を行い、サイズ情報を考慮して処置方法を決定するという一連の流れに沿って検査が行われている。処置方法を決定する際等には、各種ガイドラインに従う場合がある。
【0009】
機械学習による学習モデル等のAIを用いてこのような内視鏡検査を支援する場合、病変部の検出又は鑑別等は、それぞれ別々の学習モデルによる処理作業となる。したがって、ユーザは、一回の内視鏡検査の中で処理方法を手動で何度か切り替える必要があり、手間がかかるおそれがあった。また、処理方法の切替忘れにより記録漏れが起き、検査をやり直すという問題が生じる場合があった。
【0010】
本発明は、効率的な内視鏡検査を可能にする医療画像処理装置、内視鏡システム、及び医療画像処理装置の作動方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明は、医療画像処理装置であって、第1プロセッサを備え、第1プロセッサは、被写体を撮影した医療画像を取得し、医療画像に基づき、被写体が有する注目領域を検出し、注目領域を検出した場合、医療画像に基づき注目領域のサイズを測定し、注目領域を検出した場合、医療画像に基づき注目領域の種類を判別し、注目領域のサイズの測定と注目領域の種類の判別とを予め設定した手順により行なうよう制御し、注目領域を検出した場合、注目領域、注目領域のサイズ及び/又は注目領域の種類をユーザに通知する制御を行なう。
【0012】
第1プロセッサは、注目領域を検出した場合、注目領域のサイズの測定と注目領域の種類の判別とを、医師が注目領域の診断を行なう一連の動作に従う手順により行なうよう制御することが好ましい。
【0013】
第1プロセッサは、注目領域を検出した場合、注目領域のサイズの測定の後、注目領域の種類の判別を行なうよう制御することが好ましい。
【0014】
第1プロセッサは、注目領域を検出した場合、注目領域のサイズの測定と注目領域の種類の判別とを、並行して行なうよう制御することが好ましい。
【0015】
第1プロセッサは、注目領域を検出した場合、注目領域のサイズの測定及び注目領域の種類の判別を、被写体の診断のために設定されているガイドラインに準拠した手順により行なうよう制御することが好ましい。
【0016】
第1プロセッサは、注目領域を検出した場合、医療画像に基づき、注目領域の形状を判別し、注目領域のサイズの測定、注目領域の種類の判別、及び注目領域の形状の判別を予め設定した手順により行なうよう制御することが好ましい。
【0017】
第1プロセッサは、注目領域の検出の有無、注目領域のサイズの測定により測定されたサイズ、及び/又は注目領域の種類の判別により判別された注目領域の種類とにより、被写体の検査間隔を決定することが好ましい。
【0018】
第1プロセッサは、医療画像の入力により注目領域を検出し出力する検出モデルを備え、検出モデルは、注目領域を出力する出力層と少なくとも1つの中間層とを有する層状構造を有し、かつ、注目領域の正解が関連付けられた医療画像に基づいて学習することにより生成したパラメータを有することが好ましい。
【0019】
第1プロセッサは、医療画像の入力により注目領域のサイズを測定し出力する測定モデルを備え、測定モデルは、注目領域のサイズを出力する出力層と少なくとも1つの中間層とを有する層状構造を有し、かつ、注目領域のサイズの正解が関連付けられた医療画像に基づいて学習することにより生成したパラメータを有することが好ましい。
【0020】
第1プロセッサは、医療画像を入力することにより注目領域の種類の判別結果を出力する判別モデルを備え、判別モデルは、注目領域の種類の判別結果を出力する出力層と少なくとも1つの中間層とを有する層状構造を有し、かつ、注目領域の状態の正解が関連付けられた医療画像に基づいて学習することにより生成したパラメータを有することが好ましい。
【0021】
検出モデル、測定モデル、及び/又は判別モデルは、畳込みニューラルネットワークモデルであることが好ましい。
【0022】
第1プロセッサは、互いに異なる撮影条件により撮影した複数種類の医療画像を取得し、それぞれ予め設定された種類の医療画像に基づき、被写体が有する注目領域を検出し、注目領域のサイズを測定し、及び注目領域の種類の判別を行なうことが好ましい。
【0023】
撮影条件は、照明光のスペクトルであることが好ましい。
【0024】
電子カルテサーバと接続し、第1プロセッサは、注目領域の検出の有無、並びに、注目領域を検出した場合の注目領域、注目領域サイズ、及び/又は注目領域の状態を電子カルテに入力する制御を行なうことが好ましい。
【0025】
また、本発明は、内視鏡システムであって、互いに異なる波長帯域の光を発する複数の光源と、複数の光源の光強度比の組み合わせが互いに異なる複数種類の照明光のそれぞれを発する制御を行う第2プロセッサを備えるプロセッサ装置と、照明光により照明された被写体を撮影する内視鏡と、医療画像処理装置とを備え、医療画像処理装置は、それぞれ予め設定した種類の照明光により被写体を撮影して得た医療画像に基づき、被写体が有する注目領域の検出、注目領域のサイズの測定、及び注目領域の種類の判別を行なう。
【0026】
第2プロセッサは、第1プロセッサが、注目領域のサイズの測定、及び注目領域の種類の判別を予め設定した手順により行なうよう制御するのに同期して、複数種類の照明光のそれぞれの種類を発する制御を行なうことが好ましい。
【0027】
第1プロセッサは、第2プロセッサが、互いに異なる複数種類の照明光のそれぞれを交互に繰り返して発するよう制御するのに同期して、被写体が有する注目領域を検出し、注目領域のサイズを測定し、及び注目領域の種類の判別をする制御を行なうことが好ましい。
【0028】
被写体との距離を測定する距離測定部を備えることが好ましい。
【0029】
また、本発明の医療画像処理装置の作動方法は、第1プロセッサを備える医療画像処理装置の作動方法であって、被写体を撮影した医療画像を取得する医療画像取得ステップと、医療画像に基づき、被写体が有する注目領域を検出する検出ステップと、予め設定した手順により、医療画像に基づく注目領域のサイズの測定と、医療画像に基づく注目領域の種類の判別とを行なうよう制御する第1制御ステップと、注目領域を検出した場合、注目領域と、注目領域のサイズ及び/又は注目領域の種類とをユーザに通知する制御する第2制御ステップとを備える。
【発明の効果】
【0030】
本発明によれば、効率的な内視鏡検査を可能にすることができる。
【図面の簡単な説明】
【0031】
【
図2】内視鏡システムの機能を示すブロック図である。
【
図3】光源部が含む4色のLEDを説明する説明図である。
【
図4】紫色光V、青色光B、緑色光G、及び赤色光Rのスペクトルを示すグラフである。
【
図5】第1照明光のスペクトルを示すグラフである。
【
図6】医療画像処理装置の機能を示すブロック図である。
【
図7】ガイドライン情報部を備える医療画像処理装置の機能を示すブロック図である。
【
図10】サイズ及び判別表示をディスプレイに表示した画像図である。
【
図11】医療画像処理装置における処理の一連の流れを示すフローチャートである。
【
図12】照明光の切り替えと得られる内視鏡画像とを説明する説明図である。
【
図13】接続部を備える医療画像処理装置の機能を示すブロック図である。
【
図14】観察距離をディスプレイに表示した画像図である。
【
図15】医療画像処理装置が診断支援装置に含まれる場合を説明する説明図である。
【
図16】医療画像処理装置が医療業務支援装置に含まれる場合を説明する説明図である。
【発明を実施するための形態】
【0032】
図1に示すように、内視鏡システム10は、内視鏡12と、光源装置13と、プロセッサ装置14と、ディスプレイ15と、キーボード16と、医療画像処理装置17とを有する。内視鏡12は、光源装置13と光学的に接続され、且つ、プロセッサ装置14と電気的に接続される。プロセッサ装置14は、医療画像処理装置17と接続する。医療画像処理装置17は、プロセッサ装置14から内視鏡画像を受け取って各種処理を行う。
【0033】
なお、本実施形態では、医療画像は内視鏡画像である。また、プロセッサ装置14内に医療画像処理装置17の機能を行なう手段を配置し、プロセッサ装置14が医療画像処理装置17の機能を行っても良い。また、各種接続は、有線に限らず無線であってもよく、また、ネットワークを介したものでもよい。したがって、医療画像処理装置17の機能を、ネットワークを介して接続した装置が行なうようにしてもよい。
【0034】
内視鏡12は、観察対象を有する被検者の体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられた湾曲部12c及び先端部12dとを有している。湾曲部12cは、操作部12bのアングルノブ12e(
図2参照)を操作することにより湾曲動作する。先端部12dは、湾曲部12cの湾曲動作によって所望の方向に向けられる。
【0035】
操作部12bは、アングルノブ12eの他、撮像倍率を変更するためのズーム操作部12fと、観察モードの切替操作に用いるモード切替スイッチ12gとを有する。なお、観察モードの切替操作、又はズーム操作は、モード切替スイッチ12g、又はズーム操作部12fの他、キーボード16、又はフットスイッチ(図示しない)等を用いた操作又は指示としてもよい。
【0036】
内視鏡システム10は、各種の観察モードを備える。本実施形態の診断支援観察モードは、内視鏡検査においてユーザが行なう一連の動作にわたり、ユーザを支援するための処理を自動で行なう。ユーザを支援するための処理として、観察対象が有する注目領域の検出、注目領域が検出された場合の注目領域のサイズ測定、及び注目領域の種類の判別を自動で行なう。診断支援観察モードでは、内視鏡画像に加え、これらの情報をディスプレイ15に表示することによりユーザに通知する。なお、本明細書において、注目領域とは、被写体が有する領域であって、病変等、なんらかの異常がある可能性が高い領域をいう。
【0037】
プロセッサ装置14は、ディスプレイ15及びキーボード16と電気的に接続される。ディスプレイ15は、内視鏡画像、注目領域に関する情報、及び/又はこれらに付帯した情報等を表示する。キーボード16は、機能設定などの入力操作を受け付けるユーザインタフェースとして機能する。なお、プロセッサ装置14には、画像や画像情報などを記録する外付けの記録部(図示せず)を接続してもよい。
【0038】
図2に示すように、光源装置13は、観察対象に照射する照明光を発し、光源部20と、光源部20を制御する光源用プロセッサ21(第2プロセッサ)とを備える。光源部20は、例えば、複数色のLED(Light Emitting Diode)等の半導体光源、レーザダイオードと蛍光体との組み合わせ、又はキセノンランプやハロゲン光源で構成する。また、光源部20には、LED等が発光した光の波長帯域を調整するための光学フィルタ等が含まれる。光源用プロセッサ21は、各LED等のオン/オフや、各LED等の駆動電流や駆動電圧の調整によって、照明光の光量を制御する。また、光源用プロセッサ21は、光学フィルタの変更等によって、照明光の波長帯域を制御する。
【0039】
図3に示すように、本実施形態では、光源部20は、V-LED(Violet Light Emitting Diode)20a、B-LED(Blue Light Emitting Diode)20b、G-LED(Green Light Emitting Diode)20c、及びR-LED(Red Light Emitting Diode)20dの4色のLEDを有する。
【0040】
図4に示すように、V-LED20aは、中心波長410±10nm、波長範囲380~420nmの紫色光Vを発生する。B-LED20bは、中心波長450±10nm、波長範囲420~500nmの青色光Bを発生する。G-LED20cは、波長範囲が480~600nmに及ぶ緑色光Gを発生する。R-LED20dは、中心波長620~630nmで、波長範囲が600~650nmに及ぶ赤色光Rを発生する。
【0041】
光源用プロセッサ21は、V-LED20a、B-LED20b、G-LED20c、及びR-LED20dを制御する。光源用プロセッサ21は、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比の組み合わせが特定の比率となる照明光を発するように、各LED20a~20dを制御する。
【0042】
光源用プロセッサ21は、本実施形態では、照明光として通常光又は第1照明光を発する。通常光を発するように設定した場合は、光源用プロセッサ21は、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比の組み合わせがVc:Bc:Gc:Rcとなる通常光を発光するように、各LED20a~20dを制御する。
【0043】
第1照明光を発するように設定した場合は、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比の組み合わせがVs1:Bs1:Gs1:Rs1となる第1照明光を発光するように、各LED20a~20dを制御する。第1照明光は、表層血管を強調することが好ましい。そのため、第1照明光は、紫色光Vの光強度を青色光Bの光強度よりも大きくすることが好ましい。例えば、
図5に示すように、紫色光Vの光強度Vs1と青色光Bの光強度Bs1との比率を「4:1」とする。
【0044】
なお、本明細書において、光強度比の組み合わせは、少なくとも1つの半導体光源の比率が0(ゼロ)の場合を含む。したがって、各半導体光源のいずれか1つ又は2つ以上が点灯しない場合を含む。例えば、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比の組み合わせが1:0:0:0の場合のように、半導体光源の1つのみを点灯し、他の3つは点灯しない場合も、光強度比を有し、光強度比の組み合わせの1つである。
【0045】
以上のように、通常光と第1照明光とにおいて発せられる、紫色光V、青色光B、緑色光G、及び赤色光Rの光強度比の組み合わせ、すなわち照明光の種類は、互いに異なる。本実施形態では、通常光もしくは第1照明光のいずれかの照明光を連続して発するか、又は、通常光と第1照明光といった種類が互いに異なる照明光を自動で切り替えて発する。
【0046】
通常光と第1照明光とを自動で切り替えて発する場合は、通常光を続けて発光する通常光期間と、第1照明光を続けて発光する第1照明光期間とを交互に繰り返す。例えば、通常光を発光する通常光期間を所定のフレーム数で行った後に、第1照明光を発光する第1照明光期間を所定のフレーム数で行う。その後再び通常光期間となり、通常光期間と第1照明光期間とのセットを繰り返す。
【0047】
なお、「フレーム」とは、観察対象を撮像する撮像センサ45(
図2参照)を制御するための単位をいい、例えば、「1フレーム」とは、観察対象からの光で撮像センサ45を露光する露光期間と画像信号を読み出す読出期間とを少なくとも含む期間をいう。本実施形態においては、撮影の単位である「フレーム」に対応して通常光期間、又は第1期間等の各種期間がそれぞれ定められる。
【0048】
各LED20a~20eが発する光は、ミラーやレンズなどで構成される光路結合部(図示せず)を介して、ライトガイド41に入射される。ライトガイド41は、内視鏡12及びユニバーサルコード(内視鏡12と、光源装置13及びプロセッサ装置14を接続するコード)に内蔵されている。ライトガイド41は、光路結合部からの光を、内視鏡12の先端部12dまで伝搬する。
【0049】
内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ42を有しており、ライトガイド41によって伝搬した照明光は照明レンズ42を介して観察対象に照射される。撮像光学系30bは、対物レンズ43、ズームレンズ44、及び撮像センサ45を有している。観察対象からの反射光、散乱光、及び蛍光等の各種の光は、対物レンズ43及びズームレンズ44を介して撮像センサ45に入射する。これにより、撮像センサ45に観察対象の像が結像する。ズームレンズ44は、ズーム操作部12fを操作することでテレ端とワイド端との間で自在に移動し、撮像センサ45に結像する観察対象を拡大又は縮小する。
【0050】
撮像センサ45は、画素毎にR(赤色)、G(緑色)、又はB(青色)のカラーフィルタのいずれかが設けられたカラー撮像センサであり、観察対象を撮像してRGB各色の画像信号を出力する。撮像センサ45としては、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサを利用可能である。また、原色のカラーフィルタが設けられた撮像センサ45の代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(緑)の補色フィルタを備えた補色撮像センサを用いても良い。また、撮像センサ45の代わりに、カラーフィルタを設けていないモノクロセンサを用いても良い。
【0051】
撮像センサ45は、撮像制御部(図示せず)によって駆動制御される。中央制御部58(
図3参照)は、撮像制御部に同期して光源用プロセッサ21を通して光源部20の発光を制御する。例えば、通常光で照明された観察対象を撮影するように撮像センサ45を制御することにより、撮像センサ45のB画素からBc画像信号が出力され、G画素からGc画像信号が出力され、R画素からRc画像信号が出力される。または、第1照明光で照明された観察対象を撮影するように撮像センサ45を制御することにより、撮像センサ45のB画素からBs1画像信号が出力され、G画素からGs1画像信号が出力され、R画素からRs1画像信号が出力される。中央制御部58は、通常光と第1照明光とを切り替える場合は、撮像制御部の制御をそれぞれの照明光期間に合わせて切り替える。
【0052】
CDS/AGC(Correlated Double Sampling/Automatic Gain Control)回路46は、撮像センサ45から得られるアナログの画像信号に相関二重サンプリング(CDS)や自動利得制御(AGC)を行う。CDS/AGC回路46を経た画像信号は、A/D(Analog/Digital)コンバータ47により、デジタルの画像信号に変換される。A/D変換後のデジタル画像信号は、プロセッサ装置14に入力される。
【0053】
プロセッサ装置14には、画像処理などの処理に関するプログラムがプログラム用メモリ(図示しない)に格納されている。プロセッサ装置14においては、プロセッサ等によって構成される中央制御部58により、プログラム用メモリ内のプログラムが動作することによって、画像取得部51と、DSP(Digital Signal Processor)52と、ノイズ低減部53と、メモリ54と、画像処理部55と、表示制御部56と、映像信号生成部57と、中央制御部58の機能が実現される。また、中央制御部58は、内視鏡12および光源装置13からの情報を受信し、受信した情報に基いて、プロセッサ装置14の各部の制御の他、内視鏡12又は光源装置13の制御を行う。また、キーボード16からの指示などの情報も受信する。
【0054】
画像取得部51は、内視鏡12から入力される内視鏡画像のデジタル画像信号を取得する。画像取得部51は、各照明光により照明された観察対象を撮影した画像信号をフレーム毎に取得する。
【0055】
取得した画像信号はDSP52に送信される。DSP52は、受信した画像信号に対して色補正処理等のデジタル信号処理を行う。ノイズ低減部53は、DSP52で色補正処理等が施された画像信号に対して、例えば移動平均法やメディアンフィルタ法等によるノイズ低減処理を施す。ノイズを低減した画像信号は、メモリ54に記憶する。
【0056】
画像処理部55は、メモリ54からノイズ低減後の画像信号を取得する。そして、取得した画像信号に対して、必要に応じて、色変換処理、色彩強調処理、及び構造強調処理等の信号処理を施し、観察対象が写ったカラーの内視鏡画像を生成する。画像処理部55は、通常画像処理部61と特殊画像処理部62とを備える。
【0057】
画像処理部55において、通常画像処理部61は、通常光により撮影した通常画像において、入力した1フレーム分のノイズ低減後の通常画像用の画像信号に対して、色変換処理と、色彩強調処理、構造強調処理などの通常画像用の画像処理を施す。通常画像用の画像処理が施された画像信号は、医療画像処理装置17及び/又は表示制御部56に入力する。
【0058】
画像処理部55において、特殊画像処理部62は、第1照明光により撮影された第1画像において、入力した1フレーム分のノイズ低減後の第1画像の画像信号に対して、色変換処理と、色彩強調処理、構造強調処理などの第1画像用の画像処理を施す。第1画像用の画像処理が施された画像信号は、第1画像として、医療画像処理装置17及び/又は表示制御部56に入力する。なお、画像処理部55は、通常画像と第1画像とを含む内視鏡画像を医療画像処理装置17及び/又は表示制御部56に入力する際に、フレームレートの調整をしてもよい。
【0059】
画像処理部55は、通常光による通常画像に対して、観察対象が自然な色合いになる上記各種信号処理を施して通常画像を生成する。また、第1照明光による第1画像に対して、観察対象の血管を強調する各種信号処理を施して第1画像を生成する。
【0060】
半導体光源は、波長帯域が中心波長410±10nmかつ波長範囲420~500nmである紫色光V(第1狭帯域光)を発光するV-LED20aと、波長帯域が中心波長450±10nmかつ波長範囲380~420nmである青色光B(第2狭帯域光)を発光するB-LED20bとを含む。したがって、画像処理部55が生成する第1画像では、粘膜の表面を基準として観察対象内の比較的浅い位置にある血管(いわゆる表層血管)又は血液は、マゼンタ系の色(例えばブラウン色)になる。このため、第1画像では、ピンク系の色で表される粘膜に対して、観察対象の血管又は出血(血液)は、色の違いで強調される。
【0061】
表示制御部56は、画像処理部55が生成した内視鏡画像を受信し、ディスプレイ15に表示するための制御を行なう。表示制御部56において、表示するための制御が行われた内視鏡画像は、映像信号生成部57において、ディスプレイ15に表示するための映像信号に生成されて、ディスプレイ15に送られる。ディスプレイ15は、映像信号生成部57から送られた内視鏡画像を、表示制御部56の制御に従って表示する。
【0062】
図6に示すように、医療画像処理装置17は、医療画像取得部81、注目領域検出部82、動作制御部83、サイズ測定部84、種類判別部85、及び通知制御部86を備える。医療画像取得部81は、プロセッサ装置14の画像処理部55において調整された通常画像又は第1画像を取得する。注目領域検出部82は、通常画像又は第1画像に基づき、被写体が有する注目領域を検出する。サイズ測定部84は、注目領域のサイズを測定するし、種類判別部85は、注目領域の種類の判別を行なう。動作制御部83は、注目領域が検出された場合に、サイズ測定部84と種類判別部85との動作を、予め設定した手順により行なうよう制御する。通知制御部86は、注目領域、注目領域のサイズ、及び注目領域の種類について、ユーザに通知する制御を行なう。
【0063】
医療画像処理装置17には、画像処理などの処理に関するプログラムがプログラム用メモリ(図示しない)に格納されている。医療画像処理装置17は、第1プロセッサを備える。医療画像処理装置17においては、プロセッサ等によって構成される中央制御部(図示せず)により、プログラム用メモリ内のプログラムが動作することによって、医療画像取得部81と、注目領域検出部82と、動作制御部83と、サイズ測定部84と、種類判別部85と、通知制御部86と、ガイドライン情報部87と、接続部99の機能が実現される。また、中央制御部は、プロセッサ装置14からの情報を受信し、受信した情報に基いて、医療画像処理装置17の各部の制御の他、ディスプレイ15等の各出力のの制御を行う。また、キーボード16等のユーザインタフェースからの指示などの情報も受信する。
【0064】
医療画像取得部81が、通常画像又は第1画像を取得した場合、注目領域検出部82がそれぞれの画像に基づいて、それぞれの画像に写る観察対象が有する注目領域を検出する。検出には、注目領域の個数、又はポリープ等の特定の疾患の個数も含む。注目領域の検出は、内視鏡画像に基づいて行なう。なお、通常画像又は第1画像を区別しない場合に、これらをまとめて内視鏡画像という。
【0065】
注目領域検出部82は、検出結果が優れる可能性があることから、機械学習技術による検出モデルを用いて注目領域を検出することが好ましい。検出モデルは、ニューラルネットワークモデルであることが好ましい。また、内視鏡画像に基づいて注目領域を検出する学習モデルであることから、畳み込みニューラルネットワークであることが好ましい。したがって、検出モデルは、注目領域を出力する出力層と少なくとも1つの中間層とを有する層状構造を有することが好ましい。また、検出結果がより優れる可能性があることから、ディープラーニングモデルであることが好ましい。
【0066】
なお、検出モデルは、注目領域の正解が関連付けられた内視鏡画像に基づいて学習することにより生成したパラメータを有することが好ましい。注目領域の正解とは、内視鏡画像に写る観察対象においてなんらかの異常があることが明らかな領域である。注目領域の正解は、熟練の医師等、内視鏡画像における注目領域の検出に優れる者が、内視鏡画像に基づいて判定し、内視鏡画像に関連付ける。内視鏡画像における注目領域が複数ある場合は、全ての注目領域をそれぞれ検出して、注目領域の正解とする。内視鏡画像について注目領域の正解を決定した後、内視鏡画像に座標、又は画像処理等により注目領域を示すデータを付与して、注目領域の正解が関連付けられた内視鏡画像とする。
【0067】
注目領域検出部82により、内視鏡画像について注目領域が検出された場合は、サイズ測定部84及び/又は種類判別部85に自動的に送る。サイズ測定部84及び/又は種類判別部85の動作は、動作制御部83により制御する。
【0068】
動作制御部83は、サイズ測定部84及び/又は種類判別部85の動作を、予め設定した手順により行なうよう制御する。予め設定する手順は、医師が注目領域の診断を行なう一連の動作に従う手順であることが好ましい。これにより、注目領域の検出から、ユーザが手動で切り替えることなく、医師が行なう一連の動作に従った診断支援が可能となるため、手技をしながらスイッチを操作する手間がかからず、また、切り替え忘れによりサイズの記録漏れが発生する等のトラブルを防止可能となり、好ましい。なお、手順の設定は、キーボード16等のユーザインターフェースから行なうことができる。
【0069】
一連の動作とは、例えば、注目領域を認定した後、注目領域のサイズを推定し、その後注目領域の種類の判別を行ない、推定したサイズ及び種類等により処置方法を決定して処置を行なうことが挙げられる。したがって、医療画像処理装置17は、注目領域を検出した後、サイズ測定部84によりサイズを推定し、その後種類判別部85により注目領域の種類の判別を行なうとの手順により、サイズ測定部84及び/又は種類判別部85の動作を制御することができる。
【0070】
また、予め設定する手順は、サイズ測定部84の動作と、種類判別部85の動作とを、並行して行なう手順としてもよい。このような手順は、サイズ測定部84による注目領域のサイズの測定と種類判別部85による注目領域の種類の判別とを必ず行なう場合、又は、サイズ測定と注目領域の種類の判別に要するコンピュータの負荷の点で問題がない場合等に設定することができる。注目領域のサイズの測定と種類の判別とを並行して行なうことにより、測定結果又は判別結果がすみやかに得られる可能性があるため好ましい。
【0071】
また、医師は、注目領域の診断において、特定の疾患の診断に関するガイドラインの手順に従って診断をすすめる場合がある。したがって、予め設定する手順は、観察対象の診断のために設定されているガイドラインに準拠した手順であることが好ましい。診断のために設定されているガイドラインとしては、部位別又は疾患別等で各種のものが規定されている。ガイドラインに準拠した動作を予め設定することにより、医師がガイドラインに従った診断を行なう際に、医師がガイドラインに従った診断を確認でき、また、診断の際に必要な支援情報がタイミング良く得られる可能性がるため好ましい。
【0072】
図7に示すように、ガイドラインに従う場合、ガイドライン情報部87を備えてもよい。ガイドライン情報部87は、各種のガイドラインの情報を記憶する。動作制御部83は、ガイドライン情報部87の情報を用いて、サイズ測定部84又は種類判別部85の動作の制御をすることができる。
【0073】
例えば、ESGEによる大腸ポリープ切除術と内視鏡的粘膜切除術に関するガイドライン(非特許文献1)には、大腸の表層型大腸新生物について、無茎であり突起状又は平板状のポリープでは、6mm以上9mm以下の場合は、コールドスネアポリペクトミー(CSP、Cold snare polypectomy)による一括切除が推奨され、全層切除ができない場合は、オリゴ・ピースミール切除(oligo-piecemeal excision)でもよいが、組織検査のための完全な検体採取が必要であるとの注釈がなされている。また、同様のポリープにおいて10mm以上の場合は、粘膜下層への浸潤の有無を確認するための高度なイメージングの内視鏡検査をすることとされている。
【0074】
したがって、このガイドラインに準拠した手順により動作制御部83の動作を設定する場合は、サイズ測定部84によりサイズを測定した後、サイズが6mm以上9mmの無茎であり突起状又は平板状のポリープに対しては、組織検査の支援として、種類判別部85による注目領域の種類の判定を行なうとの手順を予め設定することができる。また、サイズが10mm以上の場合は、画像強調内視鏡(IEE、image enhanced endoscopy)を用いた画像強調観察による内視鏡画像を自動的に取得するように動作制御部83又は内視鏡システム10の動作を設定してもよい。IEEには、観察対象を撮像して得た内視鏡画像をデジタル画像処理する方法、又は、観察対象を特定の照明光により照明して撮影する方法等、各種の方法が知られており、いずれを用いることもできる。IEEを用いる場合については後述する。
【0075】
なお、注目領域を検出した場合、医療画像に基づき、注目領域の形状を判別する形状判別部(図示せず)を備えてもよい。この場合、動作制御部83は、サイズ測定部84、種類判別部85、及び形状判別部の動作を予め設定した手順により行なうよう制御する。例えば、上記ガイドラインでは、無茎であり突起状又は平板状のポリープであるか、又は有茎性のポリープであるかにより処置が異なる。したがって、上記ガイドラインに準拠して診断を行なう等、必要な場合は、注目領域検出部82により注目領域を検出した後、形状判別部により注目領域の形状を判定し、例えば、有茎性であるか無茎であるかを判定した上で、サイズ測定部84及び/又は種類判別部85の動作を制御してもよい。
【0076】
サイズ測定部84は、測定結果が優れる可能性から、機械学習技術による測定モデルを用いて注目領域のサイズを測定することが好ましい。
図8に示すように、注目領域を有する内視鏡画像70を、測定モデル88に入力することにより、注目領域のサイズが出力される。サイズは、注目領域の大きさに関する情報であり、略円形の場合は直径等であり、略四角形の場合は4辺の長さ等であってもよい。測定モデル88は、ニューラルネットワークモデルであることが好ましい。また、内視鏡画像に基づいて注目領域のサイズを測定する学習モデルであることから、畳み込みニューラルネットワークであることが好ましい。したがって、測定モデル88は、注目領域のサイズを出力する出力層と少なくとも1つの中間層とを有する層状構造を有することが好ましい。また、検出結果がより優れる可能性があることから、ディープラーニングモデルであることが好ましい。
【0077】
なお、測定モデル88は、注目領域のサイズの正解が関連付けられた内視鏡画像に基づいて学習することにより生成したパラメータを有することが好ましい。注目領域のサイズの正解は、注目領域のサイズの実測値が既知である内視鏡画像とすることができる。例えば、注目領域がポリープである場合、ポリープが写る内視鏡画像と、ポリープを切除した後に実測した得たサイズとを関連付けて、注目領域のサイズの正解が関連付けられた内視鏡画像とすることができる。
【0078】
種類判別部85は、測定結果が優れる可能性から、機械学習技術による判別モデルを用いて注目領域の種類を判別することが好ましい。
図9に示すように、注目領域を有する内視鏡画像70を、判別モデル89に入力することにより、注目領域の種類が出力される。判別モデル89は、ニューラルネットワークモデルであることが好ましい。また、内視鏡画像に基づいて注目領域の種類を判別する学習モデルであることから、畳み込みニューラルネットワークであることが好ましい。したがって、判別モデル89は、注目領域の種類の判別結果を出力する出力層と少なくとも1つの中間層とを有する層状構造を有することが好ましい。また、検出結果がより優れる可能性があることから、ディープラーニングモデルであることが好ましい。
【0079】
なお、判別モデル89は、注目領域の種類の判別結果の正解が関連付けられた内視鏡画像に基づいて学習することにより生成したパラメータを有することが好ましい。注目領域の種類の判別結果の正解は、注目領域の種類の判別結果が既知である内視鏡画像とすることができる。例えば、注目領域がポリープである場合、ポリープが写る内視鏡画像と、ポリープの種類の判別結果が病理診断等で診断されて明らかである場合のポリープの種類とを関連付けて、注目領域の種類の判別結果の正解が関連付けられた内視鏡画像とすることができる。なお、注目領域の種類とは、例えば、注目領域が大腸の異常領域である場合、ポリープ、腫瘍、もしくは発赤等、腫瘍性であるか非腫瘍性であるかの種類、又は、大腸がん、潰瘍性大腸炎もしくはクローン病等の特定の疾患の重症度、進行度もしくはステージ等が挙げられる。
【0080】
なお、形状判定部も、サイズ測定部84と種類判別部85と同様に、機械学習技術による学習モデルとすることができる。また、動作制御部83は、サイズ測定部84と種類判別部85に加えて、形状判定部の動作を制御してもよい。
【0081】
また、注目領域の有無、サイズ測定部84により測定されたサイズ、及び/又は種類判別部85により判別された注目領域の種類とにより、被写体の検査間隔を決定する検査間隔決定部(図示せず)を備えてもよい。検査間隔はサーベイランス間隔ともいい、注目領域の診断結果に従い推奨される検査の間隔である。検査間隔は、診断結果に従い医師が決定し、各種疾患のガイドラインに従う場合もある。したがって、検査間隔決定部は、被写体の診断のために設定されているガイドラインに準拠するものであってもよい。検査間隔決定部は、医師が検査間隔を決定する支援として、検査間隔の具体的な期間をユーザに通知する。通知方法は、注目領域のサイズ又は注目領域の種類の判定結果と同様であり、ディスプレイ15に表示する方法を採用できる。
【0082】
検査間隔決定部も、サイズ測定部84と種類判別部85と同様に、機械学習技術による学習モデルとすることができる。また、動作制御部83は、サイズ測定部84と種類判別部85に加えて、検査間隔決定部の動作を制御してもよい。
【0083】
通知制御部86は、注目領域を検出した場合、注目領域、注目領域のサイズ、及び/又は注目領域の種類をユーザに通知する制御を行なう。これらの情報をユーザに通知する方法としては、ユーザが認識できる方法であればよく、例えば、ディスプレイ15に内視鏡画像とともに注目領域に関する上記情報を表示する方法が挙げられる。
【0084】
図10に示すように、ディスプレイ15に内視鏡画像70を表示する際に、注目領域が検出された場合は、注目領域指示マーク91により、注目領域を表示することができる。注目領域指示マーク91の形状としては、ユーザが内視鏡画像を視認する障害とならない態様のマークであることが好ましく、例えば、注目領域の周囲を囲う透明な図形からなるマークとすることができる。ディスプレイ15に内視鏡画像を表示する際には、注目領域インジケータ98によって注目領域を表示してもよい。
【0085】
動作制御部83の制御により、注目領域の検出後に連続して行われたサイズ測定部84及び種類判別部85による測定結果及び判別結果を、サイズ及び判別表示92により、注目領域指示マーク91とともにディスプレイ15に表示することができる。サイズ及び判別表示92は、ユーザが測定結果及び判別結果を認知できる形態で表示すればよく、具体的には、注目領域のサイズの表示として「サイズ:直径10mm」と表示され、注目領域の種類の判別結果として「種別:neoplastic, submucosal invation」と表示され、腫瘍性であり、粘膜浸潤の疑いがあると表示されている。
【0086】
なお、サイズ及び判別表示92には、サイズ及び判別表示92に示された注目領域のサイズ及び修理とガイドライン情報部87に記憶されたガイドラインの情報とにより、推奨される処置の方法を示してもよい。例えば、大腸のポリープのガイドラインを参照して、サイズが約直径10mm領域の種類の判別結果として腫瘍性であり、粘膜浸潤の疑いがあると判定されている場合に、「処置:ESD(Guideline1)」と表示される。これは、ガイドライン情報部87に記憶されたガイドライン1(Guideline1)に準拠した場合、ESD(endoscopic submucosal dissection、内視鏡的粘膜下層剥離術)による処置が推奨されることを示す。これらの表示により、ユーザはディスプレイ15をひと目見ることにより、注目領域、注目領域のサイズ、及び注目領域の種類、さらには特定のガイドラインに基づいて推奨される処置方法等の通知を受けることができる。
【0087】
なお、ディスプレイ15には、医師の診断に資するその他の情報を表示してもよい。例えば、動作制御部83が準拠するガイドライン名の他、内視鏡先端部から観察対象までの距離等が挙げられる。内視鏡先端部から観察対象までの距離の測定については後述する。
【0088】
医療画像処理装置17による本実施形態の内視鏡検査の一連の流れについて、
図11に示すフローチャートに沿って説明を行う。まず、動作制御部83において、サイズ測定部84と種類判別部85との動作の手順を設定する(ステップST110)。動作の手順の設定はキーボード16から行い、設定した動作の手順は、注目領域を検出した後に、サイズ測定部84を作動し、その後、種類判別部85を作動するとの手順である。設定が終了したら、内視鏡を被検体に挿入して、内視鏡検査を開始する(ステップST120)。盲腸付近まで挿入した後、抜去しながら内視鏡画像を取得する(ステップST130)。
【0089】
取得した内視鏡画像に基づいて、注目領域検出部82が注目領域の検出を実行する(ステップST140)。注目領域検出部82が注目領域を検出した場合(ステップST150でY)、動作制御部83がサイズ測定部84を作動させる(ステップST160)。そして、サイズ測定部84が注目領域のサイズ測定を行う(ステップST170)。その後、動作制御部83が種類判別部85を作動させる(ステップST180)。そして、種類判別部85が注目領域の種類を判別する(ステップST190)。得られた注目領域のサイズと種類との情報については、通知制御部86がユーザへの通知を制御し(ステップST200)、ディスプレイ15が注目領域のサイズと種類とを表示する(ステップST210)。
【0090】
検査を終了する場合(ステップST220でY)、内視鏡検査は終了となる。なお、注目領域検出部82が注目領域を検出しない場合(ステップST150でN)、及び、検査を終了しない場合(ステップST220でN)、再び内視鏡画像取得(ステップST130)に戻り、内視鏡画像を取得して内視鏡検査を続ける。
【0091】
医療画像処理装置17は、以上のように構成したことにより、注目領域の検出、サイズの測定、又は鑑別等の処理を行なうプログラムの作動を切り替えて行なう必要がなく、医師が診断を行なう場合に必要な一連の動作の支援を自動で行なうことができる。したがって、内視鏡検査を行なっている間の医師等による操作の手間を省くことができ、また、測定し忘れ等を防ぐことができ、効率的な内視鏡検査が可能となる。
【0092】
また、動作制御部83は、医師が診断を行なう場合に必要な一連の動作について支援を行なうことができるため、診断を行なう場合に必要な一連の動作のそれぞれに関して、診断を支援する情報を通知することができる。また、医師が注目領域の診断をガイドラインに準拠して行なう場合、ガイドラインに基づく診断に関して必要な情報を医師に通知することができるため、医師はガイドラインに合った的確な診断を手間をかけることなく行なうことができる。
【0093】
なお、医療画像取得部81は、互いに異なる撮影条件により撮影した複数種類の医療画像を取得し、注目領域検出部82、サイズ測定部84、及び種類判別部85は、それぞれ予め設定された種類の医療画像に基づいて処理を行ってもよい。撮影条件が異なる内視鏡画像は、画像強調観察(IEE)による内視鏡画像とすることができる。注目領域検出部82、サイズ測定部84、及び種類判別部85は、それぞれ、撮影条件が異なる内視鏡画像に基づいて処理を行なうことにより、より精密な結果が得られる場合がある。したがって、注目領域検出部82、サイズ測定部84、及び種類判別部85に対して、それぞれ好ましい種類の内視鏡画像を送信することが好ましい。
【0094】
照明光の種類、すなわち照明光のスペクトルは、撮影条件の一つである。医療画像取得部81は、照明光のスペクトル等の撮影条件が互いに異なる複数種類の内視鏡画像を取得して、撮影条件としては、照明光のスペクトル、すなわち、各LED20a~20dの光量比の他に、撮影時刻、観察対象との間の観察距離、又は内視鏡12のズーム倍率等が挙げられる。光量比は、中央制御部58から取得する。撮影時刻は、内視鏡画像が有するヘッダー情報から取得してもよいし、中央制御部58から取得してもよい。観察距離は、例えば、観察距離が遠距離の非拡大観察距離と、観察距離が近距離の拡大観察距離等があり、内視鏡画像から得られる露光量によって取得する。なお、観察距離は画像の周波数解析によって取得しても良い。内視鏡12のズーム倍率は、例えば、非拡大観察とする非拡大と、拡大観察を可能とする低倍率から高倍率等があり、ズーム操作部12fの変更操作に基づき取得することができる。本実施形態では、撮影条件として、照明光のスペクトルを用いる。
【0095】
この場合、光源用プロセッサ21は、特定の種類の照明光を切り替えて発する。具体的には、通常光を続けて発光する通常光期間と、第1照明光を続けて発光する第1照明光期間とを交互に繰り返す。通常光を発光する通常光期間を所定のフレーム数で行った後に、第1照明光を発光する第1照明光期間を所定のフレーム数で行う。その後再び通常光期間となり、通常光期間と第1照明光期間とのセットを繰り返す。
【0096】
なお、「フレーム」とは、観察対象を撮像する撮像センサ45(
図2参照)を制御するための単位をいい、例えば、「1フレーム」とは、観察対象からの光で撮像センサ45を露光する露光期間と画像信号を読み出す読出期間とを少なくとも含む期間をいう。本実施形態においては、撮影の単位である「フレーム」に対応して通常光期間、又は第1期間等の各種期間がそれぞれ定められる。
【0097】
図12に示すように、通常光を発光する通常光期間を3フレーム分の期間で行った後に、第1照明光を発光する第1照明光期間を1フレーム分の期間で行う。その後再び通常光期間となり、通常光期間と第1照明光期間とのセットの4フレーム分を繰り返す。したがって、通常光期間3フレームの間に、通常画像71を3つ続けて撮影した後、第1照明光期間に、第1画像72を1つ撮影する。なお、第1画像72は、通常画像71と色合いが異なることから、網掛けで示す。ディスプレイ15には、通常画像71のみを表示し、第1画像72は表示しない。その後は、通常光期間に戻り、引き続きこのパターンを繰り返す。
【0098】
第1画像72は、表層血管を強調した画像であるため、通常画像71に基づいて処理する場合よりも、より高い精度の結果が得られる場合がある。なお、精度が高いとは、注目領域検出部82、サイズ測定部84、又は種類判別部85の処理により得られる結果が実態と合致する割合が高い、又は、得られる領域又はサイズ等がより精細に得られること等を意味する。
【0099】
注目領域検出部82、サイズ測定部84、又は種類判別部85は、第1画像72に基づいて処理を行なう。そのために、光源用プロセッサ21は、動作制御部83がサイズ測定部84及び種類判別部85の動作を予め設定した手順により行なうように制御するのに同期して、複数種類の照明光のそれぞれの種類を発する制御を行なってもよい。また、逆に、動作制御部83は、光源用プロセッサ21が複数種類の照明光を予め設定したパターンで発するのに同期して、注目領域検出部82、サイズ測定部84、又は種類判別部85の動作を制御してもよい。
【0100】
この際、ディスプレイ15には、通常画像71を表示する。第1画像72が取得されるフレームの期間は、第1画像72を撮影する直前の通常画像71を2フレームの期間で表示する等の方法により、ディスプレイ15を見るユーザは、問題なく通常画像71を見ながら、精度が高い診断の支援となる情報が自動的に得られる。したがって、ユーザは見慣れている通常画像71を表示させながら、より高い精度の各種処理結果の情報を得ることができるため好ましい。
【0101】
なお、
図13に示すように、医療画像処理装置17は、電子カルテサーバと接続する接続する接続部99を備えても良い。接続部99は、注目領域の検出の有無、並びに、注目領域を検出した場合の注目領域、注目領域サイズ、及び/又は注目領域の状態を電子カルテに入力する制御を行なう。接続部99により、医師による内視鏡検査の一連の動作である電子カルテへの各種情報の入力も、医療画像処理装置17により自動的に行なうことができるため、内視鏡検査の効率化に資する。
【0102】
なお、内視鏡システム10は、観察対象と内視鏡先端部との距離を測定する距離測定部を備えることが好ましい。距離測定部は、具体的には、レーザによる計測補助光を用いる方法、パターンを投影する方法、TOF(Time of Fright)、又は超音波を用いる方法等を採用できる。レーザによる計測補助光を用いる方法とは、レーザによる計測補助光を、内視鏡の光軸と交差する状態で、かつ、撮像光学系の撮影画角に入る状態で出射し、計測補助光によって被写体上に形成されるスポットの位置により、観察対象と内視鏡先端部との距離を把握する方法である。
【0103】
図14に示すように、これらの方法により測定した観察対象と内視鏡先端部との距離を、注目領域のサイズ表示又は種類の判別の表示と合わせてサイズ及び判別表示93に示すことにより、診断の支援となる様々な情報を医師に同時に示すことができる。
【0104】
なお、上記実施形態では、内視鏡画像の処理を行う場合に対して本発明の適用を行っているが、内視鏡画像以外の医療画像を処理するプロセッサ装置、医療画像処理装置、又は医療画像処理システム等に対しても本発明の適用は可能である。
【0105】
この他、
図15に示すように、内視鏡システム10のうち、医療画像処理装置17の一部又は全部は、例えばプロセッサ装置14と通信して内視鏡システム10と連携する診断支援装置610に設けることができる。同様に、内視鏡システム10のうち、医療画像処理装置17の一部又は全部は、例えば医療画像処理装置17と通信して内視鏡システム10と連携する診断支援装置610に設けることができる。
【0106】
また、
図16に示すように、内視鏡システム10のうち画像処理部55及び/又は中央制御部58の一部又は全部は、例えば内視鏡システム10から直接的に、または、PACS(Picture Archiving and Communication Systems)22から間接的に、内視鏡12で撮像した画像を取得する診断支援装置610に設けることができる。同様に、内視鏡システム10のうち医療画像処理装置17の一部又は全部は、例えば内視鏡システム10から直接的に、または、PACS(Picture Archiving and Communication Systems)22から間接的に、内視鏡12で撮像した画像を取得する診断支援装置610に設けることができる。
【0107】
また、
図23に示すように、内視鏡システム10を含む、第1検査装置621、第2検査装置622、…、第N検査装置623等の各種検査装置と、ネットワーク626を介して接続する医療業務支援装置630に、内視鏡システム10のうち医療画像処理装置17の一部又は全部を設けることができる。
【0108】
上記実施形態において、光源用プロセッサ21、医療画像処理装置17が含む第1プロセッサ、プロセッサ装置14に含まれる中央制御部58、画像取得部51、DSP52、ノイズ低減部53、メモリ54、画像処理部55、表示制御部56及び映像信号生成部57といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
【0109】
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
【0110】
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
【0111】
本発明は、上記実施形態に限らず、本発明の要旨を逸脱しない限り種々の構成を採用し得ることはもちろんである。さらに、本発明は、プログラムに加えて、プログラムを記憶する記憶媒体にもおよぶ。
【符号の説明】
【0112】
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
12f ズーム操作部
12g モード切替スイッチ
13 光源装置
14 プロセッサ装置
15 ディスプレイ
16 キーボード
17 医療画像処理装置
20 光源部
20a V-LED
20b B-LED
20c G-LED
20d R-LED
21 光源用プロセッサ
22 PACS
30a 照明光学系
30b 撮像光学系
41 ライトガイド
42 照明レンズ
43 対物レンズ
44 ズームレンズ
45 撮像センサ
46 CDS/AGC回路
47 A/Dコンバータ
51 画像取得部
52 DSP
53 ノイズ低減部
54 メモリ
55 画像処理部
56 表示制御部
57 映像信号生成部
58 中央制御部
61 通常画像処理部
62 特殊画像処理部
70 内視鏡画像
71 通常画像
72 第1画像
81 医療画像取得部
82 注目領域検出部
83 動作制御部
84 サイズ測定部
85 種類判別部
86 通知制御部
87 ガイドライン情報部
88 測定モデル
89 判別モデル
91 注目領域指示マーク
92 サイズ及び判別表示
98 注目領域インジケータ
99 接続部
610 診断支援装置
621 第1検査装置
622 第2検査装置
623 第N検査装置
626 ネットワーク
630 医療業務支援装置
ST110~ST220 ステップ