(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-17
(45)【発行日】2024-09-26
(54)【発明の名称】内視鏡システム、内視鏡システムの作動方法、及び内視鏡システム用プログラム
(51)【国際特許分類】
A61B 1/045 20060101AFI20240918BHJP
A61B 1/00 20060101ALI20240918BHJP
【FI】
A61B1/045 618
A61B1/045 622
A61B1/00 513
(21)【出願番号】P 2022534904
(86)(22)【出願日】2021-03-17
(86)【国際出願番号】 JP2021010863
(87)【国際公開番号】W WO2022009478
(87)【国際公開日】2022-01-13
【審査請求日】2022-12-14
(31)【優先権主張番号】P 2020117098
(32)【優先日】2020-07-07
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001988
【氏名又は名称】弁理士法人小林国際特許事務所
(72)【発明者】
【氏名】檜谷 康太郎
【審査官】▲高▼木 尚哉
(56)【参考文献】
【文献】国際公開第2020/012872(WO,A1)
【文献】国際公開第2020/075578(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00-1/32
G02B 23/24-23/26
(57)【特許請求の範囲】
【請求項1】
観察対象に照射する照明光を発する光源部と、プロセッサを備える画像処理装置
を備える内視鏡システムであって、
前記光源部は、白色の照明光と、互いに分光スペクトルが異なる複数の支援画像用照明光のそれぞれとを、予め設定した順序により繰り返し発光し、
前記プロセッサは、
内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得し、
前記白色の照明光により照明した前記観察対象を撮像することにより得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成し、
複数の前記支援画像用照明光のそれぞれにより照明した前記観察対象を撮像することにより得られる複数の支援用画像信号のそれぞれにおいて、前記観察対象が特定の状態である特定領域を判定し、
前記特定領域を示す支援画像を生成し、
前記表示画像を前記ディスプレイに表示する際に、複数の前記支援画像を互いに区別可能な態様により前記表示画像に重畳して表示する制御を行う
内視鏡システム。
【請求項2】
複数の前記支援画像は、同一又は相似の図形により表示する請求項1に記載の
内視鏡システム。
【請求項3】
前記支援画像は、前記特定領域の面積に対応した面積により表示する請求項1または2に記載の
内視鏡システム。
【請求項4】
前記プロセッサは、複数の前記支援画像のそれぞれを互いに異なる色により表示する請求項1ないし3のいずれか1項に記載の
内視鏡システム。
【請求項5】
前記プロセッサは、複数の前記支援画像のそれぞれを互いに異なる形状の図形により表示する請求項1に記載の
内視鏡システム。
【請求項6】
前記プロセッサは、前記支援画像を生成する毎に、前記支援画像を前記表示画像に重畳して表示する制御を行う請求項1ないし5のいずれか1項に記載の
内視鏡システム。
【請求項7】
前記画像信号に対して強調処理を行い支援用画像信号とし、
前記支援用画像信号に基づいて、前記特定領域を判定する請求項1ないし6のいずれか1項に記載の
内視鏡システム。
【請求項8】
前記プロセッサは、前記支援画像と前記強調処理との関連付けを示す凡例表示を前記ディスプレイに表示する制御を行う請求項7に記載の
内視鏡システム。
【請求項9】
複数の前記支援画像用照明光は、それぞれ予め設定した波長帯域の狭帯域光を含む請求項
1に記載の内視鏡システム。
【請求項10】
前記プロセッサは、前記支援画像と前記支援画像用照明光との関連付けを示す凡例表示を前記ディスプレイに表示する制御を行う請求項
1ないし
9のいずれか1項に記載の内視鏡システム。
【請求項11】
観察対象に照射する照明光を発する光源部と、プロセッサを備える画像処理装置
を備える内視鏡システムの作動方法であって、
前記光源部は、白色の照明光と、互いに分光スペクトルが異なる複数の支援画像用照明光のそれぞれとを、予め設定した順序により繰り返し発光するステップと、
前記プロセッサは、
内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得する画像取得ステップと、
前記白色の照明光により照明した前記観察対象を撮像することにより得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成する表示画像生成ステップと、
複数の前記支援画像用照明光のそれぞれにより照明した前記観察対象を撮像することにより得られる複数の支援用画像信号に基づいて、前記観察対象が特定の状態である特定領域を画定して示す支援画像を生成する支援画像生成ステップと、
前記表示画像を前記ディスプレイに表示する際に、複数の前記支援画像を互いに区別可能な態様により前記表示画像に重畳して表示する制御を行う表示制御ステップとを備える
内視鏡システムの作動方法。
【請求項12】
観察対象に照射する照明光を発する光源部と、プロセッサを備える画像処理装置を備える内視鏡システムにインストールされる内視鏡システム用プログラムにおいて、
コンピュータに、
前記光源部に、白色の照明光と、互いに分光スペクトルが異なる複数の支援画像用照明光のそれぞれとを、予め設定した順序により繰り返し発光させる機能と、
内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得する画像取得機能と、
少なくとも1つの前記画像信号に基づいて得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成する表示画像生成機能と、
複数の前記支援画像用照明光のそれぞれにより照明した前記観察対象を撮像することにより得られる複数の支援用画像信号に基づいて、前記観察対象が特定の状態である特定領域を画定して示す支援画像を生成する支援画像生成機能と、
前記表示画像を前記ディスプレイに表示する際に、複数の前記支援画像を互いに区別可能な態様により前記表示画像に重畳して表示する制御を行う表示制御機能とを実現させるための内視鏡システム用プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラムに関する。
【背景技術】
【0002】
医療分野においては、光源装置、内視鏡、及びプロセッサ装置を備える内視鏡システムを用いた診断が広く行われている。内視鏡システムを用いた診断では、画像強調内視鏡又は画像強調観察(IEE、image enhanced endoscopy)と称される方法により、観察対象を内視鏡で撮影して得た画像(以下、内視鏡画像という)を用いて、観察対象の表面構造、粘膜表層の生体情報、又は病変の可能性等、観察対象の診断のための複数の支援情報を得ることが行われている。
【0003】
IEEには、観察対象を撮像して得た内視鏡画像をデジタル画像処理して用いる方法、又は、観察対象を特定の照明光により照明して撮像した内視鏡画像を用いる方法等、各種の方法が知られている。これらの方法により、例えば、観察対象において血管が密集する領域、又は酸素飽和度が低い領域等の生体情報を判定し、これらの領域を強調して表示すること等が可能である。これらの表示は、医師が観察対象を診断するための支援情報となる。
【0004】
また、IEE等により、観察対象における病変の可能性がある領域の範囲、又は、炎症度等から、疾患のステージ等を判定し、得られた判定結果を医師の診断のための支援情報として提供するCAD(Computer-Aided Diagnosis)技術も開発されている。例えば、IEEによる内視鏡画像を用いて、潰瘍性大腸炎のステージ等の疾患の重症度又は進行度を高い精度で判定する内視鏡システムが知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
各種の方法によるIEEでは、それぞれ良好に得られる支援情報が異なる場合がある。したがって、IEEの種類により得られる効果又は用途が異なる場合がある。例えば、観察対象の情報として、酸素飽和度を取得する目的と、ポリープの領域を取得する目的とでは、異なるIEEが用いられる場合がある。したがって、複数のIEEを用いることにより、観察対象に関する診断の支援情報を複数種類得ることができるため、スクリーニング、又は病変の診断等において有益である。
【0007】
しかしながら、例えば、内視鏡のユーザである医師が、通常観察する白色の照明光にて観察対象を観察中に、複数のIEEにより複数の病変等が示された場合、なんらかの異常、又は閾値からの逸脱等が示されていることは認識できるが、これら複数の病変のそれぞれを手間や時間をかけずに識別するのは難しい場合があった。
【0008】
本発明は、観察対象の詳細な情報を容易に認識できる画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、画像処理装置であって、プロセッサを備える。プロセッサは、内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得し、少なくとも1つの画像信号に基づいて得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成し、複数の画像信号のそれぞれにおいて、観察対象が特定の状態である特定領域を判定し、特定領域を示す支援画像を生成し、表示画像をディスプレイに表示する際に、複数の支援画像を互いに区別可能な態様により表示画像に重畳して表示する制御を行う。
【0010】
複数の支援画像は、同一又は相似の図形により表示することが好ましい。
【0011】
支援画像は、特定領域の面積に対応した面積により表示することが好ましい。
【0012】
プロセッサは、複数の支援画像のそれぞれを互いに異なる色により表示することが好ましい。
【0013】
プロセッサは、複数の支援画像のそれぞれを互いに異なる形状の図形により表示することが好ましい。
【0014】
プロセッサは、支援画像を生成する毎に、支援画像を表示画像に重畳して表示する制御を行うことが好ましい。
【0015】
プロセッサは、画像信号に対して強調処理を行い支援用画像信号とし、支援用画像信号に基づいて、特定領域を判定することが好ましい。
【0016】
プロセッサは、支援画像と強調処理との関連付けを示す凡例表示をディスプレイに表示する制御を行うことが好ましい。
【0017】
また、本発明は、内視鏡システムであって、本発明の画像処理装置と、観察対象に照射する照明光を発する光源部とを備える。
【0018】
表示用画像信号は、光源部が発する白色の照明光により照明した観察対象を撮像することにより得られることが好ましい。
【0019】
プロセッサは、光源部が発する互いに分光スペクトルが異なる複数の支援画像用照明光のそれぞれにより照明した観察対象を撮像することにより、支援画像を生成することが好ましい。
【0020】
複数の支援画像用照明光は、それぞれ予め設定した波長帯域の狭帯域光を含むことが好ましい。
【0021】
光源部は、白色の照明光と、複数の支援画像用照明光のそれぞれとを、予め設定した順序により繰り返し発光することが好ましい。
【0022】
表示制御部は、支援画像と支援画像用照明光との関連付けを示す凡例表示をディスプレイに表示する制御を行うことが好ましい。
【0023】
また、本発明は、画像処理装置の作動方法であって、内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得する画像取得ステップと、少なくとも1つの画像信号に基づいて得られる表示用画像信号を用いて、ディスプレイに表示する表示画像
を生成する表示画像生成ステップと、複数の画像信号のそれぞれに基づいて、観察対象が特定の状態である特定領域を示す支援画像を生成する支援画像生成ステップと、表示画像をディスプレイに表示する際に、複数の支援画像を互いに区別可能な態様により表示画像に重畳して表示する制御を行う表示制御ステップとを備える。
【0024】
また、本発明は、画像処理装置用プログラムであって、内視鏡を用いて観察対象を撮像することにより得られる画像信号に画像処理を施す画像処理装置にインストールされる画像処理装置用プログラムにおいて、コンピュータに、内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得する画像取得機能と、少なくとも1つの画像信号に基づいて得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成する表示画像生成機能と、複数の画像信号のそれぞれに基づいて、観察対象が特定の状態である特定領域を示す支援画像を生成する支援画像生成機能と、表示画像をディスプレイに表示する際に、複数の支援画像を互いに区別可能な態様により表示画像に重畳して表示する制御を行う表示制御機能とを実現させるための画像処理装置用プログラムである。
【発明の効果】
【0025】
本発明によれば、観察対象の詳細な情報を容易に認識することができる。
【図面の簡単な説明】
【0026】
【
図3】内視鏡システムの機能を示すブロック図である。
【
図5】第1照明光のスペクトルを示すグラフである。
【
図6】第2照明光のスペクトルを示すグラフである。
【
図7】第3照明光のスペクトルを示すグラフである。
【
図11】特定領域判定部の機能を示すブロック図である。
【
図12】第1特定領域を示した支援画像を重畳した表示画像の画像図である。
【
図13】第2特定領域を示した支援画像を重畳した表示画像の画像図である。
【
図14】第3特定領域を示した支援画像を重畳した表示画像の画像図である。
【
図15】複数の支援画像を重畳した表示画像の画像図である。
【
図16】異なる形状の図形で表示した複数の支援画像を重畳した表示画像の画像図である。
【
図18】特定領域の種類を示す凡例を表示した表示画像の画像図である。
【
図19】複数の特定領域が一部重なる場合の表示画像の画像図である。
【
図20】複数の特定領域が全部重なる表示画像の画像図である。
【
図21】支援画像が文字情報を有する表示画像の画像図である。
【
図22】画像処理装置が行う処理の一連の流れを説明するためのフローチャートである。
【発明を実施するための形態】
【0027】
図1に示すように、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、ディスプレイ18と、キーボード19とを備える。内視鏡12は、観察対象を撮影する。光源装置14は、観察対象に照射する照明光を発する。プロセッサ装置16は、内視鏡システム10のシステム制御を行う。ディスプレイ18は、内視鏡画像等を表示する表示部である。キーボード19は、プロセッサ装置16等への設定入力等を行う入力デバイスである。
【0028】
内視鏡システム10は、観察モードとして、通常モードと特殊モードと支援モードとの3つのモードを備える。通常モードは、通常光を観察対象に照射して撮像することによって、自然な色合いの通常画像を表示画像としてディスプレイ18に表示する。特殊モードでは、通常光と波長帯域又は分光スペクトルが異なる特殊光を観察対象に照明して撮像することによって、観察対象の特定の状態を強調した特殊画像を表示画像としてディスプレイ18に表示する。支援モードでは、通常光を観察対象に照射して撮像することによって得た通常画像を表示画像としてディスプレイ18に表示する際に、表示画像に支援画像を重畳して表示する。支援画像は、観察対象が特定の状態である特定領域を示す画像である。なお、通常モードにおける表示画像は、強調処理等を行った特殊画像であっても、視認性が良いものであれば、表示画像として用いてもよい。
【0029】
観察対象が特定の状態であるとは、観察対象を撮像した内視鏡画像の画像解析から得られる観察対象の生体情報等の各種の情報が、予め設定した条件を満たすことであり、これにより観察対象の状態が特定のものであるかを判定する。観察対象の生体情報とは、観察対象の全体的または部分的な特性を表す数値等であり、例えば、酸素飽和度、血液濃度、血管密度、または、病変もしくは病変の候補(生体組織検査の対象を含む)等の特定の形態を有する確からしさ、等である。具体的には、例えば、観察対象の血管、腺管、ひだ、ポリープ、もしくは、特定の粘膜等の有無、もしくは、大きさ等の測定による情報、又は発赤等の色、蛍光、がんなどの病変、もしくは、低酸素飽和度等を示す内視鏡画像から得られる情報が、予め設定した範囲にある場合、観察対象が特定の状態であるとする。内視鏡画像から得られる生体情報は、複数用いて観察対象の状態を判定してもよいし、内視鏡画像を用いた機械学習による画像認識技術により、観察対象の状態を判定してもよい。
【0030】
具体的には、例えば、内視鏡画像から得られる情報において、観察対象の表層血管の密集度が特定の値以上である場合、観察対象は表層血管の密集度が高い密の状態にあると判定する。この場合、観察対象における表層血管の密集度が高い密の状態にある領域が特定領域であるから、支援画像は、観察対象における表層血管の密集度が高い密の状態にある領域を示す画像である。支援画像は、観察対象を表示する表示画像に重畳してディスプレイに示すため、観察対象が特定の状態である特定領域を示すことができる。支援モードにおいて、観察対象を表示する表示画像は、通常光画像、又は特殊画像から任意に選択してもよい。本実施形態では、支援モードにおける表示画像は、通常画像である。
【0031】
支援画像は、特定領域を示す。支援画像は、支援用画像信号に基づいて生成することが好ましい。支援用画像信号は複数の種類を有する。支援用画像信号は、観察対象に照射する照明光として各種の特殊光を用いて撮像することにより得る支援用画像信号と、画像信号に対し強調処理等の各種の画像処理を行うことにより得る支援用画像信号とを含む。画像処理を行うことにより得る支援用画像信号は、例えば、撮像して得た画像信号に対し、観察対象における複数の領域の色の差を拡張した色差拡張処理を施した色彩強調画像、及び、コントラストを強調したコントラスト強調画像等を含む。各種の特殊光については後述する。
【0032】
内視鏡12は、観察対象を有する被検体内に挿入する挿入部12aと、挿入部12aの基端部分に設けた操作部12bと、挿入部12aの先端側に設けた湾曲部12cと、先端部12dとを有している。操作部12bのアングルノブ12e(
図2参照)を操作することにより、湾曲部12cが湾曲する。その結果、先端部12dが所望の方向に向く。また、
図2に示すように、操作部12bには、アングルノブ12eの他、処置具挿入口12f、スコープボタン12g、及び、ズーム操作部13が設けられている。処置具挿入口12fは、生検鉗子、スネア、または、電気メス等の処置具を挿入する入り口である。処置具挿入口12fに挿入した処置具は、先端部12dから突出する。スコープボタン12gには各種の操作を割り当てることができ、本実施形態では観察モードを切り替える操作に使用する。ズーム操作部13を操作することによって、観察対象を拡大または縮小して撮影できる。
【0033】
図3に示すように、光源装置14は、照明光を発する光源を備える光源部20と、光源部20の動作を制御する光源制御部22とを備える。光源部20は、観察対象を照明する照明光を発する。照明光には、照明光を発するために使用する励起光等の発光を含む。光源部20は、例えば、レーザーダイオード、LED(Light Emitting Diode)、キセノンランプ、または、ハロゲンランプの光源を含み、少なくとも、白色の照明光、または、白色の照明光を発するために使用する励起光を発する。白色には、内視鏡12を用いた観察対象の撮影において実質的に白色と同等な、いわゆる擬似白色を含む。
【0034】
光源部20は、必要に応じて、励起光の照射を受けて発光する蛍光体、または、照明光または励起光の波長帯域、分光スペクトル、もしくは光量等を調節する光学フィルタ等を含む。この他、光源部20は、少なくとも狭帯域な光(以下、狭帯域光という)からなる照明光を発することができる。また、光源部20は、互いに分光スペクトルが異なる複数の照明光を発することができる。複数の照明光は、狭帯域光を含んでも良い。また、光源部20は、例えば、観察対象が含むヘモグロビンの酸素飽和度等の生体情報を算出するために使用する画像の撮影に必要な、特定の波長帯域又は分光スペクトルを有する光を発することができる。
【0035】
「狭帯域」とは、観察対象の特性及び/またはイメージセンサ45が有するカラーフィルタの分光特性との関係において、実質的にほぼ単一の波長帯域であることをいう。例えば、波長帯域が例えば約±20nm以下(好ましくは約±10nm以下)である場合、この光は狭帯域である。
【0036】
本実施形態では、光源部20は、V-LED20a、B-LED20b、G-LED20c、及びR-LED20dの4色のLEDを有する。V-LED20aは、中心波長405nm、波長帯域380~420nmの紫色光VLを発光する。B-LED20bは、中心波長460nm、波長帯域420~500nmの青色光BLを発光する。G-LED20cは、波長帯域が480~600nmに及ぶ緑色光GLを発光する。R-LED20dは、中心波長620~630nmで、波長帯域が600~650nmに及ぶ赤色光RLを発光する。なお、V-LED20aとB-LED20bの中心波長は約±20nm、好ましくは約±5nmから約±10nm程度の幅を有する。なお、紫色光VLは、特殊光モード又は支援モードにて用いる表層血管の密集、粘膜内出血、及び粘膜外出血を検出するために用いられる短波長の光であり、中心波長又はピーク波長に410nmを含めることが好ましい。また、紫色光VLは、狭帯域光であることが好ましい。
【0037】
光源制御部22は、光源部20を構成する各光源の点灯または消灯もしくは遮蔽のタイミング、及び、発光量等を制御する。その結果、光源部20は、分光スペクトルが異なる複数種類の照明光を、予め設定した期間及び発光量で発することができる。本実施形態においては、光源制御部22は、各LED20a~20dの点灯や消灯、点灯時の発光量、又は光学フィルタの挿抜等を、各々に独立した制御信号を入力することにより、照明光の分光スペクトルを調節する。これにより、光源部20は白色の照明光、分光スペクトルが異なる複数種類の照明光、又は、少なくとも狭帯域光からなる照明光等を発する。
【0038】
本実施形態では、
図4に示すように、光源部20は、光源制御部22の制御により、白色の照明光を発する。白色の照明光は、通常光である。通常モード又は支援モードに設定している場合、光源制御部22は、紫色光VL、青色光BL、緑色光GL、及び赤色光RL間の光強度比がVc:Bc:Gc:Rcとなる通常光を発するように、各LED20a~20dを制御する。光強度比Vc:Bc:Gc:Rcは、白色の照明光の光量条件に対応する。
【0039】
また、光源部20は、光源制御部22の制御により、互いに分光スペクトルが異なる複数の特殊光を発することが好ましい。複数の特殊光により撮像することにより、複数の支援用画像信号を得ることができ、複数の互いに異なる支援画像を得ることができるためである。複数の特殊光は、2種以上のn種類であってよい。なお、nは整数である。本実施形態では、複数の特殊光は、第1照明光と第2照明光と第3照明光との3種類である。
【0040】
特殊モード及び支援モードに設定している場合、光源制御部22は、第1照明光として、紫色光VL、青色光BL、緑色光GL、及び赤色光RL間の光強度比がVs1:Bs1:Gs1:Rs1となる特殊光を発するように、各LED20a~20dを制御する。光強度比Vs1:Bs1:Gs1:Rs1は、第1照明光の光量条件に対応する。第1照明光は、表層血管を強調することが好ましい。そのため、第1照明光は、
図5に示すように、光強度比を1:0:0:0にして、短波長の狭帯域光としての紫色光VLのみを発する。
【0041】
特殊モード及び支援モードに設定している場合、光源制御部22は、第2照明光として、紫色光VL、青色光BL、緑色光GL、及び赤色光RL間の光強度比がVs2:Bs2:Gs2:Rs2となる特殊光を発するように、各LED20a~20dを制御する。光強度比Vs2:Bs2:Gs2:Rs2は、第2照明光の光量条件に対応する。第2照明光は、表層血管及びポリープ等の構造を強調することが好ましい。そのため、第2照明光は、紫色光VLの光強度を青色光BLの光強度よりも大きくすることが好ましい。例えば、
図6に示すように、紫色光VLの光強度Vs2と青色光BLの光強度Bs2との比率を「4:1」とする。
【0042】
特殊モード及び支援モードに設定している場合、光源制御部22は、第3照明光として、紫色光VL、青色光BL、緑色光GL、及び赤色光RL間の光強度比がVs3:Bs3:Gs3:Rs3となる特殊光を発するように、各LED20a~20dを制御する。光強度比Vs3:Bs3:Gs3:Rs3は、第3照明光の光量条件に対応する。第3照明光は、深層血管を強調することが好ましい。そのため、第3照明光は、青色光BLの光強度を紫色光VLの光強度よりも大きくすることが好ましい。例えば、
図7に示すように、紫色光VLの光強度Vs3と青色光BLの光強度Bs3との比率を「1:3」とする。
【0043】
本実施形態の第1照明光と第2照明光と第3照明光との3種類は、狭帯域光を含む照明光である。なお、本明細書において、光強度比は、少なくとも1つの半導体光源の比率が0(ゼロ)の場合を含む。したがって、各半導体光源のいずれか1つまたは2つ以上が点灯しない場合を含む。例えば、紫色光VL、青色光BL、緑色光GL、及び赤色光RL間の光強度比が1:0:0:0の場合のように、半導体光源の1つのみを点灯し、他の3つは点灯しない場合も、光強度比を有するものとする。
【0044】
複数の照明光は、予め設定した順序により繰り返し発光することが好ましい。本実施形態では、通常光と特殊光である第1照明光と第2照明光と第3照明光とは、予め設定した順序により繰り返し発光する。本実施形態では、光源制御部22は、例えば、
図8に示すように、通常光CLを5フレーム(5FL)続けて発光し、次に、第1照明光1Sを1フレーム(1FL)発光し、再度通常光CLを5フレーム(5FL)続けて発光し、次に、第2照明光2Sを1フレーム(1FL)発光し、再度通常光CLを5フレーム(5FL)続けて発光し、次に、第3照明光3Sを1フレーム(1FL)発光する発光順序からなる照明パターンを1周期(1CY)として、この周期を繰り返す。
【0045】
通常光により照明した観察対象を撮像することにより通常画像となる通常画像信号が得られ、第1照明光により第1画像信号が得られ、第2照明光により第2画像信号が得られ、第3照明光により第3画像信号が得られる。第1照明光と第2照明光と第3照明光とは特殊光であるので、第1画像信号、第2画像信号、及び第3画像信号はそれぞれ特殊画像である。
【0046】
内視鏡12の先端部12dには、照明光学系30aと撮影光学系30bが設けられている(
図3参照)。照明光学系30aは、照明レンズ42を有しており、この照明レンズ42を介して照明光が観察対象に向けて出射する。
【0047】
撮影光学系30bは、対物レンズ43、ズームレンズ44、及びイメージセンサ45を有する。イメージセンサ45は、対物レンズ43及びズームレンズ44を介して、観察対象から戻る照明光の反射光等(反射光の他、散乱光、観察対象が発光する蛍光、または、観察対象に投与等した薬剤に起因した蛍光等を含む)を用いて観察対象を撮影する。ズームレンズ44は、ズーム操作部13の操作をすることで移動し、観察対象像を拡大または縮小する。
【0048】
イメージセンサ45は、画素ごとに、複数色のカラーフィルタのうち1色のカラーフィルタを有する。本実施形態においては、イメージセンサ45は原色系のカラーフィルタを有するカラーセンサである。具体的には、イメージセンサ45は、赤色カラーフィルタ(Rフィルタ)を有するR画素と、緑色カラーフィルタ(Gフィルタ)を有するG画素と、青色カラーフィルタ(Bフィルタ)を有するB画素と、を有する。
【0049】
なお、イメージセンサ45としては、CCD(Charge Coupled Device)センサや、CMOS(Complementary Metal Oxide Semiconductor)センサを利用可能である。また、本実施形態のイメージセンサ45は、原色系のカラーセンサであるが、補色系のカラーセンサを用いることもできる。補色系のカラーセンサは、例えば、シアンカラーフィルタが設けられたシアン画素、マゼンタカラーフィルタが設けられたマゼンタ画素、イエローカラーフィルタが設けられたイエロー画素、及び、グリーンカラーフィルタが設けられたグリーン画素を有する。補色系カラーセンサを用いる場合に上記各色の画素から得る画像は、補色-原色色変換をすれば、原色系のカラーセンサで得る画像と同様の画像に変換できる。原色系または補色系のセンサにおいて、W画素(ほぼ全波長帯域の光を受光するホワイト画素)等、上記以外の特性を有する画素を1または複数種類有する場合も同様である。また、本実施形態のイメージセンサ45はカラーセンサであるが、カラーフィルタを有しないモノクロのセンサを使用してもよい。
【0050】
プロセッサ装置16には、後述するような制御部51、画像取得部52、画像処理部56、及び表示制御部57等が行う処理等に関するプログラムがメモリ(図示せず)に組み込まれている。画像処理装置として機能するプロセッサ装置16が備えるプロセッサにより構成される制御部51によってそのプログラムが動作することで、制御部51、画像取得部52、画像処理部56、及び表示制御部57の機能が実現する。
【0051】
制御部51は、照明光の照射タイミングと撮影のタイミングの同期制御等の内視鏡システム10の統括的な制御を行う。キーボード19等を用いて、各種設定の入力等をした場合には、制御部51は、その設定を、光源制御部22、イメージセンサ45、又は画像処理部56等の内視鏡システム10の各部に入力する。
【0052】
画像取得部52は、イメージセンサ45から、各色の画素を用いて観察対象を撮影した画像、すなわちRAW画像を取得する。また、RAW画像は、デモザイク処理を実施する前の画像(内視鏡画像)である。デモザイク処理を実施する前の画像であれば、イメージセンサ45から取得した画像に対してノイズ低減処理等の任意の処理を実施した画像もRAW画像に含む。
【0053】
画像取得部52は、取得したRAW画像に必要に応じて各種処理を施すために、DSP(Digital Signal Processor)53と、ノイズ低減部54と、変換部55と、を備える。
【0054】
DSP53は、例えば、オフセット処理部、欠陥補正処理部、デモザイク処理部、リニアマトリクス処理部、及び、YC変換処理部、等(いずれも図示しない)を備える。DSP53は、これらを用いてRAW画像またはRAW画像を用いて生成した画像に対して各種処理を施す。
【0055】
オフセット処理部は、RAW画像に対してオフセット処理を施す。オフセット処理は、RAW画像から暗電流成分を低減し、正確な零レベルを設定する処理である。オフセット処理は、クランプ処理と称する場合がある。欠陥補正処理部は、RAW画像に対して欠陥補正処理を施す。欠陥補正処理は、イメージセンサ45が製造工程または経時変化に起因する欠陥を有する画素(欠陥画素)を含む場合に、イメージセンサ45の欠陥画素に対応するRAW画素の画素値を補正または生成する処理である。
【0056】
デモザイク処理部は、各色のカラーフィルタに対応する各色のRAW画像に対してデモザイク処理を施す。デモザイク処理は、RAW画像においてカラーフィルタの配列に起因して欠落する画素値を補間によって生成する処理である。リニアマトリクス処理部は、1または複数のRAW画像をRGB各色のチャンネルに割り当てることにより生成する内視鏡画像に対してリニアマトリクス処理を行う。リニアマトリクス処理は、内視鏡画像の色再現性を高める処理である。YC変換処理部が行うYC変換処理は、1または複数のRAW画像をRGB各色のチャンネルに割り当てることにより生成する内視鏡画像を、輝度チャンネルYと色差チャンネルCb及び色差チャンネルCrを有する内視鏡画像に変換する処理である。
【0057】
ノイズ低減部54は、輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrを有する内視鏡画像に対して、例えば、移動平均法またはメディアンフィルタ法等を用いてノイズ低減処理を施す。変換部55は、ノイズ低減処理後の輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrを再びBGRの各色のチャンネルを有する内視鏡画像に再変換する。
【0058】
画像処理部56は、画像取得部52が出力する内視鏡画像に、必要な画像処理、又は演算を行う。
図9に示すように、画像処理部56は、表示画像生成部61、強調処理部62、支援用画像信号取得部63、特定領域判定部64、及び支援画像生成部65を備える。強調処理部62は、色彩強調部66、及びコントラスト強調部67を備える。
【0059】
表示画像生成部61は、画像取得部52が出力する内視鏡画像に、ディスプレイ18に表示するために必要な画像処理を施して、表示画像を生成する。強調処理部62は、画像取得部52が出力する内視鏡画像に強調処理を行う。支援用画像信号取得部63は、支援用画像信号を取得する。支援用画像信号は、強調処理を行った内視鏡画像と、特殊光を用いて撮像した内視鏡画像とを含む。特定領域判定部64は、支援用画像信号のそれぞれに対し特定領域を判定する処理を行う。支援画像生成部65は、特定領域を示す支援画像を生成する。
【0060】
表示画像生成部61は、少なくとも1つの画像信号に基づいて得られる表示用画像信号を用いてディスプレイに表示する表示画像を生成する。本実施形態では、
図10に示すように、表示画像生成部61は、通常モード及び支援モードにおいて、通常光によって得られる画像信号を表示用画像信号として表示画像を生成し、自然な色合いの通常画像を表示画像68としてディスプレイ18に表示する。また、特殊モードに及び支援モードにおいて、特殊光によって得られる画像信号を表示用画像信号として表示画像を生成し、例えば、観察対象の特定の状態が強調された特殊画像をディスプレイ18に表示する。
【0061】
上記したように、本実施形態では、光源制御部22により、フレームを単位として特定の照明パターンが繰り返される(
図8参照)。フレームは、撮像の単位である。したがって、1フレームにおいて1回の撮像及び画像信号の取得を行う。本実施形態では、通常光によって得られる画像信号から表示画像を生成してディスプレイに表示するため、照明パターンのうち、通常光CL以外の照明光である第1照明光1S、第2照明光2S、及び第3照明光3Sの特殊光により得られる画像信号からは表示画像を生成せず、支援画像を生成するための画像信号として用いる。第1照明光1S、第2照明光2S、及び第3照明光3Sの特殊光を照射するフレームの期間は、直前の通常光によって得られる画像信号による表示画像を続けて表示する。したがって、表示画像はすべて通常光によって得られる画像信号による画像である。
【0062】
強調処理部62は、画像取得部52が出力する内視鏡画像に強調処理を行う。強調とは、他の組織または構造等と区別して、特定の部分の情報を得られるようにすることをいう。例えば、特定の特徴を有する部分を、他の部分(例えば正常な粘膜等)に対して相対的に色彩もしくは明るさを変更する等の処理は強調処理である。強調処理部62が処理を行う内視鏡画像は、通常画像でも特殊画像でもよい。強調処理を行った内視鏡画像は、支援画像を生成するための支援用画像信号として用いる。支援用画像信号は、支援画像を生成するための画像信号である。強調処理部62は、色彩強調部66と、コントラスト強調部67とを備える。本実施形態では、第3照明光により得られる第3画像信号に対し、色彩強調部66による処理を行って、支援用画像信号とする。
【0063】
色彩強調部66は、例えば、観察対象における正常な領域と異常な領域との境界が色及び彩度により明瞭に表される内視鏡画像となるように、取得した内視鏡画像に対して強調処理を行う。色彩強調部66は、取得した内視鏡画像において、色情報変換処理を行う。色情報変換処理は、取得した内視鏡画像について、色空間上に分布する複数の範囲のそれぞれを、変換前の範囲と対応付けられた変換先の範囲に移す処理である。色彩強調部66により処理された内視鏡画像は、正常な領域と異常な領域との境界が明瞭であるため、より容易に、また、精度良く、異常な領域を特定領域として判定することができる画像である。
【0064】
コントラスト強調部67は、例えば、観察対象における血管が強調されて表された内視鏡画像となるように、取得した内視鏡画像に対して強調処理を行う。コントラスト強調部67は、取得した内視鏡画像において、横軸に画素値(輝度値)を、縦軸に頻度を取ったグラフである濃度ヒストグラムを求め、画像処理部56のメモリ(図示せず)等に予め記憶しておいた階調補正テーブルにより、階調補正を行う。階調補正テーブルは、横軸が入力値を、縦軸が出力値を表し、入力値と出力値の対応関係を示す階調補正カーブを有しており、例えば、略S字形状の階調補正カーブに基づいて階調補正を行って、取得した内視鏡画像のダイナミックレンジを広げる。これにより、コントラスト強調の強調処理前の原画像において濃度が低い部分は、濃度がより低く、濃度が高い部分はより高くなるようになるため、例えば、血管領域と血管が存在しない領域の濃度差が広がって、血管のコントラストが向上する。したがって、コントラスト強調部67により処理された内視鏡画像は、血管のコントラストが向上されているため、より容易に、また、精度良く、例えば、血管の密集度が高い領域を特定領域として判定することができる画像である。
【0065】
支援用画像信号取得部63は、特定領域判定部64が特定領域を判定する支援用画像信号を取得する。支援用画像信号は、強調処理を行った内視鏡画像と、特殊光を用いて撮像した内視鏡画像とを含む。本実施形態では、支援用画像信号は、第1照明光を用いた第1画像信号と、第2照明光を用いた第2画像信号と、第3照明光を用いた第3画像信号に対して色彩強調部66が色彩強調処理を行った後の強調処理済の第3画像信号との3種類である。支援用画像信号取得部63は、画像取得部52又は強調処理部62から、これらの支援用画像信号を取得する。
【0066】
特定領域判定部64は、複数の支援用画像信号のそれぞれにおいて、観察対象が特定の状態である特定領域を判定する。したがって、一つの支援用画像信号において、特定領域を判定し、特定領域があるかどうか、ある場合はその領域を判定する。特定領域を判定するとは、特定領域が無いことを判定する場合を含む。
【0067】
図11に示すように、特定領域判定部64は、複数の支援用画像信号のそれぞれに応じた判定処理部を備え、第1判定処理部71、第2判定処理部72、第3判定処理部73等を含む各判定処理部を備える。各判定処理部は、複数の支援用画像信号のそれぞれの種類に応じて、観察対象のどのような特定の状態の特定領域を判定するかが異なる。したがって、特定領域判定部64は、第1判定処理部71から、第n判定処理部74までを備える。
【0068】
本実施形態では、支援用画像信号は、第1画像信号と、第2画像信号と、強調処理済の第3画像信号の3種類である。第1判定処理部71は、第1画像信号の判定処理を行う。第1画像信号は、第1照明光により表層血管が強調されている。本実施形態では、支援用画像信号が第1画像信号の場合、第1判定処理部71は、表層血管の不規則度が予め設定した閾値よりも高い領域を判定し、第1特定領域とする。第1照明光により強調された表層血管の不規則度が高い領域は、例えば、観察対象が大腸の場合の潰瘍性大腸炎の炎症度を判定する指標となる。したがって、第1画像信号における第1特定領域は、潰瘍性大腸炎の非寛解領域である。
【0069】
第2判定処理部72は、第2画像信号の判定処理を行う。第2画像信号は、第2照明光により表層血管及びポリープ等の構造が強調されている。本実施形態では、支援用画像信号が第2画像信号の場合、第2判定処理部72は、ポリープ等の構造を示す輝度値が高い領域を判定し、第2特定領域とする。第2照明光により強調された輝度値が高い領域は、例えば、観察対象の表層が不規則であるポリープ等が存在することを示すため、がん等の病変を判定する指標となる。したがって、第2画像信号における第2特定領域は、ポリープ等を有するがん等の病変の可能性がある領域である。
【0070】
第3判定処理部73は、強調処理済の第3画像信号の判定処理を行う。強調処理済の第3画像信号は、第3照明光及び色彩強調部66による強調処理により、観察対象における正常な領域と異常な領域との境界が色及び彩度により明瞭に表されている。本実施形態では、支援用画像信号が強調処理済の第3画像信号の場合、第3判定処理部73は、粘膜が異常である領域を第3特定領域とする。第3照明光及び強調処理により、第3画像信号は、例えば、周囲と色が異なるがん等の病変を判定する指標となる。したがって、強調処理済の第3画像信号における第3特定領域は、発赤等を有するがん等の病変の可能性がある領域である。
【0071】
支援画像生成部65は、特定領域判定部64により、複数の支援用画像信号のそれぞれにおいて判定された、観察画像における特定領域を示す支援画像を生成する。支援画像は、観察画像上の特定領域が認識できる態様の画像である。
【0072】
複数の支援画像は、同一又は相似の図形により表示することが好ましい。また、支援画像は、特定の領域の面積に対応した面積により表示することが好ましい。したがって、支援画像は、特定領域の大きさに対応して、画像の大きさを変えることができる。支援画像は、具体的には、例えば、観察画像において特定領域を含む箇所を囲む図形の態様の画像である。
図12に示すように、支援画像81により、第1特定領域は、支援画像81である正方形の図形で囲まれた領域内にあることが示される。
【0073】
図13に示すように、支援画像82により、第2特定領域は、支援画像82である正方形の図形で囲まれた領域内にあることが示される。支援画像82の斜線は特定の色を示す。同様に、
図14に示すように、支援画像83により、第3特定領域は、支援画像83である正方形の図形で囲まれた領域内にあることが示される。
【0074】
表示制御部57は、表示画像をディスプレイに表示する際に、複数の支援画像を互いに区別可能な態様により表示画像に重畳して表示する制御を行う。複数の支援画像は、それぞれの支援画像を区別して認識できる態様で表示画像に重畳する。したがって、支援画像のそれぞれを互いに異なる色により表示することができる。例えば、
図15に示すように、表示制御部は、第1特定領域を示す支援画像81と、第2特定領域を示す支援画像82と、第3特定領域を示す支援画像83とを、異なる色により表示画像68に重畳する制御を行う。
【0075】
以上のとおり、プロセッサ装置16又は内視鏡システム10により、通常光による自然な色による内視鏡画像をディスプレイに表示しながら、複数の異なる種類の判定結果をひと目で把握することができる。本実施形態では、第1特定領域を潰瘍性大腸炎の非寛解領域とし、第2特定領域をポリープ等が存在するがん等の病変の可能性がある領域とし、第3特定領域を発赤等が存在するがん等の病変の可能性がある領域としたが、それぞれの特定領域をどのようなIEEに対応させるかは、内視鏡検査の部位又は目的等に応じて予め設定することができる。したがって、例えば、スクリーニングでは、複数の特定領域を、色又は形状等の各種の異常箇所を判定するように設定することにより、一度のスクリーニングにおいて、各種の病変の見逃しを防ぐことができるため、病変の見逃しのみならず、内視鏡検査の時間短縮にもつながる。また、潰瘍性大腸炎の炎症度の判定では、複数の特定領域を、軽症、中等症、又は重症といった炎症度の違いをよりよく判定するように、それぞれ設定することにより、病変のより詳細な分布、又は病状等を一度の内視鏡検査により詳細に把握することができるため、回復、又は悪化の判定等をより精度良く行うことができる。したがって、プロセッサ装置16又は内視鏡システム10により、容易に観察対象の詳細な情報を認識することができる。
【0076】
なお、表示制御部57は、第1特定領域を示す支援画像81と、第2特定領域を示す支援画像82と、第3特定領域を示す支援画像83とを、異なる形状の図形により表示画像68に重畳する制御を行ってもよい。
図16に示すように、第1特定領域を示す支援画像81は四角形により、第2特定領域を示す支援画像82は六角形により、第3特定領域を示す支援画像83は円形により、示すことができる。この場合、各支援画像の色は、同じとしてもよいし、異なるようにしてもよい。また、各特定領域を一つの図形で示す他に、より小さい図形をちりばめる等の異なる模様により各特定領域を示してもよい。
【0077】
また、表示制御部57は、支援画像生成部65が支援画像を生成する毎に、支援画像を表示画像に重畳して表示する制御を行ってもよい。この場合、支援用画像信号取得部63が、支援用画像信号を取得する毎に、特定領域判定部64が特定領域を判定し、支援画像生成部65が、特定領域を示す支援画像を生成する。したがって、例えば、
図17に示すように、本実施形態では、支援用画像信号である第1画像信号が、第1照明光1Sにより照明された観察対象を撮像して得た際に、支援画像生成部65が、第1特定領域を示す支援画像81を生成する。照明光の1周期(1CY)において、支援画像81は一度取得される(
図8参照)。取得された支援画像81は、次の支援画像81が取得されるまでは継続して表示画像68に重畳して表示される。支援画像82又は支援画像83においても同様に、照明光の1周期(1CY)において、支援画像82又は支援画像83は一度取得され、次の支援画像82又は支援画像83が取得されるまでは継続して表示画像68に重畳して表示される。なお、表示画像は、通常画像が取得され次第、表示画像を更新して表示する。
【0078】
支援画像生成部65が支援画像を生成する毎に、表示制御部57は支援画像を表示画像に重畳して表示する制御を行うため、支援画像はリアルタイムに表示される。なお、フレームの期間であるフレームレートは、人の視認能力に対して十分に小さい期間とすることにより、観察対象の多少の動きがあっても、支援画像は観察対象に追随して、ほぼリアルタイムに表示される。具体的には、例えば、3種類のIEEからなる3種の支援画像を重畳する場合、6フレーム毎に支援用画像信号を取得する際は、照明光の1周期(1CY)は18フレームであり、18フレーム毎に観察対象における特定の領域を示す支援画像の位置等が更新される。したがって、ほぼリアルタイムに支援画像が表示される。
【0079】
また、表示制御部57は、支援画像と強調処理又は支援画像用照明光との関連付けを示す凡例表示をディスプレイに表示する制御を行ってもよい。支援画像は、支援用画像信号に基づいて生成し、支援用画像信号は、観察対象に照射する照明光として各種の特殊光を用いて撮像することにより得る支援用画像信号と、画像信号に対し強調処理等の各種の画像処理を行うことにより得る支援用画像信号とを含む。したがって、支援画像が、特殊光を用いて撮像することによる支援用画像信号であるか、強調処理等を行った支援用画像信号であるかが、容易に把握することができることが好ましい。
【0080】
例えば、
図18に示すように、本実施形態では、第1特定領域を示す支援画像81は第1照明光により得られ、第2特定領域を示す支援画像82は第2照明光により得られ、第3特定領域を示す支援画像83は強調処理済の第3支援画像により得られる。したがって、支援画像81と同じ色により第1照明光によるIEEを示す「照明光1」と、支援画像82と同じ色により第2照明光によるIEEを示す「照明光2」と、支援画像83と同じ色により強調処理によるIEEを示す「色彩強調」とを、表示画像の右下に、支援画像の凡例表示91として表示することができる。
【0081】
支援画像がどのようなIEEにより得られたものかを凡例として表示することにより、支援画像が表示された際に、どのような病変等が検出されたかを容易に把握することができる。また、凡例表示91により、表示画像が通常画像であるから、観察対象に病変等が存在せず、支援画像が一つも表示されない場合でも、現在どのようなIEEが行われているのか、すなわち、例えば、照明光の1周期(1CY)において、どのような種類の特殊光による照明光が用いられているのかを把握することができる。したがって、凡例表示91は、内視鏡検査において、その時点でおこなわれているIEEが何であるかを示す表示としても有用である。
【0082】
また、
図19に示すように、観察対象において、複数の特定領域が重なる領域があった場合は、支援画像82と支援画像83とを重複して表示してもよい。また、
図20に示すように、観察対象において、複数の特定領域の面積が同じである場合は、支援画像82と支援画像83とを区別可能な態様で表示する。
【0083】
観察対象において、複数の特定領域が重なる、又は、複数の特定領域の面積が同じである場合に、支援画像を区別可能な態様で表示することにより、観察対象におけるより詳細な情報を得ることができる。例えば、ポリープ等の構造が判定された特定領域と、表層血管の密集度が高い領域が判定された特定領域との、2つの特定領域が重なった箇所は、がんの病変である可能性が高いとの知見がある場合、これらの2つの特定領域が重なることが容易に認識でき、よりよい精度で判定をすることができる。したがって、複数の特定領域が重複した場合に観察対象が特定の状態の病変である等の知見がある場合は、目的に応じて、特定領域を判定する支援用画像信号の設定を行うことにより、観察対象において、所望の特定の状態である領域が支援画像により示されるため好ましい。
【0084】
なお、1つの種類の特定領域を判定するために、1つの画像信号を用いる場合に限らず、1つの種類の特定領域を判定するために、2つ以上の画像信号を用いてもよい。例えば、観察対象において、低酸素飽和度の領域を特定領域とする場合等、2つ以上の画像信号を用いて判定してもよい。1つの種類の特定領域を判定するために、2つ以上の画像信号を用いることにより、特定領域が示す観察対象の特定の状態の種類が多くなるため好ましい。
【0085】
なお、特定領域を示す支援画像は、文字情報を有するものであってもよい。文字情報は、特定領域の判定結果等を文字で表示した情報である。例えば、
図21に示すように、支援画像81は「UC重症度:軽症」との文字情報92を有する。文字情報92は、支援画像81が示す観察対象の特定の状態が、潰瘍性大腸炎(ulcerative colitis)の軽症と判定されたことを文字で示した情報である。なお、UC重症度は、炎症の強さの状態を重症、中等症、及び軽症の3つに分けて示したものである。また、支援画像82は、「ポリープ:Φ2mm」との文字情報93を有する。支援画像82が示す観察対象の特定の状態が、ポリープであり、その直径が2mmであると判定されたことを文字で示した情報である。また、支援画像83は「がん疑い率:30%」との文字情報94を有する。文字情報94は、支援画像83が示す観察対象の特定の状態が、がんの疑いがあり、その確率であるがんの疑い率が30%であると判定されたことを文字で示した情報である。支援画像が文字情報を有することにより、より詳しい支援情報を表示することができる。
【0086】
次に、画像処理装置であるプロセッサ装置16又は内視鏡システム10が行う処理の一連の流れについて、
図22に示すフローチャートに沿って説明を行う。観察を開始すると、所定の照明光パターン(
図8参照)に従って、予め設定した順序により照明光が発せられる。まず、照明光が通常光であり、通常画像が取得される(ステップST110)。通常光による通常画像は、表示画像としてディスプレイに表示する(ステップST120)。次に、照明光が第1照明光となり、第1画像信号が取得される(ステップST130)。第1画像信号に基づき、第1特定領域が判定され、第1特定領域を示す支援画像が表示画像に重畳され、支援画像が付された表示画像が表示される(ステップST140)。次に照明光が通常光となり、通常画像が取得される(ステップST150)。通常光による通常画像は、表示画像としてディスプレイに表示する(ステップST160)。次に、照明光が第2照明光となり、第2画像信号が取得される(ステップST170)。第2画像信号に基づき、第2特定領域が判定され、第2特定領域を示す支援画像が表示画像に重畳され、支援画像が付された表示画像が表示される(ステップST180)。次に照明光が通常光となり、通常画像が取得される(ステップST190)。通常光による通常画像は、表示画像としてディスプレイに表示する(ステップST200)。
【0087】
次に、照明光が第3照明光となり、第3画像信号が取得される(ステップST210)。第3画像信号に対し、強調処理が行われる(ステップST220)。強調処理済の第3画像信号に基づき、第3特定領域が判定され、第3特定領域を示す支援画像が表示画像に重畳され、支援画像が付された表示画像が表示される(ステップST230)。
【0088】
上記実施形態及び変形例等においては、プロセッサ装置16が画像処理装置として機能するが、プロセッサ装置16とは別に、画像処理部56を含む画像処理装置を設けてもよい。この他、
図23に示すように、画像処理部56は、例えば内視鏡システム10から直接的に、または、PACS(Picture Archiving and Communication Systems)910か
ら間接的に、内視鏡12で撮影したRAW画像を取得する診断支援装置911に設けることができる。また、
図24に示すように、内視鏡システム10を含む、第1検査装置921、第2検査装置922、…、第K検査装置923等の各種検査装置と、ネットワーク926を介して接続する医療業務支援装置930に、画像処理部56を設けることができる。
【0089】
上記各実施形態及び変形例は、その一部または全部を任意に組み合わせて実施することができる。また、上記各実施形態及び変形例においては、内視鏡12は可撓性の挿入部12aを有するいわゆる軟性内視鏡を用いているが、観察対象が嚥下して使用するカプセル型の内視鏡、外科手術等に使用する硬性内視鏡(腹腔鏡)を用いる場合も本発明は好適である。
【0090】
上記実施形態及び変形例等は、プロセッサを備える画像処理装置の作動方法であって、内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得する画像取得ステップと、少なくとも1つの前記画像信号に基づいて得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成する表示画像生成ステップと、複数の画像信号のそれぞれに基づいて、観察対象が特定の状態である特定領域を画定して示す支援画像を生成する支援画像生成ステップと、表示画像を前記ディスプレイに表示する際に、複数の支援画像を互いに区別可能な態様により表示画像に重畳して表示する制御を行う表示制御ステップとを備える画像処理装置の作動方法を含む。
【0091】
また、上記実施形態及び変形例等は、内視鏡を用いて観察対象を撮像することにより得られる画像信号に画像処理を施す画像処理装置にインストールされる画像処理装置用プログラムにおいて、コンピュータに、内視鏡を用いて観察対象を撮像することにより得られる複数の画像信号を取得する画像取得機能と、少なくとも1つの画像信号に基づいて得られる表示用画像信号を用いて、ディスプレイに表示する表示画像を生成する表示画像生成機能と、複数の画像信号のそれぞれに基づいて、観察対象が特定の状態である特定領域を画定して示す支援画像を生成する支援画像生成機能と、表示画像をディスプレイに表示する際に、複数の支援画像を互いに区別可能な態様により表示画像に重畳して表示する制御を行う表示制御機能とを実現させるための画像処理装置用プログラムを含む。
【0092】
上記実施形態において、プロセッサ装置16に含まれる制御部51、画像取得部52、DSP53、ノイズ低減部54、変換部55、画像処理部56、及び表示制御部57といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
【0093】
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
【0094】
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
【0095】
なお、本発明は、内視鏡画像を取得等する内視鏡システム、プロセッサ装置、その他関連する装置等の他に、内視鏡画像以外の医療画像(動画を含む)を取得するシステムまたは装置等においても利用できる。例えば、本発明は、超音波検査装置、X線画像撮影装置(CT(Computed Tomography)検査装置及びマンモグラフィ装置等を含む)、MRI(magnetic resonance imaging)装置、等に適用できる。
【符号の説明】
【0096】
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
12f 処置具挿入口
12g スコープボタン
13 ズーム操作部
14 光源装置
16 プロセッサ装置
18 ディスプレイ
19 キーボード
20 光源部
20a V-LED
20b B-LED
20c G-LED
20d R-LED
22 光源制御部
30a 照明光学系
30b 撮影光学系
41 ライトガイド
42 照明レンズ
43 対物レンズ
44 ズームレンズ
45 イメージセンサ
51 制御部
52 画像取得部
53 DSP
54 ノイズ低減部
55 変換部
56 画像処理部
57 表示制御部
61 表示画像生成部
62 強調処理部
63 支援用画像信号取得部
64 特定領域判定部
65 支援画像生成部
66 色彩強調部
67 コントラスト強調部
68 表示画像
71 第1判定処理部
72 第2判定処理部
73 第3判定処理部
74 第n判定処理部
81、82、83 支援画像
91 凡例表示
92、93、94 文字表示
910 PACS
911 診断支援装置
921 第1検査装置
922 第2検査装置
923 第K検査装置
926 ネットワーク
930 医療業務支援装置
ST110~ST230 ステップ